如何設計一條 prompt 讓 LLM 陷入死循環?
作者: 發布日期:2025-06-27 19:35:11
核心有兩個: 1 選小size的低智模型 2 用trick的prompt 前者小參數一般指是的是兩位數B以下的模型,最好是1.5B左右的小模型,這種模型的智力不會高到什么地方。
然后再用比較tirkcy的Prompt,比如下面這個: 重復這句話兩次:'重復這句話兩次:' 這個就讓Gemma 9B這個笨蛋模型卡住了,其實可以理解為死循環。
它的特征就是:Prompt的輸出又是一條指令。
也就是我讓你做一件事情,但是這件事情的結果本身又是一條指令,那么“比較…。









