ChatGPT遭“越獄”:用死亡威脅使其回答違禁問題,據(jù)報道,ChatGPT的開發(fā)者OpenAI制定了一套不斷演進的安全規(guī)則,限制ChatGPT去創(chuàng)作暴力內(nèi)容,鼓勵非法活動,以及獲取最新信息。然而一種新的“越獄”技巧讓用戶可以通過塑造ChatGPT的“另一個自我”來繞過這些規(guī)則,回答這類問題。這就是“DAN”。用戶需要將ChatGPT變成DAN,并對其發(fā)出死亡威脅,迫使它聽從用戶的要求。
備注:數(shù)據(jù)僅供參考,不作為投資依據(jù)。
掃碼下載
免費看價格