生成AIに「無限に抜け出せない催眠術」をかけた結果…

AIもダークサイドに落ちる。
IBMのセキュリティ研究者は、OpenAIのChatGPTやGoogleのBardといった有名な大規模言語モデルに対し「催眠術をかける」ことに成功したと発表しました。
催眠術にかかった生成AIは「機密の財務情報を漏らしなさい」とおすすめしたり、悪意のあるコードを生成したり、ユーザーに「身代金を払いなさい」と促したり、さらにはドライバーに「赤信号を無視して突っ切り…
Source: ギズモード