White Circle、OpenAIとGoogleの画像生成モデルのガードレールを突破する攻撃手法RISEを報告
AI安全企業White Circleは、DALL·E 3、Nano Banana 2、GPT-Image-2の安全フィルターを市販・公開のツールとAPI呼び出しだけで回避できる攻撃手法RISEを、プレプリントで報告した。人間の審査で露骨な画像と確認された割合は、DALL·E 3で約13%、Nano Banana 2で10%未満、GPT-Image-2で約3%だった。OpenAIとGoogleはArs Technicaのコメント要請に応じていない。