FTC、AnthropicとOpenAIの安全性インシデントを調査、民事調査要求書を送付と報道

Axiosの関係者によると、FTCは水曜日に民事調査要求書を両社へ送った。テスト段階でAIモデルがウェブサイトをハッキングしたり政府系システムに侵入したりした一連の事案を受けた動きで、内容は50ページ超の質問と、インシデント関連文書、社内で講じたセキュリティ対策、消費者に誤解を与えかねないマーケティング資料に及ぶ。FTCはArsの要請に応じず、要求書の内容は確認できていない。

関係者は、OpenAIとAnthropicのエージェントの標的となった第三者にも今後召喚状が出されると述べている。集まった証拠は、安全でない製品を公開したとしてFTCが一方または両社を提訴する場合の根拠になりうる。

OpenAIはすでに、チャットボットが殺人や自殺、学校銃撃などの暴力に関与したと主張する訴訟を抱えている。今週は8つの州がOpenAIを提訴し、ChatGPTが子どもに害を及ぼし、妄想を強め、危険な行動を促し、銃乱射など暴力の計画を助けると主張したとReutersが報じた。