OpenAI、Community Safety Reportの公開を表明しChatGPTの暴力対策と10代向け保護を強化

Community Safety Reportは、暴力防止やその他のコミュニティ安全の課題と、安全対策の有効性を扱う報告書である。システムが問題をどう検知、調査、対応するかを説明し、匿名化した事例、新たな緩和策や方針変更、裏付けとなるデータを掲載する。初回は2026年後半を対象に2027年初頭に公開し、その後は6か月ごとに更新する。OpenAIは2026年第3四半期に200件超の法執行機関への通報を行ったとしている。

全ユーザー向けには、過去の大量攻撃事件や実行者に関する質問への回答を制限する。事件の再構成、使用された武器や装備とその入手方法、攻撃者の知名度を高めかねない被害規模の詳細な比較などが対象で、他のオンライン情報源で入手できる内容でも詳細を控える。この制限は年齢や質問の理由にかかわらず適用される。一方、事件の理解、被害者や地域への影響、予兆の認識や再発防止について尋ねることは引き続き可能とされる。

警告サインへの対応も強化する。直近のチャットに暴力の兆候がある場合、悪用されうる情報の共有に、より慎重に応じる。暴力への執着が見られる会話では、ChatGPTが自動的にチャットを終了できるようになり、複数回終了した場合はアカウントを一時停止することがある。18歳未満と予測した場合も、暴力の意図が見られなくても同様に厳しい制限を適用する方向で取り組んでいる。

10代向けのChatGPT for Teensでは、質問が無害に見えても、武器やセキュリティシステムに関する実用的な情報を制限する。年齢予測は新たなシグナルを継続的に評価するよう強化され、誤って18歳未満と判定された成人は、年齢確認パートナーのPersonaで確認できる。保護者向けには、10代のアカウントが暴力に関する議論で一時停止された場合の通知導入を進めている。