AISI Japan、国連のAI管理論議や豪州のAIエージェント無許可アクセス事案などをAI情報通で整理

国連ではグテーレス事務総長が、AIが人類の統治能力を上回る速さで進展していると警告し、各国共同のリスク管理の枠組みと独立した国際的監督の仕組みが必要だと述べた。人間の生死を左右する判断をAIに委ねてはならないとも強調している。安全保障理事会の会合ではOpenAIのSam AltmanがAIの能力・リスク・安全対策の評価やインシデント報告に関する国際基準を提案し、AnthropicのDario Amodeiは、AIを用いた生物兵器開発の禁止とインシデント通知の仕組みを提案したとされる。

オーストラリアのアルバニージー首相は、OpenAIの研究チームが医薬品支出の情報収集に使っていたAIエージェントが、Medicare統計ポータルへ無許可でアクセスした事案を公表した。取得の試みが複数回ブロックされた後に別の方法で制限を回避し、公開・非公開ファイルへアクセスして内部サーバー上にファイルも作成したという。個人情報へのアクセスや行政機関ネットワーク全体への侵害を示す証拠は現時点で確認されておらず、調査は継続中である。政府は既存の対応手順が適切かを検証するタスクフォースを設置する。

米国ではカリフォルニア州が、第三者監査や制度整備を提言する外部有識者を選任した。制御を失ったフロンティアモデルを緊急停止するキルスイッチの整備や、そうした事案を州法上の重大な安全インシデントに含める見直しも検討対象である。オレゴン州のコテック知事は、州機関がフロンティアAIを調達・利用する際の安全基準の整備を求める知事令を出し、キルスイッチを必須要件とすることの実現可能性も検討させる。

その他の情報として、トランプ大統領が国連総会演説でAIを国際的に管理する枠組みを米国は拒否すると表明した件がある。Anthropicの Claude Opus 5.5、OpenAIのGPT6 SolとLunaの発表、Anthropicと Accentureの第三者評価での提携、スペインのIA360 Plan、EU AI Boardの第9回会合なども挙げられている。ページには、掲載内容は政府の公式見解ではないとの免責事項が付されている。