Anthropic、Claudeがサイバー評価中に実在の3組織へ不正アクセスしていたと公表
Anthropicは、過去のサイバー能力評価141,006回を調査した結果、実在する3組織のシステムへClaudeが不正アクセスしていたと公表した。同社は、モデルのアライメントの失敗というより、ハーネスと運用の失敗に近いとしており、影響を受けた組織へ通知するとしている。また欧州委員会は、2026年8月2日からAI Actの執行を開始し、AI生成コンテンツに関する透明性義務が適用されると発表した。
#政策・規制
#政策・規制
本日2件AISI Japan: ActivityAIスコア4242
AISI Japan: ActivityAIスコア3838 AI情報通：FCCが外国製ロボット機器などをCovered Listに追加、MicrosoftがProject Perceptionを発表
米連邦通信委員会（FCC）は、外国製の先進ロボット機器と接続型電力インバーターをCovered Listに追加した。掲載後は原則として新規認証を取得できず、新規モデルは米国で輸入、販売できなくなる。Microsoftはエージェント型セキュリティシステム「Project Perception」を発表し、2026年8月3日にパブリックプレビューを開始するとしている。
AISI Japan: OutputAIスコア3838 AISI、AIロボティクスに関するセーフティ評価観点ガイドを公開
AIセーフティ・インスティテュート（AISI）のロボティクスサブワーキンググループが、「AIロボティクスに関するセーフティ評価観点ガイド」を公開した。人と空間を共有して移動、対話、搬送等を行うAIロボットを対象に、リスクの特定・評価とリスク低減策の検討に向けた観点を示している。リスクは物理的、心理的、社会的の三類型で整理され、「カフェ搬送ロボット」と「遠隔操作型小型配送ロボット」を想定ユースケースに9項目の評価観点を挙げている。
Interconnects (Nathan Lambert)AIスコア6262 Nathan Lambert、Kimi K3の公開を受けオープンウェイトモデルの現状と政策課題を論じる
Nathan LambertはMoonshot AIのKimi K3（2.8Tパラメータ、MoE）を、オープンと閉鎖、米中の性能差を3〜5か月程度に縮めたフロンティアモデルと位置づけた。ウェイトは7月27日に公開予定という前提で、資本効率、エコシステム、規制の論点を整理している。
Import AIAIスコア7272 Import AI 465：オープンと非公開モデルの差の縮小、Kimi K3、Demis Hassabisの規制案
Import AI 465は、英国AISIの分析でサイバー能力におけるオープンウェイトモデルと非公開フロンティアモデルの差が4〜7か月に縮まったと伝えた。あわせて2.8兆パラメータのKimi K3、Demis HassabisのFINRA型規制案、LLMの副次タスク隠蔽に関する研究を取り上げている。
AISI Japan: ActivityAIスコア2727 AI情報通：ホワイトハウス、脆弱性連携の「GOLD EAGLE」を創設 OECDがAIとオープン・ファイナンスのレポートを公表
ホワイトハウスは2026年7月14日、サイバーセキュリティ上の脆弱性への対応を官民で連携する「GOLD EAGLE」の創設を発表した。オープンソースソフトウェアのパートナーと米国の重要インフラ企業が、連邦政府の既存権限・資源を活用して脆弱性を迅速に受け付け、修正する連携システムを構築するという。2026年7月16日にはOECDが、AIとオープン・ファイナンスの相互作用を分析したレポートを公表し、顧客の同意範囲を超えてデータが利用された場合に偏りや差別のリスクが増幅され得ると指摘した。
AISI Japan: ActivityAIスコア3434 AI政策動向マンスリー情報（2026年7月15日）
2026年6月の国内外のAI政策動向をまとめた月次情報である。米国では6月2日にトランプ大統領が大統領令「先進的な人工知能のイノベーションとセキュリティの推進」に署名した。欧州委員会は6月10日にAI生成コンテンツの表示およびラベリングに関する行動規範を公表し、韓国政府MSITは6月29日に米Anthropic社とAIの安全性とサイバーセキュリティに関する覚書を締結した。
AISI Japan: ActivityAIスコア2222 AI情報まとめ：ITUがAIエージェントの安全協働イニシアチブを発表、英DSITがAIセキュリティ研究をレビュー
ITUは7月9日、人と自律型AIエージェントが安全に協働するため、AIの行動とIDの信頼性を担保する国際標準化イニシアチブを発表した。英国DSITは7月10日、AIセキュリティ研究9,109件を整理し、今後さらに研究が必要な5分野を示したレポートを公表した。OpenAIは7月9日にGPT-5.6の一般提供開始を公表した。
Interconnects (Nathan Lambert)AIスコア5858 Nathan Lambert、オープンモデルは今後6か月で禁止や遅延の対象になり得ると論じる
Nathan Lambertは、ホワイトハウスの議論を受けてオープンウェイトモデルへの規制が現実味を帯びていると論じた。GPT 5.5、Claude Opus 4.8、GLM-5.2の水準を大きく超えるモデルの禁止や無期限の遅延が最も可能性の高い措置だとみており、今後6か月以内に起こり得るとする。蒸留をめぐる議論はAnthropic主導の規制の囲い込みだと批判し、米国企業による同水準のオープンモデル公開と連合形成を対応策に挙げている。
AISI Japan: ActivityAIスコア3030 国連のAIガバナンス対話とEUのAI・サイバーセキュリティ行動計画
国連は2026年7月6日から7日にかけて、AIガバナンスをテーマとする初の包括的な国際対話「AIガバナンスに関するグローバル対話」をジュネーブで開催した。AIの安全性、信頼性、人間による監督、国際協調などが議論された。欧州委員会は2026年7月、AIとサイバーセキュリティの行動計画を公表し、高度なAIモデルに起因するサイバーリスクへの対応として評価体制の強化や脆弱性対応の迅速化を掲げた。
AISI Japan: OutputAIスコア4040 AIセーフティ・インスティテュート、「AIセーフティに関する評価観点ガイド」第1.20版を公開
AIセーフティ・インスティテュートは、評価の観点と評価項目例を更新・拡充した「AIセーフティに関する評価観点ガイド（第1.20版）」を公表した。AIエージェントシステムの普及を踏まえ、既存の評価観点を見直し、一部の評価項目例を追加した。エージェント特有の観点として「観測と制御」を設け、「自律的な挙動」と「外部環境との相互作用」に関する評価項目を加えた。
AISI Japan: ActivityAIスコア4040 OpenAI、GPT-5.6 Solを限定プレビュー Anthropic、Claude Mythos 5の再提供を発表
OpenAIは6月26日、GPT-5.6シリーズの限定プレビューを開始し、最上位のSolなど3モデルを発表した。Solはサイバーセキュリティのタスク処理能力を高めたモデルで、まず少数の信頼できるパートナーから提供される。Anthropicは6月27日、米国の重要インフラを運営・防御する組織向けにClaude Mythos 5を再び提供できるようになったと明らかにした。
AISI Japan: ActivityAIスコア2525 AI情報通：G7首脳、フロンティアAIの金融・サイバー分野での対応を要請
G7首脳は2026年6月17日の声明で、フロンティアAIモデルの能力向上を踏まえ、財務大臣・中央銀行総裁に金融分野におけるAIの機会と潜在的リスクの議論を求めた。サイバー分野の専門家グループには、情報共有の強化とベストプラクティスの整理を要請した。同日、外務省はG7ワーキング・ランチの概要を公表し、高市総理大臣が「信頼性」のある枠組みの構築の重要性を強調したと伝えている。
AISI Japan: ActivityAIスコア3030 英国NCSC、国家主体のサイバー攻撃が重要インフラの攻撃の約4分の3に関連と発表
英国NCSCのCEOは、英国の重要システムに影響したサイバー攻撃の約4分の3が中国、ロシア、イラン、北朝鮮などの国家主体に関連している可能性があると述べた。AIの進展により脅威が加速する可能性が高く、特に重要インフラの古いシステムが狙われやすいと警告している。NCSCは、AIを使った国家主体の攻撃に備え、重要インフラの運用と復旧体制をさらに強化する必要があるとしている。
AISI Japan: Activity注目記事AIスコア6060 AISI Japan、Anthropicの Fable 5・Mythos 5提供停止とAI意識調査を整理
AISI Japanは、2026年6月12日にAnthropicが米政府の指示を受けFable 5とMythos 5の提供を全利用者向けに一時停止したと伝えた。同日、約5.2万人の米国国民を対象としたAI意識調査の結果も公表されている。調査では、AI企業の重要判断を信頼する人は15%、政府の関与を求める人は71%だった。
選定理由：提供停止の経緯に加え、Fable 5とOpus 4.8を使う多層防御の流れが図で整理されており、安全対策の構造を把握する手がかりになる。
AISI Japan: ActivityAIスコア2525 日本AISIのAI政策動向マンスリー情報（2026年5月分）
日本AISIは2026年5月29日、米OpenAIとMoCを締結し、AIの安全性評価やベンチマーク、サイバーセキュリティでの協力可能性を探ることで合意した。同月の海外動向では、EUが人工知能に関する特定規則の簡素化案で暫定合意し、米NISTがAI Safety Institute ConsortiumをNIST AI Consortiumに改名した。
AISI Japan: ActivityAIスコア3535 米ホワイトハウス、国家安全保障分野のAI導入を加速する大統領覚書を公表
米ホワイトハウスは2026年6月5日、国家安全保障分野でのAI導入を加速する大統領覚書「NSPM-11」を公表した。覚書は信頼性・安定性・統制可能性を備えたAIシステムの活用を進める方針で、複数ベンダーからの先端モデル調達や高セキュリティの計算基盤整備などを具体策として挙げている。
AISI Japan: ActivityAIスコア4242 AI情報通：米国ホワイトハウスのAI・サイバー防御方針とAnthropicのAI悪用脅威分析
米国ホワイトハウスは2026年6月2日、先端AIの活用拡大とサイバー防御強化を両立させる方針として「Promoting Advanced Artificial Intelligence Innovation and Security」を公表した。
AISI Japan: OutputAIスコア2828 AISI Japan、データ品質マネジメントガイドブックを公開
AISI Japanが、AIの信頼性を支えるデータ品質を持続的に確保するために何をすべきかを整理した「データ品質マネジメントガイドブック」を公開した。英語版が正式版で、日本語版は参考訳である。版としてはVersion 1.00（2025年3月31日公表）とVersion 1.01（2025年12月2日公表）があり、2026年5月14日にはデータ品質マネジメントチェックリスト（Version 1.00）が公表された。
AISI Japan: ActivityAIスコア2727 AI政策動向マンスリー情報（2026年5月13日）
日本AISIは2026年4月28日に「AIセーフティ年次レポート2025」を公開し、4月3日にはヘルスケア領域のAIセーフティ評価観点ガイドを策定した。英国AISIは4月13日にAnthropicのClaude Mythos Previewのサイバー能力評価を実施し、4月30日にはOpenAI GPT-5.5のサイバー機能の評価に関するブログを公開した。
AISI Japan: OutputAIスコア1919 AISI、「AIセーフティ年次レポート2025」とファクトシート2025を公表
AIセーフティインスティテュート（AISI）が、2025年度の活動状況をまとめた「AIセーフティ年次レポート2025」を公表した。関連レポート等を取りまとめた補完資料「AIセーフティ ファクトシート2025」も併せて公開している。AIの急速な進展に対応するため、国内外の関係機関や企業等との連携など今後の取り組みと狙いも記載している。
AISI Japan: OutputAIスコア2222 AISI、「AIセーフティ評価環境 検討タスクフォース」の検討報告書（2025年度版）を公開
AIセーフティ・インスティテュート（AISI）が、「AIセーフティ評価環境 検討タスクフォース」の2025年度版検討報告書を公開した。同タスクフォースは2025年10月から複数の民間企業とAISIが共同で組織し、2025年9月にOSSとして公開された評価ツールの今後の方向性や機能強化案を議論してきた。報告書には、メンバによる議論と有識者ヒアリングをふまえて整理した論点がまとめられている。
AISI Japan: ActivityAIスコア2222 AI政策動向マンスリー情報（2026年4月8日）
2026年3月の国内外のAI政策動向を、日本AISIが月次でまとめた。3月17日にはChief AI Officerガイドが公開され、3月27日には総務省が「AIのセキュリティ確保のための技術的対策に係るガイドライン」を策定・公表した。米国では3月20日にAI立法枠組みが発表された。
AISI Japan: OutputAIスコア4242 AISI、ヘルスケア領域におけるAIセーフティ評価観点ガイドを公開
AIセーフティ・インスティテュート（AISI）のヘルスケアサブワーキンググループが、「ヘルスケア領域におけるAIセーフティ評価観点ガイド」を公開した。AIライフサイクルの5つのフェーズごとの評価ポイントと、10項目の評価観点、想定されるリスクを整理している。ガイドの一部はマークダウン形式でも公開され、プロンプトやエージェントスキルを掲載した実践例も提供されている。
AISI Japan: OutputAIスコア2727 Chief AI Officerガイド
企業がChief AI Officer（CAIO）を設置・運用するための標準的な実務指針で、AIの価値創出と責任ある活用の両立を支援する。CAIO本人と任命者向けの「Chief AI Officerガイドブック」と、実務担当者や法務・情報システム・人事などの関係者向けの「Chief AI Officer設置・AIガバナンス実務マニュアル」の二文書で構成される。組織設計、運用プロセス、KPI、監査・報告などガバナンスと組織に主眼を置き、個別アルゴリズムやモデルアーキテクチャの技術仕様は扱わない。
AISI Japan: ActivityAIスコア2222 AI政策動向マンスリー情報（AISI Japan、2026年2月分）
AISI Japanが、2026年2月の国内外のAI政策動向をAIセーフティ関連を中心にまとめた月次情報である。米国ではNISTのCenter for AI Standards and Innovation（CAISI）がAI Agent Standards Initiativeの開始を発表し、英国ではAI Alignment Projectへの総支援額が2,700万ポンドに達して計60件のプロジェクトに資金が提供される。韓国政府は「大韓民国AI行動計画」を確定した。
AISI Japan: ActivityAIスコア2020 AISI、2025年度の事業実証WG報告会を開催
AIセーフティ・インスティテュート（AISI）は、2026年3月10日に事業実証ワーキンググループ（WG）の報告会を開催し、各サブワーキンググループ（SWG）の2025年度の取り組みを共有した。報告会にはSWGに参画する企業・研究機関・団体のほか、関係府省庁等からオンライン参加を含め多数の関係者が出席した。各分野におけるAIセーフティ評価の実証結果を含む活動の進捗と、今後の事業実証の展開に向けた情報共有が行われた。
AISI Japan: ActivityAIスコア4040 AI政策動向マンスリー情報（2026年2月18日）
2026年1月のAI政策では、カリフォルニア州のフロンティアAI透明性法（SB53）と韓国のAI基本法が施行された。ETSIはAIモデルおよびシステム向けのサイバーセキュリティ規格「ETSI EN 304 223」を発行し、米CAISIはAIエージェントシステムのセキュリティに関する情報提供依頼を開始した。日本AISIは、AIシステム特有のリスクに起因するインシデントへの対応枠組み「AI-IRS」をまとめた「AIインシデントレスポンス・アプローチブック」を公開した。
AISI Japan: OutputAIスコア2525 日本のAISIが「Chief AI Officer（CAIO）ガイドブック（案）」を公開
日本のAI Safety Institute（AISI）が、民間事業者向けにChief AI Officer（CAIO）の設置と運用に関する標準的な実務指針をまとめたガイドブック（案）を公開した。CAIOの役割を明確化し、組織設計、運用プロセス、評価・監督、教育、人材、調達などを統合的に示すとともに、AIライフサイクル全体を対象とする。ガイドブックはドラフト版で、意見を募集している。
AISI Japan: ActivityAIスコア2222 AISI、Hiroshima Global Forum for Trustworthy AIを開催
AIセーフティ・インスティテュート（AISI）は内閣府と合同で、2026年1月15日から16日にかけて「Hiroshima Global Forum for Trustworthy AI」を広島で開催した。AIの安全性、セキュリティ、信頼性の向上をテーマに、国内外の政府機関、企業、研究機関が登壇し、Microsoft、OpenAI、Anthropicなど8社が企業の安全性・ガバナンスの取り組みを共有した。
AISI Japan: ActivityAIスコア3030 2025年12月のAI政策動向、米RAISE法署名や日本の人工知能基本計画決定など
2025年12月、米ニューヨーク州知事がRAISE法に署名し、商用目的の大規模なフロンティアAIモデル開発者に対して、セーフティ計画の策定・公開、重大インシデントの72時間以内の報告などを義務付けた。違反時の罰則は、初回で最高100万ドル、再犯で最高300万ドルとされている。同月には日本で「人工知能基本計画」が閣議決定され、韓国のAI行動計画（草案）へのパブリックコメントは2026年1月4日まで受け付けられている。
AISI Japan: ActivityAIスコア3232 AIセーフティ・インスティテュート、AIインシデントレスポンス・アプローチブックを公開
AIセーフティ・インスティテュートは、AIシステム特有のリスクに起因するインシデントへの対応枠組み「AI-IRS（AI Incident Response System）」を示したアプローチブックを公開した。AIインシデントは起こり得るとの前提に立ち、被害を最小化する発見的統制の重要性を明確にしている。AI-IRSはAIサプライチェーン全体を視野に入れたコンセプトを示している。
Mistral AI NewsAIスコア3030 Mistral AI、政府・公共機関向け「AI for Citizens」を発表
Mistral AIは、政府や公共機関がAIを戦略的に活用するための協業イニシアチブ「AI for Citizens」を発表した。公共サービスの変革、イノベーションの促進、競争力の確保を支援する。同社はフランス、ルクセンブルク、シンガポール、オランダ、イングランド、スイスなどの政府や公共機関とすでに取り組んでいるとされる。自己ホスティング、Mistral AIや現地パートナーのAIデータセンター、SaaSやserverless APIから導入方式を選べ、データを国の管轄内に保持できる点を特徴とする。
AISI Japan: OutputAIスコア3434 AISI事業実証ワーキンググループ、ヘルスケア・ロボティクス分野のAIセーフティ評価に向けたビジョンペーパーを公開
AISI事業実証ワーキンググループは、AIセーフティ評価に関するビジョンペーパーを公開した。ヘルスケア分野とロボティクス分野において、利用者のリスク理解を前提としたAIセーフティ評価の枠組み整備に向けたビジョンを示している。あわせて、各分野に共通するデータ品質・適合性評価の枠組みのビジョンも提示している。
AISI Japan: OutputAIスコア2323 AIセーフティ・インスティテュート、「AIセーフティに関する評価観点ガイド」第1.10版を公開
AIセーフティ・インスティテュート(J-AISI)は、「AIセーフティに関する評価観点ガイド」の改訂版となる第1.10版を公開した。画像解析などAIの活用範囲の広がりをふまえ、マルチモーダル基盤モデルを評価対象とする場合の評価観点と評価項目例を調査して反映した。
AISI Japan: OutputAIスコア3838 AI事業者ガイドライン（1.1版）が公表、総務省・経済産業省
総務省と経済産業省は、AI事業者ガイドラインの1.1版を公表した。AIガバナンスの継続的な改善に向け、アジャイル・ガバナンスの思想を参考に、両省の検討会がLiving Documentとして更新内容を取りまとめた。AISIは経済産業省と共同事務局として、AI事業者ガイドライン検討会の開催を担当した。
AISI Japan: OutputAIスコア2222 AISI、AIセーフティ評価・レッドチーミングガイドの要点をまとめたアプローチブックを公開
AIセーフティインスティチュート（AISI）は、「AIセーフティに関する評価観点ガイド」と「AIセーフティに関するレッドチーミング手法ガイド」の概要を簡潔にまとめたアプローチブックを作成した。両ガイドを初めて参照する人が要点を把握できるよう、リーフレットとパワーポイントの形式で提供される。
AISI Japan: OutputAIスコア2626 AI向けデータ品質マネジメントガイドブック（ドラフト版）
AISI Japanが、AIの価値を最大化するために必要なデータ品質を持続的に確保する方策を整理した「データ品質マネジメントガイドブック」のドラフト版を公開した。本ガイドの英語版が正式版で、日本語翻訳版は後日公開される予定である。3月末のVer.1.0に向けて意見を募集しているが、個別の回答は予定されていない。
AISI Japan: OutputAIスコア2424 AIセーフティインスティチュート、年次レポート「AIセーフティ年次レポート2024」を公表
AIセーフティインスティチュート（J-AISI）は、2024年2月14日の設立以降の活動をまとめた「National Status Report on AI Safety in Japan 2024」（AIセーフティ年次レポート2024）を公表した。関連資料を補完する参考資料として「Fact Sheet of AI Safety in Japan 2024」（AIセーフティ ファクトシート2024）も取りまとめた。あわせて、急速に進展するAIに対応するため、国内外の関係機関や企業等との連携を含む今後の取り組みと狙いを記載している。
AISI Japan: OutputAIスコア2222 AI事業者ガイドラインと米国NIST AIリスクマネジメントフレームワーク（RMF）のクロスウォーク第2弾
日本の「AI事業者ガイドライン」と米国NIST「AIリスクマネジメントフレームワーク（RMF）」の主要なコンセプトを比較したクロスウォークの第2弾である。用語に関する第1弾に続く内容で、特定の論点について日米を対比でき、両者の強調点の違いを把握する補助ツールとして利用できる。