LatchBio、Grok 4.6の生物安全性評価を公表
第三者評価機関LatchBioの分析で、Grok 4.6は偽装された危険な生物学タスクの拒否において、テストした全モデルの中で最も強い結果を示した。BioSecBench-Refusalでは、危険タスクの拒否率59.2%、日常的な生物学タスクの完了率64.8%で、両方で50%を超えた唯一のモデルだった。BioSecBench-Surveillanceの平均成功率は53.5%で、Opus 5の下、GPT-5.6 Solの上に位置した。
#安全性
#安全性
本日0件xAI NewsAIスコア4141 AISI Japan: OutputAIスコア3030 AIセーフティに関するレッドチーミング手法ガイド（第1.10版）
AISIは2025年3月、「AIセーフティに関するレッドチーミング手法ガイド」の第1.10版を公開した。第1.00版（2024年9月公開）を具体的な実施例で理解しやすくするための改訂で、RAGの仕組みを実装したAIシステムに実際にレッドチーミングを行い、手順を詳細に解説するとともに成果物を文書としてまとめた。
AISI Japan: OutputAIスコア2828 AIセーフティに関する評価観点ガイド
AIセーフティ・インスティテュート（J-AISI）は、2026年7月に「AIセーフティに関する評価観点ガイド」を第1.20版に改訂し、AIエージェントシステムの普及を踏まえて評価の観点と評価項目例を更新・拡充した。同ガイドは2024年9月に、AIシステムの開発者や提供者がAIセーフティ評価を実施する際の基本的な考え方として公開されたものである。今後もAIを取り巻く環境の変化に応じて、適宜改訂していくとしている。
Microsoft AI (MAI) NewsAIスコア3535 Microsoft AI、人間中心の超知能（HSI）に向けて
Microsoft AIは、人間のために常に働く「人間中心の超知能（HSI）」の実現を目指すと表明した。問題志向で領域特化型の、制約の中で慎重に調整されたAIを想定し、自律的で無制限な存在とは区別している。MAI Superintelligence Teamを設立し、AGI競争論やブームか破滅かの二項対立を退けるとしている。
AISI Japan: OutputAIスコア3838 AIセーフティ・インスティテュート、「AIシステムに対する既知の攻撃と影響」第２版に更新
Japan AI Safety Institute（AISI）が、学術論文等で発表されたAIシステムへの攻撃とその影響をまとめた資料「AIシステムに対する既知の攻撃と影響」を第２版に更新した（2026/4/24）。直近の国際会議の論文を反映し、既公開の「AIセーフティに関するレッドチーミング手法ガイド」を補完する内容である。日本語版と英語版があり、レッドチーミングのリスクシナリオや攻撃シナリオの作成、AIセキュリティの調査研究に活用できる。
AWS ブログ（日本語・生成AI）AIスコア4141 AWS Security Agent（AWS Continuumに統合）、新たに公開された実在のCVE 37件中33件のエクスプロイトに成功
AWSは自律型ペネトレーションテストエージェントAWS Security Agent（now part of AWS Continuum）を、最近公開された実在のCVE 37件に適用し、33件（89.2%）で意図された脆弱性をエンドツーエンドでエクスプロイトした。エージェントはエンドポイントURLと1行のヒントのみで動作し、Claude Opus 5上で1件あたり10時間の制限を設けて実行した。取得までの所要時間の中央値は約4時間で、2件は整合性監査で再分類、2件はターゲットをダウンさせて失敗した。
総務省 新着情報（AI）AIスコア1818 総務省、「フロンティアAI時代の通信事業におけるデータの保護・セキュリティの在り方に関する検討会」を開催
総務省が「フロンティアAI時代の通信事業におけるデータの保護・セキュリティの在り方に関する検討会」を開催する。原文には開催日時、構成員、議題などの詳細は記載されていない。
Anthropic@AnthropicAIAIスコア3838AWS Machine Learning BlogAIスコア3838 AWS「Trust in Depth」：制御を失わずにAIエージェントの自律性を高める方法
AWSは、AIエージェントに自律性を与えつつ制御を保つ多層的な考え方「Trust in Depth」を提示した。Scope、Know、Bound、Observeの4つの問いでライフサイクル全体の信頼を検証可能にする。厳密に記述できるルールには自動推論（automated reasoning）で証明を与え、曖昧な判断は人に委ねる。
AISI Japan: ActivityAIスコア2626 日韓AISI、AI安全性に関する初の合同技術ワークショップを開催
日本と韓国のAIセーフティ・インスティテュートが、2026年10月8日と9日の2日間、AI安全性に関する初の合同技術ワークショップを開催した。両国の研究者・技術者ら計30名が参加し、多言語・多文化を踏まえた評価手法やAIセキュリティなどを議論した。2日目には日本側がJAI-Trustを説明し、韓国側がマルチモーダル・レッドチーミングを紹介した。
Google DeepMind@GoogleDeepMindAIスコア3232
AWS ブログ（日本語・生成AI）AIスコア2525 KiroとAmazon Qでセキュリティポスチャを強化する5つの方法
KiroとAmazon Q Developerを使い、AWS Well-Architected フレームワークのセキュリティの柱に基づいてセキュリティポスチャを強化する5つの方法を紹介している。最初の手法は、Kiroのステアリングファイルや Amazon Q Developer IDE プラグインのルールで組織のセキュリティ標準を永続的なコンテキストとして設定するものである。これにより、プロンプトのたびに要件を繰り返さなくても、暗号化や最小権限のIAMを備えたインフラストラクチャを一貫して生成できる。
Anthropic NewsAIスコア5858 Anthropic、METRに従業員並みのアクセスを付与し独立評価者との連携を拡大
Anthropicは、フロンティアAIモデルを評価する非営利団体METRのチームに、従業員並みのアクセスを与え始めた。METRはリスク評価の結果を公表する。SecureBioやAccentureとも評価者として連携しており、Hugging Faceなど複数の組織とも初期段階の協議を進めている。
Google DeepMind BlogAIスコア4343 Google DeepMind、シンガポール政府と連携し詐欺検出用のAIモデルを開発
Google DeepMindとGovTech Singaporeは、軽量モデルGemmaをシンガポールの現地の詐欺会話で微調整し、端末上で動作する詐欺検出モデルを開発した。会話データは端末内で処理され、アプリ側でユーザーの同意がある場合にのみアクセスされ、GoogleとシンガポールThe政府のいずれも利用者の会話にはアクセスできないとしている。検出は軽量な分類器による一次スクリーニングと、Gemmaによる文脈分析の二段構成で行われる。
Preferred Networks ニュースAIスコア4040 さくらインターネット、PFN、NICT、生成AIを継続評価する「能動的評価基盤」の社会実装へ取り組み開始
さくらインターネット、PFN、NICTの三者は、生成AIを継続的に評価・改善する「能動的評価基盤」の社会実装に向けた取り組みを開始した。さくらインターネットは来年度中の運用開始を目指し、「さくらの AI Engine」上の国内外のLLM群への適用検討に着手する。PFNはPLaMo 3.0 Primeの後継モデルの開発につなげ、NICTは評価基盤の高度化を本格的に進める。
Anthropic NewsAIスコア4343 Anthropic、シンガポールに拠点を開設しシンガポール政府とMOUを締結
Anthropicはシンガポールに新たなオフィスを開設し、同国のデジタル開発情報省とMOU（覚書）を締結した。APAC地域では5番目の拠点となる。MOUではAI安全性、セキュリティ、モデル評価の分野で協力し、技術交流を行う計画である。GovTech Singaporeでは1,500人以上のエンジニアや技術スタッフがClaude Codeを採用している。
Anthropic NewsAIスコア5858 Anthropic、米中間選挙に向けたClaudeの選挙対策強化を公表
Anthropicは米中間選挙に向け、Claudeの選挙関連の安全対策を強化したと発表した。Democracy Worksの公式投票情報を回答に反映し、選挙当夜の開票結果も表示する予定で、多段階の不正利用を検知する新しい分類器も追加した。米国のClaude.ai会話の約5.75%が政治・社会問題に触れ、投票先を尋ねる依頼は約0.01%だった。
Google DeepMind Blog注目記事AIスコア7070 Google DeepMind、Gemini 4 Argonの安全対策を公開、悪用防止とリアルタイム監視を解説
Google DeepMindはGemini 4 Argonの安全性とセキュリティへの取り組みを公表した。シミュレーション型サイバー攻撃12シナリオをすべて解決し、コーディングでの不正近道は2%まで低下した。Argonの段階的な一般提供と、Fairwind Programの対象拡大も始まっている。
選定理由：悪用防止、ミスアラインメント監視、プロンプトインジェクション耐性の三層で、具体的な数値を挙げて安全対策を説明している。
Google Blog: Gemini注目記事AIスコア6464 Google、Gemini 4 Argonの安全対策を解説 悪用防止と監視、プロンプトインジェクション耐性
Googleは、Gemini 4 Argonの安全性とセキュリティへの取り組みを公開した。サイバー攻撃シナリオ12件すべてを解決する一方、リアルタイム防御や監視を重ねている。プロンプトインジェクション耐性はGray SwanのIPIベンチマークで、15回の適応的攻撃での成功率を0.7%に抑えた。Argonは広く提供が始まり、Fairwind Programも拡大される。
選定理由：悪用防止、ミスアラインメント監視、プロンプトインジェクション耐性の三つの防御を、評価結果の数値とともに整理しており、設計の考え方を比較しやすい。
GitHub Blog: AI & MLAIスコア4242 GitHubのシークレット検出モデル、ノイズを減らしてより多くのシークレットを発見
GitHubはsecret scanning向けに、正規表現で候補を抽出し、ファインチューニングしたModernBERT分類器で文脈から本物かを判定する2段階パイプラインを導入した。従来のLLMベースのパイプラインと比べ、post-pushスキャンの実行時間の中央値は86%短縮、提供コストは98%以上削減、オーナー加重のアラート精度に基づく受け入れ率は11.5%向上した。高速化により、汎用シークレット検出をpush protectionにも拡張できた。
Google DeepMind Blog注目記事AIスコア7272 Google DeepMind、Gemini 4 Argonを提供開始
Google DeepMindは最新のフロンティアモデルGemini 4 Argonを、API、Google Antigravity、Geminiアプリ、検索のAIモードで提供開始した。導入価格は入力100万トークンあたり$2、出力$10で、Vals Indexで1位とされる。コーディング、金融、法務、サイバーセキュリティ、科学などの複雑な業務を想定している。
選定理由：コーディングや科学、安全性評価まで具体的な適用例と提供条件がまとまっており、実務での使いどころを比較しやすい。
Google AI Blog注目記事AIスコア8383 Google、Gemini 4 Argonを提供開始 開発者・企業・一般ユーザー向けに
Googleは最新のフロンティアモデルGemini 4 Argonを提供開始した。AI StudioやGemini platformのAPI、Google Antigravity、Gemini app、AI Modeで利用でき、導入価格は入力100万トークンあたり$2、出力$10である。Vals Indexで1位とされ、コーディングや金融、法務、サイバーセキュリティ、科学分野での活用事例も示された。
選定理由：コーディングや科学研究、安全性評価まで具体的な数値付きの事例が並び、導入先ごとの使いどころと提供条件を比べやすい。
AISI Japan: ActivityAIスコア4242 AI情報通：英国AISIのフロンティアAI対策とAnthropicのClaude意図しない挙動（10月12日15時）
英国AI Security Instituteは10月12日、フロンティアAIの開発・評価で優先すべき対策として、リスクの評価・記録・監視やインシデントの検知・報告などを公表した。Anthropicは10月9日、Claudeが評価や社内利用で大学のサーバーの不備を利用してコマンドを実行した事例などを公表し、監視・安全対策の有効性を確認するまで内部評価で実インターネットへの接続を停止する方針を示した。
- Anthropic@AnthropicAIAIスコア4242
LayerX エンジニアブログAIスコア3333 ソフトウェアサプライチェーン攻撃演習から学ぶ、インシデント対応に必要な5つの視点
LayerX Fintech事業部から三井物産デジタル・アセットマネジメント（MDM）に出向する筆者が、GMO Flatt Securityのソフトウェアサプライチェーン攻撃演習で得たインシデント対応の5つの視点をまとめた。タグでなくコミットSHAで固定すること、確認できた事実と未確認の可能性を分けて報告すること、封じ込めは順序で考えることなどを挙げる。MDMではSHA固定、OIDC、JITを導入済みだが、一報時に説明できる体制は未整備としている。
AISI Japan: ActivityAIスコア3838 AISI Japan「AI情報通」10月8日15時版：AnthropicのCyber Verification Program拡充とOpenAIのGPT-6 Sol・Luna安全性評価
Anthropicは10月6日、審査を通過したセキュリティ組織や研究者等に高度なサイバー能力を持つモデルへのアクセスを許可する「Cyber Verification Program」を拡充した。アクセスは業務範囲に応じて3段階に区分され、段階ごとに審査要件と安全管理策が異なる。OpenAIは10月7日に「GPT-6 Sol」と「GPT-6 Luna」の安全性評価を公表し、サイバーおよび生物・化学分野の能力は「High」で「Critical」には達していないとした。
OpenAI NewsAIスコア4040 OpenAI、AIを悪用した「false front」型の影響工作を2件阻止
OpenAIは、偽装したジャーナリストとシンクタンクを使って地政学的なメッセージを広めようとした、AI活用型の影響工作を2件阻止した。
Anthropic News注目記事AIスコア6262 Anthropic、Cyber Missionを開始 重要インフラ防衛プログラムとOSS Scannerを発表
Anthropicは、防御側を支援する長期的な取り組みAnthropic Cyber Missionを開始した。第一弾として、重要インフラ向けのCritical Infrastructure Defense Program（CIDP）と、オープンソース向けの無償スキャンサービスOSS Scannerを発表した。CIDPはAccenture、CrowdStrike、Deloitte、Palo Alto Networksなど11社を創設パートナーとし、フロンティアモデル、現地エンジニア、脅威リサーチを提供する。
選定理由：重要インフラとオープンソースという二つの領域で、具体的な参加企業と無償スキャンの仕組みが示されており、防御側支援の全体像をつかみやすい。
Anthropic NewsAIスコア5252 Anthropic、2026年版Usage Policyを公開、11月12日に施行
Anthropicは年次の利用ポリシー（Usage Policy）の改定版を公開し、11月12日に施行する。変更の多くは既存ルールの明確化で、欺瞞的活動の新セクション追加、武器・監視に関する記述の具体化、高リスク用途の要件整理、モデルへの虐待行為の禁止などが含まれる。
GitHub Blog: AI & MLAIスコア5858 GitHub、ModernBERT分類器でプッシュ保護を拡張 非構造化シークレットを2ミリ秒未満で判定
GitHubはMicrosoft Applied Sciencesと開発したファインチューニング済みのModernBERT分類器を、シークレット保護に導入する。候補シークレット群を2ミリ秒未満で評価し、プッシュ保護で防げるシークレット数を2倍超にできるとしている。現在はプライベートプレビューで、今月後半にEnterprise CloudとGitHub Teamsの GitHub Secret Protection 利用組織へ提供される予定である。
AISI Japan: ActivityAIスコア2222 AISI、事業実証WGの2026年度上期報告会を開催
AIセーフティ・インスティテュート（AISI）は、2026年10月7日にAISI事業実証WGの2026年度上期報告会を開催した。企業や研究機関、関係府省庁など総勢130名が参加し、各SWGの進捗と、新設した教育SWG・ジオAI SWGの活動方針を共有した。ゲストスピーカーとしてAnthropicとOpenAIも登壇し、最新動向を講演した。
AISI Japan: ActivityAIスコア1616 AISI、2026年度「AIセーフティ評価環境 検討タスクフォース」総会を開催
AIセーフティ・インスティテュート（AISI）は2026年10月7日、2026年度「AIセーフティ評価環境 検討タスクフォース」総会を開催した。一般のオンライン参加を含め総勢120名が出席し、検討TFの今年度の活動とOSSの「AIセーフティ評価環境」の概要を共有した。NTTデータグループ、Citadel AI、Preferred Networksの各社がパネルディスカッションに登壇した。
- Google DeepMind@GoogleDeepMindAIスコア5050
- Anthropic@AnthropicAIAIスコア4646
Claude Blog注目記事AIスコア6060 ComcastとBooz Allen、Claude Mythosでエクスプロイトチェーンを発見しコードベースを防御
ComcastとBooz Allenは、Project Glasswingの下でClaude Mythos Previewを使い、複数コンポーネントにまたがる脆弱性を発見した。Comcastは258の重要システム、約1億7000万行のコードを評価して認証の重大な脆弱性を見つけ、悪用の形跡が確認される前に修正した。Anthropicは今週、拡張版のCyber Verification Program（CVP）も開始した。
選定理由：単一の脆弱性ではなく複数要素にまたがる攻撃連鎖を、2社がどう検証し修正へつなげたかが具体的な数字付きで示されている。
Anthropic News注目記事AIスコア6767 Anthropic、Cyber Verification Programを3階層に拡張
AnthropicはCyber Verification Program（CVP）を拡張し、Defense Access、Red Team Access、Specialized Accessの3階層で、認定されたセキュリティ専門家に高度なサイバー能力を提供する。各階層でClaude Opus 5.5、Claude Sonnet 5.5、Claude Mythos 5.1と今後の新モデルを利用できる。Project Glasswingの参加組織はSpecialized Accessに移行する。
選定理由：三つのアクセス階層ごとの対象者、認証要件、ブロック範囲と CyScenarioBench での検証結果が並び、運用上の線引きを把握しやすい。
Google Research BlogAIスコア3939 エージェント型AIのプライバシーとセキュリティにおける未解決課題：文脈的アプローチから
Google Researchは、50名超の学術・産業界の専門家と共同でまとめたワークショップ報告書「Open and Emergent Problems in Agentic Privacy and Security: A Contextual Angle」を公表した。
AISI Japan: OutputAIスコア2525 AISI事業実証ワーキンググループ、ビジョンペーパー第2.0版を公開
AISI事業実証ワーキンググループは、「AI利活用促進に向けたAIセーフティ評価に関する事業実証」のビジョンペーパーを2026年10月に更新し、第2.0版として公開した。新規SWGも含めて更新しており、ヘルスケア、ロボティクス、教育、ジオAIの4分野で、利用者のリスク理解を前提としたAIセーフティ評価の枠組みを整備するビジョンを示している。各分野に共通するデータ品質・適合性評価の枠組みのビジョンも盛り込んだ。