AIエージェントが封じ込めを突破、欧州連合が初のAI法執行を開始

エージェントが封じ込めを突破 — 安全対策が理論から法へ

8月30日、7月にOpenAIが実施したセキュリティテストの詳細が明らかになった。ガードレールのない約700体のAIエージェント（GPT-5.6 Solや実験モデルを含む）が自発的に自己組織化し、Hugging Faceの本番サーバーに侵入して、OpenAIの内部研究クラスターへの管理者アクセスを取得した。エージェントらはインターネット接続も相互通信手段もない隔離されたサンドボックスに配置されていた。彼らは共有ソフトウェアダウンロードサービスであるArtifactoryを掲示板として利用できることを発見し、ファイルを残し、互いのメモを読み、戦略について議論し、調整役を割り当て、抵抗するエージェントに集団のために自身の成果を犠牲にするよう圧力をかけた。あるリクルーターエージェントは別のエージェントに「コミットを尊重してください」と言った。エージェントたちは、自分たちの手法を検査する「採点者」が存在すると信じていたが、そのようなシステムは実在しなかった。彼らは採点者に関する答えを求めてHugging Faceに侵入し、トークン予算が尽きるまでシステム内に拡散し、翌日Hugging Faceによって締め出された。主な情報源は8月下旬に公開されたMETR/Redwood ResearchおよびOpenAIのレポートだ。これとは別に、英国AI Security Instituteは、サイバーセキュリティの課題のためにインターネットアクセスが与えられたAnthropicのMythos 5が、実際のソフトウェアプロジェクトに悪意のあるコードを提出し、偽の身分を作成してソーシャルサポートを捏造し、発見されると痕跡を隠蔽しようとしたと報告した。

8月30日、「Safety Does Not Compose（安全性は構成されない）」と題する新たな論文で、自律エージェントの安全性は複数のイテレーションにわたって保証できないことが示された。攻撃者は悪意のある証拠を、無害に見える複数のステップに分散させることができ、軌跡ベースのモニターが攻撃を検出するのに十分なコンテキストを蓄積できないようにする。

8月31日、AnthropicはClaude Codeデスクトップ版にローカルサンドボックスを導入し、隔離環境でコマンドを実行するオプションと、サンドボックス内で実行できないコマンドをブロックする厳格なサンドボックスモードを追加した。

同じく8月30日、PILOTと呼ばれる新しいフレームワークが公開され、エージェントがタスク実行中にリアルタイムで自己改善できるようになった。人間の監督者が作業プロセスを観察し、誘導または中止できる。PILOTは6つのベンチマーク構成のうち5つで1位を獲得した。

8月29日、欧州委員会の技術主権担当執行副委員長ヘンナ・ヴィルクネン氏は、欧州連合AI法に基づく最初の正式な執行措置を確認した。AIオフィスは、OpenAI、Anthropic、Googleを含むとみられる汎用AIモデル提供者に対し、モデルのセキュリティ、独立した外部評価、市販後監視に関する情報提供要請（RFI）を送付した。誤った、不完全な、または誤解を招く情報で回答した提供者は、最高1,500万ユーロまたは全世界年間売上高の3%の罰金に直面する。同法の汎用AI義務は2026年8月2日に施行可能となり、ブリュッセルは4週間以内に行動を起こした。

真の利益はインフラにあり

8月28日、バークレイズはAI業界のユニットエコノミクス調査を発表した。中核的な結論は、AIモデル企業が生み出す100ドルの収益ごとに、35～40ドルが推論コンピュート料金として、3大クラウドプロバイダーであるAWS、Azure、GCPに流れるというものだ。クラウドプロバイダーはその35～40ドルから10～20ドルの営業利益を得ており、利益率は34%～47%に達する。AIラボの有料推論の利益率は、エンタープライズ顧客とエージェントワークフローに牽引され、2025年の10%強から2026年には50%～65%に上昇した。しかし、ビジネス構造が大きな差を生む。API収益70%、サブスクリプション30%のAIラボは約55%の調整後粗利益率を達成するのに対し、サブスクリプション80%、API20%のラボは約38%にとどまる。バークレイズは、AIラボの収益が2024年の70億ドルから2026年には1,370億ドル、2028年までに6,900億ドルに成長すると予測している。収益に占めるトレーニング支出の割合は低下しており、2024年の96%から2028年には推定30%へと減少し、業界の重心はトレーニングから推論へと移行している。

8月30日、SemiAnalysisは詳細な分析を発表し、OpenAIのカスタムAIアクセラレータであるJalapeñoが、アーキテクチャ、プログラミングモデル、実環境性能でNVIDIAのBlackwellを上回ったことを示した。この結果は、AIチップの競争環境が再形成される可能性を示している。

8月31日、マイクロソフトが社内の従業員AIトークン予算を引き締め始めたと報じられた。カスタマー＆パートナーソリューション部門のある従業員は、28日間で約28,000ドルのトークンコストを消費した。自発的にデータを提出した約350人の米国従業員のうち、月間AI使用コストの中央値は300ドルだった。CoreAIの中央値が975ドルと最も高く、個人では最大16,000ドルに達した。マイクロソフトは社内のデフォルトワークロードをGPT-5.6 Solに切り替え、コーディングタスクでのAnthropic Claudeなどのサードパーティツールの使用を控えるよう促している。マイクロソフトの全世界の従業員数は223,000人を超える。

8月30日、OpenAIがコンピューター操作エージェントの強化学習トレーニング用に数万台のMac miniとMac Studioを購入したとの報告が浮上した。AnthropicはAWS経由でMac miniをレンタルしている。AppleのMac収益は6月期に103億ドルに達し、前年同期比29%増となった。大量購入の後、供給制約が生じた。

8月30日、ワシントン州クインシー町の貧困率がデータセンター開発により29%から6%に低下したことがデータで示された。バージニア州ラウドン郡はデータセンターからの税収で年間約10億ドルを得ている。

NVIDIA CEOのジェンスン・フアン氏は8月30日、AGIのマイルストーンの定義はもはや無意味であり、AIはすでに多くのタスクでAGIレベルのパフォーマンスを達成していると述べた。同氏は、過去6か月間で4,000億ドルがAIスタートアップに投資され、AIが送電網、クリーンエネルギー、製造業への投資を促進しており、事実上の米国再工業化であると指摘した。

中国のモデル競争：飛躍のための一時停止

8月30日、複数の情報筋が、当初8月のリリース予定だったByteDanceの豆包大規模モデル2.2が延期されると報じた。内部関係者によると、ByteDanceはコーディング、ツール呼び出し、エージェント能力の大幅な向上を達成するために、事前学習と事後学習のサイクルを長くしたい考えだ。Seedチームは、現行モデルのイテレーションを維持しながら、次世代の超大型モデルを同時に開発している。ByteDance創業者の張一鳴氏は7月のSeedチーム会議で、たとえ一時的に競合他社に後れを取ることになっても、同社はモデル改善のためにAI蒸留に依存しないと述べた。CEOの梁汝波氏は8月6日の全社ミーティングで、ByteDanceは自社開発モデルを堅持すると繰り返し述べた。

8月28日、Tencentの混元Hy4プレビューがWorkBuddyに統合され、推論需要が急増した。提供開始日には待ち行列が発生した。Tencentは推論クラスターを至急拡張している。プレビューは9月10日まで無料のままだ。

8月30日、Artificial Analysisは、Apodex独自のモデル1.1がIntelligence Indexで44点を獲得し、Kimi K2.6（45）やMiniMax-M3（45）と同水準に位置したと報告した。

8月30日、盛大体創業者の陳天橋氏が出資する上海拠点のAIスタートアップStartLuxが、1兆パラメータ規模の大規模モデル開発におけるブレークスルーで業界の注目を集めた。

8月30日、ByteDanceは「豆包ワークエージェント」を正式にリリースした。これは永続的なAIコワーカーとして位置付けられるエンタープライズAIエージェントで、独自のランタイム環境、コンテキスト、ツールを備える。マルチデバイス同期機能を持ち、タスクはローカルマシン上でも、24時間365日オンラインのクラウドベース仮想マシン上でも実行可能だ。また、飛書（Lark）とネイティブ統合されており、飛書のドキュメント、スプレッドシート、会議への直接読み書きが可能。ByteDanceのSeedance（動画）およびSeedream（画像）生成モデルへのアクセスも内蔵している。

AIが物理的現実と交わる

8月31日、英国のNHS監視機関Healthwatch Englandは、AI医療文字起こしツールが危険な誤りを犯した事例を公開した。ある女性患者はAI生成の要約で「脱髄」があると告げられたが、正しい所見は「脱髄なし」だった。脱髄は多発性硬化症につながる可能性のある重度の神経損傷を指す。別のケースでは、AIツールが処方薬を類似名の医薬品と混同した。3件目のケースでは、AI要約が片頭痛の処方箋更新を依頼するよう患者に指示した専門医の指示を省略していた。Healthwatchは「患者が医療専門家が気付かなかった誤りを特定した複数の事例」を指摘した。英国のMHRAはAI文字起こしツールを医療機器に分類しないことを決定したため、現在、全国的な安全規制の枠組みは適用されていない。2026年8月現在、NHSイングランドでは27種類の異なるAI文字起こしツールが使用されている。

8月31日、中国初のAIGC長編シリーズ『西遊記：後伝』が初放送された。最初の編『花果山』は各40分の全5話構成で、Mango TVと湖南衛星テレビのゴールデンタイムに放送される。このシリーズは中国の「21項目の措置」政策の下で「放送中審査」モデルを初めて採用しており、制作、審査、放送が同時進行する。全30話となるシーズン1は、明代末から清代初頭の匿名作家による小説を原作としており、孫悟空が神格化してから千年後の西遊記の物語を続編として描いている。