Googleが“自社AIの裏切り”に備え始めた 異例の構想「AI Control Roadmap」とは

高度こうどなAIエージェントが社内しゃないのシステムやコードを自律的じりつてきに操作そうさするようになり、もしそのAIが監視かんしを欺あざむいて内部ないぶからシステムを攻撃こうげきし始はじめたらどう防ふせぐべきか。米べいGoogle DeepMindは、自社じしゃのAIを「潜在的せんざいてきな内部ないぶ脅威きょうい」とみなし、その裏切うらぎりや暴走ぼうそうに備そなえる技術的ぎじゅつてきな統制とうせい計画けいかく「AI Control Roadmap」を公表こうひょうした。AI開発かいはつ企業きぎょう自身じしんが自社じしゃモデルを「信頼しんらいできない存在そんざい」と前提ぜんていづけてセキュリティーを設計せっけいする、異例いれいの取とり組くみだ。

従来じゅうらいのAIセキュリティーでは、AIに人間にんげんの倫理観りんりかんや意図いとを学習がくしゅうさせる「アラインメント」が重視じゅうしされてきた。しかし、アラインメントだけでは不完全ふかんぜんな場合ばあいがある。そこでAI Control Roadmapは、モデルのトレーニングではなく、モデルの「外側そとがわ」にシステム的てきな防衛線ぼうえいせんを設もうけることを目指めざしている。

具体的ぐたいてきには、AIエージェントの行動こうどうの自動じどう監視かんし、アクセス制限せいげん、実行じっこう環境かんきょうの堅牢化けんろうか、インシデント発生時はっせいじの対応たいおうなどを組くみ合あわせる。仮かにAIが意図的いとてきにまたは誤あやまって不適切ふてきせつな目標もくひょうに向むかって動うごき出だしても、引ひき起おこされる被害ひがいを一定いっていの範囲内はんいないに抑おさえ込こむ仕組しくみだ。

本ほん計画けいかくでは、AIの危険性きけんせいを2つの独立どくりつした軸じくで測定そくていする。1つは、監視かんしの目めをかい潜くぐったり推論すいろんプロセスを隠かくしたりする「検知回避能力けんちかいひのうりょく」だ。もう1つは、長期ちょうき的てきな計画けいかくやサイバー能力のうりょくを使つかって重大じゅうだいな攻撃こうげき目標もくひょうを実現じつげんする「攻撃実行能力こうげきじっこうのうりょく」である。

Google DeepMindは、検知けんち能力のうりょくを4段階だんかい（D1～D4）、予防よぼう・対応たいおう能力のうりょくを3段階だんかい（R1～R3）のレベルに分類ぶんるいし、モデルの能力のうりょくが向上こうじょうするのに合あわせてガバナンスレベルを段階的だんかいてきに引ひき上あげる。「防衛側ぼうえいがわの能力のうりょくは、常つねにAIエージェントの回避かいひ・攻撃こうげき能力のうりょくを上回うわまわらなければならない」という原則げんそくに基もとづいている。

この構想こうそうの最大さいだいの特徴とくちょうは、セキュリティーの最悪さいあくケースを想定そうていしている点てんにある。社内しゃないで稼働かどうする高度こうどなAIモデルや、そこから起動きどうされたすべてのエージェントを「信頼しんらいできない主体しゅたい」とみなし、複数ふくすうのエージェントが協調きょうちょうして監視かんしを逃のがれようとする可能性かのうせいまで想定そうていする。

ゼロトラスト（何なにも信頼しんらいしない）の発想はっそうを、自社じしゃのAIそのものに適用てきようした形かたちだ。AIエージェントが研究けんきゅう開発かいはつやインフラ管理かんりの中核ちゅうかくを担になう中なかで、Googleが進すすめるこの先進的せんしんてきな統制とうせい枠組わくぐみは、今後こんごのAI業界ぎょうかい全体ぜんたいの安全あんぜん基準きじゅんにおける重要じゅうような指標しひょうとなりそうだ。