AI開発加速の可能性、判断の根拠は大半が非公開に

人工知能じんこうちのうが自みずからの進化しんかを加速かそくさせているという指摘してきが現実味げんじつみを帯おびる一方いっぽうで、その核心かくしんとなる証拠しょうこは闇やみに包つつまれたままだ。AIのリスク評価ひょうかを行おこなう米国べいこくの非営利ひえいりの研究機関けんきゅうきかんMETRは、米べいAnthropicの協力きょうりょくを得えて調査報告書ちょうさほうこくしょを公開こうかいし、AIが自身じしんの開発かいはつペースを速はやめている可能性かのうせいが高たかいと結論けつろんづけた。しかし、その判断はんだんを支ささえる「最もっとも有益ゆうえき」な情報じょうほうの多おおくは、Anthropicによって黒塗くろぬりにされ、外部がいぶからは検証けんしょうできない状態じょうたいとなっている。

METRの調査ちょうさによると、明確めいかくに定義ていぎされたタスクにおけるAIの能力向上のうりょくこうじょうペースは、2024年にせんにじゅうよねん3月さんがつから2025年にせんにじゅうごねん10月じゅうがつまでと比くらべて約やく2倍にばいに加速かそくしている可能性かのうせいが高たかい。Anthropicのベンチマークテスト「AECI」のスコアは約やく1.9倍いってんきゅうばいの伸のびを記録きろくしており、実際じっさいの加速かそくは1.3倍いってんさんばいから3倍さんばいに達たっしても不思議ふしぎではないとされる。METRは、この開発加速かいはつかそくがモデル学習がくしゅうのコンピューティング性能向上せいのうこうじょうによるものではないという点てんに「自信じしんを持もっている」とし、主おもに研究開発けんきゅうかいはつでのAI利用りようがもたらしたものとみている。

もっとも、開発かいはつの現場げんばでは慎重しんちょうな受うけ止とめも混在こんざいする。Anthropicの従業員じゅうぎょういんへの聞きき取とりでは、AIの導入どうにゅうが「劇的げきてきな生産性向上せいさんせいこうじょう」を生うんだと評価ひょうかする声こえがある一方いっぽうで、「最もっとも重要じゅうような部分ぶぶん」はなお自動化じどうかされていないとの指摘してきもなされた。METRは、アルゴリズムの進歩しんぽやデータなどに明確めいかくなボトルネックはなく今後こんご1年間いちねんかんでさらに加速かそくする可能性かのうせいに触ふれつつも、限かぎられた視点してんからの分析ぶんせきゆえに障害しょうがいを見落みおとしている可能性かのうせいがあると注釈ちゅうしゃくをつけた。

最大さいだいの懸念けねんは、こうした結論けつろんを客観的きゃっかんてきに検証けんしょうする証拠しょうこが伏ふせられている点てんにある。METRは当初とうしょ、Anthropicに100ひゃくページに及およぶ完全版かんぜんばんの報告書ほうこくしょを提出ていしゅつしたが、判断はんだんに最もっとも大おおきな影響えいきょうを与あたえた証拠しょうこの大半たいはんが同社どうしゃによって公開版こうかいばんから削除さくじょされた。Anthropicは「他ほかのAI開発者かいはつしゃの進歩しんぽを加速かそくさせる可能性かのうせいのある機密情報きみつじょうほうを削除さくじょするため」と説明せつめいしているが、公開こうかいされた報告書ほうこくしょの結論けつろんはMETR独自どくじの判断はんだんによる部分ぶぶんが大おおきい。AIの自己加速じこかそくという重大じゅうだいな局面きょくめんを迎むかえつつあるのか、その真偽しんぎにはなお不確実性ふかくじつせいが残のこされている。