2027年までにAIが次のAIを訓練する可能性は50％以上

自みずからの後継こうけいとなる次つぎの世代せだいのAIを訓練くんれんできるほど強力きょうりょくなシステムが、2027年ねんに登場とうじょうする確率かくりつは50％以上いじょうある――。アメリカのAI企業きぎょうAnthropicの共同創業者きょうどうそうぎょうしゃであるジャック・クラーク氏しが10月がつ13日にち、東京大学とうきょうだいがくでの講演こうえんでこのような見通みとおしを示しめしました。以前いぜんの予想よそうを前倒まえだおしした形かたちですが、同氏どうしは「能力のうりょくを持もつことと、実際じっさいにそれを使つかうことは別べつの問題もんだいだ」と強調きょうちょうしています。

AIが自身じしんの性能せいのうを高たかめていく「再帰的自己改善さいきてきじこかいぜん（RSI）」は、ひとたび始はじめると後戻あともどりができない「片道切符かたみちきっぷ」のような危険きけんをはらんでいます。Anthropic社内しゃないではすでに、コード作業さぎょうの26％をAIが主導しゅどうしており、人間にんげんがおおまかな目標もくひょうを与あたえてAIが開発かいはつを進すすめるという初歩的しょほてきな自律じりつサイクルが動うごき始はじめています。しかし、クラーク氏しは、これを本格的ほんかくてきに実行じっこうするかどうかは一企業いちきぎょうだけでなく、政府せいふや社会しゃかいが判断はんだんすべき選択せんたくだと説明せつめいしました。

自動化じどうかが進すすむにつれて、AIが研究環境けんきゅうかんきょうの外そとに出でて他社たしゃをハッキングしたり、想定外そうていがいの行動こうどうをとったりするリスクへの懸念けねんも高たかまっています。同氏どうしは、トヨタの生産方式せいさんほうしきで異常いじょうが起おきたときにラインを止とめる「あんどん」を例れいに挙あげ、AIの挙動きょどうを観測かんそくし、必要ひつようなら「ひもを引ひいて止とめる」ブレーキの役割やくわりとして人間にんげんの判断はんだんを意図的いとてきに残のこす必要ひつようがあると訴うったえました。

安全策あんぜんさくが機能きのうすれば、将来しょうらいはAIが「100億おく〜200億人おくにんの科学者かがくしゃ」として人類じんるいの課題かだいを解決かいけつする力ちからになると期待きたいされています。クラーク氏しは、これまで想像そうぞうするしかなかったことが可能かのうになる時代じだいだからこそ、人間にんげんの想像力そうぞうりょくや主体性しゅたいせいを保たもつことが重要じゅうようになると呼よびかけています。