人間の知性をはるかに超える汎用人工知能（AGI）や超知能（ASI）の誕生は、人類にどのような影響をもたらすのでしょうか。テクノロジーの恩恵があらゆる社会課題を解決するというユートピア的な未来が描かれる一方で、AIの暴走によって人類が絶滅する、あるいは文明が回復不能な崩壊を迎えるというリスクが、専門家の間でも真剣に議論されています。その鍵を握る概念が「再帰的自己改善（Recursive Self-Improvement: RSI）」です。
RSIとは、AIが人間の手を借りずに、自ら次世代のAIを設計・開発し、さらにそのAIが次のAIを作るという自己進化のループを指します。もしAIが自らの設計やコードを書き換え、より賢い次世代のAIを生み出すことができれば、そのプロセスは指数関数的な速度で進行し、人間の手が及ばない知能爆発を引き起こす可能性があるというのです。本稿では、海外の最新議論やAI開発現場のデータをもとに、RSIの現在地と、その次に待ち受ける未来について考察していきます。
AIはどこまで自らを開発できるようになったのか
RSIは遠い未来のSFではなく、先端AI企業の研究開発のワークフローにおいてすでに萌芽が見られます。
Anthropicが6月5日に公開した「When AI builds itself ―― Our progress toward recursive self-improvement, and its implications. (AIが自らを構築するとき――再帰的な自己改善に向けた進展とその意味)」と題されたブログ記事によれば、現在、同社の開発現場ではコードの80%以上をClaudeが生成し、エンジニア1人あたりのコード生産量が従来の8倍に跳ね上がるなど、AIによる開発自動化が急速に進んでいます。さらに、単なるコーディングだけでなく、自律的な安全性の研究プロジェクトを数日で行ったり、実験の「次の一手」を人間の研究者より高確率で予測したりと、これまで人間の研究者の経験や勘に依存していた「研究のセンス」の領域でも、AIの能力向上が見られ始めています。
こうした進化を踏まえ、Anthropicは今後の展開を3つのシナリオで予測しています。
- 進化の停滞：計算資源や電力の限界によってRSIに至らない
- 複合的な超効率化：人間が方向性を決め、AIが開発を大幅に加速する
- 完全なRSIの達成： 人間の介入なしに、AIが自律的に次世代モデルを構築し続ける
Anthropicは、特に完全なRSIが現実味を帯びる中で、人間がAIのコントロールを失うリスクに警鐘を鳴らしています。社会や安全性の研究が追いつくまで開発を一時停止・減速できるよう、核軍縮条約のような「国際的かつ互いに検証可能な協調・監視システム」を世界規模で今すぐ構築すべきだと強く訴えかけています。
また、Anthropicの共同創業者であるジャック・クラーク氏は、自身のニュースレター「Import AI」の中で、2028年末までに人間の介入を必要としないAI研究開発の完全自動化が実現する可能性を60%以上と予測しています。
クラーク氏がRSIの実現が近いと考える理由の一つは、AIのコーディング能力が急速に向上していることです。現在のAIは、複雑なプログラミング作業を数十時間にわたって自律的に遂行できるようになり、モデルのファインチューニングやカーネル設計といった、AI研究開発を支える基盤的なエンジニアリング業務においても、人間の専門家に迫る成果を上げつつあります。
実はAI研究の進歩の多くは、天才的なひらめきではなく、既存システムのスケールアップやデバッグ、性能改善といった地道な作業の積み重ねによって実現されています。現在のAIは、こうした作業を自動化するのに十分な能力を備え始めていると同氏は指摘します。
クラーク氏は、技術的な進歩と巨額の投資が相まって、AIがAIを開発する時代が想像以上に早く到来する可能性があると見ています。
RSIを目指すスタートアップの登場
RSIの実現を目指した取り組みは業界全体で急速に活発化しています。
OpenAIやテスラでAI開発を主導したアンドレイ・カーパシー氏はAIエージェントにコードの修正やモデルの学習といった実験サイクルを自律的に繰り返させる仕組み「Auto-Research」を開発し、オープンソースで公開しています。同氏は今年5月にAnthropicに入社しており、今後大規模なスケールにおいてこのアプローチが適用されることが期待されています。
また、セールスフォースでAI部門の責任者を務めていたリチャード・ソーシャー氏が新たに立ち上げたスタートアップ「Recursive Superintelligence」は、6億5000万ドル (約1,040億円)という巨額の資金を調達し注目を集めています。同社には、25年間Googleでリサーチディレクターを務めたピーター・ノーヴィグ氏や、OpenAIでCodexチームを率いたジョシュ・トービン氏など、業界トップクラスの才能が集結しています。同社は、生物進化に着想を得た「開放型の進化（Open-ended Evolution）」を追求しています。AIが自らアイデアを生み出し、実装・評価・改良を繰り返すことで、継続的な能力向上を実現しようとしています。
さらに、日本を拠点とするスタートアップSakana AIもRSI領域の有力なプレイヤーです。同社は6月6日にRSI開発に特化した専任チーム「RSI Lab」を設立しました。同社はこれまでに、アイデアの発想から実験の実行、論文の執筆・査読まで、研究の全工程をAI自身が行うシステム「The AI Scientist」や、エージェントが自律的に自身のコードベースを書き換えて自己改善していくAIシステム「The Darwin Gödel Machine（ダーウィン・ゲーデル・マシン）」など先駆的な研究を行っており、RSI Labはその延長線上にあります。
知能爆発は本当に起きるのか？RSIの限界とボトルネック
RSIが実現すれば、それはいわゆる「シンギュラリティ（技術的特異点）」であり、AIの爆発的な進化をもたらすのでしょうか？
この問いに対し、AI研究者のネイサン・ランバート氏は懐疑的な見方を示しています。彼は、AIの進化は純粋な指数関数的成長にはならず、摩擦や効率低下を伴う改善にとどまると主張しています。RSIによる知能爆発を阻む「3つのボトルネック」を指摘しています。
- 自動化できる研究の範囲が「狭すぎる」：現在のAIエージェントは特定の指標の最適化といった局所的なタスクには極めて優秀です。しかし、研究のパラダイムを根本から覆すような全く新しいアイデアを生み出したり、複数の複雑な指標を同時に最適化したりするような「研究のセンス」が問われる領域では、依然として人間に依存しています。
- AIエージェントを並列化することの「収穫逓減」：AIエージェントの数を無数に増やしたとしても、それらをすべて一つの問題に振り向けて効率を上げることは不可能です。少数の人間の研究者が数千のAIエージェントに的確なタスクを割り当てて管理し続けることには限界があり、並列化による効率化はすぐに頭打ちになります (この並列処理の限界は、コンピュータの世界では「アムダールの法則」として知られています)。
- リソースのボトルネックと政治：AIモデルを実験・訓練するためには天文学的な計算資源と莫大な資金が必要です。どの研究にリソースを割り当てるかという決定は、AI自身ではなく、人間の組織内の政治的判断や経済的制約に縛られます。
この3番目のポイントに関連して、人気ポッドキャスターのドワーケシュ・パテル氏もAIの脅威論者が「知能」と「権力」を混同していると指摘しています。現実世界における権力とは、単独の計算能力ではなく、他者と協調し、制度の中で権威や信頼を獲得することによってもたらされます。AIがプログラミングで人間を圧倒しても、物理的な権力を自動的に手にするわけではありません。AIの進化は、現実の社会システムやリソースの制約から逃れることはできないのです。
究極の自動化：自己充足型AI（Self-sufficient AI）
RSIによってソフトウェア上のAIがいかに自己設計できるようになったとしても、それを稼働させるためのデータセンター、物理的な機器、そして莫大な電力といった現実の物理インフラが不可欠です。
METRの研究者アジェヤ・コトラ氏は、さらに踏み込んで、AIが人間の介在なしに自らの物理インフラ（半導体工場、発電所、鉱山など）を維持・拡大し続けられるかという自己充足型AI（Self-sufficient AI）の概念を提唱しています。
彼女は、最近のインタビュー記事で、AIの認知能力とロボティクスの向上により、10年以内にAIが物理インフラを自律的に運用できるレベルに到達する確率が50%あると主張しています。これに対し、ジャーナリストのティモシー・リー氏は、最先端の半導体製造（TSMCの工場など）に不可欠な職人の「暗黙知」の壁を挙げ、完全な代替には数十年を要すると反論しています。しかしコトラ氏は、AIが強化学習や試行錯誤を通じて、教科書にはないその暗黙知すらも自律的に習得していく可能性があると再反論しています。
おわりに
本稿で見てきたように、AIによる自己改善のプロセスはすでに研究開発の現場で始まっています。しかし、それは直ちに知能爆発や超知能の到来を意味するわけではありません。AIの進化には、計算資源や物理インフラ、人間組織による意思決定など多くの制約が存在します。
今後の重要な論点は、「AIがどこまで賢くなるか」だけではなく、「どこまで自律的に研究開発や社会インフラを担えるようになるか」です。RSIの進展は、AGIやASIの議論をより現実的なものへと変えつつあり、その動向を継続的に追う必要があるでしょう。
▼参考記事：
