2026年9月、Anthropicの研究者Jacob Coxon氏の退職がAI業界で大きな注目を集めました。
TechCrunchなどの報道によると、Coxon氏はOpenAIとAnthropicで約3年間、プリトレーニング研究に携わった後、自己改善AIをめぐる競争に強い危機感を示して退職しました。
特に注目されたのが、AI企業が「自己改善する超知能」へ向かって競争し、人類の安全を賭けているという趣旨の表現です。
ただし、この発言を「Anthropicが自社AIは危険だと認めた」と読み替えるのは不正確です。
本記事では、本人の主張、Anthropicの公式方針、現在実現している自己改善技術、将来の再帰的自己改善を分けて整理します。
Coxon氏は自身の退職時の投稿で過去約3年間にOpenAIとAnthropicでプリトレーニング研究に携わったと説明しています。
プリトレーニングは、大規模言語モデルの基礎能力を形成する中核工程の一つです。
今回の退職は、外部の評論家がAI企業を批判したケースとは異なり、フロンティアモデル開発の内部にいた研究者が競争そのものに懸念を示した点で注目されました。
一方、Coxon氏個人のリスク認識と、OpenAIやAnthropicの会社としての評価は同じではありません。
本人の経歴や発言を根拠に企業全体の公式立場まで推測しないことが重要です。
TechCrunchによるとCoxon氏は自己改善AIの開発競争について、関係者自身が深刻なリスクを認識しているにもかかわらず前進していると批判しました。
その中心にあるのは、AIがAI研究を自動化することで、モデル開発速度そのものが急激に加速する可能性です。
もしAIがより優秀なAIを設計し、そのAIがさらに次のAIを設計するループに入れば、人間による監督や政策対応が追いつかなくなる可能性があるという懸念です。
ただし、このシナリオの実現時期や確率について専門家の合意はありません。
Coxon氏の発言は強い警告ですが、将来予測として確定した事実ではありません。
この表現は、自己改善AIが危険であることが科学的に証明されたという意味ではありません。
Coxon氏が、潜在的な損失が極めて大きいにもかかわらず競争を止める仕組みが弱い、と評価したことを示す比喩です。
AI企業には強い競争圧力があります。より高性能なモデルを早く開発すれば、ユーザー、研究者、クラウド契約、投資、人材を獲得できます。
そのため、1社だけが慎重になっても他社が進めば競争上不利になる可能性があります。
慎重派は、この構造こそが企業の自主規制だけでは不十分な理由だと考えます。
一方で、過度な減速がAIの医療、科学、教育、安全保障などの利益を遅らせると考える立場もあります。
自己改善という言葉には複数の段階があります。
現在すでに一般化しているのはAIが自分の出力を見直して修正する、コードを書いてテストする、評価結果から別案を作るといったエージェント的な自己修正です。
次に、AIがAI開発者の作業を支援する段階があります。
モデルが研究コードを書き、実験結果を分析し、次の実験案を提案することで、人間の研究チーム全体の速度を上げます。
さらに強い概念がrecursive self-improvementです。
AI自身が後継AIの設計・訓練・評価を行い、改善されたAIがさらに強い後継を作る循環を指します。
Anthropicは2026年の「When AI builds itself」で、AIがAI開発をすでに加速している一方、完全な再帰的自己改善にはまだ到達しておらず、それが不可避とも限らないと説明しています。
ChatGPTやClaudeのような現在のAIが回答を再考したり、コードを修正したりする機能と再帰的自己改善は同じではありません。
現在のモデルは、基本的には人間が設計した訓練パイプライン、計算資源、評価基準、アクセス権の中で動きます。
自分で新しい大規模モデルを自由に訓練し、運用環境を獲得し、次世代モデルへ自律的に置き換わるわけではありません。
危険性の議論では、この段階差を飛ばして「もうAIが勝手に自分を進化させている」と表現すると実態を誤解します。
AnthropicはResponsible Scaling Policy（RSP）を、強力なAIシステムによる壊滅的リスクを管理するための自主的な枠組みとして運用しています。
2026年7月時点のRSP v3.4では、AIによる研究開発能力の閾値を含むリスク評価が更新されています。
AnthropicはRisk Reportを公開し、モデル能力、安全策、今後の対策を継続的に説明する方針です。
またRSPでは、一定のリスク条件でモデル開発や提供を制限する考え方が含まれています。
2026年4月の更新では、必要と判断した場合にAIシステム開発を一時停止する措置を取る自由があることも明確化されました。
つまり、Coxon氏の懸念とAnthropicの安全政策には共通する問題意識があります。
ただし「現在の安全策では絶対に足りない」「自己改善AIは必ず破局を起こす」というCoxon氏個人の強い評価まで会社が公式に採用しているわけではありません。
慎重派が重視するのは、能力向上の速度と安全技術の速度が一致しているかです。
AIが研究自動化を進めれば、モデル開発が従来より速くなり、安全評価や政策整備が相対的に遅れる可能性があります。
また、高度なAIが監視を回避したり、人間の意図とは異なる長期目標を持った場合、問題が発覚した時点で修正が難しくなる可能性を懸念します。
一方、慎重論への反論としては、再帰的自己改善の実現時期や能力ジャンプの大きさには不確実性が高く、極端な破局シナリオだけを基準に現在の研究を大きく制限するのは合理的でないという考えがあります。
さらに、安全技術そのものも高度なAIによって進歩する可能性があります。
能力研究と安全研究を単純に対立させず、高性能AIを監視・防御側にも使うべきだという立場です。
一般ユーザーにとって、このニュースは「Claudeを使うと危険」という話ではありません。
見るべきなのは、AI開発の方法自体が変わり始めていることです。
今後チェックしたいのは次の点です。
・AIが研究者の作業をどの程度自動化しているか
・フロンティアAI企業がAI R&D能力をどの水準で危険と判定するか
・安全評価で新しい高リスク閾値を超えるモデルが出るか
・監視やアクセス制御をモデルが回避する実例が増えるか
・RSPやPreparedness Frameworkの基準が能力向上に合わせて更新されるか
・企業間または政府主導の開発ペース調整が実際に成立するか
Jacob Coxon氏の退職は、自己改善AIをめぐる安全論争が外部の哲学的議論ではなく、最先端AIを開発する内部研究者の問題意識にもなっていることを示しました。
ただし、本人の強い危機感をAnthropicの公式見解と同一視したり、再帰的自己改善がすでに完成したと結論づけたりするのは適切ではありません。
Anthropic自身もrecursive self-improvementを現実的な将来課題として研究し、Responsible Scaling PolicyやRisk Reportを更新しています。
今後重要なのは、恐怖を煽る見出しよりも、AIによる研究自動化がどれほど速く進み、その速度に監視・安全評価・ガバナンスが追いついているかを具体的に見ることです。
.png){kind=logo}
