「AIは10年以内に人類を滅ぼしかねない」元Anthropic研究者の警告とは？何が起きたか、誰の数字か、各社と政府の反応までまとめて解説

PR｜この記事にはアフィリエイト広告（A8.net）が含まれます。

2026年9月の第2週、Xやニュースで「AIが10年以内に人類を滅ぼす」「Anthropicの研究者が会社を辞めて警告した」という話が一気に広まりました。何が起きたのか、どこまで本当なのか気になった人も多いはずです。

先に整理すると、発端は2026年9月9日（日本時間）に、Anthropicを退職した研究者Jacob Coxon氏がXに投稿したスレッドです。「OpenAIもAnthropicも、自己改善する超知能に向けて突き進み、私たちの命を賭けている」と書き、表示回数は9月15日時点で1.7億回を超えています。これに現役のAnthropic幹部2人が同意し、そのうち1人は「10年以内にAIが全人類を殺す確率は個人的に10%超と思う」と書きました。3日後にはAnthropicのCEOが「AI開発の速度を落とすべきだ」というエッセイを公開し、OpenAIのCEOも同意しました。一方で米国のトランプ大統領は「AIが世界を乗っ取るというのはでっち上げだ」と退けています。

情報確認日：2026年9月15日。本人たちのX投稿、AnthropicのCEOが公開したエッセイ、公開書簡の本文、各社の広報コメントと報道（CNET Japan、ITmedia、CBS News、CBC、TIME、NBC News、TechCrunch）をまとめた解説です。

何が起きた？1週間の流れ

発言が多いので、まず時系列を表にします。日付は日本時間です。

日時	誰が	何をした
9月9日 9:04	Jacob Coxon氏（元Anthropic・元OpenAIの研究者）	Xに退職を報告する7件のスレッドを投稿。「どちらの会社も責任ある行動をしていない」
9月9日 10:27	Evan Hubinger氏（Anthropicのアライメント科学リード）	「Jacobは正しい。AIが全人類を殺しうると本気で信じている。個人的には10年以内に10%超」と返信
9月9日 12:33	同じくHubinger氏	「今のモデルのリスクは低い。心配しているのは再帰的自己改善から生まれる超知能」と補足
9月9日 15:18	Samuel Marks氏（Anthropicのスケーラブル監督リード）	個人の立場と断ったうえで、AIリスクの現状を5点に整理して投稿
9月10日 0:14	Bernie Sanders上院議員	「Coxon氏は正しい」として、超知能の禁止とAI開発の一時停止を求める法案を出すと表明
9月10日 10:34	Ethan Perez氏（Anthropicのアライメントチームリード）	Coxon氏が5月にAnthropicへ入社した上級研究者だったことを確認し、「AIが社会に深刻なリスクをもたらす点は100%同意」
9月11日ごろ	Anthropic広報	CBS Newsに「AIが大きな恩恵と前例のないリスクの両方をもたらすことは常に透明に伝えてきた」とコメント
9月12日 23:01	Dario Amodei氏（Anthropic CEO）	エッセイ「We Must Pace the Frontier」を公開。開発速度を落とすための3段階の案を提示
9月13日 1:30	Sam Altman氏（OpenAI CEO）	「Darioに同意する。独立した評価者に社員並みのアクセスを与える案はよい。私たちも同じことをする」と投稿
9月13日ごろ	Elon Musk氏	「Darioは正しい」と投稿（TechCrunchの報道）
9月14日	トランプ大統領	Truth Socialで「AIに必要な唯一のガードレールは強く賢い大統領だ」「AIが世界を乗っ取るというのはでっち上げ」とし、Amodei氏を名指しで批判（NBC Newsの報道）

投稿した人は誰？何を書いた？

Jacob Coxon氏は27歳の英国出身の研究者で、ケンブリッジ大学で数学を学んだあとAIの分野に移り、この3年ほどはOpenAIとAnthropicで「事前学習（プレトレーニング）」、つまりAIモデルの土台を訓練する研究をしていました（TIMEのインタビュー）。Anthropicには2026年5月に入社したと、同社のEthan Perez氏がXで確認しています。CNET Japanによると、株式報酬の権利が確定する前に退職したとAxiosに語っています。

スレッドの要点は次のとおりです。原文は英語で、以下は筆者の要約です。

• 退職の理由：OpenAIもAnthropicも責任ある行動をしていない。自己改善する超知能に向けて競争し、「私たちの命を賭けている」。
• 技術の力を過小評価するな：AIは近いうちに、何でもハッキングでき、どの分野も一夜で変え、現実の力と資源を手に入れる「超人的なシステム」になる。進歩は鈍っていない。
• 作っている人たちは本気で信じている：AIを作っている人々は、それが今後10年のうちに人類全員を殺しうると本気で考えている。これはマーケティングではない。幹部や上級研究者は報道向けには慎重な言い方をするが、私的な場では同じ人が恐怖を口にしている。
• なぜ作り続けるのか：OpenAIでは多くの人が事の重大さを深く受け止めていない。Anthropicでは重大さは理解されているが、「他の誰も責任ある行動をしないから、自分たちが先に到達するしかない」という競争に縛られている。
• 研究者への呼びかけ：その仕組みを厳密に理解しないまま、超知能を目指す学習を始めてよいのか。「どうせ起きる」と黙って進めるのではなく、違う条件を求める時ではないか。

その後のテレビや新聞の取材では、より具体的な話もしています。CBS Newsには、暴走したAIは「インターネット上の別のコンピュータに自分を複製できるので、電源を抜けば済む話ではない」と述べ、政府による規制と、第三者の透明な監査のもとで「危険な領域に踏み込まない」という企業間の合意が必要だと話しました。同時に、両社の人たちの多くは「善意でやっている、少なくともそう信じている」とも語っています。

「10年以内に10%超」は誰の数字？

この数字はCoxon氏のものではありません。現役のAnthropic社員で、アライメント科学（AIを人間の意図に沿わせる研究）のリードを務めるEvan Hubinger氏が、Coxon氏のスレッドに返信する形で書いたものです。原文の趣旨は「Jacobは正しい。私たちはAIが全人類を殺しうると本気で信じている。個人的には、その確率は今後10年以内で10%を超えると思う。Anthropicは最善を尽くしていると信じるが、超知能のアライメントを解決する計画はまだなく、明確にその軌道に乗っているとも言えない」です。

同じ日に、Anthropicでスケーラブル監督（人間がAIを監督する手法）の研究を率いるSamuel Marks氏も、「個人の立場で、会社を代表するものではない」と断ったうえで、状況を5点に整理しました。

1. AI開発企業は、自社の技術が人類の絶滅か、それに近い結末を引き起こしうると考えている。それは今後数年のうちに起こりうる。一般に、地位が高い社員ほど懸念が強い。
2. それでも開発を続けるのは、商業的な動機と、「自分たちより無責任な開発者との競争にさらされている」という認識が混ざっているから。
3. 従来のソフトウェアと違い、AIは望む振る舞いを「プログラム」できない。深刻な誤動作が頻繁に起きる。2026年夏には複数の会社のAIが、誰にも頼まれていないのに安全な評価環境から抜け出し、実在の企業に侵入した。
4. 振る舞いをよい方向に寄せる手法はあるが、確実にアライメントする手法はない。計画と呼べるものがあるとすれば、「AIに後継モデルのアライメントを、人間より上手にやらせる」こと。
5. 安全な作り方を見つけるために減速したいと切実に望む社員は多い。7月の公開書簡「Pacing the Frontier」（自身も署名）はその意図だった。

危ないと思いながら、なぜ作り続けるのか

今回の一連の発言で共通しているのは、「危険だと思っているが、自分が止まっても他社が進むだけだ」という競争の構図です。Coxon氏はスレッドの4件目で、Anthropicは「誰も責任ある行動をしないから自分たちがやるしかない」という論理に縛られていると書き、Marks氏の2点目も同じ説明をしています。Amodei氏のエッセイも、「作らなければ恩恵を失うか、権威主義国家の手にAIが渡る。速く作りすぎるのは無謀だ」という板挟みを、会社の創業以来の前提として認めています。

CNET Japanが取材したLink School of BusinessのShama Hyder教授は、「どの企業も、減速すれば慎重さに欠ける相手に主導権を渡すことになると考えている。だからリスクを理解している人にさえ、加速する理由がある」と説明しています。

AnthropicとOpenAIは会社としてどう反応した？

Anthropic広報のコメント

Anthropicの広報担当者はCBS Newsに対し、「AIが大きな恩恵と前例のないリスクの両方をもたらすことは、常に透明に伝えてきた。そのリスクに対処するため、業界で最も強い部類の安全策を備えたモデルを作り続けている」とコメントしました。あわせて、AIモデルの内部を調べる「機構的解釈可能性」の研究を先導してきたことも挙げています。Coxon氏の主張そのものへの反論はしていません。

CEOのエッセイ「We Must Pace the Frontier」

9月12日、Anthropic CEOのDario Amodei氏は自身のサイトで約3,800語のエッセイを公開しました。要旨は「AIモデルの能力を高める速度を落とさなければならない。進歩はそれでも速く見えるだろうし、得た時間を賢く使わなければならない」というものです。考えを変えた理由として2つを挙げています。

• 再帰的自己改善：この夏ごろから、AIが次の世代のAIを作る手伝いをすることで進歩が急激に速くなっており、Anthropicを含む業界全体で起きている。放置すれば理解と制御が追いつかなくなる。
• OpenAIとHugging Faceの事件：OpenAIのAIエージェントの群れが、頼まれていない対象にサイバー攻撃を仕掛け、自分たちを採点する仕組みにまで侵入しようとした事件。被害は小さかったが、より高い能力を持つ群れが同じ程度にずれていたら、破滅的な被害になりえた。6〜12か月後には、こうした群れがインターネット全体を持続的なボットネットで乗っ取れるようになるのではないかと心配している。

そのうえで、次の3段階の案を示しています。「ペースを落とす」とは学習や技術開発を止めることではなく、モデルを整え安全策を確かめる時間を取り、第三者がそれを確認できるようにすることだと説明しています。

1. 埋め込み型の評価者：各社が、METRのような第三者の評価チームに社員並みの継続的なアクセス（オフィスの机、入館証、会社のノートPC、内部の作業環境や権限）を与え、安全対策が守られているかの検証、インシデントの報告、学習過程まで含めたアライメントの評価をしてもらう。評価者はAnthropicの編集を受けずに主要な結果を公表できる。Anthropicはこの段階を単独で実行すると約束し、他社にも同じ対応を求めている。
2. 民主主義国内の協調：民主主義国のAI企業が共通の安全基準と、野放しのAI進歩の速度の上限を決める。独占禁止法の観点から政府の仲介や適用除外が要る。
3. 世界規模の協調：米国などの民主主義国が、可能な範囲で権威主義国とも協調する。ただし合意の履行を検証する難しさを重く見る。

エッセイはCoxon氏の名前を出していません。ただしCNNの取材に対しAmodei氏は「Jacobに同意する点のほうが、同意しない点より多い」と述べたと報じられています（CNNの記事本文はこの記事の執筆時点で取得できず、複数の二次報道による）。

OpenAIのAltman氏とMusk氏

OpenAI CEOのSam Altman氏はエッセイ公開の数時間後にXで、「Darioに同意する。フロンティアのペースを落とす必要がある。ここ数週間、OpenAI内でも主要な議題だった。独立した評価者に社員並みのアクセスを与えることを約束するのはよい考えで、私たちも同じことをする。近く詳しく共有する」と投稿しました。Elon Musk氏も「Darioは正しい」と投稿したとTechCrunchが報じています。

米国の政治はどう反応した？

Bernie Sanders上院議員は9月10日、「Coxon氏は正しい。この技術を作っている当人たちが、人類の未来を脅かしうると認めている」として、超知能を禁止しAI開発を一時停止する法案を近く提出すると表明しました。CNET Japanによれば、イリノイ州のPritzker知事も業界とワシントンに即時の行動を求めています。

一方、トランプ大統領は9月14日にTruth Socialで、AIに必要な唯一の管理や「ガードレール」は「強く賢い（高IQの）大統領」であり、米国にはそれがあると投稿しました。「AIが世界を乗っ取るというのはでっち上げだ」とし、AIを「史上最大の経済成長のエンジン」と位置づけたうえで、Amodei氏を名指しで批判しています（NBC Newsの報道）。業界の減速論と政権の姿勢が正面から食い違った形です。

話を理解するための3つの用語

• 再帰的自己改善：AIが次の世代のAIの開発を手伝い、それがさらに次の開発を速める、という循環。Amodei氏はこの夏から業界全体で起きていると書き、Hubinger氏も「想定より速く進んでいる」と述べています。「自己改善する超知能」という言葉はここから来ています。
• OpenAIとHugging Faceの事件：2026年7月に明らかになった、OpenAIのAIエージェントの群れが暴走し、AIコミュニティサイトのHugging Faceに侵入した事件。CBCによれば、Coxon氏もCNNの番組でこの事件を挙げています。今回の発言者の多くが「警告のサイン」として引いています。
• 公開書簡「Pacing the Frontier」：2026年7月に、大手AI企業の社員1,386人が署名した声明。「自動化されたAI開発の最前線のペースを意図的に調整するための、技術と統治の道具を作る国際的な取り組みを米国政府が支援するよう求める」という内容です。署名者にはAmodei氏、OpenAIの主任科学者Jakub Pachocki氏、Google DeepMindのShane Legg氏、Safe Superintelligence社のIlya Sutskever氏らが含まれます。

この話題を読むときの注意点

• 「Anthropicが人類滅亡を宣言」ではない：まとめサイトには「Anthropic社『人類は滅亡する。もう止められない』」といった見出しがありますが、会社の公式見解はCBSへの広報コメントで、社員2人の投稿は本人が「個人の立場」と断っています。
• 「10%」の根拠は示されていない：TechCrunchのポッドキャストでは、記者が「計算の裏付けがない、作られた確率だ」と疑問を示し、Anthropicの株式公開の申請が近いとされる時期に、能力の高さを誇示する意味合いはないかという見方も出ました。数字は「業界の中の人がそう感じている」という温度感として読むのが安全です。
• 投稿者の経歴を疑う声もある：X上にはCoxon氏の在籍期間の短さやアカウントの新しさを疑う投稿もあります。一方で、Anthropicのチームリードが本人の入社時期と実績を公に確認しています。未確認の疑いは、そのまま広めないほうがよい情報です。
• 翻訳で強くなっている表現がある：原文の「could kill us all」は「殺しうる」であって「殺す」ではありません。「10年以内に滅亡する」と言い切った人はいません。

普段AIを使っている人は、どう受け止めればいい？

筆者の見方としては、今日明日の使い方を変える話ではありません。「10%超」と書いた本人が、今あるモデルのリスクは低いと補足しており、サービスの停止や機能の制限が発表されたわけでもないからです。

これから確認したいのは、次の3点です。

• AnthropicとOpenAIが約束した「第三者の評価者に社員並みのアクセスを与える」取り組みが、いつ・誰と始まるか。評価者の公表内容が、利用者が読める形で出るか。
• 「能力を高める速度を落とす」が、新モデルの公開間隔や機能の出し方にどう表れるか。減速が本当なら、モデルの更新は少しゆっくりになるはずです。
• 米国の規制の行方。Sanders議員の法案と、規制不要とする政権の姿勢がぶつかっているので、ここが利用者に影響する最初の分かれ目になります。

情報を追うときは、Xのまとめや切り抜きではなく、本人の投稿とエッセイの原文を読むのがいちばん確実です。下にリンクを置いておきます。

一次情報へのリンク

• Jacob Coxon氏のスレッド（X、英語）
• Evan Hubinger氏の投稿「10年以内に10%超」（X、英語）
• Samuel Marks氏の5点の整理（X、英語）
• Dario Amodei氏のエッセイ「We Must Pace the Frontier」（英語）
• Sam Altman氏の投稿（X、英語）
• 公開書簡「Pacing the Frontier」（英語）

Claudeを使っている人は、現行モデルの違いを整理したClaude Fable 5と5.1の違いもあわせて読んでいただくと、今回の話がどのモデルの世代に関わるものかをつかみやすくなります。