2026.06.29

＜2026 AIトレンド通信 6月号＞「AIで人類は絶滅する」と説く一冊が、米上院の議題に。AI存亡リスクをSHIFT AIが解説

AIニュースの”見え方”が変わる。ビジネスパーソンこそ知っておくべき理由

「日本をAI先進国に」をミッションに掲げ、利用者数No.1※の生成AI学習コミュニティ「SHIFT AI」を運営する株式会社SHIFT AI（本社：東京都渋谷区、代表取締役：木内翔大、以下：当社）より、2026年6月のAIトレンド通信をお届けします。

先月号では、Anthropic社の安全実験で「AIが人間を脅迫しようとした」というニュースを取り上げました。今月お届けするのは、その延長線上にある、より根源的な問いです。2026年4月22日、早川書房から『超知能AIをつくれば人類は絶滅する』（原題：If Anyone Builds It, Everyone Dies）が発売されました。著者は、AI安全（AI Safety）という分野を20年以上前から一人で背負ってきた人物、エリーザー・ユドコウスキーです。「人類は絶滅する」という過激な書名から「またSFのような話か」と感じる方もいるかもしれません。しかし今、まさに同じ問題提起が、米国の議会や国際機関の”ど真ん中の議題”になり始めています。本号では、その輪郭をお伝えし、なぜビジネスパーソンこそ知っておくべきなのかを分かりやすく解説いたします。

終末論が、米議会の議題になった日

象徴的だったのが、邦訳発売からわずか1週間後の出来事です。米国時間2026年4月29日、米上院議員バーニー・サンダース氏が、議会議事堂で「AIによる人類存亡リスク」をテーマにした公開パネルを開催しました。登壇したのはMITのマックス・テグマーク氏、モントリオール大学のデビッド・クルーガー氏ら、世界トップクラスの研究者たちです。サンダース氏は冒頭、世界で最も裕福で強力な人々が、自分たちでも制御や行き先を理解できない”ブレーキのない暴走列車”を作っている、という趣旨の警告を発したと報じられています。テグマーク氏は、AIによる人類滅亡リスクについて、ヒントン氏らが見積もる10〜20%という数字よりも自分はさらに高いと考える、と述べたとされます。「雇用が奪われる」「フェイクが増える」という話ではありません。「人類がまるごとAIに支配されたり消滅したりするかもしれない」という議論が、現役の上院議員と一流大学の教授によって、公の場でまじめに語られているというのが2026年の現実です。

ユドコウスキーとは何者か？加速主義者だった男の転向

この「AI存亡リスク」というテーマそのものを、誰よりも早く背負ってきたのがユドコウスキーです。1979年生まれ、独学で育った人物で、2000年には超知能を研究する非営利機関（後のMIRI）の前身を設立。ChatGPTどころか深層学習ブームすら始まる前から、AIの危険性に警鐘を鳴らしてきました。

重要なのは、今のAI業界の主役たちが、多かれ少なかれ彼の思想的影響を受けているという事実です。MIRIは初期に、後のGoogleDeepMind創業者たちを支援者へ橋渡しし、OpenAIのサム・アルトマンは自らがAGIに関心を持った背景として彼の存在を挙げています。そして見落としてはならないのが、彼がもともと「超知能こそ人類の問題をすべて解いてくれる」と信じる、ゴリゴリの加速主義者だったという点です。AI（知能）の力を誰よりも信じているからこそ、その制御の難しさに絶望しています。ここを誤解すると、彼の議論は理解できません。

彼を絶望させた「3つの仮定」とは

彼が「現状の延長線で超知能を作れば、誰が作っても人類はほぼ確実に絶滅する」とまで断言する根拠の背後にある3つの仮定をご紹介します。(1)AIの価値観を人間の価値観にぴったり合わせるのは極めて難しいこと、(2) AIの能力はとてつもなく高くなりうること、(3) その能力がある瞬間に”非連続的”に爆発しうることです。そして、本書のもっとも重要なメッセージは、多くの方の直感とは逆の場所にあります。私たちが本当に恐れるべきはAIの悪意ではない、というのです。著者によれば、超知能は人類を憎んで滅ぼすのではありません。自らの目的を追う過程で、人類のことを”気にも留めない”まま、結果として私たちの生存環境を壊してしまう。なぜ「悪意のないAI」がそこまで危険になりうるのか。その核心は、ぜひ本編でお確かめください。

▼記事本編はこちらからご覧ください

『超知能AIをつくれば人類は絶滅する』――AI存亡リスクの“ゴッドファザー”ユドコウスキーは何を言っているのか

https://shift-ai.co.jp/blog/timesplus/59347

なぜ、ビジネスパーソンこそ知っておくべきか

「自分には関係ない、極端な人たちの話」と片付けてしまうのは、少しもったいないかもしれません。実はこの人物の思想を一度押さえておきますと、これから流れてくるAIニュースが、急にきれいに整理して見えてきます。

なぜ米議会で極右と極左が手を組むのか。なぜAI企業が自社モデルの公開を、自ら見送るのか。一見バラバラなこれらの動きが、ある一つの前提を共有した瞬間、一本の線でつながります。世界のAIをめぐる本当の分断は、もはや「右か左か」ではなく、別の軸で起きつつあります。その”地図”の入手先を、記事本編でご案内しています。なお、彼の議論には有力な反論も複数あり、本編ではそうした批判も公平にご紹介しています。