「AIで人類滅亡？ そんなバカな」と思っている人へ…まもなく始まる「AGI時代」の必読書

2026年9月7日、国連人権理事会で「最先端のAIが人類存亡の危機をもたらすおそれがある」という警告が唐突に発せられ、大きな話題になりました。翌8日には、アンソロピックの研究者が「AI開発競争は人類滅亡につながる」と述べて退職し、これも世界的ニュースとなりました。

いまや、ChatGPTを「チャッピー」と呼んで友達のように接している人や、仕事で毎日AIを使うのが当たり前という人も少なくないはず。「AIで存亡の危機だなんて、そんな大げさな」「どうしてAIが人類を滅ぼすの？」と、疑問を抱くのが自然だと思います。

AIが活用されているのは、日常生活やビジネスの現場だけではありません。個人情報の収集・分析や、軍事・諜報にも欠かせなくなっているといいます。AIの頭脳であるデータセンターには、環境破壊や、排熱などの公害が伴います。フェイク画像・映像の生成、学習過程での著作権侵害も深刻です。AIが暴走し、ハッキングを仕掛ける事件まで起こり始めました。

では、このような「いま起きている問題」がエスカレートして「人類存亡の危機」をもたらすのでしょうか？　それもあるかもしれませんが、じつはAI研究開発の最前線で懸念されているのは、もっとずっと、はるかに根本的で巨大なリスクです。

AI各社のモデルは、その性能を示すテストを受けています。OpenAIが今年9月に発表した最新モデル「アストラ」は、「ARC-AGI-3」というテストで99.9％もの圧倒的なスコアを叩き出しました。

ARC-AGI-3は、「知識」ではなく「未知の課題を解決できるか」を測る指標。つまり最新のAIは「人間のように自分で考え、行動できる」という能力を、ついに身につけつつあります。ちなみに、ひと世代前のGPT-5.6のスコアはたった7.8％でした。驚きです。

どんな状況でも、どんなタスクでも、人間並み、いや人間よりも上手くこなせる。そのようなAIを「汎用人工知能＝Artificial General Intelligence」すなわちAGIと呼びます。AI各社は、このAGI 実現のために熾烈な開発競争をくりひろげてきました。そしていま、まさに私たちは「AI時代」を経て、次なる「AGI時代」に足を踏み入れているのです。

本書『知能爆発　AIの次に来るAGIとは何か、そして人類に何が起きるのか』は、AGIが誕生し、普及するとき世の中がどう変わるのか、AGIはどのような恩恵をもたらし、どのようなリスクを連れてくるのかを、誰にでも読みやすい文章で描ききった、世界的にも稀有な一冊です。

著者の有路翔太さんは「bioshok」と名乗り、生成AI普及の初期からSNSで活発に情報発信してきました。エンジニアでありながら哲学にも通じ、AIのしくみや活用事例だけでなく「なぜAIは生まれたのか」「AIは人類にどのような影響をもたらすか」といった深い問題意識にもとづいて、海外の最先端の議論を追いかけ、いち早く紹介・解説してきたAIインフルエンサーの第一人者です。

先ほど、AGIとは「どんなタスクでも人並み以上にこなせるAI」だと述べました。そのようなAIが普通に使えるようになったら、世界はどう変わるでしょうか。

OpenAI創業者のサム・アルトマンや、アンソロピック創業者のダリオ・アモデイなど、AGIを生み出そうとしている重要人物たちは「数百年分の文明の進歩が、10年から数十年に圧縮される」という大胆な未来予測を示しています。

人間が一人前になり、世の中に貢献するようになるには、何年も教育を受けなければなりません。しかしAIならば瞬時に、いくらでもコピーできます。いわば「天才の頭脳が無限に複製できる時代」がやってくる。科学技術の発展が桁ちがいに加速することは、ほぼ間違いありません。完璧な自動運転、核融合エネルギー、がんのメカニズム解明と克服、画期的な新素材、ナノテクノロジー——SFやアニメの話と思われていた夢の技術が、次々と実現するかもしれない。

しかし一方で、多くの労働者や研究者はイスを奪われてしまうでしょう。ビジネスでも、学問でも、行政でも、そして戦場でもAIが意思決定し、機器やロボットをコントロールして、人間より効率よく目的を達成するようになる。すでに直近では、数学の未解決問題が次々とAIによって解かれ始め、第一線の数学者たちが驚き動揺しています。海外ではAGI時代を見こして、ベーシック・インカムのしくみをいかに構築するかの議論さえ始まっているのです。

それ以上に恐ろしいリスクもあります。

AI開発の二大巨頭であるOpenAIとアンソロピックは、AGI達成の暁には、「AI開発そのものをAIにやらせる」と公言しています。AIがより賢いAIを生み、それがさらに賢いAIを生む……このような「自己改善のループ」が始まれば、AIの知能は指数関数的に、爆発的に上昇していくと予想されます。本書のタイトル「知能爆発」は、この現象からとっているわけです。

そして、その先に待つと考えられているのが、あらゆる人間、それどころか全人類が束になってもかなわない「人工超知能=Artificial Super Intelligence」、ASIです。

ASIが生まれるとき、それが何を考え、何をめざして動き出すのか、人間には想像さえつきません。ASIと人類の関係は、たとえるなら人類とアリの関係のようになるかもしれないからです。私たちが家を建てるとき、地面のアリの巣を気にとめることはありません。ASIははたして、人間の生存環境に配慮してくれるでしょうか？　それとも、みずからの計算に使うエネルギーを最大効率で得るために、地球全体を核融合炉で覆ってしまうのでしょうか。

このような話を聞いても、「まだ遠い未来の話だろう」とか「SFの読みすぎでは？」と思う人は多いはずです。しかし本書でくりかえし示されるのは、AI開発の当事者や、AIの未来について考えぬいた俊才たちの多くが「AGIとASIはまもなく、ほぼ確実にやってくる」「それらは人類史上最大の恩恵と、史上最悪の危機を同時にもたらしうる」という、同じ結論にたどりついた——そんなどうしようもない事実です。

序章に印象的な引用があります。「私たちがいま生きている時代は、人類史上最も重要な世紀になる」。OpenAI創設時に巨額の資金を提供し、現在はアンソロピックに籍を置く慈善家・研究者、ホールデン・カルノフスキーの言葉です。

いま私たちは否応なくAGI時代に突入しつつあります。私たちが下す判断が、人類の存亡を、未来のすべてを決めるかもしれない。はじめは荒唐無稽としか思えないこんな問題意識が、本書を読み終えるときには、真に迫ったものとして感じられるに違いありません。

最後に補足しておくと、本書で描かれるのは暗い未来ばかりではありません。AIに夢を託した研究者や起業家たちの野望と人間模様、AI規制をめぐる政治家や企業の駆け引き、AI各社に多大な影響を与えた「長期主義」や「合理主義」という思想の歴史なども活写し、たくさんの人物が登場する壮大な群像劇としても楽しめるようになっています。

さらには、AIを人間の利益に沿う形で発展させていく「AIアライメント」の可能性や具体策も、数多く提示されます。日本はAI開発・普及でおくれをとっているが、AI安全性の研究・実践では独自の存在感を発揮できるのではないか——著者はそのようにも考えています。

「本書は問いを共有するために書かれた」。有路さんはそう言います。この貴重な時代に居合わせる読者が、ひとりでも多く、一緒になって考えてくれることを願います。

――現代事業部　臼杵明裕

各界からの推薦コメントも多数！
　茂木健一郎（脳科学者）
　――AIの疾走進化に若き学究の熱が呼応した、現代人の必読書！

　山口周（独立研究者・著作家）
　――ゲームチェンジは「新しい資源の出現」によって起きる。本書はAGIという新たな「思考資源」について考えるための地図だ。
　
　安野貴博　（チームみらい党首・AIエンジニア）
　――牧歌的なAI時代は終わった。予測困難なAGI時代にどう備えるか。