超知能は人類を滅亡させない。それは文明をいかに変容させ、なお人間に何が残るのか

私たちの日常に当たり前に溶け込んでいる「AI」。もうずいぶん賢くなったように思えるけれど、それでも「人間と同じ」と言えるほどではない。ところが、仕事や研究を任せられる一人前のヒトと同じくらい幅広く物事をこなせるAI——「AGI（汎用人工知能）」の登場が目前に迫っているという。それは本当のことなのだろうか？　そしてもし本当なら、科学や社会や文明はどう変わるのか？

それをさまざまな視点から説くのが『AGI　人間を超える知能は文明をいかに変容させるか』だ。実現時期を「2029年±3年」と予想し、AGIは「すぐにでもやってくる現実」だと語る。
AIの先端技術の話かと身構えて開いた本書は、意外にも南方熊楠の曼荼羅思想から始まる。視点の置き場を変えると、それまで見えなかった関係性が浮かび上がる網目——「萃点（すいてん）」という言葉だ。単なる技術論ではない射程の思考を読ませてくれそうな手応えが、ここで早くもある。本書は「AGI」というカオスを読み解くための「萃点」をいくつも与えてくれる一冊だ。

目次をパラパラとめくってみる。

技術書にも、「知能とは何か」を問う哲学書にも、社会制度を構想する政治経済の書にも見えてくる。読者がどこに視座を置くかによって万華鏡のように姿を変える本書は、バラバラに見えていた事象を一つの線で繋げるだろう。

各章には共通の展開があり、整理された論証が繰り返される。まず命題をあげ、根拠を整理し、反論や限界を検証し、結論を提示する。
その型がよく見えるのが、第3章「AGIはなぜ可能か」だ。この問いに対し、現在のAI飛躍を可能にした条件を「GPUによる超並列化」「トランスフォーマーという仕組み」「次トークン予測という訓練目的」の3つに分類し、「AIはモデルを大きくするほど賢くなり、誤りはきれいなカーブで下がり続け、その天井は見えない」というスケーリング則の実証へと向かう。

予測するだけのものが、なぜ「理解」に至るのか？　筆者の答えはこうだ。

「水を100℃に加熱すると」の続きには水の沸点の知識が要り、「もしナポレオンがワーテルローで勝っていたら」の続きには歴史の因果が必要だ。よい予測と世界の理解は極限では同じ仕事になる。
裏付けとなるのが、AIが訓練を続けると突然、初見の問題を解けるようになる「グロッキング」という現象だ。丸暗記が、背後の法則の発見へと切り替わる瞬間だ。これを「学び尽くせば成長は止まる」と読むか、「改善は物理的限界まで続く」と読むかで、AGIへ届くかの評価は根本から変わる。著者は両派の論を並べたうえで「この論争は未決着である」と認め、なお「AGIが原理的に不可能という段階は過ぎ、残るは距離と資源投入の問題だ」という結論に至る。「証明できたこと」と経験則をきちんと分ける誠実さが本書の芯だ。

この整然さには、どこかAIめいた匂いがある。そう感じながら読み進めていると、第11章にその種明かしがあった。

型が見えていたからこそ、この告白は驚きになる。「では、人間とAIの違いはどこにあるのか」という新たな問いが浮かぶのは必然だろう。

AGIは、これまでの計算処理や情報整理の制限を解除する。しかし、どれほどモデルを巨大化しても、情報の処理にも伝達にも限界があり、AIではショートカットできない時間がある。そして、もうひとつの限界が「目的を生み出すこと」だ。生成AIに「AGIについての本を書いて」と入力してもこの本は完成しない。AIに文脈と目的を与え、本書を生み出したのは著者の「知能を極限まで拡張すると、最後に何が残るのか？」という問題意識である。

本書のあとがきには、最適化された本文とは異なる「人間らしさ」がある。ノイズや余白にこそ、人間を人間たらしめるコアがある。「自分はどの視点から何を問い、何を望むか」という問題意識は、人間にしか生み出せない。本書は、AGIという鏡を通して「私たちに最後まで残るもの」の輪郭を描き出してくれる一冊だ。