東大主幹研究員が解説、来たる20XX年の「制御不能なAI→人類滅亡」を防ぐ新たな学問

ようこそゲストさん

ビジネス+ITを始める

ITと経営の融合でビジネスの課題を解決する

ビジネス＋ITとは？

ログイン

無料登録

閉じる

ありがとうございます！
いいね！した記事一覧をみる

会員になると、いいね！でマイページに保存できます。

現在、急速な勢いで進歩を遂げるAI。その驚異的な成長スピードゆえに、従来の経験則や知見だけではAIの発展を適切に評価・制御することが困難な状況に直面している。さまざまな知的能力がAIに代替されつつある中、AIの持つ影響力の大きさを適切に理解し、建設的な議論を展開していくことが求められている。たとえば、欧米各国ではすでにAIの存在論的リスクに関する議論が活発に行われているのに対し、日本ではこうした議論が浸透していない。今後AIはどのように進化し、そこにはどのようなリスクが存在しうるのか。東京大学松尾・岩澤研究室において主幹研究員を務める山川宏氏が解説する。

なぜ、「AIのリスク」に関する議論は進まない？

　AIは我々の生活にすでに深く根付き、多くの分野で有益な影響をもたらしている。プライバシーや倫理、経済格差などのリスクについては研究や議論が盛んになりつつあるが、その一方で「超知能（SI）の出現によって人類の存続が脅かされる」という存在論的リスク（Xリスク）については、ほとんど議論が進んでいない。

　これは、問題の規模や不確実性があまりに大きくて想像しづらく、日常的な感覚では扱いづらいテーマであるためだ。さらに、「人類滅亡」という重いシナリオを直視するには心理的抵抗も大きく、議論自体が先送りされがちである。

　このような「明白で巨大」な問題が「Elephant in the room（部屋の中の象）」と呼ばれるように、重要視されなければならないにもかかわらず、社会全体で十分に議題として取り上げられないまま放置されているのが現状だ。しかし、もし超知能リスクが現実化すれば、その被害は計り知れず、早期のリスク管理策の構築が急務と言える。

タブー視される「明白で巨大な」AIリスク

　近年、ChatGPTなどの生成AIが登場したことで、改めてAGI（汎用人工知能）の発展可能性が注目を集めている。AGIの定義は未確定ながら、しばしば「人間と同等、あるいはそれ以上の汎用的知能を持つAI」と説明され、各企業や研究機関が技術的・理論的な探求を進めている段階だ。

　そして、このAGIがさらに進化して、あらゆる分野において人類を凌駕する能力を持つSI（超知能：Super Intelligence）に至った場合、シンギュラリティ（技術的特異点）が起こると予測されている。

　このシンギュラリティがまさに、存在論的リスクを具体的な現実に変えてしまう大きな要因であると言われている。すなわち、AGIからSIへと至る急激な技術進化が、これまで「空想の産物」に近いと見なされていたXリスクを現実の脅威へと変貌させる可能性を秘めているのだ。

　ここから先は、AIのさらなる発展がもたらすリスクをより具体的に解説し、我々がどのように備えていくべきなのかを考えていく。技術の進歩がもたらす恩恵は大きいが、その裏側で潜むリスクにも目を向けなければならない。議論が敬遠されがちなテーマこそ、今こそ社会全体で真正面から取り組む必要があるのではないだろうか。

この記事の続き＞＞

・なぜ、「AIのリスク」に関する議論は進まない？
・技術が発展した未来の世界とは？
・AIがもたらす軍事・経済覇権競争：止まらぬ開発レースの行方
・道具的副目標の収斂：SIが人類に対して慈悲深くなる保証はない
・制御不可能：SIの制御に向けた挑戦
・人類は追いやられてしまう可能性がある
・AI共生時代に人間の価値を探求する「ポストシンギュラリティ共生学」
・「人間のように考える」全脳アーキテクチャはSIとの橋渡しに