数字と全体最適化を優先するAI統治は中国と類似

　多角的な問題能力を自律的な学習により獲得するAGIは、問題解決能力の高さと広範さ、さらに倫理観でも人を超え、人よりも合理的な判断を下せると見込まれる点で、将来的に社会の統治形態にも何らかの影響を及ぼす可能性が高い。こうした変化を社会に受け入れさせる現実な方策として慶應義塾大学 教授の大屋雄裕氏が提示したのが「計算社会科学を用いた計画経済体制」だ。


　計画経済は社会主義の土台を成すが、社会全体の需要や供給の計測には膨大な計算が必要とされ、また、ローカルで発生する需要の一元把握の困難さなどからも、その実現はこれまで非現実的と資本主義陣営からは見られてきた。

「だが、コンピューターの劇的な能力向上やIoTによる緻密な情報収集などにより、技術面の問題は技術的に解決されつつある。要はAGIによる社会主義が現実味を帯びているわけだ。しかも、人と社会の間にAIが介在し、社会主義システムを隠蔽化、つまり、見えなくするなどの方策により、社会的な掟への人の反抗などを回避することができる」（大屋氏）

　その一端は中国の政治に見て取れるという。

「中国社会の見方は色々だが、1つ明確にしておきたいのが、中国政府も国民の幸福に気を使っているということだ。投票などの国民の意図的な行為に重きを置いていない点で西側諸国と大きく違うが、それでも国民の幸福度を高めるべく、GDPなどの客観的な数値を重視した判断で経済発展を続けている。疑念は残るが、全体最適の判断により新型コロナ対策も中国自身はうまくいっていると断言している」（大屋氏）

　数値をベースとする点で中国の政治はAGIの統治と類似する。大屋氏は、「個人的に肯定したくはないが」と前置きしたうえで、「AGIによる中国と似た政治の広がりも理屈の上では在り得ることだ」と言い切る。

「フレーム問題」から見るAGI活用の限界と可能性

　こうした議論を踏まえて全脳アーキテクチャ・イニシアティブ 代表で東京大学の山川宏氏は、「計算社会科学を用いた計画経済システムを実現されるとすれば、それは社会のさまざまな側面を評価し、それを統治するための計算処理に、将来実現されるAGIの能力が活用されるということだろう」と提言する。


　従来からの社会的な意思決定は、諸問題の対応のための費用対効果を個々に測定して方針を決定する、ゴミ処理の分別収集モデルに例えられると大屋氏。しかし、AIやIoTにより社会データの網羅的に把握して分析する集中処理モデルにより、全体最適の観点からの効果測定が可能となり、個別評価に起因するムダの排除が促されることで、より良い政策決定につなげられるという。

　そこで課題となるのが、「処理能力が有限の人工知能は、現実に起こりうる問題のすべてには対処できない」という、いわゆる「フレーム問題」だ。

　何かの判断を下すには、そのための情報を収集する必要がある。人であれば、ある程度の予測の下に情報を取捨選択できる。だが、AGIの場合はどうか。必要性の有無の判断のために世の中のあらゆる事象に関する検討が生じ、条件の分岐も無数にあるため、いつまでたっても判断を下せない──これがフレーム問題である。

　それでも、「社会的資源の活用効率を高めるうえで、AGIは一定の成果を見込むことができるの」と大屋氏は見る。

「フレーム問題について言えば、人の対応は極言すれば、それが解けていない可能性を把握しつつも見えないふりをしているだけ。同様に、ある程度の計算で良いのであれば何らかの閾値（しきいち）を設けることでAGIによる評価が可能となり、従来からの分別モデルよりも良い判断が期待できる」（大屋氏）


【次ページ】伝統的な統治が通用しないサイバー空間