「目に見えない」アルゴリズムがすでに多くの影響を与えている

　我々の日常生活の中には、さまざまなアルゴリズムが「見えざる手」として存在している。Gartner Symposium/ITxpo 2015に登壇したジェイミー・ポプキン氏は、Facebookの例を挙げる。ニュースフィード・アルゴリズムがユーザーの気分に影響を与えるというのだ。

「コーネル大学の2年前の調査で、Facebookのタイムラインにネガティブなニュースがハイライト表示されるグループと、ポジティブなニュースが表示されるグループに分けて、接したニュースが我々の気分にどんな影響を与えるかを調べたところ、ポジティブなグループは、ポジティブな情報を、ネガティブなグループはネガティブな情報をアップする傾向があることが分かった。ここで重要なことは、ニュースフィードに流れる情報のうち、そのユーザーにとって何をハイライト表示するかというのはFacebookのアルゴリズムが決めているということだ」

　また、グーグルの検索アルゴリズムは選挙結果に影響を及ぼす。キーワード検索で良いニュースが上位表示される候補者と、悪いニュースが上位に表示される候補者とでは、支持率に差が出るという研究結果もある。このように「目に見えない」アルゴリズムが、我々の気分や行動など、さまざまなものに影響を与えることが明らかになっている。

　さらに、システムが「暴走」したように見える怖い事例もある。2012年8月の米株式市場で起きた、証券仲介企業のナイトキャピタル社による誤発注事件だ。

「同社の高速自動取引システムのアルゴリズムが暴走し、誤った取引注文を繰り返した結果、45分間でなんと4億4千万ドル（約340億円）の損失をもたらし、これがきっかけで会社は倒産した。しかし、この事件を詳しく見ると、システムが誤発注をした原因はヒューマンエラーにある。システムを支える8台のサーバを更新する際、オペレーターが7台にしか更新を適用しなかったのだ。さらに、異常に気づいたオペレーターが、更新済みの7台をロールバックするというミスが重なり、結果的にシステムが暴走してしまった」

　こうした問題は、「高度化したアルゴリズム」が人間の制御を超える何かを勝手にしたわけではなく、「人」が介在している。昨今、大きく報じられたVWの排ガス不正操作の問題も、システムを不正に操作してテストをすり抜けるように「設定」したのは人間（VWの担当者）であり、「アルゴリズムが自分で悪事を働いたわけではない」（ポプキン氏）のだ。

学習するシステム、最終的には「学習方法」を学ぶようになる

　さまざまなシステムやデバイスにAI技術が組み込まれている。こうしたAIアルゴリズムは指数関数的に進化、成長を続け、ある日、システムの能力が我々の能力を超え、制御できなくなることが懸念される。

「ムーアの法則により、半導体の演算性能は、いずれ全人類の脳を合算したようなレベルに達するだろう。また、ディープ・ラーニングにより、システムは自らデータを取り込んで、よりスマートになる。また、クラウド内のビッグデータやIoTなどの複数の要素、要因が組み合わさったときに、アルゴリズムは、我々のコントロール外に進んでしまうかもしれない。複雑に見える振る舞いも、もとをたどればシンプルな構造から成り立っていることに、我々はもっと思いを至らせるべきだ」


　グーグルは、「ディープニューラルネットワーク（DNN）」というアルゴリズムを開発し、YouTube上にアップされた猫の動画のサムネイルを大量に分析し、身体的特徴などから猫の実体を認識、学習し、この動画は猫のものであると同定できるシステムを開発した。これによると、74％の精度で猫を認識することが可能だという。

「DNNを構築するために、1万6000のGPUと10億の相互接続数が必要なことを考えると、教師なしでシステムが学習するというのは、技術的に可能だが、一般的な普及はまだ遠いと考えられる。しかし、AIの進化、応用領域の拡大については、我々も心構えが必要だ」

【次ページ】「プログラム可能な経済」では「ダークサイド」を理解することが重要