• 2018/10/11 掲載

「完全自動運転」を実現する条件、人工知能に倫理が必要な理由

  • icon-mail
  • icon-print
  • icon-hatena
  • icon-line
  • icon-close-snsbtns
会員になると、いいね!でマイページに保存できます。
人工知能の進化とともに語られる、人工知能への期待と不安。その一つが、人工知能の正義と倫理の問題だ。哲学者・岡本裕一朗氏は「人工知能」へ哲学分野から疑問を呈する。自動運転の実現化で直面するのが、事故の責任問題だが、自動運転は、通行人ではなく「運転者」を守るよう設計されている。ここでは、有名な思考実験「トロッコ問題」を通して、乗員と通行人のどちらを救うべきか?という答えのない問題から考察する。
執筆:岡本 裕一朗
photo
自動運転の実現により人為的なミスは減るだろうが、想定していない事故にはどのように備えればいいのだろうか
(© Dmitriy – Fotolia)


自動運転車が抱えた大問題

photo
人工知能に哲学を教えたら

画像をクリックするとアマゾンに移動します
 「完全自動運転」の車が市場に登場する日が近づいているといいます。そのため、テクノロジー面だけでなく、法的・社会的な整備が世界的にも急務となっています。欧米では「自動運転車の倫理的問題」が活発に議論されているのを、ご存じでしょうか。

 「トロッコ問題」と呼ばれた倫理的な議論が、自動運転車の場面であらためて浮上しているのです。「トロッコ問題が解決されなければ、自動運転車はデビューできない」と力説する人もいるほどです。

 そのような将来のテクノロジーの行く末を左右するほどの「トロッコ問題」とはどのようなものか。簡単に確認しておきましょう。  

 もともと議論のスタートは、イギリスの哲学者であるフィリッパ・フットが、1967年に妊娠中絶問題を考えるために着想した、思考実験の一つです。そして、このアイデアをより洗練させて、問題を一般化したのが、アメリカの哲学者ジュディス・トムソンでした。彼女によって「トロッコ問題」と命名され、その後、論争となる事例が提起されたのです。すでに一般にも紹介されていますが、後の議論のために見ておきましょう。

画像
 自動運転のレベル

(レベル1)運転支援(自動ブレーキなど)、(レベル2)部分運転自動化(衝突回避など)、(レベル3)条件付き運転自動化(システムが主体人が運転をサポート)

(レベル4)高度運転自動化(限定エリア内で運転手が不要に)、(レベル5)完全運転自動化(どこでも自動走行可能に)

内閣府が公表する自動運転システムの市場化・サービス実現期待時期

5人と1人、どちらを救う?「トロッコ問題」

(A)たまたま路面電車の傍を散歩していた人が、ブレーキのきかなくなった電車に遭遇した。その電車の前方には、5人の作業員がいてこのままでは轢かれてしまう。そのとき、散歩中の人の近くには進路を変えるスイッチがあり、それを引くと電車は右に曲がる。ところが、右の線路の先には1人の作業員がいるので、右に曲がると1人を轢いてしまう。
(B)陸橋の上にいた人が、電車を見ていると、ブレーキがきかなくなっているのがわかった。その先には、5人の作業員がいて、このままでは彼らを轢いてしまう。そのとき、陸橋には、太った人が傍にいて線路を見ている。その人を線路に突き落とせば、電車が止まりそうである。このとき、5人の作業員を救うために、1人の太った人を突き落としてもよいか?
(“Rights, Restitution, and Risk”参照)



 ここで議論のポイントは、「1人を救うか5人を救うか」ではありません。

 「1人を救うか5人を救うか」という問い自体は変わらないにもかかわらず、AとBとで選ぶ答えが変わる、というところにあります。実際アンケートをしてみると、Aの場合には「1人を犠牲にする」と答えても、Bの場合には「1人を犠牲にしない」と答えるようです。

 この対立はしばしば、「功利主義」と「義務論」の対立として説明されています。 一方の功利主義は、何よりも結果を重視(帰結主義)して、全体の利益と損失とを計算し、その総量から行為を選択します。5人の命と1人の命を比較すれば、当然5人の命を優先することになります。

 もう一方の義務論では、結果がどうであれ、人を「殺す」という行為自体をすべきではない(義務に反する)と考えるのです。さらには、5人の人を救うために、その手段として1人の人を殺すことは許されない、と主張します。

乗員と通行人、救うべきはどっち?「トンネル問題」

関連記事
 では、「トロッコ問題」のいったいどこが、問題なのでしょうか。

 たとえば、功利主義的に考え、AもBも「5人の命と1人の命の比較」とみなせば、いずれも「5人の命」を優先するでしょう。そう考えると、陸橋の上の太った男を突き落とすことさえ選択すべきではないでしょうか。ところが、それは通常の倫理観と対立するのです。

 それに対して、義務論的に考えると、陸橋の上の太った男だけでなく、スイッチの場合にも「1人の男」を優先しなくてはなりません。太った人をあえて突き落とすべきではないと同じように、スイッチをあえて引いて線路の1人を殺すべきではないわけです。大きな被害が出るとわかっていても、それに介入できないのです。

 だからといって、Aの場合には功利主義的に考え、Bの場合には義務論的に考えるというように、ご都合主義的に立場を変えるのは問題の解決になりません。とすれば、すべての場合に妥当するような倫理はあるのか。これが「トロッコ問題」の基本的な問いです。

 「トロッコ問題」そのものに決定的な解決策が出てないうちに、それを「自動運転車」に応用したら、どうなってしまうでしょうか。ここまでの議論と対応させるため、「トンネル問題」と呼ばれている状況を考えてみましょう。

【次ページ】自動運転車の「トンネル問題」とは?
関連タグ タグをフォローすると最新情報が表示されます
あなたの投稿

    PR

    PR

    PR

処理に失敗しました

人気のタグ

投稿したコメントを
削除しますか?

あなたの投稿コメント編集

機能制限のお知らせ

現在、コメントの違反報告があったため一部機能が利用できなくなっています。

そのため、この機能はご利用いただけません。
詳しくはこちらにお問い合わせください。

通報

このコメントについて、
問題の詳細をお知らせください。

ビジネス+ITルール違反についてはこちらをご覧ください。

通報

報告が完了しました

コメントを投稿することにより自身の基本情報
本メディアサイトに公開されます

必要な会員情報が不足しています。

必要な会員情報をすべてご登録いただくまでは、以下のサービスがご利用いただけません。

  • 記事閲覧数の制限なし

  • [お気に入り]ボタンでの記事取り置き

  • タグフォロー

  • おすすめコンテンツの表示

詳細情報を入力して
会員限定機能を使いこなしましょう!

詳細はこちら 詳細情報の入力へ進む
報告が完了しました

」さんのブロックを解除しますか?

ブロックを解除するとお互いにフォローすることができるようになります。

ブロック

さんはあなたをフォローしたりあなたのコメントにいいねできなくなります。また、さんからの通知は表示されなくなります。

さんをブロックしますか?

ブロック

ブロックが完了しました

ブロック解除

ブロック解除が完了しました

機能制限のお知らせ

現在、コメントの違反報告があったため一部機能が利用できなくなっています。

そのため、この機能はご利用いただけません。
詳しくはこちらにお問い合わせください。

ユーザーをフォローすることにより自身の基本情報
お相手に公開されます