生成AIでリスク増大、重要選挙が相次いだ2024年に起きたこと

　AIのシンギュラリティや軍事利用と聞くと、自分には関係ないと思う人も多いかもしれません。ですが、AIのリスクはすでにインシデントとして顕在化し始め、マイナスの影響を受けている企業も発生しています。

　加えて、生成AIの台頭により、AIの民主化が急速に進んでいます。これまでのAIはリテラシーを有している人に活用が限定されていましたが、生成AIは「誰でも自由に使える」というその特徴により、リテラシーがない人にまで活用が急速に広がっています。

　これは言い換えると、AIリスクも急速に拡大していることにほかなりません。AIリスクはひとごとと目を背けるのではなく、足元のリスクを今、適切にマネジメントすることが、将来もたらされる脅威を回避するための第一歩となります。甚大なリスクに発展する前に、AIリスクマネジメント態勢を整備していくことが私たち1人ひとりに求められているのです。

　それでは、実際、どのようなAIリスク・インシデントが発生しているのか、例を見ていきましょう。

　2024年は世界的に重要な選挙が多く行われた年でした。それに乗じて、悪意を持った人が、あたかも本物のように合成された偽映像を作成して大衆の行動を誘導しようとする、いわゆるディープフェイクによるインシデントが多数発生しています。

　生成AIを活用して各種書類を作成したところ、実在しない内容が生成され、それが公に出回ってしまったというハルシネーション関連のインシデントも多く確認されています。

　また、AIによる学習が適正に行われておらず、特定の外見や思考を持った人に対して不適切、もしくは不利益な結果を返すという公平性の欠如（バイアス問題）も発生しています。AIモデルは日々学習を繰り返しているため、利用開始時に問題がなかったとしても、利用していく過程で問題が発生してしまう「データドリフト」の問題もはらんでいることから、AIリスクをマネジメントすることの難易度は高いと言えます。

AI活用に取り組む企業が「まずすべきこと」

　一方で、AIリスクがあるからといって、AI活用にブレーキを踏んでしまうことは得策ではありません。冒頭で述べたように、AIを活用しないこと自体が企業にとってはもはやリスクであるからです。

　AIは活用するもリスク、活用しないもリスクとなると、一体どうすれば良いのだと頭を抱えてしまうかもしれませんが、先進事例や2024年4月に経済産業省と総務省が公表した「AI事業者ガイドライン」などを参考にすることで、多くのヒントを得ることができます。

　AI事業者ガイドラインは、日本におけるAIリスクマネジメントのスタンダートと位置付けられていますので、まずはこちらの内容から確認を始めてみるのが良いでしょう。AI事業者ガイドラインでは、各主体が取り組むべき共通の指針として、以下の10項目が挙げられています。

各主体が取り組むべき共通の指針

	指針	内容
1	人間中心	AIが人々の能力を拡張し、多様な人々の多様な幸せ（well-being）の追求が可能となるように行動する AI が生成した偽情報・誤情報・偏向情報が社会を不安定化・混乱させるリスクが高まっていることを認識した上で必要な対策を講じる より多くの人々がAIの恩恵を享受できるよう社会的弱者によるAIの活用を容易にするよう注意を払う
2	安全性	適切なリスク分析を実施し、リスクへの対策を講じる 主体のコントロールが及ぶ範囲で本来の利用目的を逸脱した提供・利用により危害が発生することを避ける AIシステム・サービスの特性や用途を踏まえ、学習等に用いるデータの正確性等を検討するとともに、データの透明性の支援、法的枠組みの遵守、AIモデルの更新等を合理的な範囲で適切に実施する
3	公平性	特定の個人ないし集団へのその人種、性別、国籍、年齢、政治的信念、宗教等の多様な背景を理由とした不当で有害な偏見及び差別をなくすよう努める AIの出力結果が公平性を欠くことがないよう、AIに単独で判断させるだけでなく適切なタイミングで人間の判断を介在させる利用を検討した上で、無意識や潜在的なバイアスに留意し、AIの開発・提供・利用を行う
4	プライバシー保護	個人情報保護法等の関連法令の遵守、各主体のプライバシーポリシーの策定・公表により、社会的文脈及び人々の合理的な期待を踏まえ、ステークホルダーのプライバシーが尊重され、保護されるよう、その重要性に応じた対応を取る
5	セキュリティ確保	AIシステム・サービスの機密性・完全性・可用性を維持し、常時、AIの安全な活用を確保するため、その時点での技術水準に照らして合理的な対策を講じる AIシステム・サービスに対する外部からの攻撃は日々新たな手法が生まれており、これらのリスクに対応するための留意事項を確認する
6	透明性	AIを活用する際の社会的文脈を踏まえ、AIシステム・サービスの検証可能性を確保しながら、必要かつ技術的に可能な範囲で、ステークホルダーに対し合理的な範囲で適切な情報を提供する（AIを利用しているという事実、活用している範囲、データ収集及びアノテーションの手法、AIシステム・サービスの能力、限界、提供先における適切/不適切な利用方法、等）
7	アカウンタビリティ	トレーサビリティの確保や共通の指針の対応状況等について、ステークホルダーに対して情報の提供と説明を行う 各主体のAIガバナンスに関するポリシー、プライバシーポリシー等の方針を策定し、公表する 関係する情報を文書化して一定期間保管し、必要なときに、必要なところで、入手可能かつ利用に適した形で参照可能な状態とする
8	教育・リテラシー	AIに関わる者が、その関わりにおいて十分なレベルのAIリテラシーを確保するために必要な措置を講じる AIの複雑性や誤情報といった特性及び意図的な悪用の可能性もあることを勘案して、ステークホルダーに対しても教育を行うことが期待される
9	公正競争確保	AIを活用した新たなビジネス・サービスが創出され、持続的な経済成長の維持と社会課題の解決策の提示がなされるよう、AIをめぐる公正な競争環境の維持に努めることが期待される
10	イノベーション	国際化・多様化、産学官連携及びオープンイノベーションを推進する 自らのAIシステム・サービスと他のAIシステム・サービスとの相互接続性と相互運用性を確保する 標準仕様がある場合には、それに準拠する

　指針の1つひとつは、決して新しいものではなく、記載されている内容も大きく異を唱えるものではないと思います。そして、10の指針のいくつかは、すでに多くの企業におけるリスクマネジメントとして取り込まれているのではないでしょうか。

　このように、AIリスクはまったく新しいものではなく、根底にあるリスクマネジメントとしての考えは、既存の態勢が十分に活用できるものとなります。既存の態勢と整合性を取り、範囲を拡充していくことが重要です。リスクに対して過剰に身構えてしまい、リスクマネジメント自体が目的になることがないように注意を払う必要があります。

　目的は、AIを活用し、企業としての競争力を強化していくこと、イノベーションを創出していくこと、そして、日本の国際的な競争力を高めていくことにあります。リスクマネジメントとは、これらを実現するための安心・安全なプラットフォームを提供することであり、1つの手段であることを忘れてはいけません。

　昨今、Responsible AI（責任あるAI）という言葉をよく聞くようになりました。Responsible AIが意図している内容は、AIリスクマネジメントのみならず、積極的なAI活用を含めて、その両立を実現していくことだと当社は考えています。AI活用とリスクマネジメントを企業の重要テーマに掲げ、経営陣を含め全社一丸となり推進することで、Responsible AIを実現していくことが求められているのです。

〔参考文献〕

• 総務省「「AI事業者ガイドライン」掲載ページ」
• 経済産業省「AI事業者ガイドライン（第1.0版）」