金融業界と生成AI

　AIは、金融業界のさまざまな分野で浸透しており、カスタマーサポートや決済、融資、保険、資産管理など、金融サービスの効率化や高度化に貢献しています。そして、AIの中でも特に注目されているのが生成AIです。すでに多くの金融機関でOpenAIのChatGPTが導入され、さらなる活用方法が模索され始めました。

　ChatGPTは機能強化も活発で、より長いプロンプトを受け付けるモデルやコードインタープリター（プロンプト指示からPythonコードを生成し実行する機能）が追加されるなど、まさに日進月歩で進化していくため、「最新の状況をキャッチアップするのが大変だ」と考える方も多いのではないでしょうか。

　機能が追加されると、それを使って新しくできることが増えますから、業務やサービスへの活用の幅も広がります。以前の記事で、生成AIが金融業界でどのように使われるかを俯瞰しましたが、近い将来、まさにこうした例に加えてさまざまな場面で生成AIが取り込まれ、利用するのが当たり前の世界になるのは想像に難くありません。

立ち止まって考えたい「生成AIの課題」

　生成AIが金融機関において、業務効率化や顧客サービスの高度化などのポジティブな変化をもたらすとみられる一方で、情報の信頼性や透明性、倫理性などにも新たな課題を生み出すこととなりました。

　IMDA（シンガポール情報通信局）のレポートによると、たとえば、ハルシネーション（幻覚）と呼ばれる生成AIが事実とは異なる不正確な出力を生成するリスクや、他人の著作物を侵害するリスク、生成AIが持つモデルに埋め込まれたバイアスにより発生するリスク、などが指摘されています。

生成AIがもたらす新たなリスク

リスク	説明
ミスと“幻覚”	生成AIが実在しないものを生成したり、人間同様の行動を取ることがある。これは、生成AIが言語の使用法を学ぶのみならず、世界の構造を十分に把握していないため。この問題に対処するためには、モデルの不確実性や限界について透明性を高める必要がある。
プライバシーと守秘義務	生成型AIモデルが学習データを記憶するという問題で、プライバシーや著作権の侵害へと繋がる恐れがある。具体的には、モデルが個人情報や機密情報を再現すること、著作権を有する素材を許可なく使用するなど。対策として、学習データの選定や保護に十分な注意を払うべきである。
偽情報、毒性、サイバー脅威の拡大	生成型AIが大量の偽コンテンツを生成・拡散し、デマやオンライン害悪の原因となる問題。人々の判別が困難となり、誤情報に騙される危険が増大する。解決策としてAI生成コンテンツの検出とラベル付けが必要である。
著作権への挑戦への時代	生成型AIが著作権素材を学習や模倣することで、著作権侵害の問題を引き起こす可能性があるという問題。モデルの行動がオリジナルの創作物を害する恐れがある。透明性や法的基盤の強化が解決策として挙げられる。
川下アプリケーションに響く、埋め込まれたバイアス	生成型AIが学習データの偏見を増幅する問題である。この結果、不公平や差別的な出力が生じる可能性がある。学習データの選択と品質への注意が求められる。
価値観、整合性、良い指示の難しさ	生成型AIモデルが人間の価値や目標と一致しないかもしれないという問題について指摘。モデルが危険な結果を生む可能性がある。フィードバックと原則を用いてモデルの安全性を確保することが必要。

　これらのリスクを放置していると、社会的な不平等や不公正を助長し、金融機関の信頼性やブランドイメージを損なうことにもなりかねません。それだけでなく、金融サービスそのものに対する信頼が損なわれる可能性もあるでしょう。新たなリスクに対応するには、新たなアプローチで望む必要があります。

　いずれのリスクも金融機関にとって重大な問題であり、適切に対処しなければ金融システム全体の安定性や持続性に影響を及ぼす可能性があります。とりわけ、バイアスの問題については顧客に直接的な損害を及ぼす可能性が高いという点で特に留意すべき点ではないでしょうか。

【次ページ】生成AIが生むバイアスや差別の問題、金融機関に必要な「責任あるAI」