ディープフェイクの精度が向上した理由

　ディープフェイク技術は、人工知能（AI）の進化とともに急速に発展し、その精度と影響力が増大している。「ディープフェイク」という用語自体は2017年末に掲示板サイトRedditのユーザーによって造られたものだが、その基礎となる技術はそれ以前から存在していた。

　初期のディープフェイクは、主に有名人の顔を別の動画に合成する程度のもので、品質も低く、明らかにAIによるフェイクと分かるものだった。

　しかし、2018年から2019年にかけて、AIを使った画像生成技術が向上し、より自然な表情や動きを再現できるようになった。日本でもディープフェイクが問題視されはじめたのはこのころだ。

　特に生成的敵対的ネットワーク（GAN）の登場により、画像の品質が大きく向上したのだ。

　ディープフェイクは、単純な画像処理（CNN）から始まり、GANによる高品質な画像生成、動画や音声の連続性を扱える技術（RNN）を経て、現在では文脈を理解し、より自然な表現を生成できる高度なAIへと進化した状態といえる。

　特に2020年以降、生成AIの屋台骨となるTransformers技術の登場により、ディープフェイクの品質が飛躍的に向上した。長時間の動画でも一貫性のある表情や動きを生成し、さらに画像、音声、テキストなど複数の要素を同時に扱えるようになったためだ。

　この技術進歩により、ディープフェイクの作成はより容易になり、その品質も著しく向上している。Sumsubの調査によると、2023年だけでディープフェイクコンテンツは、前年比3000％も増加したという。またVPNRanksが分析するところでは、2024年にはディープフェイク事案が最大で60％増加し、全世界で15万件に達する可能性があるという。

ディープフェイク悪用による被害

　ディープフェイク技術の進化に伴い、悪用による経済的損失も急速に拡大している。デロイトの予測によると、米国におけるディープフェイクを含む生成AI関連の詐欺被害額は、2023年の123億ドルから2027年には400億ドルに達する見込みという。


　これは年平均成長率32％に相当し、4年間で被害額が3倍以上に膨れ上がる計算となる。

　この予測の背景には、生成AI技術の急速な進歩と普及がある。新しい生成AIツールにより、低コストで容易にディープフェイク動画、偽造音声、詐欺文書を作成できるようになった。すでにダークウェブ上では、20ドルから数千ドルの範囲で詐欺ソフトウェアを販売する闇産業が形成されているという。

　特に金融サービス業界がディープフェイク詐欺の標的となるケースが目立つ。ウォール・ストリート・ジャーナルが伝えたSumsubのデータによると、2023年にフィンテック業界におけるディープフェイク事案は700％増加したという。音声ディープフェイクに限定しても、コンタクトセンターを狙った詐欺による年間損失額は推定50億ドルに上るとされている。

　2024年にはディープフェイク関連の事案が前年比60％増加し、全世界で15万件に達すると予測されているが、特に懸念されるのは、同意なしの性的コンテンツや本人確認書類の偽造など、個人のプライバシーや権利を侵害する犯罪の増加だ。VPNRanksは2024年末までに、ディープフェイクを利用した本人確認書類の偽造が5万件に達すると予測している。

　こうした状況に対し、銀行をはじめとする金融機関は、AIや機械学習を活用した新たな不正検知・防止システムの導入を進めている。たとえば、JPモルガンはメール詐欺の検出に大規模言語モデルを導入、マスターカードは1兆に上るデータポイントをスキャンして取引の正当性を予測する「Decision Intelligence」ツールを開発しているという。

　しかし、ディープフェイクの進化スピードは速く、既存の対策では追いつかないのが現状だ。米国財務省は報告書の中で、「既存のリスク管理フレームワークは、新たなAI技術をカバーするには不十分である可能性がある」と警鐘を鳴らす。 【次ページ】実際に起きたディープフェイクによる詐欺被害とは？