- 2024/08/15 掲載
生成AIのうそ見破れ=技術開発が加速、法規制見据え
生成AI(人工知能)による「フェイク(うそ)ニュース」を見破るため、電機大手などが技術開発を急いでいる。AI自身がつくり出す偽情報「ハルシネーション(幻覚)」も社会問題化。世界的に法規制の流れが強まる中、急速な普及で表面化する課題の解決に力を入れている。
日立製作所はこのほど、生成AIが作成した文章かどうかを見分ける技術を開発した。複数の類義語の中から、AIの使用が判別できる単語を、お札の偽造防止技術になぞらえた「透かし」として設定。この単語が多用されていれば、AIによる「透かし入り」の文章と見なす仕組み。
「透かし」を多重に設定することで判別の精度を高める。プログラミング言語を含め、さまざまな言語にも対応可能だ。こうした「電子透かし」技術は、画像や動画でも開発・導入が進んでおり、先端AIイノベーションセンタの永塚光一氏は「各国で法規制が急速に進んでいる。生成元を示す技術の開発は加速しそうだ」と話す。
富士通が開発したのは、生成AIの回答の根拠を抽出・検証し、矛盾点を提示する技術。例えば、道を渡ろうとする人の画像から、AIが道路交通法違反を見つけ、それが間違っている可能性がある場合、矛盾点を示しながら「ハルシネーションが疑われます」などと指摘する。
同社はこのほか、SNSに投稿された文章や画像などからフェイクニュースの検知や社会的影響度を評価する技術も、2027年度までに開発する方針だ。
生成AIを巡っては、フェイクニュースを選挙や被災地で悪用する例が世界中で頻発。このため欧州連合(EU)では5月、生成AIを包括的に規制する「AI法」が成立した。日本政府も今月から法規制の議論に着手、早ければ来年の通常国会に関連法案の提出を目指している。
【時事通信社】 〔写真説明〕日立製作所が開発した、生成AI(人工知能)の文章に「透かし」を入れる技術のデモ画面(同社提供) 〔写真説明〕富士通が開発した、生成AI(人工知能)が誤った情報を作り出す「ハルシネーション(幻覚)」の有無を判定する技術のデモ=6月4日、川崎市
PR
PR
PR