生成AIの課題

　近年、学習したデータをもとに新しいコンテンツやソリューションを生成してくれる、生成AIが話題となっています。生成AIは、従来、人間が行っていた認識や作業を自動化するような用途だけでなく、クリエイティブ分野で画像・文書・音楽などを生み出すような用途でも活用されるようになってきています。

　たとえば、2022年11月末にOpenAI社が送り出した対話型AI「ChatGPT」は、あたかも人間が生成したかのような的確な応答が話題となり、生成AIの可能性を世に知らしめることになりました。ChatGPTの利用者は2カ月で1億人を突破するなど、世界中に衝撃が広がりました。

　一方、生成AIについては、さまざまな課題が指摘されつつあるのも事実です。たとえば、ChatGPTには、誤った事実を回答してしまうという課題もあります。しかし、これは学習データの問題だと考えられるため、改善されていく可能性が高いです。むしろ、1億人以上の人がChatGPTを使っているという状況は驚くべきことであり、だからこそお金も人も動くし、新しいサービスが出てきているのです。

　また、生成AIで自動生成されるコンテンツには、潜在的に大きな課題があると言われています。たとえば、アルゴリズムによる人種などの差別といった偏り、あるいは意図しない情報の外部流出、嘘を含む情報生成などが起きる可能性があるほか、生成手段や生成物の知財権も課題と考えられています。

違反したら罰金アリ？ EUの「AI規制法（AI Act）」とは

　EUでは2023年6月14日に生成AIを含む包括的なAIの規制案である「AI規制法（AI Act）」が欧州議会の本会議において賛成多数で採択されました。今後、理事会との調整を行い、早ければ年内の合意を目指すことになります。

　EUのAI規制法はAI普及の経緯を踏まえ、EU加盟国全体に適用されるAI開発・使用に関する統一ルールです。AIの利益やリスクを管理し、AIが「人間が豊かで幸福な生活を実現するためのツール」になるようにしていくことがその目的であるとされています。

　欧州委員会は約2年前にも規制案を発表していましたが、今回のAI規制法には生成AIの急激な普及を受け、生成AIに関する考え方や要求事項が追加で盛り込まれています。

　具体的にはOpenAI社をはじめとする生成AIベンダーに対し、LLMの学習に使用されたデータの開示を義務付けることなどが追加されています。この目的は、生成AIの透明性を担保することにあると思われます。

　EUのAI規制法では、規制対象として、個人情報保護のみならず、産業分野でのリスク回避についても取り上げています。

　AI規制法では、AIが、その特性別にカテゴライズされ、リスクレベルに応じた規制が織り込まれています。EU市場に関係する日本企業をはじめ、EU域外企業が提供するAIも規制の対象となり、違反時には全世界売上ベースでの制裁金が課されることになります。産業界では負担増への警戒が広がっています。

　AI規制法は施行までに、まだ時間を要すると思われますが、AIの利用には今後、さまざまな規制がかかることになるのではないでしょうか。EUは、その価値観に反するような許容できないAIの使用や、耐え難いリスクを禁じるとしており、ベンダーなどの間では「少し規制が厳しすぎるのではないか」という意見も出ています。 【次ページ】AI規制法の「基本思想」と「ケース別・禁止事項」を解説