ビジネスへの生成AIの活用は、顧客体験の改善、社内業務プロセスの最適化、IT開発・運用の効率化、基幹業務オペレーションの改善など、幅広い分野で期待されている。特に生成AIを用いたチャットボットによる顧客接点や顧客体験の向上は、効果が明確に現れやすい領域と言われている。

　最近では、RAGと呼ばれる検索機能を組み込んだ生成AIの強化が進み、企業固有の情報や最新情報を反映してチャットボットの回答精度を高める試みが増えている。

　多くの組織でRAGの取り組みはPoC段階にあり、有意義だと評価されている。しかし、RAGはプロセスやデータの追加によるリスクの増大、アーキテクチャーの複雑化によるユースケース実現の困難さなど、新たな課題も浮上している。これらは各種業務への展開を妨げる要因となっている。

　それでは、これら課題をどう克服すれば良いのだろうか。RAGを味方に付け、実務で飛躍的な成果を上げる生成AIチャットボットの作り方を解説する。

　多様なチャットボット・ツールが乱立する中、IBMではRAGを活用しながら安全かつ効率的に利用できる生成AIプラットフォームを提供している。同社は2023年から「AI+（AIファースト）」というコンセプトを掲げ、現在の生成AIブームに対応。これに伴い、従来からあった人工知能システム「IBM Watson」を「IBM watsonx」としてリブランディングし、新たなプラットフォームとして展開している。

　日本IBM テクノロジー事業本部 データ・AI・オートメーション事業部の小山政宣氏は、「AIファーストを実現していくための4つの原則が、Open、Targeted、Trusted、Empoweringです」と語る。


　Open（オープン）はオープンイノベーションに臨む姿勢だ。IBMでは独自の基盤モデルである「IBM Granite」をオープンソースとして公開し、AIの進化を加速させることを目指している。Targeted（明確な対象）はビジネスのためのAIとして、企業での活用を想定して設計されていること。

　Trusted（信頼）については、信頼できるAIの提供だ。事実と違う内容の生成や、意図せぬ情報漏えいなど、人智を超えたAIのリスクが少しずつ顕在化してきているため、適切なガバナンスを通じてコントロールできる世界を目指している。

　最後のEmpowering（力を与える）は、適材適所で最適なAIを提供し企業の価値創造に寄与すること。小山氏は「これからは、企業や組織が独自のAIモデルを作り出す世界が広がっていくと考えています。そうしなければ、戦略的にAIを活用していくことが難しいでしょう」と話す。

　小山氏は生成AIを活用したチャットボットについて、特にカスタマーケアやカスタマーサービスの分野に焦点を当てて説明した。企業による対話型AIの利用は2016年ごろから始まったが、生成AIの登場によってその効果がさらに高まっているとし、チャットボットの導入期間別のROI（投資利益率）効果についての調査結果を示した。

　この調査によると、まだ導入していない企業や導入1年から2年の企業では、現在の状況と比べて117％のROI増加が見込まれる。3年から5年の企業では78％、5年以上導入を続けている企業でも約4割の効果向上が期待できるとされている。


　この背景には、生成AIによってチャットボットの応答品質が向上し、まるで人間が対応しているような自然な対話が可能になったことや、人間のエージェントやオペレーターへの支援ツールとして生成AIが活用できることが挙げられる。5年以上チャットボットを使い続けている企業においては、さらなる高度化を目指して生成AIの組み込みが期待されている。たとえば、顧客対応の無人化、高度な顧客分析、多言語対応などだ。小山氏は「インバウンド需要の増加に伴い、多言語対応が重要な要素となっています。この分野でも生成AIの活用により自動化がさらに進むと考えられます」と述べた。

　次に小山氏は、IBM watsonxを活用した生成AIチャットボットの事例を2件紹介した。

　まずはコンタクトセンターの導入事例として挙げられた、アリゾナ州マリコパ郡高等裁判所書記官のケースだ。ここでは結婚許可申請やパスポート更新といった住民サービスの窓口としてチャットボットを導入した。クラウドコミュニケーションプラットフォームのTwilioにIBM watsonx Assistantを組み合わせてチャットボットチャンネルを実装したのだ。

　導入効果として、完結率95.78％を達成した。これは問い合わせ全体のうち、チャットボットだけで完結できた割合を示している。ほぼすべての問い合わせをチャットボットで対応できるようになったことがわかる。その結果、オペレーターの作業時間が月当たり214時間削減され、大幅な効率化につながった。


　もう1つは、企業情報を多く保有し、企業の信用調査などのサービスを提供する世界的な企業D&B（Dun & Bradstreet）のケース。D&BはIBM watsonxを活用してAsk Procurement（調達）サービスのチャットボットを提供した。

　これによって、対話形式で企業情報の確認・閲覧が可能になった。最適な調達先を探す過程で、信用調査やデューデリジェンスも行える。調査だけでなく、調達仕様書（RFP）の作成支援もできるようにした。これら一連の流れをチャットウィンドウで対話形式にてワンストップで実現している。

「今後の生成AIチャットボットは、会話機能だけでなく、業務処理からドキュメント生成まで包括的に対応する総合的なツールへと進化していくと考えられます」（小山氏）


　小山氏はwatsonx AssistantでのRAG活用も紹介した。前述したとおり、一般的なRAGの仕組みでは、企業内外のさまざまなドキュメントを活用し、プロンプトを工夫する一方で、AIリスクの増加やアーキテクチャーの複雑化、そしてスケーラビリティの課題が指摘されている。

　IBM watsonxプラットフォームを活用したRAGではこれらの問題に対応する。AIガバナンスガードレール機能によってリスクを低減し、シンプルなアーキテクチャー構造でトータルコストを抑えられる。また、ビジネス用途に特化しており、Webや電話など複数のチャンネルとの連携が設定ベースで実現可能であるため、スケーラビリティも問題ない。


　小山氏は「ビジネスユースやコンタクトセンターなどでチャットボットを活用する際には、IBM watsonxを1つの選択肢として考慮していただければと思います」とアピールした。

　続いて、日本IBM Client Engineeringの鯉渕悟志氏がIBM watsonxを使ったチャットボットのデモンストレーションを行った。このデモンストレーションでは、ファイナンシャルプランナーの役割を担うチャットボットが、ユーザーから子どもの教育資金についての相談を受け、アドバイスに必要な情報を集めながら対話を進めていく様子が示された。

　ファイナンシャルプランナーには、アドバイスに必要な情報を収集する会話力、顧客の質問に柔軟に答える能力、専門性、最新の知識が求められる。これらの能力をIBMの生成AI活用基盤である「watsonx.ai」、チャットボットサービスの「watsonx Assistant」、文書検索サービスの「Watson Discovery」を用いて実現した。


　ユーザーが「教育資金について相談したい」と伝えると、チャットボットが元気なあいさつとともに必要な情報を収集し始める。このあいさつは生成AIによってリアルタイムで作成される。IBM Granite日本語版モデルは軽量なため、自然な返答をスピーディに生成できる。

　チャットボットは子どもの人数や年齢など、必要な情報をユーザーに順番に尋ね、回答後に簡易的なアドバイスと必要な教育資金の概算を提示した。その後、教育資金を貯める方法についての話題に移行し、ユーザーの現状を聞き取った。ユーザーが教育資金の貯蓄について不安を示すと、チャットボットはNISAを勧めるメッセージを生成した。

　ユーザーが「NISAについて詳しく知りたい」と質問すると、チャットボットはWatson Discoveryに登録された金融庁のWebサイト情報を基に、watsonx.aiと組み合わせたRAGによって回答した。Watson DiscoveryはWebサイトを定期的に巡回して情報を収集するよう設定できる。これにより、最新かつ正確な情報に基づいた対話が可能になる。

　さらに、新しいNISAと従来のNISAの違いを尋ねると、チャットボットは投資枠の違いについて回答した。実は、現在のIBM Graniteモデルは新しいNISAの情報を学習データに含んでいない。しかしWatson Discoveryと組み合わせることで、最新情報や顧客固有の情報にも対応できるのだ。

　IBMは、生成AIの効果を体験し導入検討に活用できるwatsonxプラットフォームの検証プログラムを提供している。このプログラムでは、顧客の要望確認から始まり、課題やユースケースの特定、パイロットプロダクトの作成まで、顧客とIBMの専門家が協力して進める。各段階は顧客のニーズに応じてカスタマイズ可能で、生成AIの具体的な効果を迅速に体感できるよう設計されている。

　鯉渕氏は最後に「明確な目標がある場合は価値検証から始められますし、基礎から学びたい方は製品知識から始めることもできます。生成AIの可能性を探る場合は、精度評価に焦点を当てることも可能です。生成AIの実力を直接体験するには、このプログラムが最適な選択肢だと考えています」とコメントした。