根拠を示す金融 AI 基盤

「正しそう」では現場に出せない領域がある

金融機関のコンタクトセンター、とくに大手では、AI の回答に根拠が添えられていなければ、現場で使えません。生成 AI を「答えてくれる存在」として導入する一般的な発想と、ここで求められる前提はずれています。

回答の中身以上に、何を根拠にそう答えたかが、業務で使えるかどうかを決める。

業務効率化のために AI を入れる企業は増えています。ただ金融大手では、AI の出力に根拠を示すことが、監督官庁・社内コンプライアンス・お客さま対応の三方向から実務上求められます。「正しそうに見える回答」は、業務に出した瞬間に説明責任の問題に変わります。

本案件で必要だったのは「答える AI」ではなく、根拠とともに答える AIでした。両者の違いは、どこから設計を始めるかに表れます。

自社データを参照する AI を、根拠込みで設計する

自社の文書を検索し、その内容をもとに回答させる仕組み（RAG）は、すでに広く使われ始めています。しかし金融大手で使うには、「どの箇所を根拠にしたか」だけでなく、「その箇所がどの文書の、どの版の、誰が承認した情報なのか」まで追跡できる設計が必要です。

本案件では、機能の仕様より先に、出力の仕様を固めました。AI が回答と一緒に何を返し、どう振る舞うべきかを、次の3点で決めています。

• 答えに必ず引用根拠を添える：要約せず、出典文書の該当箇所をそのまま示す
• 引用した文書の出どころを一緒に返す：文書名・版・承認者をまとめて示す
• 回答できない問いには「回答できない」と言える：分からない部分を、推測で埋めて答えない

この3つを設計の出発点に置くか、後から付け足すかで、運用の負担は大きく変わります。後付けにすると、本番稼働後のどこかで破綻しやすくなります。

選定の決め手は、精度より根拠を説明できるかどうかだった

文書検索の方式と、文書を AI が検索できる形に変換するモデルを、それぞれ複数比較しました。精度のスコアは参考値にとどめました。重く見たのは、なぜその文書が根拠に選ばれたのかを、人が後からたどれるかどうかです。

比較の観点は、業務担当者と一緒に次の3つに整理しました。

• 精度（参考値）：業務担当者がブラインドテストで合格と判断する割合
• 再現性：同じ問いに、同じ根拠が返ってくるか
• 追跡可能性：誤った引用が混じったとき、原因をログから何分で特定できるか

根拠提示率96%と、社内に残した設計判断

数字で示せる成果は根拠提示率96%です。それ以上に重視したのは、なぜこの設計を選んだのかを、金融機関の社内チームが自分たちで説明し、再現できる状態を残すことでした。

• 社内 FAQ・業務マニュアルを対象に、回答ごとに正しい参照元文書を示せた割合（根拠提示率）で96%を達成
• 3ヶ月で本番稼働し、設計議事録と比較検証ログも納品物に含めた

要件定義の段階から、金融機関の社内チーム向けに AI の技術勉強会を立ち上げ、案件期間を通して続けました。取り上げたテーマは、自社データを参照する AI の基礎、文書を AI が検索できる形に変換する考え方、AI の答えが不確かなときにそれをどう示すか、の3つです。設計判断を一人の頭の中に残さないこと自体を、この案件では納品物の一部と捉えています。

金融に AI を入れる仕事は、賢さを売ることではなく、根拠を説明できる仕組みをつくることである。