金融機関の生成AI活用とAIガバナンス：金融庁AIディスカッションペーパー第1.1版の要点

金融機関の生成AI活用の現状

金融機関の生成AI利用は、この2年で「試す段階」から「使う段階」に移りました。日本銀行の2026年度アンケート（2026年8月6日公表、取引先金融機関150先が対象）では、9割強の金融機関が生成AIを利用または試行しています。2024年の日本銀行の調査では、利用済みは約3割、試行中を含めて約6割でした。

2026年度調査によれば、利用は汎用的な事務処理から顧客情報を活用するコア業務へ広がっています。一方で、ガバナンス、サードパーティリスク管理、セーフティ・セキュリティについては「改善の余地がある」または「検討中」と答えた先が多く、管理面の整備はなお途上です。

AIディスカッションペーパー第1.1版とは

AIディスカッションペーパーとは、金融庁が金融分野におけるAIのユースケース、課題、取組事例と今後の対応の方向性を整理した文書です。第1.1版（副題「金融分野における AI の健全な利活用の促進に向けた初期的な論点整理」）は2026年3月3日に公表されました。

第1.1版で加わった3つのポイント

1. 顧客向けサービスのリスク低減策を4つの局面に整理し、金融庁が相談・照会に対応する際の参照とした
2. 証券会社がシステム関連の子会社にAIシステムの開発を委託する際、非公開情報を含む顧客との会話データ等を提供しうるという考え方を示した
3. 経営トップが先導して業務効率化や新たなビジネスの創出を具体的に進めるフェーズに入ったと位置づけた

金融庁の基本スタンスは技術中立で、既存の法令等はAIを使うかどうかに関わらず適用されます。同時に本文は、技術革新に取り残される「チャレンジしないリスク」も認識すべきだとし、規制の適用関係の明確化などを通じてセーフハーバーの提供に努めるとしています。適用関係を確認したいときの窓口として、金融庁の「FinTechサポートデスク」（2025年12月までに相談2,603件）も紹介されています。

生成AIのユースケース：3つの類型

AIディスカッションペーパーは、生成AIのユースケースを「社内利用（業務効率化等）」「対顧客サービスへの間接的な利活用」「対顧客サービスへの直接利用」の3つに分けています。2024年の実態調査では社内利用にとどまる先が多数でしたが、今後は対顧客サービスでの活用を検討するという先も半数以上ありました。

第1.1版によれば、顧客向けサービスへの利用は、範囲・条件を絞ったサービス提供やその検討が行われる段階に至りました。AI官民フォーラムでは、2025年8月から問い合わせや住所変更などの手続きに生成AIを組み合わせたアバターが対応するサービスの事例が紹介されています。地域金融機関に向けては、金融庁が生成AIを活用したDX化の実証研究事業を予定しています。

全社的な課題：データ、ガバナンス、社内ルール、人材、投資対効果

生成AIの効果を左右するのは、モデルよりも組織側の準備です。AIディスカッションペーパーは全社的な課題として、データ整備、ガバナンスの構築、社内ルールの策定、専門人材の確保と社内教育、投資対効果を挙げています。

データ整備

アンケートでは約半数が学習データの確保や品質管理を課題に挙げ、古い社内規程が残っていたためにRAGの精度が上がらなかったという声もありました。AI官民フォーラムでは、目的を持たないデータ整備はコストの無駄になりかねないこと、データレイクに集約するか、MCP（Model Context Protocol）などで個々のデータベースをAIから参照させるかを見極めて設計することの重要性が指摘されました。

ガバナンスと社内ルール

多くの先が関連部署の連携による推進・管理体制を整えており、AIリスク管理規程で責任者と利用者の役割、AI固有リスクの定義、統制方針を明文化した例もあります。低リスクの社内利用はチェックリストに基づく現場判断に委ね、顧客向けなど高リスクの利用は専門部署が事前審査する、というリスクベースの運用も紹介されています。規程の整備では多くの先が「AI事業者ガイドライン」（第1.0版）を参考にしました。ルールを事前に固定せず、環境・リスク分析、ゴール設定、運用、評価のサイクルを高速で回す「アジャイル・ガバナンス」も重要な考え方とされています。

人材と投資対効果

AIの専門人材だけでなく、ソリューションを選んで運用を続ける人材や、現場とIT部門の橋渡し役も不足しており、ベンダー任せではノウハウや知財が組織に残りにくいという懸念があります。投資対効果では、外部の生成AIの多くが従量課金で利用に応じてコストが増えること、効果が見通しにくいことが課題です。PoCの段階では利用者数や利用件数などのKPIを置き、測定は短いサイクルで、評価は長い時間軸で行うべきとの意見が示されています。

モデル・リスク管理、外部事業者、情報セキュリティ

生成AIのモデルも、他のモデルと同じくモデル・リスク管理の対象です。AIディスカッションペーパーは、金融庁の「モデル・リスク管理に関する原則」（2021年11月）のリスクベース・アプローチを踏まえ、重要なAIモデルを一覧で管理するモデル・インベントリーなどを準備することが考えられるとしています。同じ入力に異なる出力を返しうる、基盤モデルが外部事業者から提供され頻繁に更新される、といった特性から検証は難しく、開発者から独立した検証者による本番前の検証と継続的な性能監視などの取組みが紹介されています。

外部事業者の選択と集中リスク

多くの金融機関にとって自前のモデル開発は現実的ではなく、外部事業者の基盤モデルを使うことになります。アンケートでは4割強が「適切なサードパーティの選択」を課題に挙げました。金融安定理事会（FSB）の2024年11月の報告書は、サードパーティ依存と特定のサービスプロバイダーへの集中を、システミック・リスクを増大させうる脆弱性として指摘しています。取組事例は、既存の外部委託管理の枠組みの適用、オープンソース基盤による特定ベンダーへの依存の回避、モデルの知的財産権を自社に帰属させる契約などです。

情報セキュリティ

• 情報漏洩：クラウド型AIサービスに顧客情報や機密情報が送信され、プロンプトや出力がベンダー側の学習に使われるリスク。海外にサーバーを置くサービスではデータの海外移転の管理も課題
• プロンプトインジェクション：AIシステムの誤動作や機密情報の漏洩を引き起こしうる攻撃
• データポイズニングとモデルの推測：学習データやパラメータの改ざんや、大量のクエリでモデルの内部構造を推測して機密情報を引き出す攻撃
• シャドーIT：組織の許可なく外部のAIサービスを使うことによる情報漏洩や不正アクセスのリスク

入力データの制約や、入出力を管理できる自社専用環境は多くの先が導入していますが、ガードレールを実装しても敵対的入力を完全には防げないという課題感も共有されています。本文は、法務・コンプライアンス部門やモデル・リスク管理部門と連携した定期的な脆弱性診断やペネトレーションテスト、リスクに応じた内部監査といった統合的な対応が必要だとしています。

説明可能性・公平性・ハルシネーション・個人情報・規制対応

個々のAIシステムの課題として、AIディスカッションペーパーは説明可能性、公平性・バイアス、ハルシネーション、個人情報保護、規制対応の5つを挙げています。生成AIで課題が難しくなったという回答が最も多かったのは個人情報保護でした。

説明可能性と公平性

与信判断のような重要な判断にAIを使う場合は、学習データ、RAGで参照したデータ、プロンプト、出力の記録とモニタリングの観点から、金融機関自身が判断の合理性を検証・説明できるようにする必要があります。生成AIで完全な説明可能性を確保するのは極めて困難なため、ユースケースに応じた関係者の納得感が重要とされています。公平性では、生成AIは汎用モデルを使うことが多くモデル自体に起因する不公平は相対的に生じにくい一方、プロンプトや参照データに起因する不公平は生じうると整理されています。

ハルシネーション

ハルシネーションとは、実際のデータに基づかない出力が生成される事象です。参照データの整備や学習データの最新化が不十分だとRAGを使っても抑えにくく、古い情報が多く混在するとかえって起きやすくなります。多くの金融機関はゼロにならない前提で人によるレビューを組み込み、回答に根拠の文書を示す、情報が見つからなければその旨を答えさせる、といった工夫をしています。一方で本文は、AIに「絶対に誤ってはならない」という水準を課すことは適切ではないとも述べています。

個人情報保護

規律の適用関係が分かりにくいとされた4つの場面について、AI官民フォーラムで専門家が示した見解が本文に整理されています。

• 学習データとしての利用：個人情報保護委員会のQ&Aを参考に、AIの開発・学習は利用目的への明記が不要と整理できる場合がある。AIの利用（推論）は、顧客が合理的に予測・想定できるかが重要
• プロンプトへの入力：生成AIサービスの提供者を個人データの取扱いの委託先として管理し、提供したデータが金融機関の指示なく追加学習に使われないことなどを確認する
• 開発の外部委託：個人データの取扱いを含めて委託する場合は、必要かつ適切な委託先管理を行う
• 海外にサーバーを置くサービス：越境移転規制（個人情報保護法第28条第1項）はサーバーではなくAI事業者の所在地を軸に検討する。基準適合体制や安全管理措置としての外的環境の把握では、サーバーの所在地も考慮する

規制対応：証券会社の論点

第1.1版は、証券会社が顧客との会話データ等を生成AIに使う場面の論点も示しました。システム関連の子会社に開発を委託する場合、非公開情報の授受規制（金商業等府令第153条第1項第7号）の例外である「電子情報処理組織の保守及び管理」にはシステム開発も含むと解釈されてきたため、会話データ等から非公開情報を事前に除外しておく必要は必ずしもないと考えられるとしています。AIによる推奨が「勧誘」に当たるかも、AIを使わない場合と同様に個別に判断されます。

AIエージェントで何が変わるか

AIエージェントとは、特定の目標を達成するために自律的に行動するAIシステムで、LLMが思考や判断を担う「頭脳」として使われます。総務省・経済産業省の「AI事業者ガイドライン」第1.2版も、AIエージェントを「特定の目標を達成するために、環境を感知し自律的に行動する AI システム」と定義しています。

AI官民フォーラムでは、複数のエージェントが相互に作用するエージェンティックAIで金融業務の多くのプロセスを自動化できる可能性があるとの期待が示され、パフォーマンス監視、ライフサイクルとコスト、インベントリー、権限の4つを統合的に管理するプラットフォームの構築事例も紹介されました。日本銀行の2026年度調査も、AIエージェントやフロンティアAIの導入ではリスク管理とガバナンス面での対応が重要としています。

回答を返すだけのAIと違い、エージェントはツールを通じて他のシステムを操作します。OWASPの「Top 10 for LLM Applications 2026」は、過剰な機能・権限・自律性が有害な操作を招く「Excessive Agency（過剰な代理権限）」を3番目のリスクに挙げ、次のような対策を示しています。

• 呼び出せるツールと、ツールが持つ機能を必要最小限にする
• ツールが他のシステムに対して持つ権限を最小限にし、操作は利用者本人の権限の範囲で実行する
• 影響の大きい操作は、実行前に人が承認する
• 操作を許可するかどうかはLLMに判断させず、システム側のロジックで認可する

実装の論点：社内文書RAG、閉域・オンプレミスLLM、評価とガードレール

生成AIの導入形態は一様ではありません。金融庁の調査では約半数が汎用の生成AIをそのまま使う一方、社内データと組み合わせる先、用途ごとに複数の生成AIを使い分ける先、オンプレミスのオープンソースLLMや閉域環境の生成AIサービスを使う先も確認されています。

社内文書RAGの精度は参照データで決まる

RAG（検索拡張生成）とは、LLMによるテキスト生成に外部情報の検索を組み合わせて回答精度を高める技術で、モデル自体の再学習が要らない点が利点です。ただし、古い規程が残っていたり参照元の選定が不十分だったりすると精度は上がりません。文書の版管理と廃止文書の除外、回答への出典の表示、該当がなければ「見つからない」と答えさせる設計が基本です。

評価とガードレール

第1.1版が整理した顧客向けサービスのリスク低減策は、そのまま評価とガードレールの設計項目になります。「必ず儲かる」といった断定的な判断や不適切な回答を防ぐ重層的なガードレールを置き、機能しているかをリリース前に検証します。

1. 設計と事前検証：RAGによる回答範囲の制限、より高度なLLMの選択、ファインチューニング、回答のフィルタリング。AI対応と有人対応を選べる設計と段階的な適用
2. 顧客への適切な説明・注意喚起：生成AIの回答で誤りがありうることの告知、理解を確認するまで先へ進まない設計、根拠の明示、いつでも有人対応へ移れる導線
3. 検証・モニタリング：会話ログの保存とモニタリング、必要に応じたフォローアップ、偏った勧誘がないかの数値による検証、推奨ロジックの文書化と第三者レビュー
4. ガバナンス：経営陣を含む全社的な体制と現場職員までのリテラシー向上、用途に応じたリスクベースのアプローチ、ライフサイクルを通じたアジャイルなガバナンス

攻撃者の視点では、OWASP Top 10 for LLM Applications 2026の10項目で脅威を洗い出し、AIセーフティ・インスティテュート（AISI）のレッドチーミング手法ガイドに沿って、実施計画、攻撃の実施、結果のとりまとめと改善計画という工程を組み立てる方法があります。

関連するガイドラインと文書の地図

AIガバナンスを社内規程や管理態勢に落とし込むときは、AIディスカッションペーパーに次の文書を組み合わせて参照するのが実務的です。

FISCの安全対策基準・解説書には2025年3月の改訂でAIを対象とする基準項目が追加され（AIディスカッションペーパーの記載）、2026年3月の第14版でもAI・生成AIのガイドラインやレポートの内容が反映されました。政府全体では、2025年5月にAI推進法が成立し、2025年12月に人工知能基本計画が決定されています。

実務への落とし込み

金融機関の生成AI活用では、ユースケースの選定、利用環境の設計、評価とガードレール、AIモデルと外部サービスの台帳管理、規程と証跡の整備を一つの流れとして進める必要があります。株式会社findnは、FISC安全対策基準やCOBITなどのITガバナンス、AIツール導入を含むITコンサルティングと、社内データに基づくLLMアプリケーション（RAG）、AIエージェント、日本語LLMを含むモデルの選定、プライベート環境やオンプレミスへの導入、評価とガードレール、LLMOpsを含むシステム開発を提供しています。金融機関向けのITガバナンス基盤「shachi」は、リスク台帳、IT資産台帳、SBOM/AIBOM、監査証跡などの機能を備えています。