ファインチューニング・プロンプト・RAGの使い分け：自社データ活用の3つの選択肢
自社のデータをLLMに活用させる方法は、大きく**プロンプト（指示と文脈の工夫）・RAG（検索拡張生成）・ファインチューニング（追加学習）**の3つに整理できます。結論を先に述べると、この3つは「どれが高性能か」の序列ではなく、解いている問題が違います。プロンプトは「指示の伝え方」、RAGは「モデルが知らない知識の補給」、ファインチューニングは「振る舞いの定着」を担当します。選択を誤ると、安価に解決できる問題に数百万円を投じたり、逆に必要な投資を避けて精度が上がらなかったりします。
本記事は非エンジニアの方にも判断できる技術リテラシーの基礎として、3つの定義と役割、判断軸、よくある誤解、段階的な進め方を順に整理します。アーキテクチャ全体の判断（API利用・自前モデルを含む4形態）はLLM/AIをプロダクトに組み込む際のアーキテクチャ判断軸で扱っているため、本記事は「自社データをどう使うか」に絞ります。
3つの選択肢の定義と、それぞれが解く問題
| 選択肢 | 何をするか | モデル本体 | 解く問題 |
|---|---|---|---|
| プロンプト | 指示・例示・参考情報を入力に書く | 変更しない | 指示の曖昧さ、出力形式のばらつき |
| RAG | 質問に関連する社内文書を検索し、入力に添付する | 変更しない | モデルが知らない・最新でない知識の不足 |
| ファインチューニング | 自社のサンプルで追加学習し、モデルの重みを調整する | 変更する | 口調・形式・判断基準など振る舞いの一貫性 |
プロンプトとは、モデルへの入力文（指示・役割・出力例・制約）を設計することです。モデルを一切変更しないため、試行錯誤が数分で済みます。
RAG（Retrieval-Augmented Generation） とは、回答の前に社内文書やデータベースから関連箇所を検索し、それを入力に添えてモデルに答えさせる仕組みです。知識はモデルの外に置かれるため、文書を差し替えれば回答も更新されます。
ファインチューニングとは、数百〜数万件の「入力と望ましい出力」のペアでモデルを追加学習させ、重みそのものを調整することです。モデルの中身を変えるため、効果は持続しますが、更新には再学習が必要です。
整理すると、プロンプトとRAGは「入力側」を変える手法で、ファインチューニングは「モデル側」を変える手法です。知識の問題は入力側で、振る舞いの問題はモデル側で解くという切り分けが、以降の判断の土台になります。
判断軸：データ量・更新頻度・求める挙動・コスト
3つの選択肢は、次の4軸で比較すると選びやすくなります。
| 判断軸 | プロンプト | RAG | ファインチューニング |
|---|---|---|---|
| 求めるもの | 指示の明確化 | 最新・社内固有の知識 | 口調・形式・判断のクセ |
| 必要なデータ量 | ほぼ不要（数件の例示） | 文書が一定量必要（整備が前提） | 良質なペアが数百件以上 |
| 更新頻度への強さ | 即時に変更可能 | 文書を差し替えるだけで反映 | 再学習が必要で遅い |
| 初期コスト・工数 | 小 | 中（検索基盤・文書整備） | 大（データ作成・学習・評価） |
| 根拠の提示 | 難しい | 参照元を示せる | 難しい |
| 主なリスク | プロンプト肥大化 | 検索精度の不足 | 過学習・モデル更新への追随 |
判断の順序
実務では、次の順に自問すると迷いが減ります。
- プロンプトの改善で解決するか：出力形式、口調、手順の指示で直るなら、ここで終わりです。
- モデルが知らない情報が原因か：社内規程、製品仕様、顧客対応履歴など、知識の不足が原因ならRAGを検討します。
- 知識を渡しても振る舞いが安定しないか：専門用語の使い方、判定基準の一貫性、特定の文体の再現など、渡した知識を使いこなせない場合に限り、ファインチューニングを検討します。
ポイントは、コストと変更のしやすさが小さい順に試すことです。ファインチューニングは最後に検討する手段であり、最初の一手ではありません。
「ファインチューニングすれば賢くなる」という誤解
経営会議や投資の場でよく見かける誤解が、「自社データで追加学習すれば、自社に詳しいAIになる」という期待です。実際には次の3点で期待を下回ることが多くあります。
知識の正確な記憶は保証されない
追加学習は、モデルに文書の内容を逐語的に記憶させる仕組みではありません。学習後も、社内の規程や価格表を正確に答えられる保証はなく、もっともらしい誤答（ハルシネーション）が残ります。正確さが求められる知識は、根拠となる文書をその都度渡すRAGのほうが安定します。
更新のたびに再学習が必要になる
製品仕様や規程は変わります。ファインチューニング済みモデルは、変更のたびに学習データの作り直しと再学習、再評価が必要です。さらに、ベースとなるモデルが新世代に更新されると、追加学習をやり直すことになる場合もあります。更新頻度の高い知識とは相性が悪い手法です。
学習用データの作成が最大のコストになる
費用の中心は学習計算ではなく、良質な「入力と望ましい出力」のペアを作る人手です。担当者が数百件を作成・レビューする工数は、AI導入の見積りで見落とされやすい項目です。データ整備の考え方は中小企業のAI活用はどこから始めるかでも触れています。
ファインチューニングが有効な場面もあります。たとえば、問い合わせ回答の文体を企業ブランドに揃える、帳票の分類ルールを安定して適用する、特定形式のJSONを高い確率で出力させる、といった振る舞いの再現です。小型モデルに特定タスクを学習させ、推論コストを下げる目的でも使われます。
組み合わせパターンと段階的な進め方
3つは排他的ではなく、重ねて使うのが実務の標準です。
| パターン | 構成 | 向く場面 |
|---|---|---|
| A：プロンプトのみ | 指示と数件の例示 | 要約・文章作成・社内定型業務の補助 |
| B：プロンプト＋RAG | 指示に加え、社内文書を検索して添付 | 社内規程Q&A、製品サポート、ナレッジ検索 |
| C：プロンプト＋RAG＋ファインチューニング | 知識はRAG、振る舞いは追加学習 | 大量の定型業務で品質と一貫性を求める場合 |
段階的な進め方の目安
- 第1段階（1〜2週間）：プロンプトのみで業務の代表的な20〜30件を試し、正答率と失敗の型を記録します。
- 第2段階（1〜2か月）：失敗の原因が「知識の不足」ならRAGを導入します。文書整備と検索精度の評価が主な作業です。
- 第3段階（必要な場合のみ）：RAGで知識を渡しても出力の形式・判断が安定しない場合に、ファインチューニング用のデータ作成に進みます。
各段階で「何件中何件が期待どおりだったか」を同じ評価セットで測ることが、投資判断の根拠になります。評価の仕組みがないまま手法を変えると、改善したのか悪化したのか判断できません。
投資家・買収担当者の視点
AIスタートアップを評価する場合、「独自データでファインチューニングしている」という説明だけでは競争優位の根拠として不十分です。確認すべきは、何の問題を解くために使っているか（知識か振る舞いか）、学習データを誰がどう作り更新しているか、ベースモデルが更新されたときに再現できるかの3点です。競争優位の源泉の見方はAIスタートアップの競合優位性はどこで生まれるかで整理しています。
判断フローチャート
よくある質問
中小企業はどこから始めるべきですか？
プロンプトの整備から始めるのが現実的です。社内の定型業務10〜20件で試し、失敗の型を記録します。社内文書をAIに参照させたい場合はRAGを次の一手とし、ファインチューニングは大量の定型処理で品質の一貫性が事業上の課題になってから検討すれば十分です。人材が足りない場合の進め方は社内にAIがわかる人がいない問題の構造と解決パターンで整理しています。
3つを併用するとコストはどうなりますか？
プロンプトは人件費のみ、RAGは検索基盤と文書整備の費用が加わり、ファインチューニングは学習データ作成と評価の工数が最も大きくなります。併用すると運用の複雑さも増すため、評価セットで効果が確認できた段階でのみ次の手法を追加します。
機密情報はどう扱えばよいですか？
どの手法でも、入力した情報の取り扱いは利用するサービスの契約条件に依存します。RAGは参照する文書の権限管理が、ファインチューニングは学習データに含める情報の選別が論点になります。利用ルールの最低ラインは中小企業の生成AI利用ルールの作り方を参照してください。
まとめ
- プロンプト・RAG・ファインチューニングは序列ではなく役割分担です。知識の不足はRAG、振る舞いの定着はファインチューニング、指示の曖昧さはプロンプトで解きます。
- 「ファインチューニングすれば自社に詳しくなる」は誤解です。知識の正確性と更新性が必要なら、まずRAGを検討します。
- 進め方はコストと変更のしやすさが小さい順です。各段階で同じ評価セットを使い、効果を数字で確認してから次へ進みます。
自社の業務にどの手法が合うかは、現場の業務とデータを見ながら判断するのが確実です。