OpenAIの複数の公式発表によれば、ChatGPTにおいてGPT-4oなどのGPT-4系レガシーモデルは順次廃止され、より高度な推論能力を持つGPT-5.2が新たな標準モデルとして移行しています。LLM（大規模言語モデル）の進化は目覚ましく、AI自身が博士号レベルの専門的な回答を生成できる時代へと突入しました。
しかし、企業内で独自のRAG（検索拡張生成）システムを構築する現場からは、次のような切実な声が数多く報告されています。
「最新のAPIモデルを組み込んでいるのに、社内マニュアルの検索精度が一向に上がらない」
「PDFを読み込ませたら、表組みの数字がでたらめに回答された」
多くの技術リーダーやプロジェクト責任者が、システムの精度を向上させるために、より賢いLLMへの乗り換えを検討したり、プロンプトエンジニアリングの改善に膨大な時間を費やしたりしています。
しかし、システム全体を俯瞰する実務的な視点から言えば、その努力の方向性は見直す必要があるかもしれません。
RAGシステムが期待通りに機能しない本当の理由は、推論エンジンである「LLM」の性能不足ではなく、入力している「データ」の消化不良にあります。どれほど優秀なAIモデルを採用しても、読み込ませる情報が整理されていなければ正しい答えは導き出せません。特に、国内企業の業務知識の塊である「PDFドキュメント」の扱いにおいて、決定的な見落としが生じやすい傾向があります。
AI時代のデータ戦略において、多くの開発現場が見過ごしがちな「ドキュメント構造化」という地味ながら極めて重要なテーマについて、技術的な裏付けとともに紐解いていきます。これは単なるツールの選定にとどまらず、企業の知的資産をいかにAIへ正確に理解させるかという、業務プロセス改善の根本的な課題へのアプローチです。
エグゼクティブサマリー：RAGプロジェクトの真のボトルネック
RAGシステムの構築において、しばしば「Retrieval（検索）」や「Generation（生成）」のプロセスに目が向けられがちです。しかし、システム全体の品質を決定づけているのは、実はその前段階である「Ingestion（データの取り込み）」です。
LLMの性能競争から「データ品質」競争へ
「Garbage In, Garbage Out（ゴミを入れればゴミが出てくる）」。これはコンピュータ科学の古くからの格言ですが、生成AIの時代においても、この原則は揺るぎません。むしろ、LLMという高度な推論エンジンを扱うからこそ、入力データの質が結果に与える影響は指数関数的に増大しています。
どんなに優秀な人間でも、シュレッダーにかけられて断片化した書類を渡されれば、内容を正しく理解することは不可能です。現在の多くのRAGシステムが行っている「単純なテキスト抽出」は、まさにPDFという整った文書を、デジタルのシュレッダーにかけているような状態と言えます。
日本企業に眠る「PDF」という巨大な非構造化資産
特に国内企業においては、業務プロセスの核心となる情報がPDF形式で保存されています。
- 複雑なレイアウトの仕様書
- 入り組んだ表組みを持つ決算資料
- 縦書きと横書きが混在する契約書
- 図解を多用したマニュアル
これらは人間が見れば一目瞭然ですが、コンピュータにとっては単なる「描画命令の集合体」に過ぎません。これらの非構造化データを、いかにしてLLMが理解可能な「構造化データ」に変換するか。これこそが、RAGプロジェクトの成否を分ける分水嶺（ぶんすいれい）となります。
市場の現状：なぜ従来のOCRとテキスト抽出では不十分なのか
では、なぜ既存のアプローチではうまくいかないのでしょうか。技術的な観点から、その限界を解き明かします。
「文字が読める」だけでは意味がない：構造情報の喪失問題
多くの開発現場で最初に試されるのが、pypdf や PyMuPDF といったオープンソースのライブラリ、あるいは一般的なOCR（光学文字認識）ツールです。これらは「文字を抽出する」ことに関しては優秀です。しかし、RAGの文脈においては構造的な課題を抱えています。
それは、「ドキュメントの論理構造」が失われてしまうという点です。
例えば、2段組みのレイアウトを想像してください。人間は左の段を上から下へ読み、次に右の段へ移ります。しかし、単純なテキスト抽出ツールは、しばしばページの上から下へ、左右の段を横断して一行ずつテキストを拾ってしまいます。その結果、全く無関係な文章が結合され、意味不明なテキストチャンク（塊）が生成されます。
複雑なレイアウト（段組み・表・図版）が引き起こすコンテキストの分断
さらに深刻なのが「表（テーブル）」の扱いです。
国内企業のドキュメントには、複雑な表組みが頻出します。セルが結合されていたり、ヘッダーが多層構造になっていたりするものです。これを単純にテキスト化すると、セルの値がただの単語の羅列として出力されてしまいます。
「売上：100万円」「利益：20万円」という関係性が失われ、「売上 利益 100万円 20万円」という文字列だけが残る。これをベクトル化して検索しても、LLMは「100万円」が何の数字なのかを正確に紐づけることができません。
また、ページごとに挿入されるヘッダーやフッター、ページ番号もノイズとなります。これらが文中に混ざり込むことで、文章の文脈（コンテキスト）が分断され、検索精度を著しく低下させる要因となっているのです。
技術トレンド：LlamaIndexが提唱する「ドキュメントの構造化」アプローチ
こうした課題に対し、現在先進的なアプローチを提示しているのが、データフレームワークである LlamaIndex です。多くの場合「RAGを簡単に作るライブラリ」と認識されていますが、システム全体を俯瞰する技術的な視点から言えば、これは「非構造化データのための次世代ETL（抽出・変換・格納）ツール」として捉えるべきです。
フラットなテキストから「階層的インデックス」へ
LlamaIndexの特徴は、ドキュメントを単なるフラットなテキストの塊として扱わず、「ノード（Node）」という単位で管理し、それらの関係性を保持しようとする点にあります。
例えば、ドキュメント全体を「親ノード」、各章を「子ノード」、さらに段落を「孫ノード」として扱うことができます。検索時には、細かい孫ノードの内容にヒットさせつつ、回答生成時には親ノードに含まれる全体の文脈を参照する。こうした「階層的インデックス」のアプローチにより、文脈を失わずに高精度な回答を生成することが可能になります。
LlamaParseの衝撃：PDFをMarkdownとして再構築する技術
そして現在、注目を集めているのが LlamaParse という専用のパーサー（解析器）です。
LlamaParseのアプローチは、従来とは一線を画します。PDFを単にテキスト解析するのではなく、「視覚的にレイアウトを理解」し、それをLLMが最も理解しやすい Markdown形式 に再構築するのです。
- 見出しは
##でマークアップされ、階層構造が維持される - 表組みはMarkdownのテーブル記法に変換され、列と行の関係が保たれる
- リストや箇条書きも構造として認識される
これにより、LLMは「ここは見出しだから重要なトピックだ」「これは表のデータだから、列の項目と値を対応させて読もう」と、人間と同じようにドキュメントの構造を理解できるようになります。これは、RAGの精度向上において非常に有効な手段と言えます。
マルチモーダルRAGへの布石：画像・図表の含意を理解する
さらに、AIモデルの進化は目覚ましく、マルチモーダル機能の活用がRAGの新たな標準になりつつあります。例えばOpenAIの公式発表によると、2026年2月にChatGPT（Web版）の標準モデルがChatGPTへと完全移行し、ChatGPTはWeb版での提供を終了しました。しかし、LlamaIndexなどのシステムから呼び出すAPI経由では、引き続きChatGPTのような強力な視覚理解モデルが利用可能です。また、Claudeなどのモデルも同様に高度な画像解析能力を備えています。
LlamaIndexのエコシステムはこうしたAPIモデルとシームレスに連携し、PDF内の図表やグラフを画像として切り出し、その内容をテキストで要約してインデックス化する高度なフローを実現しています。
「図1は、2023年の売上推移を示しており、第3四半期に急増している」といった情報をテキストとして保持しておくことで、これまでは無視されがちだった図表の内容に関する質問にも、高い精度で答えられるようになるのです。
日本固有の課題と先進的な攻略アプローチ
ただし、グローバルなツールをそのまま導入すれば全て解決するわけではありません。国内のシステム開発においては、日本語特有の課題を乗り越える必要があります。
日本語特有の「ハイコンテキスト」な帳票とレイアウト
日本のビジネス文書、特に役所への提出書類や製造業の仕様書は、世界的に見ても独特な構造を持っています。
- 罫線の多用: 欧米の文書がホワイトスペース（余白）で区切るのに対し、日本は罫線で枠を作る文化があります。
- セル結合の多発: 表計算ソフトのレイアウト文化がPDFにも継承され、複雑なセル結合が頻発します。
- ルビや注釈: 行間に小さな文字が入ることで、OCRが誤読する原因になります。
LlamaParse等の海外製ツールも進化していますが、複雑な帳票に対してはまだチューニングが必要な場面があります。ここでは、ツールの出力結果をそのまま利用するのではなく、ポストプロセス（後処理）としてPythonスクリプトによる正規化処理を挟むといった、実務的なエンジニアリングが求められます。
縦書き、ルビ、特殊フォントへの対応状況
縦書き文書も課題の一つです。多くのOCRエンジンは横書きを前提としており、縦書きの文章を正しく順序立てて認識することに苦労します。
ここでの現実的な解決策は、「用途に応じたエンジンの使い分け」です。一般的な文書にはLlamaParseを使い、縦書きや手書き文字が含まれる特殊な帳票には、日本語認識に定評のある国内ベンダーのOCR APIを組み合わせて、LlamaIndexのカスタムローダーとして実装する。こうしたハイブリッドな構成が、実務の現場では非常に有効です。
ハイブリッド検索（キーワード×ベクトル）における日本語処理の勘所
構造化データ抽出後の「検索（Retrieval）」においても、日本語ならではの工夫が必要です。
ベクトル検索（意味検索）は強力ですが、製品型番や「A-123」といった記号、専門用語の完全一致検索には弱点があります。日本語は同音異義語も多く、ベクトル空間での近接性が必ずしも意図と一致しないことがあります。
そのため、キーワード検索（BM25等）とベクトル検索を組み合わせる「ハイブリッド検索」の実装は不可欠です。さらに、LlamaIndexの Reciprocal Rank Fusion などのリランク（再順位付け）アルゴリズムを活用し、両者の結果を適切に統合することで、日本語環境における検索精度を劇的に向上させることができます。
今後の展望：RAGから「Agentic RAG」への進化
ドキュメントの構造化が進むと、その先にはどのような展開が待っているのでしょうか。単なる検索システムから、自律的に思考する「Agentic RAG（エージェント型RAG）」への進化が期待されています。
静的な検索から動的な推論へ：ドキュメント構造を利用したプランニング
従来のRAGは「質問に関連する箇所を探して答える」仕組みでした。しかし、Agentic RAGは「質問を解決するための計画（プラン）を立てる」ことが可能になります。
例えば、「2022年と2023年の決算短信を比較して、利益率が低下した主な要因を分析せよ」という指示があったとします。
構造化されたデータがあれば、エージェントは以下のように処理を進めます。
- 「2022年の決算短信」ドキュメントの「損益計算書」セクション（構造化済み）を特定する。
- 同様に「2023年」のデータを特定する。
- それぞれの数値を取得し、計算ツールを使って利益率を算出する。
- 「経営成績の分析」セクション（テキスト）を参照し、要因を探る。
- これらを統合して回答を作成する。
このように、ドキュメントの構造（セクションや表）をAPIのように利用して、AIが自律的に情報を収集・分析できるようになるのです。これは高度なデータ分析を自動化する上で大きな価値を持ちます。
非構造化データの「データベース化」がもたらすビジネスインパクト
長期的には、社内のあらゆるPDFが解析され、MarkdownやJSONといった構造化データとしてデータベースに蓄積されていくと考えられます。これは、今まで「人間が読むしかなかった」知識資産が、「プログラムからクエリ可能な」資産に変わることを意味します。
この変化は、業務プロセス改善やDX（デジタルトランスフォーメーション）の核心と言えるでしょう。RAGはその入り口に過ぎないのです。
意思決定者への提言：AI投資の優先順位を見直す
最後に、プロジェクトを統括するリーダーの方々へ向けた重要なポイントを整理します。AI導入を成功させるためには、投資の優先順位を見直す必要があります。
「モデル」への投資から「データパイプライン」への投資へ
最新のLLMモデルを導入することは魅力的です。しかし、真にビジネス価値を生むのは「自社独自のデータ」です。高性能なモデルの導入だけでなく、「自社のデータを適切に処理するパイプライン」の構築に予算とリソースを割り当てることが重要です。
LlamaIndexのようなフレームワークを使いこなし、社内ドキュメントを高度に構造化する技術力。これこそが、システム受託開発やAI導入支援の現場においても、他社が容易に模倣できない競争優位性となります。
今すぐ始めるべき自社データの「構造化診断」
まずは、自社のRAGシステムが参照しているデータを見直してみてください。PDFから抽出されたテキストは、人間が読んで理解できる状態になっているでしょうか。表組みの構造は保たれているでしょうか。
もしデータが整理されていない状態であれば、どれほど計算資源を投入しても期待する成果は得られません。逆に言えば、データさえ適切に構造化されていれば、比較的軽量なモデルでも驚くほど高性能なRAGを構築することが可能です。
本質を見極め、現場の課題解決に直結する足元のデータ整備から着実に進めていくことをお勧めします。
コメント