LLM（Large Language Model）= 大量のテキストを学習して「次に来る言葉」を予測する仕組み。ChatGPT や Claude の中身がこれ。すごく賢く見えるが、正体は 「文章の続きを確率で当てるマシン」。
- 「今日はいい天気」の次に「ですね」が来やすい、を天文学的な規模で覚えている
- 「賢い」のではなく「もっともらしい続き」を出しているだけ、という理解が実務では効く
- だから 知らないことでも自信満々に答える（＝ハルシネーション） 。この弱点を補うのが RAG
主要なLLMの種類と特徴
大きく「クローズド（API経由で借りる）」と「オープン（自分の環境に置ける）」に分かれる。
| モデル | 提供元 | 特徴・向いている用途 | |---|---|---| | Claude（Opus / Sonnet / Haiku） | Anthropic | 長文読解・コーディング・文章生成に強い。ai-conpany の主力 | | GPT（GPT-5系） | OpenAI | 汎用性が高く周辺ツール・エコシステムが最も厚い | | Gemini | Google | 画像・音声も扱えるマルチモーダル。超長文（数百万トークン級）を一度に読める | | Llama | Meta | オープンソース。自社サーバーに置ける＝データを外に出さない用途向き |
クローズドは「賢いけど毎回課金」、オープンは「無料だけど自分で動かす手間」。003 では機密データを扱うため、どちらを使うかはセキュリティ判断とセットになる。
押さえるべき主要概念
| 用語 | ざっくり意味 | なぜ大事か | |---|---|---| | トークン | 文章を区切った最小単位（単語や文字の断片）。課金・上限の単位 | 日本語はだいたい 1文字 ≒ 1〜2トークン。長い入力＝高コスト | | コンテキストウィンドウ | 一度に読み書きできるトークンの上限 | ここを超えると古い会話を「忘れる」。長い資料を渡す時の制約 | | 温度（temperature） | 出力のランダムさ。低い＝堅実、高い＝発想的 | 事実回答は低め、アイデア出しは高めに調整する | | プロンプト | LLMへの指示文。入力そのもの | 良い指示＝良い出力。プロンプト設計が精度を左右する | | システムプロンプト | AIの役割・前提を固定する土台の指示 | 「あなたは丁寧な受付です」等でキャラや制約を固定 | | ファインチューニング | 特定用途に追加学習させて専用化する | コスト高。多くの用途は RAG やプロンプトで足りる |
トークンとコンテキストの直感
- 各モデルには一度に読めるトークン上限があり、Geminiの一部モデルは数百万トークン級の超長文を一度に読める
- 「全部読ませればいい」ではなく「必要な所だけ渡す」方が速くて安い ← ここが RAG につながる
ビジネス活用の観点（003で使う場面）
003（AI導入支援 / 分身AI）では LLM をこう使う:
- 社長の判断データを学習させた「分身AI」の頭脳 — 質問に社長の考え方で答える中身が LLM
- 顧客ナレッジの要約・整形 — 議事録・マニュアルを読ませて要点を出す
- チャットBot の応答生成 — 顧客からの問い合わせに一次回答
実務で必ずセットになる注意
- ハルシネーション対策 — LLM単体は平気で嘘をつく。事実に基づかせるため RAG で社内資料を「参照させる」
- 機密データの扱い — 顧客データを外部APIに送る設計は、送信前マスキング・データ所在地の確認が前提（003セキュリティ方針）
- コストは従量 — トークン課金なので、長い入力の垂れ流しは避け、必要な文脈だけ渡す