誰もが AI を使っています。しかし、実際にどのように動作するのかを理解している人はほとんどいません。人々は トランスフォーマー、埋め込み、RAG、エージェント、RLHF などの言葉を、まるですでに誰もが知っているかのように使っています。実際は、ほとんどの人が知りません。そして正直なところ、AI のメンタルモデルを理解してしまえば、それほど複雑ではありません。ChatGPT も、Claude も、Midjourney も、Cursor も、コーディングエージェントも。以下の 20 のアイデアを理解すれば、すべてが腑に落ちます。博士号は必要ありません。専門用語は一切なし。シンプルな説明と視覚的なリソースだけです。これを保存しておいてください。きっとまた使うことになります。
パート 1: AI の実際の仕組み（すべての基盤となるもの）
1. ニューラルネットワーク
あらゆる AI モデルの頭脳。
ニューラルネットワークとは、層の連続です。
→ データは入力層に入り → 隠れ層を通過し → 予測として出力されます。
各接続には「重み」と呼ばれる小さなスコアがあり、あるニューロンが次のニューロンに与える影響の大きさを制御します。
トレーニングとは、結果が正確になるまで数十億の重みを調整することです。
シンプルなアイデア。しかし、規模が途方もない。
GPT-4 は約 1.8 兆のパラメータを持ちます。Claude 3 Opus は数千億のパラメータを持ちます。
すべては同じ基本概念から来ています。調整可能な接続を持つ層状のニューロンです。
2. トークン化
AI がテキストを読む前に、それをトークンと呼ばれる断片に分割します。
それらは常に完全な単語であるとは限りません。
"playing" → "play" + "ing"
"ChatGPT" → "Chat" + "G" + "PT"
"dog" → "dog"（そのまま）
なぜ完全な単語を使わないのでしょうか？
言語は混沌としています。新しい単語、タイプミス、複数の言語の混在。固定された単語の語彙は不可能なほど大きくなってしまいます。
トークンは再利用可能な構成要素です。
モデルが見たことのない単語であっても、それを既知の断片に分解することで理解できます。
目安: 1 トークン ≈ 0.75 語。
1000 トークン ≈ 750 語。
3. 埋め込み
テキストがトークン化されると、各トークンは数値に変換されます。
その数値が埋め込みであり、意味を表すベクトルです。
これは、言葉のための Google マップのようなものです。
→ 「Doctor」と「Nurse」は近くに配置されます
→ 「Doctor」と「Pizza」は遠くに配置されます
→ 「King」から「Man」を引き、「Woman」を足すと ≈ 「Queen」
モデルはあなたのように言葉を理解するわけではありません。
モデルは距離と方向を理解します。
これが以下の機能を支えています:
→ 意味検索
→ レコメンデーション
→ RAG システム
「意図を理解する」ものはすべて、内部で埋め込みを使用しています。
4. アテンション
「Apple」という単語は異なる意味を持ちます:
→ "I ate an Apple" → 果物
→ "I bought Apple stock" → 会社
埋め込みだけではこれを解決できません。
アテンションなら解決できます。
アテンションにより、各単語は文中の他のすべての単語を調べ、何が重要かを決定できます。
"She bought Apple stock" の場合:
→ "Apple" は "stock" と "bought" に特に注意を払います
→ モデルは会社であると結論付け、果物ではありません
アテンション以前は、モデルは左から右へ読んでいました。遅く、限定的でした。
アテンション以降、モデルは文全体を一度に見ることができます。
この単一のアイデアが現代の AI を解き放ちました。
5. トランスフォーマー
今日のほぼすべての AI モデルを支えるアーキテクチャ。
2017 年に "Attention Is All You Need" という研究論文で発表されました。
画期的だった点: 単語を一語ずつ読む代わりに、アテンションを使用してすべてを並行して処理します。
仕組み:
→ テキスト → トークン → 埋め込み → 積み重ねられたアテンション層 → 結果
各層が理解を洗練させます:
→ 初期の層: 文法、基本的な構造
→ 中間の層: 単語間の関係
→ 深い層: 複雑な推論
結果: トレーニングが格段に高速化され、はるかに優れた結果が得られます。
GPT、Claude、Gemini、Llama、Mistral。
それらはすべてトランスフォーマーです。
この単一のアーキテクチャを理解すれば、現代の AI を理解したことになります。
パート 2: LLM の仕組み（AI とチャットしているときに実際に何が起こっているのか）
6. LLM（大規模言語モデル）
LLM とは、膨大な量のテキストでトレーニングされたトランスフォーマーです。
書籍、Web サイト、コード、Wikipedia、Reddit。
数兆のトークン。
トレーニングタスクは、強力すぎるように聞こえないかもしれません:
→ 次のトークンを予測する。
それだけです。
しかし、これを数兆もの例に対して繰り返すと、驚くべきことが起こります。
モデルは文法を学習します。次に推論を。そして、コードの書き方、言語の翻訳、数学の問題の解き方を学習します。
誰もそれを指示したわけではありません。
それは、大規模な次のトークン予測から出現しました。
「大規模」とは、数千億のパラメータです。トレーニングコストは数百万ドルです。
ChatGPT、Claude、Gemini — これらはすべて LLM です。
7. コンテキストウィンドウ
すべての AI モデルにはメモリ制限があります。
それはコンテキストウィンドウと呼ばれます。
モデルが一度に「見ることのできる」最大トークン数です。あなたのプロンプト + その応答 + 会話履歴です。
初期の GPT: 約 4,000 トークン。GPT-4: 128,000 トークン。Claude 3.5: 200,000 トークン。Gemini 1.5 Pro: 1,000,000 トークン。
ウィンドウが大きいほど = より多くのコンテキスト = より良い回答。
しかし、落とし穴があります。
モデルはすべてを均等に読むわけではありません。
コンテキストの最初と最後に焦点を当てます。
中間は？ しばしば無視されます。
これは「中間の問題」と呼ばれます。
コンテキストウィンドウが大きいことと、完全なメモリはイコールではありません。
これを理解すると、なぜ AI があなたが明確に言及したことを時々「忘れる」のかが説明できます。
8. 温度
AI がテキストを生成するとき、毎回最も可能性の高い次の単語だけを選ぶわけではありません。
温度と呼ばれるダイヤルがあります。
→ 温度 = 0: 常に最も安全で予測可能な単語を選びます
→ 温度 = 1: より創造的に、より多様に選びます
→ 温度 = 2+: 極端になり、時には支離滅裂になります
低い温度 → 使用用途: コード、データ、要約
高い温度 → 使用用途: ブレインストーミング、クリエイティブライティング、バリエーション
ほとんどのツールはこれを自動で設定します。
しかし、これを理解することで、AI が時々「退屈」に感じられ、時には驚かせてくれる理由がわかります。
9. ハルシネーション（幻覚）
AI は自信満々に嘘をつきます。
意図的ではありません。文字通り、そうせざるを得ないのです。
その理由はこちらです。
LLM は真実を探しているのではありません。
最も可能性の高い次のトークンが何かを予測しているのです。
もし誤った記述が、トレーニングパターンに基づいて「次に来るべきもの」のように見えれば、それを生成します。
事実確認はありません。データベース参照もありません。純粋なパターンマッチングです。
そのため、次のようなことを行います:
→ 存在しない研究論文を引用する
→ 作成されたことのない API 関数をでっち上げる
→ 誤った歴史的な「事実」を完全な自信を持って述べる
これはハルシネーションと呼ばれます。
対策: 事実データに関しては、AI の出力を検証せずに決して信頼しないこと。
RAG（概念 16）を使用して、実際のデータに基づかせてください。
10. プロンプトエンジニアリング
尋ね方によってすべてが変わります。
同じモデル、同じ質問でも、フレームの仕方によって結果が大きく異なります。
悪いプロンプト: → 「API について説明して」 → 結果: 漠然とした表面的な回答
良いプロンプト: → 「REST API が認証をどのように処理するか説明してください。実際のコード例を挙げてください。私はジュニア開発者だと思ってください。」 → 結果: 具体的で構造化された、すぐに役立つ回答
プロンプトエンジニアリングとは、明確なコミュニケーションに他なりません。
実際に効果的なテクニック: → コンテキストを与える（「X のための SaaS を構築しています」） → 役割を割り当てる（「シニアバックエンドエンジニアとして行動してください」） → 例を示す（「これが私の好みのフォーマットです: ___」） → 出力について具体的に指定する（「番号付きリストで 5 つのオプションを提示してください」） → 複雑な要求をステップに分解する
プロンプトエンジニアリングはハックではありません。
それはモデルとコミュニケーションを取る主要な方法です。
パート 3: AI モデルの改善方法（生のモデルがどのようにして有用なプロダクトになるのか）
11. 転移学習
ゼロからのトレーニングはコストがかかります。
膨大な量のデータ、莫大な計算リソース、数週間のトレーニングが必要です。
転移学習がこれを解決します。
すでに大規模な汎用タスクでトレーニングされたモデルを取得し、特定の用途に適応させます。
ゼロから始める必要はありません。基盤の上に構築します。
次のように考えてください:
→ あなたはすでに自転車に乗る方法を知っています
→ その知識があるため、オートバイの乗り方を学ぶのははるかに速いです
→ すでに知っていることを転移するのです
これは、今日のほとんどすべての AI プロダクトが機能する方法です:
→ OpenAI が巨大な基盤モデルをトレーニングします
→ 企業はそれを自社の特定のユースケースにファインチューニングします
→ 数百万の計算コストと数か月のトレーニング時間を節約します
もはやゼロからトレーニングする企業はありません。
12. ファインチューニング
転移学習は概念を説明します。
ファインチューニングはそれを実行する方法です。
事前トレーニングされたモデルを取得し、より小さく特定のデータセットでトレーニングを続行します。
モデルはすでに「言語」を習得しています。
今、あなたはモデルにあなたの特定の分野を教えています。
例:
→ 臨床記録でファインチューニングされた医療モデル
→ 契約書でファインチューニングされた法律モデル
→ GitHub でファインチューニングされたコーディングモデル
結果: ユースケースに完璧に対応するモデル。
コスト: 数十億のパラメータを更新する必要があります。
これには、複数の GPU と本格的なインフラストラクチャという、大規模な計算リソースが必要です。
（これが、次の概念である LoRA が非常に重要である理由です。）
13. RLHF（人間のフィードバックからの強化学習）
ファインチューニングはモデルを特殊化します。
RLHF はモデルを役立つものにし、安全だと感じさせるものです。
RLHF なし: モデルは単にテキストを予測するだけです。流暢ですが、調整されていません。
RLHF あり: モデルは人間が実際に何を好むかを学習します。
仕組み:
→ プロンプトがモデルに表示される → モデルが複数の応答を生成する → 人間が応答をランク付けする → モデルは人間が好むものを好むように学習する
これを何千回も繰り返します。
モデルは「良い回答」の感覚を構築します:
→ 明確
→ 役立つ
→ 正直
→ 安全
これが、ChatGPT や Claude が単なるランダムなテキスト生成器ではなく、アシスタントのように感じられる理由です。
RLHF がなければ、それらは依然として印象的ではありますが、有用性と信頼性がはるかに低く、制御がはるかに困難になります。
14. LoRA（低ランク適応）
ファインチューニングは強力ですが、コストがかかります。
数十億のパラメータを更新するには、複数の GPU と本格的なインフラストラクチャが必要です。
LoRA がこれを解決します。
モデル全体を変更する代わりに、LoRA は:
→ 元のモデルを凍結したままにします
→ その上に小さなトレーニング可能な層を追加します
→ これらの層はモデル全体のサイズのごく一部です
重要な点: ファインチューニングにおけるほとんどの変更は小規模です。
モデル全体を書き換える必要はありません。
特定の小さな調整だけが必要です。
結果:
→ 単一のコンシューマー GPU でのファインチューニング: 可能
→ 1 つのベースモデルを保存し、異なる LoRA アダプターを交換する: 実用的
→ 大規模なストレージなしで複数の特殊化されたモデル: 実現
LoRA が、オープンソース AI が爆発的に普及した理由です。
突然、誰もがラップトップで強力なモデルをファインチューニングできるようになりました。
15. 量子化
モデルは巨大化しています。
それらを実行するには、大量のメモリと計算リソースが必要です。
量子化により、モデルは小さくなり、実行コストも安くなります。
方法: 各重みの精度を下げます。
完全な精度で保存された重みは 32 ビットを使用します。
4 ビットに量子化 → 8 分の 1 のサイズに。
驚くべき点: 品質の低下は驚くほど小さいことがよくあります。
これにより、現在以下のことが可能になっています:
→ MacBook で LLaMA を実行する
→ コンシューマー GPU でローカルに Mistral を実行する
→ 電話で強力なモデルを使用する
量子化がなければ、大規模なモデルはデータセンターに閉じ込められたままになります。
量子化により、あなたのマシン上で実行できます。
パート 4: 実際の AI システムの構築方法（あなたが実際に使うプロダクトの背後にあるもの）
16. RAG（検索拡張生成）
LLM がハルシネーションを起こすのは、記憶から答えようとするからです。
RAG は、まず情報を検索できるようにすることでこれを修正します。
仕組み:
ユーザーが質問をする
システムはナレッジベース内の関連文書を検索する
それらの文書がモデルにコンテキストとして与えられる
モデルは推測ではなく実際の情報を使って回答する
次のように考えてください:
→ 閉じた本の試験（RAG なし）: 記憶から答え、間違えることが多い
→ 開いた本の試験（RAG あり）: ソースを参照し、はるかに正確
なぜ強力なのか:
→ データが変更されても再トレーニングは不要、ドキュメントを更新するだけ
→ モデルは常に最新で正確な情報を扱う
→ ハルシネーションを劇的に削減
本格的な AI プロダクトはすべて RAG を使用しています。
カスタマーサポートボット、法律ツール、医療アシスタント、社内ナレッジベース。
17. ベクトルデータベース
RAG は適切な文書を高速に見つける必要があります。
しかし、キーワードだけでなく意味によって何百万もの文書を検索するにはどうすればよいでしょうか？
ベクトルデータベースです。
仕組み:
各文書は埋め込み（数値のベクトル）に変換されます。
これらのベクトルはデータベースに保存されます。
ユーザーが質問すると、質問もベクトルに変換されます。
データベースは質問ベクトルに最も近いベクトルを見つけます。
意味的に最も類似した文書を返します。
なぜこれがキーワード検索より優れているのか:
→ "heart disease treatment" は "cardiac care protocols" に関する文書を見つけます
→ 正確な単語が一致しなくても、意味が一致すれば見つかります
ツール: Pinecone、Qdrant、Weaviate、pgvector。
ベクトルデータベースは、AI システムがテキスト文字列を単に一致させるだけでなく「理解」することを可能にするものです。
18. AI エージェント
LLM はプロンプトに答えます。
AI エージェントは実際に物事を行います。
違い:
→ LLM: あなたが尋ね、それが答え、終了
→ エージェント: あなたが目標を与え、それが計画し、行動し、結果を確認し、調整し、繰り返します
エージェントのループ:
考える → 行動する → 観察する → 繰り返す
例: バグを修正するコーディングエージェント
→ 問題を読む
→ ソースコードを探索する
→ 欠陥を特定する
→ 修正を書く
→ テストを実行する
→ 何が失敗したかを観察する
→ 修正を調整する
→ 完了するまで繰り返す
モデルは頭脳です。ツールは手です。
エージェントはどのようなツールを使用できますか？
→ Web 検索
→ コード実行
→ ファイルシステム
→ API
→ メール / カレンダー
→ データベース
エージェントは、AI を単なるチャットボットから同僚へと変えるものです。
19. 思考の連鎖（Chain of Thought, CoT）
AI が間違った答えを出すことがあります。それは愚かだからではなく、答えに飛びつくのが速すぎるからです。
思考の連鎖がこれを修正します。
最終的な答えを直接尋ねる代わりに:
→ 「解いてください: 列車が時速 60 マイルで 2.5 時間走行した場合、距離はどれくらいですか？」
ステップバイステップで考えるように指示します:
→ 「ステップバイステップで解いてください: 速度 = 時速 60 マイル。時間 = 2.5 時間。距離 = 速度 × 時間 = ?」
モデルは推論をステップごとに進めます:
→ ステップ 1: 公式を特定する
→ ステップ 2: 数値を代入する
→ ステップ 3: 計算する
数学、論理、多段階の問題に対してはるかに信頼性が高くなります。
重要な点: モデルに考える余地を与え、単に反応させるのではありません。
これが、「ステップバイステップで考えて」や「これを注意深く推論して」といったプロンプトが実際に機能する理由です。
20. 拡散モデル
ここまではすべてテキストに関するものでした。
拡散モデルは、AI がどのように画像を生成するかを説明します。
そのプロセスは直感に反します。
モデルは描くことを学習するわけではありません。
画像を破壊することを学習します。
トレーニング:
→ 実際の画像から始める
→ 純粋なノイズになるまで段階的にノイズを追加する
→ モデルがこれを逆転させること、つまり段階的にノイズを除去することを学習する
生成:
→ 純粋なノイズから始める
→ モデルが段階的にノイズを除去する
→ テキストプロンプトによって導かれる
→ ランダム性から画像が現れる
この名前は物理学に由来します。粒子が媒質中をランダムに拡散する現象、例えばインクが水に広がるように。
ここでは、モデルはその拡散を逆転させることを学習します。
もはや画像だけではありません:
→ 動画（Sora、Runway）
→ 音声
→ 3D コンテンツ
→ 薬物分子
拡散モデルは、AI が視覚的なものを生成する方法です。
以上が 20 個です。まとめます。
AI の仕組み:
→ 1. ニューラルネットワーク: 層状のパターン学習
→ 2. トークン化: テキストを断片に分割
→ 3. 埋め込み: 意味を数値として表現
→ 4. アテンション: 文脈が意味を変える
→ 5. トランスフォーマー: すべての背後にあるアーキテクチャ
LLM の仕組み:
→ 6. LLM: 大規模な次のトークン予測
→ 7. コンテキストウィンドウ: メモリ制限と中間の問題
→ 8. 温度: 創造性のダイヤル
→ 9. ハルシネーション: 自信満々で間違っている
→ 10. プロンプトエンジニアリング: コミュニケーションの方法
モデルの改善方法:
→ 11. 転移学習: 既存のものの上に構築する
→ 12. ファインチューニング: モデルを特殊化する
→ 13. RLHF: 役立つように教える
→ 14. LoRA: コストをかけずにファインチューニング
→ 15. 量子化: 大きなモデルを小さなマシンで実行する
実際のシステムの構築方法:
→ 16. RAG: まず検索し、次に回答
→ 17. ベクトルデータベース: 意味で検索
→ 18. AI エージェント: 答えることから行うことへ
→ 19. 思考の連鎖: 考える余地を与える
→ 20. 拡散モデル: ノイズから画像へ
これで、AI が実際にどのように機能するか理解できました。
毎日 AI を使っている人のほとんどはこれを知りません。
そのギャップがあなたのアドバンテージです。
もしこれが役に立ったなら:
→ リポストしてあなたのネットワークと共有してください
→ @chesny をフォローして、このような解説をもっとご覧ください
→ 参照用に保存してください
私は AI、プロダクト構築、そしてあなたが寝ている間に機能するシステムについて書いています。
