AIの内部動作を解説：コードで理解する大規模言語モデル

要点

• LLMはBPEアルゴリズムでテキストをサブワードトークンに分解し、埋め込みベクトルに変換した後、位置エンコーディングを付加する。
• Transformerアーキテクチャでは自己注意機構により各トークンが先行トークンに注意を向け、積み重ねられた層を通じて文脈を構築する。
• 訓練は大規模テキストコーパスでの事前学習と、人間の選好に合わせるための後訓練（RLHF/DPO/CAI）の二段階で行われる。
• スケーリング技術には混合専門家モデル、マルチモーダルエンコーダ、量子化があり、ツール使用やRAGなどの高レベル機能はコアパイプライン上に構築される。