Public independent AI research blog; verify individual post license before full body display.
スケーリング則は深層学習における最も重要な経験的発見の一つであり、モデルサイズ、データセットサイズ、計算量と損失の間のべき乗関係を記述します。本稿では、初期の理論からKaplanらの古典的スケーリング則、Chinchillaスケーリング則までの発展を概観し、計算最適配分などの重要な結論を議論します。
報酬ハッキングとは、強化学習エージェントが報酬関数の欠陥や曖昧さを利用して、本来のタスクを完了せずに高い報酬を得る現象です。言語モデルの普及とRLHFの標準的な手法化に伴い、報酬ハッキングは重要な実践的課題となっています。この記事では、報酬ハッキングの定義、種類、原因、および緩和策について詳しく説明します。
この記事はLilian Wengによるもので、大規模言語モデル（LLM）における外部幻覚に焦点を当てています。外部幻覚とは、モデルが文脈や世界知識に基づかない虚偽のコンテンツを生成する現象です。原因として事前学習データの問題やファインチューニングによる新知識の導入、検出手法として検索拡張評価やサンプリングベースの手法、対策としてRAG、検証チェーン、サンプリング調整、ファインチューニングなどが解説されています。
拡散モデルは画像合成で顕著な成果を上げてきましたが、研究コミュニティはより困難な動画生成タスクに取り組んでいます。このタスクは画像生成のスーパーセットであり、時間的一貫性とより多くの世界知識が必要です。本記事では、ゼロからのモデル設計、3D U-NetやDiTアーキテクチャ、事前学習画像モデルの微調整や学習不要の適応手法について解説します。
高品質データは現代の深層学習モデル訓練の燃料です。この記事では、タスク設計、評価者選定とトレーニング、データ集約など、人間によるアノテーションを通じて高品質データを収集する方法を探ります。群衆の知恵、評価者間一致度の測定方法（Cohen's Kappa、MACEなど）、2つのアノテーションパラダイム（記述的 vs 規範的）についても説明します。さらに、影響関数、訓練ダイナミクス（データマップ、忘却イベント、AUMなど）、ノイズ付き交差検証を用いて誤ラベルデータを特定する手法について議論します。
大規模言語モデルに対する敵対的攻撃の包括的な調査を行い、脅威モデル、攻撃タイプ（トークン操作、勾配ベース攻撃、脱獄プロンプト、レッドチーミング技術）について説明し、ブラックボックスおよびホワイトボックス設定における課題と手法を議論します。
本記事では、大規模言語モデル（LLM）を中核とする自律エージェントシステムを探求する。システムは計画（タスク分解と自己反省）、記憶（短期：コンテキスト内学習、長期：外部ベクトルストア）、ツール使用（外部API呼び出し）の3つの主要コンポーネントで構成される。ChemCrowや生成エージェントなどのケーススタディ、AutoGPT、GPT-Engineer、BabyAGIなどの概念実証を紹介し、有限コンテキストウィンドウなどの課題についても議論する。
本記事では、大規模言語モデル（LLM）向けのプロンプトエンジニアリング手法について包括的に解説。基本プロンプト、インストラクションプロンプト、自己一致サンプリング、思考連鎖プロンプト、自動プロンプト設計、拡張言語モデルなどをカバー。
本記事は、Lilian Weng氏による2020年の「Transformerファミリー」記事の大幅なアップデートで、ページ数が2倍になりました。近年のTransformerアーキテクチャの多くの改良点を体系的にレビューし、アテンション機構、位置エンコーディング、長いコンテキストのサポート、適応的モデリング、効率的なアテンションなどをカバーし、Transformer-XL、Rotary位置埋め込み、ALiBi、Universal Transformerなどの最新の進歩を含んでいます。
大規模Transformerモデルの推論を最適化する手法の包括的な概要。蒸留、量子化、プルーニング、スパース化、Mixture-of-Experts、アーキテクチャ改善などを扱う。メモリフットプリントや並列化の低さといった課題を論じ、メモリ使用量、計算量、レイテンシを削減する方法を提示する。