Lilian Weng

缩放定律是深度学习中最重要的实证发现之一，描述了模型规模、数据集大小和计算量与损失之间的幂律关系。本文回顾了从早期理论到现代实证研究的发展，包括Kaplan等人的经典缩放定律和Chinchilla缩放定律，并讨论了计算最优分配等重要结论。

奖励黑客攻击是指强化学习智能体利用奖励函数的缺陷或歧义来获取高奖励，而没有真正学习或完成预期任务的行为。随着语言模型的普及和RLHF成为对齐训练的主要方法，奖励黑客攻击已成为关键的实际挑战。本文详细介绍了奖励黑客攻击的定义、类型、原因以及缓解策略。

本文由Lilian Weng撰写，深入探讨了大型语言模型（LLM）中的外部幻觉问题，即模型生成不基于上下文或世界知识的虚假内容。文章分析了幻觉的成因，包括预训练数据缺陷和微调新知识的风险，介绍了检索增强评估、采样一致性检测等幻觉检测方法，并综述了检索增强生成、验证链、采样调整、事实性微调等抗幻觉技术。

扩散模型在图像合成方面取得了显著成果，现在研究界正转向更困难的视频生成任务。本文回顾了从零开始设计扩散视频模型的方法，包括参数化、采样、3D U-Net和DiT架构，以及通过微调或免训练适应将图像模型扩展到视频的技术。重点介绍了VDM、Imagen Video、Sora、Make-A-Video、Tune-A-Video、Video LDM、Stable Video Diffusion、Lumiere、Text2Video-Zero和ControlVideo等代表性工作。

高质量数据是现代深度学习模型训练的燃料。本文探讨了如何通过人类标注收集高质量数据，包括任务设计、标注员选择与培训、数据聚合等操作步骤。文章还介绍了众包智慧、标注者一致性评估方法（如Cohen's Kappa、MACE）以及两种标注范式（描述性与规范性）。此外，讨论了利用影响函数、训练动态（如数据映射、遗忘事件、AUM）和噪声交叉验证来识别错误标签的技术。

本文全面调查了针对大型语言模型的对抗性攻击，涵盖威胁模型、攻击类型（包括标记操纵、基于梯度的攻击、越狱提示和红队测试技术），并讨论了黑盒和白盒设置下的挑战与方法。

本文深入探讨了以大语言模型（LLM）为核心控制器的自主智能体系统。系统包含规划、记忆和工具使用三大组件：规划通过任务分解和自我反思实现复杂任务处理；记忆分为短期（上下文学习）和长期（外部向量存储）；工具使用使智能体能调用外部API。文章还介绍了多个案例（如ChemCrow、生成式智能体）和概念验证（AutoGPT、GPT-Engineer、BabyAGI），并讨论了有限上下文窗口等挑战。

本文全面介绍了提示工程的概念、方法及其在大型语言模型中的应用，涵盖从基础提示到高级技术的各个方面，包括零样本、少样本、指令提示、自一致性采样、思维链、自动提示设计和增强型语言模型等。

本文是Lilian Weng对2020年《Transformer家族》一文的重大更新，篇幅翻倍。文章系统梳理了近年来Transformer架构的众多改进，涵盖注意力机制、位置编码、长上下文支持、自适应建模和高效注意力等核心主题，并纳入Transformer-XL、Rotary位置嵌入、ALiBi、通用Transformer等最新进展。

全面概述优化大型Transformer模型推理的技术，包括蒸馏、量化、剪枝、稀疏化、混合专家和架构改进。文章讨论了内存占用和低并行性等挑战，并提出了减少内存使用、计算和延迟的方法。