本研究以牛津大学的二战众包数字档案为例,评估了三种NLP方法(命名实体识别、关键词提取、主题建模)在自动提取关键词上的表现。结果表明,NLP有潜力但无单一方案完美,模型选择至关重要,且开源提取模型比生成式AI更负责任。
AI 新闻实时情报
实时监测
实时更新
实时跟踪可信来源,保留出处、权限和站内阅读模式,把噪声压成可读情报。
实时更新
2026-07-13
本研究探索利用机器学习自动对大型文学语料库进行主题索引,以伏尔泰作品为案例,比较了多种模型,其中Mistral系列4位量化模型F1得分达0.67,证明了自动索引的潜力。
一项新研究显示,三个参数量在1.46亿至30亿之间的小型双曲语言模型能够检测伴侣AI引发的谄媚、依赖和虚构记忆等问题,并通过创造性框架播种和设计性遗忘机制提升可信度。
本文提出字母词形还原方法,使用一对一RNN通过自监督逆转字符集简化,并在HTR后校正中取得显著改进;引入带状RNN从平行语料中扩展中世纪宪章缩写;还开发了字符语义相似度度量启发式方法,并提供了Python库。
该研究分析了11个GPT-2风格预训练模型的权重谱,发现跨层和组件共享的深度趋势,例如残差写入矩阵的规模增加和谱集中。研究者尝试利用这些谱模式作为初始化信号,但模仿谱特征的初始化方法未能带来性能提升,而直接重用预训练权重仍具竞争力。预训练谱作为结构诊断有用,但有效重用需要更丰富的信息。
一篇arXiv论文研究了如何利用基于检索增强生成(RAG)的大语言模型系统,把公司报告、宏观经济数据以及EDGAR上的SEC文件整合起来,生成自动化的投资者简报。作者在一项为期四周的研究中对9家公司进行数据扫描,并将生成的简报交给9位个人投资者评估其有用性。
知识图谱自动构建中常含事实错误,AgentKGV提出结合动态路由与迭代查询重写的智能LLM-RAG框架,并通过两阶段训练(基于蒸馏的SFT和轨迹级GRPO)提升准确性与成本效率。在T-REx基准上,宏F1比单轮RAG提升14.9个百分点,搜索调用次数减半。
一项新研究对语言模型中的涌现性失调(EM)现象提出了质疑,发现虽能复现EM,但失调与再对齐高度依赖于数据集表面特征,如回答长度差异,且先前报告的表征相变并不一致关联行为失调。这表明当前支持EM的证据不如之前声称的稳健,需要更严谨的评估协议。
HALO是一种混合自适应潜在精化方法,通过粗精化阶段和基于令牌评分的选择性第二阶段的潜在精化,在冻结的预训练语言模型上实现高效改进。在MMLU-Pro和GPQA-Diamond基准测试中,HALO的平均表现优于固定精化基线,且计算成本更低。
本文提出一种针对中等稀疏度(约50%)的LLM GPU推理方法,通过三层矩阵存储格式和联合使用稀疏张量核心与CUDA核心的SpMM内核,首次在现代HBM GPU上超越稠密矩阵乘法,相比SpInfer和FlashLLM分别实现最高1.64倍和1.41倍的加速。
高质量数据驱动机器学习进步,但数据产品定价因数据特有属性(如近乎零边际成本、收益不可预测)而极具挑战。传统方法中,成本法和收益法失效,市场比较法因缺乏标准化基准而难以应用。为此,研究者推出DaDaDa——首个数据产品定价数据集,包含全球9个主要数据市场的16,147个产品元数据。该数据集支持训练定价模型、建立基准,并可用于数据产品分类与检索。实验和原型系统证明了其在定价、分类、检索方面的有效性。
联邦持续学习(FCL)评估分布式客户端如何从变化的数据流中学习同时保留已学知识。现有评估由于同时改变数据集、任务划分、客户端数据划分、任务顺序、骨干网络、内存假设和报告规则而难以比较。本文提出HERO,一个异构感知的FCL基准库,通过解耦任务划分、客户端数据划分和客户端任务序列来构建基准流。HERO-Core引入α控制数据倾斜、ρ控制任务顺序不匹配。在CIFAR-100和TinyImageNet上的评估显示,方法行为在简单和异构设置下会变化,平均准确率可能掩盖底层客户端性能,且HERO接口可暴露域迁移难度。HERO发布基准流、配置、方法实现和报告脚本以支持可复现的、感知设置的FCL评估。
研究人员提出 LieBN,一个在李群上实现黎曼批量归一化的统一框架,利用左不变与右不变度量,为黎曼均值与方差提供理论保证,并在 SPD 流形、旋转矩阵群和满秩相关矩阵流形等九种几何结构上进行了实例化。
Director是一个新的分布式MoE服务系统,通过预测驱动的在线专家放置策略,在容量约束下以多项式时间优化专家位置,并在计算密集型阶段执行迁移,将端到端延迟降低11%至55%。
本文提出 Reward Transport 方法,将流匹配中噪声与数据的耦合视为对齐接口,通过最优传输在训练时对齐噪声坐标与分子奖励,推理时调节该坐标即可无需额外计算实现性质控制。
研究者提出StickyMoE,一种可微的路由一致性损失,在预训练阶段惩罚相邻token的专家切换,使专家分配在语义连贯的片段内保持稳定。实验表明,该方法将专家切换率降低多达60%,困惑度恶化不到4%,在质量与局部性之间帕累托优于事后微调方案。
本文提出有符号对称量化方法,解决标准对称量化器因整数范围不平衡导致的正异常值截断问题,同时避免非对称量化的运行时开销。理论分析表明该方法在ℓ2误差上条件最优,且88-99%的LLM权重组满足条件。实验在Qwen3、Llama3等模型上验证了困惑度和少样本准确率的提升。
iLENS是一个基于大语言模型(LLM)和混合专家系统(MoE)的可解释框架,用于预测阿尔茨海默病(AD)从前驱期向痴呆期的转化。它整合结构化神经影像测量和非结构化信息,通过LLM指导专家路由,不仅提供竞争性的预测性能,还能进行患者分型,并为路由决策提供透明、生物学合理的解释,弥合了高性能生存分析与可解释临床决策支持之间的差距。
该论文提出一个统一框架,将大语言模型输出分解为交互项,揭示知识蒸馏的共同机制是交互稀疏化,并据此设计即插即用的损失函数CIP,在多种蒸馏方法上稳定提升性能。
KV-PRM 提出一种直接读取 LLM 生成阶段产生的 KV 缓存、仅处理单个“验证 token”的过程奖励模型,将评分成本从 O(L²) 降至 O(L),在 MATH、GSM8K、AIME 基准上匹配或超越文本 PRM,最高减少 5000 倍 FLOPs、37 倍延迟和 34 倍内存占用。
研究者提出MedRealMM,一个基于中国互联网医院去标识化医患交互构建的大规模多模态在线医疗咨询基准。它包含5,620个真实多模态病例、覆盖64个临床科室,并用医生细化的病例级评分标准评估19个通用与医疗专用大模型,发现图像信息对可靠临床表现至关重要,且前沿模型在避免安全敏感错误方面仍落后于在线医生。
L-MAD框架系统评估了多智能体辩论在法律文本蕴含任务中的不同结构与聚合方法。通过赋予智能体不同专家角色,相比强单智能体基线最高提升8%。研究发现增加智能体数量可降低不一致性并提高准确率,但延长讨论轮次会导致“过度审议漂移”,智能体互相强化错误。该成果为高风险法律推理中协同多智能体系统的部署划定了实际边界与安全裕度。
本文介绍了一种神经代理控制框架,结合LLM规划器与时间序列基础模型(TimesFM),通过反事实物理注入机制确保物理安全,在SWaT数据集上表现优于LSTM和TCN,零幻觉动作执行。
ARCANA是一个协作式多智能体框架,在严格测试时间和硬件约束下求解ARC-AGI-2任务。它将任务分解为感知、假设生成、符号执行和反思改进,通过共享可微黑板和元控制器协调多个智能体,结合结构化程序搜索与自适应多轮纠正来提升推理效率和解质量。
研究人员将Vlasov方程平均场推导的形式化过程重构为一场策略游戏,由数学家指导AI系统将LaTeX文档转化为Lean 4证明助手代码。该案例成功完成了非线性Vlasov方程适定性问题的完整形式化,包括存在性、唯一性、稳定性估计和平均场极限,以及短时间叠加原理。其中约六分之一的形式化代码可作为独立模块被数学库复用。核心定理约一周完成,整个开发约一个月。
Long-Horizon-Terminal-Bench是一个包含46个长时任务的终端基准测试,涵盖实验复现、软件工程、多模态分析等9个类别。它通过细粒度子任务提供密集中间奖励和部分分数,更全面地评估AI智能体的能力。评估15个前沿模型发现,最强模型在部分奖励阈值0.95下通过率仅15.2%,完全正确通过率10.9%,平均通过率更低,表明仍有巨大改进空间。
GATS 提出一种结合 UCB1 树搜索与三层世界模型的规划框架,在推理阶段完全消除 LLM 调用,在多项规划任务中成功率高达 100%,远超 LATS 和 ReAct。
一篇新的arXiv论文提出CogniConsole,这是一个把推理时控制外部化的架构接口。作者通过489次面向可控性的探测表明,在相同的模型架构下,增加结构化的脚手架会系统性地降低输出方差和失败率,并认为许多失败模式源于控制规范不足,而非模型能力不足。
本文提出了一种针对人工智能安全基础问题——对抗鲁棒性的严格理论框架,将对抗鲁棒性问题转化为格遍历问题。引入声音认证和完全认证两种区间认证,开发了格遍历算子,并揭示了优化复杂性的不对称性:完全认证可在多项式时间内求解,而声音认证具有强难解性。最后通过ParallelepipedoNN系统进行了实证评估。
麻省理工学院和Thorn的研究人员开发了一种审计技术,通过分析模型的内部调整而非生成输出,来检测生成式AI模型是否被专门用于生成儿童性虐待材料(CSAM)。该方法在测试中达到100%准确率,具有可扩展性,且成本低廉,有望帮助平台和执法机构识别并移除有害模型。