研究人员提出多尺度层注意力(MSLA)方法,通过显式建模多尺度与跨层特征交互,在大规模甲骨文数据集上持续优于现有注意力机制,同时保持计算效率。
AI 新闻实时情报
实时监测
实时更新
实时跟踪可信来源,保留出处、权限和站内阅读模式,把噪声压成可读情报。
实时更新
2026-07-02
SLIM-RL是一种新的强化学习方法,用于扩散大语言模型(dLLMs)。它通过τ预算解码器限制每步的承诺风险,并采用无迹随机掩码目标与方差降低技术,避免了TraceRL方法中昂贵的轨迹切分。在SDAR-4B上,SLIM-RL仅用0.46倍的训练样本就达到了与TraceRL相当的MATH500准确率,在数学和代码基准测试上均优于TraceRL。
本研究应用机器学习管道分析619个印加奇普(结绳记事装置),通过无监督聚类发现三个结构组,监督分类达到86% F1分数,并通过SHAP识别出绳索捻向为帝国风格的关键区分特征。研究还揭示了殖民时期博物馆收藏的结构印记,并独立验证了圣谷奇普的半族结构。
ALEE是一个新的评估框架,利用抽象意义表示(AMR)生成英语最小对,并配以目标语言翻译,从而实现对任意语言中文本嵌入模型的细粒度诊断。研究覆盖275多种语言和多个嵌入模型,发现不同语言、文本长度和语言现象间性能差异显著。
该论文指出,现有知识型视觉问答(KB-VQA)基准存在系统性缺陷:标注答案无法从知识库推导、问题约束不足、视觉场景过于简单。这些缺陷使答案准确率成为误导性指标,导致模型排名失真和推理能力被高估。作者提出一套审计与修复协议以及多实体增强协议,重新评估后性能趋势明显改变,呼吁重新思考KB-VQA评估协议。
一项新研究发现,医疗大语言模型的幻觉可通过简单探针以较高准确率检测(AUROC 0.77-0.86),但检测信号在神经元中分布冗余且分散,即使识别出相关神经元也无法通过干预有效纠正幻觉,揭示了可读性与可控性之间的显著差距。
该研究构建了涵盖土耳其语五个主题(难民、以色列-巴勒斯坦冲突、反希腊情绪、特定族群/宗教群体、LGBTI+)和阿拉伯语一个主题(难民)的仇恨言论数据集,并开发了基于BERT的模型,用于仇恨类别分类、仇恨强度预测、目标识别和仇恨言论片段检测。
一项研究通过人类专家评分,评估前沿大语言模型在阿拉伯文化和社会语言学知识上的表现。该交叉评估框架测试模型在埃及和伊拉克阿拉伯语上的表现,发现GPT-5.4是最可靠的评判者,而隐含的文化推理仍然是主要挑战。
一篇发表于 ACL 2026 BigPicture 研讨会的论文探讨如何利用语言模型的潜空间来实现行为控制与可信度校准:作者提出引导向量以控制模型行为,并开发基于潜空间的校准器来判断模型输出何时可信。
大型语言模型在创意写作中面临二元困境:要么进行安全的表面编辑,要么进行破坏性的无控制情节扩展。研究人员提出Loom框架,基于叙事学中故事与话语的区分,通过三层流水线和意图中心符号学思维链实现精准控制,在保持事件结构完整性的同时提升描述强度。评估表明Loom成功解决了这一基本矛盾,在事实完整性和描述强度上均优于现有基线。
本文对Beckmann & Butlin (2026)关于LLM个体化的本体论框架提出质疑,认为其继承了未论证的跨体制共指假设。通过Qwen3-4B-Instruct和Mistral-7B-Instruct-v0.2上的个性拓扑实验,作者展示了四个经验性楔子,共同削弱该假设,并提出体制索引个体化:表征内容的身份单位是(载体,体制)对,而非仅载体。
联邦学习在带宽上面临双重瓶颈:模型大小限制了参数平均方法的合并频率,而类别数量使得每个探针的软标签蒸馏在大词汇量下变得不可行。TallyTrain通过仅传输每个参与者的argmax类别索引,将类别轴的通信量压缩到⌈log2C⌉比特,其中C是输出类别数。实验表明,在非独立同分布训练下,硬标签多数投票能有效过滤噪声,而软标签平均会放大噪声。TallyTrain在标准基准上匹配或超越软标签蒸馏,同时通信量降低多达三个数量级。此外,结合稀疏参数合并的带宽桥接变体在Pareto曲线上优于FedAvg、FedProx和FedDF。
Andrew G. Moore提交的arXiv论文提出一种纯反向传播算法,可将深度卷积网络训练为在Ising机高温Gibbs采样下进行热力学推理,在CIFAR-10和CIFAR-100上分别达到94.9%和76.0%的准确率,并建立了推理成本与精度、自相关时间之间的理论关系。
本研究提出一种基于可验证奖励的强化学习方法,用于训练校准的概率预测模型。通过引入无标签奖励(基于历史结果的状态条件经验胜率)和梯度屏蔽技术,解决了直接奖励真实结果导致的校准退化问题。在NFL比赛胜率预测测试中,7B参数模型仅使用该奖励训练,无需人工标签或监督微调,即达到了博彩市场的校准水平,并优于零样本前沿模型。
参数高效微调(PEFT)通常在固定基(空间域或傅里叶域)中重新参数化权重更新。本文提出分数傅里叶专家混合(Fractional-Fourier Mixture of Experts),每个专家具有可学习的分数傅里叶阶数,可在空间域和傅里叶域之间连续插值。通过将token路由到不同阶数的专家,模型可将低秩更新置于最紧凑的域中,且专家间自然去相关,减少干扰并提升多任务组合。该计算方法开销小,在多个基准上优于现有方法。
这篇论文提出 EVOTS,一个用进化神经架构搜索为多变量时间序列预测自动发现任务自适应 Transformer 类模型的框架。它采用模块化基因组编码注意力、前馈和投影组件,并通过修复机制保证结构合法,在 ETT 系列四个数据集、多种预测设置和 96 至 720 的预测步长上取得与强 Transformer 基线相当甚至更优的 MSE,同时报告了实际训练耗时。
一篇新论文证明,三种流行的语言模型推理训练方法——GRPO、Dr. GRPO 和 DAPO——本质上都是调整同一个数值:标准偏差,它衡量模型对同一问题的多次回答的分歧程度。论文揭示了组标准差恒等式,表明分歧程度直接决定训练更新的幅度,并基于Big-Math数据集和实际训练实验验证了这一发现。
FoGS是一种针对生存分析的新型合成数据生成方法,通过从多个生成器池中筛选样本而非直接生成,有效解决了小样本临床数据稀缺和隐私限制问题。在16个公共数据集上,该方法比传统单一生成器显著提升了模型性能,同时保持了隐私保护水平。
该研究通过SemiScope框架解耦半监督学习(SSL)管道中的分类器调优与联合优化效果,发现仅使用贝叶斯优化调优分类器即可恢复86%的性能提升,简化策略与完整联合优化效果相当。
生成模型作为物理模拟的可扩展替代方案,但通常无法确保输出符合守恒律、边界条件等物理约束。约束采样可以在推理时精确施加这些约束,但计算成本高昂。本文提出SNAP-FM,利用稀疏GPU非线性优化加速约束投影。通过ExaModels.jl和MadNLP.jl处理块稀疏雅可比矩阵和KKT系统,该方法在偏微分方程基准测试上实现了更快的非线性约束投影,同时保持约束满足。
研究人员提出“显化单元”协议,通过类型化元组结构自动组织神经网络组件的统计信息,使机制可解释性分析结果可重用、可查询,并在视觉与语言模型上验证了检索有效性和因果充分性、必要性。
字节跳动 Seed 团队发布 Seed2.0 模型系列,通过构建面向真实需求的前瞻性评估体系,重点攻克长尾知识与复杂指令遵循两大难题,并在推理、视觉理解和搜索能力上达到世界领先水平,已能处理初步的真实世界复杂任务。
一项 arXiv 论文研究在 Lewis 信号博弈中使用 LLM 智能体比较了五种记忆架构,发现记忆架构对协调可靠性的影响大于信道容量:拥有持久私有笔记本的智能体在容量过剩时表现最佳,而无状态智能体在中等容量后性能下降。
一项新研究提出“认知型AI素养”(EAIL)框架,通过分析大规模人机协同编程对话数据,发现78.8%的学生与生成式AI交互依赖非掌握导向目标和不可靠的认知策略,仅11.1%的交互表现出高认知参与。
该论文提出一种上下文赌博机团队博弈,用来刻画人类监督AI代理时的双向信息不对称:人类私下知道自己的奖励函数,AI私下知道所提动作的质量。作者基于CIRL和监督博弈,给出团队最优与短视规则两种一次性刻画,并指出两者之差是一片可避免的伤害区域。
RareDxR1是一种端到端的推理中心型大语言模型,可直接从非结构化临床笔记中进行开放域罕见病诊断。它通过知识内化和自主进化学习,绕过传统基于流水线的表型提取或检索增强生成方法的局限,并采用反思增强推理采样和双级课程强化学习来提升诊断准确性。实验表明,RareDxR1在多个基准测试中达到了最先进的水平。
该研究提出了一种面向航路空中交通管制的无冲突路径规划算法,基于解空间显示和管制员决策逻辑,整合三种基于意图的冲突检测方法,并比较了顶点搜索与边搜索两种变体。实验表明,在基于MUAC Delta扇区的场景中,SSPPV结合区域冲突检测平均仅需3.69毫秒即可计算出路径。
提出一种框架,将LLM生成的自由格式代码替换为类型化的JSON收集器配置,结合六类型收集器分类法、模板和效用函数约束、静态Airflow DAG执行、基于规则的质量检查和结构化反馈纠正。实验表明,在已验证任务中,框架执行阶段零LLM token消耗,且平均耗时最低。
本文提出MMM——一种源于跨学科协作研究实际需求的知识记录数据模型,并将其置于信息系统设计空间的比较分析之中。MMM以少量规范性约束结合自由文本标签的表达自由,旨在实现跨学科、跨应用、跨部署的互操作性,而无需语义收敛,并已通过参考实现和试点部署数据验证其可实现性与早期可用性。
一篇新论文提出了有限道德(Bounded Morality)框架,将有限理性扩展到道德认知领域,将伦理理论建模为在道德广度和深度之间权衡的局部高效策略。