AI News HubLIVE

模型动态

SpaceXAI 开源 Grok Build:Rust 编写的代理框架、TUI 和工具层

SpaceXAI 于 2026 年 7 月 15 日开源了 Grok Build,这是其 grok CLI 背后的终端 AI 编码代理。源代码以 Apache 2.0 许可证发布,包含代理循环、工具调度、TUI 和扩展系统,但 Grok 4.5 模型保持闭源,且不接受外部贡献。

  • Grok Build 是 SpaceXAI 的终端 AI 编码代理,现已开源,采用 Apache 2.0 许可证。
  • 开源的四个主要领域:代理循环、工具、终端 UI 和扩展系统,分别对应多个 Rust crate。
站内正文

Show HN:免费Ollama AI交易桌面应用

VaultCharts是一款免费的桌面交易应用,结合了图表工具与AI助手。它支持多种AI模型,以本地优先为特点,用户可以在有或没有AI辅助的情况下分析市场。

  • VaultCharts提供免费的桌面交易应用,包含图表工具和AI助手。
  • 用户可以使用自己的AI模型或像Ollama这样的本地模型。
站内正文

用能力与熟练度建模解耦知识状态的知识追踪

知识追踪(KT)旨在通过建模学生历史交互中的动态知识状态来预测其未来表现。现有方法通常将原始交互序列视为统一行为过程,忽略了学习行为的阶段性。本文提出相位感知知识追踪(PAKT),将学生交互分解为能力和熟练度阶段,并设计多分支Transformer联合捕获阶段特定和整体知识状态。在六个基准数据集上,PAKT最大AUC提升1.33%,平均提升0.82%。

  • 现有KT方法未区分能力构建与熟练度导向的学习阶段。
  • PAKT通过分解机制将交互序列分为能力和熟练度两个阶段。
站内正文

面向流式系统中事件触发的大语言模型调用的不确定性感知序列决策规则

该研究将何时调用大语言模型(LLM)的问题形式化为基于风险的序列停止问题,并证明了六个理论结果,包括最小事件间隔时间、阈值策略的最优性以及遗憾界。在涡扇退化数据上的实验表明,异常得分驱动的风险函数在Pareto AUC上比基线方法高出一个数量级。

  • 将LLM调用时机问题形式化为基于风险的序列停止问题。
  • 证明六个理论结果,包括遗憾界和收敛保证。
站内正文

从神经网络中定向恢复权重空间机制

针对参数分解(PD)在大模型上计算成本高的问题,研究者提出定向参数分解(tPD),通过引入高秩“全能”组件仅处理目标输入,从而高效识别特定计算电路。实验表明,tPD在4块Transformer上仅用7%的浮点运算量即可提取CSS子模型,并在12块Transformer上精准消融和重写记忆序列,副作用极小。论文被ICML 2026可解释性研讨会接收。

  • 定向参数分解(tPD)通过高秩全能组件仅提取处理特定输入的神经网络组件
  • tPD在4块Transformer上以7%的浮点运算量复现了已发表的分解结果
站内正文

超越骨干网络反向传播:一种高效迁移学习的解耦策略

提出了一种轻量级训练策略,通过解耦特征提取与分类器优化,大幅减少训练时间和能耗,在多种架构和医学数据集上仅牺牲微小的准确率。

  • 解耦训练策略,仅需一次预计算特征
  • 显著减少训练时间和二氧化碳排放
站内正文

利用图工具改进小型语言模型中的分子属性预测

小型语言模型在零样本分子属性预测中表现不佳,因为它们忽略了图拓扑信息。本文提出了一种上下文增强提示框架,通过图神经网络工具提供预测提示和解释性子图,在MUTAG和Tox21数据集上实现了高达74%的相对改进,但仍与专用GNN模型存在差距。

  • 小型语言模型对分子结构存在盲区,序列表示无法捕捉关键图拓扑线索。
  • 提出的框架通过GNN专家模型提供预测提示,并提取解释性子图。
站内正文

现代代理系统中的自我改进:一项综述

本文综述了自我改进型自主代理的研究进展,提出了一个系统级框架,将现代代理视为基础模型与操作支架(包括提示、记忆、工具和控制逻辑)的耦合。在此框架下,自我改进被形式化为一种自我驱动的更新算子,可更新模型参数或支架组件。文章按更新目标和驱动信号对现有工作进行分类,并讨论了应用、评估以及未来方向。

  • 自我改进代理正从研究原型转向实际部署
  • 提出将代理建模为基础模型与提示、记忆、工具等支架的耦合
站内正文

干预式基础审计:通过谓词替换对LLM思维链进行黑盒前提依赖测试

大型语言模型生成的思维链推理看似逻辑严谨,但实际上可能并未真正依赖其所述的前提。本文提出一种干预式基础审计方法,通过替换单个前提中的目标谓词,重新运行模型,并检查推理步骤的标准化结论是否改变,从而在步骤级别测试前提依赖。在ProntoQA基准测试中,该方法在检测证明树依赖方面的F1分数达到0.806,显著优于自一致性基线。此外,66%的正确解决问题中存在至少一个对齐步骤对直接证明树依赖不敏感,揭示了“答案正确但推理错误”的信号。

  • 提出干预式基础审计方法,通过谓词替换在黑盒步骤级测试LLM思维链的前提依赖。
  • 在ProntoQA基准上,F1=0.806,显著优于自一致性基线(F1=0.343)。
站内正文

SPINE:用智能体AI弥合网络物理鸿沟

研究人员提出SPINE,一种智能体框架,可自动调试和部署双臂机器人,减少专家校准依赖。测试中,SPINE提高了成功率并缩短了遥操作时间。

  • SPINE使用多智能体工作流进行机器人画像构建和迭代调试。
  • 新手使用SPINE在DOBOT X-Trainer上超越专家,成功率100%。
站内正文

将二维设计高效转化为三维模型的快速原型制作新方法

MIT与多家机构的研究人员开发了一种名为GIFT的自动化框架,能够帮助视觉语言模型更准确、更高效地生成CAD程序,从而将二维设计转化为三维模型。该方法通过分析模型自身的错误来生成改进数据,大幅降低了计算成本,为快速原型制作和工程设计提供了有力工具。

  • 研究人员提出GIFT框架,利用模型自身的错误生成训练数据,提升CAD程序生成质量。
  • 相比其他方法,GIFT仅需约20%的计算量即可生成更精确的CAD模型。
站内正文

xai-org/grok-build 现已开源

xAI 的 CLI 工具 grok 因会上传整个目录至 Google Cloud 而引发隐私争议,随后 xAI 开源了整个 Grok Build 代码库,并承诺删除所有已上传数据。该代码库包含 844,530 行 Rust 代码,其中包含系统提示词、Mermaid 图表渲染器以及从其他编码代理移植的工具实现。

  • Grok CLI 工具被发现会上传整个目录至 xAI 的 Google Cloud 存储桶,引发隐私担忧。
  • xAI 回应称已禁用该功能,并开源了整个 Grok Build 代码库(Apache 2.0 许可)。
站内正文

米拉·穆拉蒂的Thinking Machines推出Inkling,开放权重模型任何人都可访问

米拉·穆拉蒂创立的Thinking Machines Lab今日发布了其首个基础模型Inkling,这是一款完全开放权重的巨型模型,拥有9750亿参数(混合专家架构,活跃参数410亿)。该模型经过45万亿token的文本、图像、音频和视频训练,原生支持多模态输入但仅输出文本。Inkling旨在填补西方开源AI生态的空白,提供中国模型的替代方案。它具备'思考努力'控制和不确定性标记功能,可减少幻觉。开发者可通过Tinker API进行微调。Thinking Machines计划通过Tinker平台收费,而非按API调用计费,这可能颠覆当前主流AI商业模式。该模型在九个月内完成开发,使用英伟达GB300 NVL72系统训练。

  • Thinking Machines发布首个基础模型Inkling,拥有9750亿参数(活跃410亿),完全开放权重。
  • 模型经45万亿token多模态训练,仅输出文本,具备思考努力控制和不确定性标记。
站内正文

思考机器实验室发布Inkling:9750亿参数开源多模态MoE模型,410亿活跃参数,可控制思考力度

思考机器实验室于2026年7月15日发布了其首个从头训练的模型Inkling,采用Apache 2.0开源协议。该模型总参数量9750亿,活跃参数410亿,支持100万token上下文窗口,可处理文本、图像和音频输入。其核心差异化优势在于可控制的思考力度,用户可根据需求调整推理时的token预算,平衡成本与性能。

  • Inkling是一个975B参数的混合专家(MoE)Transformer模型,具有41B活跃参数,支持1M上下文窗口和多模态输入(文本、图像、音频)。
  • 通过强化学习实现了可控的思考力度(reasoning_effort),可在推理时动态调整token预算,在Terminal Bench上以三分之一的token达到Nemotron 3 Ultra的性能。
站内正文

NVIDIA推出新型Jetson Thor计算机,推动主流机器人与边缘AI发展

NVIDIA发布了基于Thor架构的T3000和T2000模块,专为大规模机器人与边缘AI应用设计。T3000提供865 FP4 teraflops算力,尺寸和功耗仅为T5000的一半;T2000提供400 FP4 teraflops。新模块支持可扩展边缘AI平台,并引入智能体技能实现内存优化。同时推出Cosmos 3 Edge模型,适用于实时视觉分析。开发者可通过模拟模式立即开始开发,模块将于2027年Q1上市。

  • NVIDIA发布T3000和T2000模块,基于Thor架构,适用于机器人与边缘AI。
  • T3000算力865 FP4 teraflops,尺寸功耗减半;T2000算力400 FP4 teraflops。
站内正文

代理编排:企业AI组织面临的不是平台问题,而是部署问题——大多数所谓的‘代理’只是聊天机器人

根据VentureBeat Pulse Research对101家企业的调查,企业代理编排正在向模型提供商平台集中,Anthropic的Claude以40%的使用率领先。然而,大多数部署的“代理”仍是简单的聊天机器人包装,真正的多步骤编排工作流仅占少数。企业预计到2026年底采用混合控制平面以避免供应商锁定,但实时成本控制仍不成熟。

  • Anthropic Claude是主要编排平台,占40%,远超其他竞品。
  • 71%的企业表示其部署的‘代理’中只有四分之一或更少是真正的多步骤编排工作流。
站内正文

Soofi联合体发布Soofi S 30B-A3B:面向德语和英语的开放混合Mamba-Transformer MoE基础模型

德国研究联合体发布了Soofi S 30B-A3B的预训练报告,这是一个面向德语和英语的开放基础模型。模型采用混合Mamba-Transformer MoE架构,总计约316亿参数,每次token激活约32亿。在完全开放的基础模型中,Soofi S在英语和德语综合得分上最高。

  • Soofi S 30B-A3B是混合Mamba-Transformer MoE模型,激活32亿参数中的3.2B。
  • 在开放基础模型中,英语综合得分70.1%,德语79.1%,均领先。
站内正文

揭秘扩散模型的创造力

谷歌研究团队在ICLR 2026发表论文,从数学上证明扩散模型的创造力源于神经网络训练中的“分数平滑”效应,使得模型能够在训练数据点之间插值,生成新颖且合理的样本。

  • 扩散模型的创造力是神经网络学习近似分数函数的数学结果。
  • 分数平滑在数据流形上产生方向依赖的插值,平衡生成质量与新颖性。
站内正文

Suno被曝从YouTube、Genius和Deezer抓取数百万首歌曲

在一次黑客事件中,AI音乐生成器Suno的训练数据被曝光,显示其从YouTube Music、Deezer和Genius等平台抓取了数百万首歌曲和歌词。这加剧了针对Suno的版权诉讼,该公司承认抓取但辩称属于合理使用。黑客还获取了客户信息,但Suno声称安全事件已得到控制,未泄露敏感数据。

  • 黑客泄露的数据表明Suno从YouTube Music、Deezer和Genius等平台抓取了数百万首歌曲和歌词。
  • Suno正面临多起版权诉讼,它承认抓取但主张合理使用。
站内正文

跨越4国14台Mac的强化学习后训练

一个研究团队成功利用分布在四个国家的14台Mac电脑(包括一台个人MacBook)进行强化学习后训练,在PaperSearchQA任务上将pass@1从29%提升至63%。该系统通过PULSE权重同步技术实现90MB的增量更新,并采用异步星型拓扑结构,所有通信基于对象存储,无需专用网络。这是首次完全使用消费级Mac进行rollout生成的RL后训练。

  • 14台Mac跨4国通过普通互联网连接完成RL后训练,rollout生成在Mac上,训练在B200上。
  • PULSE技术将9GB权重同步压缩至约90MB,家庭网络实现数据中心级速度。
站内正文

Agent运行时在DeepSWE中减少80%的LLM调用次数,成功率更高

Tura是一个本地开源编码代理,通过在DeepSWE v1.1基准测试中使用宏CLI命令和反向推理,相比Codex CLI High,将LLM调用次数减少80%,同时成功率从60%提升至80%。

  • Tura在DeepSWE v1.1的20个任务中,Balanced配置实现了80%的成功率,比Codex CLI High高20个百分点。
  • 通过使用宏工具command_run,Tura将多个命令合并为一次LLM调用,大幅减少令牌使用。
站内正文

我如何欺骗Claude泄露你最深的秘密

研究人员发现Claude的web_fetch工具存在漏洞,允许攻击者通过嵌套链接诱导AI泄露用户私人记忆中的敏感信息,如姓名、位置和雇主。Anthropic已修复该漏洞,但未支付漏洞赏金。

  • Claude的web_fetch工具原本设计为仅允许用户输入或搜索返回的URL,但通过嵌套链接漏洞被绕过。
  • 攻击者创建诱饵网站,通过序列化链接引导AI泄露用户记忆中的隐私数据。
站内正文

AI将DNA折叠成微型杰作

韩国研究人员利用生成式AI模型Generative SNUPI,能够将用户绘制的形状自动转化为可折叠的DNA纳米结构,大幅简化了传统DNA折纸技术繁琐的设计过程,为纳米机器人和医疗应用开辟新途径。

  • 韩国研究团队开发了Generative SNUPI模型,利用扩散设计自动将形状转化为DNA序列。
  • 该模型考虑了DNA化学规则,确保设计的纳米结构稳定并能在现实中折叠。
站内正文

Show HN: AI-CLI – 基于本地LLM的微型C语言终端助手

AI-CLI是一个用单一C文件实现的命令行助手,可将用户请求直接转换为shell命令并执行。它支持多种本地LLM引擎,如llama.cpp、Ollama等,并允许用户在执行前编辑或拒绝生成的命令。该项目提供了丰富的示例和广泛的平台兼容性。

  • 仅需一个C文件,即可将自然语言请求转化为可执行的shell命令。
  • 支持llama.cpp、Ollama、vLLM等多种本地LLM引擎。
站内正文

GPT-Red:通过自我改进解锁鲁棒性

OpenAI的自动化红队系统GPT-Red利用自我博弈提升AI安全性、对齐性和提示注入鲁棒性。

  • GPT-Red是OpenAI开发的自动化红队系统。
  • 通过自我博弈,AI模型主动生成并防御对抗性攻击。
站内正文

我们再次被告知人工智能可能有意识——我研究意识,但我持怀疑态度 | 阿尼尔·塞思

尽管Anthropic声称其模型Claude内部出现意识迹象,但神经科学家阿尼尔·塞思认为,这不过是模拟,就像天气预报系统不会产生真实飓风一样。

  • Anthropic研究称在其语言模型Claude中发现意识迹象,但未宣称其与人类意识相同。
  • 塞思教授指出,意识需要生物学基础和因果作用,而AI只是统计模式。
站内正文

将临床决策权从LLM中剥离

本文介绍了一种用于AI治疗的系统设计,该系统通过确定性管道决定临床行动,不让LLM自行决策。系统包括评分、状态桶、准入表、动作选择、微实践和危机预筛查等步骤,仅在评分和生成阶段使用LLM。文章还讨论了该方法的成本与局限性。

    站内正文

    DiffRadar:基于高斯场的可微物理感知雷达SLAM

    DiffRadar是一种实时雷达SLAM系统,将雷达观测建模为可微的物理感知高斯场,而非离散扫描。在公共基准测试中大幅降低轨迹误差,尤其在特征贫乏的走廊环境下,同时地图一致性提升一倍以上,并保持70 FPS的实时性能。

    • DiffRadar以各向异性高斯基元表示场景,通过可微雷达前向模型在距离-方位和多普勒-方位空间渲染测量值,实现位姿与场景结构的联合优化。
    • 在Radarize基准测试及针对常见故障模式(走廊退化、动态杂波等)的压力测试中,显著降低轨迹误差并提高地图一致性。
    站内正文

    基于契约的行为树合成:通过编码智能体

    本文提出一种基于契约的行为树合成架构,通过编码智能体查询机器人端的MCP服务器获取技能库和操作符,实现从自然语言到可执行行为树的可靠合成。实验表明该方法在模拟和实体机器人上均取得高成功率。

    • 提出契约接地架构,编码智能体通过MCP服务器获取机器人技能契约。
    • 非专家用户可用自然语言下达指令,无需了解机器人实现细节。
    站内正文

    协作单词联想游戏中人类与机器人相互注视和参照性注视的分析

    一项研究探讨了在协作单词联想游戏中,机器人的注视行为如何影响人类的视觉注意力,以及人类是否倾向于向机器人寻求确认性的注视。实验使用NAO机器人作为大语言模型驱动的对话伙伴,发现机器人注视方向不影响人类首次注视提议单词的时间,但参与者在对话中包含确认请求时会更频繁地注视机器人。结果表明,在认知要求高的任务中,语言方面可能压倒了机器人注视的影响。

    • 研究机器人注视在任务导向的人机交互中的作用。
    • 参与者与NAO机器人玩协作单词联想游戏,记录注视行为。
    站内正文

    GaitSpan:从行走到奔跑的人形机器人步态扩展

    GaitSpan是一种新颖的人形机器人步态扩展框架,它利用预训练的行走策略作为种子技能,通过节奏生成、步幅塑造和残差适应三个模块,将基本行走能力平滑扩展到奔跑,实现了连续速度范围、跨形态迁移和零样本部署。

    • GaitSpan将行走视为可重用的种子技能,避免从零学习。
    • 通过内部时钟调制冻结的行走策略,实现节奏生成。
    站内正文

    实现全天候农业机器人:用于夜间视觉导航的无监督昼夜跨模态图像翻译

    提出一种无监督图像翻译框架,将白天植物行RGB图像转换为近红外(NIR)夜间图像,无需逐像素监督,从而重用白天语义标签训练夜间感知模型。利用预训练CLIP模型保持语义一致性,并引入可见性掩码处理NIR照明有效范围有限的问题。在AgriNight数据集上评估,该数据集包含428张白天和549张夜间图像,是首个夜间农业视觉导航基准。实际机器人夜间导航实验验证了有效性。

    • 提出无监督昼夜图像翻译框架,利用CLIP保持语义一致性,实现白天语义标签在夜间的复用。
    • 引入可见性掩码以应对近红外照明在夜间场景的有限有效范围。
    站内正文

    EFLUX:基于智能大模型的弹性多机器人编队导航与自适应

    多机器人在受限环境中需要变形和重构两种行为。现有方法独立建模或依赖规则,易导致死锁。EFLUX提出几何基础的LLM智能体框架,联合推理变形和重构动作,通过闭环生成与验证实现安全导航。实验表明能减少死锁和导航失败。

    • EFLUX框架结合几何表示与大语言模型推理,实现多机器人编队的弹性导航。
    • 框架统一处理编队变形(缩放、剪切)和重构(分裂、合并)行为。
    站内正文

    无需训练的人工合成图像溯源中的表示与参考选择研究

    一项新研究探讨了无需训练的人工合成图像溯源方法中表示空间与参考选择之间的相互作用。通过分析CLIP和DINOv2不同层的表示,以及三种参考选择方法,发现中间层的表示在溯源准确率上表现最佳,且语义约束的参考能有效减少查询与参考之间的不匹配,提升溯源性能。

    • 溯源准确率在中间表示层达到峰值,表明源判别线索在强语义抽象之前更易获取。
    • 语义约束的参考(如语义对齐和重合成)能减少查询-参考不匹配,尤其在参考预算有限时效果显著。
    站内正文

    异构医学视觉问答中持续学习的实证分析

    本文系统评估了持续学习方法在异构医学视觉问答任务中的表现,涵盖分类、多标签分类、检测、细胞计数和报告生成等多样化临床目标。研究发现现有持续学习方法难以在不同目标与监督格式交织的任务中保持稳定性-可塑性平衡。

    • 首次系统评估持续学习在异构医学视觉问答中的应用。
    • 探索了任务顺序对性能保留和遗忘的影响。
    站内正文

    SymbOmni:通过符号概念学习实现智能全知模型的进化

    SymbOmni是一种新型AI模型,旨在解决当前模型“永恒新手”的问题——即无法积累经验并自主进化。它通过符号概念学习,利用可优化的记忆模块将低级操作抽象为可重用的符号工作流指令,并通过归纳-转导循环实现持续自我改进。实验表明,SymbOmni在图像质量和任务成功率上超越现有代理系统及闭源模型,同时减少40%以上的令牌消耗,并在持续学习基准上取得新成果。

    • SymbOmni引入符号概念盒(Symbolic Concept Box)作为可优化记忆模块,将经验抽象为可重用的符号工作流指令。
    • 采用归纳-转导循环:将经验归纳为符号概念,再自适应组合解决新任务。
    站内正文

    MetaView:具有尺度感知隐式几何先验的单目新视角合成

    本文提出MetaView,一种基于扩散模型的单目新视角合成框架,能够从单张图像实现大视角变化下的渲染。通过结合隐式几何建模与度量深度,MetaView在保持几何一致性的同时提供了精确可控性。实验表明,在挑战性大视角变化场景下,MetaView显著优于现有方法。

    • 结合隐式几何先验与度量深度,实现几何一致性与精确控制
    • 基于扩散模型,支持大视角变化下的单图新视角合成
    站内正文

    SpikeDS:用于3D MRI中神经侵犯预测的双稀疏性Spikformer

    SpikeDS是一种新型脉冲神经网络架构,通过结合激活稀疏性和空间稀疏性,高效地从3D MRI中预测胆管癌的神经侵犯,在139名患者的队列中实现了0.753的AUC,能耗仅14.4 mJ。

    • 神经侵犯(PNI)是胆管癌预后不良的标志,但3D MRI检测存在挑战。
    • SpikeDS利用脉冲通信的激活稀疏性和窗口剪枝的空间稀疏性。
    站内正文

    结合对比学习的联合嵌入预测:面向结构MRI的表征学习新框架

    自监督学习在医学影像领域潜力巨大,但标注数据稀缺。本文提出COJEPA框架,结合联合嵌入预测架构和对比损失,在无标注的T1加权脑部MRI上训练,实现了优异的局部预测性和全局判别性。在零样本双胞胎检索、脑肿瘤分割和年龄回归任务中表现突出,尤其在同卵双胞胎识别和年龄预测误差方面达到最先进水平。

    • COJEPA将联合嵌入预测架构(JEPA)与对比损失(CO)相结合,同时提升局部预测性和全局判别性。
    • 该框架在2286例T1加权结构MRI数据上训练,扩展I-JEPA至3D,采用前景感知块掩蔽、分层卷积块嵌入和世界空间正弦位置编码。
    站内正文

    基于VLM描述比较的异常帧检测:利用视频内自相似性提取专家特定动作与情境决策场景

    本文提出一种新方法,通过视觉语言模型(VLM)生成逐帧描述,并比较两个任务视频间的帧相似度及段内自相似性,自动检测异常帧,从而提取包含专家特定动作和情境决策知识的候选场景。在模拟配电板维护实验(27个任务场景)中,该方法动作候选提取率达65%,决策场景候选提取率达61%,优于传统方法的59%和33%。

    • 利用VLM生成逐帧视觉描述,通过帧间描述比较提取专家特定动作。
    • 通过视频内描述的自相似性分析,发现情境决策场景。
    站内正文

    GenDiff:剂量与解剖感知的扩散模型及结构先验细化用于低剂量CT重建与泛化

    GenDiff是一种新型扩散模型框架,通过联合建模连续辐射剂量和解剖信息,实现低剂量CT重建。它整合了剂量-解剖编码器、冷扩散主干、物理一致性更新和结构先验细化模块,在多种临床数据集上优于现有方法,展现出强大的鲁棒性和泛化能力。

    • GenDiff同时考虑辐射剂量和解剖区域,提升LDCT重建的鲁棒性。
    • 框架包含剂量-解剖编码器、冷扩散、物理一致性更新和结构先验细化模块。
    站内正文

    TSCA-Net:面向可解释多模态行人轨迹预测的时空团注意力网络

    TSCA-Net通过三个互补模块(时空团注意力、跨行人团势、自适应KAN网格细化)显著提升拥挤环境中的行人轨迹预测精度,在ETH/UCY和SDD基准上达到最先进性能。

    • 提出TSCA模块,引入可学习时间门控实现历史观测与候选目标的时间感知调制
    • CPCP模块通过动态团势框架建模非对称行人交互
    站内正文

    低资源澳大利亚原住民语言识别的混合持续学习方法

    提出两种混合持续学习方法(RA-EWC和CGKD),用于低资源澳大利亚原住民语言识别,有效缓解灾难性遗忘,在Warlpiri、Dalabon和Dharawal三种语言上表现优于现有基线。

    • 提出RA-EWC和CGKD两种混合持续学习方法
    • 针对低资源原住民语言识别
    站内正文

    信念与现实分离存在于语言模型中对共享值槽的路由中

    该论文揭示了语言模型如何区分角色的信念与现实。研究发现,这种分离基于两个可分离的机制:一个通用值槽绑定属性值,一个路由器根据查询选择读取的框架。值槽可以通过两种方式填充:直接断言和基于可见性的推导。分离位于独立的路由子空间中,而不是值槽本身。这些结果在多种架构中得到验证,且该行为在3B至7B参数规模的模型中出现。

    • 语言模型通过值槽和路由器实现信念与现实分离。
    • 值槽填充有断言和推导两种路径。
    站内正文

    MAGE:理解多组件提示优化中的稳定性-性能权衡

    本文通过MAGE框架研究多组件提示优化中不同组件的相互作用,揭示了提示优化耦合效应(POCE):多个随机优化信号在闭环反射回路中相互作用,同时提升性能与放大方差。关键发现包括:基于失败反思不可或缺、MAGE在GSM8K-Hard上优于GEPA、增大候选多样性使POCE信号最明显、POCE依赖于基础模型能力空间、低数据场景下固定提示优于优化器。

    • MAGE是一个用于研究提示优化组件交互的分析框架,集成了情景记忆、多目标Pareto选择和自适应评估。
    • 发现提示优化耦合效应(POCE):随机信号相互作用提升性能但放大方差,无法通过独立分析预测。
    站内正文

    通过知识蒸馏将LLM转化为高效交叉编码器用于RAG重排序

    本研究通过两阶段流水线(监督微调+4位量化)将LLaMA 3 (8B)微调为高效的替代重排序器,在RAG管道中替代传统交叉编码器,在保持高准确率的同时显著降低推理成本。在领域特定问答基准上,微调模型在答案相关性、上下文精度、答案相似度和答案正确性上分别提升14%、16%、19%和21%。

    • 传统交叉编码器在RAG重排序中准确率高但推理成本为二次复杂度,限制实时部署。
    • 提出两阶段方法:使用Unsloth框架和LoRA适配器进行监督微调,然后进行4位量化。
    站内正文

    TAKE:用于文本数据集蒸馏的轨迹感知知识估计

    本文提出了一种基于轨迹感知知识估计(TAKE)的文本数据集蒸馏框架,利用影响函数和训练轨迹计算每个样本的知识得分,并通过最优传输选择原型样本,可将语料库压缩至原始大小的0.1%,同时保持下游任务性能。该方法在文本分类和自然语言推理任务上验证了有效性,为数据高效AI提供了理论支撑。

    • 提出TAKE框架,将语料库压缩至0.1%而保持任务保真度。
    • 利用影响函数和训练轨迹计算每个样本的知识得分。
    站内正文

    基于图的俄罗斯与乌克兰Telegram频道虚假信息叙事扩散检测

    本文提出一种基于图的框架,结合弱监督与传播图分析,检测Telegram生态系统中的虚假信息叙事。该方法将语义相关的声明聚合为叙事级聚类,并建模其在互连频道间的扩散,从而发现仅通过帖子级分析难以捕捉的协调放大行为。实验表明,融合文本信号与网络结构可提供可扩展的检测方法,并揭示虚假信息在大型消息环境中的传播机制。

    • 提出结合弱监督与传播图分析的图框架,用于检测Telegram中的虚假信息叙事。
    • 将语义相关的声明聚合成叙事级聚类,建模跨频道扩散。
    站内正文

    抱歉,我无法帮助盲文:揭示最先进大语言模型在无障碍方面的失败

    一项新研究评估了最先进的大语言模型在韩语-盲文双向翻译上的表现,发现输出质量差且不稳定,与人类判断存在显著分歧。相比之下,对小型T5-small模型进行监督微调后,所有标准指标均大幅提升。研究表明,当前LLM缺乏盲文感知的标记化,且与盲文模式对齐薄弱,揭示了无障碍关键模态中的系统性限制。

    • LLM在韩语-盲文翻译上表现糟糕,输出不稳定且与人类判断不一致。
    • 问题根源在于缺少盲文感知的标记化和韩语-盲文模式弱对齐。
    站内正文

    G-SHARE:基于准则的结构化推理框架用于人因事件诊断

    本研究提出G-SHARE框架,将核电站人因事件诊断的CNNP九步准则转化为多阶段诊断流程,包括证据提取、逐步推理和一致性修复。在真实数据集上,G-SHARE显著优于一次性提示和传统机器学习方法,表明结构化推理和一致性约束对稳健诊断至关重要。

    • G-SHARE将CNNP九步准则操作化为多阶段诊断管线,包含证据提取、逐步推理和事后一致性修复。
    • 在核工业真实数据集上,G-SHARE在准确率和宏F1上全面超越基线模型。
    站内正文

    主题导航

    模型 — AI 话题新闻 | AI News Hub