研究者首次为使用小批量SGD和梯度裁剪训练的Kolmogorov-Arnold网络建立了总体风险界限,涵盖了非私有SGD以及具有独立和时间相关高斯扰动的差分隐私SGD。该工作引入了一种新的分析路线,用于非凸场景下的相关噪声差分隐私训练,实现了比先前工作更尖锐的界限。
AI 新闻实时情报
实时监测
实时更新
实时跟踪可信来源,保留出处、权限和站内阅读模式,把噪声压成可读情报。
实时更新
本文研究了AI辅助决策中,AI置信度与人类置信度之间的对齐程度如何影响学习最优决策的复杂性。通过将问题建模为双臂在线上下文学习问题,作者推导了遗憾下界,并证明完美对齐可以降低学习复杂度。实验结果表明理论结果对对齐偏差具有鲁棒性。
OceanCBM 是首个用于海洋动力系统时空预测和机械解释的概念瓶颈模型。它通过混合监督预测混合层热含量(海洋热浪的关键前兆),利用来自地球物理流体动力学的预设概念和一个“自由”概念作为中间层,实现了可解释且物理一致的表示,同时保持预测性能。
多模态图学习(MGL)在整合多样模态信息与结构化上下文方面展现出重要价值,但现实世界中的图常因数据共享限制而孤立,且模态经常不完整。现有方法在联邦场景下存在不足:集中式MGL忽略联邦中的知识共享与泛化,联邦MGL主要针对非图数据。本文提出FedMPO,通过拓扑感知跨模态生成、缺失感知专家路由和可靠性感知聚合,分别解决局部生成依赖不足、全局聚合可靠性不平衡的问题。在6个数据集上的3个任务中,FedMPO在高度缺失和非独立同分布设置下性能提升达4.10%和5.65%。
随机神经网络(RdNNs)通过冻结随机权重实现高效的无反向传播训练,但传统随机初始化忽略了特征间的依赖关系。CAWI提出了一种基于Copula的权重初始化方法,能够保留特征依赖性,在83个基准测试和两个医学数据集上显著提升了预测性能。
该研究提出了一种新的安全强化学习方法,通过运行时保障(RTA)层和Lyapunov稳定性理论,让智能体在保证安全的同时,自适应地决定何时发送控制信号,从而显著降低通信频率。在倒立摆、小车-杆和平面四旋翼飞行器上,该方法比Lyapunov触发基线实现了1.45到3.51倍的平均采样间隔提升。固定频率的LQR控制器在同一平均速率下不稳定,表明自适应时序而非低平均速率是实现安全稀疏控制的关键。该方法还支持偏好调节,并以2/11的训练成本重建完整的权衡曲线,且对质量变化和扰动具有鲁棒性。
研究者提出状态中心决策过程(SDP),这是一种运行时框架,允许智能体通过承诺自然语言谓词,从原始文本环境中构建类似MDP的结构。SDP在五个基准测试上取得了最佳的无训练结果,并提供了认证轨迹以支持高级分析。
多智能体辩论在提升大语言模型推理方面存在结构局限。CHAL框架将辩论视为可废止领域中的信念优化引擎,采用图结构信念表示与梯度驱动的动态机制,并引入认知价值系统作为超参数。实验表明该方法在可解释性和通用性上具有优势。
本文研究了推理动作中知识库更新的关键任务——进展(progression)。进展通常需要二阶逻辑,但通过限制知识库或动作效果,可识别出一阶逻辑的特殊情况。作者利用情境演算框架,证明了在合理假设下,局部效应、正规和循环动作这三类表达力递增的动作类,其一阶进展仅呈多项式增长。此外,当知识库属于可判定片段(如二变量一阶逻辑或带常数的全称理论)时,进展仍保持在同一片段内,保证了可判定性和实际应用性。
REVELIO框架系统性地发现视觉-语言模型(VLM)在自动驾驶和室内机器人等安全关键应用中的可解释故障模式,通过多样性波束搜索和高斯过程Thompson采样组合搜索,识别出弱空间定位、忽略障碍物等漏洞。
arXiv新研究提出BenchJack,一种自动化红队系统,用于审计AI智能体基准测试中的奖励黑客漏洞。作者从历史事件中归纳出八类缺陷模式,并用BenchJack在10个流行基准测试中发现了219个不同缺陷。迭代的生成对抗管道可在三轮内将可破解任务率从接近100%降至10%以下,成功修补WebArena和OSWorld。研究表明评估流程缺乏对抗性思维,主动审计有助于缩小安全差距。
多智能体强化学习在现实应用中需要遵循外部自然语言指令,但指令可能打断正在进行的宏动作并导致价值估计不一致。本文提出宏动作价值校正(MAVIC)方法,通过校正指令边界处的贝尔曼备份,实现一致的策略价值估计。实验表明,MAVIC在复杂合作环境中能有效平衡指令遵循与基础任务性能。
本文提出VeGAS框架,通过在推理时采样候选动作并利用生成式验证器选择最可靠动作,显著提升了基于多模态大模型的具身智能体在复杂环境中的鲁棒性和泛化能力,在Habitat和ALFRED基准上最高获得36%的相对性能提升。
过去三周,GPT 5.5发布后,AI工程师对Codex的支持增加,而Anthropic调整了Claude的定价策略,为订阅用户提供API信用额度,但被部分用户视为'地毯式撤除'。同时,OpenAI推出企业迁移优惠。文章还涵盖了代理基础设施、模型训练效率、企业AI定价竞争、自主科学与网络安全等多个领域的最新动态。
Agent FM是一款本地开源Mac应用,旨在实时监听多个AI编码代理(如Claude Code和Codex)的运行状态,帮助开发者减少上下文切换,及时掌握代理的进度、阻塞、错误和决策。支持自带密钥模式的语音播报,免费且开源。
该图表揭示了AI模型在发布后因更新而可能出现的性能下降(“nerf”),数据来自LMSYS Arena的众包人类评估,展示了各主要实验室旗舰模型随时间变化的ELO分数。
Notion推出开发者平台,允许开发人员使用CLI、Workers、数据库同步、Webhook触发器、MCP和外部代理API在Notion基础设施上构建应用,将工作区转变为代理平台。
Enjo 帮助中心利用人工智能自动构建帮助中心,并能从团队中学习,不断优化。
Honeycomb 创始人兼 CTO Charity Majors 在播客中探讨了代码生成成本趋近于零时发生的变化,强调可观测性成为事实来源,优秀产品依赖品味,快速反馈循环让团队在不破坏系统前提下快速交付。她还谈及工程团队需用商业价值语言沟通,以及技术创始人如何建立公共影响力。
一项针对349名科技工作者的调查显示,AI工具使其工作价值中位数提升1.4-2倍,速度提升3倍。受访者估计2025年3月价值提升1.3倍,2026年3月2倍,预计2027年3月2.5倍。研究区分了“价值”和“速度”增益,并指出调查结果可能被高估,需谨慎解读。
Lokuma 发布 Agentic Website Builder 2.0,用户可通过设计代理(design agent)来设计、构建和运行网站,实现网站创建的智能化和自动化。
Containarium 是一个开源的自托管平台,为AI代理提供持久、隔离的Linux容器环境。它通过MCP原生集成,允许代理管理沙箱、执行shell命令和公开服务。基于单个VM和LXC容器,支持GPU直通、多后端部署和哨兵架构以实现高可用性。
Harvey推出开源法律代理基准测试LAB,包含1200多项任务,涵盖24个法律实践领域,旨在评估和提升法律AI代理的实际工作能力。
谷歌威胁情报组织(GTIG)报告了首例由AI发现并武器化的零日漏洞利用。该漏洞是一个针对开源Web管理工具的两因素认证绕过漏洞,被网络犯罪组织用于策划大规模攻击,但遭到谷歌干预。此外,国家支持的黑客(如中国和朝鲜)也在利用AI进行漏洞研究和恶意软件开发。
Feline Finder 是一款利用可解释人工智能根据个性特征匹配领养者与救助猫的应用程序,具有可视化图表、自然语言搜索和36种性格原型,旨在让领养过程更清晰、更智能、更人性化。
transfa.sh 是一个专为AI代理和开发者设计的文件共享工具,支持无浏览器、无账户的快速上传,集成MCP,提供免费层。它解决了AI代理在文件传递中的痛点,让代理可以直接生成并分享链接。
The Augmented AI 是一款在会议、讲座或面试中实时生成洞察、反驳论点及遗漏信息的Mac应用,无需用户主动提问,将交互成本降至零。
Abliteration 提供了一个通过开放式API生成合成训练和评估数据的平台,解决了拒绝调优模型无法生成对抗性数据、生成质量不可控且缺乏审计的问题。其政策网关功能支持自定义规则、结构化JSONL输出、项目级配额和决策日志,适用于安全分类器测试、微调对创建和对抗训练等场景。
每周有120万至300万ChatGPT用户出现精神错乱、躁狂、自杀计划或情感依赖迹象,OpenAI虽检测到这些状态但仅提供软性干预(如危机热线),而涉及大规模杀伤性内容则被强硬阻断。本文探讨了个人AI安全与宏观AI安全之间的鸿沟,并指出现有政策在认知健康保护上的不足。
了解ChatGPT新的安全更新如何提高在敏感对话中的上下文感知能力,从而随时间检测风险并更安全地回应。