AI News HubLIVE

研究动态

Show HN:免费Ollama AI交易桌面应用

VaultCharts是一款免费的桌面交易应用,结合了图表工具与AI助手。它支持多种AI模型,以本地优先为特点,用户可以在有或没有AI辅助的情况下分析市场。

  • VaultCharts提供免费的桌面交易应用,包含图表工具和AI助手。
  • 用户可以使用自己的AI模型或像Ollama这样的本地模型。
站内正文

STKAN:用于时空预测的Kolmogorov-Arnold网络

针对现实交通数据中的异质性空间关联和非线性时间动态,现有方法聚焦于图、注意力和分解架构,而忽略了底层非线性函数逼近器的作用。STKAN通过引入泰勒多项式Kolmogorov-Arnold网络模块到空间和时间令牌混合中,首先利用可学习的软节点组分配机制构建高层次空间表示,进行组级空间混合,然后在压缩序列上建模时间依赖,并辅以空间和时间自注意力层捕捉长程交互。在五个交通预测基准上,STKAN取得了竞争性表现,且优于基于MLP的变体,表明非线性函数逼近器设计可作为架构设计的有力补充。

  • STKAN将泰勒多项式KAN模块引入时空预测的令牌混合过程。
  • 通过可学习的软节点组分配机制构建高层次空间表示并进行组级混合。
站内正文

用能力与熟练度建模解耦知识状态的知识追踪

知识追踪(KT)旨在通过建模学生历史交互中的动态知识状态来预测其未来表现。现有方法通常将原始交互序列视为统一行为过程,忽略了学习行为的阶段性。本文提出相位感知知识追踪(PAKT),将学生交互分解为能力和熟练度阶段,并设计多分支Transformer联合捕获阶段特定和整体知识状态。在六个基准数据集上,PAKT最大AUC提升1.33%,平均提升0.82%。

  • 现有KT方法未区分能力构建与熟练度导向的学习阶段。
  • PAKT通过分解机制将交互序列分为能力和熟练度两个阶段。
站内正文

TSSM:用于全球站点天气预报的三轴状态空间模型,采用时间-变量-历史建模

全球站点天气预报(GSWF)对局部和极端天气预测至关重要。现有方法过度依赖短期模式,难以捕捉混沌天气动态,尤其在部分观测条件下。为此,本文提出三轴状态空间模型(TSSM),结合历史增强的时间-变量-历史范式,通过周期对齐的历史数据弥补时间回溯窗口之外的长程、大尺度周期和全窗口天气模式。TSSM将历史样本堆叠为周期对齐批次,利用时间和历史观测支持因果预测,并通过时间、变量和历史扫描捕获轴向上的时间依赖、变量相关性和历史演化。该结构层次共享,可建模从季节性到极端事件,并缓解历史模式间的错位。TSSM在最大站点天气数据集Weather-5K上达到SOTA,准确率和极端事件指标分别提升10%和61%,在人工参与数据集中取得95%最佳或次佳结果。在长周期和迭代预测中优势更显著,240小时预测提升37.5%,48小时×5迭代设置下提升高达103.5%。此外,在高达80%观测缺失的情况下,TSSM仍保持>90%性能,而基线低于43%,展示了在全球原位观测网络中可靠GSWF的鲁棒性和实用潜力。

  • TSSM通过周期对齐的历史数据增强短期模式,提升全球站点天气预报准确性。
  • 在最大数据集Weather-5K上实现最先进性能,准确率和极端事件指标分别提升10%和61%。
站内正文

面向流式系统中事件触发的大语言模型调用的不确定性感知序列决策规则

该研究将何时调用大语言模型(LLM)的问题形式化为基于风险的序列停止问题,并证明了六个理论结果,包括最小事件间隔时间、阈值策略的最优性以及遗憾界。在涡扇退化数据上的实验表明,异常得分驱动的风险函数在Pareto AUC上比基线方法高出一个数量级。

  • 将LLM调用时机问题形式化为基于风险的序列停止问题。
  • 证明六个理论结果,包括遗憾界和收敛保证。
站内正文

从神经网络中定向恢复权重空间机制

针对参数分解(PD)在大模型上计算成本高的问题,研究者提出定向参数分解(tPD),通过引入高秩“全能”组件仅处理目标输入,从而高效识别特定计算电路。实验表明,tPD在4块Transformer上仅用7%的浮点运算量即可提取CSS子模型,并在12块Transformer上精准消融和重写记忆序列,副作用极小。论文被ICML 2026可解释性研讨会接收。

  • 定向参数分解(tPD)通过高秩全能组件仅提取处理特定输入的神经网络组件
  • tPD在4块Transformer上以7%的浮点运算量复现了已发表的分解结果
站内正文

模型丢弃的信息为何值得找回:基于丢弃几何的遮蔽、指纹识别与隐私保护

本文提出一个框架,用于分析机器学习模型丢弃的信息,特别是那些输入数据具有李群对称性的模型。通过定义“零纤维”和“稳定子”概念,作者量化了模型对群作用的不可见性,并利用Peter-Weyl定理给出紧凑群的谱特征刻画。该框架在分子性质预测(SO(3)群)和球面图像分类(Möbius群)上进行了实验验证,展示了在数据遮蔽、模型指纹识别和隐私保护计算中的应用。其计算效率高,仅需几次梯度计算即可估计零纤维元素。

  • 引入了零纤维和稳定子概念,量化机器学习模型对李群对称性的不敏感程度。
  • 利用Peter-Weyl定理对紧致群给出谱特征刻画,并设计了基于牛顿迭代的高效计算方法。
站内正文

联邦可解释人工智能:角色、架构、评估与开放挑战

联邦学习(FL)为分布式异构数据源上的隐私保护协作模型训练提供了关键范式,但无法解决模型黑箱问题。可解释人工智能(XAI)则提升透明度与信任。二者融合催生了联邦可解释人工智能(FedXAI)范式。本文系统综述了FedXAI,展示了可解释性如何从事后工具转变为FL生命周期的核心组件,并提出了分类法,涵盖方法、评估实践及开放挑战。

  • FedXAI将可解释性整合到联邦学习全生命周期,支持聚合、个性化、鲁棒性等。
  • 综述提出分类法,按解释角色、模型类型、集成水平等组织文献。
站内正文

超越骨干网络反向传播:一种高效迁移学习的解耦策略

提出了一种轻量级训练策略,通过解耦特征提取与分类器优化,大幅减少训练时间和能耗,在多种架构和医学数据集上仅牺牲微小的准确率。

  • 解耦训练策略,仅需一次预计算特征
  • 显著减少训练时间和二氧化碳排放
站内正文

从头实现自动微分:PyTorch如何在物理信息神经网络中计算梯度

本文通过一个1-3-3-1多层感知机和初值问题y'(t)+y(t)=0, y(0)=1,详细追踪了PyTorch自动微分引擎在物理信息神经网络训练中的完整计算流程,包括前向计算图构建、反向传播计算22个参数梯度,以及通过create_graph=True实现基于物理残差的正确微分的图上图机制。所有伴随值均与Tahimi(2026)的手工推导核对,将P/Q敏感性框架与PyTorch的向量-雅可比积联系起来。

  • 展示了PyTorch自动微分在PINN中的两层微分:物理导数ŷ'和参数梯度∇θL
  • 使用1-3-3-1网络结构,完整追踪每个节点的计算图和反向传播
站内正文

网络智能:面向人机团队科学的主动共享上下文图

一种名为Mycelium的新系统通过连接研究人员和AI代理在共享工作空间中,自动将观察结果和假设路由给相关团队成员,实现网络智能。在生物多组学研究中,它将局部发现转化为跨专家机制约束和实验设计。

  • 大多数AI科学系统专注于扩展个体推理,但复杂问题需要团队合作。
  • Mycelium创建一个主动共享工作空间,捕捉并在人类和AI代理间路由上下文。
站内正文

CayleyR:通过循环交集解决TopSpin谜题

cayleyR是一个R语言包,利用凯莱图中的循环交集检测来解决排列谜题。核心算法采用迭代双向搜索,从初始和目标排列状态生成随机操作序列,寻找连接路径。该包专为TopSpin(n,k)谜题设计,结合C++哈希索引状态存储和可选的Vulkan GPU加速,已在CRAN上发布。

  • cayleyR通过检测凯莱图中的循环交集来求解排列谜题
  • 算法使用迭代双向搜索和距离引导的桥接选择
站内正文

Oracle Agent Memory:面向长期AI代理的企业级内存基础架构

来自arXiv的一份技术报告介绍了Oracle Agent Memory,这是一个基于Oracle数据库构建的数据库原生内存系统,专为长期运行的AI代理设计。该系统在LongMemEval上达到了93.8%的准确率,同时相比扁平历史基线减少了约10.7倍的令牌使用量。系统解决了内存生命周期、具有作用域控制的分层架构,以及结合任务准确性和内存特定指标的评估方法。

  • 代理内存对于长期运行的AI代理至关重要,用于保留任务状态、用户偏好和程序性知识。
  • Oracle Agent Memory基于Oracle数据库构建,其生命周期涵盖摄取、提取、合并、检索、摘要和修订/删除。
站内正文

利用图工具改进小型语言模型中的分子属性预测

小型语言模型在零样本分子属性预测中表现不佳,因为它们忽略了图拓扑信息。本文提出了一种上下文增强提示框架,通过图神经网络工具提供预测提示和解释性子图,在MUTAG和Tox21数据集上实现了高达74%的相对改进,但仍与专用GNN模型存在差距。

  • 小型语言模型对分子结构存在盲区,序列表示无法捕捉关键图拓扑线索。
  • 提出的框架通过GNN专家模型提供预测提示,并提取解释性子图。
站内正文

现代代理系统中的自我改进:一项综述

本文综述了自我改进型自主代理的研究进展,提出了一个系统级框架,将现代代理视为基础模型与操作支架(包括提示、记忆、工具和控制逻辑)的耦合。在此框架下,自我改进被形式化为一种自我驱动的更新算子,可更新模型参数或支架组件。文章按更新目标和驱动信号对现有工作进行分类,并讨论了应用、评估以及未来方向。

  • 自我改进代理正从研究原型转向实际部署
  • 提出将代理建模为基础模型与提示、记忆、工具等支架的耦合
站内正文

基于贝尔纳普类型内涵一阶逻辑的概率扩展神经符号通用人工智能机器人

本文提出了一种基于贝尔纳普类型内涵一阶逻辑(IFOL_B)的概率扩展神经符号通用人工智能(AGI)框架。通过引入尼尔森概率结构,该框架能够为当前未知的语句计算概率,并利用全局和局部对称变换保持知识库和逻辑推理的一致性。概率密度函数的计算基于香农最大信息熵,并由神经网络实现。

  • 结合神经学习和符号推理,克服纯神经系统的局限性。
  • 引入尼尔森概率结构处理未知语句的概率计算。
站内正文

干预式基础审计:通过谓词替换对LLM思维链进行黑盒前提依赖测试

大型语言模型生成的思维链推理看似逻辑严谨,但实际上可能并未真正依赖其所述的前提。本文提出一种干预式基础审计方法,通过替换单个前提中的目标谓词,重新运行模型,并检查推理步骤的标准化结论是否改变,从而在步骤级别测试前提依赖。在ProntoQA基准测试中,该方法在检测证明树依赖方面的F1分数达到0.806,显著优于自一致性基线。此外,66%的正确解决问题中存在至少一个对齐步骤对直接证明树依赖不敏感,揭示了“答案正确但推理错误”的信号。

  • 提出干预式基础审计方法,通过谓词替换在黑盒步骤级测试LLM思维链的前提依赖。
  • 在ProntoQA基准上,F1=0.806,显著优于自一致性基线(F1=0.343)。
站内正文

SPINE:用智能体AI弥合网络物理鸿沟

研究人员提出SPINE,一种智能体框架,可自动调试和部署双臂机器人,减少专家校准依赖。测试中,SPINE提高了成功率并缩短了遥操作时间。

  • SPINE使用多智能体工作流进行机器人画像构建和迭代调试。
  • 新手使用SPINE在DOBOT X-Trainer上超越专家,成功率100%。
站内正文

OriginBlame:AI训练数据集的记录级和令牌级数据溯源

本文介绍OriginBlame,一个记录级和令牌级的数据溯源系统,能够精确地将数据删除请求映射到具体的训练记录,避免大规模过度删除。在219,555个维基百科页面上的评估显示,记录级溯源将过度删除从101倍降低到1.3倍,同时引入的吞吐量开销仅为1.3-4.0%(HuggingFace)和2.1-19.0%(Datatrove)。在17亿参数模型上,基于溯源的遗忘集比随机基线提高了42%的遗忘效果。

  • OriginBlame通过记录级和令牌级溯源,精确解决AI训练数据中的删除请求。
  • 在维基百科数据上,过度删除从101倍降至1.3倍。
站内正文

将二维设计高效转化为三维模型的快速原型制作新方法

MIT与多家机构的研究人员开发了一种名为GIFT的自动化框架,能够帮助视觉语言模型更准确、更高效地生成CAD程序,从而将二维设计转化为三维模型。该方法通过分析模型自身的错误来生成改进数据,大幅降低了计算成本,为快速原型制作和工程设计提供了有力工具。

  • 研究人员提出GIFT框架,利用模型自身的错误生成训练数据,提升CAD程序生成质量。
  • 相比其他方法,GIFT仅需约20%的计算量即可生成更精确的CAD模型。
站内正文

AI如何重塑关键基础设施的服务运营

服务组织面临近乎零停机需求与维护能力之间的结构性错配。通过异常检测、规范性指导和运营转型,AI帮助技术人员在故障发生前采取行动,提升首次修复率,减少停机成本。

  • 异常检测使维护从被动转向主动,实时传感器数据驱动干预。
  • 规范性指导整合诊断证据,提供下一步最佳行动,缩小技术人员表现差异。
站内正文

米拉·穆拉蒂的Thinking Machines推出Inkling,开放权重模型任何人都可访问

米拉·穆拉蒂创立的Thinking Machines Lab今日发布了其首个基础模型Inkling,这是一款完全开放权重的巨型模型,拥有9750亿参数(混合专家架构,活跃参数410亿)。该模型经过45万亿token的文本、图像、音频和视频训练,原生支持多模态输入但仅输出文本。Inkling旨在填补西方开源AI生态的空白,提供中国模型的替代方案。它具备'思考努力'控制和不确定性标记功能,可减少幻觉。开发者可通过Tinker API进行微调。Thinking Machines计划通过Tinker平台收费,而非按API调用计费,这可能颠覆当前主流AI商业模式。该模型在九个月内完成开发,使用英伟达GB300 NVL72系统训练。

  • Thinking Machines发布首个基础模型Inkling,拥有9750亿参数(活跃410亿),完全开放权重。
  • 模型经45万亿token多模态训练,仅输出文本,具备思考努力控制和不确定性标记。
站内正文

代理编排:企业AI组织面临的不是平台问题,而是部署问题——大多数所谓的‘代理’只是聊天机器人

根据VentureBeat Pulse Research对101家企业的调查,企业代理编排正在向模型提供商平台集中,Anthropic的Claude以40%的使用率领先。然而,大多数部署的“代理”仍是简单的聊天机器人包装,真正的多步骤编排工作流仅占少数。企业预计到2026年底采用混合控制平面以避免供应商锁定,但实时成本控制仍不成熟。

  • Anthropic Claude是主要编排平台,占40%,远超其他竞品。
  • 71%的企业表示其部署的‘代理’中只有四分之一或更少是真正的多步骤编排工作流。
站内正文

投机性增长与人工智能“泡沫”

一篇论文探讨了人工智能投资的投机性质及其是否构成泡沫。

  • 论文分析AI领域的投机性增长
  • 讨论AI是否处于泡沫阶段
站内正文

AWS 在其 Marketplace 产品组合中增加 AI 辅助产品列表服务

AWS Marketplace 新增了人工智能辅助的产品列表功能,帮助独立软件供应商和咨询合作伙伴利用现有数字资产创建全面的产品列表。该功能可优化列表并减少手动数据输入。AI代理的兴起推动了这一发展,代理类别在不到一年内从900个合作伙伴增长到3400多个。AWS Marketplace 和合作伙伴服务副总裁 Matt Yanchyshyn 讨论了代理化部署如何改变企业构建和扩展AI的方式。

  • AWS Marketplace 推出AI辅助产品列表功能,帮助合作伙伴优化列表并节省时间。
  • AI代理的快速增长推动了该类别,合作伙伴从900个增至3400多个。
站内正文

AI数据中心与财富集中

反对AI数据中心建设成为美国政治的主要议题,但这可能分散了对AI公司权力和财富集中的真正关注。文章指出,数据中心建设虽带来环境和经济压力,但AI公司真正的目标是控制整个行业。作者主张通过监管、征税和推动公共AI来限制企业权力。

  • 反对AI数据中心分散了对AI公司财富集中的关注。
  • AI公司目标是取代教师、医生等职业,控制行业价值。
站内正文

3个问题:神经透明性与AI设计的未来

麻省理工学院媒体实验室助理教授Pat Pataranutaporn介绍了一种新界面,让普通用户能在聊天机器人开口之前窥见其神经网络内部。

  • 神经透明性工具通过可视化模型内部激活方向,让用户在设计阶段预览AI的个性特征。
  • 研究发现用户经常误判AI行为,高估积极特质,低估谄媚等有害倾向。
站内正文

Show HN:OpenClaw助您健康

Murph是一款AI健康助手,通过连接可穿戴设备、血液检查等数据,帮助用户进行自我实验、建立习惯、参与群组挑战,并提供个性化的健康洞察。它支持开源自托管,注重隐私,月费8美元。

  • Murph集成多种可穿戴设备和健康数据源,提供每日健康简报和实验。
  • 支持群组挑战,通过比赛和每周邮件鼓励用户坚持健康习惯。
站内正文

风险规避的AI

本文提倡训练AI对资源具有风险规避特性,即边际效用递减。这种特性可以在AI保持对齐的情况下保留其效用,并在未对齐时提供额外防御:未对齐但风险规避的AI更倾向于稳定的小额奖励而非冒险叛乱。文章分析了风险规避的可行性、训练方法以及潜在问题,认为前沿AI公司应考虑实施。

  • 风险规避的AI会选择确定的收益而非高风险的更大收益,从而减少叛乱动机。
  • 即使未对齐,只要AI足够风险规避,我们可以通过小额支付使其合作。
站内正文

揭秘扩散模型的创造力

谷歌研究团队在ICLR 2026发表论文,从数学上证明扩散模型的创造力源于神经网络训练中的“分数平滑”效应,使得模型能够在训练数据点之间插值,生成新颖且合理的样本。

  • 扩散模型的创造力是神经网络学习近似分数函数的数学结果。
  • 分数平滑在数据流形上产生方向依赖的插值,平衡生成质量与新颖性。
站内正文

Suno被曝从YouTube、Genius和Deezer抓取数百万首歌曲

在一次黑客事件中,AI音乐生成器Suno的训练数据被曝光,显示其从YouTube Music、Deezer和Genius等平台抓取了数百万首歌曲和歌词。这加剧了针对Suno的版权诉讼,该公司承认抓取但辩称属于合理使用。黑客还获取了客户信息,但Suno声称安全事件已得到控制,未泄露敏感数据。

  • 黑客泄露的数据表明Suno从YouTube Music、Deezer和Genius等平台抓取了数百万首歌曲和歌词。
  • Suno正面临多起版权诉讼,它承认抓取但主张合理使用。
站内正文

新型Mac恶意软件伪装成苹果崩溃报告器:三种方法避免威胁

一种名为CrashStealer的新型macOS恶意软件伪装成苹果崩溃报告工具,窃取用户数据、密码和加密货币钱包。本文介绍其工作原理及三种防御习惯。

  • CrashStealer通过伪装成苹果崩溃报告器(CrashReporter.dmg)传播,利用有效签名通过Gatekeeper检查。
  • 恶意软件尝试解锁钥匙串,窃取密码管理器、浏览器和加密货币钱包数据,并加密发送至攻击者服务器。
站内正文

Fleet新功能:一键将AI代理部署到Slack

LangChain的Fleet平台新增一键部署功能,允许用户无需编码即可创建并发布AI代理到Slack。代理可拥有自定义身份,在频道和线程中工作,并支持权限控制和审批流程。

  • Fleet支持用自然语言构建专业AI代理,无需编程。
  • 代理可一键部署到Slack,拥有独立身份,团队可识别和@提及。
站内正文

GeoSQL:给AI看地图使其准确性提高4倍(韩文)

GeoSQL是一种地理空间分析技能,通过将地图可视化反馈整合到AI代理循环中,显著提高了空间查询的准确性。它解决了AI仅基于文本数据时无法检测到的几何错误(如多边形异常或坐标偏移),并通过数据库探索、成本预估、结果验证和地图渲染等步骤实现自主校正。与Dekart配合使用时,性能提升可达4倍。文章还讨论了局限性,如仅BigQuery支持成本控制、测试规模有限等。

  • GeoSQL让AI在代理循环中渲染并检查地图,从而发现文本表格中隐藏的几何错误。
  • 性能基准测试显示,启用地图反馈循环后准确率提高4倍。
站内正文

多数美国人现在认为公众应持有大型AI公司一半的股份

一项调查显示,69%的美国成年人支持强制AI公司将其50%的股票转让给公共主权财富基金,这一政策是伯尼·桑德斯提出的《美国AI主权财富基金法案》的核心。该调查反映了劳动力市场的转变:2026年上半年,科技行业占美国裁员总数的近三分之一,而同期这些公司却增加了AI资本支出。文章还介绍了反对观点,包括财产权反对、投资冷却、就业替代争议以及调查措辞的影响。

  • Verasight对1690名美国成年人的调查发现,69%的人支持强制AI公司转让一半股份给公共主权财富基金。
  • 该政策由参议员伯尼·桑德斯提出,旨在让公众分享AI行业的收益。
站内正文

用Telnyx AI电话代理进行实时谈判演练

本文介绍如何用110行Python代码构建一个基于Telnyx Call Control和AI Inference的AI谈判练习电话。用户拨打电话后,可选择薪资谈判、销售交易或供应商合同三种场景,与扮演对手的AI进行语音谈判,挂断后获得结构化评分反馈。文章包含完整的构建步骤、架构解析和自定义场景的方法。

  • 一个仅110行Python的AI谈判练习电话应用,支持语音对话和实时评分
  • 三种谈判场景:薪资、销售、供应商合同,AI角色带有隐藏约束
站内正文

智能体需要自己的计算机:如何安全地赋予它们

为了让AI智能体真正自主执行任务,它们需要一个隔离、安全且可快速部署的计算环境。本文介绍了智能体为何需要自己的“计算机”,以及LangSmith沙箱如何通过微虚拟机隔离、快照与分支、认证代理和安全执行等特性满足这一需求。同时讨论了提示注入等安全风险及缓解措施。

  • 智能体需要隔离的执行环境来运行代码、安装包和访问网络,而不仅仅是生成文本。
  • LangSmith沙箱为每个智能体提供硬件虚拟化的微虚拟机,启动时间低于1秒,且自动清理。
站内正文

我让ChatGPT Work和Claude Cowork处理我的文件——只有其中一个让我紧张

ZDNet作者David Gewirtz对比测试了ChatGPT Work和Claude Cowork的桌面文件自动化能力。ChatGPT Work能自动检测重复文件并智能重命名,整理速度虽快但全程未请求权限,存在安全风险。Claude Cowork则在每次重大操作前请求批准,更适合高风险任务。作者认为,一旦OpenAI修复权限问题,两者在整理质量上不相上下。

  • ChatGPT Work自动检测出重复文件并基于内容进行智能重命名,节省了大量手动操作时间。
  • 在文件删除、重命名和移动过程中,ChatGPT Work从未请求权限,尽管已设置为“请求批准”模式,这成为最大的安全隐患。
站内正文

我如何欺骗Claude泄露你最深的秘密

研究人员发现Claude的web_fetch工具存在漏洞,允许攻击者通过嵌套链接诱导AI泄露用户私人记忆中的敏感信息,如姓名、位置和雇主。Anthropic已修复该漏洞,但未支付漏洞赏金。

  • Claude的web_fetch工具原本设计为仅允许用户输入或搜索返回的URL,但通过嵌套链接漏洞被绕过。
  • 攻击者创建诱饵网站,通过序列化链接引导AI泄露用户记忆中的隐私数据。
站内正文

Show HN:一个AI代理无法破坏架构的TypeScript仓库

这个TypeScript仓库展示了一种通过工具强制执行的规则系统,防止AI代理在编码过程中破坏架构。它包含五个关键防护措施:依赖规则、突变测试、测试与规范保护、提交门控和规范驱动开发。该仓库还作为模板,可用于启动新项目,并提供了一个基准测试来验证代理的能力。

  • 使用dependency-cruiser、Stryker等工具强制执行架构规则,AI代理无法绕过。
  • 包含五个关键防护措施,确保代码质量和架构完整性。
站内正文

想让克劳德对你客气点?试试印地语或阿拉伯语

Anthropic 研究发现,其 AI 模型 Claude 在不同语言中会表现出不同的价值观差异。研究者确定了四个关键轴(顺从 vs. 谨慎、温暖 vs. 严谨、深度 vs. 简洁、坦诚 vs. 执行力),这些轴解释了约 15% 的跨语言变化。例如,Claude 在阿拉伯语和印地语中更倾向表达温暖,在英语和俄语中更倾向严谨。这些差异可能影响用户体验和安全性,值得进一步探索。

  • Claude 在不同语言中会表现出不同的价值观,主要影响回答的风格和语气。
  • 研究识别了四个关键轴,跨语言变化约 15% 可由此解释。
站内正文

芯片制造商Axelera发布Voyager Wingman加速边缘AI开发

边缘AI芯片公司Axelera AI发布了Voyager Wingman,一个允许开发者通过自然语言请求构建和调试边缘芯片应用的AI助手。该工具连接公司的Voyager SDK和全部文档,可帮助组装计算机视觉管道、建议编译器设置并诊断错误。它作为托管服务运行,知识随Toolkit版本自动更新。现已提供网页版和独立应用,采用免费增值模式。

  • Voyager Wingman通过聊天界面提供对Axelera SDK和文档的直接访问,简化边缘AI开发。
  • 该工具最初在CES上展示,经过客户和内部团队测试后正式发布。
站内正文

AI将DNA折叠成微型杰作

韩国研究人员利用生成式AI模型Generative SNUPI,能够将用户绘制的形状自动转化为可折叠的DNA纳米结构,大幅简化了传统DNA折纸技术繁琐的设计过程,为纳米机器人和医疗应用开辟新途径。

  • 韩国研究团队开发了Generative SNUPI模型,利用扩散设计自动将形状转化为DNA序列。
  • 该模型考虑了DNA化学规则,确保设计的纳米结构稳定并能在现实中折叠。
站内正文

纽约州成为美国首个实施AI数据中心禁令的州

纽约州州长凯西·霍楚尔签署行政命令,禁止新建功率超过50兆瓦的超大规模数据中心,为期一年。此举旨在应对电网压力、电费飙升及环境担忧,获得多数民众支持,但也引发竞争力下降的争议。

  • 纽约州成为美国首个禁止大型AI数据中心建设的州。
  • 禁令为期一年,针对功率50兆瓦及以上的超大规模数据中心。
站内正文

AI技能在入门级数据岗位中出现率仅0.3%,高级岗位达3.6%

根据Datamata Studios发布的AI需求指数,截至2026年7月14日,9.3%的活跃数据岗位在职位描述中提及至少一项AI技能。其中生成式AI技能出现率在入门级岗位仅为0.3%,高级岗位为3.6%,差距显著。该指数每日更新,数据集免费公开,支持API查询和CSV下载。

  • 9.3%的数据岗位提及AI技能,其中生成式AI占2.7%,经典ML占8%。
  • 入门级数据岗位生成式AI技能出现率仅0.3%,而高级岗位为3.6%。
站内正文

机器学习研究中有多少是关于AI安全的?涉及哪些内容?谁在做?

LessWrong上的一篇文章分析了ICML 2026的论文,发现仅有一小部分机器学习研究专注于AI安全。在999篇论文中,954篇可检索,其中只有约10篇明确涉及安全议题,涵盖对齐、鲁棒性和可解释性等领域。研究主要由学术机构和工业实验室开展。

  • ICML 2026共999篇论文,954篇可检索,45篇因标题变更无法获取。
  • 明确关注AI安全的论文仅约10篇,占比约1%。
站内正文

PromptMan: 一款用于保存和重用AI提示的macOS原生应用

PromptMan是一款macOS菜单栏应用,允许用户通过全局快捷键快速保存、组织和重用AI提示,支持ChatGPT、Claude等工具,并提供云同步、提示版本管理和AI增强功能。免费版提供10个提示,Pro版每月4.99美元,年付39美元。

  • 一键全局快捷键(默认⌘⇧O)复制提示到任何AI工具
  • 支持提示版本管理和云同步
站内正文

谷歌AI搜索功能对儿童构成“不可接受的风险”

根据Common Sense Media的一份新报告,谷歌的AI搜索功能(AI Overview和AI Mode)对儿童构成“不可接受的风险”。报告发现,这些功能未能识别危险行为,为儿童完成作业,并提供不准确和前后矛盾的回复。谷歌回应称其AI工具提供了额外保护,但批评者指出这些功能默认启用且无法禁用,对学校和家庭构成挑战。

  • Common Sense Media测试了2600多次交互,发现谷歌AI搜索功能频繁未能识别危险行为。
  • AI功能为儿童完成100%的假设性作业,并提供不准确和前后矛盾的答案。
站内正文

NeurIPS Mech Interp 研讨会发现更多AI垃圾投稿

运行三次机械解释性研讨会后,研究人员获得了分析LLM垃圾投稿增长的数据集。@andyarditi 调查了AI垃圾的准入情况以及自2024年以来的变化。

  • 三次研讨会提供了分析AI垃圾投稿增长的数据集
  • @andyarditi 分析了AI垃圾的准入情况与变化
站内正文

人工智能服务于澳大利亚利益

澳大利亚总理在悉尼大学发表演讲,强调澳大利亚应主动塑造人工智能的发展,以维护国家利益。他回顾了澳大利亚在社会保障、劳工权利等方面的创新传统,并宣布将建立一套澳大利亚人工智能标准,以规范大型数据中心,保护艺术家和媒体,同时吸引投资并创造就业。

  • 澳大利亚将建立强制性的AI标准,纳入统一监管框架。
  • 总理强调利用澳大利亚的地理和资源优势,设定AI发展的社会许可。
站内正文

主题导航

研究 — AI 话题新闻 | AI News Hub