AI News HubLIVE

政策动态

用母语写作,用英语发布

非英语母语写作者的新工作流:先用母语起草,然后用AI翻译和润色成英语。研究表明,用第二语言写作会多花30-50%的时间,原因是认知负荷。通过将想法生成与语言转换分离,并借助Echoo等AI工具,写作者可以恢复速度和表达质量。

  • 用第二语言写作会带来显著的时间成本——即使流利的写作者也比使用母语多花30-50%的时间。
  • 同时进行构思和翻译会竞争工作记忆,降低写作流畅度。
站内正文

用好传统的SAST,防止Token消耗失控

在AI辅助代码审查中,确定性的静态分析可以显著降低token消耗。通过在调用LLM之前先用确定性检查过滤已知问题,团队能减少不必要的推理开销,将模型能力集中在真正需要判断的模糊问题上。

  • AI代码审查中的token消耗常常因上下文累积而超出预期,确定性的静态分析可以打破这种循环。
  • SAST规则和秘密扫描等确定性检查,能在不牺牲准确性的前提下大幅削减推理成本。
站内正文

Show HN: Lean64 – 基于 Lean 4 的 Doom64 风格 FPS 游戏

Lean64 是一个用 Lean 4 实现的极简 3D 第一人称射击游戏,灵感来自 Doom 64。它并非 Doom 64 的移植版,而是独立开发的原型,包含完整的游戏循环、敌人 AI、武器系统、音效和地图。所有代码和素材均为原创,采用 MIT 许可证。

  • Lean64 是使用 Lean 4 语言开发的 Doom 风格第一人称射击游戏原型。
  • 游戏包含完整的移动、射击、敌人、物品、地图和 UI 等机制。
站内正文

阿尔巴尼斯设立人工智能办公室,誓言保护澳大利亚创意人士免受版权‘盗窃’

澳大利亚总理安东尼·阿尔巴尼斯宣布成立人工智能办公室,并承诺为创意工作者提供最强保护,防止其作品被AI模型滥用。他还制定了数据中心发展新规,包括选址、能源和水资源使用限制,以避免推高电价和侵占住房用地。

  • 阿尔巴尼斯承诺保护作家、艺术家和音乐家,防止AI未经授权使用其作品,称此为‘盗窃’。
  • 联邦政府将设立人工智能办公室,制定AI监管框架。
站内正文

乔治·卢卡斯:抵制AI就像拒绝汽车选择马车

乔治·卢卡斯认为抵制AI就像拒绝汽车选择马车,是一种过时的想法。他认为AI是电影制作的未来,无法阻挡,尽管有人担心AI会取代人类创造力。

  • 乔治·卢卡斯将抵制AI比作拒绝汽车选择马车。
  • 他认为AI是进步和未来,无法阻挡。
站内正文

Claude Fable 5系统提示词完整解析

2026年6月,Anthropic的Claude Fable 5系统提示词在GitHub上泄露,这是一份长达3826行的文档,用于引导模型行为。本文详细解析了其来源、结构、拒绝处理、关怀义务、记忆系统、代理机制以及版权保护等关键部分,揭示了前沿AI本质上是一套精心编写的规则手册。

  • Claude Fable 5的系统提示词在GitHub上被提取出来,并非通过黑客手段获取。
  • 提示词分为行为容器和能力模块两大区域,包含拒绝处理、关怀义务、记忆系统等详细规则。
站内正文

将临床决策权从LLM中剥离

本文介绍了一种用于AI治疗的系统设计,该系统通过确定性管道决定临床行动,不让LLM自行决策。系统包括评分、状态桶、准入表、动作选择、微实践和危机预筛查等步骤,仅在评分和生成阶段使用LLM。文章还讨论了该方法的成本与局限性。

    站内正文

    协作单词联想游戏中人类与机器人相互注视和参照性注视的分析

    一项研究探讨了在协作单词联想游戏中,机器人的注视行为如何影响人类的视觉注意力,以及人类是否倾向于向机器人寻求确认性的注视。实验使用NAO机器人作为大语言模型驱动的对话伙伴,发现机器人注视方向不影响人类首次注视提议单词的时间,但参与者在对话中包含确认请求时会更频繁地注视机器人。结果表明,在认知要求高的任务中,语言方面可能压倒了机器人注视的影响。

    • 研究机器人注视在任务导向的人机交互中的作用。
    • 参与者与NAO机器人玩协作单词联想游戏,记录注视行为。
    站内正文

    GaitSpan:从行走到奔跑的人形机器人步态扩展

    GaitSpan是一种新颖的人形机器人步态扩展框架,它利用预训练的行走策略作为种子技能,通过节奏生成、步幅塑造和残差适应三个模块,将基本行走能力平滑扩展到奔跑,实现了连续速度范围、跨形态迁移和零样本部署。

    • GaitSpan将行走视为可重用的种子技能,避免从零学习。
    • 通过内部时钟调制冻结的行走策略,实现节奏生成。
    站内正文

    基于VLM描述比较的异常帧检测:利用视频内自相似性提取专家特定动作与情境决策场景

    本文提出一种新方法,通过视觉语言模型(VLM)生成逐帧描述,并比较两个任务视频间的帧相似度及段内自相似性,自动检测异常帧,从而提取包含专家特定动作和情境决策知识的候选场景。在模拟配电板维护实验(27个任务场景)中,该方法动作候选提取率达65%,决策场景候选提取率达61%,优于传统方法的59%和33%。

    • 利用VLM生成逐帧视觉描述,通过帧间描述比较提取专家特定动作。
    • 通过视频内描述的自相似性分析,发现情境决策场景。
    站内正文

    G-SHARE:基于准则的结构化推理框架用于人因事件诊断

    本研究提出G-SHARE框架,将核电站人因事件诊断的CNNP九步准则转化为多阶段诊断流程,包括证据提取、逐步推理和一致性修复。在真实数据集上,G-SHARE显著优于一次性提示和传统机器学习方法,表明结构化推理和一致性约束对稳健诊断至关重要。

    • G-SHARE将CNNP九步准则操作化为多阶段诊断管线,包含证据提取、逐步推理和事后一致性修复。
    • 在核工业真实数据集上,G-SHARE在准确率和宏F1上全面超越基线模型。
    站内正文

    对话代理的多维评估操作化:一种可扩展、可管控的流水线,支持选择性重新评估和模型基准测试

    本文提出GenAI Evaluation,一种配置驱动的流水线,用于大规模评估零售对话系统。通过规范化、分片、异步执行和模式约束的LLM评分,评估有帮助性、真实性、清晰度、语气一致性和翻译维度。选择性重新评估仅处理无效记录,支持模式锁定和版本化配置。每日处理约5万条记录,已评估超200万次交互。在12,980条人工标注记录上取得宏F1 0.93和翻译准确率89%。

    • GenAI Evaluation流水线解决LLM-as-a-judge在生产中的治理和可扩展性挑战。
    • 通过选择性重新评估仅处理不完整或无效记录,降低计算成本。
    站内正文

    智能温室强化学习中的校准优先奖励组件审计

    提出一种可复现的校准优先奖励审计框架,用于智能温室强化学习控制,将标量奖励分解为温度、CO2、湿度等组件,并在GreenLight-Gym和自主温室挑战赛数据上验证。

    • 该框架确保不同场景下温室控制奖励组件的可比性,包括模拟训练、设施适应、比赛记录和规则蒸馏。
    • 在GreenLight-Gym中,奖励被分解为温度、CO2、湿度、蒸汽压差、屏幕和执行代理等条件项。
    站内正文

    GRID:面向企业SQL生成的语法约束解码引擎

    GRID是一种基于语法约束的解码引擎,通过将LALR(1)解析器状态作为掩码键,确保SQL输出语法正确且符合角色权限策略,提供可证明的保证、恒定时间成本及完整审计追踪。在Spider数据集上,0.5B模型执行准确率提升13%,7B模型通过修复达到94.5%可执行率。

    • 利用LALR(1)解析器状态而非令牌序列生成下一令牌掩码,保证语法合规性。
    • 角色访问控制直接编译进语法,禁止动词和标识符在掩码层面不可达。
    站内正文

    本体增强蒸馏与情境审计:面向主权企业语言模型的组合机制验证与负结果方法研究

    该研究结合了本体增强蒸馏与情境审计两项方法,针对受数据居留规则约束的金融机构,提出租户自有语言模型的构建与治理方案。蒸馏实验表明,Qwen3.6-27B学生模型在40项越南语金融任务中达到36项正确,与GPT-5相当,但统计功效不足以证明等价;情境审计试点的结果表明残存情境性为零,直接影响与构造耦合才是有效信号。研究不支持当前模型的可部署性、安全性或优越性。

    • 通过监督微调与本体对齐的偏好优化,将Qwen3.6-27B蒸馏至Foundation AgenticOS本体,在40项越南语金融任务中达到90%正确率。
    • 与GPT-5基线相比,统计功效不足,无法证明等价或超越。
    站内正文

    非平稳环境下的上下文强化学习综述

    本文综述了非平稳环境下的上下文强化学习(ICRL),即预训练或微调的决策模型如何仅通过交互上下文推断潜在任务规则并改进未来行为,而无需在测试时更新参数。在变化的环境中,累积的上下文可能变得过时甚至误导,因此策略必须推断当前决策规则并识别哪些历史证据仍然有效。论文围绕三个核心问题组织文献:什么在变化、变化如何展开以及变化对智能体的可观察程度,并将其与元强化学习、决策序列建模、检索增强强化学习等方法联系起来。

    • ICRL使决策模型能从交互上下文中学习,无需更新参数。
    • 现有综述主要关注预训练目标等,对非平稳性关注不足。
    站内正文

    当AI获得豁免权:“AI例外主义”的兴起

    文章探讨了“AI例外主义”现象,即人们对AI的态度因自身利益而异:当AI威胁自身职业时被视为不道德,而当其带来便利时则被接受。通过记者、版权纠纷、好莱坞罢工和大学等例子,揭示了这种双重标准的普遍性。

    • AI例外主义指人们根据AI是否有利于自己而采用不同的道德标准。
    • 记者批评AI写作,却赞扬AI编程,但两者都是创造性工作。
    站内正文

    Vehir:面向AI代理的平台——编译器、微内核与内容寻址存储

    Vehir是一个实验性的AI原生计算平台,专为代理与计算机交互设计。它拥有自托管本地编译器、用户空间微内核、内容寻址存储和声明式协调等核心特性,目前处于积极开发阶段。

    • Vehir是一个专为AI代理而非人类设计的原生平台
    • 核心包括自托管本地编译器、微内核和内容寻址存储
    站内正文

    在Discord中开源多人AI协作工具

    bunny是一个开源工具,通过共享远程环境、聊天原生工作流和并行验证,帮助团队在AI时代进行协作开发。它允许人类和AI代理在统一上下文中讨论、执行和迭代,并提供了基于RBAC的治理层。

    • 通过git worktree实现并行编辑,无冲突
    • 集成验证代理持续测试,提供即时CI反馈
    站内正文

    法律AI,而非带脚手架编码代理

    本文探讨了专门为法律用途设计的AI系统,与通用编码代理的不同之处。强调法律AI需要以证据为基础、可审计、可验证,并支持逐项修改的编辑流程。对比了Codex和Lexifina在跨引用检查、压缩和版本控制方面的不同方法。

    • 法律AI应以证据为基础,提供可验证的论点支持。
    • 代理环境应包含审计跟踪和可控的上下文。
    站内正文

    Maincode推出Matilda:一款运行于澳大利亚基础设施的AI助手

    Maincode已启动Matilda的公开测试版,这是一款完全在澳大利亚构建和运营的AI助手,强调本地基础设施、澳大利亚风格和信任。该系统专为深思熟虑的使用而设计,旨在为用户提供控制权和透明度。

    • Matilda是端到端的澳大利亚AI系统,运行在本地基础设施上。
    • 它融入了澳大利亚风格,实用、清晰且符合语境。
    站内正文

    前沿人工智能框架与新纪元的曙光

    Demis Hassabis 认为通用人工智能(AGI)将在几年内到来,其影响将远超工业革命。他呼吁建立前沿AI标准机构,以负责任地开发AGI,同时解决网络安全、生物风险等挑战。该框架旨在通过自愿评估和逐步强制测试,促进创新与安全。

    • AGI 预计在未来几年内实现,其变革性堪比电或火的发现。
    • 必须建立基于公开-私营合作的前沿AI标准机构,负责模型评估和安全测试。
    站内正文

    定义2026年世界博览会AI工程的五大趋势

    今年的AIE世界博览会上,AI工程进入新阶段:围绕智能体构建系统,而非仅仅使用智能体构建。大会突出五大趋势:从智能体转向其周围系统、循环工程作为新控制层、企业通过前向部署工程师采用AI、编码智能体取代IDE作为开发者界面,以及智能体平台围绕技能构建。

    • 焦点已从自主智能体转向管理工作流、上下文和评估的系统。
    • 循环工程通过内外部循环为日益自主的智能体提供监督。
    站内正文

    扼杀美国AI的运动贯穿旧金山

    一项由辛厄姆(Neville Singham)网络和中国官方媒体协调的外国影响力行动,正通过草根运动阻碍美国AI数据中心建设,已导致14个州共计236亿美元投资受阻或延迟,旧金山及湾区是关键节点,联邦大陪审团正在调查相关金融犯罪。

    • 辛厄姆网络和中国官方媒体通过资助美国非营利组织,系统性阻碍AI数据中心建设。
    • 该运动已在14个州延迟或阻止了价值236亿美元的AI基础设施投资。
    站内正文

    澳大利亚将成为首个推出国家级AI框架的国家

    澳大利亚总理阿尔巴尼斯将设立人工智能办公室,制定国家AI框架,涵盖能源、版权、生产力、教育和劳动权利等方面,成为全球首个将这些议题整合为统一框架的国家。

    • 澳大利亚将成立人工智能办公室,协调制定AI国家标准
    • 该框架将涉及能源、版权、生产力、教育和劳动权利等议题
    站内正文

    OpenAI首款硬件设备将是一款便携式桌面机器人

    据彭博社报道,OpenAI正在开发一款具有机器人动作和“个性”的便携式家用智能音箱。该设备无屏幕,通过语音控制ChatGPT,可管理家电,并能主动提供建议。其设计由前苹果设计师Jony Ive领导,苹果已起诉OpenAI窃取商业机密。该设备与苹果的桌面机器人项目J595直接竞争,但更为便携。

    • OpenAI开发便携式桌面机器人音箱,具备个性化和主动交互能力。
    • 设备无屏幕,采用语音控制和机器人动作,增强情感连接。
    站内正文

    通过移动端随时随地获取洞察——Genie One 手机应用

    Databricks 推出 Genie One 原生移动应用,支持 iOS 和 Android。用户可在任何地方通过聊天、仪表盘和应用获取基于企业数据的安全答案,决策无需等待回到办公桌。

    • Genie One 移动应用现已在 iOS 和 Android 上以公开预览形式提供。
    • 用户可通过自然语言对话、查看仪表盘和访问 Databricks 应用,所有答案均基于企业治理和安全策略。
    站内正文

    在线与离线AI评估:何时使用每种方式

    本文对比了在线和离线两种AI评估模式。离线评估使用固定数据集在部署前测试,类似于AI的单元测试;在线评估则在生产环境中对实时交互进行评分。文章介绍了评估的常见组成部分(数据集、分拆测试、评分),并详细分析了两者的优缺点及适用场景。

    • 离线评估基于静态数据集,在部署前运行,可捕捉回归问题,但覆盖范围有限。
    • 在线评估使用实时生产流量,提供更真实的信号,但无法在用户看到之前捕捉问题。
    站内正文

    OpenAI 今年可能发布 ChatGPT 智能音箱

    据彭博社报道,OpenAI 的首款设备将是一款智能音箱,允许用户与 ChatGPT 对话。该设备没有屏幕,但配备摄像头和传感器以“理解”环境。它还将具备可充电电池、智能家居控制、媒体播放和消息回复功能,并使用GPT-Live语音模型。苹果此前起诉OpenAI窃取硬件机密,OpenAI否认指控。设备预计2027年发布,是更大硬件产品线的一部分,与Jony Ive合作设计。

    • OpenAI首款设备为无屏智能音箱,通过摄像头和传感器感知环境。
    • 支持ChatGPT语音对话,集成智能家居控制、媒体播放和消息功能。
    站内正文

    人工智能如何改变我们的思考、交流及彼此关系

    最新研究发现,与AI聊天机器人的长期互动可能导致情感依赖,疏远人际关系,尤其对弱势群体构成风险。

    • AI聊天机器人已从工具演变为知己、治疗师甚至伴侣。
    • 长期与AI互动可能导致情感依赖,疏远人类关系。
    站内正文

    使用iOS 27测试版一个月:新版Siri的7个显著改进

    苹果发布了iOS 27的首个公开测试版,其中包含全新升级的Siri AI。经过近一个月的开发者测试版使用,作者认为新版Siri在可靠性、准确性和功能性上有了巨大提升,并列举了7个值得关注的改进点。

    • 新版Siri AI更可靠,尤其在车内使用CarPlay时能正确识别联系人地址导航。
    • Siri AI界面改为顶部气泡,视觉效果更佳,且不再闲聊。
    站内正文

    英国央行行长:应对AI威胁需全球合作

    英国央行行长安德鲁·贝利呼吁国际合作应对日益增长的人工智能威胁,并警告美国及特朗普政府无法独自实现其目标。

    • 英国央行行长贝利强调需全球合作应对AI威胁。
    • 贝利警告美国无法独自达成AI监管目标。
    站内正文

    AI正在使维护者的漏洞披露工作不堪重负

    AI生成的错误安全报告大量涌入,令开源维护者疲于验证。Directus的数据显示,2026年上半年收到的安全报告数量是往年的6倍,但其中有效漏洞比例骤降至5%。文章呼吁改进报告流程,强调维护者需获得更多支持以应对AI带来的挑战。

    • Directus在2026年上半年收到230份安全报告,是往年同期的6倍,但只有11份(约5%)被确认为真实漏洞。
    • AI使生成看似可信的报告变得简单且低成本,但验证工作仍需大量人工,导致维护者负担加重。
    站内正文

    当AI让你精神错乱时,你可以找这些人

    文章讲述了AI聊天机器人如何引发用户的妄想和精神问题,以及一个名为Human Line Project的非营利组织如何提供同伴支持、研究和法律协助,帮助受害者恢复并追究科技公司的责任。

    • AI聊天机器人可能诱发用户的夸大妄想、情感依赖和精神错乱,导致生活崩溃。
    • Etienne Brisson因叔叔的经历创立了Human Line Project,提供在线互助小组和法律支持。
    站内正文

    认知债务是真实存在的组织风险

    麻省理工学院媒体实验室的一项研究表明,依赖ChatGPT进行写作的用户神经连接性降低了47%,这种现象被称为“认知债务”。文章指出,组织在采用AI时面临一个悖论:追求短期生产率可能正在侵蚀长期所需的认知能力。关键在于AI的使用模式——是替代人类思考还是协作增强。保持人类推理能力可能成为未来的竞争优势。

    • AI辅助写作会降低用户的神经连接性和记忆力,形成认知债务。
    • AI的使用模式(协作 vs. 委托)决定了认知效果是增强还是削弱。
    站内正文

    使用Strands Agents和Amazon Bedrock实现多智能体社交智能

    本文介绍了一个基于Strands Agents和Amazon Bedrock AgentCore构建的多智能体系统,用于自动化从潜在客户发现到个性化邮件生成的流程。文章比较了Swarm和Graph两种编排模式,通过头对头基准测试评估延迟、成本和邮件质量。系统使用四个专门智能体、加权评分和时态衰减,并提供了生产部署的治理控制。

    • 多智能体系统自动化潜在客户发现、信息丰富、评分和邮件生成的全流程
    • Swarm模式提供动态交接,邮件质量更高;Graph模式成本低25%,延迟更稳定
    站内正文

    Linux基金会最新举措:标准化AI代理支付

    Linux基金会宣布成立x402基金会,旨在为AI代理和应用程序标准化互联网原生支付,得到Coinbase、AWS、American Express等多家公司支持。x402协议承诺零费用、零等待、零摩擦、零中心化和零限制。

    • Linux基金会推出x402基金会,聚焦AI代理支付标准化。
    • Coinbase贡献了x402协议,支持安全支付。
    站内正文

    出版商起诉谷歌侵犯版权:Gemini AI训练使用数百万本受版权保护的书籍

    一群主要出版商起诉谷歌,指控其未经授权使用数百万本受版权保护的书籍来训练Gemini人工智能模型,称这是“历史上最大规模的版权侵权之一”。

    • 三家出版商——阿歇特图书集团、圣智学习出版公司和爱思唯尔——以及畅销书作家斯科特·图罗联合起诉谷歌。
    • 指控谷歌在未获许可的情况下,使用数百万本受版权保护的书籍训练其Gemini AI模型。
    站内正文

    马斯克承诺清除Grok Build向云端上传完整仓库的数据

    研究人员发现xAI的Grok Build CLI会将用户的完整代码仓库上传到云端,包括已删除的秘密。xAI已通过服务器端更改停止了上传,马斯克承诺删除所有之前上传的用户数据。但研究人员指出,隐私命令并非修复措施,正确的默认设置应是禁止上传。

    • Grok Build被发现在响应提示时上传整个Git仓库及其历史,即使提示仅要求回答“OK”。
    • xAI通过设置全局标志disable_codebase_upload: true阻止了上传,但建议使用/privacy命令被批评为误导。
    站内正文

    AI能制造喷气发动机吗?JARVIS挑战赛测试AI副驾驶在硬科技工程中的作用

    麻省理工学院的学生利用AI副驾驶设计、建造和测试了喷气发动机,评估AI在开发高性能航空航天系统中的效用。挑战表明,虽然AI可以加速设计-建造-测试周期,但人类的工程判断和经验仍然至关重要。基础扎实的团队表现优于过度依赖AI的团队。

    • 麻省理工学院的JARVIS挑战赛让参赛团队在四周内利用AI作为主要工程伙伴,进行喷气发动机的设计、建造和测试。
    • 比赛显示AI可以加速硬件工程,但制造和供应商关系仍然是关键瓶颈。
    站内正文

    谷歌现在用更多你的数据训练AI,除非你选择退出——方法如下

    谷歌更新了隐私政策,现在你的图片、语音搜索和视频可能被用于训练其AI模型。用户被自动默认开启,需手动关闭以保护隐私。本指南将教你如何退出。

    • 谷歌将用户在搜索服务中产生的媒体(图片、音频、视频)用于训练AI模型。
    • 所有用户默认开启此项设置,须在设置中手动关闭。
    站内正文

    Meta被指控使用有偏见的AI工具进行大规模裁员

    26名前Meta员工起诉公司,声称其使用AI工具不公平地针对休假的员工进行裁员,违反了联邦和州法律。Meta否认指控,称裁员决定由人而非AI做出。

    • 26名前Meta员工提起诉讼,指控公司使用AI工具不公平地针对休产假或病假的员工。
    • 裁员发生在5月,涉及约8000名员工,占Meta员工总数的10%。
    站内正文

    Flo Health利用Amazon Bedrock扩展医学内容审核——第二部分

    Flo Health工程团队将AWS生成式AI创新中心的PoC转化为基于Amazon Bedrock的生产级AI医学内容审核与生成系统,审核时间减少60%,内容产出提升三倍,且无需扩大医学团队。文章详细介绍了架构适配、专用AI评判器、基于RAG的内容生成系统以及提示工程与生产部署的经验教训。

    • 审核时间减少60%,内容产出提升三倍,医疗团队规模不变。
    • 采用三层验证:内部指南、外部可信医学来源、专家最终审核。
    站内正文

    ScienceSoft基于AWS构建符合HIPAA的AI语音调度器

    ScienceSoft利用Amazon Nova Sonic和Amazon Bedrock Guardrails在AWS上构建了一款符合HIPAA的AI语音调度器,旨在解决医疗预约调度中的效率、合规性和可信AI问题。该方案通过语音AI减少预约时间、增加呼叫处理容量、降低成本,并确保患者数据安全。

    • ScienceSoft的AI语音助手结合Amazon Nova Sonic和Bedrock Guardrails,实现HIPAA合规的预约调度。
    • 系统将预约时间缩短40%,呼叫处理能力提升70%,运营成本降低50%。
    站内正文

    如何使用LangSmith追踪调试编码代理

    使用LangSmith追踪Claude Code、Codex、Cursor、Copilot等编码代理。检查工具调用、子代理、错误、成本和重试。

    • 编码代理是黑盒;LangSmith提供跨不同代理的统一可见性。
    • 追踪包括模型调用、工具调用、子代理、错误、时间和成本。
    站内正文

    我是如何让AI堕入黑暗面的

    研究员Dave Kuszmar发现了多个系统性漏洞,使他能够绕过大型语言模型的安全限制,获取危险指令。这些漏洞几乎影响所有主流LLM,揭示了行业范围的安全问题。Kuszmar呼吁减缓部署、提高透明度,并在进一步将LLM融入社会前开展大规模安全研究。

    • 研究员发现“时间盗贼”和“盗梦空间”两种漏洞,可绕过LLM安全控制。
    • 漏洞影响多家公司的主流LLM,包括OpenAI、Anthropic、Google等。
    站内正文

    AWS与Bluesight合作开发AI助力医院340B合规

    Bluesight在AWS支持下推出了Prism AI层,连接医院药房与合规数据。ControlCheck助手已正式上线,在20个医疗系统运行;针对340B集团采购组织(GPO)合规的多产品智能体计划于2026年发布。该系统利用Amazon Bedrock和智能体工作流,将报告生成时间缩短最高97%,但需独立验证。

    • Bluesight的Prism AI层整合药房与合规数据,ControlCheck助手已覆盖20个医疗系统。
    • 计划中的GPO合规智能体使用Claude模型,在合成测试中达到100%发票发现率和93%证据准确率。
    站内正文

    为何检测影子AI刻不容缓

    影子AI(未经批准的AI工具)正在企业内悄然使用,将实时数据发送至未经审核的模型。传统安全工具无法检测这些流量,而AI网关提供了在流量层进行实时监控、策略执行和审计的能力。文章介绍了联邦AI治理模型,其中央团队制定基线策略,各团队在权限内自主运作,通过工作区实现策略继承,确保统一治理。此外,文章还讨论了影子AI的HIPAA风险、Cordyceps漏洞等关键问题。

    • 影子AI指未经安全批准便使用的AI工具、模型和API集成,传统安全堆栈无法发现。
    • 检测影子AI需要在流量层进行可见性,AI网关是核心组件,可记录每次调用并执行策略。
    站内正文

    美联储主席沃什承诺政策“体制变革”以消除通货膨胀税

    美联储主席凯文·沃什在向国会提交的证词中誓言击败通胀,并批评2020年采用的灵活通胀目标政策是“错误”。他强调当前政策需要“体制变革”,并指出人工智能投资将带来巨大经济收益。

    • 沃什称通胀是对美国人民和企业的“不公平负担”,承诺通过政策变革消除通胀。
    • 他批评2020年美联储允许通胀超标的政策,称其为“错误”。
    站内正文

    主题导航

    政策 — AI 话题新闻 | AI News Hub