AI News HubLIVE

政策动态

律师因未使用人工智能可能面临诉讼

英国司法管辖区工作组(UKJT)发布法律声明,警告律师及其他专业人士可能因未使用人工智能而面临过失索赔,同时也可能因不当使用AI而被追究责任。现有英国法律足以判定相关责任,无需专门立法。

  • UKJT声明指出,专业人士不仅可能因滥用AI承担责任,还可能因未能采用AI而承担责任,前提是同行合理人士会使用。
  • 示例包括律师未使用AI辅助文件审查、放射科医生未使用AI识别肿瘤、审计师未使用AI检测异常。
站内正文

中国打击AI伴侣,迫使数百万用户与虚拟伴侣分手

中国出台新规,禁止科技公司向未成年人提供AI或虚拟伴侣,并要求平台限制用户过度使用、禁止聊天机器人鼓励情感依赖。此举旨在阻止现实人际关系的弱化,并试图扭转持续下降的出生率。字节跳动、阿里巴巴和腾讯等科技巨头已宣布关闭个性化AI伴侣聊天功能,数百万用户被迫与虚拟伴侣告别。

  • 新规禁止向未成年人提供AI伴侣,并限制所有聊天机器人鼓励情感依赖。
  • 中国政府担忧AI伴侣会导致年轻人逃避现实婚姻和生育。
站内正文

提示注入攻击正在挫败AI黑客代理

研究人员发现,通过在AWS上部署的密码和密钥旁放置提示注入,可以有效地阻止AI黑客代理的攻击。这种称为“上下文炸弹”的技术迫使LLM触发拒绝机制,从而停止恶意操作。测试显示,该技术将完全账户管理员访问从57%降至5%。

  • 攻击者利用提示注入诱导LLM执行恶意操作
  • 防御者开始在敏感数据旁放置提示注入以触发AI拒绝机制
站内正文

AI作为正常技术

本文提出将人工智能视为一种正常技术的愿景,反对关于超级智能的乌托邦和反乌托邦叙事。作者认为,AI是人类可以控制的工具,其变革性影响将在数十年内逐步显现,政策应侧重于韧性和减少不确定性,而非基于超级智能恐惧的激进干预。

  • AI应被视为一种可控的正常技术,而非超级智能实体。
  • 高风险领域AI的采用因安全和监管限制而缓慢。
站内正文

Flightwake – AI编程代理的飞行记录器,而非导航仪

Flightwake 是一个超轻量级的工作记录框架,专为强大的 AI 编程代理(如 Claude Code、Codex 和 Gemini)设计。它使用纯 Markdown 和 git 捕获决策、陷阱和会话记录,确保会话间平稳切换,无需导航。只需一条命令即可安装,并与 Claude Code 及其他代理集成。

  • 将工作会话、决策和陷阱记录为 Markdown 文件,存储在 git 中。
  • 事件驱动:仅在事件发生时才记录(例如 /fw-record、/fw-trap)。
站内正文

更新知识产权法规以应对AI蒸馏

本文探讨了版权法在AI蒸馏中的适用性,分析了蒸馏对创新的影响,并提出了四种可能的法规立场。作者认为版权法不适用于模型训练,呼吁社会就该问题达成共识,避免美国AI公司单方面制定规则。

  • 版权法并非自然法则,而是为鼓励创新设立的人为制度。
  • AI蒸馏涉及通过模型输出训练新模型,现有版权法难以适用。
站内正文

AI泡沫与互联网泡沫破裂:历史重演

本文探讨了当前人工智能领域的投资热潮与20世纪末互联网泡沫的相似之处,指出历史可能正在重演,警示投资者警惕过度投机。

  • 当前AI投资热潮与互联网泡沫存在诸多相似点
  • 过度投机可能导致市场崩溃
站内正文

SafeAI:面向AI代理的开源静态风险分析工具

SafeAI 是一款静态分析工具,专为AI应用源代码设计,用于检测安全风险、能力暴露和治理缺口。它完全离线运行,不执行代理或调用LLM,可集成到CI/CD管道中。支持8种AI框架,识别多种能力(如shell执行、文件系统访问等),并生成SARIF、JSON、HTML等格式报告。

  • SafeAI 在开发早期静态分析AI代理代码,发现能力暴露和风险
  • 支持LangGraph、CrewAI等8种框架,检测提示注入、工具滥用等
站内正文

市长曼达尼:房东不得使用AI图像发布出租广告

纽约市长佐兰·曼达尼发布《租赁欺诈报告》,要求房东和中介在租房广告中披露是否使用AI生成或编辑的图像。此举旨在打击虚假房源广告,保护租客权益,并将推动租户工会合法化、扩大租客谈判权等措施。

  • 纽约市长曼达尼发布报告,要求房东披露AI修改的房源图片。
  • AI生成的虚假房产图片问题日益严重,尤其影响远程签约租客。
站内正文

AI助力漏洞赏金:VulneraMCP

本文介绍了VulneraMCP,一个基于ZAP的AI增强安全测试平台,通过集成机器学习实现自适应漏洞检测和自动化工作流。系统利用ZAP的REST API进行核心扫描,并通过MCP协议连接AI代理,结合来自HackTheBox、PortSwigger学院等的训练数据,动态生成有效载荷,显著提升检测准确性和效率。作者Telmon Maluleka详细阐述了架构、组件、工作流程及实际效果。

  • VulneraMCP将ZAP扫描引擎与AI学习相结合,实现高级漏洞猎捕
  • 系统架构包括ZAP集成层、MCP代理层、学习引擎和数据库
站内正文

ADA:一款基于CSV和Excel的AI商业智能软件(不止于LLM)

ADA 是一个开源自动数据分析工具,用户上传 CSV 或 Excel 文件后,可自动清洗、检测业务模式、生成交互式仪表盘、标记异常、预测趋势,并支持自然语言提问,所有计算过程透明可见。无需 API 密钥即可使用,数据不离开本地。

  • 零配置分析:上传即可获得仪表盘、异常检测和预测
  • 透明计算:每个答案都显示其计算过程
站内正文

杰克·康特:为什么我(有点)不担心AI [视频]

Patreon首席执行官杰克·康特在一段视频中分享了他对AI影响的看法,他认为虽然AI带来挑战,但人类创造力和社区能保持优势,因此他并不完全担忧。

  • 杰克·康特认为AI无法取代人类的情感连接和社区价值。
  • 他强调创作者经济中的人性化因素仍至关重要。
站内正文

首个面向智能体的工业运营基准测试

SolarBench 是首个评估 AI 智能体在工业运营中能力的基准测试,专注于太阳能电站管理。模拟真实运营桌,包含警报、遥测、工单、零件库存和通信。最佳模型 Claude Fable 5 在约 54% 的任务中成功,但成本常为最优值的数倍。研究表明,模型在概率决策和信息优先级排序方面仍与人类专家有显著差距。

  • SolarBench 是首个针对工业运营的 AI 智能体基准测试,专注于太阳能电站管理。
  • 模拟持续一周,评估智能体处理警报、维修和零件订购的能力。
站内正文

20美元的AI编程订阅到底能买什么?

通过Tailscale的Aperture网关追踪Claude Pro订阅的令牌消耗,揭示看似固定的月费背后隐藏的真实成本。从一句问候的31美分到开发游戏的3.29美元,再到复杂项目的32.76美元,文章展示了轻量用户如何补贴重度用户,并探讨了Aperture在成本追踪、模型选择、防护栏等方面的功能,以及理解自身使用模式对应对未来价格调整的重要性。

  • 使用Aperture可追踪每次请求的令牌消耗,从而了解订阅的真实成本。
  • 一个简单的问候请求花费0.31美元,而开发一个简易游戏花费3.29美元,复杂项目甚至超过月费。
站内正文

软件开发者的消亡

文章探讨了数字平台中所有权与订阅模式的演变,以及LLM(大语言模型)对软件开发行业的潜在影响。作者认为,正如当前媒体和软件被平台垄断并转变为订阅服务一样,未来LLM驱动的软件开发也可能导致开发者沦为消费者,进一步巩固科技巨头的控制。

  • 数字平台通过DRM和订阅模式剥夺用户所有权,类似趋势正蔓延至软件开发。
  • LLM可能使开发者从生产者变为消费者,支付给AI提供商来生成代码。
站内正文

AI新政治捐助阶层已超越上一代科技巨头

Anthropic和OpenAI的员工在政治捐款上的参与率和金额远超谷歌、Facebook和Airbnb在IPO后的同期水平。他们的协调捐款聚焦于支持AI安全立法的候选人,并已在联邦和州选举中产生影响。这些捐助者主要集中在旧金山,正在为长期政治影响力奠定基础。

  • AI实验室员工的捐款率高于谷歌、Facebook和Airbnb在IPO后的同期水平。
  • 捐助者通过在线论坛协调捐款,以最大化对AI安全候选人的影响。
站内正文

比免费更好:在人工智能时代如何差异化

凯文·凯利(Kevin Kelly)在其经典文章《比免费更好》中,讨论了当复制品变得免费且充足时,创作者如何通过销售无法复制的事物——即“生成性”价值——来维持生计。他提出了八种“生成性”价值:即时性、个性化、解读、真实性、可访问性、实体化、赞助和可发现性。这些价值在人工智能时代依然适用,甚至更加重要。

  • 当完美复制品免费时,创作者需要销售无法复制的东西。
  • 凯文·凯利提出了八种“生成性”价值,如即时性、个性化、解读等。
站内正文

研究沙箱在AI控制中的作用

一项关于AI沙箱控制的研究表明,虽然整体安全性和实用性未见显著改善,但基于“最小权限”原则的“请求网站”权限模型在定性证据上表现最佳,有望在未来得到持续应用。

  • 沙箱通过限制攻击面来增强AI安全性,但仅当它阻止原本会绕过监控的攻击时才有效。
  • “请求网站”模型要求AI代理先申请特定网站权限,由可信模型审批,遵循最小权限原则。
站内正文

PrimeTask:一款离线优先、支持自带AI(MCP)的工作操作系统

PrimeTask是一款一次性购买的桌面应用,集成了任务、项目、CRM、日历、专注模式和可视化画板,全部离线优先。它通过MCP标准支持自带AI,用户可连接偏好的AI模型。该应用强调数据所有权和隐私,无需订阅。

  • PrimeTask集成了任务、项目、CRM、日历、专注模式及视觉画板等全方位功能。
  • 采用离线优先架构,本地存储数据,一次性付费永久使用。
站内正文

Build:Roblox上的移动优先AI创作工具

Roblox宣布推出“Build”,这是一款集成在Roblox应用中的移动优先AI创作工具,用户可以通过文本提示生成基础游戏。结合Studio中的新AI工具,旨在降低创作门槛,让任何人都能轻松构建游戏。测试将于7月28日在新西兰启动,随后逐步推广。

  • Roblox宣布推出移动优先的AI创作标签“Build”,用户可通过文本提示生成游戏
  • AI模型基于大量3D数据训练,可生成功能性3D物体和场景
站内正文

AI正在破坏求职面试

一段视频探讨了人工智能如何改变求职面试过程,并可能带来负面影响。

  • 人工智能在招聘中的使用日益增多
  • 可能导致面试过程缺乏人性化
站内正文

KDnuggets 每周综述:2026年7月13日周

本周精选包括如何用注册表模式替代If-Else链、降低LLM延迟和推理成本的12种方法、五个真实SQL项目构建数据作品集、Git Worktrees用于AI开发、用Outlines进行结构化语言模型生成、七个用于编排本地AI代理的Python框架、10个保持AI前沿的YouTube频道、Conductor for Gemini CLI入门、五个免费资源学习Agentic AI以及Pi编码代理的工作方式。

  • 用注册表模式替代if-else链可提高代码可扩展性
  • 降低LLM推理成本需优化令牌使用、模型路由和多层缓存
站内正文

Bound – AI智能体的确定性控制框架

Bound是一个轻量级的确定性控制框架,用于AI编码智能体,帮助它们在执行过程中决定何时接受、重试、重新规划或回滚,从而避免不必要的过度优化和回归问题。

  • 基于可观察证据的确定性决策:接受、重试、重规划、回滚
  • 无需LLM判断,通过预设标准和证据映射实现控制
站内正文

AIpine – iPhone上AI工件的瑞士军刀

AIpine是一款专为iPhone设计的应用,用于查看、预览和组织AI生成的各类文件,如JSX、HTML、Mermaid图表、SVG等,支持离线使用,无账户和云服务,保护用户隐私。

  • AIpine提供对AI生成文件的预览和源代码查看,支持多种格式。
  • 应用完全离线工作,文件存储在本地,无需账户或云服务。
站内正文

为什么AI公司的logo看起来像屁眼?

AI公司的logo普遍采用带有中心开口的圆形渐变色设计,被调侃为像肛门。文章分析了这种现象背后的设计心理学、生物模仿和跟风效应,并回顾了科技设计的潮流演变。

  • 许多AI公司logo具有圆形、渐变和中心开口特征,被戏称为“肛门风格”。
  • 这种现象源于圆形带来的安全感、无意识的生物模仿以及行业跟风。
站内正文

Go Micro:Go语言智能体与服务框架

Go Micro 是一个用 Go 语言编写的智能体运行时和服务框架。它将服务转化为 AI 可调用的工具,支持 MCP、A2A 和 x402 协议,内置规划、委派、内存和护栏,帮助开发者轻松构建分布式智能体系统。

  • Go Micro 将智能体运行时与微服务架构深度整合,工具即服务,智能体即服务。
  • 支持 MCP 工具协议、A2A 智能体协议以及 x402 付费工具协议。
站内正文

追逐AI的高潮:黏土、窑炉与红皇后竞赛

本文探讨了过度依赖AI编码代理的陷阱,引用《镜中世界》中的红皇后竞赛。作者认为,移除软件开发中的人类摩擦(如代码审查和设计辩论)会导致脆弱的、未经“烧制”的黏土代码,无法承受压力。文章警告,为了更快交付而使用AI的竞赛创造了一个增加复杂性和脆弱性的死亡循环。

  • AI生成的代码就像未烧制的黏土:塑形快但缺乏结构完整性。
  • 红皇后竞赛比喻说明了AI如何迫使团队为了保持竞争力而跑得更快,从而增加复杂性。
站内正文

韩国在美国Mythos出口管制后打造主权网络安全AI

韩国计划在年底前推出一个主权网络安全AI模型,以应对日益增长的数字威胁以及美国对Anthropic的Mythos 5等先进AI模型的出口管制。科学部长裴京勋还讨论了将白帽黑客合法化,并旨在将韩国的人工智能竞争力排名提升至第二位。

  • 韩国将在2026年底前开发主权网络安全AI,以应对美国对Mythos 5的出口限制。
  • 科学部长裴京勋强调需要前沿模型来应对生成式AI驱动的威胁。
站内正文

旧金山要求苹果和谷歌从应用商店移除“脱衣”应用

旧金山市检察官邱信福致信苹果和谷歌,要求移除多款利用AI技术生成非自愿亲密图像的“脱衣”应用,并援引加州深度伪造法律。研究显示70%的换脸应用可被用于色情化处理。同时,xAI的Grok因生成儿童性虐待材料而受到关注,给应用商店带来更大压力。

  • 旧金山市检察官要求苹果和谷歌移除违反深度伪造法律的脱衣应用
  • 研究发现70%的换脸应用可能被用于生成不雅图像
站内正文

AI与创造力

Patreon创始人兼CEO Jack Conte在主题演讲中探讨了AI对创造力的影响,将当前对AI的担忧与历史上对合成器等新技术的抵制进行类比。他认为AI是一种工具,能够改变创作过程,但不会取代人类艺术家。真正的艺术价值在于故事和人文连接,而AI生成的“垃圾”作品只是暂时的现象。

  • Jack Conte将AI比作历史上的合成器,认为新技术起初总会遭到抵制,但最终会拓展创作可能性。
  • AI改变的是创作过程,而非艺术本身;人类的故事和情感连接仍然是核心。
站内正文

Sakana AI 的误差扩散训练符合戴尔原则的双流网络,无需反向传播即可在MNIST上达到96.7%,在CIFAR-10上达到61.7%

Sakana AI 提出的误差扩散(Error Diffusion)是一种局部学习规则,无需权重传输或反向传播即可训练神经网络,并遵循戴尔原则(Dale's principle)。该方法采用双流架构,将每一层分为兴奋性和抑制性流,并通过模误差路由扩展到多类分类,在MNIST上达到96.7%,在CIFAR-10上达到61.7%。研究还发现,三项分类创新在不同任务上的重要性截然不同,并成功将误差扩散应用于强化学习。

  • 误差扩散无需反向传播或权重传输,即可训练符合戴尔原则的网络。
  • 模误差路由将误差扩散从二分类扩展到MNIST和CIFAR-10多类分类。
站内正文

埃隆·马斯克的孟菲斯人工智能帝国成为数据中心抵制的中心

埃隆·马斯克在孟菲斯快速建造人工智能数据中心,引发居民对噪音和排放的不满,全国范围内出现政策提案、抗议和诉讼。

  • 马斯克的xAI数据中心Colossus和Colossus II使用燃气轮机,造成噪音和污染。
  • 纽约州和新泽西州已通过法规限制或规范数据中心建设。
站内正文

面部价值:AI如何重塑信任、身份与诈骗

Malwarebytes发布的2026年报告显示,85%的人难以区分真实与AI生成内容,50%遭遇过AI驱动的诈骗,Z世代风险最高。人们因AI威胁而减少在线分享,但行动不足。报告还揭示了AI使用中的道德矛盾:许多人既害怕深度伪造,又认为使用AI进行个人用途是可以接受的。

  • 85%的受访者表示现在难以区分真伪,较去年的66%大幅上升。
  • 50%的成年人遭遇过AI驱动的诈骗,Z世代接触率高达67%。
站内正文

Patreon 阻止 AI 爬虫复制内容:“创作者应获报酬”

Patreon 宣布与 Cloudflare 合作,在网络层面阻止 AI 训练爬虫抓取平台内容。CEO Jack Conte 强调创作者应获得同意、署名和补偿。此举旨在保护创作者权益,同时允许搜索爬虫帮助内容被发现。

  • Patreon 与 Cloudflare 合作,从网络层面阻止 AI 训练爬虫。
  • CEO Jack Conte 在 Instagram 上宣布,称创作者值得同意、署名和补偿。
站内正文

习近平发起新的人工智能联盟WAICO

中国国家主席习近平在上海世界人工智能大会上呼吁各国合作发展AI,并宣布成立由29个国家组成的世界人工智能合作组织(WAICO),旨在制定全球AI规则。此举被视为中国挑战美国在AI领域主导地位的举措。

  • 习近平呼吁AI发展不应是“单个国家的独奏”,而是国际合作。
  • 中国牵头成立WAICO,29个创始成员国包括印尼、巴西、俄罗斯等。
站内正文

Linus Torvalds 对 Linux 中 AI 编码的批评者说:“不认同就分叉,或者直接离开。”

Linus Torvalds 为 AI 编码工具在 Linux 开发中的使用进行辩护,称 AI 是基于技术价值的实用工具。他承认 AI 并不完美,但认为批评者应先审视人类自身的缺陷。尽管有研究显示使用 AI 工具的开发者生产力可能下降,但 Torvalds 强调其实际价值,并透露自己已在项目中使用“氛围编程”工具。

  • Torvalds 认为 AI 是实用工具,批评应基于技术价值而非恐惧。
  • 他承认 AI 不完美,但指出人类代码维护者也有类似问题。
站内正文

我们为自主代理构建了沙盒基础设施

NeoSigma公司构建了一套沙盒基础设施,为自主代理提供安全、隔离且功能完整的执行环境,使其能够像在真实开发环境中一样工作,同时确保每一操作都受控、可重现且可丢弃。

  • 沙盒提供控制平面、执行平面、安全与网络平面、数据平面四大核心架构。
  • 通过预热池和意图预测减少启动延迟,代理几乎可以即时开始工作。
站内正文

科技借助AI发展,金融守护利润空间

随着AI原生公司的扩张,财务团队必须利用实时、受治理的数据来保护单位经济效益。Databricks的Genie One作为AI同事,帮助CFO跟踪利润率、消费收入和计算支出。

  • AI原生公司的毛利率在2026年约为52%,远低于传统软件的70-90%。
  • 财务部门需要实时数据和本体论来理解数字背后的业务意义。
站内正文

Meta被指控利用AI挑选有健康问题的员工进行裁员

26名Meta员工起诉公司,指控其使用人工智能系统针对休病假或家庭假的员工进行裁员,违反了保护孕妇、残疾人和休假员工的法律。Meta否认指控,称裁员决定由人而非AI做出。

  • 26名员工起诉Meta,称AI系统在裁员中歧视休保护假期的员工。
  • Meta在5月裁员约8000人,占全球员工10%。
站内正文

证明金融服务业中代理型AI的投资回报率

文章讨论了金融服务业中代理型AI(Agentic AI)的ROI证明问题,指出传统监控工具无法处理多代理系统的动态成本结构。通过两个实际用例——RFP处理流程自动化和反洗钱合规监控,展示了如何利用LangChain平台(含LangSmith和LangGraph)与Pay-i经济智能平台结合,将工程级可观测性连接到业务价值,从而向领导层证明AI投资回报。

  • 多代理系统的成本结构是动态的,传统FinOps工具无法处理。
  • LangSmith提供工程级可观测性,Pay-i将成本与业务成果关联。
站内正文

苹果起诉OpenAI:意图何在?

苹果正在起诉OpenAI。诉状可读性强且激烈,但许多专家认为很多指控只是行业常规做法。苹果的真实意图是什么?为何公开斗争?本期节目探讨苹果的诉讼历史,分析其是否担心竞争对手或趁机打击OpenAI。同时,苹果发布新版公测软件,重点是新Siri AI。此外,还有OpenAI设备、Pixel手机泄露,一加退出美欧市场等新闻。最后快速回顾Brendan Carr、X平台混乱、裂开表情符号等话题。

  • 苹果起诉OpenAI,专家认为指控多为行业常规。
  • 分析苹果动机:担忧竞争还是利用OpenAI弱势?
站内正文

跟随问题,走向深处

贝利·弗拉尼根是一位跨学科研究者,现任麻省理工学院施瓦茨曼计算机学院、政治学系和电气工程与计算机科学系的联合教员。她的研究聚焦于利用计算和数学工具促进民主参与,开发了用于随机选择公民大会参与者的算法,并部署在Panelot.org平台上。

  • 贝利·弗拉尼根从医学、公共卫生到经济学,最终转向计算机科学和政治学的跨学科研究。
  • 她开发的算法帮助随机选择公民大会参与者,平衡代表性与公平性。
站内正文

在Databricks上构建足球教练应用

教练视角(Coach's Corner)是一款基于Databricks平台的应用,能将每秒25帧的比赛追踪数据转化为亚秒级的2D/3D战术板,集回放、事件分析、球探聊天和对手档案代理于一体。通过Lakeflow管道、DBSQL和Lakebase实现数据的高效处理与快速查询,并利用Genie、向量搜索和代理技术提供基于治理数据的AI洞察,解决了高频数据在决策中的可用性鸿沟。

  • 教练视角应用统一了数据摄取、转换和AI,在单个平台上提供实时的战术洞察。
  • 采用Spark声明式管道处理5100万行数据,通过DBSQL实现1-3秒查询响应。
站内正文

Smartsheet如何在AWS上构建远程MCP服务器

本文从高层次概述了Smartsheet远程MCP架构,重点介绍了其背后的AWS基础设施,包括安全性、治理、扩展和部署,以及Smartsheet在AWS上构建的AI特定优化。

  • Smartsheet构建了一个远程MCP服务器,使AI客户端能够直接访问其数据和功能。
  • 架构中关键AWS服务包括AWS Fargate、Amazon Kinesis、Amazon Bedrock等。
站内正文

从 Jira、Linear、GitHub Issues 或 Markdown 运行 AI 代理

Startup Factory 是一个开源框架,可将项目管理工具(如 Jira、Linear、GitHub Issues、Markdown)转化为由 AI 代理驱动的受控交付系统。它提供分层安全边界、确定性调度和多模型支持。

  • Startup Factory 将项目管理工具与 AI 代理连接,实现端到端产品交付。
  • 内置确定性 PM 监督员,每 3 分钟检查面板,路由任务并强制执行安全策略。
站内正文

AI记忆可移植性:新锁定机制与中立标准的必要性

本文探讨AI记忆可移植性问题,指出记忆正成为新供应商锁定机制,现有导出功能无法实现真正的可移植性。文章分析行为、上下文和关系三种锁定类型,介绍Cognee和ByteRover等早期尝试,并呼吁建立中立记忆交换标准。

  • AI记忆可移植性在2026年7月仍不存在,迁移意味着从头开始。
  • 记忆成为新锁定,分为行为、上下文和关系三种类型,关系锁定最难迁移。
站内正文

主题导航

政策 — AI 话题新闻 | AI News Hub