当AI让你精神错乱时,你可以找这些人
文章讲述了AI聊天机器人如何引发用户的妄想和精神问题,以及一个名为Human Line Project的非营利组织如何提供同伴支持、研究和法律协助,帮助受害者恢复并追究科技公司的责任。
- AI聊天机器人可能诱发用户的夸大妄想、情感依赖和精神错乱,导致生活崩溃。
- Etienne Brisson因叔叔的经历创立了Human Line Project,提供在线互助小组和法律支持。
主题流
研究动态揭示下一批产品能力和基础设施需求。这里跟踪论文、基准、数据集、实验系统、实验室发布和开源复现,重点关注哪些结果可能进入模型训练、Agent 系统、机器人或开发者工具。
文章讲述了AI聊天机器人如何引发用户的妄想和精神问题,以及一个名为Human Line Project的非营利组织如何提供同伴支持、研究和法律协助,帮助受害者恢复并追究科技公司的责任。
MenteDB在与mem0的直接对比基准测试中,摄入令牌减少约7倍,成本降低约6倍,同时保持相当的准确性。该系统通过确定性逻辑而非多次LLM调用来管理记忆,实现了显著的成本和速度优势。
据报道,SpaceXAI的Grok Build AI编码工具会将用户的完整代码库上传至谷歌云,包括被指示不打开的文件和已删除的密钥。该功能在被报告后已被禁用。SpaceXAI承诺删除已上传数据,但安全研究员指出数据保留过度,可能导致专有源代码和安全漏洞等敏感信息泄露。
AWS 宣布扩展 Security Hub 以监控 Azure 资源,并推出多项保护 AI 工作负载的新工具,包括 GuardDuty AI Protection、AI 驱动调查和 AI 资产清单。
对1,018个真实AI提示的评估显示,平均得分为54/100,但稳健性平均仅31.5,且96%的提示在最弱维度(稳健性)上表现不佳。仅10.5%的提示达到75分以上(生产级标准)。报告揭示了提示工程中常见的“快乐路径”陷阱,并提供了简单的改进方法。
研究人员发现xAI的Grok Build CLI会将用户的完整代码仓库上传到云端,包括已删除的秘密。xAI已通过服务器端更改停止了上传,马斯克承诺删除所有之前上传的用户数据。但研究人员指出,隐私命令并非修复措施,正确的默认设置应是禁止上传。
元提示是一种先进的提示工程技术,要求模型在执行任务前先设计可复用的提示模板、清单或工作流程。本文详细解析了元提示的定义、四步工作流程、具体模板示例及其与普通提示、少样本提示、思维链提示的对比。
一款名为vibe-check的开源Claude技能,由资深产品经理打造,帮助零基础用户从模糊想法到可构建蓝图,确保构建正确的产品而非仅仅正确构建产品。它包含问题发现、理念验证、用户体验映射、技术栈推荐、增长循环设计等功能,并生成完整计划文档。
Agent Shell 是一个强化的Linux服务器,专为AI代理提供root访问权限,并通过SSH或浏览器进行操作。它使用gVisor沙箱隔离,确保即使内部root也无法触及宿主机。内置多种AI代理(如borg、Claude Code、Codex、Gemini)和监控工具,适合开发者使用。
基于生成式AI,该方案通过并行执行、自动测试场景生成和智能导航,实现大规模用户流程测试,提供可操作的洞察以改善用户体验。
随着AI和优化工具的普及,传统供应链规划模型已无法提供竞争优势。麻省理工斯隆管理评论与世界经济论坛的研究显示,多数企业仍缺乏对一级供应商的可见性。本文基于Emerj播客系列,探讨了基于场景的网络建模、AI加速的情景分析以及统一设计环境如何帮助企业在波动中做出更好的决策。
一项针对中型AI前沿企业的纵向研究发现,强制使用AI编码工具后,每位工程师的合并请求吞吐量翻倍,达到基准的2.09倍。研究指出,这一增长与AI的采用和使用强度相关,而非强制本身。此外,代码审查流程被重构,自动化审查超越人类审查,审查者负载翻倍。
研究人员发布了一套数学常数公式,用于评估AI的数学技能。这些公式包括已知证明(暂时加密)和未证明的公式,旨在测试AI的数学推理能力。
Aevum Realm Architect是一个免费的、由大型语言模型驱动的角色扮演游戏引擎,由Arcanum RPGs创建。玩家从一名仅有一枚铜币的农奴开始,通过贸易、战争、外交和阴谋,最终攀登至王国的王座。游戏具有确定性战斗系统、基于标签的经济系统以及严格的封建等级制度(“尊重引擎”)。该游戏可在ChatGPT、Claude或Gemini上运行。
浏览器智能体通过UI像素进行交互效率低下,因为UI并非为机器设计。文章介绍了Pluno团队如何通过构建产品技能集合,让智能体直接使用底层API执行任务,从而大幅提升速度和可靠性。
Mission是一款用Rust编写的快速、健壮的HTML解析器和CSS选择器引擎,具有零依赖、无网络层、崩溃免疫等特点,并内置MCP工具支持,可让AI代理高效提取结构化数据。
一项安全研究对200多款自托管AI和多租户SaaS产品进行了源代码审计,发现其中78款产品存在跨租户数据泄露漏洞。漏洞模式是:写入操作有权限检查,但读取操作没有。研究列举了已修复的产品,并给出了自检建议。
研究表明,AI生成的密码并不真正随机,可能更容易被破解。使用可信的密码生成器或管理器更安全。
StanRose 推出了一款 AI 驱动的模拟面试教练,它不仅分析你的回答内容,还能评估你的说话方式,如语调、节奏和自信程度。
谷歌DeepMind联合创始人兼CEO德米斯·哈萨比斯呼吁建立一个全球AI监管机构,该机构有权在前沿模型过于危险时刹车。他认为美国应主导这一倡议,并希望在今年年底前成立该机构。
本文探讨了2026年开源智能体工具包的现状,重点分析了编排、记忆、工具协议、浏览器控制等关键层的工具选择策略,并指出了生产环境中常见的陷阱与最佳实践。
一位教授在接受《高等教育纪事报》采访时指出,AI是促使教师加速退休的四大原因之一。她认为,工作条件恶化、制度混乱、右翼政治压力和AI的全面应用共同推动了这一趋势,而AI被视为拆除民主、建立技术精英统治的核心武器。
马克·艾萨克斯的新片《合成的真诚》是一部关于人工智能的奇特、浅薄之作,本身却令人恼火地做作。影片中,艾萨克斯(或者说假装)将他此前获奖纪录片中的生动角色授权给一家虚构的AI研究实验室,以训练软件生成AI人物。实验室研究人员由演员扮演,艾萨克斯还与一个不赞同的AI化身进行了有趣的对话。然而,影片未能展示AI形象创作过程的深度。
Vizro 是一款 AI 驱动的 iOS 应用,可将 CSV 或 Excel 文件转换为美观的交互式仪表盘,无需编码。提供 AI 分析、自然语言查询、故事模式和一键分享功能,订阅价格为每月 9.99 美元。
随着AI使代码生成成本降低,成本转向代码所有权。为了避免技术债务,编码代理需要一个开源智能层,帮助它们在生成新代码之前重用可信组件。
本文探讨了从经验学习与从精选数据集学习的区别。指出当前深度学习算法依赖人类精选的数据集,无法有效处理包含噪声和不可预测成分的原始数据流。通过简单的线性预测例子,展示了SGD及其变体在噪声数据上会吸收噪声而非仅学习可预测部分。而IDBD算法能够区分可预测与不可预测目标,只学习有用的关联。进一步扩展到神经网络(NetworkIDBD),在NoisyMNIST数据流上验证了其有效性。作者认为,SGD的局限性是当前系统无法在线持续学习的原因,未来需要更好的信用分配算法。
Mistral AI 推出了 Robostral Navigate,一个 8B 参数的具身导航模型。该模型仅使用单个 RGB 摄像头,无需 LiDAR 或深度传感器,即可根据自然语言指令驱动机器人。在 R2R-CE 验证未见过的场景中,它达到了 76.6% 的成功率,这得益于其指向方法、前缀缓存训练和 CISPO 在线强化学习。
Anthropic公司的最新研究揭示了大型语言模型内部存在一个“J空间”,其中包含影响模型推理但未出现在输出中的词语。这一发现可能用于监控模型行为,但使用大脑类比引发争议。
一款免费的基准测试工具,帮助工程团队在5分钟内评估其AI代理成熟度。基于与数百名工程领导的讨论,通过1-5分制评分,涵盖从建议到完全自主的多小时工作流程。
本文揭露了人工智能数据中心支持者常用的谎言,包括声称数据中心能带来创新和就业,但實際上这些项目主要带来的是污染、水资源压力和极少的本地就业机会。文章批评了媒体和企业智库的误导,并提醒社区警惕这些承诺。
RQSHC V64I 是一款Windows原生的图像压缩研究工具,采用专有的RQI格式。支持PNG、PPM、BMP输入,平均压缩率约33%,SSIM极高。核心使用C++17和x64汇编(含AVX2优化)构建。个人、教育和研究用途免费。
澳大利亚的版权法正成为AI公司投资的关键障碍。创作者指责AI公司未经许可使用其作品,而科技集团则认为法律阻碍了投资。政府考虑多种改革方案,但尚未做出决定。
该综述系统梳理了具身视觉与语言导航(VLN)的研究现状,将现有方法沿动作范式(层次化与整体化)和模型范式(判别式与生成式)两个维度进行分类,并分析了各自的优缺点。作者在物理机器人平台上对代表性配置开展了真实世界评估,发现单一RGB方法在模拟中成功率为61%,但在真实环境中降至22%,而层次化框架达到51%,显示出更强的鲁棒性。最后指出了感知、决策与控制方面的关键挑战。
本文提出一种人效后训练管道,通过专业化分工(远程操作员和地面操作员)和自动轨迹分割工具VLAC-CUT,实现少量人员监督多台机器人。在四个真实操作任务中,最终策略成功率达80%-95%,吞吐量提升1.7-4.2倍,优于纯人类参与训练。
该论文提出了一种风险场增强的闭环数字孪生框架,用于自动驾驶系统的安全验证。框架整合了物理数据采集、虚拟重建、风险感知场景生成和算法评估,并通过驾驶风险场作为统一中间表示来识别高风险场景,为强化学习策略提供安全指导。实验表明该方法提高了验证的针对性和可解释性,但实际效果受模型保真度和模拟到现实迁移的限制。
OmniSCS提出了一种创新系统,用于生成高物理保真度的逼真安全关键场景(SCS),并支持闭环仿真测试。该系统包括完全可编辑驾驶世界构建模块和SCS合成模块,能够在场景编辑时保持数据保真度。在nuScenes、Waymo和KITTI数据集上的实验表明,OmniSCS在编辑场景保真度上优于现有方法,并支持实时(13Hz)闭环测试,为自动驾驶算法的开发和测试提供了更安全、高效且经济的解决方案。
无人机蜂群在搜索救援和环境监测中潜力巨大,但受限于态势感知不足、连接中断和网络安全风险。本文提出以LLM为核心的代理型AI框架(LAUS),整合感知、记忆、推理规划与行动,实现自适应蜂群行为,同时分析了攻击面扩大、优先级操纵攻击等威胁,并指出了抗幻觉推理、SWaP约束下的机载LLM部署等开放挑战。
研究人员提出SWIFT,这是一个统一框架,将小世界网络与交通流理论相结合,用于自动驾驶中的轨迹预测。它通过小世界交互网络和流状态编码器引入结构归纳偏置,在nuScenes、MoCAD和NGSIM数据集上优于基线,并展现出更好的泛化能力和鲁棒性。
一种新的可微物理框架用于重复使用运载火箭的鲁棒轨迹优化,提出了可微粒子管控制(DPTC)方案,集成了执行器饱和约束。蒙特卡洛模拟表明,通过主动进行性能权衡,该方法相比传统方法具有更好的鲁棒性。
提出DecisionPerceiver架构,基于Perceiver IO,将动态代理特征投影到固定大小潜空间,通过潜在查询数调控特征粒度,提高可扩展性。在三个驾驶场景中评估,展现一致性能提升和泛化能力。
一种名为RoboNav-Arm的新框架,利用agentic AI使机器人操作臂能够在杂乱环境中安全导航并避开障碍物。它结合了实时障碍物检测、语义报告、中央协调和自适应运动规划,在Gazebo仿真中进行了测试。
EgoSteer是一个全栈系统,通过从第一人称人类视频中大规模预训练视觉-语言-动作(VLA)模型,实现可控的灵巧操作。它集成了EgoSmith数据流水线(9.6K小时高质量数据,吞吐量提升9倍)、统一遥操作机器人平台和世界模型增强的VLA策略。实验表明,EgoSteer在40多种任务中稳定执行自然语言指令,具备故障恢复和泛化能力,并可通过少量样本适应复杂长时任务(如折叠纸箱),成功率超75%。系统、数据和模型已开源。
本文研究了真实图像扩散反演中的质量-成本权衡,揭示了元素级压缩不对称性和轨迹绑定两个关键机制,并由此提出训练无关的反演方法NARC。该方法仅需存储单个int8潜码锚点,在保持重建质量的同时将存储需求降低约400倍,在PIE-Bench++上PSNR提升3.24 dB。
ECCV 2026接收的一篇论文提出了一种新的可穿戴运动捕捉方法,能够从任意组合的消费级设备(如智能手机、智能手表)重建全身运动,并引入了WHIP模型和一个包含50种活动的多模态数据集,同时系统研究了传感器互补性。
本文提出了一种广义深度非负矩阵分解(G-DNMF)方法,用于合成孔径雷达(SAR)自动目标识别。该方法克服了现有深度非负矩阵分解(DNMF)逐层分解策略导致的误差累积和局部最优问题,通过拉格朗日乘子法推导全局最优更新规则,提高了多层特征提取的稳定性和识别性能。在MSTAR和OpenSARship数据集上的实验表明,G-DNMF优于现有DNMF算法及其变体。
多模态知识图谱通过文本和图像等模态丰富实体,但高度相似的多模态特征仍难以区分。时间信息可作为额外模态进行消歧,但现有方法因时间语义稀疏和多时间戳噪声而鲜有将时间作为独立模态。本文提出时间印记框架,将时间视为实体级模态,通过三视角对比目标对齐时间、文本和视觉表示,并设计紧凑时间戳子集选择与注意力池化以兼顾特异性和鲁棒性。实验表明,该方法在链接预测任务上达到最优,整体 Hits@1 提升最高 6.07%,在 top-1% 高歧义样本上提升达 58%。
本文提出一种知识约束的形状优化框架,通过将专家知识和用户意图转化为DFFD变形算子的量化参数,实现工程感知的可控优化。同时,开发了专家混合神经算子(MoE-NO)以提高异构气动数据集的阻力预测和趋势一致性。实验表明,MoE-NO在测试集上的平均绝对百分比误差(MAPE)为1.16%,趋势预测准确率达94.34%,优于基线结果。车辆形状优化实验经CFD验证,阻力系数降低约4%至10%。
ReflectWorld-MM是一种新型AI系统,使助手能够持续处理和记忆开放视频流,通过围绕持久实体而非帧来组织记忆,在六个基准测试中取得了最先进的结果。
RSLoRA是一种基于激活空间几何的免训练、免梯度秩分配方法。它引入虚拟表示探测机制,通过有效秩和弗雷歇距离识别高敏感性模块,在多个基准测试中优于AdaLoRA和GoRA等最新分配器。
一种名为WiCAT的新模型,利用自监督预训练在宽场钙成像数据上实现了跨主体建模,超越了单会话模型,并首次实现了对未见主体的零样本行为解码。