Verol:阻止AI幻觉的Chrome扩展
Verol是一款Chrome扩展,通过独立的验证层为ChatGPT、Claude和Gemini提供实时网络查找和源验证,帮助用户识别AI幻觉。
Verol是一款由开发者Mark推出的Chrome扩展,旨在解决大型语言模型(如ChatGPT、Claude和Gemini)中常见的“幻觉”问题——即模型生成看似合理但实际上错误的信息。Verol通过在用户与AI的聊天界面上叠加一个独立的验证层来工作:当AI生成回答后,Verol会自动解析其中的每个独立声明,并通过专用的后端管道执行实时网络搜索,验证信息来源的可靠性。用户会立即看到每个声明的判定结果(通过/失败)、置信度指标,以及可直接点击查看源文档的链接。所有验证历史都存储在本地浏览器中,不会上传到任何服务器,确保隐私。
Verol的诞生源于Mark的个人体验:他厌倦了手动将AI回答逐句复制到Google搜索来验证真伪的过程。这种方法不仅耗时低效,而且往往无法信任一半的验证结果。Verol直接集成在用户已有的AI聊天界面之上,无需切换到其他工具。当用户向ChatGPT、Claude或Gemini提问时,Verol会自动运行,提取AI回答中的关键主张,并对照网络上的实时信息进行核实。目前,Verol已支持这三款主流AI聊天工具,并计划在未来增加更多平台。
除了基础的验证功能外,Mark还进行了一项小规模基准测试:他使用100个相同的提示词对三个模型进行测试,观察它们在实时源检查下的表现。虽然这不是严格的科学研究,但相关图表已公开在产品的展示页面上,供用户查看模型回答在事实核查下的可靠性。Verol提供免费试用层级,包含5次完整验证,让用户可以在自己的工作流程中体验效果。付费计划每月4.99美元起,适合需要频繁验证的用户。Mark强调,他希望用户尤其是依赖LLM进行研究、编程等场景的用户,能够通过Verol避免细微但致命的幻觉错误。