Verol:阻止AI幻覺的Chrome擴展
Verol是一款Chrome擴展,通過獨立的驗證層為ChatGPT、Claude和Gemini提供實時網絡查找和源驗證,幫助用户識別AI幻覺。
Verol是一款由開發者Mark推出的Chrome擴展,旨在解決大型語言模型(如ChatGPT、Claude和Gemini)中常見的“幻覺”問題——即模型生成看似合理但實際上錯誤的信息。Verol通過在用户與AI的聊天界面上疊加一個獨立的驗證層來工作:當AI生成回答後,Verol會自動解析其中的每個獨立聲明,並通過專用的後端管道執行實時網絡搜索,驗證信息來源的可靠性。用户會立即看到每個聲明的判定結果(通過/失敗)、置信度指標,以及可直接點擊查看源文檔的鏈接。所有驗證歷史都存儲在本地瀏覽器中,不會上傳到任何服務器,確保隱私。
Verol的誕生源於Mark的個人體驗:他厭倦了手動將AI回答逐句複製到Google搜索來驗證真偽的過程。這種方法不僅耗時低效,而且往往無法信任一半的驗證結果。Verol直接集成在用户已有的AI聊天界面之上,無需切換到其他工具。當用户向ChatGPT、Claude或Gemini提問時,Verol會自動運行,提取AI回答中的關鍵主張,並對照網絡上的實時信息進行核實。目前,Verol已支持這三款主流AI聊天工具,並計劃在未來增加更多平台。
除了基礎的驗證功能外,Mark還進行了一項小規模基準測試:他使用100個相同的提示詞對三個模型進行測試,觀察它們在實時源檢查下的表現。雖然這不是嚴格的科學研究,但相關圖表已公開在產品的展示頁面上,供用户查看模型回答在事實核查下的可靠性。Verol提供免費試用層級,包含5次完整驗證,讓用户可以在自己的工作流程中體驗效果。付費計劃每月4.99美元起,適合需要頻繁驗證的用户。Mark強調,他希望用户尤其是依賴LLM進行研究、編程等場景的用户,能夠通過Verol避免細微但致命的幻覺錯誤。