AI News HubLIVE
站內改寫1 分鐘閱讀

Verol:阻止AI幻覺的Chrome擴充套件

Verol是一款Chrome擴充套件,透過獨立的驗證層為ChatGPT、Claude和Gemini提供即時網路查詢和源驗證,幫助使用者識別AI幻覺。

來源Product Hunt AI作者: Mark

Verol是一款由開發者Mark推出的Chrome擴充套件,旨在解決大型語言模型(如ChatGPT、Claude和Gemini)中常見的“幻覺”問題——即模型生成看似合理但實際上錯誤的資訊。Verol透過在使用者與AI的聊天介面上疊加一個獨立的驗證層來工作:當AI生成回答後,Verol會自動解析其中的每個獨立宣告,並透過專用的後端管道執行即時網路搜尋,驗證資訊來源的可靠性。使用者會立即看到每個宣告的判定結果(透過/失敗)、置信度指標,以及可直接點選檢視源文件的連結。所有驗證歷史都儲存在本地瀏覽器中,不會上傳到任何伺服器,確保隱私。

Verol的誕生源於Mark的個人體驗:他厭倦了手動將AI回答逐句複製到Google搜尋來驗證真偽的過程。這種方法不僅耗時低效,而且往往無法信任一半的驗證結果。Verol直接整合在使用者已有的AI聊天介面之上,無需切換到其他工具。當使用者向ChatGPT、Claude或Gemini提問時,Verol會自動執行,提取AI回答中的關鍵主張,並對照網路上的即時資訊進行核實。目前,Verol已支援這三款主流AI聊天工具,並計劃在未來增加更多平臺。

除了基礎的驗證功能外,Mark還進行了一項小規模基準測試:他使用100個相同的提示詞對三個模型進行測試,觀察它們在即時源檢查下的表現。雖然這不是嚴格的科學研究,但相關圖表已公開在產品的展示頁面上,供使用者檢視模型回答在事實核查下的可靠性。Verol提供免費試用層級,包含5次完整驗證,讓使用者可以在自己的工作流程中體驗效果。付費計劃每月4.99美元起,適合需要頻繁驗證的使用者。Mark強調,他希望使用者尤其是依賴LLM進行研究、程式設計等場景的使用者,能夠透過Verol避免細微但致命的幻覺錯誤。