AI News HubLIVE
站內改寫2 分鐘閱讀

AI意見分歧指數:8個模型對“最佳工具”的認同次數為0

一個公開、嚴謹、持續更新的測量指標,記錄不同AI引擎在推薦B2B工具時的分歧程度。最新資料顯示,在16個類別中,8個AI模型從未就同一最佳工具達成一致,平均配對一致性僅為44%。該指數採用可復現的研究方法,每月更新,並提供原始資料。

來源Hacker News AI作者: brainbootdev

AI模型在推薦B2B軟體工具時的分歧程度,如今有了一個公開、可復現的測量指標——AI分歧指數。該指數由Vincent Wesley Couey建立,每月更新一次,旨在量化不同AI引擎對B2B軟體工具推薦的共識程度。其核心發現令人驚訝:在記錄的16個B2B軟體類別中,8個主流AI模型從未就同一個“最佳工具”達成一致。

具體資料顯示,引擎間的平均配對一致性僅為44%,意味著兩個模型推薦同一工具的機率不到一半。Fleiss' kappa係數為0.41,屬於中等一致性水平。更值得注意的是,有163個工具僅被一個模型提及,這凸顯了AI推薦之間的巨大分歧。該指數基於2026年6月19日和7月8日兩次捕獲的樣本,涉及8個模型和16個類別,研究方法完全開放,原始回答以JSONL格式保留,任何人都可以復現計算結果。

與傳統品牌排名不同,AI分歧指數不關注“贏家”,而是聚焦於分歧本身。它記錄每個AI引擎在給定類別中推薦的工具,然後計算統計上的一致性指標,如配對一致性和Fleiss' kappa。專案還包含一個“分歧地圖”,以矩陣形式展示每個模型在每個類別中的推薦,矩陣按共識程度從高到低排列,使用者可以直觀看到哪些類別分歧最大。

除了核心指數,該專案還發布了一系列相關資料集,包括AI創意權利矛盾指數、AI引用分析、LLMOps棧比較、向量資料庫對比等。所有資料集均分配了DOI,遵循CC-BY-4.0許可證,確保可引用和可復現。研究方法強調嚴謹性:每個問題都向多個AI引擎提出,答案逐字記錄,只有至少三個引擎回答的類別才會被髮布。工具只有被至少三個引擎提及才被計入,避免了資料誇大。

對於希望在指數中展示其工具的供應商,研究提供了“Verified by Lattice”徽章。任何達到最低閾值的供應商都可以免費獲得一個徽章,顯示其工具被多少AI引擎提及。徽章連結回原始資料,確保可核查。贊助位被明確標註,不會影響實際排名。該專案為理解和評估AI推薦系統的可靠性提供了獨特的視角,幫助使用者認識到AI建議背後的不確定性。