“人工智慧”一詞已失去意義
這篇文章討論了AI公司大規模爬取網站導致伺服器宕機的問題,並介紹了一種名為Anubis的解決方案。Anubis採用工作量證明機制,類似於Hashcash,旨在增加大規模爬取的成本,同時保護網站資源。
近年來,隨著人工智慧技術的迅猛發展,AI公司對網站資料的爬取行為日益頻繁。這種大規模爬取不僅給網站伺服器帶來巨大負擔,甚至導致宕機,使得普通使用者無法正常訪問資源。針對這一問題,一些網站開始採用反爬措施,其中Anubis系統就是一種基於工作量證明(Proof-of-Work)的解決方案。
Anubis的設計靈感來源於Hashcash,後者最初被提出用於減少電子郵件垃圾資訊。其核心思想是:對於單個使用者,額外的計算負載幾乎可以忽略不計,但對於大規模爬取者,累積的成本將變得相當高昂,從而有效遏制惡意爬取行為。目前,Anubis主要作為臨時措施使用,開發團隊正在研究更先進的指紋識別技術,特別是針對無頭瀏覽器的檢測(例如透過字型渲染方式)。未來,當使用者被識別為更可能是合法訪問者時,將無需再呈現工作量證明挑戰頁面。
需要注意的是,Anubis依賴於現代JavaScript功能,某些外掛(如JShelter)可能會將其停用。使用者如需正常訪問,需為此域名停用這類外掛。