“人工智能”一詞已失去意義
這篇文章討論了AI公司大規模爬取網站導致服務器宕機的問題,並介紹了一種名為Anubis的解決方案。Anubis採用工作量證明機制,類似於Hashcash,旨在增加大規模爬取的成本,同時保護網站資源。
近年來,隨着人工智能技術的迅猛發展,AI公司對網站數據的爬取行為日益頻繁。這種大規模爬取不僅給網站服務器帶來巨大負擔,甚至導致宕機,使得普通用户無法正常訪問資源。針對這一問題,一些網站開始採用反爬措施,其中Anubis系統就是一種基於工作量證明(Proof-of-Work)的解決方案。
Anubis的設計靈感來源於Hashcash,後者最初被提出用於減少電子郵件垃圾信息。其核心思想是:對於單個用户,額外的計算負載幾乎可以忽略不計,但對於大規模爬取者,累積的成本將變得相當高昂,從而有效遏制惡意爬取行為。目前,Anubis主要作為臨時措施使用,開發團隊正在研究更先進的指紋識別技術,特別是針對無頭瀏覽器的檢測(例如通過字體渲染方式)。未來,當用户被識別為更可能是合法訪問者時,將無需再呈現工作量證明挑戰頁面。
需要注意的是,Anubis依賴於現代JavaScript功能,某些插件(如JShelter)可能會將其禁用。用户如需正常訪問,需為此域名禁用這類插件。