一本98年前的兒童讀物教會我們關於AI的什麼
通過分析1928年兒童小説《克拉科夫的號手》，本文探討了AI如何像故事中的魔法水晶一樣，只是反射使用者的偏見和錯誤，導致破壞性後果。作者認為AI削弱了人類批判性思維、創造力和同理心，並帶來環境問題。
文章情報
要點
- 故事中的水晶看似揭示宇宙秘密，實則反映使用者內心。
- AI從互聯網中提取數據，相當於算法驅動的“迴音壁”，加劇偏見和錯誤。
- AI的使用導致人類批判性思維和創造力的衰退。
- AI數據中心的高能耗對環境造成破壞。
為甚麼重要
這條新聞值得關注，因為故事中的水晶看似揭示宇宙秘密，實則反映使用者內心。
技術影響
可能影響開發流程、團隊協作、自動化能力和工具鏈選擇。
本文的作者是一位熱衷於用小説視角觀察世界的博主。他最近重讀了童年最愛的書籍之一——埃裏克·P·凱利於1928年出版的《克拉科夫的號手》，驚喜地發現這本書不僅沒有因年代久遠而褪色，反而更加深刻。更令人意外的是，書中竟藴含着一個關於人工智能使用的真實警示故事。
小説背景設定在15世紀，講述波蘭家庭查爾內茨基一家因韃靼人摧毀家園而逃離烏克蘭，前往克拉科夫。主人公約瑟夫·查爾內茨基隨父母逃難，唯一的財產是一個大南瓜。彆着急，這個南瓜裏藏着什麼？是偉大的塔爾諾夫水晶，也就是傳説中的賢者之石——據説凝視它便能揭示宇宙的所有秘密。這正是韃靼人追捕的目標。
故事中，水晶最終落入一位鍊金術士手中。這位鍊金術士試圖破解宇宙奧秘，他的德國學生則一心想着點石成金。當學生髮現鍊金術士擁有水晶時，他欣喜若狂，説服術士利用水晶致富。學生讓鍊金術士進入催眠狀態，凝視水晶尋找秘密。經歷數次失敗後，終於成功，鍊金術士開始混合從水晶中“看到”的配方。然而，這些配方恰好是製造燃燒彈的原料，導致房屋起火，蔓延全城，燒燬了半個克拉科夫。所幸主角們和狗都逃了出來。
小説的結局揭示，水晶僅僅反射了鍊金術士內心的想法。他以為在尋找古人智慧，實際上得到的是自己混雜的偏見、記憶和理論，最終釀成火災。這正是人工智能的縮影。許多人視AI為開啓光明未來的鑰匙，但它只是算法驅動地從互聯網這個“污水池”中回收信息，匯聚各種理論、偏見、猜測、錯誤信息，再以幻覺般的口吻吐出，讓用户誤以為這是新東西。簡而言之，AI昂貴地再現了哲學本科生的能力，卻帶來破壞。
AI的使用摧毀了人類批判性思維，抹殺了創造的喜悦和激情，削弱了好奇心——這種人類最寶貴的特質。它試圖竊取我們的思考能力。AI沒有讓我們變聰明，反而讓聰明人變蠢。它腐蝕人際溝通，將對話變成自我肯定的反饋循環，削弱同理心。AI製造虛假關係幻覺，利用人性弱點。同時，AI數據中心每天消耗相當於一個城鎮的用水量，帶來環境破壞，如同故事中的大火。
小説結尾，鍊金術士從灰燼中醒來，奪過水晶跑到維斯瓦河邊，用盡全力將其扔進河中。他喊道：“我在這塊石頭上看到的，只是我瘋狂頭腦的反射……我們除了給克拉科夫帶來苦難和破壞，什麼也沒做。”這是一種恰當的寓言。作者希望AI也能迎來這樣的結局。
這篇博文強調了小説的重要性，即使它已有近百年曆史。