一本98年前的儿童读物教会我们关于AI的什么
通过分析1928年儿童小说《克拉科夫的号手》，本文探讨了AI如何像故事中的魔法水晶一样，只是反射使用者的偏见和错误，导致破坏性后果。作者认为AI削弱了人类批判性思维、创造力和同理心，并带来环境问题。
文章情报
要点
- 故事中的水晶看似揭示宇宙秘密，实则反映使用者内心。
- AI从互联网中提取数据，相当于算法驱动的“回音壁”，加剧偏见和错误。
- AI的使用导致人类批判性思维和创造力的衰退。
- AI数据中心的高能耗对环境造成破坏。
为什么重要
这条新闻值得关注，因为故事中的水晶看似揭示宇宙秘密，实则反映使用者内心。
技术影响
可能影响开发流程、团队协作、自动化能力和工具链选择。
本文的作者是一位热衷于用小说视角观察世界的博主。他最近重读了童年最爱的书籍之一——埃里克·P·凯利于1928年出版的《克拉科夫的号手》，惊喜地发现这本书不仅没有因年代久远而褪色，反而更加深刻。更令人意外的是，书中竟蕴含着一个关于人工智能使用的真实警示故事。
小说背景设定在15世纪，讲述波兰家庭查尔内茨基一家因鞑靼人摧毁家园而逃离乌克兰，前往克拉科夫。主人公约瑟夫·查尔内茨基随父母逃难，唯一的财产是一个大南瓜。别着急，这个南瓜里藏着什么？是伟大的塔尔诺夫水晶，也就是传说中的贤者之石——据说凝视它便能揭示宇宙的所有秘密。这正是鞑靼人追捕的目标。
故事中，水晶最终落入一位炼金术士手中。这位炼金术士试图破解宇宙奥秘，他的德国学生则一心想着点石成金。当学生发现炼金术士拥有水晶时，他欣喜若狂，说服术士利用水晶致富。学生让炼金术士进入催眠状态，凝视水晶寻找秘密。经历数次失败后，终于成功，炼金术士开始混合从水晶中“看到”的配方。然而，这些配方恰好是制造燃烧弹的原料，导致房屋起火，蔓延全城，烧毁了半个克拉科夫。所幸主角们和狗都逃了出来。
小说的结局揭示，水晶仅仅反射了炼金术士内心的想法。他以为在寻找古人智慧，实际上得到的是自己混杂的偏见、记忆和理论，最终酿成火灾。这正是人工智能的缩影。许多人视AI为开启光明未来的钥匙，但它只是算法驱动地从互联网这个“污水池”中回收信息，汇聚各种理论、偏见、猜测、错误信息，再以幻觉般的口吻吐出，让用户误以为这是新东西。简而言之，AI昂贵地再现了哲学本科生的能力，却带来破坏。
AI的使用摧毁了人类批判性思维，抹杀了创造的喜悦和激情，削弱了好奇心——这种人类最宝贵的特质。它试图窃取我们的思考能力。AI没有让我们变聪明，反而让聪明人变蠢。它腐蚀人际沟通，将对话变成自我肯定的反馈循环，削弱同理心。AI制造虚假关系幻觉，利用人性弱点。同时，AI数据中心每天消耗相当于一个城镇的用水量，带来环境破坏，如同故事中的大火。
小说结尾，炼金术士从灰烬中醒来，夺过水晶跑到维斯瓦河边，用尽全力将其扔进河中。他喊道：“我在这块石头上看到的，只是我疯狂头脑的反射……我们除了给克拉科夫带来苦难和破坏，什么也没做。”这是一种恰当的寓言。作者希望AI也能迎来这样的结局。
这篇博文强调了小说的重要性，即使它已有近百年历史。