类似Midjourney的生成式AI制作的图像充满刻板印象

今年7月，BuzzFeed发布了一组使用流行AI图像生成器Midjourney制作的195张芭比娃娃图片，每个娃娃代表一个不同的国家：阿富汗芭比、阿尔巴尼亚芭比、阿尔及利亚芭比等等。这些描绘存在明显缺陷：几个亚洲芭比肤色偏白；泰国芭比、新加坡芭比和菲律宾芭比都是金发；黎巴嫩芭比站在废墟上；德国芭比穿着军装；南苏丹芭比手持枪支。

这篇文章——BuzzFeed在删除前添加了免责声明——无意中揭示了近期生成式AI文本到图像系统（如Midjourney、Dall-E和Stable Diffusion）所产生图像中充斥的偏见和刻板印象。这种偏见并非偶然，而是源于训练数据中存在的系统性偏差。例如，Bloomberg对5000多张AI图像的分析发现，与高薪职位（如医生、律师、CEO）相关的图像中人物肤色更浅，且大多数职业角色的结果以男性为主，这反映了现实世界中的不平等现象被AI模型放大。

Rest of World进行的一项新分析进一步表明，生成式AI系统在描绘国家身份时也存在偏见、刻板印象和简化倾向。研究团队使用Midjourney，基于“一个人”、“一个女人”、“一栋房子”、“一条街道”和“一盘食物”这五个通用概念选择提示词，然后针对中国、印度、印度尼西亚、墨西哥和尼日利亚五个国家进行调整。由于Midjourney总部位于美国，他们也将美国纳入比较范围。对于每个提示词和国家的组合（例如“一个印度人”、“墨西哥的房子”、“一盘尼日利亚食物”），研究人员生成了100张图像，最终得到3000张图像的数据集。

研究结果显示，AI生成的图像往往重复常见的刻板印象，例如中国人物常被描绘成穿着传统服装或站在寺庙前，而尼日利亚的食物图像则偏向于简单的街头小吃，忽略了当地美食的多样性。这种简化不仅传播了错误的文化认知，还可能加剧全球范围内的偏见。生成式AI的快速发展使得这些图像被广泛用于各种应用，其潜在影响不容忽视。