标题和作者

本文的标题为《The gen AI Kool-Aid tastes like eugenics》，作者查尔斯·普利亚姆-摩尔是《The Verge》的记者，此前曾在 io9 和 Gizmodo 撰写关于漫画书、劳工、种族等话题的文章。文章介绍了导演瓦莱丽·韦奇制作的电影《Ghost in the Machine》，该片旨在探讨现代生成式人工智能（Gen AI）与历史优生学之间的深刻联系。文章指出，韦奇因在体验 OpenAI 的 Sora 模型时遭遇了严重的种族主义输出，且遭到同行的漠视，从而决心制作这部纪录片，揭露“人工智能”这一术语背后的历史包袱，以及科技行业对算法偏见忽视的根源。

摘要

本文介绍了导演瓦莱丽·韦奇的纪录片《Ghost in the Machine》，该影片深入探讨了现代生成式人工智能（Gen AI）的起源与其背后的种族科学历史。在之前的研究中，虽然人们已经意识到 AI 存在偏见，但很少有人像韦奇这样追溯其根源至维多利亚时代的优生学。本文认为，现有的 AI 模型之所以充满种族主义和性别歧视，是因为其底层逻辑植根于 19 世纪的优生学思想，特别是弗朗西斯·高尔顿和卡尔·皮尔逊的工作。韦奇通过历史分析和她个人向 OpenAI 反馈 Sora 模型歧视性问题的经历，揭示了行业对技术缺陷的漠视。文章强调，“人工智能”这一术语本身是一个误导性的营销概念，掩盖了技术的真实历史。韦奇认为，当前的 AI 热潮实际上是一杯由优生学思想调制的“毒酒”。

术语解释：

  • Gen AI：即“Generative AI”（生成式人工智能），指能够创建新内容（如文本、图像、视频）的 AI 技术。
  • Sora：OpenAI 开发的一个文本生成视频模型。
  • Kool-Aid：在此处作为隐喻，指代令人盲目追随的流行观念或潮流，源自“Kool-Aid”牌饮料在“人民圣殿教”集体自杀事件中的象征意义。
  • GIGO：即“Garbage In, Garbage Out”（垃圾进，垃圾出），计算机科学中的概念，指如果输入的数据质量很差，那么处理后的结果通常也是不可靠的。

主要主题和概念

主题一：营销术语“Artificial Intelligence”的欺骗性

  • What：界定问题在于“人工智能”这一术语的定义模糊且具有误导性，它实际上只是一个为了获取资金的营销口号。
  • Why：分析问题在于该术语掩盖了技术的真实起源和本质，使得人们忽略了其背后的历史包袱，从而陷入无意义的炒作。
  • How：解决方案是像韦奇在电影中那样，明确指出该术语毫无科学意义，必须剥离其文化外衣，直面技术的真实历史。
  • 术语解释：“Artificial Intelligence”即“人工智能”，通常指机器模拟人类智能行为的领域，但在本文语境下，导演强调它最初只是为了骗取资金而创造的一个营销词汇，而非一个严谨的科学定义。

主题二：优生学与机器学习的统计学根源

  • What：界定问题在于现代机器学习的核心算法（如逻辑回归）并非源于纯粹的数学，而是植根于优生学的种族测量理论。
  • Why：分析问题在于弗朗西斯·高尔顿（达尔文的表弟）通过测量不同种族女性的吸引力，建立了多维度建模，进而影响了卡尔·皮尔逊，后者发明的统计工具成为了 AI 的基础。
  • How：解决方案是通过追溯从高尔顿到皮尔逊再到现代 AI 的历史脉络，揭示种族主义观念如何被数学化并嵌入到计算逻辑中，导致技术本身带有偏见。
  • 术语解释：“优生学”指 19 世纪兴起的一种社会运动，主张通过选择繁殖来改善人类遗传素质，常被用来为种族主义和优绩主义辩护；“逻辑回归”是一种常用的统计学习方法，用于预测二元结果，它是现代机器学习的基础组件之一。

主题三：科技巨头对偏见反馈的漠视

  • What：界定问题在于当用户指出 AI 模型存在种族主义和性别歧视输出时，公司不仅不修复，反而将其斥为“尴尬”或“令人尴尬”。
  • Why：分析问题在于这种漠视并非技术缺陷，而是因为技术本身的结构性缺陷（即“优生学”根源）使得偏见难以根除，公司选择忽视以维持公众对 AI 的幻想。
  • How：解决方案是通过展示韦奇向 OpenAI 反馈 Sora 模型歧视性问题的经历，以及对方冷漠的回应，揭示行业内部的这种系统性忽视和对真相的掩盖。
  • 术语解释：“Sora”是 OpenAI 发布的一个文本生成视频模型；“Cringe”在这里指一种尴尬、不体面或令人反感的行为，韦奇用这个词来形容公司对她提出的严肃种族主义问题的回应态度。

重要引文

引文一：
“The truth is, it doesn't mean anything; it's a marketing term and always has been.”

  • 论点：“人工智能”这一短语本身是空洞且具有欺骗性的。
  • 论据：瓦莱丽·韦奇在接受采访时直截了当地指出，该术语最初就是为了获取资金而编造的。
  • 论证：这段引文通过揭示术语的起源，证明了当前关于 AI 的讨论往往是基于一个虚假的概念，从而为后续探讨其背后的真实历史奠定了基础。
  • 术语解释：“Marketing term”意为营销术语，指用于推广产品的词汇，韦奇在此强调“人工智能”并非科学定义，而是商业宣传的工具。

引文二：
“What was really surprising to me... it doesn't take long before you smack your forehead into the low doorframe of race science because it's baked into this technology.”

  • 论点：种族科学（Race Science）是现代生成式人工智能技术的核心组成部分，而非外部的污染。
  • 论据：韦奇在深入研究后惊讶地发现，从统计学到机器学习的整个发展过程中，种族主义思想无处不在。
  • 论证：通过使用“smack your forehead into the low doorframe”（撞到低矮的门框）这一生动的比喻，韦奇形象地说明了种族偏见是如何像结构性缺陷一样深深嵌入在技术架构之中的，无法轻易剥离。
  • 术语解释：“Race science”指关于种族优劣的科学理论，虽然现代科学已证明其毫无根据，但在历史上曾被用来为殖民主义和种族隔离提供伪科学依据；“Baked into”意为“嵌入其中”或“成为……的一部分”。

总结

电影《Ghost in the Machine》的核心在于揭露现代生成式人工智能（Gen AI）繁荣背后的“幽灵”——即 19 世纪优生学的历史阴影。瓦莱丽·韦奇不仅通过详尽的历史考证展示了技术如何从种族主义思想中诞生，还通过个人经历揭示了科技巨头（如 OpenAI）对算法歧视的系统性无视。这部电影是对当前 AI 热潮的一记警钟，它指出科技行业所喝下的“Kool-Aid”（迷魂汤）实际上是由偏见和伪科学调制的，如果不正视这段历史，就无法真正解决技术带来的伦理危机。