标题和作者

文章标题为《Let us filter AI slop, you cowards》，作者是 Jess Weatherbed。这篇文章的主题主要探讨了当前互联网平台在引入AI内容标记（labeling）系统后，为何拒绝向用户提供过滤这些内容的选项。作者背景方面，Jess Weatherbed 是一位专注于创意产业、计算技术和互联网文化的新闻写作者，此前曾在 TechRadar 担任新闻和硬件评测编辑。

摘要

本文主要论述了大型在线平台（如 Meta、Google、TikTok、Spotify 和 YouTube）虽然在最近一年大幅加强了内容认证工作，对AI生成的图片、视频和音乐自动添加标记以区分真伪，但并未提供让用户屏蔽或过滤这些内容的选项。在此之前，虽然已有 C2PA 和 SynthID 等基于溯源和检测的方法，但目前的标记系统仅停留在信息展示层面，未能实质性改变用户面对大量AI内容时的被动局面。本文认为，如果平台真的希望证明这些标记系统有效，或者真的想要解决AI内容泛滥的问题，就应该给用户提供一个简单的“AI内容过滤”开关。然而，作者通过联系多家公司发现，这些平台均未表态支持此类功能。作者指出，现有的过滤尝试（如 DeviantArt 和 Pinterest 的有限功能）往往隐藏较深且效果不佳，甚至会导致误报。此外，文章还分析了平台背后的商业动机：由于AI内容能带来流量和利润，平台并不希望用户轻易屏蔽它，这反而暴露了所谓的“真实性”努力可能只是为了应付监管和批评的烟雾弹。本文的具体做法是列举了现有平台的拒绝态度、过滤功能的局限性以及技术检测手段（如元数据和水印）的缺陷，最终得出结论：用户迫切需要一个“不显示AI内容”或“仅显示人工创作者内容”的过滤选项，以验证这些标记系统是否真的有用。

为了帮助不熟悉该领域的读者理解，这里简要解释几个关键术语：AI slop 指的是由AI生成的、低质量、重复且通常令人反感的生成式内容，在本文中常用来指代那些充斥网络、缺乏创意的垃圾信息；C2PA（Content Credentials）是一种技术标准，旨在通过嵌入元数据或数字签名来证明内容的来源和创作过程，通常用于验证图像或视频是否由AI生成；SynthID 则是 OpenAI 等公司开发的一种技术，它通过在图像或文本中添加肉眼或普通检测工具难以察觉的“隐形水印”来标识AI生成的内容；False positives（误报）是指在AI检测系统中，将真实的人类创作内容错误地标记为AI生成内容的现象。

主要主题和概念

主题一：标记系统的形式主义与缺乏过滤功能

  • What（界定问题）：当前平台虽然实施了AI标记（如元数据标签、信息浮层），但并未赋予用户屏蔽这些内容的权力，导致标记仅作为装饰性的告知，而非实质性的筛选工具。
  • Why（分析原因）：现有的标记系统（如 C2PA 和 SynthID）在技术层面存在漏洞，容易被篡改或去除元数据，且检测方法（基于模式分析）容易产生误报或漏报。更重要的是，平台自身缺乏动力去解决用户“想屏蔽AI内容”的诉求，因为AI生成的内容能填充他们的推荐算法。
  • How（解决问题）：文章提出最直接的解决方案是在平台设置中增加一个“AI内容过滤”的复选框，让用户可以一键屏蔽所有带有AI标记的内容。这不仅能测试标记系统的有效性，也能尊重用户的选择权。

主题二：平台对过滤功能的刻意回避

  • What（界定问题）：当作者询问 Meta、Google、TikTok 和 Spotify 是否有计划引入AI内容过滤功能时，这些公司均未给予积极回应，显示出他们并不打算提供此类功能。
  • Why（分析原因）：一方面，平台担心过度过滤可能会误删真实内容（即误报问题）；另一方面，也是最根本的原因，平台作为AI内容的生产者和受益者，希望通过海量AI内容来维持用户活跃度和广告收入。雇佣大量人工审核人员来过滤AI内容成本高昂，远不如让算法自动推送来得高效。
  • How（解决问题）：作者呼吁平台应采取更负责任的措施，例如像 Instagram 建议的那样，转而大力推广“人工创作者认证”徽章，并允许用户优先查看认证创作者的内容，从而在商业利益和用户体验之间找到平衡。

为了帮助读者理解本文提到的技术背景，以下是相关概念的补充解释：C2PA 是一个由技术联盟维护的标准，它允许创作者和平台将关于作品创作过程的信息（如使用的工具、修改历史）以加密的形式嵌入文件中，以便验证其真实性；SynthID 是一种先进的隐写术技术，它通过在像素或文本数据中添加肉眼不可见的噪声来“标记”内容，使得内容在视觉上看起来正常，但在技术上可被识别为AI生成；False positives（误报） 是指在内容审核或AI检测算法中，将非违规或真实的内容错误地判定为违规或AI生成，这会导致用户体验下降，甚至损害创作者的权益；False negatives（漏报） 则是指系统未能检测出本应被标记的AI内容，导致垃圾信息大量涌入。

重要引文

论点：大型科技公司虽然承认AI内容泛滥是个问题，但拒绝提供过滤选项，这表明他们的标记系统可能只是为了应付监管的“烟雾弹”，且他们更倾向于让用户被动接受AI内容，而非提供控制权。

论据：

  1. 文中引用了 Google CEO Sundar Pichai 的言论，他承认“网上有很多AI slop”，并建议用户“适应它”，这暗示了问题的普遍性和严重性。
  2. 文中引用了 Instagram 头号人物 Adam Mosseri 的观点，他指出随着AI生成内容的增加，“真实性正变得成为一种稀缺资源”，侧面印证了平台对真实内容流失的担忧。
  3. 文中列举了 Meta 和 YouTube 在尝试应用AI标签时遭遇的尴尬，即他们错误地将由人类创作者制作的内容标记为AI生成，证明了当前检测技术的不可靠性。

论证：基于上述论据，作者论证了平台的矛盾心态：他们明知“AI slop”问题严重，也承认真实性稀缺，却拒绝给用户提供“过滤”这一最直接的解决方案。相反，他们选择继续依赖那些容易产生误报且无法被用户屏蔽的标记系统。作者指出，这种做法不仅无法解决用户想避开AI内容的需求，反而暴露了这些公司更在乎如何利用AI内容获利，而非解决用户体验问题。

为了帮助读者理解文中提到的审核机制和检测难点，这里解释几个关键概念：False positives（误报） 是指在内容审核过程中，系统将正常的人类创作内容错误地判定为违规或AI生成内容，这会导致误伤，例如文中提到的 Meta 和 YouTube 将人类作品误标为AI；False negatives（漏报） 则是指系统未能检测出违规或AI生成的内容，导致不良信息在平台上传播；Moderation（审核/把关） 在此文中特指平台对内容的筛选和管理过程，目前平台主要依赖自动化工具，这也导致了审核的不准确和成本高昂。

总结

本文最引人注目的部分在于揭露了科技巨头在“AI治理”背后的虚伪态度。虽然 Meta、Google、TikTok 和 Spotify 都在大力宣传其AI标签技术（如 C2PA 和 SynthID），声称旨在防止用户被欺骗，但当被问及是否允许用户屏蔽这些内容时，他们无一例外地选择了沉默或拒绝。文章通过 DeviantArt 和 Pinterest 的实际案例，展示了现有过滤功能的局限性：它们要么隐藏极深，要么形同虚设，根本无法有效减少用户看到的AI内容。更深层的讽刺在于，作者指出这些平台作为AI内容的最大受益者，并不希望用户轻易屏蔽“AI slop”，因为那是他们填充推荐算法和广告库存的来源。文章最后强调，如果这些平台真的关心真实性和用户体验，最简单有效的办法不是继续研发那些容易被破解的标签，而是给用户提供一个真正的“不显示AI内容”或“仅显示人工创作者”的过滤开关，让用户自己来评判这些技术是否真的有效。