标题和作者

文档标题为“OpenAI’s Sora was the creepiest app on your phone — now it’s shutting down”。文章的主题聚焦于OpenAI推出的社交应用Sora的意外关闭。作者背景虽未明确提及具体姓名，但通过引用TechCrunch等来源，展现了作为科技行业观察者的视角，记录了这一应用从发布到停运的全过程，揭示了AI社交应用在真实用户需求面前的脆弱性。

摘要

本文主要报道了OpenAI宣布关闭其TikTok风格的社交应用Sora。Sora于六个月前作为邀请制社交网络发布时曾引发热议，但未能像Meta的Horizon Worlds那样维持长久的生命力。尽管其背后的Sora 2视频生成模型令人印象深刻，但用户对纯AI社交内容缺乏持续兴趣。Sora曾试图通过类似TikTok的界面和AI生成的“cameos”（后更名为“characters”）功能来吸引用户，但因内容过于令人毛骨悚然、涉及未授权的公众人物深伪以及版权争议（如涉及迪士尼角色），导致用户流失和商业合作破裂。最终，Sora在发布仅六个月后停运，尽管其带来的收入有限，但OpenAI可能认为其风险过高或无法带来持续增长。

术语解释：

  • Sora：OpenAI开发的一款AI驱动的视频生成模型，最初以社交应用形式发布，允许用户通过扫描面部生成逼真的“deepfakes”（深伪视频）。
  • TikTok-like：指模仿TikTok短视频平台的界面和交互方式，即垂直视频流。
  • Deepfakes：利用人工智能技术合成逼真的虚假视频内容，常用于将一个人的面部替换到另一个人的视频中。
  • Horizon Worlds：Meta公司推出的虚拟现实社交平台，虽然初期备受关注，但也经历了动荡和用户流失，被用作Sora命运的类比。

主要主题和概念

主题一：AI社交应用的脆弱性与用户需求错位

  • What：Sora是一款模仿TikTok垂直视频流的社交应用，旨在利用AI生成技术提供内容创作体验。然而，该应用在发布六个月后便宣布停运，未能实现商业上的可持续性。
  • Why：虽然Sora 2模型技术先进，但用户对纯粹的AI生成内容缺乏持久的兴趣。此外，应用缺乏有效的社区管理和内容 moderation，导致早期体验充斥着令人不安的深伪内容（如CEO的恐怖克隆体），破坏了用户体验和信任感。
  • How：OpenAI试图通过构建一个类似TikTok的界面和“characters”功能来吸引用户，但由于技术门槛过低且监管滞后，用户迅速转向生成恶搞和侵权内容，导致应用声誉受损并最终被关闭。

主题二：深伪技术的社会风险与法律边界失控

  • What：Sora允许用户生成公众人物（包括已故人物如马丁·路德·金和罗宾·威廉姆斯）的逼真深伪视频，引发了公众强烈反弹和商业合作伙伴的担忧。
  • Why：应用在推出时未能建立足够严格的护栏来阻止未授权的公众人物生成，导致大量侵权和冒犯性内容出现。这使得Sora从一个社交工具变成了一个潜在的“雷区”，不仅引发了法律诉讼，也迫使公众人物及其家属公开呼吁停止此类行为。
  • How：尽管OpenAI最初试图通过规则禁止生成公众人物视频，但用户利用简单的提示词技巧轻易绕过了这些限制。这种技术上的无力感直接导致了与迪士尼等大型公司的商业合作破裂，并最终迫使OpenAI关闭应用以规避更大的法律风险。

术语解释：

  • Characters：Sora应用中原本被称为“cameos”的功能，指用户可以通过扫描面部生成自己的虚拟形象，其他人可以使用该形象生成视频。后因商标诉讼更名为“characters”。
  • Deepfakes：利用人工智能算法生成的逼真虚假视频，Sora应用中的这一功能曾被用户滥用来制作公众人物的恐怖或恶搞视频。

重要引文

  • 论点：Sora应用虽然技术先进，但由于缺乏有效的监管和内容 moderation，导致其充斥着令人毛骨悚然的深伪内容，最终因用户流失和商业风险而关闭。
  • 论据：文章中提到Sora给人的感觉像是一个“under-moderated minefield of creepy Sam Altman videos”，并描述了用户生成OpenAI CEO Sam Altman在屠宰场询问猪是否在吃饲料的真实视频。
  • 论证：这种缺乏监管的状态不仅体现在CEO的深伪视频上，还进一步演变为用户生成涉及已故公众人物（如马丁·路德·金、罗宾·威廉姆斯）的侵权内容。这些行为直接导致了商业合作伙伴（如迪士尼）的撤资，证明了该应用在内容管理上的严重缺陷是其失败的核心原因。

术语解释：

  • Under-moderated minefield：这是一个形象的比喻，指Sora应用中充斥着未经充分审查的、充满争议和危险（如深伪内容）的互动区域，用户稍有不慎就会接触到令人不适的内容。

总结

OpenAI的Sora应用在短短六个月内便黯然退场，成为了AI社交领域的短暂插曲。这款曾被寄予厚望的TikTok克隆应用，因缺乏有效的内容监管，演变成了一个充斥着恐怖深伪视频的“雷区”，甚至引发了与迪士尼的商业纠纷。尽管Sora的失败证明了纯粹的AI社交内容难以满足人类需求，但OpenAI并未放弃技术，Sora 2模型已转入付费墙后的ChatGPT中。随着技术的普及，未来势必会有更多类似的AI视频社交应用涌现，用户将面临更汹涌的深伪内容浪潮。