Meta被迫删除深伪视频，平台最怕的不是假，而是假得像真的

纪佑杰｜每日热点商业评论｜2026年9月18日

封面图｜AI生成示意图，不代表真实新闻现场

极简摘要：当平台面对深伪内容时，如果只按“有没有明确违反条款”处理，最后承担损失的就会是被冒用的人。AI时代真正稀缺的不是生成能力，而是责任闭环。

平台最怕的不是假而是假得像真的

如果有人用AI让你说了没说过的话，做了没做过的事，甚至拿你的脸去给陌生产品背书，你最先想到的不会是“这段内容是否符合平台条款”。你只会想一件事：为什么我要花时间证明，那不是我？

这正是Meta最近被推到台前的尴尬。9月17日，Meta独立监督委员会要求Facebook删除两段AI生成的视频：一段把一名苏格兰工党地方议员伪造成发表针对难民的煽动性言论；另一段嘲弄一名参与月经健康教育活动的穆斯林女性。委员会认为，Meta此前没有及时处理这些内容，现有深伪防护措施“持续且根本不足”。

事件事实配图｜Meta总部资料图，来源：Dallas Morning News 图片资料

问题在于，Meta不是没有看到争议，而是曾经用“没有明确违反现行政策”的方式把问题挡了回去。监督委员会随后提出扩大高风险AI标签、降低相关内容在信息流中的推荐、增加警告页、提高重复传播者处罚等多项建议。另一段视频在Meta平台上曾获得数千万次浏览，这意味着伤害并不是一个被动躺在那里等人发现的文件，而是被算法不断送到更多人眼前的东西。

普通人愤怒的不是一段假视频

表面上，这是事实真假问题；往深处看，却是身份被冒用的问题。一个人可以接受别人批评自己的观点，却很难接受平台把自己变成一段虚假的证据，让陌生人用自己的脸、声音和身份去完成另一套叙事。

这也是为什么企业经常“事实正确，回应却失败”。企业说的是事实逻辑：这段视频是AI生成的、我们有审核规则、用户可以举报。公众感受到的却是情绪逻辑：我已经被看见、被误解、被传播了，为什么还要自己排队、截图、申诉、证明？更深一层是身份逻辑：你们把我当成了一个需要自己处理风险的账号，而不是一个应该被保护的人。

大众冲突配图｜示意图，不对应具体当事人

旧的规则为什么失效了

过去的平台治理，默认内容是“用户生产、平台审核、违规后删除”。这套逻辑在图文时代还有一点用，因为一张图片、一段文字的传播速度和制作成本相对有限，平台也可以把它当成一个个孤立的内容单元来处理。

但AI把三件事同时改写了。第一，内容生产成本几乎降到普通人都可以承担；第二，伪造内容可以批量生成，删掉一个还能再长出十个；第三，平台的推荐系统会把最能激发情绪的内容送得更远。于是，平台如果仍然等到“有人举报、证据充分、条款对应”才处理，等于把平台的判断成本转嫁给受害者，把传播收益留给平台自己。

新的规则不再是“只处理已经证明违法的内容”，而是“对高风险、可误认、会造成身份伤害的内容先降低扩散，再完成事实核验”。这不是要求平台替所有人做价值判断，而是要求它承认：当自己的算法参与了放大，平台就不再只是中立的存储空间。

商业机制图｜示意图，解释平台如何把治理成本转嫁给受害者

平台真正的商业矛盾不是技术不够

Meta面对的矛盾很直白：审核、核验、申诉和人工复核都是成本；停留、互动、广告转化和内容规模却是收入。越像真的内容，越容易被相信；越容易被相信，越可能带来点击和传播；而平台越依赖这些指标，就越不愿意承认“内容本身可能有问题”。

类似风险也已经出现在深伪广告里。《卫报》报道，生活方式创作者Emily Schuman发现有人用她过去发布的自拍，制作减重药物、美妆和健康检测广告。她和团队多次举报后，某一条广告花了数周才被删除，另一条仍在传播。对创作者来说，脸就是生意；对平台来说，脸又是可以被广告系统调用的流量资产。这里的冲突不是AI会不会生成，而是谁从生成中获利，谁为错误买单。

所以，AI时代的公关也不能只准备一份声明。它必须同时回答四个问题：谁授权了这张脸？谁审核了这条内容？谁让它进入了推荐系统？当事人损失发生后，谁负责在最短时间内下架、解释与补偿？少回答一个问题，公众就会认为企业在把责任往下推。

老板现在就该改的不是文案而是流程

如果企业正在使用AI做广告、短视频、客服或销售资料，建议把下面三件事写进流程，而不是写进口号。

核心结论图｜AI内容的三道责任门

最后

很多企业还把AI当作一个“能不能做出来”的问题。其实，真正的经营问题已经变成了：做出来之后，谁能证明它经过授权，谁能解释它没有误导，谁能在出错时承担后果。

平台可以把内容做得越来越像真的，但不能把责任做得越来越像假的。

资料来源

The Guardian：Meta ordered to remove UK deepfakes as oversight board criticises inadequate safeguards：https://www.theguardian.com/technology/2026/sep/17/meta-ordered-remove-deepfakes-oversight-board-inadequate-safeguards

Meta Oversight Board：Meta Must Do More Against Harmful Deepfakes Containing Hate Speech：https://www.oversightboard.com/news/

The Guardian：Deepfakes are wrecking influencers credibility one fake ad at a time：https://www.theguardian.com/technology/2026/sep/12/deepfakes-wrecking-influencers-credibility

The Verge：Europe AI labeling and transparency rules are now in effect：https://www.theverge.com/ai-artificial-intelligence/974571/eu-ai-act-transparency-labels-rules-deepfakes

Dallas Morning News：Meta headquarters sign photo used as event context image：https://www.dallasnews.com/business/2024/07/30/meta-ag-paxton-agree-14-billion-settlement-for-unauthorized-capture-of-personal-data/

图片说明：01为AI生成封面示意图；02为网络资料图；03-05为本文制作的示意图，不代表真实新闻现场。