从“985护送车”AI乌龙事件 看生成式AI内容风控的新赛道
白岩松谈及“尾号985车辆护送女儿”的热传内容被证实为AI生成,本质是生成式AI内容伪造从泛娱乐场景向公共人物、公共叙事领域渗透的标志性事件。
我们孵化器最近复盘上半年的AIGC赛道项目,最直观的感受是AI内容生成的门槛已经降到史无前例的低点。据中国信通院2026年上半年生成式AI产业报告,国内AI短视频生成工具的用户渗透率已超40%,零代码、分钟级产出成行业标配。仅需输入文字,就能生成特定人物形象、口型同步的高清视频。
此前AI内容伪造大多集中在泛娱乐场景,比如明星换脸、网红恶搞,受众有一定娱乐预期,不易引发公共误解。但这次“985护送车”事件的不同在于,伪造内容绑定公众人物的公共身份,采用类似新闻播报的形式,很容易让普通用户信以为真。我们和头部内容平台风控团队交流时了解到,这类公共人物AI伪造内容的传播速度是普通娱乐类的3-5倍,用户辨别率不足20%。
技术迭代还在进一步拉低造假门槛,台积电今年量产的3nm AI加速芯片,让端侧AI视频生成速度提升了3倍以上。也就是说,未来用户无需依赖云端算力,只用手机就能在几分钟内生成足以乱真的AI伪造视频。华为今年推出的昇腾AI原生内容风控方案,已在多个省级融媒体中心落地,核心就是针对公共人物AI伪造内容做实时识别拦截。
我和同行交流时普遍认为,这次事件不是偶发的网络乌龙,而是生成式AI内容治理进入新阶段的信号。第一个明确趋势是,AI内容伪造的“公共属性”会越来越强,针对政务人物、公众人物、公共事件的AI造假会成为高发场景。第二个趋势是,内容风控逻辑会从“事后处置”转向“事前溯源”,在AI内容生成环节就嵌入不可篡改的溯源水印。
对创业者来说,这也意味着AI内容安全赛道的细分机会正在快速清晰。此前很多AI风控项目主打通用场景,现在垂直于公共人物IP保护、政务内容AI防伪的赛道,已经出现明确的客户需求。我们孵化器今年接触的17个AI内容安全项目中,有11个都把公共场景作为核心方向,占比同比提升47个百分点。
针对当前的行业变化,我给从业者提三个具体建议。第一,生成式AI工具厂商必须尽快把“AI内容溯源水印”作为标配功能,不要等监管落地才被动调整,提前布局才能建立合规壁垒。
第二,内容安全赛道的创业者可以重点切入公共媒体、政务宣传、公众人物IP运营三个垂直场景。这些领域付费意愿和能力都更强,且目前没有绝对头部玩家,创业窗口期仍然存在。
第三,To C内容平台要尽快上线端侧的AI内容显著标识功能。这既能降低普通用户的辨别成本,也能减少平台自身的合规风险,是兼顾体验和监管的必然选择。
信息来源:2026年9月13日澎湃新闻热点报道
