从“985护送车”AI乌龙事件 看生成式AI内容风控的新赛道

白岩松谈及“尾号985车辆护送女儿”的热传内容被证实为AI生成,本质是生成式AI内容伪造从泛娱乐场景向公共人物、公共叙事领域渗透的标志性事件。

我们孵化器最近复盘上半年的AIGC赛道项目,最直观的感受是AI内容生成的门槛已经降到史无前例的低点。据中国信通院2026年上半年生成式AI产业报告,国内AI短视频生成工具的用户渗透率已超40%,零代码、分钟级产出成行业标配。仅需输入文字,就能生成特定人物形象、口型同步的高清视频。

此前AI内容伪造大多集中在泛娱乐场景,比如明星换脸、网红恶搞,受众有一定娱乐预期,不易引发公共误解。但这次“985护送车”事件的不同在于,伪造内容绑定公众人物的公共身份,采用类似新闻播报的形式,很容易让普通用户信以为真。我们和头部内容平台风控团队交流时了解到,这类公共人物AI伪造内容的传播速度是普通娱乐类的3-5倍,用户辨别率不足20%。

技术迭代还在进一步拉低造假门槛,台积电今年量产的3nm AI加速芯片,让端侧AI视频生成速度提升了3倍以上。也就是说,未来用户无需依赖云端算力,只用手机就能在几分钟内生成足以乱真的AI伪造视频。华为今年推出的昇腾AI原生内容风控方案,已在多个省级融媒体中心落地,核心就是针对公共人物AI伪造内容做实时识别拦截。

我和同行交流时普遍认为,这次事件不是偶发的网络乌龙,而是生成式AI内容治理进入新阶段的信号。第一个明确趋势是,AI内容伪造的“公共属性”会越来越强,针对政务人物、公众人物、公共事件的AI造假会成为高发场景。第二个趋势是,内容风控逻辑会从“事后处置”转向“事前溯源”,在AI内容生成环节就嵌入不可篡改的溯源水印。

对创业者来说,这也意味着AI内容安全赛道的细分机会正在快速清晰。此前很多AI风控项目主打通用场景,现在垂直于公共人物IP保护、政务内容AI防伪的赛道,已经出现明确的客户需求。我们孵化器今年接触的17个AI内容安全项目中,有11个都把公共场景作为核心方向,占比同比提升47个百分点。

针对当前的行业变化,我给从业者提三个具体建议。第一,生成式AI工具厂商必须尽快把“AI内容溯源水印”作为标配功能,不要等监管落地才被动调整,提前布局才能建立合规壁垒。

第二,内容安全赛道的创业者可以重点切入公共媒体、政务宣传、公众人物IP运营三个垂直场景。这些领域付费意愿和能力都更强,且目前没有绝对头部玩家,创业窗口期仍然存在。

第三,To C内容平台要尽快上线端侧的AI内容显著标识功能。这既能降低普通用户的辨别成本,也能减少平台自身的合规风险,是兼顾体验和监管的必然选择。

信息来源:2026年9月13日澎湃新闻热点报道

展开展开
热门写字楼:
临港再保险大厦 上海威高医疗产业园 港城广场(滴水湖AI创新港) 张江长利园 外高桥文化艺术中心 创新魔坊 创芯天地 临港金融湾 海洋科技广场 半岛科技园 华虹科技园 展想中心 创晶科技中心(创新晶体)
区域写字楼:
浦东 闵行 松江
商圈写字楼:
浦江 周浦 新桥镇 颛桥镇 虹桥开发区 张江科学城 临港新片区 陆家嘴 八佰伴 竹园商贸区 世纪公园 源深 花木 前滩 金桥 上南地区/后滩 北蔡 三林 南汇 外高桥 川沙 康桥

选址网,您身边的写字楼专家!

关于我们 - 联系我们 - 加入我们 - 友情链接 - 投放房源 - 网站地图XML - 网站地图 - 网站热词

Copyright © 选址网 All rights reserved. 沪ICP备2022035212号-1 地址:上海浦东新区张江路725号

-

客服服务:(工作日 早8:00-晚21:00)

021-50935615

选址网公众号

友情链接: