身份验证公司Copyleaks称,诈骗者正在TikTok上投放AI生成或AI篡改的名人视频广告。被冒充的对象包括Taylor Swift、Rihanna等公众人物。

这不是TikTok官方披露,也不是监管或司法认定。它更像一个提醒:当假名人、平台标识、奖励话术和第三方跳转绑在一起,用户要判断的就不只是“这张脸像不像”。

我更在意的是另一件事。生成式AI正在把过去成本较高的“假代言”,压低成可以反复投放、反复换壳的广告素材。平台广告审核面对的,也不再只是违规文案和可疑落地页。

骗局怎么包装:假采访、官方感、轻松赚钱

Copyleaks提到,这类广告常把明星放进看起来熟悉的采访场景。比如红毯、播客、访谈节目或类似脱口秀的画面。

这些场景本来就是真明星高频出现的地方。AI如果基于真实素材改几句话、换一段口型,就足以让人少停顿半秒。

诱饵并不新。很多广告宣称,用户只要看TikTok内容、提供反馈意见,就能获得收入。新的是外壳:它把“做任务赚钱”的老套路,套进了名人访谈和平台福利的语境里。

Copyleaks举到的例子包括:一个假的Swift AI头像催促用户注册所谓“TikTok Pay”;另一个假Rihanna视频则声称,用户观看内容并给出意见就能赚钱。

部分广告还出现TikTok官方品牌元素。但用户点击后,并不是进入TikTok的官方功能,而是被导向第三方服务。风险往往在这里发生:外部页面开始索取姓名、邮箱、支付信息或其他个人资料。

包装层用户看到什么真正的风险
名人采访红毯、播客、访谈节目画面借熟悉场景降低警惕
AI篡改口型、声音、字幕像在推荐服务把旧素材伪装成新代言
平台标识出现TikTok品牌元素容易误认成官方活动
奖励话术看视频、给反馈、做任务赚钱用低门槛收入诱导注册
第三方跳转离开平台进入外部页面个人信息在站外被收集

普通用户不需要先学会识别每一种深伪痕迹。更实用的判断是三条:要跳转到站外,要填写个人信息,承诺轻松赚钱。三条里出现两条,就该停手。

AI让老问题更难审:不只是视频真假

诈骗广告不是AI时代才有。Meta旗下Instagram和Facebook长期面对虚假投资、减肥产品、假名人代言等问题。YouTube也承认过,需要投入大量资源打击名人诈骗广告。

所以这件事不能写成TikTok独有问题。TikTok只是一个更典型的场景:短视频消费速度快,广告和内容长得近,用户从刷到、相信、点击,可能只隔几秒。

AI加入后,变化在两个地方。

一是素材生产更便宜。过去骗子需要盗图、剪旧视频、伪造新闻页面。现在公开视频、语音片段和生成工具可以把“假代言”做得更像一次真实采访。

二是审核对象变复杂。平台不能只看文案有没有违规词,还要判断视频里的人、声音、语境和广告承诺是否被合成或篡改。

现实限制也在这里。广告本身可能只写“奖励”“反馈”“测试资格”,真正索取信息的动作发生在跳转后的第三方页面。平台即使发现一部分深伪内容,也未必能立刻判定外部服务的全部风险。

这对关注AI安全和平台治理的读者,意义很直接:以后看平台治理,不该只看模型能不能识别假脸。更该看投放链路怎么管,品牌元素怎么审,落地页和第三方服务是否被纳入风险评估。

对用户和平台,真正要盯的是转化链路

对普通短视频用户来说,最有效的动作不是和AI比眼力。

看到类似广告,可以按这个顺序处理:不要点击外部链接;不要提交个人信息;回到TikTok应用内搜索是否存在官方功能;用平台的广告举报或诈骗举报入口提交;如果已经填过信息,尽快修改相关账号密码,并留意邮箱、短信和支付账户异常。

对平台来说,压力不在于下架某一条假Swift或假Rihanna广告。更难的是把同一套骗局的变体拦住。

它可能今天冒充Swift,明天换成Rihanna;今天叫“TikTok Pay”,明天换一个奖励项目名。画面、字幕、落地页都可以快速替换。

观察点为什么重要看不清会怎样
投放前审核能否识别AI篡改和假代言假广告进入推荐流后再处理,损失已经发生
品牌元素使用TikTok、Meta、YouTube标识是否被滥用用户把第三方骗局误认成平台福利
第三方落地页站外页面是否索取敏感信息风险从平台内信任转移到站外收割
举报反馈用户举报后是否能快速处理同类素材骗局换壳继续投放

这里还有一个对立处境要说清。平台不可能人工审完每一条广告,也不能把所有“奖励”“调研”“反馈”类广告一刀切禁掉。正常品牌也会做问卷、试用和返现活动。

但这不是放松审核的理由。只要广告同时出现名人形象、平台品牌元素、赚钱承诺和站外索取信息,就应该被更严格地审查。宁可让投放变慢,也不能把用户信任当成默认可转移的流量。

回到开头那个问题:用户卡住的地方,往往不是“AI有没有破绽”,而是“这看起来像不像平台给的机会”。名人深伪只是入口,广告系统和站外转化才是骗局完成的路径。