FBI 这次抓人的线索里,有一条很刺眼:一张 Instagram 里保存过的图片。

按 FBI 的说法,这张图后来被用于生成一组 AI 色情内容,浏览量超过 3.6 万次。再加上 PayPal、IP、iCloud 记录,嫌疑人 Arturo Hernandez 被一路追到。

这件事的反常点在这里:AI 色情深伪看起来像一门匿名生意,但很多发布者留下的痕迹并不高级。真正脆弱的,反而是受害者。内容先被生成、上传、观看、搬运,法律才开始追赶。

两起逮捕:AI 变便宜了,人并没有自动隐身

20 岁的 Arturo Hernandez 被指在色情网站发布 113 个 AI 色情相册,涉及约 50 名女性,浏览量接近 100 万。

FBI 提到的线索包括 PayPal、登录 IP、Apple iCloud 记录,以及 Instagram 保存图片。也就是说,调查并不只靠某个“AI 痕迹”,而是把普通网络行为串了起来。

51 岁的 Cornelius “Neil” Shannon 被指发布约 360 个 AI 相册,涉及约 90 名女性,浏览量超过 200 万。FBI 在宣誓书中称,其色情网站账号头像疑似使用本人照片,执法人员还用车辆管理记录和监控照片做了比对。

嫌疑人被指内容规模FBI 提到的关键线索当前状态
Arturo Hernandez113 个相册,约 50 名女性,近百万浏览PayPal、IP、iCloud、Instagram 保存图片被指控,未定罪
Cornelius “Neil” Shannon约 360 个相册,约 90 名女性,超 200 万浏览账号头像疑似本人照片、车辆管理记录和监控照片比对被指控,未定罪

两人若被证明违反《Take It Down Act》(TIDA),最高可面临两年监禁。这里要留一个边界:他们目前是被指控,不是已经定罪。

这两案至少说明一件事:AI 降低了制作门槛,但没有抹掉支付、登录、云服务、社交账号这些现实痕迹。很多所谓匿名,只是发布者以为自己匿名。

对执法来说,这是好消息。对受害者来说,还不够。

TIDA 开始落地:能追责,也开始压平台和工具商

TIDA 不是全面禁止 AI 色情深伪。它更像两把工具:一把用于刑事追责,一把用于要求删除。

FTC 已向 12 家提供所谓 “nudify” 工具的公司发出警告,要求它们提供处理受害者删除请求的机制,并在 48 小时内处理。违规最高可按每项处以 53,088 美元罚款。

主要平台也被纳入压力范围。FTC 此前已向 Amazon、Alphabet、Apple、Meta、Microsoft、Reddit、Snap、TikTok、X 等平台运营方发信,提醒它们履行 TIDA 下的举报与删除义务。X 已公开说明,用户可以通过帮助中心或帖子菜单提交相关举报。

这套路径和早年的“复仇色情”治理很像:先确认伤害,再要求平台响应,再用刑责和罚款提高违法成本。

差别在于,AI 把起点往前推了。过去常见的伤害依赖真实私密照片、偷拍视频或泄露材料。现在,一张公开头像、毕业照、职场照、社交媒体照片,都可能被拿去生成内容。

对关注 AI 治理和平台责任的读者,这意味着判断平台不该只看模型能力和用户规模,还要看三件事:举报入口是否清楚,48 小时处理机制是否可验证,跨平台搬运后有没有继续处理的流程。

对工具开发者和平台团队,合规动作会更具体:延后上线高风险生成功能,收紧 nudify 类功能入口,保留必要的滥用证据链,提前设计删除和申诉流程。否则,成本不只来自舆论,也来自罚款和刑责风险。

法律的边界:最难挡的是第一次传播

TIDA 的实际价值,是让受害者有更明确的路径。平台不能再长期拖着不处理,工具商也不能只说“用户自己负责”。

但它最大的短板也很清楚:多数机制从发现内容之后才启动。

对普通用户,尤其是女性、公众人物、学生、教师、职场社交圈里的非公众人物,最重的成本仍然在自己身上:发现内容,截图取证,保存链接和账号信息,提交平台表单,必要时联系执法或法律援助,再盯着内容有没有被搬运到别处。

如果怀疑自己或身边人被做成非自愿 AI 色情内容,比较现实的动作是:

  • 先保存页面链接、账号名、发布时间、截图和浏览量等证据,不要只催平台删帖。
  • 通过平台正式举报入口提交删除请求,尽量使用 TIDA 或非自愿私密图像相关类别。
  • 如果内容跨站传播,按站点分别提交请求;一个平台删除,不等于全网消失。
  • 涉及持续勒索、出售、未成年人或现实骚扰时,应考虑向执法机构或专业法律渠道求助。

这不是把责任推给受害者。恰恰相反,它说明现有制度还没有把负担从受害者身上移走。

争议也在这里。删除机制太宽,可能被人用来压制合法报道、讽刺内容或不受欢迎的表达。审核要求太重,又会给加密通信、私密存储和小平台带来压力。

接下来最该看的,不是 FBI 还会抓几个案子,而是三个更硬的变量:FTC 怎样界定“合规删除流程”;平台会不会为了避罚过度下架;nudify 工具公司会不会转向更隐蔽的支付和分发渠道。

回到开头那张被保存过的 Instagram 图片。它能帮 FBI 找到人,却没能阻止内容先被看见。对深伪色情治理来说,这就是眼下最扎心的现实:追踪能力在增强,伤害仍然跑在前面。