斩断AI造假起号利益链

那些高频率更新、分享穿搭和养生等秘籍的“帅哥”“美女”，其视频内容细节丰富，且未设置AI生成提示，出镜者就一定是真人吗?媒体日前调查发现，有人利用AI造假无底线博眼球，以此作为起号变现捷径，虽然部分视频存在明显技术破绽，但浏览、点赞、评论量依旧可观。社交平台上还有不少AI造假起号教程，情感、养生、颜值类视频是“重灾区”，也有不少网友求购和出售账号，“一个拥有百万粉丝的账号能卖到十几万元”。

AI造假起号，重点在于造假。最浅显的假，是画面以假乱真。《人工智能生成合成内容标识办法》要求对AI生成合成内容进行显示标识和隐式标识，主流网络平台也普遍升级了AI内容识别系统，但一些人依然通过各种手段避开审核，甚至传授绕过平台“AI打标”的技巧，心存不轨。

所谓“教育专家”“养生专家”输出的观点中，不乏违背科学原则、极端绝对的说法，暗藏误导风险，当用户进行互动咨询时，账号背后的运营者还会借机推送“三无”产品。起号成功后，大多账号会隐藏AI引流内容，开始挂橱窗带货、引流卖课;有的顺势打出“AI起号实战”噱头，将自身包装成“成功案例”售卖起号课程;还有的账号被明码标价进行售卖。如此糊弄用户，无视消费者的知情权，无异于深度造假。

在“拥有百万粉丝的网红疑遭勒索后自杀”等网络谣言背后，也有AI造假起号的身影。或生成数字人，或通过“文生图、图生图、图生视频”流程生成视频，一些人传播低俗猎奇信息，以此加速虚假新闻、谣言传播，扰乱网络空间秩序。这一层面的造假，影响更为广泛。

从技术层面看，AI造假起号黑灰产业链是技术异化的结果。在别有用心之人与平台的技术攻防战中，平台须不断提高对深度伪造内容的检测精度，打击和防范滥用AI行为。需要进一步思考的是，有商家提到“现在平台风控很严，账号会升值”，有其现实逻辑。在AI加持下，批量起号的成本和门槛大大降低，只要平台不能百分百识别出违规内容，就会有账号仍能利用多手段变现，甚至成长为大号。而“变脸”带货涉嫌侵犯消费者的合法权益，直接售卖账号则违反《反电信网络诈骗法》“任何单位和个人不得非法买卖、出租、出借互联网账号”的规定，这类问题并非平台单方面就能解决。

其实，在AI普及之前就有人通过造谣等手段起号。技术治理能减少滥用AI带来的破坏力，但斩断违规账号流量变现的利益链条，才是从根源打击黑灰产业链的关键。AI造假起号怎么罚、买卖账号如何处理、如何完善公众参与乱象治理机制等等问题，都需要进一步完善相关规则，只有这样才能更好地净化内容生态。(维辰)

责任编辑：温馨宁

https://www.ccn.com.cn/Content/2025/08-14/1519032530.html

编辑：萧培  审编：益审核