又被耍了，抖音AI仿冒名人轮番骗我下单

为了卖货，真是无所不用其极。

1.抖音封禁大批假冒于东来账号，AI假冒名人现象频发

近两年来，为了卖货，电商商家们使出浑身解数。

不少商家造梗能力max，不仅往瑜伽裤里塞行李箱创造出现象级破圈梗，还不断地开发出更多引流玩法，各种整活、引流剧本频出。

然而部分商家的奇巧淫技，却逐渐走向了一条灰产路。

近日，抖音集团副总裁李亮发文称，在抖音平台发现大量利用AI仿冒胖东来创始人于东来的账号。这些账号通过AI克隆于东来的声音和形象，进行违规营销带货。

目前抖音已经封禁了相关黑灰产团伙账号1000多个，并且把这些违规营销带货线索举报给监管部门。经调查，相关企业被没收违法所得并处罚款15万元。

李亮强调，此类行为不仅侵犯了相关企业的权益，也严重误导了消费者。AI带来技术进步的同时也被很多黑灰产盯上，抖音一直在重点治理这类滥用AI的行为。

图源：微博

抖音黑板报也随即转发该条博文，并提供举报邮箱呼吁广大用户发现违规账号和内容及时举报。

图源：微博

不只抖音，其他平台上也出现了用AI仿冒于东来形象进行引流带货的现象。

7月23日，一位小红书网友发帖吐槽，在一平台发现有商家用AI生成于东来的形象为自己家的商品念口播信息进行虚假宣传，目的是引流用户到直播间下单。

后续网友进入直播间发弹幕质问其滥用AI行为，却被商家直接拉黑。

图源：小红书

在为该商家一款酱牛肉打广告的视频中，AI于东来说着这样的台词，“合成肉配料表干净，没有任何的添加剂防腐剂，老人小孩都可以放心吃，购买方法我放在直播间了，喜欢的朋友直接下单吧。”诱导用户进入直播间。

图源：小红书

视频中，于东来的AI形象细节刻画真实，语气自然，还伴随着许多诸如身体前倾、脑袋摇晃、手势摆动等生活化的动作细节。对于不了解实情的消费者，特别是老年消费者来说，确实很容易被AI技术所蒙蔽。

而早在去年，社交媒体平台上就有不少账号克隆合成于东来的声音。

对此，胖东来商贸集团于11月24日发布声明，对未经授权，擅自利用AI技术手段和生成画面，博取流量的违法侵权行为，表示严厉谴责和严正警告；严重侵犯于东来先生及公司合法权益的，将采取法律措施追究其责任。

图源：胖东来微信公众号

去年12月和今年5月，于东来再次在抖音账号发文强调：胖东来和于东来未进行任何平台的直播带货。

除了于东来，此前不久奥运冠军也被不法商家盯上。

全红婵、孙颖莎、王楚钦先后被不良商家使用AI克隆声音和形象发布视频，进行橱窗和视频小黄车的带货。

图源：抖音

甚至全红婵全家都被AI克隆声音，用着几乎同一套文案，声称家里要盖新房，推销着橱窗里的土鸡蛋、土蜂蜜等商品。

4月底，全红婵父亲就曾回应媒体，称那些带货账号为AI假冒。但后续，此类账号用AI仿冒全红婵带货的视频仍在平台上传播，橱窗里的土鸡蛋仍在售出。

8月，全红婵哥哥再次澄清妹妹带货土鸡蛋事件，并强调“妹妹是在役运动员，不能去直播卖货，大家注意甄别”。

图源：九派新闻

后续，平台对此类账号进行处理。9月2日，抖音电商公布近期治理结果：对滥用AI技术的商家、达人实行下架、清退，并同步公示了几类典型违规样本，为行业划出清晰红线。

其中一类典型案例就是AI仿冒名人带货，抖音电商重点指出一批账号利用AI生成虚拟人物冒充真实身份，冠以权威专家、名人的虚假人设进行带货，损害消费者信任，违规变现。

除了近期这两起典型案例外，其他名人也被AI假冒搞得苦不堪言。

今年3月，AI假冒的演员古天乐、林峯同框“现身”，在视频中推荐线上赌博游戏。4月，演员张馨予的声音被克隆去卖减肥药；5月，孙俪、邓超夫妇遭大规模AI仿冒，在商家的视频中推销保健品。

而小米创始人雷军也逃不过被AI复制用以引流的命运。

去年“十一”长假，短视频平台突然被雷军刷屏——只不过出镜的是AI合成的假雷军。这个假雷军对堵车、调休等议题火力全开，甚至脏字乱飞。

图源：凤凰网科技

对此，网友发问，雷总，最近你怎么在骂人。雷军回复了三个愤怒的表情。

图源：微博

事后接受采访，雷军表示：“希望大家都不要玩了，这个事情不太好。”

2.AI仿冒名人带货为何如此猖獗

每天上一当，当当不一样。

在AI仿冒名人带货这个赛道，隔一段时间就会有一批账号冒头，每次也总有一批消费者会上当被骗。

深究这种现象，主要有如下几个原因。

首先，随着AI技术快速发展，仿冒、克隆他人容貌和声音的技术门槛和成本大幅降低。

网络平台上充斥着大量相关教程与资源，不法分子无需过高技术水平，即可实施侵权行为。

在部分网站还有已经训练好的语音包模板，包括郭德纲、雷军、周杰伦等明星名人公然在列。如果想要自己生成新的AI语音包也很容易，只需上传最短10秒钟的声音素材，即可快速训练出新的声音模型，几乎没有技术门槛和成本。

对于生成较为复杂的AI视频，硬件方面也没有要求，消费级笔记本即可跑通开源模型，“一张照片+10秒语音”就能完成实时换脸+变声。

其次，当前电商市场竞争激烈，名人自带的高流量与公众信任度能快速激发消费者的购买欲。

直播带货时代，流量就是生命。不少素人爆火后都走上了同一条直播卖货的路，利用自己的知名度进行变现，迅速收割财富。

比如此前因一条“挖呀挖”视频爆火的黄老师，其在爆火后不久开启直播带货，4场直播就收货总销售额100万-250万元，带货跟买人数达9189人。后续还到小杨哥的直播间与其联动。

图源：抖音 

还有因蹭甲亢哥流量而爆火的素人“荣昌卤鹅哥”，因给甲亢哥投喂荣昌卤鹅而被人熟知。

今年4月，其首次带货直播便大获成功，3个小时达成3万份订单，总销售额突破300万元。据第三方数据显示，卤鹅哥每条60秒的视频报价高达1万元。

图源：电商派 

素人的流量尚且可以如此变现，更被说名人所带有的长效流量辐射。这导致部分商家为追求短期利益不惜铤而走险，无视道德与法律约束。

而利用消费者对名人的信任误导他们下单购买，无疑是最快的变现方式。

此外，部分短视频平台的现有审核技术难以精准识别AI生成的虚假内容，导致仿冒视频得以绕过监管大量传播。

其实早在2023年5月，抖音就发布过《抖音关于人工智能生成内容的平台规范暨行业倡议》，表示平台将提供统一的人工智能生成内容标识能力，帮助创作者打标，方便用户区分。

微信、B站、小红书等平台也相继发布过相关规定，但执行层面仍存在差距，不少违规内容未能被及时识别和清理。

对此，由有关部门联合制定的《人工智能生成合成内容标识办法》已于9月1日正式生效，要求AI生成内容必须明确标识。抖音、微博、快手等平台纷纷响应，上线或升级AI内容标识功能。

AI新规强制标识配合各大平台更新的识别打标功能，从源头上杜绝了AI生成视频与真实世界视频混淆的可能，理论上已经掐断了滥用AI带货商家的财路。

而那些还企图靠这条灰产捞钱的商家们，也终于该老实了。