在抖音滥用AI带货，大批网红商家被清退

耍小聪明缺大德，终将被反噬。

1.滥用AI技术违规变现，一批网红商家被抖音下架、清退

前段时间，一段AI假冒全红婵卖鸡蛋的视频刷屏网络。

图源：抖音（全红婵的AI带货视频，以“大家好，我是你们的婵宝，今天有事想请大家帮忙”为开头骗取网友信任）

当奥运冠军全红婵的声音出现在短视频里推销土鸡蛋时，不少用户信以为真，纷纷下单。

事实上，这段语音是AI合成的，出镜的也并非全红婵本人。除此之外，孙颖莎、王楚钦的声音也被“克隆”，用来给“婵宝家土鸡蛋”高调带货……

而早在4月，此类账号的违规行为就多有冒头，甚至出现了“全红婵父亲”“全红婵哥哥”的AI语音，用几乎同一套文案讲述“家里要盖新房”，并挂载骆驼奶粉、土蜂蜜等商品链接。

4月29日，全红婵父亲回应媒体，有人用AI伪造其一家人声音卖蜂蜜。8月，有网友在全红婵哥哥的直播间又问及妹妹带货土鸡蛋的事，全红婵哥哥再次澄清。

图源：九派新闻

反复辟谣后，这场数字“冒名顶替”的狂欢才终于被按下暂停键。

同时，对于该类滥用、误用AI的乱象，抖音电商也出手整顿。

9月2日，抖音电商公布了近期治理结果：对一批滥用AI技术的商家和达人实行下架、清退，并同步公示了几类典型违规样本，为行业划出清晰红线。

首当其冲的便是AI仿冒名人带货。

据悉，不少商家、达人利用AI工具生成虚拟人物，冠以专家、名人的虚假人设进行带货，违规变现。骗取消费者信任的同时，也严重损害了名人形象。

技术让复制粘贴一张脸、一段声音的成本降到接近于零，但侵犯肖像权、姓名权的法律代价却并未同步消失。侵权的同时，如果后续违规商家再因商品质量造成任何负面影响，那么其所受到的惩罚，可能就不止清退那么简单了。

其次，生成违背常识的AI内容也被抖音平台处理。

在一段被下架的视频里，创作者用AI渲染出辣椒丰收的壮观场景：植株高得吓人，果实密集到看不见叶子。

图源：抖音电商安全与信任中心

而主播在直播间反复强调“保真”“所见即所得”，甚至对于“这些种出来真的这么大吗”的直播间提问，主播大言不惭地肯定回答。

但稍有农业常识的人都知道，辣椒生长需要合理间距和周期，但算法并不关心光合作用和土壤墒情，只一味地渲染“丰收”的场景。

无独有偶，最近良品铺子也就“花生上树”的产品宣传图道歉，称因工作疏忽，在电商平台商品详情页中错误使用了AI生产的图片素材。

图源：扬子晚报

该类与基本常识不符的AI内容不仅违背了商品宣传的真实性原则，更将错误的信息不带标注地发布，对网络信息环境造成污染。

除此之外，AI内容与售卖商品完全无关、“挂羊头卖狗肉”的宣传行为也被严厉打击。

这类账号玩起了“调包”：用AI篡改热点新闻画面，为自家商品做权威背书；或者利用猎奇画面博流量，吸引用户注意力后再话锋一转推销商品。

图源：抖音电商安全与信任中心

消费者点进商品页才发现，新闻与商品八竿子打不着。平台认定此类做法属于“误导性素材”，同样予以清理。

2.搭乘AI技术的东风，电商造假野蛮生长

2025年是各类AI工具和C端应用爆发式增长的一年，从生成图像到克隆声音，再到可以生成电影质感的视频。

阿里、腾讯、百度等国内互联网巨头纷纷押注大模型赛道，一些初创企业也均在发力。

今年，在全球最热门的前50款网页端生成式AI应用排名中，DeepSeek、豆包、月之暗面等多款国产应用榜上有名。其中，专注于视频生成的海螺AI与可灵AI甚至一度超越之前惊艳全网的Sora。

图源：a16z

AI技术的大规模开发应用像是普罗米修斯的火种，给电商行业提质增效、带来“希望”的同时，也带来“走火”风险。

抖音之外，其他电商平台、乃至外卖平台，都出现AI造假的身影。

在电商平台，服饰类目是AI造假的重灾区。

不少商家用AI图替代商品实拍，对商品进行虚假宣传，造成消费者拿到实际商品后货不对版的现象。还有商家直接借助AI技术盗取同行的实拍图片，甚至复刻出整个山寨店铺，欺骗消费者的同时，也对其他商家造成侵权影响。

图源：淘宝

有卧龙的地方，就有凤雏。

在商家用AI假图把消费者坑惨了的同时，也有一部分消费者学会“借力”，在电商平台用AI假图仅退款。

以往消费者申请“仅退款”，需拍照证明商品已销毁。如今，只需把完好商品照片丢进AI修图工具，几秒钟就能生成“碎成渣”的报废图。更老练的羊毛党还会用ChatGPT写一段声泪俱下的商品质量控诉，让商家百口莫辩。

 图源：小红书

此外，在外卖平台，也有部分商家使用AI批量制造虚假堂食图。

截图自外卖软件

打开外卖App，不少店铺挂着“堂食餐厅”绿标，但门头图明显由AI合成：霓虹灯字体边缘过度锐化、排队人群姿态僵硬、天空泛着不自然的糖果色滤镜。

更尴尬的是，同一套AI模板被不同城市、不同菜系的店铺共用，堪称赛博撞衫。

截图自外卖软件

还有部分商家线下确有实体门店，却嫌真实门头“不够网红”，于是用AI图“精装修”，结果招来差评：图片和实地差距过大，怀疑走错了门。

3.让技术回归技术，商业回归商业

监管者与技术赛跑，往往落后半个身位。

但2025年以来，各电商平台的监管力度在逐步提升，以重新建立消费者对商品宣传的信任。

除了抖音平台，淘宝也早就加入到整治AI假图的行列。

今年3月，淘天集团发文称，淘宝全平台启动AI假图治理，严厉打击利用AI假图欺骗消费者、侵害原创品牌商家的违规行为。同时，平台上线新一代图像识别模型，对商品图进行全天候的扫描。上线后不久，就累计拦截近10万张违规图片。此外，淘宝还把“AI假图”纳入商品质量分考核维度，从纹理、光影、比例等维度给图片打分，AI感过重直接降权。

针对职业羊毛党，淘宝也建立账号诚信体系：被商家投诉且举证成功的异常账号，将被限制在特定店铺下单，并取消极速退款特权。

同时，有关部门也陆续发布人工智能使用相关规范。

9月刚刚生效的《人工智能生成合成内容标识办法》便对AI生成的内容进行严格规范，为平台提供可落地的规则标尺。该规范要求所有AI生成的文字、图片、视频等内容必须标明，旨在规范AI生成内容，防止虚假信息传播，维护网络生态。

抖音、微博、快手等平台纷纷响应，上线或升级AI内容标识功能。

至此，AI内容治理成为一项带有强制力的公共治理议题。

AI本该是商家降本增效的引擎，而不是少数人的道德隐身衣。当合成一张人脸、一段语音的造假成本趋近于零，平台治理就必须把商家违规的成本重新拉高。

总而言之，行业必须让技术回到技术的位置：成为真实商业的放大器，而非虚假生意的遮羞布。唯有如此，AI才不会在喧嚣过后，留下一地鸡毛的信任废墟。