全是假的!AI冒充名人带货,我被骗惨了

互联网洞察
2026-03-12 09:38

AI技术以假乱真,让人防不胜防。

AI 时代,眼见不一定为实。

我们看到的脸,可能是 AI 换脸;听到的声音,可能是 AI 克隆;所谓的名人主播亲自带货,可能是 AI 数字人在 “表演”。

董宇辉就曾吐槽,自己的家族群里全是 “AI 董宇辉”,很多热门视频里的话自己从没说过,有的连他自己都分不清;演员温峥嵘也曾刷到 AI温峥嵘的带货直播间,质问 “你是温峥嵘我是谁” 后被拉黑。

图片图片

图源:微博

名人自身都分不清的 AI 声音、AI 数字人,更何况普通人呢。然而,这种利用 AI 仿冒名人的虚假视频在网络上层出不穷,不少人因此上当受骗。

而这些虚假视频的创作者,正是利用 AI 收割普通人信任与钱包的无良商家。他们零成本盗用名人的声音、形象,用虚假的 “名人” 引流牟利。这种行为侵犯了名人、消费者的合法权益,更破坏了平台生态。

对此,抖音率先出手,从严整治。那些在抖音违规牟利的无良商家,好日子要到头了。


1、抖音处置侵权仿冒带货账号 1.1 万个

无良商家利用 AI 作恶,最终会遭到反噬。

部分无良商家抱有侥幸心理,自认为违规行为不会被平台发现。

但实际上,据抖音电商安全与信任中心,平台在日常巡查中发现,部分商家和达人利用 AI、特效等手段仿冒名人或他人形象,通过剪辑素材或拼贴信息进行带货。

对此,平台严禁商家和达人利用 AI 技术或其他特效手段仿冒他人形象进行虚假宣传,并持续深入开展 “侵权仿冒” 专项治理行动。

平台依据相关规则,对违规达人和商家采取了下架商品、重置账号信息、冻结货款及佣金、无限期回收电商权限等处置措施。

当前,治理行动已取得一定成果。截止目前,已累计处置侵权仿冒达人账号 1.1 万个,处置仿冒带货商品超 6700 个;通过 “阻止相同侵权内容传播” 功能,主动拦截侵权视频超 1.6 万条。

图片

图源:抖音电商安全与信任中心

与此同时,抖音电商安全与信任中心还指出了已处置达人和商家的四类违规行为,并公布了四个侵权仿冒带货的典型违规案例。

其一:AI 仿冒肖像及声音侵权。主要体现为,利用热点人物的社会关注度,在未经授权的情况下,利用 AI 技术高度还原名人的肖像和声音进行导购,李亚鹏就是其中的受害者。

图片

图源:抖音电商安全与信任中心

此前,李亚鹏在抖音开播带货频频冲上榜单第一。一些不良商家盯上了李亚鹏的热度,批量发布 AI 合成的虚假视频引流带货。据平台清查,累计下架李亚鹏相关仿冒侵权视频 17 万余条,其中带货类侵权视频 16.5 万条

其二:恶意盗用素材投放广告。指盗用名人的直播间或视频片段,用于投放千川广告,销售侵权商品,网红理发师 @发型师晓华就曾被侵权。

图片

图源:抖音电商安全与信任中心

此前,晓华在平台上分享了一条护发相关视频,并提到了自己使用的一款发膜。随后,有不良商家盗用该视频充当售假广告,为一款假冒产品引流。该假冒产品的外观、详情页与晓华推荐的正品高度相似,不少消费者被骗下单。

晓华无奈发视频维权,后在平台和正品品牌的帮助下,该事件得以妥善解决。

图片

图源:抖音

其三:虚构代言关系及借用名人名义宣传。指未授权使用名人的肖像,或以达人推荐的名义带货,并在回复消费者咨询时虚构 “形象大使” 等身份误导消费者。

图片

图源:抖音电商安全与信任中心

其四:利用特效、变体侵权。指利用知名达人的特效制作形象,或制造高度相似的卡通形象,或以与名人名称高度相似的 “账号名” 进行带货盈利,试图打擦边球规避平台监管。

图片

图源:抖音电商安全与信任中心

以上四个案例,并未涵盖所有情况,平台上或许还存在其他侵权仿冒带货乱象,需要消费者多加辨别。

不难看出,无论是明星、演员还是知名网红主播,只要有一定知名度的人,都有可能成为无良商家仿冒的对象,且均是在未授权的情况下发生。

无良商家利用低成本的 AI 技术一键生成名人的声音或形象,零成本盗用名人影响力引流带货,诱导消费者下单,牟取暴利。并且,他们带货的多为假冒伪劣产品,质量难以保证。

消费者不仅被骗下单,买到的还是劣质产品,权益遭到双重侵犯。而名人也无端背锅,形象和名誉大打折扣,简直是无妄之灾。

反倒是无良商家,躲在背后赚得盆满钵满。因为他们的账号、信息、主体都是假的,就算被发现也能放弃当前账号,重新注册新账号,将过往套路再上演一次,如此循环往复。

只是,无良商家利用 AI 仿冒名人带货,短期确实能收割流量与金钱,但长期会毁掉信任、口碑与整个行业的未来。

不过,现在他们的套路已经行不通了,因为平台和有关部门都已出手。本次抖音处置的违规账号数量众多,后续也将持续优化算法模型,精准打击违规内容。

同时,《直播电商监督管理办法》明确规定:使用 AI 技术直播应持续标注;直播电商的 AI 内容违规,将由直播间运营者承担责任。

希望那些无良商家认清现实,不要再在红线边缘做无谓试探,要在规则内行事,规范自身行为。如果还有商家执迷不悟,平台也将持续打击违规行为,维护好平台生态。


2、AI 是一把双刃剑

AI 本身没有对错,关键在于谁在用、怎么用。

如果被无良商家用在侵权假冒带货上,AI 就是一把收割信任、破坏生态的镰刀;如果被电商平台用来自动识别假冒商品、盗图、仿冒账号、AI 换脸侵权视频等,AI 就是助推平台健康发展的利器。

为此,我们需要正确使用 AI。而当下,AI 数字人持续火爆,如何规范使用、用好技术,也成为行业面临的新课题。

毫无疑问,AI 数字人大幅降低了直播带货的门槛。AI 数字人能 24 小时不间断直播,无需真人出镜、无需轮班,能有效压缩运营成本、优化用户体验与服务稳定性。如今,许多店铺都推出了 AI 数字人,大多是虚拟主播。

值得一提的是,一些名人也推出了专属的 AI 数字人,用于直播带货。早前,京东就推出了刘强东的 AI 数字人 “东哥”,并在一场直播中拿下超 5000 万的销售额。此后,京东还推出了众多 AI 总裁数字人,这些 AI 总裁数字人空降直播间,为自家品牌引流带货。

图片

图源:京东

而去年,京东数字人直播还免费向所有商家开放,助力商家实现生意增长。2025 年,京东数字人带动数百亿 GMV。

除 AI 虚拟主播外,网红大主播也在尝试打造独属于自己的 AI 数字人。比如,罗永浩就和百度合作,推出罗永浩数字人,开播后也拿下了不错的销售额。

图片

图源:微博

很明显,AI 数字人确实是直播电商中的一次有益尝试,消费者也在慢慢接受这一新鲜事物。虽然 现在AI 数字人在某些方面比不上真人主播,但能保证基本的输出与服务。

不过,行业也应该保持警惕。毕竟,上文已经提到,无良商家利用 AI 数字人制造虚假的 “名人带货”,让消费者陷入 “真假难辨” 的困境。

为此,相关平台要守住授权合规、内容真实、强制标识、从严打假的底线,让 AI 真正成为长期健康发展的助力,而非自伤的利刃。

1、该内容为作者独立观点,不代表电商派观点或立场,文章为作者本人上传,版权归原作者所有,未经允许不得转载。
2、电商号平台仅提供信息存储服务,如发现文章、图片等侵权行为,侵权责任由作者本人承担。
3、如对本稿件有异议或投诉,请联系:info@dsb.cn
相关阅读
开篇提问:如何点到一份好吃又卫生的外卖?
1月31日消息,夸克App近日发布《2022年夸克反诈报告》数据显示,虚假投资理财、刷单返利、冒充公检法成为互联网电信诈骗的重灾区。为了给大众提供更加安全可靠的上网环境,夸克去年拦截涉诈网站访问1.2亿次,上线各类官网保护提示600万个,构建以AI技术为核心的综合治理方案,持续升级反诈能力。报告数据显示,利用时间差成为不法分子钻空子的新手段。投资理财假网站、诱导下载非法App等行为也会在此期间变换更多的花样博取用户信任。
4月2日消息,根据data.ai最新发布的《2022年移动状况》报告,2021年,全球消费者在购物应用程序中花费的时间达到1000亿小时以上。报告显示,从2020年开始,全球消费者在购物应用程序中花费的时间同比增长近20%。其中增长最快的国家是印度尼西亚、新加坡和巴西,分别增长52%、46%和45%。大多数行业都有增长,但增长最快的是快时尚、社交电商和大卖场类应用。
马化腾表示,互联网企业在AI领域都有很多的积累,腾讯也一样在埋头研发,但是并不急于早早做完,把半成品拿出来展示。
6月27日消息,哔哩哔哩举办15周年庆,B站董事长兼CEO陈睿发表演讲,公布了AI在B站上的内容消费趋势。2023年,B站AI相关内容的日均视频播放量同比增长超过80%,每个月有超过8000万用户在B站看AIAI相关内容消费人群中有60%为00后。
当电商AI化,AI生图来了。
快手AI灵境计划启动
11月27日消息,快手内容运营部宣布联合可灵AI启动“AI灵境计划”。该计划将投入千万现金与亿级流量,为AIGC创作者提供从智能工具到全程赋能的全方位扶持,旨在构建一个更具活力的AI内容生态,共同开启内容创作的新篇章。
7月10日,可灵AI重磅上线可图2.1模型,在多个维度实现了全面升级,包括指令遵循能力的大幅提升、惊艳的人像美感和电影质感以及超180多种不同风格的响应能力,同时新模型还进一步增强了文字生成效果。从即日起,可图2.1将面向所有会员用户免费开放7天。作为全球领先的创意生产力平台,可灵AIAI图片、AI视频和AI音频能力于一身,已累计生成超3.44亿图片和1.68亿视频。
4月7日消息,SHOPLINE与kua.ai近日正式达成合作,双方将以应用对接入驻的方式,从平台打通、资源互通、内容分享等多个方面展开深度合作。据介绍,作为一款国内领先AI技术团队的跨境出海AI内容应用,kua.ai基于GPT-4及AIGC技术,为独立站卖家生成独立站建站全套内容,并支持独立站日常运营所需的图文素材。具体来说,kua.ai支持AI写作独立站建站基本配套文案;AI创作独立站日常运营内容;AI做图。