利用AI仿冒于东来违规带货 抖音：已封禁超千个账号

9月8日消息，抖音集团副总裁李亮发文称，“今年一季度我们发现平台出现大量利用AI仿冒‘于东来’语音、形象，违规营销带货的账号和内容，这些黑灰产的行为不仅侵犯了相关企业的权益，还严重误导了消费者。封禁这1000多个黑灰产团伙账号的同时，我们还把相关线索举报给了监管部门。经过调查，泉州市丰泽区市监局没收相关企业违法所得并处罚款15万元”。

图源：抖音集团李亮微博

此前，“抖音电商安全与信任中心”的账号发布了《抖音电商公布AI滥用案例，引导商家合规经营》一文，其中提到，随着人工智能（AI）技术在电商内容领域的普及，抖音电商近期发现，少数商家和达人存在滥用或误用AI技术的情况，甚至借助AI生成误导内容。其中提到的典型案例指出，少数视频创作者利用AI仿冒名人形象、声音和口型，用于商品宣传，误导不了解的用户下单购买。

抖音电商明确表示，创作者不得利用AI生成虚拟人物或仿冒社会名人、特定专业身份，进行带货变现，或通过卖惨方式违规营销。