打击AI造假，微信官方：这些账号永久关闭、封禁！

近日，有网友发消息问“张文宏是不是带货了？”视频中，张文宏在卖一种蛋白棒，家人信以为真，已开始下单。12月12日，张文宏就此事回应称，他已经多次向平台方投诉，同时也曾考虑过报警，但对方看不见摸不到，只能寄希望于相关部门加强监管。利用AI假冒名人带货，张文宏医生并非首个受害者。

”除了AI造假带货，还有AI换脸诈骗，甚至还有AI换脸“一键脱衣”等违法滥用。但是现阶段的AI打假尚有局限，也非常耗时耗资源。治理AI造假的底层逻辑，应该是建立保证信息真实的生态体系，完善法律规范，明确技术使用界限与道德。同时加强行政监管机制建设，在传播渠道上，要建立过滤机制，并且要对所有造假视频音频实现溯源。

对此，12月15日，微信珊瑚安全发布公告：微信一直致力于打造安全、健康、绿色的平台生态环境。近期有媒体报道网络存在利用AI技术仿冒名人进行不当营销的现象。为守护用户权益，避免消费者上当受骗，结合用户举报、日常巡查等线索，我们从速从严打击了一批利用AI仿冒知名人士进行不当营销、恶意博取流量的违规行为，并针对相关情况开展专项治理。截至目前，累计处置内容532条，关闭账号209个。典型案例如下：

下一步，我们将持续对“利用AI仿冒知名人士进行营销宣传”等违规行为增加打击力度，进一步提升技术治理能力和水平，维护良好生态。同时，我们也倡导广大用户自觉遵守法律法规与平台规则。针对“利用AI合成技术生成违规内容”的行为，平台欢迎广大网友提供更多线索，共同构建清朗有序的网络环境。

（齐鲁晚报·齐鲁壹点客户端编辑 韩爽 综合看看新闻、封面新闻、微信珊瑚公告等）