AI换脸直播:一场失控的技术信任危机

新闻

作者：微信文章


点击箭头处“蓝色字”，关注我们哦！！

---

明星“被分身”，维权反遭“自己”拉黑



2025年11月，演员温峥嵘深夜刷到三个同步直播的“自己”：红衣推销颈膜、白衣叫卖美妆、素颜分享日常——全是AI生成的“赛博分身”。更讽刺的是，当她用真实账号在评论区质问“你是温峥嵘，我是谁？”时，竟被冒牌直播间直接拉黑。这场闹剧背后，是一条成熟的灰色产业链，几百元购买明星素材，免费AI工具批量生成，即可搭建百万粉丝账号，月入超十万元。





技术失控的三重暴击



法律追责的“钝刀”困境。尽管律师明确指认AI换脸侵犯肖像权、姓名权，但维权如同“打地鼠”。温峥嵘团队曾在一天内集中投诉17个侵权账号，新账号却雨后春笋般涌现。法律滞后性暴露无遗——现有法规难以精准界定深度伪造行为的性质，平台封号速度赶不上黑产“复活”效率，违法成本远低于收益。

平台监管的“选择性失明”。抖音虽宣称开展“AI仿冒专项治理”，但副总裁李亮承认侵权识别是“行业技术难题”。更深层矛盾在于流量利益与监管责任的博弈，仿冒明星直播间能短时拉升平台活跃度，部分商家甚至伪造温峥嵘与刘涛、张柏芝同框广告，平台审核系统却屡屡“漏网”。



社会信任的“链式崩塌”。当假靳东用AI合成脸骗取中老年粉丝钱财、假温峥嵘推销问题产品时，技术滥用已从娱乐滑向诈骗深渊。消费者对直播电商的信任被透支，学者警示：“当‘眼见为实’被瓦解，社会运行的认知基石将崩塌”。



给狂奔的技术套上“缰绳”



立法重拳。从“马后炮”到“防火墙”靳东等明星在两会呼吁的 “AI深度合成强制标识法案” 亟待落地，需明确要求换脸内容标注数字水印，并建立仿冒内容“分钟级下架”响应机制。更重要的是提高刑罚力度：参照金融诈骗标准量刑，让违法者付出百倍于收益的代价。

平台责任。用技术反制技术平台需抛弃“事后灭火”逻辑，前置防御体系：抖音等应强制启用 “AI内容指纹库” ，对上传视频实时比对明星公开影像；直播间上线“真人认证弹窗”功能，用户点击即可调取主播生物特征验证记录。

公众觉醒。打造“反AI诈骗”免疫系统当78岁老人被假靳东骗光积蓄的悲剧频发，社会亟需普及 “数字防伪素养” 。如学校增设AI识伪课程，社区针对银发族开展反诈演练，形成“全民鉴真”的免疫力。正如工人日报所言：“在算法支配的时代，批判性思维是最后的盾牌”。



技术在深渊边试探，人性在悬崖上拉锯温峥嵘的遭遇绝非个例，而是技术伦理失序的尖锐哨响。当AI能轻易复制一个人的皮囊，我们必须以更快的速度筑牢文明的护栏——因为比“真假美猴王”更可怕的，是全社会对真实失去信仰。唯有让法律的剑、科技的盾、公众的灯三位一体，方能照亮技术狂飙中的道德迷雾。

图片来源网络。