瞭望丨强化内容标识为AI合成划界

多客科技

作者：微信文章


文 | 刘淏煜

让“院士”代言护肤产品，让“演员”直播带货，用奥运冠军声音卖土鸡蛋……近期，利用AI换脸、语音合成等技术生成虚假内容谋取私利或虚构突发事件、编造公共政策、捏造社会民生谣言的热点事件多发。

AI合成乱象侵犯了相关人士的肖像权、声音权，还可能误导公众、损害消费者权益，甚至影响到社会信任乃至公共秩序。维护安全、清朗的网络空间，应明确使用AI技术的底线与红线。

内容标识，是遏制AI合成乱象的第一道“防火墙”。9月1日起施行的《人工智能生成合成内容标识办法》聚焦人工智能“生成合成内容标识”关键点，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，既为公众提供辨识真伪的标准，逐步形成“以标识为准”的意识，更为后续追责提供证据，从源头压缩恶意行为的生存空间。

尽管制度设计已明确各方主体责任与义务，实践中仍有不法分子通过“镜像翻转”“画中画遮挡”等技术手段规避和隐藏标识。可见，净化AI合成生态，破解AI造假困境，还需多方协同共治。

一方面，技术服务提供商和内容发布平台应严守标识规定，加大技术投入、强化内容审核，优化用户举报和维权通道，健全追溯、下架以及追责机制。另一方面，需持续完善相关规定，实现从内容生成到公共传播的全链条治理，以源头严防、过程严管、违规严惩，有效消除侵权造假的土壤。

技术发展唯有持续向善，方能持续向上。始终以规则护航发展，才能让AI真正成为推动社会进步的力量。
刊于《瞭望》2025年第46期

延伸阅读

☞ 国家网信办等四部门印发《人工智能生成合成内容标识办法》

☞ 时评｜AI“向真”须严防数据“投毒”



监　制｜潘　燕
编　辑｜唐朵朵核　校｜谈思宇