给AI内容打上“AI生成”的标签，为什么还是拦不住谣言？

社交平台作为AI生成内容的主要传播载体，其责任界定是破解当前侵权乱象的关键。AI生成内容的侵权危害，核心在于公开传播带来的大范围扩散，而非生成本身。用户私下生成、欣赏不侵权，上传平台公开传播才构成侵权，这一特性决定了平台在权利保护中的核心地位。

姑且不论这些行为是否履行了《人工智能生成合成内容标识办法》里规定的“AI标注”义务，其不经当事名人允许就大加仿冒，本身就属于侵犯当事人肖像权的违法行为，更不要说对广大消费者造成的误导和诱骗了。

强制AI生成内容进行信息标注的法律法规，可以倒逼平台与自媒体更好地运用AI工具诠释现实世界，而不是肆意以虚拟世界入侵现实世界，侵害其他人的合法权益。面对无孔不入的AI工具，立法与执法仍应加快步骤，打上补丁，推动技术向善而不是纵容技术作恶。

AI技术以惊人的速度重塑内容生产的同时，也让人嗅到了一丝隐忧：当剧本生成比打字还快，虚拟演员取代真人表情，影视创作会不会沦为算法的流水线？ 好故事的终点，永远是人的心灵。观众打开短剧，期待的不是酷炫的特效出自AI之手，而是故事情节说到心坎里去。

“这次我的政策建言里面，就提出要打造AI就业友好型社会。可以预见，人工智能将重塑劳动力市场，这一趋势已不可逆转。” “生成式人工智能存在幻觉，特别是深度推理模型的逻辑自洽性提升，使得AI生成内容真假难辨。”

在AI技术日新月异的今天，生成式内容“以假乱真”的范围势必更广，“效率”势必也更高。不妨做个简单的思想实验：如果高效高频的AI生成内容可以快速获取流量与关注，从而为平台方与从业者带来巨大利益的话，他们恐怕并没有多少意愿进行信息标注。而对那些并非大公司的“独狼式”AI模型而言，AI技术滥用乃至用于诈骗，其潜在破坏性是巨大的，监管也不能完全寄希望于自律。

以“AI换脸”为例，“平台强制标注”的技术补丁就是一个值得借鉴的建议；就知识产权问题，欧盟《人工智能法》的协议要求ChatGPT披露其用于开发的受版权保护的材料，美国版权局宣布“纯AI生成内容不受版权保护”，这都是很具针对性的立法实践；而在“AI诈骗犯罪”已出现之际，如何像打击电信诈骗一样打击黑科技骗子，也是立法监管的重头戏。 （本文首发于2023年6月15日《南方周末》）

由于大模型潜在有军事上的强应用，这个东西或会面临强监管。如果要做应用，可能也要优先在“免责区”内搞，百万级用户、高能级训练、敏感型数据、上下游从芯片到数据中心到领域申报，这些监管合规往低里说，是创新药合规的级别，往高里说，甚至是大规模杀伤性武器级别的监管 （本文首发于2023年4月27日《南方周末》）