欧盟《人工智能法》能否解决AI带来的最新问题？
+ 查看更多

张冬方：在2024年这个多国和多地区举行选举的超级选举年，深度伪造在影响舆情上以假乱真的威力尤其引人警惕。

张冬方

■

3月13日，欧洲议会以高票通过了《人工智能法》（Artificial Intelligence Act）。由此，全球首部《人工智能法》的立法接近了尾声。简单说来，《人工智能法》的基本操作方式为风险评估法，即规定什么是好AI，什么是坏AI，什么是可能向好、可能向坏的AI。而这部法律的使命就是，让好AI造福人类社会，将坏AI关进牢笼，让可好可坏AI一路向善。

然而，技术的发展往往远远快于立法者的反应速度，更何况是日新月异的人工智能领域。去年，在《人工智能法》正处于立法道路正中间的时候，我曾在《欧盟立法者将如何驯服ChatGPT们？》一文中写道，ChatGPT的火爆打乱了欧盟人工智能立法者的节奏，使得立法者不得不驻足重新审视生成式人工智能。而今，这部即将尘埃落定的立法已经耗时三年，它跟上了人工智能的步伐吗？它能解决人工智能带来的层出不穷的问题吗？

姑且从人工智能引发的最引人注目的问题谈起。最近，大众最熟知的问题莫过于深度伪造（deep fake）：今年年度的社交平台X上被浏览几千万次的泰勒•斯威夫特图片事件，最近eBay上畅销的人工智能生成的众多女明星色情图片，去年5月由人工智能生成的五角大楼爆炸虚假图片在社交网络上的传播引发的股市波动等等。媒体称，五角大楼爆炸虚假图片可能是人工智能生成图片引发困惑继而影响股市的首例事件。一项来自美国Home Security Heroes的一项2023年研究表明，在人工智能的加持下，2023年的在线深度伪造视频数量较2019年时飙升了550%。

《人工智能法》确实涉及到了深度伪造的内容。虽然，该部法律试图面面俱到，虽然它的重点并不在深度伪造，但它对深度伪造的定义、风险等级和义务均作了规定。从概念上来说，深度伪造，即由人工智能生成或处理、与真实生活中的人、物体、地点或其他实体或事件相似的图像、音频或视频，这些图像、音频或视频可能让人误以为真迹或真实的。换言之，该法律对深度伪造的定义不局限于人，还包括物、地点和事件。而在《人工智能法》的风险评级中，社会打分系统为不可接受的风险，从而被禁止，高风险的人工智能系统将予以严格监管，而聊天机器人和深度伪造因有限的风险只须遵循透明义务，即开发者和使用者必须保证，终端用户清楚自己正在和人工智能互动。《人工智能法》对某些特定人工智能系统的开发者和使用者进行了透明义务规定。具体到深度伪造，该法律规定，人工智能系统生成或处理的图像、音频或视频内容构成深度伪造的人工智能系统使用者必须透露，这些内容由人工智能生成或处理。但该透明义务还存在豁免情况，比如法律授权下用于侦察和调查起诉刑事犯罪的情况，而如果内容明显为艺术、创作、讽刺、虚构的作品的一部分时，在不影响展示或欣赏作品的适当方式表明存在由人工智能生成或处理的内容。

前文所提到的Home Security Heroes研究还进一步指出，在深度伪造的病毒式发展趋势中，两个因素起到了关键作用：生成对抗网络（GANs）的兴起和用于制造深度网络的用户友好型工具、软件和在线社区的越发便利性。而在这些泛滥的深伪视频中，深伪色情占其中的98%，其中99%的受害者为女性，而制造一部深伪色情视频的时间成本极低，每60秒视频的制作时间少于25分钟，而金钱成本则为零。也就是说，深度伪造的重灾区其实是深度色情，正是近期斯威夫特图片事件和eBay图片事情所呈现的。有人建议应当将深伪的分支深伪色情单独列为高风险，从而纳入严格监管的行列，或者直接禁止。

欧盟立法者自己也清楚，《人工智能法》毕竟不是深度伪造法，更不是深伪色情法。恶意和犯罪行为在技术的加持下，更加肆无忌惮，更加无孔不入，立法者们奔忙着在各个领域修补漏洞。今年2月初，欧盟立法者在一项关于打击针对女性的暴力和家庭暴力的立法上达成协定，该立法也覆盖了针对女性的网络暴力，立法试图将没有征得同意的情况下分享私密图片视为犯罪行为，深度伪造包含在内，以此试图堵上一些成员国没有反对网络暴力法律的漏洞。另外，欧盟相关的法律还有《通用数据保护条例》和《数字服务法》。斯威夫特图片事件之后，美国进行相应立法的呼声也很高。

而在2024年这个多国和多地区举行选举的超级选举年，深度伪造在影响舆情上以假乱真的威力尤其引人警惕。今年1底，美国新罕布什尔州选民接到使用深度伪造技术模仿总统拜登的声音的机器人电话，呼吁人们不要在该州的总统初选中投票。

2月，在德国的慕尼黑安全会议上，包括Open人工智能和社交平台X在内的多家科技公司签署了“打击在2024年选举中欺骗性使用人工智能的技术协议”，承诺通过开发和使用技术来减少利用人工智能生成的欺骗性内容给选举带来的风险。3月，欧委会要求包括TikTok和X在内的6家超大型在线平台和两家超大型搜索引擎提供生成式人工智能对选举等方面产生的影响评估和应对措施方面的信息。

深度伪造不仅被应用于深伪色情和政治操控，还有商业诈骗等。欧盟《人工智能法》并没有直接禁止深度伪造，而是试图规范它，它采取的是防范措施，而不是依靠严惩带来的震慑力。这部法律即使可能会减少深度伪造的数量或造成的影响，但阻止不了恶意深度伪造者付诸行动。无论在深伪色情的泛滥和深度伪造对民意和选举可能造成的影响上，《人工智能法》都显得有心无力。

■