欧洲即将打响AI监管第一枪
+ 查看更多

人工智能今年取得的进展撼动了科技业，引发了政界人士、消费者团体和AI高管们要求制定规则以规范使用这项技术的呼声。

Kim Mackrael

■人工智能(AI)今年取得的进展撼动了科技业，引发了政界人士、消费者团体和AI高管们要求制定规则以规范使用这项技术的呼声。

这些规则正在成形，至少在欧洲是这样。欧洲议会周三投票通过了被称作“AI法案”(AI Act)的立法草案，料将打响西方世界全面监管AI领域的第一枪。

起草的规定包括禁止在公共场所进行实时、远程生物识别监控，并禁止在开发面部识别数据库时采集监控录像或抓取互联网信息。欧洲议会的法案版本还寻求禁止所谓的预测性警务系统，此类系统分析先前的犯罪行为和其它数据，并试图预测未来的非法活动。

从更宏观的角度看，这项立法草案旨在规范企业如何使用大数据训练AI模型，在某些情况下将要求企业在使用AI生成内容时予以披露。

根据立法草案，企业还需要在设计AI模式时设法防止非法内容的生成，并需要披露模型训练中使用的有版权数据的摘要。

当出版商和内容创作者的作品被ChatGPT等工具用作AI所生成内容的材料来源时，他们可以利用此类规定寻求利润分成。

立法草案显示，在某些违规情况下，企业将被处以最高相当于其全球收入6%或7%的罚款。

当欧洲议会、欧盟成员国和欧盟委员会的代表开始谈判，以确定这项立法的最终形式时，周三通过的法案版本将构成欧洲议会的谈判立场。官员们已表示，他们计划立即启动这些谈判，希望在今年年底前就拟议的法律达成协议。

科技公司及其游说人士认为，任何由政府强制执行的规则都应专注于特定的AI应用，而不是像欧洲正提议的那样，对AI的发展方式施加过多限制。他们说这种方法会阻碍创新。

但一些技术研究人员加入了学者和技术专家的行列，对与欧盟正在制定的规则相类似的规定表示支持。通过先行规定新AI工具的开发方式，相关规则可有效降低公司争相推出先进AI工具的激烈程度。

今年早些时候，一些AI研究人员以及包括马斯克(Elon Musk)在内的多位科技行业高管签署了一封公开信，呼吁对下一代AI工具的训练暂停六个月，以便让监管机构和行业有时间制定安全标准。上个月，一群研究人员表示，减轻AI造成人类灭绝的风险应成为全球优先事项。

欧盟委员会于2021年提出了这项AI立法。近几个月来，在ChatGPT等工具发布后，推动制定AI规则的工作变得更为紧迫。ChatGPT由微软(Microsoft, MSFT)投资的初创公司OpenAI开发，可以回答用户用文字提出的各种问题。

欧洲官员希望，这项拟议的立法将成为世界上第一部为其他司法管辖区以及制造和使用该技术的公司设定标准的立法。

近几个月来，AI技术的快速发展促使世界各国政府考虑是否需给强大的AI工具立下新规。中国国家互联网信息办公室（简称：网信办）今年4月提出了有关AI服务管理的规则草案，美国拜登(Joe Biden)政府正在研究是否需要对AI工具进行检查。

欧盟议员Dragos Tudorache表示，欧盟的立法“将在全球范围内为AI的发展和治理定下基调”。这位罗马尼亚籍议员与意大利籍议员Brando Benifei一起领导该机构的AI立法工作。

游说团体计算机与通信行业协会(The Computer & Communications Industry Association)表示，欧洲议会支持的一些条款对相对低风险的AI应用有可能规定得过细，阻碍创新。多个消费者团体曾表示，欧洲议会提出的禁令对于保护人们的基本权利是必要的。

欧盟官员试图将自己定位为设置AI系统护栏方面的先行者，他们表示，这些护栏应支持创新，同时限制该技术的最大风险。

欧盟内部市场专员布瑞东(Thierry Breton)表示，欧盟的这项立法“是为了迅速采取行动并承担责任”。■