OR 新媒|oror.vip跨平台阅读首选
2023-11-13 04:36
科技

人工智能监管上的“小圈子”与“大集体”

张冬方:人类共同面临人工智能带来的挑战,没有谁可以独自应对自如。
近一半CEO认为,人工智能可以且应该取代他们的工作
张冬方

■11月初在英国举行的人工智能安全峰会之所以被称赞为“外交上的成功”或“外交上的突破”,其中的一个原因在于,它不仅让包括中美在内的国家因人工智能问题坐到一起,而且还共同签署了通过国际合作来解决人工智能风险的《布莱奇利宣言》,该宣言关注的焦点在于包含了OpenAI的ChatGPT的前沿人工智能。

就在这次峰会之前,联合国秘书长古特雷斯宣布式组建一个新的人工智能高级别咨询机构,以探讨这项技术带来的风险和机遇,并为国际社会加强治理提供支持。该咨询机构汇集了39名来自政府、私营部门、研究界、公民社会等界专家,两名中国专家入选其中。

英国峰会和联合国组建咨询团队呈现出了各国和各力量在人工智能治理上的一团和气和同心协力,可各国在人工智能技术和人工智能治理上展开的竞争明明已经热火朝天。

10月30日,G7国家发布了《开发先进人工智能系统组织的国际行为准则》,该不具约束力的行为准则包含了11点行动,重点在于监管最先进的基础模型和生成式人工智能。

同一天,美国总统拜登签署了关于人工智能安全标准的行政令,该行政令要求最强人工智能系统开发者和美国政府分享他们的安全测试结果和关键信息,要求对国家安全等构成严重风险的任何基础模型的开发者在训练模型时必须通知联邦政府,同时分享所有“红队”安全测试的结果。行政令还提出制定“国家安全备忘录”,以指导在人工智能和安全上的进一步的行动,该文件还用于指导反制对手将人工智能应用于军事上而采取的行动,等等。白宫声明称,该项具里程碑意义的行政令建立了人工智能安全上的新标准,发布该行政令在于确保美国在人工智能风险治理上处于领先地位。

据报道,在人工智能安全峰会期间,美国副总统贺锦丽在记者会上表示,美国在人工智能方面是全球领先者,正是美国企业正在人工智能创新上引领世界,美国才能够以其他国家无法做到的方式促进全球行动和建立全球共识。来自人工智能强国的贺锦丽确实能够底气十足,大部分最前沿的人工智能公司都来自美国,比如开发了ChatGPT的OpenAI。与此同时,美国还宣布了一项用于监测风险的人工智能安全研究所计划,该计划将与英国等其他政府设立的类似机构对人工智能相关的研究风险进行密切合作。

而中国的新华社以《在这场人工智能峰会上,中国倡议很“吸睛”》为标题报道了此次峰会,报道称,与会期间,中方代表团参与人工智能安全等问题讨论,积极宣介中方提出的《全球人工智能治理倡议》,并与相关国家开展双边会谈。10月18日,中国发布了《全球人工智能治理倡议》,该倡议所阐述了中国的人工智能治理方案,方案包括以人为本和智能向善的原则。

在人工智能发展上并不特别优秀的英国和欧盟也在如何监管人工智能上跃跃欲试。英国成功举办了首届人工智能安全峰会,连在举办峰会的选址上也用了心思。欧盟的《人工智能法》目前几乎进入了立法的尾声,欧盟想在人工智能监管立法上复制自己在数据监管上的辉煌,出台一部像《通用数据保护条例》一样的人工智能法律。

在全球范围内,任何在人工智能发展上有所作为和想有所作为的选手都不会放弃在人工智能监管上的话语权和参与度。

中国日报的一篇报道将中国于10月18日发布《全球人工智能治理倡议》和美国于10月17日发布了对华半导体出口管制最终规则联系到一起,称“两则新闻,反映了人工智能发展的两个方向,人工智能全球治理两种模式,人类文明发展的两条道路。”文章称,美国人工智能战略倡导价值观主导与技术垄断相结合,G7国意图构建科技“小圈子”,阻止中国参与人工智能等技术标准的制定。而中国的《全球人工智能治理倡议》站在了构建人类命运共同体的高度。

说说价值观。美国白宫今年3月的一份声明称,2021年,美国总统拜登在首届民主峰会上,发起了“总统民主复兴倡议”,这是美国政府通过外交和对外援助,与志同道合的合作伙伴一起,有针对性地扩展捍卫和增强民主韧性的创新性努力。而美国关于推动先进技术以促进民主的议程构成了总统倡议的五大支柱之一。这项议程认识到,为了借助于现有和新兴的技术来支持民主价值观和制度,民主国家反对科技用于施加压制、控制、分裂和歧视以及剥夺人权。而在中国关于人工智能管理办法当中,均有“坚持社会主义核心价值观”,或“弘扬社会主义核心价值观”的规定。

智库卡内基国际和平基金会研究院希恩(Matt Sheehan)曾在其名为《在人工智能治理上,美国可以从中国身上学到什么?》的文章中写道,在过去的两年,中国制定了一些全世界最早和最完善的人工智能。表面看来,中国的《生成式人工智能服务管理暂行办法》要求企业坚持社会主义核心价值观,而美国国会参议院多数党领袖舒默(Chuck Schumer)呼吁美国立法要求美国的人工智能系统“与我们的民主价值观保持一致”。希恩认为,这些抓人眼球的意识形态分歧掩盖了一个令人不适的现实:美国其实需要从中国那学习人工智能。舒默试图推进出台一部应对在国家安全、虚假信息、偏见、民主价值等造成影响的全面的人工智能法律,而中国采取的是有针对性的、随着人工智能发展而进行迭代的监管方式。文章提到了中国今年1月开始实施的《互联网信息服务深度合成管理规定》,它针对的就是深度伪造带来的具体风险。希恩称,规定确实包含了许多意识形态控制方面的内容,但也要求企业使用数字水印和对人工智能生成的内容做出显著标注。ChatGPT横空出世后,中国于4月发布了生成式人工智能服务管理征求意见稿,7月公布了生成式人工智能服务管理暂行办法,8月15日正式实施。 而“暂行”在于监管方会随着技术的更新进行持续的更新。文章当然不是在意识形态和价值观上肯定中国式监管,而是在方法论上倾向于中国采取的“边学边做”的治理方式。

无论是价值观还是方法论,各国和各地区的人工智能治理路线各异,但可以达成的共识是,人类共同面临人工智能带来的挑战,没有谁可以独自应对自如。■ 

注:本文仅代表作者个人观点                                                                                              
相关内容
OR
+
读者评论
MORE +

热门排行榜
OR
+
近一半CEO认为,人工智能可以且应该取代他们的工作
2023-11-13 04:36
科技

人工智能监管上的“小圈子”与“大集体”

张冬方:人类共同面临人工智能带来的挑战,没有谁可以独自应对自如。
张冬方

■11月初在英国举行的人工智能安全峰会之所以被称赞为“外交上的成功”或“外交上的突破”,其中的一个原因在于,它不仅让包括中美在内的国家因人工智能问题坐到一起,而且还共同签署了通过国际合作来解决人工智能风险的《布莱奇利宣言》,该宣言关注的焦点在于包含了OpenAI的ChatGPT的前沿人工智能。

就在这次峰会之前,联合国秘书长古特雷斯宣布式组建一个新的人工智能高级别咨询机构,以探讨这项技术带来的风险和机遇,并为国际社会加强治理提供支持。该咨询机构汇集了39名来自政府、私营部门、研究界、公民社会等界专家,两名中国专家入选其中。

英国峰会和联合国组建咨询团队呈现出了各国和各力量在人工智能治理上的一团和气和同心协力,可各国在人工智能技术和人工智能治理上展开的竞争明明已经热火朝天。

10月30日,G7国家发布了《开发先进人工智能系统组织的国际行为准则》,该不具约束力的行为准则包含了11点行动,重点在于监管最先进的基础模型和生成式人工智能。

同一天,美国总统拜登签署了关于人工智能安全标准的行政令,该行政令要求最强人工智能系统开发者和美国政府分享他们的安全测试结果和关键信息,要求对国家安全等构成严重风险的任何基础模型的开发者在训练模型时必须通知联邦政府,同时分享所有“红队”安全测试的结果。行政令还提出制定“国家安全备忘录”,以指导在人工智能和安全上的进一步的行动,该文件还用于指导反制对手将人工智能应用于军事上而采取的行动,等等。白宫声明称,该项具里程碑意义的行政令建立了人工智能安全上的新标准,发布该行政令在于确保美国在人工智能风险治理上处于领先地位。

据报道,在人工智能安全峰会期间,美国副总统贺锦丽在记者会上表示,美国在人工智能方面是全球领先者,正是美国企业正在人工智能创新上引领世界,美国才能够以其他国家无法做到的方式促进全球行动和建立全球共识。来自人工智能强国的贺锦丽确实能够底气十足,大部分最前沿的人工智能公司都来自美国,比如开发了ChatGPT的OpenAI。与此同时,美国还宣布了一项用于监测风险的人工智能安全研究所计划,该计划将与英国等其他政府设立的类似机构对人工智能相关的研究风险进行密切合作。

而中国的新华社以《在这场人工智能峰会上,中国倡议很“吸睛”》为标题报道了此次峰会,报道称,与会期间,中方代表团参与人工智能安全等问题讨论,积极宣介中方提出的《全球人工智能治理倡议》,并与相关国家开展双边会谈。10月18日,中国发布了《全球人工智能治理倡议》,该倡议所阐述了中国的人工智能治理方案,方案包括以人为本和智能向善的原则。

在人工智能发展上并不特别优秀的英国和欧盟也在如何监管人工智能上跃跃欲试。英国成功举办了首届人工智能安全峰会,连在举办峰会的选址上也用了心思。欧盟的《人工智能法》目前几乎进入了立法的尾声,欧盟想在人工智能监管立法上复制自己在数据监管上的辉煌,出台一部像《通用数据保护条例》一样的人工智能法律。

在全球范围内,任何在人工智能发展上有所作为和想有所作为的选手都不会放弃在人工智能监管上的话语权和参与度。

中国日报的一篇报道将中国于10月18日发布《全球人工智能治理倡议》和美国于10月17日发布了对华半导体出口管制最终规则联系到一起,称“两则新闻,反映了人工智能发展的两个方向,人工智能全球治理两种模式,人类文明发展的两条道路。”文章称,美国人工智能战略倡导价值观主导与技术垄断相结合,G7国意图构建科技“小圈子”,阻止中国参与人工智能等技术标准的制定。而中国的《全球人工智能治理倡议》站在了构建人类命运共同体的高度。

说说价值观。美国白宫今年3月的一份声明称,2021年,美国总统拜登在首届民主峰会上,发起了“总统民主复兴倡议”,这是美国政府通过外交和对外援助,与志同道合的合作伙伴一起,有针对性地扩展捍卫和增强民主韧性的创新性努力。而美国关于推动先进技术以促进民主的议程构成了总统倡议的五大支柱之一。这项议程认识到,为了借助于现有和新兴的技术来支持民主价值观和制度,民主国家反对科技用于施加压制、控制、分裂和歧视以及剥夺人权。而在中国关于人工智能管理办法当中,均有“坚持社会主义核心价值观”,或“弘扬社会主义核心价值观”的规定。

智库卡内基国际和平基金会研究院希恩(Matt Sheehan)曾在其名为《在人工智能治理上,美国可以从中国身上学到什么?》的文章中写道,在过去的两年,中国制定了一些全世界最早和最完善的人工智能。表面看来,中国的《生成式人工智能服务管理暂行办法》要求企业坚持社会主义核心价值观,而美国国会参议院多数党领袖舒默(Chuck Schumer)呼吁美国立法要求美国的人工智能系统“与我们的民主价值观保持一致”。希恩认为,这些抓人眼球的意识形态分歧掩盖了一个令人不适的现实:美国其实需要从中国那学习人工智能。舒默试图推进出台一部应对在国家安全、虚假信息、偏见、民主价值等造成影响的全面的人工智能法律,而中国采取的是有针对性的、随着人工智能发展而进行迭代的监管方式。文章提到了中国今年1月开始实施的《互联网信息服务深度合成管理规定》,它针对的就是深度伪造带来的具体风险。希恩称,规定确实包含了许多意识形态控制方面的内容,但也要求企业使用数字水印和对人工智能生成的内容做出显著标注。ChatGPT横空出世后,中国于4月发布了生成式人工智能服务管理征求意见稿,7月公布了生成式人工智能服务管理暂行办法,8月15日正式实施。 而“暂行”在于监管方会随着技术的更新进行持续的更新。文章当然不是在意识形态和价值观上肯定中国式监管,而是在方法论上倾向于中国采取的“边学边做”的治理方式。

无论是价值观还是方法论,各国和各地区的人工智能治理路线各异,但可以达成的共识是,人类共同面临人工智能带来的挑战,没有谁可以独自应对自如。■ 

注:本文仅代表作者个人观点                                                                                              
相关内容
OR
+
 

读者评论
OR

 

分享:
每日头条
OR
+
最新资讯
OR
+
热门排行榜
OR
+
OR品牌理念
+

■ 或者,  留一段影像,回一曲挂牵。丝丝入扣、暖暖心灵 ,需飘过的醇厚与共。
■ 或者,热烈空雨伴芬芳泥土;绿绿生命缠锐意骄阳。
回望,回望,一马平川红酒飘散断归途。
■ 或者,灰蒙蒙空气重回道指一万四千点。滚动时光,照进现实,流逝过往,回归未来。

■ OR 新媒体是一个提供时政、经济、文化、科技等多领域资讯的平台,旨在为用户提供优质的阅读体验。网站的网址是oror.vip,用户可以通过浏览器在台式电脑 、笔记本电脑 、平板电脑 、手机访问。.......