OR 新媒|oror.vip跨平台阅读首选
2023-05-17 12:52
商业与经济

OpenAI CEO出席美国国会听证会 称人工智能会“对世界造成重大伤害”

听证会上,阿尔特曼承认了AI产品的风险;他呼吁国会对AI系统采取安全标准。
OpenAI首席执行官山姆·阿尔特曼
彭博

■当地时间5月16日,OpenAI首席执行官山姆·阿尔特曼(Sam Altman)在美国参议院就人工智能技术的潜在危险作证,敦促立法者对开发GPT-4等先进人工智能系统的组织实施许可要求和其他法规。

出庭作证的还有IBM的首席隐私和信任官克里斯蒂娜·蒙哥马利(Christina Montgomery)和著名AI专家加里·马库斯(Gary Marcus)。马库斯指出,美国政府可能需要一个拥有技术专长的“内阁级组织”专门监督人工智能。

近年来,以科技高管为主题的国会听证会的基调一般会用“敌对”来形容,Facebook创始人马克·扎克伯格、亚马逊创始人杰夫·贝索斯等科技名人都曾在国会上被对其公司不满的立法者训斥。但阿尔特曼在听证会上受到了议员的表扬。

在听证会上,阿尔特曼向议员们解释了ChatGPT的工作原理,承认了此类AI产品的风险,比如损害未来选举的公正性、操纵民众个人的意见、限制访问某些信息,以及侵犯版权。

虽然阿尔特曼强调人工智能的好处,但他在听证会上表示,他担心人工智能行业会“对世界造成重大伤害”。“我认为,如果这项技术出了问题,它可能会大错特错,我们希望对此直言不讳。”他表示,OpenAI希望与政府合作,以防止上述情况发生。

阿尔特曼特别指出,他非常担心AI对选举产生的影响。“鉴于我们明年将面临选举,而这些模型正在变得更好,我认为这是一个值得关注的重要领域……我确实认为在这个话题上进行一些监管是非常明智的。”他说。

阿尔特曼呼吁国会对AI系统采取安全标准。他建议国会成立一个新机构,为“超过一定规模的能力”的人工智能技术颁发许可证,在向公众发布AI系统之前,应该由可以判断该模型是否符合这些规定的专家进行独立审计。

他认为,美国政府可以为开发功能最强大的AI系统的公司实行持牌制度。如果有公司要开发和发布超出能力阀值的AI模型,政府可以将发放牌照和测试的要求结合起来,对他们予以监管。

除此以外,阿尔特曼表示,AI可能导致一些失业,但会创造更多新工作机会,他对AI未来改变就业的前景感到乐观。他还透露,目前公司并没有训练GPT-5,未来六个月也没有这方面的计划。■                                                                                               
读者评论
MORE +

热门排行榜
OR
+
OpenAI首席执行官山姆·阿尔特曼
2023-05-17 12:52
商业与经济

OpenAI CEO出席美国国会听证会 称人工智能会“对世界造成重大伤害”

听证会上,阿尔特曼承认了AI产品的风险;他呼吁国会对AI系统采取安全标准。
彭博

■当地时间5月16日,OpenAI首席执行官山姆·阿尔特曼(Sam Altman)在美国参议院就人工智能技术的潜在危险作证,敦促立法者对开发GPT-4等先进人工智能系统的组织实施许可要求和其他法规。

出庭作证的还有IBM的首席隐私和信任官克里斯蒂娜·蒙哥马利(Christina Montgomery)和著名AI专家加里·马库斯(Gary Marcus)。马库斯指出,美国政府可能需要一个拥有技术专长的“内阁级组织”专门监督人工智能。

近年来,以科技高管为主题的国会听证会的基调一般会用“敌对”来形容,Facebook创始人马克·扎克伯格、亚马逊创始人杰夫·贝索斯等科技名人都曾在国会上被对其公司不满的立法者训斥。但阿尔特曼在听证会上受到了议员的表扬。

在听证会上,阿尔特曼向议员们解释了ChatGPT的工作原理,承认了此类AI产品的风险,比如损害未来选举的公正性、操纵民众个人的意见、限制访问某些信息,以及侵犯版权。

虽然阿尔特曼强调人工智能的好处,但他在听证会上表示,他担心人工智能行业会“对世界造成重大伤害”。“我认为,如果这项技术出了问题,它可能会大错特错,我们希望对此直言不讳。”他表示,OpenAI希望与政府合作,以防止上述情况发生。

阿尔特曼特别指出,他非常担心AI对选举产生的影响。“鉴于我们明年将面临选举,而这些模型正在变得更好,我认为这是一个值得关注的重要领域……我确实认为在这个话题上进行一些监管是非常明智的。”他说。

阿尔特曼呼吁国会对AI系统采取安全标准。他建议国会成立一个新机构,为“超过一定规模的能力”的人工智能技术颁发许可证,在向公众发布AI系统之前,应该由可以判断该模型是否符合这些规定的专家进行独立审计。

他认为,美国政府可以为开发功能最强大的AI系统的公司实行持牌制度。如果有公司要开发和发布超出能力阀值的AI模型,政府可以将发放牌照和测试的要求结合起来,对他们予以监管。

除此以外,阿尔特曼表示,AI可能导致一些失业,但会创造更多新工作机会,他对AI未来改变就业的前景感到乐观。他还透露,目前公司并没有训练GPT-5,未来六个月也没有这方面的计划。■                                                                                               
 

读者评论
OR

 

分享:
每日头条
OR
+
最新资讯
OR
+
热门排行榜
OR
+
OR品牌理念
+

■ 或者,  留一段影像,回一曲挂牵。丝丝入扣、暖暖心灵 ,需飘过的醇厚与共。
■ 或者,热烈空雨伴芬芳泥土;绿绿生命缠锐意骄阳。
回望,回望,一马平川红酒飘散断归途。
■ 或者,灰蒙蒙空气重回道指一万四千点。滚动时光,照进现实,流逝过往,回归未来。

■ OR 新媒体是一个提供时政、经济、文化、科技等多领域资讯的平台,旨在为用户提供优质的阅读体验。网站的网址是oror.vip,用户可以通过浏览器在台式电脑 、笔记本电脑 、平板电脑 、手机访问。.......