OR 新媒|oror.vip跨平台阅读首选
2024-03-08 10:50
科技

科技大佬热议人工智能开源:“你会将曼哈顿计划开源吗?”

马克·安德森坚定支持开源人工智能,他认为开源人工智能是一种保障措施,可以避免少数几家大型科技公司和政府部门掌控最前沿人工智能研究的准入。
AI人工智能AI正在抢走谁的工作?一个人使用ChatGPT取代了60名员工
Paolo Confino


维诺德·科斯拉与马克·安德森都从公司创始人转型为投资者。上周末,两人就通用人工智能开发是否应该开源展开辩论。通用人工智能将使机器的智能水平与人类相当。

两人争论的导火索是科斯拉发布了一条帖子,对OpenAI及其首席执行官萨姆·奥尔特曼大加赞扬。

科斯拉写道:“我们从@OpenAI创立之初就认识@sama,我们完全支持他和他的公司。这些诉讼是开发通用人工智能和实现其效益的巨大干扰。”

对于科斯拉的信息,安德森指责他“游说禁止开源”人工智能研究。

安德森似乎对科斯拉支持OpenAI的立场有不同意见,因为OpenAI已经背离了最初的开源原则。自人工智能诞生以来,安德森就坚定支持开源人工智能,他认为开源人工智能是一种保障措施,可以避免少数几家大型科技公司和政府部门掌控最前沿人工智能研究的准入。



在当前的这场论战和以前的言论中,安德森对于一些最大的人工智能批评者提出的担忧嗤之以鼻。安德森曾经把这些担忧归咎于对颠覆性和不确定性的恐惧,而不是技术本身具有恶意,他在X上重申了这种观点。

安德森在X上发帖称:“每一种能够提升人类福祉的重大新技术,都会引发虚假的道德恐慌。人工智能则是最新的例子。”

另一方面,科斯拉却透过地缘政治和国家安全的视角看待人工智能,而不是从严格的创业角度来看待它。

对于安德森所说的科斯拉不支持开源的言论,科斯拉回应称开源风险过高。

他回复安德森称:“你会将曼哈顿计划(Manhattan Project)开源吗?人工智能对国家安全更加重要。我们必须在人工智能领域取得胜利。这是爱国主义,而不是口号。”

科斯拉和安德森之间的辩论,涉及到萨姆·奥尔特曼、OpenAI面临的诉讼和埃隆·马斯克。马斯克后来也加入了论战。两人在辩论中还谈到了是否应该允许任何人进行任何形式的人工智能研究,或者是否应该将最先进的人工智能版本交给政府。虽然这场辩论看起来只是一群非常成功的硅谷企业家在网络上展开的一些讨论,但我们可以管中窥豹,从中看到目前围绕开源人工智能展开的关键辩论。

最终,没有任何一方希望彻底禁止开源或闭源研究。在这场关于限制开源研究的论战中,有部分主张源于担心限制开源研究被作为一种恶意的理由,目的是确保对在人工智能领域已经取得进展的大公司实施监管。传奇人工智能研究人员、Meta前首席人工智能科学家杨立昆(Yann LeCun)在X上加入论战时表达了这种观点。

他写道:“没有人要求禁止闭源人工智能。但有些人正在积极游说各国政府禁止(或限制)开源人工智能。有些人以军事和经济安全作为理由。还有人则提到了威胁人类生存的幻想。”

硅谷知名天使投资人罗恩·康威要求领先的人工智能公司承诺“开发能够改善生活,为人类开启更美好未来的人工智能”。迄今为止,Meta、谷歌(Google)、微软(Microsoft)和OpenAI都已经在他的信中签字。

安德森引用科斯拉使用的曼哈顿项目的比喻,对OpenAI的安全保障提出了担忧。他认为,如果没有与曼哈顿项目同等程度的安全保障,例如“严格的安全审查和许可流程”、“持续的内部监控”和有“全天候武装警卫”守护的“牢不可破的物理设施”,那么OpenAI最先进的研究就将被美国的地缘政治对手们窃取。

OpenAI并未立即回复置评请求。

但安德森似乎不只是在争论一种观点,而是在进行思考练习。他在回应自己的帖子时写道:“当然,每一个假设都很荒谬。”

埃隆·马斯克加入论战批评OpenAI的安全措施

此时,OpenAI的联合创始人埃隆·马斯克加入了论战。

马斯克回复安德森讨论OpenAI安全措施的帖子称:“国家行为者当然很容易盗取他们的知识产权。”

科斯拉也提到了马斯克,称马斯克起诉OpenAI的决定是出于“酸葡萄心理”。上周,马斯克起诉OpenAI,指控该初创公司违反了创业协议。马斯克认为,OpenAI与微软的密切关系和停止将其产品开源的决定,违背了公司创立的使命。据彭博社(Bloomberg)掌握的一份备忘录显示,OpenAI与科斯拉的观点类似,指责马斯克“后悔没有参与公司今天的发展”。

马斯克回应称,科斯拉说他后悔在2019年离开OpenAI根本是“不知所云”。

科斯拉的科斯拉风险投资公司(Khosla Ventures)是OpenAI的长期投资者。2019年,科斯拉风险投资公司在OpenAI投资5,000万美元。同样,他并不认同马斯克的诉讼。科斯拉在X上发帖称:“有人说,如果你没有创新能力,那就去提起诉讼,这就是目前的状况。”他在帖子中标记了马斯克和OpenAI。

马斯克加入之后,论战仍在继续。科斯拉依旧坚定地认为,人工智能比发明核弹更重要,因此不能完全开源,但他认同马斯克和安德森的主张,认为领先的人工智能公司应该采取更严格的安全措施,甚至可以向政府求助。

科斯拉写道:“我同意应该为所有[最先进的]人工智能提供国家网络安全帮助和保护,而且这必不可少。人工智能不仅关乎网络防御,还关乎谁将在全球经济和政治竞争中胜出。全球价值观和政治体制的未来都取决于人工智能。”

虽然科斯拉对于把所有人工智能研究开源持保留态度,但他表示不希望人工智能停止发展。他在回应安德森时表示:“[最先进的]人工智能不应该放慢开发速度,因为在我看来,敌对国家的危险程度更高。”

但在“人工智能对齐”这个问题上,科斯拉和安德森却找到了一些共同点。“人工智能对齐”是指开发人工智能技术所使用的模型中的意识形态、原则和道德观。

■ 
                                                                                         
相关内容
+
读者评论
MORE +

热门排行榜
OR
+
AI人工智能AI正在抢走谁的工作?一个人使用ChatGPT取代了60名员工
2024-03-08 10:50
科技

科技大佬热议人工智能开源:“你会将曼哈顿计划开源吗?”

马克·安德森坚定支持开源人工智能,他认为开源人工智能是一种保障措施,可以避免少数几家大型科技公司和政府部门掌控最前沿人工智能研究的准入。
Paolo Confino


维诺德·科斯拉与马克·安德森都从公司创始人转型为投资者。上周末,两人就通用人工智能开发是否应该开源展开辩论。通用人工智能将使机器的智能水平与人类相当。

两人争论的导火索是科斯拉发布了一条帖子,对OpenAI及其首席执行官萨姆·奥尔特曼大加赞扬。

科斯拉写道:“我们从@OpenAI创立之初就认识@sama,我们完全支持他和他的公司。这些诉讼是开发通用人工智能和实现其效益的巨大干扰。”

对于科斯拉的信息,安德森指责他“游说禁止开源”人工智能研究。

安德森似乎对科斯拉支持OpenAI的立场有不同意见,因为OpenAI已经背离了最初的开源原则。自人工智能诞生以来,安德森就坚定支持开源人工智能,他认为开源人工智能是一种保障措施,可以避免少数几家大型科技公司和政府部门掌控最前沿人工智能研究的准入。



在当前的这场论战和以前的言论中,安德森对于一些最大的人工智能批评者提出的担忧嗤之以鼻。安德森曾经把这些担忧归咎于对颠覆性和不确定性的恐惧,而不是技术本身具有恶意,他在X上重申了这种观点。

安德森在X上发帖称:“每一种能够提升人类福祉的重大新技术,都会引发虚假的道德恐慌。人工智能则是最新的例子。”

另一方面,科斯拉却透过地缘政治和国家安全的视角看待人工智能,而不是从严格的创业角度来看待它。

对于安德森所说的科斯拉不支持开源的言论,科斯拉回应称开源风险过高。

他回复安德森称:“你会将曼哈顿计划(Manhattan Project)开源吗?人工智能对国家安全更加重要。我们必须在人工智能领域取得胜利。这是爱国主义,而不是口号。”

科斯拉和安德森之间的辩论,涉及到萨姆·奥尔特曼、OpenAI面临的诉讼和埃隆·马斯克。马斯克后来也加入了论战。两人在辩论中还谈到了是否应该允许任何人进行任何形式的人工智能研究,或者是否应该将最先进的人工智能版本交给政府。虽然这场辩论看起来只是一群非常成功的硅谷企业家在网络上展开的一些讨论,但我们可以管中窥豹,从中看到目前围绕开源人工智能展开的关键辩论。

最终,没有任何一方希望彻底禁止开源或闭源研究。在这场关于限制开源研究的论战中,有部分主张源于担心限制开源研究被作为一种恶意的理由,目的是确保对在人工智能领域已经取得进展的大公司实施监管。传奇人工智能研究人员、Meta前首席人工智能科学家杨立昆(Yann LeCun)在X上加入论战时表达了这种观点。

他写道:“没有人要求禁止闭源人工智能。但有些人正在积极游说各国政府禁止(或限制)开源人工智能。有些人以军事和经济安全作为理由。还有人则提到了威胁人类生存的幻想。”

硅谷知名天使投资人罗恩·康威要求领先的人工智能公司承诺“开发能够改善生活,为人类开启更美好未来的人工智能”。迄今为止,Meta、谷歌(Google)、微软(Microsoft)和OpenAI都已经在他的信中签字。

安德森引用科斯拉使用的曼哈顿项目的比喻,对OpenAI的安全保障提出了担忧。他认为,如果没有与曼哈顿项目同等程度的安全保障,例如“严格的安全审查和许可流程”、“持续的内部监控”和有“全天候武装警卫”守护的“牢不可破的物理设施”,那么OpenAI最先进的研究就将被美国的地缘政治对手们窃取。

OpenAI并未立即回复置评请求。

但安德森似乎不只是在争论一种观点,而是在进行思考练习。他在回应自己的帖子时写道:“当然,每一个假设都很荒谬。”

埃隆·马斯克加入论战批评OpenAI的安全措施

此时,OpenAI的联合创始人埃隆·马斯克加入了论战。

马斯克回复安德森讨论OpenAI安全措施的帖子称:“国家行为者当然很容易盗取他们的知识产权。”

科斯拉也提到了马斯克,称马斯克起诉OpenAI的决定是出于“酸葡萄心理”。上周,马斯克起诉OpenAI,指控该初创公司违反了创业协议。马斯克认为,OpenAI与微软的密切关系和停止将其产品开源的决定,违背了公司创立的使命。据彭博社(Bloomberg)掌握的一份备忘录显示,OpenAI与科斯拉的观点类似,指责马斯克“后悔没有参与公司今天的发展”。

马斯克回应称,科斯拉说他后悔在2019年离开OpenAI根本是“不知所云”。

科斯拉的科斯拉风险投资公司(Khosla Ventures)是OpenAI的长期投资者。2019年,科斯拉风险投资公司在OpenAI投资5,000万美元。同样,他并不认同马斯克的诉讼。科斯拉在X上发帖称:“有人说,如果你没有创新能力,那就去提起诉讼,这就是目前的状况。”他在帖子中标记了马斯克和OpenAI。

马斯克加入之后,论战仍在继续。科斯拉依旧坚定地认为,人工智能比发明核弹更重要,因此不能完全开源,但他认同马斯克和安德森的主张,认为领先的人工智能公司应该采取更严格的安全措施,甚至可以向政府求助。

科斯拉写道:“我同意应该为所有[最先进的]人工智能提供国家网络安全帮助和保护,而且这必不可少。人工智能不仅关乎网络防御,还关乎谁将在全球经济和政治竞争中胜出。全球价值观和政治体制的未来都取决于人工智能。”

虽然科斯拉对于把所有人工智能研究开源持保留态度,但他表示不希望人工智能停止发展。他在回应安德森时表示:“[最先进的]人工智能不应该放慢开发速度,因为在我看来,敌对国家的危险程度更高。”

但在“人工智能对齐”这个问题上,科斯拉和安德森却找到了一些共同点。“人工智能对齐”是指开发人工智能技术所使用的模型中的意识形态、原则和道德观。

■ 
                                                                                         
相关内容
+
 

读者评论
OR

 

分享:
每日头条
OR
+
最新资讯
OR
+
热门排行榜
OR
+
OR品牌理念
+

■ 或者,  留一段影像,回一曲挂牵。丝丝入扣、暖暖心灵 ,需飘过的醇厚与共。
■ 或者,热烈空雨伴芬芳泥土;绿绿生命缠锐意骄阳。
回望,回望,一马平川红酒飘散断归途。
■ 或者,灰蒙蒙空气重回道指一万四千点。滚动时光,照进现实,流逝过往,回归未来。

■ OR 新媒体是一个提供时政、经济、文化、科技等多领域资讯的平台,旨在为用户提供优质的阅读体验。网站的网址是oror.vip,用户可以通过浏览器在台式电脑 、笔记本电脑 、平板电脑 、手机访问。.......