10月19日，中国无人机厂商大疆表示，该公司已对美国国防部提起诉讼。
发布日期：2024-10-19 19:20
杰弗里·辛顿曾警告称，AI系统可能摆脱人类控制。
Miles Kruppa ，Deepa Seetharaman
■
新晋诺贝尔奖得主杰弗里·辛顿(Geoffrey Hinton)针对他参与创建的人工智能(AI)系统有一则警告：要更认真地对待安全问题，否则它们可能对人类构成威胁。
“我认为我们正处于历史的一个岔路口，在未来几年里，我们需要弄清楚是否有办法应对这种威胁，”辛顿周二在接受诺贝尔奖官方采访时表示。他在采访中表达了对自己毕生工作的自豪感，同时也对这些工作带来的日益严重的危险发出警告。
现年76岁的辛顿去年从谷歌(Google)辞职，一个原因是，这样他才能更多地谈论AI系统摆脱人类控制、影响选举或驱动危险机器人的可能性。他曾与其他经验丰富的AI研究人员一起呼吁OpenAI、Meta Platforms和Alphabet旗下的谷歌等公司，在它们正竞相开发的这种先进系统的安全性上投入更多资源。
辛顿获得诺贝尔奖一方面褒奖了他在推动AI技术发展方面发挥的关键作用，另一方面也为他关于AI末日论的警告提供了一个新的平台。辛顿认为先进的AI系统能够理解它们的输出，这在研究界是一个有争议的观点。
“希望当我说这些东西真的理解它们在说什么时，这（个奖项）会让我听起来更可信，”他在谈到这个奖项时说道。
辛顿的观点使他与AI界的一些阵营形成对立，后者认为，沉迷于末日场景会不必要地减缓技术进步，或分散人们对更直接危害的关注，例如对少数群体的歧视。
“我认为他是个聪明人，但我认为很多人过分夸大了这些事情的风险，这确实让很多公众相信，我们应该关注的是这个，而不是AI更直接的危害，”圣达菲研究所(Santa Fe Institute)教授梅兰妮·米切尔(Melanie Mitchell)去年在一次小组讨论中表示。
周二，辛顿造访了谷歌位于硅谷的总部，参加了一个非正式的庆祝活动。谷歌AI领域的一些高管在社交媒体上向他表示祝贺。
周三，谷歌其他专门从事AI研究的知名人士也获得了诺贝尔奖。Google DeepMind首席执行官德米斯·哈萨比斯(Demis Hassabis)和该AI实验室主任约翰·M·詹珀(John M. Jumper)是获得诺贝尔化学奖的三位科学家中的两人，他们的获奖理由是在预测蛋白质结构方面的贡献。
像人一样思考
“我认为我们正处于历史的一个岔路口，在未来几年里，我们需要弄清楚是否有办法应对这种威胁，”辛顿周二在接受诺贝尔奖官方采访时表示。他在采访中表达了对自己毕生工作的自豪感，同时也对这些工作带来的日益严重的危险发出警告。
现年76岁的辛顿去年从谷歌(Google)辞职，一个原因是，这样他才能更多地谈论AI系统摆脱人类控制、影响选举或驱动危险机器人的可能性。他曾与其他经验丰富的AI研究人员一起呼吁OpenAI、Meta Platforms和Alphabet旗下的谷歌等公司，在它们正竞相开发的这种先进系统的安全性上投入更多资源。
辛顿获得诺贝尔奖一方面褒奖了他在推动AI技术发展方面发挥的关键作用，另一方面也为他关于AI末日论的警告提供了一个新的平台。辛顿认为先进的AI系统能够理解它们的输出，这在研究界是一个有争议的观点。
“希望当我说这些东西真的理解它们在说什么时，这（个奖项）会让我听起来更可信，”他在谈到这个奖项时说道。
辛顿的观点使他与AI界的一些阵营形成对立，后者认为，沉迷于末日场景会不必要地减缓技术进步，或分散人们对更直接危害的关注，例如对少数群体的歧视。
“我认为他是个聪明人，但我认为很多人过分夸大了这些事情的风险，这确实让很多公众相信，我们应该关注的是这个，而不是AI更直接的危害，”圣达菲研究所(Santa Fe Institute)教授梅兰妮·米切尔(Melanie Mitchell)去年在一次小组讨论中表示。
周二，辛顿造访了谷歌位于硅谷的总部，参加了一个非正式的庆祝活动。谷歌AI领域的一些高管在社交媒体上向他表示祝贺。
周三，谷歌其他专门从事AI研究的知名人士也获得了诺贝尔奖。Google DeepMind首席执行官德米斯·哈萨比斯(Demis Hassabis)和该AI实验室主任约翰·M·詹珀(John M. Jumper)是获得诺贝尔化学奖的三位科学家中的两人，他们的获奖理由是在预测蛋白质结构方面的贡献。
像人一样思考
辛顿与普林斯顿大学(Princeton University)的约翰·霍普菲尔德(John Hopfield)共同获得了诺贝尔物理学奖，以表彰他们自20世纪80年代以来在神经网络方面的工作，这些神经网络以受到人类大脑启发的方式处理信息。这项工作奠定了当今使用的许多AI技术的基础，从ChatGPT的类人对话到Google Photos在用户拍摄的每张照片中识别人物的能力。
蒙特利尔大学(University of Montreal) AI研究员约书亚·本吉奥(Yoshua Bengio)说：“他们的贡献在于将物理学的基本概念与生物学的概念联系起来，而不仅仅是AI——这些概念至今仍伴随着我们。”
2012年，辛顿与他的两名多伦多大学(University of Toronto)研究生Alex Krizhevsky和Ilya Sutskever合作开发了一个名为AlexNet的神经网络，用于识别照片中的图像。在此之前，计算机算法经常无法分辨狗的照片真的是狗而不是猫或汽车。
AlexNet在2012年的一次图像识别技术竞赛中取得压倒性胜利，这是当代AI热潮兴起的关键时刻，它证明了神经网络相对于其他方法的强大实力。
同年，辛顿与Krizhevsky和Sutskever创办了一家公司，但这家公司没过多久就不复存在了。据《天才制造者》(Genius Makers)一书，在竞标中力压百度、微软等竞争对手后，谷歌于2013年收购了这家公司，支付了4,400万美元，基本上就是为了聘任这三个人。辛顿开始在多伦多大学和谷歌之间往返，他在谷歌继续进行神经网络研究。
辛顿被广泛尊崇为当代顶尖AI研究人员的导师，其中包括Sutskever，后者是OpenAI的联合创始人，于今年春季离开OpenAI，创办了一家名为Safe Superintelligence的公司。
2018年，辛顿与Yoshua Bengio以及AI研究者Yann LeCun一起因在神经网络方面的工作获得了计算机科学领域的图灵奖(Turing Award)。这三人通常被称为现代“AI教父”。
灾难预警
到2023年，辛顿对构建更强大的AI所产生的后果感到担忧。他开始谈论AI系统可能会摆脱其创造者的控制，并对人类造成灾难性伤害。在此过程中，他与一群担心这项技术带来的“生存风险”的人站在了一起。
辛顿在去年的一次采访中说：“我们正处于大多数人甚至无法想象的境地，这些数字智能将比我们聪明得多，如果它们想干成什么事，就会想要掌控一切。”
辛顿在2023年春季宣布将离开谷歌，称他希望能够自由讨论AI的危险，而不必担心会给公司带来什么后果。他在X平台表示，谷歌的行为一直“非常负责任”。
在接下来的几个月里，辛顿花了很多时间与决策者和科技行业高管——包括马斯克(Elon Musk)——讨论AI风险。
辛顿去年共同签署了一份文件，称从事AI工作的公司应该至少将三分之一的研发资源用于确保其系统的安全性以及合乎道德的使用。
辛顿在诺贝尔奖的采访中说：“政府可以做的一件事是，强制要求大公司将更多资源投入到安全研究上，这样一来，像OpenAI这样的公司就不能把安全研究放在次要位置。”
OpenAI的一名发言人表示，该公司对其安全工作感到骄傲。
辛顿与Bengio和其他研究者一起支持加州议会今年夏天通过的一项AI安全法案，该法案将要求大型AI系统的开发商采取一系列措施，确保系统不会造成灾难性的破坏。加州州长纽森(Gavin Newsom)不久前否决了这项法案，包括谷歌在内的大多数大型科技公司都反对这项法案。
辛顿日渐高调的行动主义做法让他与其他一些受人尊敬的研究者产生了分歧，这些人认为他的警告是杞人忧天，因为AI还远远没有能力造成严重伤害。
LeCun去年在X平台上回应辛顿时写道：“它们完全缺乏对现实世界的理解，也缺乏规划能力，这让它们的智力远远低于猫的水平，更不用说人类的水平了。”
注：本文仅代表作者个人观点
■
相关内容
读者评论
热门排行榜
OR
2024-10-11 09:06
科技
“AI教父”辛顿获得诺贝尔奖，近年来一直警告机器可能统治世界
“AI教父”辛顿获得诺贝尔奖，近年来一直警告机器可能统治世界
辛顿希望，当他说先进的AI系统真的理解它们在说什么并可能摆脱人类控制时，诺贝尔奖得主这个身份会让他听起来更可信。
杰弗里·辛顿曾警告称，AI系统可能摆脱人类控制。
Miles Kruppa ，Deepa Seetharaman
■
新晋诺贝尔奖得主杰弗里·辛顿(Geoffrey Hinton)针对他参与创建的人工智能(AI)系统有一则警告：要更认真地对待安全问题，否则它们可能对人类构成威胁。
“我认为我们正处于历史的一个岔路口，在未来几年里，我们需要弄清楚是否有办法应对这种威胁，”辛顿周二在接受诺贝尔奖官方采访时表示。他在采访中表达了对自己毕生工作的自豪感，同时也对这些工作带来的日益严重的危险发出警告。
现年76岁的辛顿去年从谷歌(Google)辞职，一个原因是，这样他才能更多地谈论AI系统摆脱人类控制、影响选举或驱动危险机器人的可能性。他曾与其他经验丰富的AI研究人员一起呼吁OpenAI、Meta Platforms和Alphabet旗下的谷歌等公司，在它们正竞相开发的这种先进系统的安全性上投入更多资源。
辛顿获得诺贝尔奖一方面褒奖了他在推动AI技术发展方面发挥的关键作用，另一方面也为他关于AI末日论的警告提供了一个新的平台。辛顿认为先进的AI系统能够理解它们的输出，这在研究界是一个有争议的观点。
“希望当我说这些东西真的理解它们在说什么时，这（个奖项）会让我听起来更可信，”他在谈到这个奖项时说道。
辛顿的观点使他与AI界的一些阵营形成对立，后者认为，沉迷于末日场景会不必要地减缓技术进步，或分散人们对更直接危害的关注，例如对少数群体的歧视。
“我认为他是个聪明人，但我认为很多人过分夸大了这些事情的风险，这确实让很多公众相信，我们应该关注的是这个，而不是AI更直接的危害，”圣达菲研究所(Santa Fe Institute)教授梅兰妮·米切尔(Melanie Mitchell)去年在一次小组讨论中表示。
周二，辛顿造访了谷歌位于硅谷的总部，参加了一个非正式的庆祝活动。谷歌AI领域的一些高管在社交媒体上向他表示祝贺。
周三，谷歌其他专门从事AI研究的知名人士也获得了诺贝尔奖。Google DeepMind首席执行官德米斯·哈萨比斯(Demis Hassabis)和该AI实验室主任约翰·M·詹珀(John M. Jumper)是获得诺贝尔化学奖的三位科学家中的两人，他们的获奖理由是在预测蛋白质结构方面的贡献。
像人一样思考
“我认为我们正处于历史的一个岔路口，在未来几年里，我们需要弄清楚是否有办法应对这种威胁，”辛顿周二在接受诺贝尔奖官方采访时表示。他在采访中表达了对自己毕生工作的自豪感，同时也对这些工作带来的日益严重的危险发出警告。
现年76岁的辛顿去年从谷歌(Google)辞职，一个原因是，这样他才能更多地谈论AI系统摆脱人类控制、影响选举或驱动危险机器人的可能性。他曾与其他经验丰富的AI研究人员一起呼吁OpenAI、Meta Platforms和Alphabet旗下的谷歌等公司，在它们正竞相开发的这种先进系统的安全性上投入更多资源。
辛顿获得诺贝尔奖一方面褒奖了他在推动AI技术发展方面发挥的关键作用，另一方面也为他关于AI末日论的警告提供了一个新的平台。辛顿认为先进的AI系统能够理解它们的输出，这在研究界是一个有争议的观点。
“希望当我说这些东西真的理解它们在说什么时，这（个奖项）会让我听起来更可信，”他在谈到这个奖项时说道。
辛顿的观点使他与AI界的一些阵营形成对立，后者认为，沉迷于末日场景会不必要地减缓技术进步，或分散人们对更直接危害的关注，例如对少数群体的歧视。
“我认为他是个聪明人，但我认为很多人过分夸大了这些事情的风险，这确实让很多公众相信，我们应该关注的是这个，而不是AI更直接的危害，”圣达菲研究所(Santa Fe Institute)教授梅兰妮·米切尔(Melanie Mitchell)去年在一次小组讨论中表示。
周二，辛顿造访了谷歌位于硅谷的总部，参加了一个非正式的庆祝活动。谷歌AI领域的一些高管在社交媒体上向他表示祝贺。
周三，谷歌其他专门从事AI研究的知名人士也获得了诺贝尔奖。Google DeepMind首席执行官德米斯·哈萨比斯(Demis Hassabis)和该AI实验室主任约翰·M·詹珀(John M. Jumper)是获得诺贝尔化学奖的三位科学家中的两人，他们的获奖理由是在预测蛋白质结构方面的贡献。
像人一样思考
辛顿与普林斯顿大学(Princeton University)的约翰·霍普菲尔德(John Hopfield)共同获得了诺贝尔物理学奖，以表彰他们自20世纪80年代以来在神经网络方面的工作，这些神经网络以受到人类大脑启发的方式处理信息。这项工作奠定了当今使用的许多AI技术的基础，从ChatGPT的类人对话到Google Photos在用户拍摄的每张照片中识别人物的能力。
蒙特利尔大学(University of Montreal) AI研究员约书亚·本吉奥(Yoshua Bengio)说：“他们的贡献在于将物理学的基本概念与生物学的概念联系起来，而不仅仅是AI——这些概念至今仍伴随着我们。”
2012年，辛顿与他的两名多伦多大学(University of Toronto)研究生Alex Krizhevsky和Ilya Sutskever合作开发了一个名为AlexNet的神经网络，用于识别照片中的图像。在此之前，计算机算法经常无法分辨狗的照片真的是狗而不是猫或汽车。
AlexNet在2012年的一次图像识别技术竞赛中取得压倒性胜利，这是当代AI热潮兴起的关键时刻，它证明了神经网络相对于其他方法的强大实力。
同年，辛顿与Krizhevsky和Sutskever创办了一家公司，但这家公司没过多久就不复存在了。据《天才制造者》(Genius Makers)一书，在竞标中力压百度、微软等竞争对手后，谷歌于2013年收购了这家公司，支付了4,400万美元，基本上就是为了聘任这三个人。辛顿开始在多伦多大学和谷歌之间往返，他在谷歌继续进行神经网络研究。
辛顿被广泛尊崇为当代顶尖AI研究人员的导师，其中包括Sutskever，后者是OpenAI的联合创始人，于今年春季离开OpenAI，创办了一家名为Safe Superintelligence的公司。
2018年，辛顿与Yoshua Bengio以及AI研究者Yann LeCun一起因在神经网络方面的工作获得了计算机科学领域的图灵奖(Turing Award)。这三人通常被称为现代“AI教父”。
灾难预警
到2023年，辛顿对构建更强大的AI所产生的后果感到担忧。他开始谈论AI系统可能会摆脱其创造者的控制，并对人类造成灾难性伤害。在此过程中，他与一群担心这项技术带来的“生存风险”的人站在了一起。
辛顿在去年的一次采访中说：“我们正处于大多数人甚至无法想象的境地，这些数字智能将比我们聪明得多，如果它们想干成什么事，就会想要掌控一切。”
辛顿在2023年春季宣布将离开谷歌，称他希望能够自由讨论AI的危险，而不必担心会给公司带来什么后果。他在X平台表示，谷歌的行为一直“非常负责任”。
在接下来的几个月里，辛顿花了很多时间与决策者和科技行业高管——包括马斯克(Elon Musk)——讨论AI风险。
辛顿去年共同签署了一份文件，称从事AI工作的公司应该至少将三分之一的研发资源用于确保其系统的安全性以及合乎道德的使用。
辛顿在诺贝尔奖的采访中说：“政府可以做的一件事是，强制要求大公司将更多资源投入到安全研究上，这样一来，像OpenAI这样的公司就不能把安全研究放在次要位置。”
OpenAI的一名发言人表示，该公司对其安全工作感到骄傲。
辛顿与Bengio和其他研究者一起支持加州议会今年夏天通过的一项AI安全法案，该法案将要求大型AI系统的开发商采取一系列措施，确保系统不会造成灾难性的破坏。加州州长纽森(Gavin Newsom)不久前否决了这项法案，包括谷歌在内的大多数大型科技公司都反对这项法案。
辛顿日渐高调的行动主义做法让他与其他一些受人尊敬的研究者产生了分歧，这些人认为他的警告是杞人忧天，因为AI还远远没有能力造成严重伤害。
LeCun去年在X平台上回应辛顿时写道：“它们完全缺乏对现实世界的理解，也缺乏规划能力，这让它们的智力远远低于猫的水平，更不用说人类的水平了。”
注：本文仅代表作者个人观点
■
相关内容
读者评论OR
读者评论
OR
分享：
每日头条
OR
最新资讯
OR
热门排行榜
OR
OR品牌理念
■ 或者, 留一段影像，回一曲挂牵。丝丝入扣、暖暖心灵 ，需飘过的醇厚与共。
■ 或者，热烈空雨伴芬芳泥土；绿绿生命缠锐意骄阳。
回望，回望，一马平川红酒飘散断归途。
■ 或者，灰蒙蒙空气重回道指一万四千点。滚动时光，照进现实，流逝过往，回归未来。
■ 或者，热烈空雨伴芬芳泥土；绿绿生命缠锐意骄阳。
回望，回望，一马平川红酒飘散断归途。
■ 或者，灰蒙蒙空气重回道指一万四千点。滚动时光，照进现实，流逝过往，回归未来。
■ OR 新媒体是一个提供时政、经济、文化、科技等多领域资讯的平台，旨在为用户提供优质的阅读体验。网站的网址是oror.vip，用户可以通过浏览器在台式电脑 、笔记本电脑 、平板电脑 、手机访问。.......