阿里又变了。
发布日期：2024-11-22 21:04
整理编辑：陈佳靖
■近日，美国亿万富翁埃隆·马斯克和人工智能领域顶尖专家、图灵奖得主约书亚·本吉奥(Yoshua Bengio)等人联名签署了一封公开信，呼吁暂停开发比GPT-4更强大的AI系统至少6个月，称其“对社会和人类构成潜在风险”。
这封发布在非营利性组织“未来生命研究所”(Future of Life Institute)网站上的公开信主张，在开发强大的AI系统之前，应先确认其带来影响是积极的、风险是可控的。
官方资料显示，未来生命研究所是位于美国波士顿地区的一家研究与推广机构，致力于降低人类所面临的风险，尤其是人工智能技术开发过程中的可能风险。该研究所创立于2014年3月，创始人为麻省理工学院(MIT)物理学终身教授、宇宙学家马克斯·泰格马克(Max Tegmark)、Skype联合创始人扬·塔林(Jaan Tallinn)等。其研究所顾问委员会成员来源较广，包括宇宙学家史蒂芬·霍金、特斯拉CEO埃隆·马斯克，艾伦·艾尔达、摩根·弗里曼等演艺界人士也在其中。
未来生命研究所究竟是一家怎样的机构？它为何如此关心人工智能引发的安全问题？这还要从创始人泰格马克的一次“博物馆经历”谈起。
2014年1月的一天，已经是MIT终身教授的泰格马克在伦敦参观一个科学展。展览分为两个部分：一边是实体硬件，从史蒂文森的“火箭号”机车，到福特T型车，从阿波罗11号月球车的真实大小复制品，到各式各样的计算机；一边是智能研究的理论成果，从青蛙腿试验到神经元，从脑电图到磁共振成像。
泰格马克仿佛踏入一趟人类智慧增长的旅程。他发现，人类起初是用机器复制自然的过程，接着发现神经细胞，最后则开始建造比自己更强壮、更聪明的机器，正是科学技术的进步，让人们的生活变得更快、更丰富。泰格马克不禁想到：科学技术的发展，让人类发现自我、超越自我，是不是也不可避免地淘汰了人类自身？
这此“博物馆经历”，让泰格马克想起了当下突飞猛进的人工智能技术。
人工智能，无所谓善，无所谓恶，取决于谁掌握它，如何运用它。技术本身既可行善，又可作恶，而人类正是经过不断试错才得以成长。“不一样的是，人工智能实在太强大了，人类很可能根本没有机会试错。”泰格马克感慨。这让他开始重新思考生命的未来，他随即决定，用实际行动投身这一研究领域。
2014年初，泰格马克与Skype创始人扬·塔里安一起，成立了一家非营利性组织：未来生命研究院，专注于用技术管理来改善未来生命的境况。在成立不到一周年的时候，未来生命研究所得到了特斯拉创始人埃隆.马斯克1000万美元的赞助。
泰格马克曾在2018年接受《周末画报》采访时表示，“我们达成的共识是，虽然我们也应该关注生物技术、核武器和气候变化，但我们的第一主要目标是帮助AI安全性研究进入主流视野。迄今为止，我们已举行过多次全球性禁止致命性自动化武器的会议。”
得益于泰格马克等人的奔走呼号，人工智能安全性研究在近年有了长足进展。在泰格马克看来，人工智能最终将发展为生命的更高形态，但科技并非发展得越快越好，人工智能安全方面的投资也刻不容缓，只有这样AI技术才会向有益人类繁荣的方向发展。■
这封发布在非营利性组织“未来生命研究所”(Future of Life Institute)网站上的公开信主张，在开发强大的AI系统之前，应先确认其带来影响是积极的、风险是可控的。
官方资料显示，未来生命研究所是位于美国波士顿地区的一家研究与推广机构，致力于降低人类所面临的风险，尤其是人工智能技术开发过程中的可能风险。该研究所创立于2014年3月，创始人为麻省理工学院(MIT)物理学终身教授、宇宙学家马克斯·泰格马克(Max Tegmark)、Skype联合创始人扬·塔林(Jaan Tallinn)等。其研究所顾问委员会成员来源较广，包括宇宙学家史蒂芬·霍金、特斯拉CEO埃隆·马斯克，艾伦·艾尔达、摩根·弗里曼等演艺界人士也在其中。
未来生命研究所究竟是一家怎样的机构？它为何如此关心人工智能引发的安全问题？这还要从创始人泰格马克的一次“博物馆经历”谈起。
2014年1月的一天，已经是MIT终身教授的泰格马克在伦敦参观一个科学展。展览分为两个部分：一边是实体硬件，从史蒂文森的“火箭号”机车，到福特T型车，从阿波罗11号月球车的真实大小复制品，到各式各样的计算机；一边是智能研究的理论成果，从青蛙腿试验到神经元，从脑电图到磁共振成像。
泰格马克仿佛踏入一趟人类智慧增长的旅程。他发现，人类起初是用机器复制自然的过程，接着发现神经细胞，最后则开始建造比自己更强壮、更聪明的机器，正是科学技术的进步，让人们的生活变得更快、更丰富。泰格马克不禁想到：科学技术的发展，让人类发现自我、超越自我，是不是也不可避免地淘汰了人类自身？
这此“博物馆经历”，让泰格马克想起了当下突飞猛进的人工智能技术。
人工智能，无所谓善，无所谓恶，取决于谁掌握它，如何运用它。技术本身既可行善，又可作恶，而人类正是经过不断试错才得以成长。“不一样的是，人工智能实在太强大了，人类很可能根本没有机会试错。”泰格马克感慨。这让他开始重新思考生命的未来，他随即决定，用实际行动投身这一研究领域。
2014年初，泰格马克与Skype创始人扬·塔里安一起，成立了一家非营利性组织：未来生命研究院，专注于用技术管理来改善未来生命的境况。在成立不到一周年的时候，未来生命研究所得到了特斯拉创始人埃隆.马斯克1000万美元的赞助。
泰格马克曾在2018年接受《周末画报》采访时表示，“我们达成的共识是，虽然我们也应该关注生物技术、核武器和气候变化，但我们的第一主要目标是帮助AI安全性研究进入主流视野。迄今为止，我们已举行过多次全球性禁止致命性自动化武器的会议。”
得益于泰格马克等人的奔走呼号，人工智能安全性研究在近年有了长足进展。在泰格马克看来，人工智能最终将发展为生命的更高形态，但科技并非发展得越快越好，人工智能安全方面的投资也刻不容缓，只有这样AI技术才会向有益人类繁荣的方向发展。■
相关内容
OR
读者评论
热门排行榜
OR
2023-03-30 20:29
商业与经济
带头叫停大型AI训练的未来生命研究所是什么来头？
带头叫停大型AI训练的未来生命研究所是什么来头？
未来生命研究所致力于降低人类所面临的风险；其第一主要目标是帮助AI安全性研究进入主流视野。
整理编辑：陈佳靖
■近日，美国亿万富翁埃隆·马斯克和人工智能领域顶尖专家、图灵奖得主约书亚·本吉奥(Yoshua Bengio)等人联名签署了一封公开信，呼吁暂停开发比GPT-4更强大的AI系统至少6个月，称其“对社会和人类构成潜在风险”。
这封发布在非营利性组织“未来生命研究所”(Future of Life Institute)网站上的公开信主张，在开发强大的AI系统之前，应先确认其带来影响是积极的、风险是可控的。
官方资料显示，未来生命研究所是位于美国波士顿地区的一家研究与推广机构，致力于降低人类所面临的风险，尤其是人工智能技术开发过程中的可能风险。该研究所创立于2014年3月，创始人为麻省理工学院(MIT)物理学终身教授、宇宙学家马克斯·泰格马克(Max Tegmark)、Skype联合创始人扬·塔林(Jaan Tallinn)等。其研究所顾问委员会成员来源较广，包括宇宙学家史蒂芬·霍金、特斯拉CEO埃隆·马斯克，艾伦·艾尔达、摩根·弗里曼等演艺界人士也在其中。
未来生命研究所究竟是一家怎样的机构？它为何如此关心人工智能引发的安全问题？这还要从创始人泰格马克的一次“博物馆经历”谈起。
2014年1月的一天，已经是MIT终身教授的泰格马克在伦敦参观一个科学展。展览分为两个部分：一边是实体硬件，从史蒂文森的“火箭号”机车，到福特T型车，从阿波罗11号月球车的真实大小复制品，到各式各样的计算机；一边是智能研究的理论成果，从青蛙腿试验到神经元，从脑电图到磁共振成像。
泰格马克仿佛踏入一趟人类智慧增长的旅程。他发现，人类起初是用机器复制自然的过程，接着发现神经细胞，最后则开始建造比自己更强壮、更聪明的机器，正是科学技术的进步，让人们的生活变得更快、更丰富。泰格马克不禁想到：科学技术的发展，让人类发现自我、超越自我，是不是也不可避免地淘汰了人类自身？
这此“博物馆经历”，让泰格马克想起了当下突飞猛进的人工智能技术。
人工智能，无所谓善，无所谓恶，取决于谁掌握它，如何运用它。技术本身既可行善，又可作恶，而人类正是经过不断试错才得以成长。“不一样的是，人工智能实在太强大了，人类很可能根本没有机会试错。”泰格马克感慨。这让他开始重新思考生命的未来，他随即决定，用实际行动投身这一研究领域。
2014年初，泰格马克与Skype创始人扬·塔里安一起，成立了一家非营利性组织：未来生命研究院，专注于用技术管理来改善未来生命的境况。在成立不到一周年的时候，未来生命研究所得到了特斯拉创始人埃隆.马斯克1000万美元的赞助。
泰格马克曾在2018年接受《周末画报》采访时表示，“我们达成的共识是，虽然我们也应该关注生物技术、核武器和气候变化，但我们的第一主要目标是帮助AI安全性研究进入主流视野。迄今为止，我们已举行过多次全球性禁止致命性自动化武器的会议。”
得益于泰格马克等人的奔走呼号，人工智能安全性研究在近年有了长足进展。在泰格马克看来，人工智能最终将发展为生命的更高形态，但科技并非发展得越快越好，人工智能安全方面的投资也刻不容缓，只有这样AI技术才会向有益人类繁荣的方向发展。■
这封发布在非营利性组织“未来生命研究所”(Future of Life Institute)网站上的公开信主张，在开发强大的AI系统之前，应先确认其带来影响是积极的、风险是可控的。
官方资料显示，未来生命研究所是位于美国波士顿地区的一家研究与推广机构，致力于降低人类所面临的风险，尤其是人工智能技术开发过程中的可能风险。该研究所创立于2014年3月，创始人为麻省理工学院(MIT)物理学终身教授、宇宙学家马克斯·泰格马克(Max Tegmark)、Skype联合创始人扬·塔林(Jaan Tallinn)等。其研究所顾问委员会成员来源较广，包括宇宙学家史蒂芬·霍金、特斯拉CEO埃隆·马斯克，艾伦·艾尔达、摩根·弗里曼等演艺界人士也在其中。
未来生命研究所究竟是一家怎样的机构？它为何如此关心人工智能引发的安全问题？这还要从创始人泰格马克的一次“博物馆经历”谈起。
2014年1月的一天，已经是MIT终身教授的泰格马克在伦敦参观一个科学展。展览分为两个部分：一边是实体硬件，从史蒂文森的“火箭号”机车，到福特T型车，从阿波罗11号月球车的真实大小复制品，到各式各样的计算机；一边是智能研究的理论成果，从青蛙腿试验到神经元，从脑电图到磁共振成像。
泰格马克仿佛踏入一趟人类智慧增长的旅程。他发现，人类起初是用机器复制自然的过程，接着发现神经细胞，最后则开始建造比自己更强壮、更聪明的机器，正是科学技术的进步，让人们的生活变得更快、更丰富。泰格马克不禁想到：科学技术的发展，让人类发现自我、超越自我，是不是也不可避免地淘汰了人类自身？
这此“博物馆经历”，让泰格马克想起了当下突飞猛进的人工智能技术。
人工智能，无所谓善，无所谓恶，取决于谁掌握它，如何运用它。技术本身既可行善，又可作恶，而人类正是经过不断试错才得以成长。“不一样的是，人工智能实在太强大了，人类很可能根本没有机会试错。”泰格马克感慨。这让他开始重新思考生命的未来，他随即决定，用实际行动投身这一研究领域。
2014年初，泰格马克与Skype创始人扬·塔里安一起，成立了一家非营利性组织：未来生命研究院，专注于用技术管理来改善未来生命的境况。在成立不到一周年的时候，未来生命研究所得到了特斯拉创始人埃隆.马斯克1000万美元的赞助。
泰格马克曾在2018年接受《周末画报》采访时表示，“我们达成的共识是，虽然我们也应该关注生物技术、核武器和气候变化，但我们的第一主要目标是帮助AI安全性研究进入主流视野。迄今为止，我们已举行过多次全球性禁止致命性自动化武器的会议。”
得益于泰格马克等人的奔走呼号，人工智能安全性研究在近年有了长足进展。在泰格马克看来，人工智能最终将发展为生命的更高形态，但科技并非发展得越快越好，人工智能安全方面的投资也刻不容缓，只有这样AI技术才会向有益人类繁荣的方向发展。■
相关内容
OR
读者评论OR
读者评论
OR
分享：
每日头条
OR
最新资讯
OR
热门排行榜
OR
OR品牌理念
■ 或者, 留一段影像，回一曲挂牵。丝丝入扣、暖暖心灵 ，需飘过的醇厚与共。
■ 或者，热烈空雨伴芬芳泥土；绿绿生命缠锐意骄阳。
回望，回望，一马平川红酒飘散断归途。
■ 或者，灰蒙蒙空气重回道指一万四千点。滚动时光，照进现实，流逝过往，回归未来。
■ 或者，热烈空雨伴芬芳泥土；绿绿生命缠锐意骄阳。
回望，回望，一马平川红酒飘散断归途。
■ 或者，灰蒙蒙空气重回道指一万四千点。滚动时光，照进现实，流逝过往，回归未来。
■ OR 新媒体是一个提供时政、经济、文化、科技等多领域资讯的平台，旨在为用户提供优质的阅读体验。网站的网址是oror.vip，用户可以通过浏览器在台式电脑 、笔记本电脑 、平板电脑 、手机访问。.......