以色列对黎巴嫩南部的真主党目标发动了一波空袭，此举正值真主党领导人发表讲话，称以色列两天来针对真主党成员的袭击事件无异于宣战。
发布日期：2024-09-20 11:31
彭博
■6月10日，OpenAI创始人Sam Altman以视频连线的方式参加于北京举办的2023智源人工智能大会，这也是Altman首次对中国观众发表演讲。
Altman谈到，当下人工智能革命影响如此之大的原因，不仅在于其影响的规模，也是其进展的速度。这同时带来红利和风险。
他认为，随着日益强大的 AI 系统的出现，全球合作的重要性从未如此之大。在一些重要的大事上，各国间必须进行合作和协调。推进 AGI （通用人工智能）安全是各方需要找到共同利益点的最重要的领域之一。
因此国际合作中，他认为有两个关键领域是最重要的。首先需要建立国际规范和标准，并注意过程中注重包容性。在任何国家使用 AGI 系统，都应平等而一致地遵循这样的国际标准和规范。在这些安全护栏内，我们相信人们有足够的机会做出自己的选择。
第二需要国际合作，以可核查的方式建立对安全开发日益强大的 AI 系统的国际间信任。我并不妄想这是一件容易的事，需要投入大量和持续的关注。
他解释到，AI对齐，即要求AI系统的目标要和人类的价值观与利益相对齐仍然是一个未解决的问题。GPT-4 花了八个月的时间完成对齐方面的工作。但相关的研究还在升级，主要分为扩展性和可解释性两方面。
首先是可扩展的监督，可以尝试使用人工智能系统来协助人类监督其他人工智能系统。例如，可以训练一个模型来帮助人类监督发现其他模型的输出中的缺陷。
第二是解释能力，即尝试更好地了解这些模型内部发生了什么。OpenAI最近发表了一篇论文使用 GPT-4 来解释 GPT-2 中的神经元。 在另一篇论文中，使用 Model Internals 来检测一个模型何时在说谎。因此还有很长的路要走。相信先进的机器学习技术可以进一步提高解释的能力。
在与智源研究院理事长张宏江的对谈中，Altman指出，十年内人类将拥有强大的人工智能系统（AI System）。另一方面，集中精力确保解决安全方面的技术问题是非常重要的。科技公司必须设计公平、具有代表性和包容性的系统。
他还透露，OpenAI没有相关的新的有关开源的时间表，开源模型具有优势，但开源一切可能并不是一条（促进AI发展的）最佳路线。在某个时候，会尝试做GPT-5的模型，但不会是很快。不知道具体GPT-5出现的时候。
在对谈的最后部分，Altman认为，AI安全需要Altman，需要中国研究者的参与和贡献。■
Altman谈到，当下人工智能革命影响如此之大的原因，不仅在于其影响的规模，也是其进展的速度。这同时带来红利和风险。
他认为，随着日益强大的 AI 系统的出现，全球合作的重要性从未如此之大。在一些重要的大事上，各国间必须进行合作和协调。推进 AGI （通用人工智能）安全是各方需要找到共同利益点的最重要的领域之一。
因此国际合作中，他认为有两个关键领域是最重要的。首先需要建立国际规范和标准，并注意过程中注重包容性。在任何国家使用 AGI 系统，都应平等而一致地遵循这样的国际标准和规范。在这些安全护栏内，我们相信人们有足够的机会做出自己的选择。
第二需要国际合作，以可核查的方式建立对安全开发日益强大的 AI 系统的国际间信任。我并不妄想这是一件容易的事，需要投入大量和持续的关注。
他解释到，AI对齐，即要求AI系统的目标要和人类的价值观与利益相对齐仍然是一个未解决的问题。GPT-4 花了八个月的时间完成对齐方面的工作。但相关的研究还在升级，主要分为扩展性和可解释性两方面。
首先是可扩展的监督，可以尝试使用人工智能系统来协助人类监督其他人工智能系统。例如，可以训练一个模型来帮助人类监督发现其他模型的输出中的缺陷。
第二是解释能力，即尝试更好地了解这些模型内部发生了什么。OpenAI最近发表了一篇论文使用 GPT-4 来解释 GPT-2 中的神经元。 在另一篇论文中，使用 Model Internals 来检测一个模型何时在说谎。因此还有很长的路要走。相信先进的机器学习技术可以进一步提高解释的能力。
在与智源研究院理事长张宏江的对谈中，Altman指出，十年内人类将拥有强大的人工智能系统（AI System）。另一方面，集中精力确保解决安全方面的技术问题是非常重要的。科技公司必须设计公平、具有代表性和包容性的系统。
他还透露，OpenAI没有相关的新的有关开源的时间表，开源模型具有优势，但开源一切可能并不是一条（促进AI发展的）最佳路线。在某个时候，会尝试做GPT-5的模型，但不会是很快。不知道具体GPT-5出现的时候。
在对谈的最后部分，Altman认为，AI安全需要Altman，需要中国研究者的参与和贡献。■
相关内容
OR
读者评论
热门排行榜
OR
2023-06-11 06:41
商业与经济
OpenAI CEO首次在中国发表演讲：AI对齐问题仍未解决
OpenAI CEO首次在中国发表演讲：AI对齐问题仍未解决
随着日益强大的 AI 系统的出现，全球合作的重要性从未如此之大；要求AI系统的目标要和人类的价值观与利益相对齐仍然是一个未解决的问题。
彭博
■6月10日，OpenAI创始人Sam Altman以视频连线的方式参加于北京举办的2023智源人工智能大会，这也是Altman首次对中国观众发表演讲。
Altman谈到，当下人工智能革命影响如此之大的原因，不仅在于其影响的规模，也是其进展的速度。这同时带来红利和风险。
他认为，随着日益强大的 AI 系统的出现，全球合作的重要性从未如此之大。在一些重要的大事上，各国间必须进行合作和协调。推进 AGI （通用人工智能）安全是各方需要找到共同利益点的最重要的领域之一。
因此国际合作中，他认为有两个关键领域是最重要的。首先需要建立国际规范和标准，并注意过程中注重包容性。在任何国家使用 AGI 系统，都应平等而一致地遵循这样的国际标准和规范。在这些安全护栏内，我们相信人们有足够的机会做出自己的选择。
第二需要国际合作，以可核查的方式建立对安全开发日益强大的 AI 系统的国际间信任。我并不妄想这是一件容易的事，需要投入大量和持续的关注。
他解释到，AI对齐，即要求AI系统的目标要和人类的价值观与利益相对齐仍然是一个未解决的问题。GPT-4 花了八个月的时间完成对齐方面的工作。但相关的研究还在升级，主要分为扩展性和可解释性两方面。
首先是可扩展的监督，可以尝试使用人工智能系统来协助人类监督其他人工智能系统。例如，可以训练一个模型来帮助人类监督发现其他模型的输出中的缺陷。
第二是解释能力，即尝试更好地了解这些模型内部发生了什么。OpenAI最近发表了一篇论文使用 GPT-4 来解释 GPT-2 中的神经元。 在另一篇论文中，使用 Model Internals 来检测一个模型何时在说谎。因此还有很长的路要走。相信先进的机器学习技术可以进一步提高解释的能力。
在与智源研究院理事长张宏江的对谈中，Altman指出，十年内人类将拥有强大的人工智能系统（AI System）。另一方面，集中精力确保解决安全方面的技术问题是非常重要的。科技公司必须设计公平、具有代表性和包容性的系统。
他还透露，OpenAI没有相关的新的有关开源的时间表，开源模型具有优势，但开源一切可能并不是一条（促进AI发展的）最佳路线。在某个时候，会尝试做GPT-5的模型，但不会是很快。不知道具体GPT-5出现的时候。
在对谈的最后部分，Altman认为，AI安全需要Altman，需要中国研究者的参与和贡献。■
Altman谈到，当下人工智能革命影响如此之大的原因，不仅在于其影响的规模，也是其进展的速度。这同时带来红利和风险。
他认为，随着日益强大的 AI 系统的出现，全球合作的重要性从未如此之大。在一些重要的大事上，各国间必须进行合作和协调。推进 AGI （通用人工智能）安全是各方需要找到共同利益点的最重要的领域之一。
因此国际合作中，他认为有两个关键领域是最重要的。首先需要建立国际规范和标准，并注意过程中注重包容性。在任何国家使用 AGI 系统，都应平等而一致地遵循这样的国际标准和规范。在这些安全护栏内，我们相信人们有足够的机会做出自己的选择。
第二需要国际合作，以可核查的方式建立对安全开发日益强大的 AI 系统的国际间信任。我并不妄想这是一件容易的事，需要投入大量和持续的关注。
他解释到，AI对齐，即要求AI系统的目标要和人类的价值观与利益相对齐仍然是一个未解决的问题。GPT-4 花了八个月的时间完成对齐方面的工作。但相关的研究还在升级，主要分为扩展性和可解释性两方面。
首先是可扩展的监督，可以尝试使用人工智能系统来协助人类监督其他人工智能系统。例如，可以训练一个模型来帮助人类监督发现其他模型的输出中的缺陷。
第二是解释能力，即尝试更好地了解这些模型内部发生了什么。OpenAI最近发表了一篇论文使用 GPT-4 来解释 GPT-2 中的神经元。 在另一篇论文中，使用 Model Internals 来检测一个模型何时在说谎。因此还有很长的路要走。相信先进的机器学习技术可以进一步提高解释的能力。
在与智源研究院理事长张宏江的对谈中，Altman指出，十年内人类将拥有强大的人工智能系统（AI System）。另一方面，集中精力确保解决安全方面的技术问题是非常重要的。科技公司必须设计公平、具有代表性和包容性的系统。
他还透露，OpenAI没有相关的新的有关开源的时间表，开源模型具有优势，但开源一切可能并不是一条（促进AI发展的）最佳路线。在某个时候，会尝试做GPT-5的模型，但不会是很快。不知道具体GPT-5出现的时候。
在对谈的最后部分，Altman认为，AI安全需要Altman，需要中国研究者的参与和贡献。■
相关内容
OR
读者评论OR
读者评论
OR
分享：
每日头条
OR
最新资讯
OR
热门排行榜
OR
OR品牌理念
■ 或者, 留一段影像，回一曲挂牵。丝丝入扣、暖暖心灵 ，需飘过的醇厚与共。
■ 或者，热烈空雨伴芬芳泥土；绿绿生命缠锐意骄阳。
回望，回望，一马平川红酒飘散断归途。
■ 或者，灰蒙蒙空气重回道指一万四千点。滚动时光，照进现实，流逝过往，回归未来。
■ 或者，热烈空雨伴芬芳泥土；绿绿生命缠锐意骄阳。
回望，回望，一马平川红酒飘散断归途。
■ 或者，灰蒙蒙空气重回道指一万四千点。滚动时光，照进现实，流逝过往，回归未来。
■ OR 新媒体是一个提供时政、经济、文化、科技等多领域资讯的平台，旨在为用户提供优质的阅读体验。网站的网址是oror.vip，用户可以通过浏览器在台式电脑 、笔记本电脑 、平板电脑 、手机访问。.......