ChatGPT是AI史上最大的革命吗？
+ 查看更多

什么样的工作会被人工智能取代？人工智能是否造成更多的虚假信息，带来更多的商业垄断，人们会不会因此受到更多的控制和监控？

冯郁青

■主持人：冯郁青

嘉宾： Kathleen R. McKeown ：哥伦比亚大学数据科学与工程研究所创始主任，教授，自然语言处理专家

Francesca Rossi：IBM研究员，IBM全球AI伦理领导者

David Chen Angelvest：创始人&董事

冯郁青：首先，我要提到这本书。《人工智能简史》是由剑桥大学计算机系主任Woodbridge教授所写。这本书在2021年1月出版。书中提到，人工智能在可预见的将来无法做到自如回答问题，达到人类水平的翻译，解释照片中的情况，写有趣的故事。而仅仅2年后，ChatGPT就做到了。ChatGPT是否已经挑战了这种预测，并取得了真正的技术突破？

Kathleen R. McKeown：我确实认为这是一个里程碑，ChatGPT现在的能力远超过以前。 ChatGPT 是一种大型语言模型，我认为大型语言模型起到了颠覆性的作用。新的能力每天都在快速涌现，甚至改变了我们进行研究和开发新模型的方式。在过去的六个月中，我们对大型语言模型对写文章摘要的能力进行了测试。这是我多年来一直在研究的主题。

 我们发现的结果非常有趣，我们让人评判各种大型语言模型写出来的结果，与由自由职业作家撰写的文章摘要相比较。我们发现，GPT3（ChatGPT的前身）与人类写的摘要相当。这表明，单文档的新闻摘要是一个已经解决的问题。我们在这项工作中还发现对模型下达的指示至关重要，而不仅仅是模型的大小。

冯郁青：您认为ChatGPT的出现是AI领域没有预见到的吗？

Francesca Rossi：特定的神经网络架构这种技术是在那里了，但是一直没有找到能够让大众使用的方法。这个ChatGPT做到了。这不仅在能力方面相较于12年前或者甚至7个月前是一种颠覆性的改变，但也在于如何让更多的人，不仅是专家，都能真正利用这项技术。所以现在许多企业正在意识到这种新的能力。

这就是为什么公司都想给客户提供AI方面的可能性，通过这种方式，他们可以做之前无法做的事情。但是有些客户，例如IBM的客户，正在问我们一个问题。出现错误信息怎么办呢？公平性呢？版权或数据隐私呢？愿意使用这项技术的公司有很多问题，他们问，你们对此做了什么？如果出了问题，谁负责？他们想知道这个。

冯郁青： Dr. Rossi，我知道IBM是AI真正的先驱，特别是您所在的沃森实验室。在1997年，IBM的深蓝击败了世界象棋冠军。而在2011年，IBM的沃森赢得了Jeopardy 。那么您如何将ChatGPT的成就与之前的AI进行比较呢？

Francesca Rossi ：国际象棋挑战主要是通过计算能力来实现的。当时的AI在能力方面更受限。所以有一些AI技术，但主要是计算机的预测能力远超过最好的国际象棋选手。Watson赢得Jeopardy的情况是不同的，因为它已经在使用一些更先进的AI技术，如机器学习。它能够理解自然语言的问题，理解什么是正确的答案。所以这已经是AI的第二波。现在的第三波AI。AI不仅可以做到这些，还可以生成内容。这就是为什么这是一个里程碑，因为到目前为止，用AI做的是解释图像或文本，进行预测或分类，或做出决策，但不生成内容。所以ChatGPT这真的改变了游戏规则.

冯郁青：怎么看目前对AI投资的狂热呢？会对整个行业的创新产生什么样的影响? 会出现像2000年初互联网时代的泡沫吗？David, 你在AI领域有很多投资的经历，你怎么看？

David Chen：过去六个月人工智能与前几代中人工智能热潮不同的是，它真正得以我们无法忽视的方式影响了市场。2023年的前五个月，投入到生成型AI的资金已经超过了2022年的四倍，AI的淘金浪潮扑面而来。

这让我想起在20多年前的互联网公司时期。只要有关于.com的东西，立即获得资金。这是投资者害怕错过的心态。这就是我们现在看到的生成型A I的投资浪潮。这段时间会过去。我们目前可能处在一个AI的投资泡沫中，问题是这个泡沫何时会破裂，就像之前的互联网泡沫一样。不过，事实是即使互联网泡沫来了又去，仍然改变了社会的运行和人们的生活方式。所以我们今天有AI热潮，不是每一家公司都会成功，有些公司会失败，这是投资的自然法则。但总的来说，我们仍然会使用AI技术的各个方面。

冯郁青： ChatGPT在教育、金融和医疗等各个领域都有可能带来根本性的变化。据高盛的报告，人工智能可能会自动化高达18%的工作，对高收入国家的影响显著。以美国为例，会有15%-35%的工作被取代，这其中最容易被取代的就是办公室、行政、律师以及工程这样的工作，而最不容易被取代就是建造、安装和维护以及需要亲力亲为，比如nurse、心理咨询师这样的工作。受影响最大的是受过良好教育的白领阶层，因此危险在于中产阶级和中产阶级从上往下的流动。最近IBM就宣布，大约7800个工作可能会被人工智能和自动化取代。这对于希望在自己领域中蓬勃发展的年轻专业人士意味着什么？你有什么建议给他们吗？"

Francesca Rossi：首先，相比于将要创造的工作，更容易看到将会被自动化取代的工作。但是每次有这样的颠覆性技术，都会产生很多全新的工作。但所有的工作都会被改变。因为在每一份工作中，即使没有被自动化，也必须帮助人们至少进行一些提升或者重新塑造，以便能够正确地使用这种技术来帮助他们的工作。因此，人们将做相同的工作，但是由于部分自动化，他们将在更少的时间内完成。所以有了更多自由的时间，这是一个机会，让公司可以提出一些新的任务，新的品质，而这之前他们无法做到的。

冯郁青：现在很多学生都想去学习计算机和金融专业，因为这个领域的薪酬非常好，受到了尊重。但是，在未来，如果AI能够替代初级的计算机，金融，律师，会计工作，那么什么样的专业将会最受欢迎？

Kathleen R. McKeown：我会建议18岁的孩子们去了解现有的技术以及这些技术能做什么，即使是那些对人文学科、历史、文学和艺术感兴趣的18岁孩子。我认为人文学科和计算机科学之间有许多合作机会。我认为学生们有必要了解什么是可能的，知道如何使用它，而在之前，你需要学计算机专业才能考虑在这些领域有所涉及。现在，工具变得更加普及，人们可以做更多的事情。数据中有大量的艺术，艺术中也有大量的数据。

David: 由于科技的发展，工作岗位似乎在消失。问题在于，我们是否能让所有人去适应这些新的科技呢？历史上有许多例子可以证明这一点。例如，电梯的发明，我从二楼来到了四十五楼，谁会有个工作去推动电梯运行，或者谁会在后台连接你的电话呼叫？在1940年代，这些工作还存在，但今天，这些工作已经消失了.问题是，我们作为人类能否提升自己，去做更有意义的工作？我总是举这样一个例子：你去商店，如果有一个收银员，或者有人要清洁卫生间，当你是个孩子，10岁的时候，你会对你的父母说，我想成为世界上最好的卫生间清洁工吗？如果你的孩子这么说，你会怎么回应你的孩子呢？可悲的现实是，有些人确实在做这样的工作，因为我们需要这些工作。但是，随着先进技术的发展，大多数人可以升级到更好的工作。这就意味着，我们作为人类需要重新培训自己，这就是我的答案。

冯郁青： AI对各行各业的革命性变革和对未来工作前景的影响非常巨大，另外一个非常关注的就是AI所带了的虚假信息在社会上更容易传播，当人们越来越难区分真假，那对于社会的运行会带来非常负面的影响。

Francesca Ross：我认为我们必须小心，因为直到大约两年前，人们对AI的信任还是一个问题，人们想知道我应该信任AI吗？现在的情况有点相反，人们过于信任这项技术，并倾向于过度归功于AI。为什么呢？因为机器似乎表现得像人一样。所以，由于这些机器能够像人一样写文本，我们倾向于认为它也有人类拥有的其他能力。

David Chen:我认为这是信任和不信任的结合，人们之所以信任它是因为它使用起来如此简单。ChatGPT的界面基于浏览器，你输入问题，得到答案。答案听起来很可信。但实际上有可能是错误的。像IBM这样的解决方案，并不意味着每个人都能够使用，而ChatGPT可以使不懂AI的一般公众都能使用，结果是如此强大。

冯郁青：但是也带来了很多困扰。就像你刚才说的，ChatGPT会出现一些不实的信息。比如最近纽约一个律师Steven Schwartz向法官道歉，因为他提交的一份陈述书中利用ChatGPT协助查找撰写资料。不过ChatGPT生成了根本不存在的案件。施瓦茨承认，他根本不知道ChatGPT会编造案例和裁决。人是知道我们不知道什么，那么ChatGPT知道它不知道什么吗？

Kathleen R. McKeown：很多情况下不知道。 ChatGPT是由一家公司生产的，我们不能看到幕后的情况。我们不知道它使用的模型方法。我们不知道使用了什么数据，这些数据是保密的。所以为了确定它能做什么，我们确实需要花一些时间来描述它。

Francesca Rossi：关于ChatGPT产生谎言的问题，这些系统的构建方式无法识别什么是真的，什么是假的。也不会有意识的撒谎。他们只是被训练来生成最有可能的下一个单词。他们使用大量的数据和大量的计算能力，有一个很好的自然语言模型。但并没有真正建立起识别事实，真正发生了什么的能力。这就是为什么在建立一个模型后，可以采取很多技术来防止它生成这些非法信息。但即使内容是真实的，在这个背景下也可能是个问题，因为生成的内容可能是有害的，可能是冒犯的，可能是种族主义的，可能不符合人类的价值观。

Kathleen R. McKeown：我认为Francesca Rossi提出了一个很好的观点。我在其他场景中也提过这一点，即这些模型并没有意图。例如，它们可以写诗或短篇小说，但我们通常认为诗是有意传达意义或作者情感的。但对ChatGPT 来说不是这样的，但没有意图传达背后的意义。

冯郁青：虚假信息的传播会是一个非常严重的问题。2018年，一段伪造的奥巴马视频在网上疯传。随着AI技术的发展，深度伪造Deep Fake已经更加普及。对"眼见为实"的说法提出了挑战。这些扭曲的信息可以显著影响公众舆论，破坏民主社会运行的基石。政府法规能有效地解决这个问题吗？鉴于社交媒体对真实性的扭曲已成为社会常态，我们应如何应对和管理AI？

Kathleen R. McKeown：我认为这是当前的一个巨大研究课题。许多地方正在研究如何验证由AI生成的文本是否是虚假信息，但这是个难题。不从事这项工作的人可能并未意识到这个问题有多难。因此，这需要一些时间。我不是一个从事政策工作的人。所以，我很难想象可以采取什么样的政策法规以解决这个问题。但研究人员之间的确存在合作。也许技术公司之间可以进行一些合作，寻找解决方案，比如通过水印使AI生成的虚假图像能被识别。

冯郁青：David，你对AI行业的投资比较了解，当前AI行业的投资热潮。所有的大科技巨头都涌入这个领域。你认为他们有没有可能进行合作？因为从我们读到的资料来看，所有的大科技公司都希望对这个行业进行规范，希望确保AI能够被正确使用。你对此有什么看法？

David: 最近的国会听证会就关注了这个问题，对于监管行业的提议，我认为可能是正确的方向。问题是这能否真正有效。这涉及到监管者是否能跟上技术的发展。技术总会超越监管者，对吧？问题是，如何防止不良行为者，而不是不良技术？因为总会有一些别有用心或者恶意的人在新技术出现时滥用。对于“能否信任AI”，我会反问，我们能否信任那个散播假新闻的人呢？对于那些假新闻以及所有出现的这些事情，是机器做的，还是有意图的人做的？我认为后者更可能。这是有意图的人。我认为这需要更多的监管或者监督，我们正在使用的技术，也许是这种技术本身就有缺陷，或者是使用这种技术的人出于恶意目的使用它。

冯郁青：另一个挑战是很难达成共识，确定哪些AI领域是适合发展的，哪些需要阻止，即使某些国家达成了共识，但你不能阻止其他国家。世界上最大的两个经济体正在AI产业中竞争，每个都希望在这个领域占据主导地位。OpenAI的CEO最近呼吁中美之间的合作，但是在中美关系如此糟糕的情况下？你认为AI产业在不同国家之间的合作是否可能？

David: 我的简单看法是，在学术界AI 领域有很多合作的空间，但在商业和政治世界，答案可能是否定的。因为这样的技术已经成为我们这一代的新型武器。回顾历史，你能看到美国会与俄罗斯或中国在最新的导弹技术上进行合作吗？肯定的答案是不会。问题是，当AI成为一种可能被武器化的技术时，你会看到彼此对立的政府在这项技术上进行合作吗？答案是不会的。"

冯郁青：接下来是什么？在未来10或20年里，人工智能会出现什么样的新进展？未来人工智能会威胁到人类的生存吗？

Kathleen R. McKeown：我希望人工智能可以与人类更多的互动，将人工智能作为一种帮助人们达成目标的工具。我认为在构建这些系统时，人类也需要更多地参与其中。我对未来的期望是在人工智能的各个阶段都能看到更多的互动。

Francesca Rossi：我没有签署任何那些声称人工智能风险或要求暂停六个月的类似信件。我认为AI没有对人类生存产生威胁。我在当前系统中看到了很多问题，对我来说，对未来可能风险的过分强调只会分散我们对当前需要解决问题的注意力。

如果我们解决了当前的问题，并在更坚实的基础上前进，我们将处于最佳位置来避免任何可能出现的对人类生存的挑战。很多人认为这种对人类生存风险是如此具有破坏性，以至于比现在面临的任何问题都更加重要。我持相反的观点。我认为避免未来风险的最佳方式是在短期内很好地解决当前的问题。

David Chen: 无论是区块链还是人工智能，我认为都具有巨大的潜力。如果我们能够找到一种方法，找到这种技术如何影响人类体验以获得更美好的生活，那将是非常不错的。这就是我的愿景。我希望这是可以实现的，而且我认为它有潜力实现。■

注：本文仅代表作者个人观点