OR 新媒|oror.vip跨平台阅读首选
2024-08-12 13:43
科技

为何科技巨头们都未能取代英伟达成为AI之王?

像苹果公司一样,英伟达的经历也表明,要想成为一家科技巨头,软件必须和硬件一样出色。
英伟达市值登顶,令人想起世纪初的互联网热潮
Christopher Mims


英伟达(Nvidia)以打造AI芯片而闻名,但该公司最伟大的成就是构筑了一道商业屏障,将客户留在自己的生态系统内,同时把竞争对手拒之门外。这道屏障由软件和芯片共同构成。

在过去20年里,英伟达打造了一个科技界称之为“围墙花园”的体系,与苹果公司(Apple)自创的体系类似。不过,苹果公司的软件和服务生态系统面向消费者,而英伟达长期以来一直专注于服务使用其芯片构建AI系统和其他软件的开发者。

英伟达的“围墙花园”解释了,为什么尽管面临着来自其他芯片制造商、甚至是谷歌(Google)和亚马逊(Amazon)等科技巨头的竞争,英伟达在未来几年内也极不可能失去重要的AI市场份额。

这也解释了为什么从长远来看,围绕英伟达目前主导领地的争夺战可能会集中在该公司的编码能力上,而不仅仅是其电路设计,也说明了为何其竞争对手正在竞相开发能够绕过英伟达防护墙的软件。

要理解英伟达的“围墙花园”,关键在于一个名为CUDA的软件平台。该平台于2007年推出,解决了一个当时还没有人遇到的问题:如何使用英伟达的专用芯片运行非图形软件,例如加密算法和加密货币挖矿。英伟达的这些芯片是为3D图形和游戏等劳动密集型应用而设计的。

借助CUDA,可以在这些名为图形处理单元(GPU)的芯片上进行各种其他计算。在CUDA让英伟达芯片能够运行的应用程序中就包括AI软件,近年来AI软件的蓬勃发展已使英伟达成为全球最具价值的公司之一。

而且,关键是CUDA仅仅是一个开始。年复一年,英伟达通过推出专门的代码库来响应软件开发人员的需求,使其GPU能够以英特尔(Intel)和AMD等品牌传统通用处理器无法实现的速度执行大量任务。

英伟达软件平台的重要性也可以说明为什么多年来该公司软件工程师人数一直多于硬件工程师。英伟达首席执行官黄仁勋(Jensen Huang)最近将该公司对软硬件结合的重视称为“全栈计算”,这意味着英伟达一手包办了从芯片到构建AI的软件等所有产品。

每当有竞争对手宣布推出旨在与英伟达竞争的AI芯片时,都要面对英伟达客户逾15年来一直在使用的编写大量代码的系统。此类软件很难转移到竞争对手的系统上。

英伟达在今年6月份的股东大会上宣布,CUDA现在包含300多个代码库和600个AI模型,支持3,700个GPU加速应用程序,大约4万家公司的500多万开发人员都在使用这些应用程序。

AI计算市场规模巨大,促使众多公司联合起来与英伟达竞争。花旗投资研究(Citi Research)的半导体和网络设备分析师Atif Malik预测,到2027年,AI相关芯片的市场规模将达到每年4,000亿美元。(英伟达截至今年1月份的财年收入约为610亿美元。)

专注于为云计算客户提供AI的英特尔副总裁Bill Pearson表示,这类合作主要聚焦开发CUDA的开源替代品。英特尔工程师正为两个这样的项目作出贡献,其中一个项目包括Arm、谷歌、三星(Samsung)和高通(Qualcomm)。ChatGPT开发商OpenAI正开展自己的开源工作。

投资者纷纷涌入致力于开发CUDA替代品的初创公司。推动这些投资的部分原因是,许多全球科技巨头的工程师可能会共同努力,让企业能够使用它们青睐的芯片,并不再支付业内一些人所说的“CUDA税”。

可以利用所有这些开源软件的初创公司Groq最近宣布获得6.4亿美元投资,用于打造与英伟达竞争的芯片。这一投资对Groq的估值为28亿美元。

科技巨头们也在投资可以替代英伟达芯片的自研产品。谷歌和亚马逊都生产自己的定制芯片,用于训练和部署AI,微软(Microsoft) 2023年时宣布也将如此。

在挑战英伟达AI芯片主导地位方面,最成功的竞争对手之一是AMD。不过AMD的市场份额仍远低于英伟达,预计2024年其Instinct系列AI芯片的收入为45亿美元。但AMD副总裁Andrew Dieckman表示,该公司正投入巨资招聘软件工程师。

Dieckman说:“我们极大地扩展了软件资源。”AMD上个月宣布将以6.65亿美元收购Silo AI,增加300名AI工程师。

英伟达的主要客户微软和Meta Platforms均购买AMD的AI芯片,反映出它们希望鼓励竞争。AI芯片是科技巨头预算中成本最高的一项支出。

尽管如此,花旗投资研究的Malik表示,他预计英伟达在未来两到三年内将在AI相关芯片领域保持约90%的市场份额。

要了解替代方案的优缺点,搞清楚在不使用任何英伟达硬件或软件的情况下构建ChatGPT风格的AI需要什么会有所帮助。

初创公司NinjaTech AI的首席执行官Babak Pahlavan表示,如果他负担得起,他本会使用英伟达的硬件和软件来创办自己的公司。但英伟达强大的H100芯片供应短缺,导致价格居高不下,并难以获得。

Pahlavan及NinjaTech AI的其他联合创始人最终转向亚马逊。亚马逊生产自己的定制芯片来训练AI,AI在这一过程中从海量数据中“学习”。经过数月的努力,该团队终于成功通过亚马逊Trainium芯片训练了他们的AI。这并不容易。

Pahlavan表示:“遇到过很多挑战和麻烦。” NinjaTech的AI团队曾连续几个月每周与亚马逊软件团队会面四次。最终,两家公司解决了这些问题,NinjaTech的AI“代理人”于今年5月推出,为用户执行任务。该公司称其服务的月活跃用户超过100万,所有这些用户都由基于亚马逊芯片训练和运行的模型提供服务。

Amazon Web Services高管Gadi Hutt的团队与NinjaTech AI进行过合作,他称,一开始双方都有一些麻烦,但现在已经顺利运转。

使用亚马逊定制AI芯片的客户包括Anthropic、爱彼迎(Airbnb)、Pinterest和Snap。亚马逊的云计算客户可以选择使用英伟达芯片,但英伟达芯片的使用成本高于亚马逊自己的AI芯片。Hutt说,即便如此,客户也需要时间才能转换。

从NinjaTech AI的经历来看,像它这样的初创公司哪怕经受痛苦和花费更多研发时间也要在英伟达的“围墙花园”之外构建AI的一大原因就是成本低。

Pahlavan表示,为了每月服务超过100万用户,NinjaTech使用亚马逊的云服务费用约为每月25万美元。他补充说,如果使用英伟达芯片运行同样的AI,费用将为75万至120万美元。

英伟达敏锐地意识到了所有这些竞争压力,也知道其芯片的购买和运行成本很高。黄仁勋承诺,该公司下一代以AI为重点的芯片将降低在硬件上训练AI的成本。

在可预见的未来,英伟达的命运取决于一种惯性,这种惯性以往曾将企业和客户锁定在其他各种封闭平台中,包括苹果公司的平台。
  

■ 
                                                                                         
相关内容
+
读者评论
MORE +

热门排行榜
OR
+
英伟达市值登顶,令人想起世纪初的互联网热潮
2024-08-12 13:43
科技

为何科技巨头们都未能取代英伟达成为AI之王?

像苹果公司一样,英伟达的经历也表明,要想成为一家科技巨头,软件必须和硬件一样出色。
Christopher Mims


英伟达(Nvidia)以打造AI芯片而闻名,但该公司最伟大的成就是构筑了一道商业屏障,将客户留在自己的生态系统内,同时把竞争对手拒之门外。这道屏障由软件和芯片共同构成。

在过去20年里,英伟达打造了一个科技界称之为“围墙花园”的体系,与苹果公司(Apple)自创的体系类似。不过,苹果公司的软件和服务生态系统面向消费者,而英伟达长期以来一直专注于服务使用其芯片构建AI系统和其他软件的开发者。

英伟达的“围墙花园”解释了,为什么尽管面临着来自其他芯片制造商、甚至是谷歌(Google)和亚马逊(Amazon)等科技巨头的竞争,英伟达在未来几年内也极不可能失去重要的AI市场份额。

这也解释了为什么从长远来看,围绕英伟达目前主导领地的争夺战可能会集中在该公司的编码能力上,而不仅仅是其电路设计,也说明了为何其竞争对手正在竞相开发能够绕过英伟达防护墙的软件。

要理解英伟达的“围墙花园”,关键在于一个名为CUDA的软件平台。该平台于2007年推出,解决了一个当时还没有人遇到的问题:如何使用英伟达的专用芯片运行非图形软件,例如加密算法和加密货币挖矿。英伟达的这些芯片是为3D图形和游戏等劳动密集型应用而设计的。

借助CUDA,可以在这些名为图形处理单元(GPU)的芯片上进行各种其他计算。在CUDA让英伟达芯片能够运行的应用程序中就包括AI软件,近年来AI软件的蓬勃发展已使英伟达成为全球最具价值的公司之一。

而且,关键是CUDA仅仅是一个开始。年复一年,英伟达通过推出专门的代码库来响应软件开发人员的需求,使其GPU能够以英特尔(Intel)和AMD等品牌传统通用处理器无法实现的速度执行大量任务。

英伟达软件平台的重要性也可以说明为什么多年来该公司软件工程师人数一直多于硬件工程师。英伟达首席执行官黄仁勋(Jensen Huang)最近将该公司对软硬件结合的重视称为“全栈计算”,这意味着英伟达一手包办了从芯片到构建AI的软件等所有产品。

每当有竞争对手宣布推出旨在与英伟达竞争的AI芯片时,都要面对英伟达客户逾15年来一直在使用的编写大量代码的系统。此类软件很难转移到竞争对手的系统上。

英伟达在今年6月份的股东大会上宣布,CUDA现在包含300多个代码库和600个AI模型,支持3,700个GPU加速应用程序,大约4万家公司的500多万开发人员都在使用这些应用程序。

AI计算市场规模巨大,促使众多公司联合起来与英伟达竞争。花旗投资研究(Citi Research)的半导体和网络设备分析师Atif Malik预测,到2027年,AI相关芯片的市场规模将达到每年4,000亿美元。(英伟达截至今年1月份的财年收入约为610亿美元。)

专注于为云计算客户提供AI的英特尔副总裁Bill Pearson表示,这类合作主要聚焦开发CUDA的开源替代品。英特尔工程师正为两个这样的项目作出贡献,其中一个项目包括Arm、谷歌、三星(Samsung)和高通(Qualcomm)。ChatGPT开发商OpenAI正开展自己的开源工作。

投资者纷纷涌入致力于开发CUDA替代品的初创公司。推动这些投资的部分原因是,许多全球科技巨头的工程师可能会共同努力,让企业能够使用它们青睐的芯片,并不再支付业内一些人所说的“CUDA税”。

可以利用所有这些开源软件的初创公司Groq最近宣布获得6.4亿美元投资,用于打造与英伟达竞争的芯片。这一投资对Groq的估值为28亿美元。

科技巨头们也在投资可以替代英伟达芯片的自研产品。谷歌和亚马逊都生产自己的定制芯片,用于训练和部署AI,微软(Microsoft) 2023年时宣布也将如此。

在挑战英伟达AI芯片主导地位方面,最成功的竞争对手之一是AMD。不过AMD的市场份额仍远低于英伟达,预计2024年其Instinct系列AI芯片的收入为45亿美元。但AMD副总裁Andrew Dieckman表示,该公司正投入巨资招聘软件工程师。

Dieckman说:“我们极大地扩展了软件资源。”AMD上个月宣布将以6.65亿美元收购Silo AI,增加300名AI工程师。

英伟达的主要客户微软和Meta Platforms均购买AMD的AI芯片,反映出它们希望鼓励竞争。AI芯片是科技巨头预算中成本最高的一项支出。

尽管如此,花旗投资研究的Malik表示,他预计英伟达在未来两到三年内将在AI相关芯片领域保持约90%的市场份额。

要了解替代方案的优缺点,搞清楚在不使用任何英伟达硬件或软件的情况下构建ChatGPT风格的AI需要什么会有所帮助。

初创公司NinjaTech AI的首席执行官Babak Pahlavan表示,如果他负担得起,他本会使用英伟达的硬件和软件来创办自己的公司。但英伟达强大的H100芯片供应短缺,导致价格居高不下,并难以获得。

Pahlavan及NinjaTech AI的其他联合创始人最终转向亚马逊。亚马逊生产自己的定制芯片来训练AI,AI在这一过程中从海量数据中“学习”。经过数月的努力,该团队终于成功通过亚马逊Trainium芯片训练了他们的AI。这并不容易。

Pahlavan表示:“遇到过很多挑战和麻烦。” NinjaTech的AI团队曾连续几个月每周与亚马逊软件团队会面四次。最终,两家公司解决了这些问题,NinjaTech的AI“代理人”于今年5月推出,为用户执行任务。该公司称其服务的月活跃用户超过100万,所有这些用户都由基于亚马逊芯片训练和运行的模型提供服务。

Amazon Web Services高管Gadi Hutt的团队与NinjaTech AI进行过合作,他称,一开始双方都有一些麻烦,但现在已经顺利运转。

使用亚马逊定制AI芯片的客户包括Anthropic、爱彼迎(Airbnb)、Pinterest和Snap。亚马逊的云计算客户可以选择使用英伟达芯片,但英伟达芯片的使用成本高于亚马逊自己的AI芯片。Hutt说,即便如此,客户也需要时间才能转换。

从NinjaTech AI的经历来看,像它这样的初创公司哪怕经受痛苦和花费更多研发时间也要在英伟达的“围墙花园”之外构建AI的一大原因就是成本低。

Pahlavan表示,为了每月服务超过100万用户,NinjaTech使用亚马逊的云服务费用约为每月25万美元。他补充说,如果使用英伟达芯片运行同样的AI,费用将为75万至120万美元。

英伟达敏锐地意识到了所有这些竞争压力,也知道其芯片的购买和运行成本很高。黄仁勋承诺,该公司下一代以AI为重点的芯片将降低在硬件上训练AI的成本。

在可预见的未来,英伟达的命运取决于一种惯性,这种惯性以往曾将企业和客户锁定在其他各种封闭平台中,包括苹果公司的平台。
  

■ 
                                                                                         
相关内容
+
 

读者评论
OR

 

分享:
每日头条
OR
+
最新资讯
OR
+
热门排行榜
OR
+
OR品牌理念
+

■ 或者,  留一段影像,回一曲挂牵。丝丝入扣、暖暖心灵 ,需飘过的醇厚与共。
■ 或者,热烈空雨伴芬芳泥土;绿绿生命缠锐意骄阳。
回望,回望,一马平川红酒飘散断归途。
■ 或者,灰蒙蒙空气重回道指一万四千点。滚动时光,照进现实,流逝过往,回归未来。

■ OR 新媒体是一个提供时政、经济、文化、科技等多领域资讯的平台,旨在为用户提供优质的阅读体验。网站的网址是oror.vip,用户可以通过浏览器在台式电脑 、笔记本电脑 、平板电脑 、手机访问。.......