OR 新媒|oror.vip跨平台阅读首选
2025-03-03 11:41
商业与经济 科技

面对AI转向“推理”竞争,英伟达如何捍卫王者地位?

尽管DeepSeek和其他“推理”人工智能模型不断崛起,但英伟达已在为适应这种变化做准备,希望在AI竞赛中保持领先。
英伟达市值登顶,令人想起世纪初的互联网热潮
Asa Fitch


英伟达(Nvidia)去年年初面临着一个日益严峻的威胁:AI领域正在发生的变化引发了竞争。

随着数以百万计的用户开始使用AI工具,与训练模型的计算密集型工作相比,运行模型来响应众多查询变得更加重要,而前者曾推动英伟达在AI热潮中登顶。许多人预计,这种转变可能会让包括Advanced Micro Devices Inc.在内的竞争对手有机会抢占市场份额。

尽管潮流已从创建模型转向运行模型(业内称为“推理”),但英伟达已在为适应这种变化做准备,希望在AI竞赛中保持领先。

英伟达最新AI芯片Blackwell体积更大,拥有更多内存,并且在AI计算中使用的数字精度较低。行业研究公司SemiAnalysis的创始人迪伦·帕特尔(Dylan Patel)表示,这些芯片还可以通过超快网络大量连接在一起,从而在推理方面带来了“突破性进展”。

他说:“英伟达Blackwell芯片在推理方面的性能提升远大于训练方面。”

英伟达周三公布的最新季度财报在一定程度上反映了该公司在适应行业转变方面取得的成功。该公司第四财季销售额和利润均超分析师预期,而且对当前财季的展望也较为乐观。

尽管业绩强劲,但英伟达股价周四仍大跌8.5%,至120.15美元,创下2018年11月以来业绩公布后的最大单日跌幅。由于分析师指出英伟达第四财季利润率收窄,而且市场对其在中国的芯片销售感到担忧,投资者变得谨慎起来。

随着AI向所谓的“推理”模型演变,推理已成为一个越来越受关注的焦点,在这种模型中,数字大脑会分步骤思考用户查询的答案。英伟达首席执行官黄仁勋(Jensen Huang)周三在与分析师的电话会议上表示,这个过程可能需要多达100倍的算力。

他说:“我们今天绝大多数的计算实际上都是推理,而Blackwell将所有这些都提升到了一个新的水平。我们在设计Blackwell时就考虑到了推理模型。”

英伟达首席财务官科莱特·克雷斯(Colette Kress)补充称,该公司Blackwell芯片的许多早期部署都指定用于推理工作。她说,这种模式对该公司的新一代芯片来说尚属首次。

开发推理模型的公司包括OpenAI、谷歌(Google)以及中国新兴AI公司DeepSeek。今年1月,DeepSeek的横空出世给自AI热潮开始以来一直高歌猛进的英伟达带来了首次重大恐慌。DeepSeek当时表示,该公司所构建的复杂AI模型只需要较少的英伟达芯片。

在ChatGPT等工具走红后,其背后的生成式人工智能(Generative AI)技术呈现爆炸式增长,同时大大刺激了对能够为这些AI提供相应算力的芯片的需求。《华尔街日报》走访了亚马逊芯片实验室,了解这些芯片的工作原理,以及科技巨头们如何看待芯片的未来趋势。封面图片制作:John McColgan
黄仁勋周三淡化了这种威胁,他将DeepSeek的进步描述为“一项卓越的创新”,世界各地的AI开发者都在从中获得灵感。

黄仁勋在过去曾推测,随着AI与人类的行为方式更加一致,推理和训练最终将会融合。他去年在斯坦福大学(Stanford University)表示,人们不会把吸收和参考新信息这两件事分开来做:“你一直都是在一边学习一边推理。”

业内人士表示,英伟达在推理领域仍然面临着激烈的竞争。虽然英伟达在硬件方面的进步以及对其AI软件的投资留住了客户,但来自初创公司和更成熟的芯片制造商的各种新芯片意味着英伟达要保持领先地位并非易事。

AI芯片初创公司Etched的联合创始人Robert Wachen表示,市场已经在切实采用和认真考虑替代方案。Etched的目标是通过制造专用芯片在推理领域与英伟达展开竞争。Wachen说,英伟达的芯片从根本上受到自身源头的限制,因为这些芯片是为了运行AI而改造出来的图形处理单元,而不是针对当下需要量身定制的。

“磨尖瑞士军刀的作用也就这么大了。”Wachen说,“如果你想获得最佳性能,就必须构建专门的硬件。你现在遇到瓶颈了。”

许多初创公司已经开始在吸引AI大客户方面取得进展。设计出有史以来最大芯片的初创公司Cerebras在本月表示,该公司正与法国AI开发商Mistral合作开发世界上速度最快的AI聊天机器人。沙特石油巨头沙特阿美(Aramco)正与AI芯片初创公司Groq和SambaNova Systems密切合作,以建立大型推理计算设施。

那些与英伟达竞争的更成熟对手们也在推进各自的行动,比如Advanced Micro Devices,该公司的AI芯片主要面向推理市场。所有最大型的科技公司都在内部开发自己的AI推理芯片,这些芯片可能会与英伟达的芯片竞争,或者取代英伟达的芯片。

IT管理公司Ensono的高管Jim Piazza以前曾在Meta Platforms从事计算基础设施方面的工作,他表示,英伟达可能需要采取进一步措施,通过开发专门用于推理的芯片来直接应对竞争。

“我不得不说,英伟达迟早会推出一款推理领域的强大产品,因为若不这么做,我认为英伟达就会在该市场上变得黯然失色。”他说,“这可能需要数年时间,但我认为这是大势所趋。”

黄仁勋已经在思考一个需要更多算力的未来,他希望这些算力来自英伟达。他在周三表示,推理模型最终可能需要比其前身多几千倍甚至几百万倍的计算能力。他说,“这方面才刚刚起步。”

注:本文仅代表作者个人观点     

■ 
                                                                                         
相关内容
+
读者评论
MORE +

热门排行榜
OR
+
英伟达市值登顶,令人想起世纪初的互联网热潮
2025-03-03 11:41
商业与经济 科技

面对AI转向“推理”竞争,英伟达如何捍卫王者地位?

尽管DeepSeek和其他“推理”人工智能模型不断崛起,但英伟达已在为适应这种变化做准备,希望在AI竞赛中保持领先。
Asa Fitch


英伟达(Nvidia)去年年初面临着一个日益严峻的威胁:AI领域正在发生的变化引发了竞争。

随着数以百万计的用户开始使用AI工具,与训练模型的计算密集型工作相比,运行模型来响应众多查询变得更加重要,而前者曾推动英伟达在AI热潮中登顶。许多人预计,这种转变可能会让包括Advanced Micro Devices Inc.在内的竞争对手有机会抢占市场份额。

尽管潮流已从创建模型转向运行模型(业内称为“推理”),但英伟达已在为适应这种变化做准备,希望在AI竞赛中保持领先。

英伟达最新AI芯片Blackwell体积更大,拥有更多内存,并且在AI计算中使用的数字精度较低。行业研究公司SemiAnalysis的创始人迪伦·帕特尔(Dylan Patel)表示,这些芯片还可以通过超快网络大量连接在一起,从而在推理方面带来了“突破性进展”。

他说:“英伟达Blackwell芯片在推理方面的性能提升远大于训练方面。”

英伟达周三公布的最新季度财报在一定程度上反映了该公司在适应行业转变方面取得的成功。该公司第四财季销售额和利润均超分析师预期,而且对当前财季的展望也较为乐观。

尽管业绩强劲,但英伟达股价周四仍大跌8.5%,至120.15美元,创下2018年11月以来业绩公布后的最大单日跌幅。由于分析师指出英伟达第四财季利润率收窄,而且市场对其在中国的芯片销售感到担忧,投资者变得谨慎起来。

随着AI向所谓的“推理”模型演变,推理已成为一个越来越受关注的焦点,在这种模型中,数字大脑会分步骤思考用户查询的答案。英伟达首席执行官黄仁勋(Jensen Huang)周三在与分析师的电话会议上表示,这个过程可能需要多达100倍的算力。

他说:“我们今天绝大多数的计算实际上都是推理,而Blackwell将所有这些都提升到了一个新的水平。我们在设计Blackwell时就考虑到了推理模型。”

英伟达首席财务官科莱特·克雷斯(Colette Kress)补充称,该公司Blackwell芯片的许多早期部署都指定用于推理工作。她说,这种模式对该公司的新一代芯片来说尚属首次。

开发推理模型的公司包括OpenAI、谷歌(Google)以及中国新兴AI公司DeepSeek。今年1月,DeepSeek的横空出世给自AI热潮开始以来一直高歌猛进的英伟达带来了首次重大恐慌。DeepSeek当时表示,该公司所构建的复杂AI模型只需要较少的英伟达芯片。

在ChatGPT等工具走红后,其背后的生成式人工智能(Generative AI)技术呈现爆炸式增长,同时大大刺激了对能够为这些AI提供相应算力的芯片的需求。《华尔街日报》走访了亚马逊芯片实验室,了解这些芯片的工作原理,以及科技巨头们如何看待芯片的未来趋势。封面图片制作:John McColgan
黄仁勋周三淡化了这种威胁,他将DeepSeek的进步描述为“一项卓越的创新”,世界各地的AI开发者都在从中获得灵感。

黄仁勋在过去曾推测,随着AI与人类的行为方式更加一致,推理和训练最终将会融合。他去年在斯坦福大学(Stanford University)表示,人们不会把吸收和参考新信息这两件事分开来做:“你一直都是在一边学习一边推理。”

业内人士表示,英伟达在推理领域仍然面临着激烈的竞争。虽然英伟达在硬件方面的进步以及对其AI软件的投资留住了客户,但来自初创公司和更成熟的芯片制造商的各种新芯片意味着英伟达要保持领先地位并非易事。

AI芯片初创公司Etched的联合创始人Robert Wachen表示,市场已经在切实采用和认真考虑替代方案。Etched的目标是通过制造专用芯片在推理领域与英伟达展开竞争。Wachen说,英伟达的芯片从根本上受到自身源头的限制,因为这些芯片是为了运行AI而改造出来的图形处理单元,而不是针对当下需要量身定制的。

“磨尖瑞士军刀的作用也就这么大了。”Wachen说,“如果你想获得最佳性能,就必须构建专门的硬件。你现在遇到瓶颈了。”

许多初创公司已经开始在吸引AI大客户方面取得进展。设计出有史以来最大芯片的初创公司Cerebras在本月表示,该公司正与法国AI开发商Mistral合作开发世界上速度最快的AI聊天机器人。沙特石油巨头沙特阿美(Aramco)正与AI芯片初创公司Groq和SambaNova Systems密切合作,以建立大型推理计算设施。

那些与英伟达竞争的更成熟对手们也在推进各自的行动,比如Advanced Micro Devices,该公司的AI芯片主要面向推理市场。所有最大型的科技公司都在内部开发自己的AI推理芯片,这些芯片可能会与英伟达的芯片竞争,或者取代英伟达的芯片。

IT管理公司Ensono的高管Jim Piazza以前曾在Meta Platforms从事计算基础设施方面的工作,他表示,英伟达可能需要采取进一步措施,通过开发专门用于推理的芯片来直接应对竞争。

“我不得不说,英伟达迟早会推出一款推理领域的强大产品,因为若不这么做,我认为英伟达就会在该市场上变得黯然失色。”他说,“这可能需要数年时间,但我认为这是大势所趋。”

黄仁勋已经在思考一个需要更多算力的未来,他希望这些算力来自英伟达。他在周三表示,推理模型最终可能需要比其前身多几千倍甚至几百万倍的计算能力。他说,“这方面才刚刚起步。”

注:本文仅代表作者个人观点     

■ 
                                                                                         
相关内容
+
 

读者评论
OR

 

分享:
每日头条
OR
+
最新资讯
OR
+
热门排行榜
OR
+
OR品牌理念
+

■ 或者,  留一段影像,回一曲挂牵。丝丝入扣、暖暖心灵 ,需飘过的醇厚与共。
■ 或者,热烈空雨伴芬芳泥土;绿绿生命缠锐意骄阳。
回望,回望,一马平川红酒飘散断归途。
■ 或者,灰蒙蒙空气重回道指一万四千点。滚动时光,照进现实,流逝过往,回归未来。

■ OR 新媒体是一个提供时政、经济、文化、科技等多领域资讯的平台,旨在为用户提供优质的阅读体验。网站的网址是oror.vip,用户可以通过浏览器在台式电脑 、笔记本电脑 、平板电脑 、手机访问。.......