英伟达的这项“隐藏业务”将在两周内成为市场焦点
当英伟达(NVDA)于8月27日发布第二季度财报时,投资者将密切关注其数据中心业务的表现。毕竟芯片巨头已经实现了收入g
当英伟达(NVDA)于8月27日发布第二季度财报时,投资者将密切关注其数据中心业务的表现。毕竟,这家芯片巨头通过销售其高性能人工智能处理器实现了该领域的收入增长。
但数据中心部门的业务远远超出了芯片销售范围。它还包括英伟达一些经常被忽视但至关重要的产品:其网络技术。
英伟达的网络产品组合包括NVLink、InfinBand和以太网解决方案,这些技术使其芯片能够相互通信、连接大型数据中心内的服务器,并最终确保最终用户可以访问一切来运行人工智能应用程序。
英伟达网络高级副总裁Gilad Shainer解释道:“构建超级计算机最重要的部分是基础设施。最重要的部分是如何将这些计算引擎连接在一起以形成更大的计算单元。”
这已转化为可观的销售额。上财年,英伟达数据中心总收入达到1151亿美元,其中网络销售额为129亿美元。虽然与1021亿美元的芯片销售额相比,这个数字似乎微不足道,但它仍然超过了英伟达第二大业务部门--游戏的年收入,该业务部门的年收入为113亿美元。
在第一季度,NVIDIA的数据中心收入为391亿美元,其中网络贡献了49亿美元。随着客户-无论是研究型大学还是大型数据中心-继续扩大其人工智能计算能力,网络将进一步增长。
深水资产管理公司管理合伙人吉恩·蒙斯特(Gene Munster)在接受采访时表示:“从数量上看,这是英伟达业务中最被低估的部分。”但它正在像一艘火箭船一样成长。”
连接数千个芯片
英伟达网络高级副总裁Kevin Deierling解释说,在人工智能繁荣的时代,该公司必须解决三种不同类型的网络问题。第一种是NVLink技术,它在大型机架式系统中的一台服务器内或多台服务器之间连接图形处理器,使它们能够通信并增强整体性能。
接下来是InfiniBand,它将数据中心内的多个服务器节点链接起来,有效地形成一台大型人工智能计算机。然后是用于存储和系统管理的前端网络,该网络依赖于以太网连接。
然而,所有这些连接的目的不仅仅是帮助芯片和服务器通信。它们旨在使这些设备能够以最快的速度交换数据。如果您试图将服务器集群作为单个计算单元运行,则它们的通信必须立即发生。
流向图形处理器的数据不足可能会减慢整个计算过程、延迟其他操作并降低数据中心的整体效率。
蒙斯特详细介绍道:“如果没有网络,[英伟达]是一家非常不同的企业。如果没有他们的网络,购买所有英伟达芯片的人们所期望的输出就不会发生。"
随着公司继续开发更大的人工智能模型,以及能够为用户执行任务的自主和半自主代理,确保这些GPU协调工作变得越来越重要。
这一点尤其如此,因为“推理”(运行人工智能模型的过程)需要更强大的数据中心系统。
推理的重要性日益增长
人工智能行业正在经历一场以推理概念为中心的重大转变。在人工智能繁荣的早期,人们认为训练人工智能模型需要超强大的超级计算机,而实际运行这些模型需要相对适度的计算能力。
今年早些时候,DeepSeek声称已使用非顶级英伟达芯片训练人工智能模型,引发了华尔街的一些担忧。当时的想法是,如果公司能够在功能较低的芯片上训练和运行人工智能模型,那么就不需要英伟达昂贵的高性能系统。
但这一论点很快就被揭穿了,因为芯片公司指出,人工智能模型在高性能人工智能计算机上表现更好,比在劣质系统上处理更多信息的速度更快。
“事实证明,随着我们进入代理工作流程,它开始看起来越来越像培训。所以所有这些网络都很重要。将它们结合在一起,紧密耦合到中央处理器、图形处理器和DPU [数据处理单元],所有这些对于使推理成为良好的体验至关重要。”
然而,NVIDIA的竞争对手正在盘旋。AMD正在寻求抢占更多的市场份额,而亚马逊、谷歌和微软等云计算巨头则继续开发自己的人工智能芯片。
Forrester Research分析师Alvin Nguyen指出,行业集团也拥有相互竞争的网络技术,包括NVLink的直接挑战者UALink。
不过,就目前而言,英伟达仍然处于领先地位。随着科技巨头、研究机构和企业继续争夺英伟达的芯片,其网络业务几乎肯定会持续增长。
免责声明:本文观点来自原作者,不代表Hawk Insight的观点和立场。文章内容仅供参考、交流、学习,不构成投资建议。如涉及版权问题,请联系我们删除。