电脑系统网-专业的系统软件下载基地!

当前位置:首页 > IT资讯 > 业界 > 详细页面

英伟达黄仁勋:Blackwell 生产正全力推进,Hopper 需求将持续到明年

编辑:电脑系统网 2024-11-21 来源于:电脑系统网

电脑系统网 11 月 21 英伟达今天宣布了该公司的消息 2025 财年第三财季财报。

报告显示,英伟达第三财季收入为 350.82 亿美元,同比增长 94%,环比增长 17%;未按美国通用会计准则调整的净利润为 200.10 亿美元,同比增长 环比增长100% 18%(注:英伟达财年与自然年不同步,2024年 年 1 月底至 2025 年 1 月底为 2025 财年)。

英伟达预计 2025 财年第四财季收入达到 375 大约1亿美元超过了分析师的平均预期,但与最高预期相比 410 与亿美元相比,存在差距。

财务报告发布后,英伟达创始人、总裁兼首席执行官黄仁勋、执行副总裁兼首席财务官莱特・克雷斯和其他高管出席了随后的财务报告电话会议,解释了财务报告的要点,并回答了分析师的问题。

以下是问答环节的主要内容: 

Cantor Fitzgerald 分析师 C.J. Muse:在大型语言模型扩展规模方面,显然我们还处于非常早期的阶段。我们想知道公司如何帮助客户处理模型扩展中的问题?当然,一些服务器集群还没有被使用 Blackwell 架构,这会导致对产品的更大需求吗?

黄仁勋:在基本模型方面,预训练的扩展规模仍在进行中,进展良好。这是我从观察中看到的,而不是从物理定律的角度来判断的,有证据表明它仍在扩展。然而,我们认为这还不够,我们已经找到了另外两种扩展方法。

一是训练后的扩展。当然,第一代训练后的扩展是为了加强人类反馈,但现在我们有了加强学习人工智能的反馈。并且已经生成了所有形式的合成数据,这些数据有助于训练后的扩展。其中,最重要、最激动人心的进展之一是 ChatGPT o1(Strawberry)该模型实现了推断时间扩展,即之前提到的测试时间扩展。它思考的时间越长,答案的质量就越高,它会考虑使用思维链、多路径规划和各种思维方法,有点像我们人类在回答问题之前思考的过程。所以我们现在有三种扩展方式,正因为如此,我们看到对公司基础设施的需求真的很大。

在上一代基础模型的末期,大约有10万个 Hopper 下一代的规模从10万开始 Blackwell 一开始,你可能会了解到这个行业在预训练扩张、训练后扩张以及推理时间扩张中非常重要的发展趋势。需求真的很大。

同时,对于我们公司来说,推理的扩展确实已经开始了。英伟达是世界上最大的推理平台,已经安装了大量的设备 Ampere 架构和 Hopper 结构训练的内容,其推理也令人难以置信 Ampere 架构和 Hopper 在架构上进行。随着我们将 Blackwell 用于训练基础模型,未来也会为推理留下巨大的设备基础。

因此,我们可以看到,推理需求在上升,推理时间在上升,出身人工智能公司的数量在不断增加。当然,我们也开始看到企业代理人工智能(Agentic AI)这确实是目前最新的趋势,我们可以看到来自许多不同地方的大量需求。

高盛分析师 Toshiya Hari:今年早些时候,黄仁勋发生了大规模的变化,然后上周末有报道称,该公司的芯片产品存在散热问题。此外,一些投资者已经问你如何执行今年的游戏开发者大会(GDC)上述路线图包括明年上市的路线图 Ultra 芯片和 2026 年向 Rubin 平台过渡等。请告诉我这方面的情况吗?一些投资者对公司能否按时执行计划有疑问。另一个问题是供应短缺。我想知道是多个部件导致了这种情况,还是具体是由于特定的芯片或部件,如 CoWoS 封装或者 HBM 芯片问题?短缺是好转还是恶化?

黄仁勋:关于最后一个问题,Blackwell 正如科莱特之前提到的,我们本季度的交付量将超过之前的预期。与供应伙伴合作增加供应链团队 Blackwell 产量做得很好,明年我们会继续努力提高产量。目前的情况是,市场需求超过了我们的供应,我们正处于生成人工智能变革的早期阶段,所以这是预期的。新一代能够推理和思考很长时间的基本模型刚刚推出。其中一个非常令人兴奋的领域是实体人工智能,即能够理解真实世界结构的人工智能。因此, Blackwell 需求很强,我们的实施也很顺利,团队正在全球范围内开展大量的工程工作。包括大家看到的戴尔和 CoreWeave 甲骨文公司正在建设相关系统,微软也有相关系统,即将使用 Grace Blackwell 系统,谷歌(Google)也有相关系统,所有这些云服务提供商都在争夺机遇。

英伟达和这些公司开展了相当复杂的工程工作,因为虽然我们建立了全堆栈和完整的基础设施,但我们需要拆分这些人工智能超级计算机,并将其集成到世界各地的定制数据中心和架构中。我们已经经历了几代人的集成过程,现在我们非常擅长,但仍有大量的工程工作要做,从所有正在建设的系统来看,Blackwell 情况非常好,正如我们之前提到的,我们计划在本季度发货的数量超过了之前的预期。

为了交付供应链,我们建立了七种不同的定制配置 Blackwell 该系统可采用风冷或液冷的方式,包括 NVLink 8 或 NVLink 72,或者 NVLink 8、NVLink 36、NVLink 72 等待不同的组合,还有 X86 或 Grace 架构,将所有这些系统集成到世界各地的数据中心可以说是一个奇迹。

要实现这样规模的产能提升,你必须回顾我们上个季度所需零部件的供应链。 Blackwell 发货量为零,本季度为零 Blackwell 该系统的总交货量以10亿元计量,产能提升的速度令人难以置信。似乎世界上几乎每家公司都参与了英伟达的供应链,我们有很好的合作伙伴,从台积电到安费诺(Amphenol)、Vertiv、SK 海力士,美光,Spil、安普科(Ampcore)、京瓷(Kyec),还有富士康(FOXconn)它建造了许多工厂和广达(Quanta)、纬颖(Wiwynn)、戴尔、惠普(HP)、超微(Supermicro)、联想(Lenovo)等等。参与 Blackwell 提高产能的公司数量真的很惊人,我非常感谢这些合作伙伴。

最后,关于我们执行路线图的问题,公司有年度路线图,预计将继续按照年度路线图执行。当然,我们可以提高平台的性能。同样重要的是,当我们以几倍的速度提高性能时,我们降低了培训成本、推理成本和人工智能成本,使其更容易被公众使用。另一个需要注意的重要因素是一个固定规模的数据中心 —— 数据中心总是有一定的固定规模。过去可能是几十兆瓦。现在大多数数据中心都是100兆瓦到几百兆瓦。我们仍在规划千兆瓦级数据中心 —— 无论数据中心的规模有多大,电力都是有限的,而当你处于电力有限的数据中心时,每个瓦特的最高性能将直接转化为我们合作伙伴的最高收益。

因此,一方面,我们的年度路线图降低了成本。另一方面,由于我们每个瓦特电力的性能都优于任何其他产品,我们为客户创造了尽可能高的回报,因此今年的节奏对我们来说非常重要。据我所知,一切都是按计划进行的。

瑞银分析师 Timothy Arcuri:我想请管理层来展望一下 Blackwell 芯片今年生产能力有所提高。黄仁勋刚刚谈到 Blackwell 情况比预期的要好。我记得你提到交货量值几十亿美元,听起来像是 1 月份的发货量会更大。我还记得你几个月前说过的话,Blackwell 在 4 这个季度月会超过 Hopper,这个预测还有效吗?另一个问题是科莱特,你提到了 Blackwell 随着产能的提高,毛利率将下降到 70% 多一点,那么如果 4 月是产量的交叉点。公司毛利率承受的压力最大吗?是不是从 4 从月开始,公司的毛利率将处于 70% 低位多一点?

科莱特・克雷斯:我们以前讨论过,刚开始升职。 Blackwell 在生产能力方面,鉴于我们推向市场的各种不同配置和芯片,我们将重点确保客户在构建相关系统时能够获得最佳体验。一开始,我们的毛利率会下降。在这一轮供应的早期阶段,毛利率将处于 70% 低位多一点。在接下来的几个季度里,我们将开始提高毛利率,并希望在这一轮产能上升的过程中,我们能够很快恢复到原来的状态 75% 左右水平。

黄仁勋:Hopper 需求将持续到明年,需求将在明年的前几个季度进行。同时,Blackwell 下一季度的发货量将超过本季度,下一季度的发货量将超过(2026年) 第一季度有很多财年。通过这样的比较,我们应该能够更清楚地了解情况。我们确实处于计算机领域两个根本性转变的开始,这具有重要意义。

第一,从在 CPU 上运行编码转向在 GPU 运行可以创建神经网络机器学习,从编码到机器学习的根本转变非常普遍,没有公司不打算进行机器学习,机器学习也是生成人工智能技术的基础,全球价值万亿美元的计算机系统和数据中心现在适应机器学习和现代转型。

另一方面,利用这些系统,我们将创造一种新的能力,即我们所熟知的人工智能。当我们谈论生成人工智能时,本质上,这些数据中心实际上是人工智能工厂,就像电厂发电一样,我们开始生成人工智能。如果有大量的人工智能客户,就像大量的电力消费者一样,这些生成器,即数据中心,将全天候运行,现在许多人工智能服务确实像人工智能工厂一样全天候运行,新系统的在线确实不同于过去的数据中心。因此,上述两个基本趋势才刚刚开始。我们预计,这一增长、现代化转型和新兴产业的创建将持续数年。

相关信息

  • 华为官宣新旗舰鸿蒙平板,刷新办公体验新高度

    从官方释出的信息中可以捕捉到的是,这款新旗舰鸿蒙平板外观与 PC 也很相像,其交互能力与办公能力也无限接近 PC,带来类 PC 级多窗口显示自由布局的创新交互模式...

    2024/11/21 13:06:03

  • 小米王腾:REDMI 为谁而变?

    小米今日宣布 REDMI 全新品牌标识正式登场,由此前的首字母大写改为了全部大写字母,颜色也从渐变色变成了大红纯色。 #k80##REDMI#...

    2024/11/21 13:06:03