编辑 ｜ 言征

出品 | 51CTO技术栈（微信号：blog51cto）

2025年开年 ，博通AI芯片的连续流接零租赁市市场角逐再度成为大洋彼岸的角逐话题。近日 ，天暴霸主英伟达的涨英自由收入增长速度开始放缓 ，相比之下过去30天博通等公司股价持续暴涨 ，伟达伟达微软业界很多人都在猜测率先打破英伟达垄断地位的将遭近于第二“英伟达”会是谁?云租赁市场又会发生怎样的变化?

12月25日，最新一期的平替BG2播客中 ，主持人比尔·格利（Bill Gurley）和布拉德·杰斯特纳（Brad Gerstner）再次同台，势不剩年剩并邀请了SemiAnalysis的够英创始人兼首席分析师迪伦·帕特尔（Dylan Patel），高防服务器一起来讨论AI芯片、卡生半导体领域正在进行着的产过场此消彼长和开年AI巨无霸的最新动向 。

播客中，现金三位讨论了芯片竞争中英伟达的博通众多对手：AMD
、Intel、连续流接零租赁市谷歌、天暴亚马逊甚至包括曾扬言要打造自己芯片的OpenAI等内部的一些新进展 ，以及存储市场的利好利空和未来预测，比如他们预计内存市场的增速将会超过GPU（领先硅）、模板下载2026年微软和Meta的自由现金流将接近于0，这是马斯克带头大搞军备竞赛的结果
。

在开始讨论这个话题之前,三位还探讨了AI预训练的撞墙、合成数据生成,以及既然都在说“预训练已过时”但仍建造更大集群的悖论 、推理时的计算等 。

话不多说，这就为大家奉上精彩的观点
。

微软在OpenAI模型上赚取50%到70%的毛利率。亿华云这是他们从AI获得的利润分成或他们放弃的份额。有15家不同的公司在那里提供Llama和阿里巴巴和DeepSeek和Mistral等不同模型的API推理。如果我们只是部署lalama 7 B质量的模型，我们已经过度建设了，这甚至不是开玩笑。对于实验室而言 ，你必须拥有最好的模型，服务器租用否则你什么都不是
。Nvidia最高的销售成本并不是台积电，这是人们没有意识到的 ，实际上主要是HBM内存。三星并没有大杀四方，因为低端正在遭受打击 ，高端又无法突破。AMD的GPU被认为更好的唯一原因
：芯片上的云计算HBM内存更多 。谷歌为一些英伟达可能没有那么关注的事情进行了工程设计。所以实际上，芯片之间的互连在某些方面可能具有竞争力，甚至比英伟达更好，在其他方面则稍逊一筹，因为他们一直在与博通合作 。博通非常适合制造NV交换机的竞争产品，许多人会认为这是英伟达在硬件方面相对于其他人的最大竞争优势之一。在接下来的六个月里 ，源码下载谷歌TPU的购买会有所放缓，因为他们没有数据中心空间。

以下是相关的内容整理，原文节选整理如下：

大模型进入推理价格战时代如同从Oracle进入到开发时代

比尔: 

快速提问。我们承诺会讨论这些替代方案 。所以我们最终会到达那里 。但如果你回顾一下，我们已经多次使用互联网浪潮的比较，当所有的风险投资公司开始在互联网上发展时，他们都在Oracle和Sun上，五年后，他们不再在Oracle或Sun上
。有些人认为他们从开发沙盒世界过渡到了优化世界
。这种情况会发生吗
？这里有没有等价性
？如果你能谈谈为什么后端如此陡峭和便宜 ，你知道的，比如你退一步 ，你知道
，你只需要稍微后退一点就可以节省很多成本，这很疯狂。  

迪伦:  

是的，所以，今天 ，对吧？像o1非常昂贵
，你退到4o，它就便宜多了，你跳到4o和mini ，它非常便宜，为什么？因为现在我用4o和mini与Llama竞争  ，我与DeepSeek竞争。我与mistral竞争，我与阿里巴巴竞争，我与许多公司竞争。  

比尔:  

这些是市场出清价格。  (出清价格是指 ：通过竞争机制形成的价格
，使得市场供需达到平衡。)

迪伦:  

我认为是的 。此外 ，对吧，还有一个问题是推理一个小模型相当容易，对吧？我可以在1个AMD GPU上运行lalama 70 b ，我可以在一个Nvidia GPU上运行lalama 70 b ，很快就会有像在亚马逊的新Trainium上运行一样
，对吧  ？我可以在一个芯片上运行这个模型。这是一个非常容易的问题 ，我不会说非常容易的问题 ，仍然很难。它比运行这个复杂的推理或这个非常大的模型要容易得多
，对吧 
？因此 ，存在这种差异，对吧
？还有就是
，嘿，有15家不同的公司在那里提供Llama和阿里巴巴和DeepSeek和Mistral等不同模型的API推理，对吧
？  

布拉德:

我们在谈论Cerebras（芯片厂商）和Groq，还有你知道的 
，Fireworks和所有这些其他的。  

迪伦:  

是的 ，Fireworks一起 。你知道的，所有这些不使用自己硬件的公司。当然，Groq和Cerebras正在做自己的硬件并也在做这件事 ，但市场，这些，这里的利润率很差
，对吧 ？  

你知道的，我们之前有关于推理价格战的事情，当mistral发布了他们的mixed stra模型时，这在去年晚些时候是非常革命性的 ，因为它达到了一个在开源中不存在的性能水平，它使价格下降得如此之快
，对吧
？  

迪伦:

因为每个人都在为API竞争。我作为API提供者能为你提供什么？为什么你不从mine切换到his，因为，嗯，没有，它相当通用，对吧？我仍然在同一个模型上获得相同的tokens，所以这些家伙的利润率要低得多。所以微软在OpenAI模型上赚取50%到70%的毛利率。这是他们从AI获得的利润分成或他们放弃的份额，对吧？

或者，你知道的，Anthropic在他们最近一轮中，他们展示了70%的毛利率  ，但这是因为他们有这个模型 ，你退到这里
，没有人使用这个模型，你知道的 ，从OpenAI或Anthropic使用这个模型的人要少得多
，因为他们可以像取Llama的权重一样，放在自己的服务器上 ，或者反之亦然，去许多竞争的API提供者那里，其中一些是风险投资的 ，一些是，你知道的，而且在亏钱  ，对吧 ？所以这里存在所有这些竞争 。  

所以你不仅在说我要退一步，这是一个更容易的问题。我，因此
，如果模型小10倍，它就像在顶尖模型运行时便宜15倍。在顶部的那之上，我还要去掉那个毛利率 。所以它不是运行时便宜15倍，而是运行时便宜30倍 。所以这就是，这就是像 ，好吧，一切都变成商品了吗 ？但这里有一个巨大的追逐空间
，如果你在部署服务，这对你来说是很好的 。  

为什么非得要做最好的模型？能赚钱吗？

迪伦:

你必须拥有最好的模型，否则你什么都不是 ，如果你是实验室之一，对吧？因此
，你会看到许多试图构建最好模型但失败的公司都在挣扎。  

布拉德:

而且可以说 ，你不仅需要拥有最好的模型
，你实际上真的需要有一个愿意为最好的模型买单的企业或消费者。因为归根结底  ，最好的模型意味着有人愿意为你支付这些高利润率 。而那要么是企业，要么是消费者
。所以我认为，你知道的，你很快就会缩小到只有少数人能够在这个市场上竞争。  

迪伦:

在模型方面，是的 。我认为在谁愿意为这些模型买单方面
，我认为更多的人会为最好的模型买单
，对吧 ？  

当我们内部使用模型时，对吧？我们有，我们有 ，我们有语言模型检查每一个监管文件和许可 ，以查看数据中心的东西并将其提取出来  ，告诉我们应该看哪里以及不应该看哪里 。我们只是使用最好的模型，因为它非常便宜
，对吧？就像我从中获得的数据 ，我从中获得的价值要高得多
。你们在用什么模型？我们现在实际上使用的是Anthropic，cloud three point。我看到了新的sonnet。所以只是因为o1在某些方面更好 ，但不一定是监管文件和许可以及类似的事情 ，因为错误的成本要高得多，对吧 ？  

同样对于开发者来说 ，对吧 ？如果我能提高一个在湾区年薪30万美元的开发者20%，那将很多。如果我能用75或50个开发者完成一个团队100个开发者的同样工作，或者我能发布两倍多的代码 ，使用最昂贵的模型是如此值得的，因为o1很昂贵 。相对于4o来说
，它仍然非常便宜，对吧？  

社会对智能的需求成本很高，对吧？这就是为什么智能工作是最高薪的工作 ，白领工作，对吧？或者如果能够降低智能的成本或增强智能 ，那么就会有一个很高的市场出清价格，这就是为什么我认为，哦 ，是的，o1很昂贵，人们总是会倾向于在一定水平上寻找最便宜的东西。但每次我们突破一个新的智能水平时 ，不仅仅是 ，哦 ，你知道的
，如果我们能多做几项任务，我认为它可以完成的任务模式会大幅增长 。

很少有人能使用GPT 2和3，对吧？当达到下一代的质量飞跃时，很多人可以使用GPT-4，能够使用它的人数 ，它可以完成的任务数量将会爆炸性增长，因此它可以增强的白领工作 ，提高生产力的数量将会增长，因此该tokens的市场出清价格将会非常有趣
。  

英伟达卡如果仅用来推理 ，显然是过度建设了

比尔
 ：

非常有趣。我可以提出另一种论点，即某人处于高容量状态 ，你知道的 ，这在取代大量客户服务电话或其他方面可能会倾向于绝对最小化支出 ，并最大化围绕这个东西构建的价值。数据库写入和读取等等 。  

迪伦：

所以，我喜欢的一个有趣的计算是 ，如果你取Nvidia出货量的四分之一 ，并假设它们都用于推理lalama 7 b ，你可以给地球上每个人每分钟100个tokens，对吧？或者对不起，每秒100个tokens
  。你可以给地球上每个人每秒100个tokens
，这很荒谬 ，你知道的。所以，如果我们只是部署lalama 7 B质量的模型 ，我们已经过度建设了 ，这甚至不是开玩笑。现在如果我们部署的东西可以增强工程师
，提高生产力，并帮助我们更快地构建机器人或自动驾驶汽车或其他东西 ，那么这是一个非常不同的计算，对吧？因此，这就是整个事情 ，是的，小模型是存在的，但它们非常容易运行 
。  

比尔 ：

运行它们，这两者可能都是真的
，对吧？  

迪伦：

我们将有大量小模型在到处运行，但它们的计算成本非常低。是的。  

布拉德：

比尔和我之前讨论过这个问题
，关于你曾经报道的硬盘。但如果你看看内存市场，它一直是一个繁荣与萧条的市场。想法是你总是在接近峰值时出售这些东西。你知道的 ，你总是在低谷时购买它们。你不会在中间的任何地方拥有它们。它们的市盈率非常低 。我在谈论Hynix和Micron ，当你考虑到推理时的计算时 ，似乎这些芯片所需的内存需求，Jensen已经谈了很多关于这一点 ，正在经历一个长期的上升趋势 ，对吧？因为如果他们进行这些传递 ，你知道的，你正在运行，就像你说的，10次或100次或1000次推理时推理，你只需要越来越多的内存
，这就是上下文长度 。  

内存市场的增长速度或超过GPU

布拉德 ：

所以，谈一谈你对内存市场的看法。  

迪伦： 

是的
，所以 ，为了更好地设定舞台
，推理模型输出成千上万个tokens。  当我们查看变换器注意力时，对吧？变换器的圣杯就是它如何理解整个上下文，这会显著增长。而Kv缓存，即跟踪这个上下文意味着什么的内存，是呈二次方增长的，对吧？因此，如果我从上下文长度10增加到100，这不仅仅是10倍 ，而是更多 ，对吧？所以你正确地看待它  。今天的推理模型  ，它们会思考10000个tokens ，20000个tokens，当我们达到
，嘿，复杂的推理会是什么样子？模型将达到思考数十万个tokens的程度，而这只是整个思维过程的一部分，或者可能是某种搜索 ，但它会思考很多
。而这个Kv缓存将会膨胀。  

比尔 ：

你是在说内存的增长速度可能会超过GPU 。  

迪伦：

客观地说，当你查看Nvidia的销售成本时，他们最高的销售成本并不是台积电，这是人们没有意识到的，实际上主要是HBM内存，至少目前是这样 。  

比尔：

但没错，所以 ，所以有。  

迪伦： 

有三家内存公司
，对吧 ？有三星、SK hynix和Micron。Nvidia主要使用SK Hynix ，这是内存市场整体的一个重大转变，因为历史上它一直是一个商品，对吧？也就是说，无论我从三星还是SK hynix还是Micron购买
，它都是通用的
。  

比尔：

或者可以互换。  

迪伦：

是的。甚至现在三星也受到了很大的打击 ，因为有一个中国内存制造商cxmt，他们的内存不如三星的好，但它是低端内存 ，它是通用的，因此低端内存的价格已经大幅下降 。在HBM方面 ，三星几乎没有份额 ，对吧
？尤其是在Nvidia。因此 ，这正在严重打击三星 ，尽管他们是世界上最大的内存制造商，哦 ，每个人总是说，如果你说内存，就像，是的 。三星在技术上稍微领先一点 ，他们的利润率稍微好一点，他们正在大杀四方 ，对吧？但现在情况并非完全如此 ，因为在低端 ，他们受到了一点打击
，而在高端，他们无法突破 ，或者他们一直在尝试，但一直在失败。  

迪伦 ：

另一方面，你有像SK Hynix和Micron这样的公司，他们正在将大量产能从商品DRAM转换为HBM。现在HBM仍然是通用的 ，对吧 ？在某人达到一定技术水平的情况下，他们可以互换Micron和Hynix ，对吧 ？所以在那个意义上它是通用的，对吧 ？在那个意义上它是一个商品 。但因为推理需要更多的内存 ，而H-100到Blackwell的销售成本中，HBM的成本占比增长速度超过了领先硅的成本占比 。  

你有这种大的转变或动态正在发生 。这不仅适用于Nvidia的GPU ，也适用于超大规模的GPU
，对吧？或者像TPU 、Amazon 、Trainium等加速器。  

HBM市场的毛利率：并不高 ，英伟达很强势

比尔
：

SK的毛利率更高，内存公司也是如此，对吧？

布拉德：

如果你听Jensen（黄仁勋）的描述 ，你知道的 ，不是所有的内存都是一样的 ，对吧？所以不仅仅是产品今天更具差异化，产品中包含的软件更多，而且它还如何整合到整个系统中，对吧 ？回到供应链问题  ，听起来它都是商品。只是在我看来 ，至少有一个问题是 ，它是否在结构上发生了变化 ？我们知道长期趋势是向上的。  

比尔  ：

也许它足够差异化，以至于不再是商品。  

迪伦
：  

它可能是
。我想指出的另一件事是
，有趣的是，HBM的毛利率并不出色。它们还不错，但并不出色  ，实际上普通的内存 ，像服务器内存这种高端内存，但不是HBM，毛利率实际上比HBM更高。原因在于Nvidia对内存制造商施加了如此大的压力 ，对吧？他们希望HBM的内存一代比一代更快，但并不一定是像其他人那样用于服务器。  

AMD：很多巨头帮忙，但仍不足以叫板英伟达

迪伦  ：

现在这意味着什么，这意味着
，嘿，即使三星可能达到了4级，对吧，或者他们之前达到的3级，他们也无法达到Hynix现在的水平 。竞争对手在做什么，对吧 ？AMD和亚马逊在说什么
？AMD明确表示他们的GPU更好，因为他们提供了更多的内存 ，对吧？他们提供了更多的内存和更多的内存带宽
。这就是AMD的GPU被认为更好的唯一原因 ，芯片上的HBM内存。  

迪伦：

好的，这是在封装上
，对吧？具体来说
，是的 。然后当我们看亚马逊时，他们在reinvent上的一切，如果你真的和他们谈过，当他们宣布Trinum 2时，我们关于它的整个帖子和分析是，从供应链的角度来看，这看起来像是亚马逊Basics TPU，对吧？它还不错 ，对吧？但它真的很便宜，A&B ，它提供了市场上任何芯片每美元最多的HBM容量和最多的HBM内存带宽。因此，对于某些应用来说
，使用它是有意义的。所以这是一个真正的转变
，嘿，我们可能无法像Nvidia那样设计，但我们可以在封装上放置更多的内存 。  

现在
，这只是问题的一个方面  ，你知道的，这是一个多方面的问题
。他们的网络能力远远不够好，他们的软件远远不够好 ，他们的计算单元也不够好 。他们，天哪 ，他们每美元的内存带宽更多。  

比尔 ： 

好吧，这就是我们想在时间耗尽之前讨论的，就是谈谈这些替代方案
，你刚刚开始这样做  。所以尽管有所有令人惊叹的理由 ，似乎没有人会想与Nvidia争斗，但许多人正在尝试，对吧 ？我甚至听到有人谈论那些还没有尝试的 ，比如OpenAI一直在谈论他们自己的芯片
。这些其他参与者表现如何 ？你会如何评估 ？让我们从AMD开始，因为它是独立公司 ，然后我们再谈谈一些内部项目。  

迪伦： 

是的，所以AMD在硅工程方面做得很好 ，对吧  ？从硅工程的角度来看
，他们是有竞争力的，但你知道，kickton告诉我们 ，但这就像
，你知道 ，从婴儿那里偷糖果一样。  

比尔 ：

他们从这里开始，我认为在20年的时间里，这是相当令人惊叹的
 。  

迪伦 ： 

所以AMD非常好，但他们缺少软件。AMD不知道如何做软件，我认为他们上面的开发者很少。他们不会花钱为自己建造一个GPU集群
，以便他们可以开发软件，对吧？这简直是疯狂的，对吧？  

迪伦：  

像Nvidia一样，你知道的 ，前500名超级计算机列表并不相关
，因为大多数最大的超级计算机，比如Elon的X和微软等都不在上面 。但Nvidia在前500名超级计算机列表上有多个超级计算机，他们完全内部使用它们来开发软件 ，无论是网络软件、计算软件、推理软件 ，所有这些东西，你知道的
，测试他们所做的所有更改，然后推出更新，你知道的 ，如果XAI因为软件不工作而生气，视频将在第二天或两天后推出更新 ，就像时钟一样 ，对吧？因为当你在训练模型时，总会有许多东西不断出错 。

AMD不这样做，对吧？我不知道为什么他们不花钱买一个大型集群 ，另一件事是他们不知道如何进行系统级设计。他们一直生活在一个与Intel竞争的世界中
。所以如果我制造了一个比Intel更好的芯片 ，那么我就很棒，因为软件是x86。 

比尔：

它是X ，我的意思是Nvidia并不隐瞒他们是一个系统公司，所以他们应该已经读过所有这些 。  

迪伦： 

是的，所以他们收购了这个系统公司Zt systems ，但在那里，你知道的，整个机架规模架构
 ，谷歌在2018年与GPU V3一起部署 。  

比尔
：

有没有超大规模公司对AMD的成功如此感兴趣
，以至于他们与AMD合作？  

迪伦 ：

所以超大规模公司都有自己的定制硅努力，但他们也在以不同的方式帮助AMD
，对吧？所以Meta和微软在软件方面帮助他们，对吧？帮助AMD的程度还不足以让AMD赶上或接近。他们在AMD应该做什么方面帮助了很多 ，对吧？  

迪伦 ：

所以其他人认识到的是，如果我拥有世界上最好的工程团队，那并不能告诉我问题是什么 ，对吧 ？问题有这个、这个、这个。它有这些权衡。AMD不知道软件开发，不知道模型开发，不知道推理 ，不知道推理经济学是什么样子 。那么他们如何知道应该做出什么权衡 ？我是否应该在芯片上更用力地推动这个杠杆，这将使我不得不在其他方面退缩 ，或者我到底应该做什么
 ，对吧？但超大规模公司在帮助，但帮助的程度还不足以让AMD与Nvidia处于同一时间线 。  

比尔 ：  

AMD在明年的人工智能收入方面会有多成功？他们可能会在哪些方面取得成功？  

迪伦 ：

是的，我认为他们与微软的成功会比今年少，他们与Meta的成功也会比今年少。这是因为像他们塑造的方式那样，AMD的GPU实际上对中国的法规来说相当不错 。但总体而言 ，我认为AMD会做得不错。他们将从市场中获利，只是不会像人们希望的那样大获成功，他们的总营收份额明年会下降。  

比尔： 

好的？  

迪伦：  

但他们仍然会做得很好 ，对吧 ？数十亿美元的收入不是微不足道的。  

谷歌TPU：第二多AI负载的三大优点

比尔：

让我们谈谈Google TPU 。你之前说过它拥有第二多的工作负载
，似乎相差很大 ，它稳居第二位 。

迪伦：

是的，所以这就是整个系统和基础设施问题更加重要的地方
。

迪伦：

每个单独的GPU本身并不那么令人印象深刻。对吧？它有不错的网络 ，有不错的架构等等
 ，内存也还可以 ，对吧 ？就像它本身并不那么令人印象深刻，但当你说到 ，嘿 ，如果我花费X金额 ，那么我的系统会怎样 ？谷歌的TPU看起来很了不起 。所以谷歌为一些英伟达可能没有那么关注的事情进行了工程设计
 。所以实际上，芯片之间的互连在某些方面可能具有竞争力，甚至比英伟达更好 ，在其他方面则稍逊一筹，因为他们一直在与博通合作 
，你知道，博通是网络领域的世界领导者，你知道，与他们一起制造芯片。自2018年以来，他们一直在扩大规模，对吧？

英伟达在谈论GB 200 NVL 72 GPU今天达到8000，对吧？虽然它不是一个交换机，而是一个点对点的连接 ，你知道 ，有一些技术上的细微差别  。所以并不是说这些数字就是你应该关注的全部，但这很重要。

迪伦 ：

另一个方面是谷歌多年来一直在引入水冷技术，对吧？英伟达刚刚意识到这一代产品需要水冷，而谷歌引入了一种英伟达GPU所不具备的可靠性水平 。你知道，一个不为人知的秘密是去问人们GPU在云中或部署中的可靠性率是多少。就像，哦天哪 ，它们的可靠性也就那样 ，但尤其是在最初 ，你必须拿出大约5%。

布拉德 ：

如果它们在谷歌之外没有更商业化成功的话 。

迪伦 ：

我认为谷歌保留了很多他们的软件
 ，当他们应该将其开源时，因为，谁在乎呢 ？你知道
 ，这是其中一个方面。你知道，DeepMind使用的很多软件根本无法在Google Cloud 2上使用 。

比尔： 

即使是他们的Google Cloud产品相对于AWS也有这种偏见
。

迪伦
： 

第二，它的定价，嗯，它并不是那么过分 ，在标价上，就像GPU在Google Cloud上的标价也是过分的
。

迪伦：

但你知道
，作为一个个人
，当我租用GPU时 ，你知道，我告诉谷歌，嘿
，你知道，等等
。你就像 ，好的，你可以绕过第一轮谈判 ，将其降低，但然后你就像，看看来自甲骨文或微软或亚马逊或Core Weave或80个Neo Clouds之一的这个报价 。谷歌可能不会像许多这些公司那样匹配
，但他们还是会降低价格，因为他们，你知道 ，然后你就像 ，哦 ，好吧，你知道
，如果我想租用一个H-100两年或一年，哦是的，我可以以略高于两美元的价格得到它，而不是他们报价的4美元，对吧 ？而GPU，它就在这里 
。你不知道你可以在这里得到它。所以人们看到标价，他们就像，你觉得那会改变吗？我看不出有什么理由会改变 。

迪伦 
：  

所以第三点是谷歌最好将他们所有的GPU用于内部使用。顺便说一下，微软租用的GPU很少 ，对吧 ？他们实际上从将GPU用于内部工作负载或用于推理中获得更多的利润，因为出售tokens的毛利率是50%到70%，对吧
？出售GPU服务器的毛利率比那个低，对吧？所以虽然它是一个不错的毛利率 ，但它是这样的。

布拉德
： 

你知道 
，他们已经表示，在他们报价的100亿美元中，没有来自我的外部GPU租赁
。

比尔：

如果Gemini作为一个API变得极具竞争力，那么你将间接地让第三方使用谷歌TPU。

迪伦： 

是的 ，绝对的 ，广告 、搜索 、Gemini应用 ，所有这些都使用GPU 。所以并不是说你知道，你知道，你上传的每一个YouTube视频都经过TPU ，对吧 ？它也经过他们自己为YouTube制造的其他芯片 ，但有很多东西会触及TPU
，但你不会直接租用它，对吧 ？因此，当你看租赁市场时，只有一家公司占谷歌TPU收入的70%以上，据我了解，那就是苹果。我认为围绕为什么苹果讨厌英伟达有一个很长的故事。但你知道 ，那可能是另一个时间的故事
。

亚马逊的芯片：基础TPU？

比尔
： 

但你刚刚做了一篇关于训练他们的深入报道
。为什么你不做一篇关于谷歌的亚马逊版本呢 ？

迪伦： 

是的，所以有趣的是 ，亚马逊的芯片，我称之为亚马逊的基础TPU，对吧  ？我之所以这样称呼它，是因为是的，它使用了更多的硅 
，是的，它使用了更多的内存 ，是的 ，网络在某种程度上与TPU相当
，对吧？它是一个4乘4乘4的环面。他们只是以一种效率较低的方式来做这件事 ，你知道，嘿，他们在活动电缆上花费了更多的钱 ，因为他们与Marvell和L芯片合作，而不是与博通合作
，博通是网络领域的领导者，然后可以使用被动电缆
，对吧 ，因为他们的芯片非常强大 
。还有其他一些事情  。速度更低
。他们花费了更多的硅面积
，你知道，关于Tranium的所有这些事情，你可以看看它，然后就像，哇，如果这是一个商用硅产品
，那会很糟糕，但它不是 ，因为亚马逊没有支付博通的利润率，对吧 ？

他们支付的利润率更低。他们没有支付HBM的利润率
，他们支付的是，你知道，他们支付的利润率总体上更低
，对吧 ？支付给Marvell的HBM利润率 ，你知道，他们做了所有这些不同的事情来将价格压低到他们的亚马逊基础TPU Tranium 2，对吧，对最终客户和他们自己来说，就HBM每美元、内存带宽每美元而言，非常具有成本效益。

它有这个64的世界规模 。现在亚马逊不能在一个机架中做到这一点，实际上需要他们两个机架来实现64
，每个芯片之间的带宽比英伟达的机架慢得多，他们的每个芯片的内存比英伟达的低
，他们的每个芯片的内存带宽也比英伟达的低。但你不会支付超过30000美元 ，你知道，每个芯片40000美元的服务器。你支付的是 ，你知道，明显更少 ，对吧 ，每个芯片5000美元，对吧 ？你知道 ，这就像对亚马逊来说是一个巨大的优势，然后他们将其传递给客户，对吧？因为当你购买英伟达GPU时，所以有一些合法的用例 ，因为这个 ，对吧？

迪伦： 

亚马逊和Anthropic决定，你知道 ，制造一个400000 Tranium服务器 ，超级计算机 ，对吧，400000芯片，对吧？回到整个扩展法则已死的问题，哦 ，他们正在制造一个400000芯片的系统 ，因为他们真正相信这一点 ，对吧 ？而在一个地点的400000芯片对于推理服务来说并不实用，对吧 ？它适用于制造更好的模型，对吧 ？你希望你的推理更加分散 。所以 ，这是他们的一项巨大投资，虽然从技术上讲并不那么令人印象深刻
，但有一些令人印象深刻的地方，我有点一带而过
，它非常便宜且具有成本效益 。我认为这对亚马逊来说是一个不错的举措。

布拉德 ：  

也许只是总结一下 
，我想稍微转向一下 ，你知道，你在25年和26年看到的情况，对吧 ？例如 ，在过去的30天里 ，你知道，博通一直在爆炸性上涨 ，而英伟达的交易则有所回落。我认为在过去30天里，博通和英伟达之间的差距大约有40% ，你知道，博通是定制ASIC的热门，你知道 ，人们质疑英伟达是否面临很多新的竞争，你知道，是否没有以前那么快地进步 
。看看你的水晶球 ，25年和26年
，你与客户谈论的是什么，你知道 ，在你所涵盖的领域中，你认为哪些是最被误解的 ，最好的想法？

迪伦：

所以我认为有几件事情是，你知道，博通确实有多个定制ASIC的胜利，对吧？它不仅仅是谷歌在这里 。Meta是Meta正在加速
，主要是用于推荐系统的炉子
，但他们的定制芯片会变得更好。

你知道 ，还有像OpenAI这样的其他参与者正在制造芯片 ，对吧  ？你知道，还有苹果 ，他们没有完全与博通一起制造整个芯片，但其中一小部分将与博通一起制造 ，对吧 ？你知道，他们有很多胜利 ，对吧？现在这些都不会。

它是一个定制的a6。所以就像，就像它可能会失败 ，不会很好，就像微软的那样因此从未加速，或者它可能会非常好，至少你知道
，性价比好，就像亚马逊的那样，并且会加速很多，对吧 ？所以这里有一些风险 ，但博通有那个定制ASIC业务 ，一和二 。

非常重要的是，网络方面非常重要，对吧？是的，英伟达正在销售大量的网络设备，但当人们制造自己的ASIC时 ，他们会做什么 ，对吧 
？是的 ，他们可以去亚马逊或者不去
，但他们也需要将许多这些芯片连接在一起 ，或者对不起，去博通或者不去 ，他们可以去Marvell或其他许多竞争对手 ，比如Al Chipper。你可以看到，你可以...

博通非常适合制造NV交换机的竞争产品，许多人会认为这是英伟达在硬件方面相对于其他人的最大竞争优势之一 。博通正在制造一个他们将推向市场的竞争产品，对吧？多家公司将使用它，不仅仅是AMD会使用那个NV交换机的竞争产品 ，但他们自己不制造它，因为他们没有这个技能 ，对吧？他们将去Rod来获得它 ，对吧？

25、26年，AI芯片巨头最看好谁 ？

布拉德 ：

所以，当你考虑半导体市场时，给我们做一个判断，你知道，你有ARM
、博通
、英伟达、AMD等等，整个市场在我们进入25年和26年时是否会继续提升？谁在当前水平上最有优势，谁最被高估，谁最被低估？

迪伦：

我认为我长期看好博通，但在接下来的六个月里 ，谷歌TPU的购买会有所放缓，因为他们没有数据中心空间
。他们想要更多，他们只是真的没有数据中心空间来放置它们。所以实际上，你知道，我们可以看到他们有点暂停
，但人们可能会超越这一点，对吧？

问题是
，谁赢得什么定制ASIC交易，对吧 ？Marvell会赢得未来几代吗 ？博通会赢得未来几代吗 
？这些几代会有多大 ，超大规模公司能否内部化越来越多的这些
 ，或者不 ，对吧？谷歌试图离开博通不是秘密。他们可能会成功，也可能会失败，对吧
？

布拉德：  

不仅仅是博通 。我在谈论英伟达和其他所有人，你知道 ，我们已经经历了这两年的巨大顺风 ，对吧？2025年是整合的一年吗？你认为这是该行业表现良好的又一年吗？

迪伦：

我只是认为
，我认为超大规模公司的计划相当明确 ，他们明年将花费大量资金
，对吧 ？因此
 ，网络参与者、ASIC供应商 、系统供应商的生态系统将表现良好 ，无论是Marvell还是博通还是AMD还是其他，你知道 ，一些比其他更好
。

2026年，还会继续增长吗？GPU租赁市场会怎样

迪伦：

人们真正应该关注的问题是2026年，支出是否会继续，对吧 ？我们不是英伟达的增长率明年将非常惊人
，对吧？这将带动整个组件供应链上升。它将带领许多人一起前进。但2026年是清算的时候，对吧？但你知道，人们会继续这样花钱吗
？这都指向模型是否会继续变得更好 ？因为如果它们不再继续变得更好，事实上，明年会变得更好 ，那么就会有一个大的 ，你知道，清理事件，对吧
？但那不是明年 ，对吧？

你知道 ，我还会说，Neo Cloud市场正在整合 ，对吧？

迪伦：

我们正在跟踪、与之交谈、看到的80个Neo Clouds ，他们有多少GPU ，对吧
？问题是
 ，如今如果你看看H-100的租赁价格，它们正在暴跌，对吧
？不仅仅是在这些Neo Clouds ，对吧 ？你以前必须做四年交易并预付25%  。你签一个风险投资轮次，你会购买一个集群，就这样
，对吧？你租一个集群，对吧？如今，你可以在三个月、六个月的交易中以比以前的四个月或四年、三年交易更好的价格获得Hopper ，对吧 ？而且
，这不仅仅是通过Neo Clouds。

亚马逊对
，你知道，按需GPU的价格现在也在下降。它仍然很贵 ，相对而言，但价格下降得非常快 。80个Neo Clouds不会生存，也许会剩下5到10个。那是因为其中五个是主权的 ，对吧？然后其他五个实际上是市场竞争力的。

比尔：

那些可能无法生存的Neo Clouds的行业AI收入占多大比例 ？

迪伦：

是的，所以你可以大致说超大规模公司占收入的50%左右，50%到60%，其余的是Neo Cloud和主权AI，因为企业的GPU集群采购仍然相当低 ，最终对他们来说，只要能够通过安全 ，他们就可以将外包给Neo Clouds 。对于某些公司，比如Corby
，他们可以做到这一点。

布拉德 ：

有没有一种情况 ，到2026年，行业总体销量实际上会比2025年下降，或者英伟达的销量会从2025年大幅下降？

迪伦
：

所以当你看到即将到来的定制ASIC设计以及英伟达的芯片时 ，每个芯片的内容和收入都在爆炸式增长  ，制造Blackwell的成本是制造Hopper的两倍多 ，对吧？所以英伟达可以以相同的销量出货，仍然大幅增长 。

2026年，Meta和微软的自由现金流接近0

布拉德：

对 ，而不是单位销量。有没有一种情况，到2026年行业收入会下降 ，或者英伟达的收入会下降  ？

迪伦：  

2026年会以有意义的方式下降吗？问题是，模型是否会继续变得更快  、更好
，超大规模公司是否愿意将他们的自由现金流降至0？我认为他们会。顺便说一下，我认为Meta和微软甚至可能将他们的自由现金流降至接近0并继续支出 ，但这只有在模型继续变得更好的情况下才会发生。

迪伦 ：

这是A ，然后B ，我们是否会从人们那里获得大量资本流入？我们还没有从中东、新加坡和北欧的主权财富基金以及加拿大养老基金等获得，他们可以开出非常大的支票。他们还没有 ，但他们可以
。如果事情继续变得更好
，我确实相信OpenAI和XAI以及Anthropic将继续筹集越来越多的资金，并继续进行不仅仅是 ，嘿，OpenAI的收入现在是80亿美元 ，明年可能会翻倍或更多
。那是他们的支出。不，不，不，他们必须筹集更多资金以显著增加支出 ，这将使引擎继续运转，因为一旦其中一家公司支出
，埃隆实际上迫使每个人增加支出 ，对吧 ，因为他的集群和他的计划 ，因为每个人都在想，我们不能被埃隆超越，我们必须增加支出，对吧？所以这也是一种胆小鬼游戏。哦，他们购买了这个，我们必须匹配他们或者做得更大，因为这是一场规模游戏 。所以 ，你知道 ，从某种意义上说，就像帕斯卡的赌注一样，对吧？

如果我支出不足，那将是史上最糟糕的情况
，我将是史上最糟糕的CEO之一，但如果你支出过多，是的 ，股东会生气 ，但没关系，对吧？它是200亿美元、500亿美元 。

比尔：

你可以以任何方式描绘这一点 ，因为如果这成为这样做的理由，你过度支出的可能性肯定会上升。

迪伦 ： 

每一个泡沫，我们都会过度支出
。

布拉德 ：

你知道，对我来说
，你知道，你说一切都取决于模型的改进 。我会再进一步，你知道 ，回到萨提亚上周对我们说的话。最终 ，一切都取决于购买GPU的人产生的收入，对吧？就像他上周说的，我会每年购买一定数量的GPU，这将与我当年或未来几年能够产生的收入相关。所以他们不会远远超出这些收入支出。所以他正在看什么，你知道，他今年有100亿美元的收入。他了解这些推理收入的增长率 ，他和艾米正在做出一些预测，看看他们能负担得起多少支出。

全球都在超前透支 ，是卷也是泡沫

布拉德：  

我认为扎克伯格在做同样的事情。我认为桑达尔也在做同样的事情。所以如果你假设他们是在理性行事，那么不仅仅是模型在改进 ，还有使用他们服务的基础企业采用率的提升
，以及消费者采用率的提升以及消费者愿意为使用ChatGPT或Claude或其他服务支付的费用 。所以 ，如果你认为基础设施支出将以每年30%的速度增长
，那么我认为你也必须相信基础的推理收入 ，对吧 ？  

布拉德： 

无论是消费者方面还是企业方面 ，都将在那个范围内增长。  

迪伦：  

当然，肯定有提前支出的成分 ，对吧？对于在某一时间点的支出与
，你知道 ，我认为服务器未来五年的收入是多少，我认为肯定有这方面的因素。但绝对正确的是模型，模型改进的全部意义在于什么能产生更多收入，对吧，然后被部署。所以我认为我同意这一点 ，但人们肯定在支出上超前于目前的计划
。  

布拉德：

嗯，这就是让它变得有趣的地方。你知道，很高兴有你在这里。我是说 ，你知道，作为一个同行分析师，你们做了很多深入的研究 。祝贺你们业务的成功 。我认为你们为整个生态系统提供了很多重要的信息 。  

你知道 ，关于“担忧之墙”的一件事是我们都在谈论和寻找的东西，对吧？泡沫 。有时这正是阻止泡沫真正发生的原因
。  

布拉德： 

你知道，作为一个投资者和分析师
，我看到的是 ，确实有人在支出，但他们的收入并不相称，正如你所说，支出远远超前。另一方面 ，坦白说，我们上周从萨查那里听说了 ，他说 ，听着
，我有收入。我已经说出了我的收入。我没有从其他人那里听到这个，对吧 ？所以，2025年谁会带着收入出现将很有趣。我认为你已经看到一些较小的二三线模型在改变 ，商业模式被抛弃，不再参与这里的投资军备竞赛
。我认为这是创造性毁灭过程的一部分，但很高兴有你在这里。  

比尔 ：  

是的，非常感谢，迪伦 。  

布拉德 ：  

非常感谢你 ，比尔 。很高兴在这里见到你，比尔，期待明年再见。  

迪伦：

太棒了
，谢谢，好的。  

布拉德 ：

提醒大家 ，这只是我们的观点，不是投资建议。