【GPU】海外小作文袭扰AI信仰？GPU泡沫论甚嚣尘上 - 真相是……

　　政策暖风频吹，提前开户把握机会>>

　　目前，一则有关“2美元/小时出租H100：GPU泡沫破灭前夜”的报道引发国内市场高度关注。相关文章指出：

　　英伟达H100 GPU在2023年3月上市之后，因需求激增僧多粥少，其租赁价格从刚开始的每小时4.7美元一度飙升至每小时8美元以上。但今年以来，H100开始“供过于求”，每小时租赁价格降至2美元左右。

　　价格下跌是由于多方面因素造成：1）有些长期预订H100的企业完成模型训练之后，转售闲置未使用的算力；2）许多公司不再从头训练新模型，转而微调开放模型，算力需求大幅下降；3）专注构建大规模基础模型的新创公司数量大幅减少；4）H100的替代品出现，如AMD和英特尔GPU，...。

　　对这篇报道进行溯源后可以发现，海外主流媒体及主要科技媒体暂未进行相关报道，原报道标题为《$2 H100s: How the GPU Bubble Burst》（2美元H100:GPU泡沫是怎样破灭的），来自于一个名为Latent Space的网站，原文作者为Eugene Cheah。

　　根据网站介绍，Latent Space主要聚焦于AI，形式集内容讯息、博客、社区为一体，由swyx 及Alessio Fanelli共同主持，前者的社交平台账号并未给出具体身份自我介绍，后者则为早期风投公司Decibel VC的合伙人和CTO。

　　原文作者Eugene Cheah，则为草创公司Featherless.Ai的总裁。

　　据Cheah在“GPU泡沫”一文原文末尾介绍，Featherless.Ai目前托管着全球最大的开源AI模型，“每月10美元起，可立即访问，无限制请求，价格固定；可通过无服务器方式即时推理，无需贵重的专用 GPU”。

　　▌H100租赁价格下跌 = GPU泡沫破灭？

　　在“GPU泡沫”一文原文中有张配图，那是法国艺术家让-莱昂热罗姆在1882年创作的油画《郁金香狂热》（Le Duel à la tulipe）。

　　这幅画描绘了有记录以来历史上第壹次投机泡沫——17世纪荷兰的“郁金香狂热”，郁金香价格在1634年持续攀升，并于1637年2月崩盘，投机者手中只剩下最初投资额的5%。

　　三百多年前的投机泡沫会否再次上演？这个问题牵动着每一位AI投资人的神经，或许也是这一次“H100租赁价格下跌”一文引发高度关注的原因。

　　从算力租赁商Vast.ai网站报价可以看到，1x H100的一小时租赁报价的确已经在2~3美元区间内。

　　但H100租赁价格下跌，真的能和“GPU泡沫破灭”画上等号么？

　　一方面，从Eugene Cheah的文章来看，“H100价格下跌”可能用“分化”来形容更为合适——持续下降的主要聚焦在小规模集群的租赁价格，相较之下，大规模算力集群的价钱则可能维持在较高水平。

　　而这些大规模算力集群背后，多是诸如 特斯拉 、微软、OpenAI一类的科技巨头。Omidia数据显示，H100发布之后的那个2023年第叁季度，其出货量达到65万张，其中仅Meta和微软就分别拿下了15万张，占比接近一半。

　　另一方面，电子产品都有着更新迭代周期，GPU芯片同样如此。之前英伟达下一代GPU Blackwell系列传出设计存在缺陷，可能延迟出货。但摩根士丹利上周发布报告称，Blackwell的生产正在“按计划进行”，且未来12个月左右的供应已经售罄，这意味着现在下订单的顾客要到2025年底才能收到货，“这将继续推动对现有Hopper架构产品的强劲短时间需求”。

　　H100租赁价格其实不是突然狂跌，波动已经有时日。从A100到H100，从H100到H200，再到将来的Blackwell，新品出世势必造成前代产品的没落，更妄论Blackwell算力成本有望比Hopper进一步降低。

　　黄仁勋这位英伟达“掌舵人”也在日前现身说法。在接受Altimeter Capital采访时他强调，对英伟达的持续看涨与互联网泡沫颠峰时期围绕思科的狂热完全不同。英伟达正在“重塑计算”，未来将是“高度机器学习”的时代。

　　“摩尔定律已经基本宣告终结”，他表示，为了提供必要的算力以跟上未来计算密集型软件的步伐，未来4~5年内，现有 数据中心 将需要价值约1万亿美元的GPU来实现升级。

　　务必承认的是，“AI泡沫”论的警钟敲了又敲，“AI投资回报难达预期”的疑惑声音一浪高过一浪，一边是OpenAI抱怨算力上线不及时不够用、英伟达新品售罄，另一边是算力租赁价格不断下降、还有公司“甩卖”GPU。

　　但局部、短时间的算力过剩或短缺，似乎已难以代表AI的全盘局面，对于供需两方、多空两边来回博弈的AI领域而言，在硬件端之外，或许亟待更多新故事。