英伟达宣布推出新一代GH2000 Grace Hopper超级芯片,新芯片将于2024年第贰季投入生产。同时宣布基于GH200构建的新服务器设计。 相关报道
英伟达H100涨到4.5万美元?已经有企业开始用它抵押融资
自去年年底ChatGPT问世以来,近半年多来,全球掀起了大模型热潮。对 人工智能 的巨大需求也袒露了全球用于开发和部署 人工智能 模型的芯片供应链的局限性。
作为可助推运行 人工智能 训练和部署 人工智能 算法的关键硬件,GPU正在面临巨大的缺口。现今全球95%以上的大模型都使用英伟达的GPU芯片。
OpenAI首席执行官奥尔特曼(Sam Altman)近日公开表示:“我们的GPU非常短缺,使用ChatGPT的人越少越好,这样才能确保用户有充分的算力。”
第壹财经记者从业内了解到,目前GPU价格仍在上涨,作为 人工智能 基础设施的“硬通货”,海外已经有创业企业开始利用GPU进行抵押融资。这种新兴的融资途径凸显了此类硬件在资本密集型 人工智能 “军备竞赛”中的价值。
GPT5需要5万张H100?
第壹财经记者从多名从事大模型开发的业内人士方面了解到,目前 人工智能 芯片仍然持续短缺。一些业内人士向记者表示,不仅是小企业,就连 人工智能 行业的头部领先平台也面临芯片紧缺的处境。他们预计, 人工智能 芯片短缺的现状至少在一年之内不会出现明显的改善。
另外,记者查询eBay网站发现,H100的销售价格已经高达4.5万美元,这较今年4月份4万美元的价钱上涨幅度超过10%,而且货源较上半年也明显减少。
英伟达内部人士告诉第壹财经记者,电商渠道的价钱不受英伟达管控,“属私人在互联网上转售”。
“ 人工智能 芯片全世界都缺,这与大模型在短时间内突然爆发有关。这种短缺预计短时间内不会缓解。”一位从事医疗大模型开发的专家对记者表示。
另一位大模型开发者对记者说:“目前个人感受是,GPU的紧张水平比2、3月份似乎要好一点,可是整体紧缺的态势没有发生根本变化。”
微软最近公布的财报凸显了 人工智能 芯片可能长期短缺的迹象。在微软的财报中,第壹次将GPU的可及性确定为投资潜在风险因素。“我们将继续寻求扩大 数据中心 服务器算力的机会,这决定于土地、能源、网络供应和GPU和其它组件的可及性。”微软财报写道。
达观数据老总总裁陈运文对第壹财经记者表示:“ 人工智能 芯片可以用很缺来形容,虽然现在一些企业号称推出了英伟达 人工智能 芯片的替代品,可是产品的成熟度还有差距,而且生态也不够完善。”
近日有消息称,下一代GPT大模型GPT5需要5万张英伟达最高配置的H100芯片,全球市场对H100芯片的切实需求量达到43万张,英伟达的产能可能难以满足如此大的算力需求。
“这一数据有夸张之嫌,因为都是来源于猜想预估,而没有经过实际市场上的求证。”陈运文对记者表示。
另一位 人工智能 领域资深专家也对记者表示:“这一数据略有夸张,有点博眼球的意思。”
研究机构Gartner芯片分析师盛陵海对记者表示:“目前GPU的缺口多大不好预估,需求是被炒起来的,越是缺,市场就越是要。”
企业发出“巨大的吸吮声”
受 人工智能 大模型需求推动,英伟达今年以来股票价格累计上涨幅度已超200%,目前市值打破1.1万亿美元。根据投资者服务公司穆迪今年5月份发布的一份研究报告,英伟达在未来几个季度将实现“独步天下”的收入增长,其 数据中心 业务的收入将超过竞争对手英特尔和AMD的总和。
“这些GPU的生产已达到产能极限,但需求的激增远远超出渠道的供货来源。”穆迪芯片行业顶级副总裁拉杰·乔希(Raj Joshi)表示,“企业发出‘巨大的吸吮声’,我认为行业还没有准备好应对这种需求的激增。”
一位英伟达方面人士对第壹财经记者表示:“GPU缺货已经不是一两天了,我们始终在努力想方设法来满足市场的切实需求。”
在今年5月的财报电话会议上,英伟达表示,下半年GPU的供应量将会“大幅增加”,以满足 人工智能 芯片不断增长的切实需求。
英伟达最新一季财报将于8月23日公布。英伟达开创人总裁黄仁勋将出席8月8日在洛杉矶举行的行业大会Siggraph,并发表主题演讲。
由于GPU芯片的短缺,一些拥有英伟达GPU芯片独特渠道的 人工智能 草创公司已经开拓了新的融资途径。云服务提供商CoreWeave上周宣布,在一轮由Magnetar Capital和黑石集团(Blackstone)牵的债务融资中,以英伟达H100芯片为抵押筹集了23亿美元资金,这些资金将用于扩张 人工智能 的能力和 数据中心 的建设。
这种不同寻常的债务融资方式凸显了此类硬件在资本密集型 人工智能 “军备竞赛”中的价值。CoreWeave当前的估值已经超过20亿美元。
英伟达真的“不可替代”么?
为应对行业对于 人工智能 大模型的巨大需求,AMD公司已经宣布,预计将在年底前推出英伟达GPU的替代解决方案——MI300 AI芯片 。AMD首席执行官苏姿丰(Lisa Su)在公司财报电话会议上表示:“客户对我们的 人工智能 解决方案表现出了浓厚的兴趣,我们已经获得了重大进展。”
但由于业内对于AMD的芯片是否能够真正替代英伟达的产品仍持怀疑态度,AMD财报公布后股票价格狂跌约6%。
“AMD的 人工智能 芯片值得向往,可是到底有多少客户会用现在还是未知数,而从行业角度来审视,多一种选择总是好的。”一位芯片领域资深人士对记者表示。
在全球范围内,其它新兴的 人工智能 芯片草创公司近期也宣布了很多融资消息。由芯片行业资深人士凯勒(Jim Keller)领导的加拿大草创公司Tenstorrent正在开发对标英伟达的 人工智能 芯片,该公司上周表示,从现代汽车集团和三星投资基金等公司方面筹集了1亿美元资金,估值达10亿美元。
凯勒曾为苹果、 特斯拉 和英特尔公司开发芯片,今年早些时候接任Tenstorrent公司首席执行官。Tenstorrent还寻求将其生产研发的 人工智能 芯片的 知识产权 和其它技术出售给客户。
人工智能 草创公司d-Matrix开创人兼总裁谢思(Sid Sheth)认为,芯片的短缺可能还会强逼企业寻求其它创造性的要领来处理问题,好比开发能够提高芯片生产效率的新技术。