安大互联
财经热点 > 财经资讯 > 摩尔线程张建中 - 在AI战场 万卡已成最低标配
【人工智能】摩尔线程张建中 - 在AI战场 万卡已成最低标配
浏览次数:【286】  发布日期:2024-7-3 22:31:53    文章分类:财经资讯   
专题:人工智能】 【东数西算】 【内蒙古】 【数据中心
 

  “在AI主战场,万卡是最低标配。”

  随着Scaling Law(规模越大,性能越好) 成为行业共识法则,国内百模大战仍在冲击更大的目标,摩尔线程总裁张建中作出了上述判断。

  而参数量和数据量的不断增加,意味着对算力的切实需求也在增加。在此趋势下,国产厂商都在加紧建设更大规模的AI智能算力 数据中心 。去年发布并落地多个千卡(显卡,即GPU)智算中心集群后,GPU厂商摩尔线程近期又推出了首个万卡集群方案。

  当前训练AI大模型离不开GPU,各公司拥有GPU的数量已经成为衡量算力规模的基本依据。相比OpenAI、谷歌、Meta等国际巨头成批采购几十万张英伟达显卡搭建 数据中心 集群,国内公司大多数还只能采购几千张,只有字节等少数头部厂商拥有上万张卡规模的算力集群。

  卡的数量直接决定了训练一个大模型所用的时间。张建中提到,去年国内“百模大战”开打后,几乎每月都有新的模型发布。而现在,一家AI大模型公司训练迭代一次大模型的时间已经缩短为两周,超过两周就跟不上同行的速度。

  去年英伟达的H100和后续的高端GPU对华出口遭禁后,国内一度出现严峻的算力紧缺。张建中告诉界面新闻记者,从国际巨头计划采购英伟达显卡的订单变化来看,今年市场对算力的切实需求有增无减,万卡,甚至超万卡集群,是这一轮大模型竞赛的入场券。公司的目标是在国内市场“占位”,努力保证训练大模型时“有卡可用”。

  今年也是行业广泛热议的大模型应用落地之年。除以往的ChatGPT聊天 机器人 外,像上半年爆火的Sora、国内对标Sora的快手“可灵”,和更多的AI手机、智能驾驶端侧模型等,都在寻找落地场景。这背后都需要更多的算力支持。

  在张建中看来,当下“Scaling Law”法则在AI大模型行业仍然奏效,即为了追求更好的性能,规模做大的同时,算力需求也越来越大。

  公开信息显示,2020年左右,OpenAI使用约1万块英伟达GPU来训练GPT-3.5模型,当时的模型参数量只有1750亿。到了2023年,OpenAI推出1.8万亿参数的GPT-4时,市场调研机构 SemiAnalysis估测其已经拥有近3万块英伟达GPU。

  虽然GPT-5迟迟未面世,规模还是一个秘密,但外媒曝光了OpenAI与微软正在合作的“星际之门”计划。这是一个包含百万张GPU的超级 数据中心 ,计划在2028年建成。

  国内的AI算力市场也从去年开始不断扩容,国内各地掀起了智算中心“基建潮”。北京、上海、深圳、安徽、江苏五地,目前已公布未来几年内智能算力中心建设的具体方案,青岛、贵州、南昌等超过30个地方城市正渐次加入。

  据行业自媒体“中国IDC圈”不完全统计,到2024年5月下旬,我国共建设有智算中心283座,其中已投入生产运营的达到89座,超过一半处于开工或在建状态。

  界面新闻此前从多位行业人士处了解到,各地建设智算中心正处于“跑马圈地”的阶段。一方面,国内需要建设更多智算中心,将“盘子”做大,从而保证算力供应;另一方面,由于英伟达显卡遭禁,国产 AI芯片 的单卡性能与之相比存在较大差距,国产厂商普遍选择走集群化、规模化路线,将多个小型单点算力节点通过高速网络互连技术建成一整个超大规模的算力集群。也因此,落地的智算中心越建越大。

  一家头部国产服务器厂商在一场活动上提到,去年国内建智算中心都以万卡为目标,今年整体需求水涨船高,开始以5万卡作为新的目标。眼下能够满足AI公司训练模型的GPU是市场上的硬通货,基本上是“谁有GPU,谁能建智算中心”。

  但在张建中看来,智算中心从千卡到万卡,不只是容易的“堆卡”。规模变大的同时,难度也呈指数级倍增——既要实现智算中心扩容,也要兼顾质量。这对厂商而言是一项极其复杂的系统工程项目。

  算力利用率与稳定性是行业衡量智算中心质量的两项重要标志。目前,摩尔线程的千卡智算中心的算力利用率已达到50%,未来推动万卡集群智算中心落地时,目标是达到60%的算力利用率,同时保证99%以上的稳定性。这与国际巨头已十分接近,但要达到领先仍存在较大挑战。

手机扫码浏览该文章
 ● 相关资讯推荐
2024-10-4【石油勘探】黄河岸边产油忙
2024-10-4【马斯克】-人类爱好者-马斯克,锚定人工智能 - AI 21人
2024-10-4【英伟达】美股成交额前20 - 特斯拉9个月来第五次召回Cybertruck
2024-10-3【OpenAI】史上最高!OpenAI官宣获66亿美元融资 - 估值超1500亿美元
2024-10-1【人工智能】美股成交额前20 - 苹果涨超2% 消息称苹果不再参与OpenAI融资轮谈判
2024-9-30【人工智能】最后时刻,美国AI监管-里程碑-法案被否决了!
2024-9-30【人工智能】金融教育宣传月-满月- 各地都有哪些创新动作?多地监管局将-从业者教育-列为重点
2024-9-29【人工智能】五家AI公司遭FTC重拳出击!理由是虚假宣传AI技术
2024-9-29【人工智能】-卢某某录音-系AI合成 记者实测 - 3分钟你的声音就可被克隆
2024-9-29【人工智能】建议提高个税起征点至8000元!宏观政策还将如何加力?20位学者专家联合把脉
 ● 相关资讯专题
石油勘探】  【内蒙古】  【转运站】  【马斯克】  【特斯拉】  【人工智能】  【人形机器人】  【脑机接口】  【人类爱好者】  【FSD】  【英伟达】  【GPU】  【Cybertruck】  【成交额】  【OpenAI】  【亚马逊】  【1047】  【里程碑】  【宣传月】  【电子科技大学】  【FTC】  【AI公司】  【虚假宣传】  【新能源】  【资本市场】 
  • 网络建设业务咨询

   TEl:13626712526