橘子百科-橘子都知道橘子百科-橘子都知道

i

i 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用

  在持续已久的“AI热潮”中,各家(jiā)争相(xiāng)推(tuī)出(chū)的大模型、AI应用,都(dōu)进(jìn)一(yī)步推升(shēng)了对(duì)算力狂(kuáng)热(rè)的需求。本周已有报道指出英伟达后续对AI顶级规格芯片(piàn)需求明显看增(zēng),紧急(jí)向台积电追加预订先进封装(zhuāng)产能(néng)。

  需(xū)求飙涨(zhǎng)下(xià),英伟(wěi)达GPU价格自然也是水(shuǐ)涨船高。据集微网(wǎng)消(xiāo)息,有代理(lǐ)商透(tòu)露(lù),英伟达A100价格(gé)从去年12月(yuè)开始上涨,截至今年4月上半月,其5个月价格(gé)累计涨幅达(dá)到37.5%;同期A800价(jià)格累(lèi)计涨幅达20.0%。

  同时(shí),英伟(wěi)达GPU交货周期(qī)也被(bèi)拉长,之前拿货周期大约为一个月,现(xiàn)在基(jī)本都需(xū)要三个月(yuè)或更长。甚至(zhì),部分(fēn)新(xīn)订(dìng)单“可能要到12月才能(néng)交(jiāo)付”。

  供需的巨(jù)大(dà)鸿沟面前(qián),在这一情形之(zhī)下,众多客户(hù)也(yě)不(bù)得不(bù)“勒紧腰带”。上(shàng)述文章指(zhǐ)出,国内可用于训(xùn)练(liàn)AI大模型(xíng)的A100大约有4万(wàn)-5万个,供(gōng)应相(xiāng)当(dāng)吃(chī)紧,一些云服务(wù)厂商已(yǐ)严格(gé)限(xiàn)制内(nèi)部(bù)使用这(zhè)些先进(jìn)芯(xīn)片,以将其保留(liú)至(zhì)需要强力运算的任务。

  值得一提的(de)是,类似的事情(qíng)在微软(ruǎn)内(nèi)部也早已发生(shēng)。3月已有外媒(méi)报道(dào)指出,微软内(nèi)部(bù)陷入AI服(fú)务器硬(yìng)件短缺的窘(jiǒng)境,不(bù)得不对AI硬件资源采取(qǔ)“配额供(gōng)给(gěi)”机制(zhì),限制公(gōng)司内部其他AI工具开发团队的资(zī)源用量。

  拉(lā)长时间线来看,有(yǒu)GPU业内人(rén)士指(zhǐ)出,实(shí)际上从去年6月起,英伟达就已宣布上调(diào)A100价格,涨(zhǎng)幅(fú)20%左右,渠(qú)道(dào)商在加紧囤货。至于英伟达(dá)A800,在ChatGPT火爆之前(qián)就已(yǐ)出现涨价(jià),但反映到市场则有一(yī)定(dìng)的滞后性,赶上(shàng)ChatGPT爆(bào)火这一时(shí)间点,更放大了(le)这(zhè)一(yī)现象。

  “英伟(wěi)达(dá)GPU涨价与ChatGPT有一定的关联性,且交货周(zhōu)期也受到了连带的影响,导致市场上出现了众多炒卡的行为。”

  此(cǐ)外(wài),在海外电商平台(tái)i上(shàng),英伟(wěi)达新(xīn)旗舰级GPU H100的价(jià)格在4月中旬就已炒到了(le)超过4万美元。

  随着如今各家科(kē)技(jì)巨头争相推出(chū)自(zì)家大模型,GPU需(xū)求(qiú)i量仍在持续(xù)攀升。OpenAI指出(chū),AI大模型要持(chí)续取得突(tū)破,所需要消(xiāo)耗的计算资源每3~4个月就要翻一倍(bèi),资金也(yě)需要通过指数级增长获得(dé)匹配。

  据财通证券测算,2023/2024/2025年大模(mó)型(xíng)有望(wàng)为GPU市场贡献69.88/166.2/209.95亿美元增量。

  其中在训(xùn)练(liàn)端,以(yǐ)目前主流的(de)训练端GPU英伟(wěi)达A100测算(suàn),假设(shè)ASP为1万美元,2023/2024/2025年全(quán)球训练端GPU需求市场规模预计(jì)分别为0.74/2.00/4.07亿美元(yuán);

  在推理端,以目前英伟达(dá)用于推理端计算(suàn)的A10测算,假设ASP为2800美(měi)元,2023/2024/2025年全(quán)球推理(lǐ)端(duān)GPU需求(qiú)市(shì)场规模预(yù)计分别为69.14/164.2/205.88亿(yì)美(měi)元(yuán)。

  业(yè)内人(rén)士也表示(shì),AI大模(mó)型训练成(chéng)本之一是基础算力,大概需(xū)要384-3000块左右的(de)A100才能基本满足要求,如果价格(gé)持续上涨,无论(lùn)是互联(lián)网、AI大厂、还是创业新贵,要(yào)追加的投(tóu)入都可能远超(chāo)当初。

未经允许不得转载:橘子百科-橘子都知道 i

评论

5+2=