橘子百科-橘子都知道橘子百科-橘子都知道

德国柏林气候相当于中国哪 德国冬天冷还是北京冷

德国柏林气候相当于中国哪 德国冬天冷还是北京冷 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用

  在持续已久的(de)“AI热(rè)潮”中,各家争(zhēng)相推出的大模型、AI应用,都进一步推(tuī)升了对算(suàn)力狂热(rè)的需求。本周已有报道指出英伟(wěi)达后续对AI顶(dǐng)级(jí)规格(gé)芯片需(xū)求明显(xiǎn)看增(zēng),紧急向(xiàng)台(tái)积电追加预订先进封装产能。

  需求飙涨下,英伟达GPU价(jià)格自然也是(shì)水涨船高(gāo)。据集微网消息,有(yǒu)代理商透露(lù),英伟达A100价格从去(qù)年12月开始上(shàng)涨,截至今年4月上半(bàn)月(yuè),其(qí)5个月(yuè)价格累(lèi)计德国柏林气候相当于中国哪 德国冬天冷还是北京冷涨幅达到37.5%;同期A800价格累计涨幅(fú)达20.0%。

  同时(shí),英(yīng)伟达GPU交(jiāo)货周期也被拉长(zhǎng),之(zhī)前拿货周期(qī)大约为一(yī)个月,现在基本都(dōu)需要(yào)三个月或更长。甚(shèn)至,部分新订单“可能(néng)要到12月才能交付”。 德国柏林气候相当于中国哪 德国冬天冷还是北京冷

  供需(xū)的巨大鸿沟面前,在这一情形之(zhī)下(xià),众(zhòng)多(duō)客户也不(bù)得不“勒紧腰带”。上述文章指出,国内可(kě)用于训练AI大模型的A100大约有4万-5万(wàn)个(gè),供应相当吃紧,一(yī)些云(yún)服务厂商已严格限制(zhì)内部使(shǐ)用这(zhè)些先进(jìn)芯片,以将其保留至需要强力运算的任务。

  值得(dé)一提的(de)是,类似(shì)的(de)事情在微(wēi)软内(nèi)部也早已发生。3月已有(yǒu)外媒(méi)报(bào)道指出,微软内(nèi)部陷(xiàn)入AI服务器硬件短(duǎn)缺的窘(jiǒng)境,不得不(bù)对AI硬件资源采取“配额供给”机制(zhì),限制公(gōng)司(sī)内部其他AI工具开发(fā)团队的资源(yuán)用量。

  拉长时间线来看,有(yǒu)GPU业内人士指出,实(shí)际上从去年6月(yuè)起,英(yīng)伟达就已宣(xuān)布上(shàng)调A100价(jià)格,涨幅20%左右,渠道商在(zài)加(jiā)紧囤货。至于英伟达A800,在ChatGPT火(huǒ)爆之前就(jiù)已出(chū)现涨价,但反映(yìng)到(dào)市场则有(yǒu)一定的(de)滞后性,赶上ChatGPT爆火这一时间点,更放大了这一现象(xiàng)。

  “英(yīng)伟(wěi)达GPU涨价与ChatGPT有一定的(de)关联性,且交货周期也受到了连带(dài)的影响(xiǎng),导致市场上(shàng)出现了众多炒(chǎo)卡的行(xíng)为(wèi)。”

  此外(wài),在(zài)海外电商平台上,英(yīng)伟达新旗舰级GPU H100的(de)价格在(zài)4月中旬就已炒到了(le)超过4万美(měi)元。

  随着如今各家科(kē)技巨头争相(xiāng)推出自(zì)家大(dà)模型,GPU需求量仍(réng)在持续攀升。OpenAI指出,AI大模型(xíng)要持续(xù)取得突破(pò),所需要消(xiāo)耗的计(jì)算资源每3~4个月就要翻一(yī)倍,资金也需要通(tōng)过指数级增长获得(dé)匹配(pèi)。

  据财通证(zhèng)券(quàn)测算,2023/2024/2025年(nián)大(dà)模(mó)型有望(wàng)为GPU市场(chǎng)贡献(xiàn)69.88/166.2/209.95亿美元增量。

  其中在训(xùn)练端,以目前(qián)主流的训练端GPU英伟达(dá)A100测算,假设ASP为1万美元,2023/2024/2025年全球训(xùn)练端GPU需求市场规(guī)模预计分别(bié)为0.74/2.00/4.07亿美元;

  在推理端,以目前(qián)英伟达(dá)用于推(tuī)理(lǐ)端(duān)计算的A10德国柏林气候相当于中国哪 德国冬天冷还是北京冷测算,假(jiǎ)设(shè)ASP为2800美元(yuán),2023/2024/2025年全球推理(lǐ)端GPU需(xū)求市场(chǎng)规(guī)模(mó)预计分别为69.14/164.2/205.88亿(yì)美元。

  业内人士也(yě)表示,AI大模型训练(liàn)成本(běn)之一是(shì)基础(chǔ)算(suàn)力(lì),大概需要384-3000块左右的A100才能基(jī)本满足要求,如果价格持(chí)续上涨(zhǎng),无(wú)论是互联网、AI大厂、还是创业新(xīn)贵,要(yào)追加的投入都(dōu)可能远超(chāo)当初。

未经允许不得转载:橘子百科-橘子都知道 德国柏林气候相当于中国哪 德国冬天冷还是北京冷

评论

5+2=