绿茶通用站群绿茶通用站群

心之所向目光所至什么意思,目光所至啥意思

心之所向目光所至什么意思,目光所至啥意思 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用

  在(zài)持续已久的“AI热潮”中,各家争相推出(chū)的(de)大模型(xíng)、AI应用,都进一步(bù)推升了对(duì)算(suàn)力狂热的需求。本周已有(yǒu)报(bào)道(dào)指出英(yīng)伟达后续对AI顶级规格芯片需(xū)求明显(xiǎn)看增,紧急向(xiàng)台积电(diàn)追(zhuī)加(jiā)预订先进封装产能(néng)。

  需求飙(biāo)涨下,英伟(wěi)达GPU价格自然(rán)也(yě)是(shì)水涨船高(gāo)。据集微(wēi)网(wǎng)消息,有代理(lǐ)商(shāng)透露,英伟达A100价格(gé)从去(qù)年12月开(kāi)始上(shàng)涨,截至(zhì)今年4月上半(bàn)月(yuè),其5个(gè)月价格累计涨幅达到37.5%;同期A800价格累(lèi)计(jì)涨幅达20.0%。

  同时(shí),英伟达GPU交货周期也被拉长,之前(qián)拿货周期大约为一个月,现在基本(běn)都需(xū)要(yào)三个月或更(gèng)长。甚至,部分新(xīn)订单“可(kě)能要到(dào)12月才能交付”。

  供需的巨大(dà)鸿沟面(miàn)前,在这(zhè)一情形(xíng)之(zhī)下,众多客户也不得不“勒紧(jǐn)腰(yāo)带(dài)”。上述文章指(zhǐ)出,国内可用(yòng)于训练AI大模型的A100大(dà)约(yuē)有4万-5万个,供应相当吃紧,一(yī)些云服务厂商已严(yán)格(gé)限(xiàn)制内部(bù)使(shǐ)用这些先进芯片(piàn),以将其保留至需要强力运算(suàn)的任务。

  值得一提的是(shì),类似的(de)事情在微(wēi)软内部也(yě)早已发生。3月已有(yǒu)外媒报道指出,微(wēi)软内部陷(xiàn)入AI服务器硬件短(duǎn)缺的窘境,不得不对AI硬件(jiàn)资源(yuán)采取“配额供给”机制(zhì),限制公司(sī)内部其他AI工(gōng)具开(kāi)发团队(duì)的(de)资源用量。

  拉长(zhǎng)时间线来看,有(yǒu)GPU业内人士指出,实际上(shàng)从(cóng)去(qù)年6月起,英伟达就已宣(xuān)布上调A100价(jià)格(gé),涨幅20%左右,渠(qú)道商在加紧(jǐn)囤货(huò)。至于(yú)英伟达A800,在ChatGPT火爆(bào)之前就已出现(xiàn)涨价,但反映到市场则有一定的滞后(hòu)性(xìng),赶(gǎn)上ChatGPT爆火这一时(shí)间(jiān)点,更放大了这(zhè)一现象。

  “英伟达GPU涨价与ChatGPT有一定(dìng)的关联性,且交货周期(qī)也受到了连带的(de)影响,导致市场上出现了众(zhòng)多(duō)炒卡的行为(wèi)。”

  此外,在海外电商(shāng)平台上,英伟达新(xīn)旗舰级GPU H100的价(jià)格在4月中旬就已炒到(dào)了超过4万美(měi)元。

  随着如今各(gè)家科技巨头争相推出(chū)自(zì)家大模型(xíng),GPU需(xū)求量仍(réng)在持续攀升。OpenAI指出,AI大模型(xíng)要持续(xù)取(qǔ)得突破,所需要消耗的(de)计算资源每3~4个(gè)月就要翻一倍(bèi),资金也需(xū)要通过(guò)指数(shù)级增长(zhǎng)获得(dé)匹(pǐ)配。

  据财通证(zhèng)券测(cè)算(suàn),2023/2024/2025年(nián)大模型有望为GPU市场贡献69.88/166.2/209.95亿美元增(zēng)量(liàng)。

  其中(zhōng)在训练端,以目前(qián)主流的训练端GPU英(yī心之所向目光所至什么意思,目光所至啥意思ng)伟(wěi)达(dá)A100测算,假设ASP为(wèi)1万美元,2023/2024/2025年全球(qiú)训练端(duān)GPU需求(qiú)市场规模预计分(fēn)别为(wèi)0.74/2.00/4.07亿美元;

  在推理端,以目前(qián)英伟达用于推理(lǐ)心之所向目光所至什么意思,目光所至啥意思端计算的A10测算(suàn),假设ASP为2800美元,2023/2024/2025年全球推理端GPU需求市(shì)场规模预计分别为69.14/164.2/205.88亿(yì)美(měi)元。

  业内(nèi)人士也表示,AI大模型训练成本之一是基础(chǔ)算力,大概需要384-3000块左(zuǒ)右的A100才(cái)能基本满足要(yào)求,如果价格持续上(shàng)涨,无论是(shì)互联网、AI大厂、还是(shì)创业新贵,要追加(jiā)的投入都可能远超(chāo)当初。

未经允许不得转载:绿茶通用站群 心之所向目光所至什么意思,目光所至啥意思

评论

5+2=