在持续(xù)已久的“AI热潮”中(zhōng),各家争(zhēng)相推出(chū)的大模(mó)型、AI应用(yòng),都进一步推升了(le)对算力狂热的需求。本周已有报道(dào)指出英伟达后(hòu)续(xù)对AI顶级规格芯片(piàn)需(xū)求明显看增,紧急向台积电追加预订先进封装产能。
需求飙涨下(xià),英伟达(dá)GPU价格自(zì)然也是水涨船高。据集微网消息,有代理商(shāng)透露,英伟达A100价格从(cóng)去年(nián)12月开始上(shàng)涨,截至今(jīn)年4月上半月,其5个月(yuè)价格累(lèi)计涨(zhǎng)幅(fú)达到37.5%;同期A800价格累(lèi)计涨幅达20.0%。
同时,英伟达GPU交货周期也(yě)被拉长(zhǎng),之(zhī)前(qián)拿(ná)货周(zhōu)期大约为一个月,现在(zài)基本(běn)都需要三个月或更长。甚至,部分新订单“可能(néng)要到(dào)12月才能交付(fù)”。
供(gōng)需的(de)巨大鸿沟(gōu)面前,在这(zhè)一情(qíng)形之下,众多客户也(yě)不得(dé)不“勒紧(jǐn)腰带”。上述文(wén)章指出,国(guó)内可用于训练AI大模型的(de)A100大约有4万-5万个,供应相当吃(chī)紧,一些云服务厂商已严格限制(zhì)内部使用(yòng)这些(xiē)先进芯片,以将其保留(liú)至需要强(qiáng)力(lì)运算的任务。
值得一提的是,类似的事情在(zài)微(wēi)软内部(bù)也早已发生。3月已(yǐ)有外媒报道指出,微(wēi)软内(nèi)部陷入AI服务器(qì)硬(yìng)件短缺(quē)的窘境,不得不对AI硬件(jiàn)资源采取“配额供给”机制(zhì),限制公司内部其他AI工(gōng)具开发团队的资源用量。
拉长时间线来看,有GPU业内(nèi)人(rén)士指出,实际上从去年6月张都监是什么级别的官,水浒官职品级一览表(yuè)起,英伟达就已宣(xuān)布上(shàng)调A100价格,涨幅(fú)20%左右,渠道商在加紧(jǐn)囤货(huò)。至于英伟达A800,在ChatGPT火爆之前(qián)就已出现涨价,但反映到市场则(zé)有一定的滞后性(xìng),赶(gǎn)上ChatGPT爆火这一时间点,更放大了这一现象。
“英伟达GPU涨价与(yǔ)ChatGPT有一定的关联性,且交货周期也(yě)受到了连(lián)带(dài)的影(yǐng)响,导致市场(chǎng)上出现了(le)众多炒卡的(de)行为。”
此外,在海外电商平台上,英伟(wěi)达新旗(qí)舰级GPU H100的价格在4月中(zhōng)旬就(jiù)已炒到了超过(guò)4万美(měi)元。
随着如今各家科技巨(jù)头争(zhēng)相推出自家大模型,GPU需(xū)求量(liàng)仍在持(chí)续(xù)攀升。OpenAI指出,AI大模型(xíng)要持续(xù)取得突破,所需要消耗的计算资源每(měi)3~4个月(yuè)就要翻一倍,资金也需要(yào)通过指(zhǐ)数级增长(zhǎng)获得匹配。
张都监是什么级别的官,水浒官职品级一览表据财通证券测算(suàn),2023/2024/2025年大模(mó)型(xíng)有望为(wèi)GPU市场贡献69.88/166.2/209.95亿(yì)美元(yuán)增量。
其中(zhōng)在(zài)训练端,以目前主流的训练(liàn)端(duān)GPU英伟达(dá)A100测算,假设ASP为1万(wàn)美元,2023/2024/2025年全球训练端GPU需(xū)求市场(chǎng)规模(mó)预计(jì)分别(bié)为(wèi)0.74/2.00/4.07亿(yì)美元;
在推理(lǐ)端,以目(mù)前英伟达用于推(tuī)理(lǐ)端(duān)计算的A10测(cè)算,假(jiǎ)设ASP为2800美元,2023/2024/2025年全球推理端(duān)GPU需求市场规模预计分(fēn)别为69.14/164.2/205.88亿(yì)美(měi)元(yuán)。
业内(nèi)人士也表示,AI大模型训练成(chéng)本之一是基础(chǔ)算力(lì),大(dà)概需(xū)要384-3000块左右的(de)A100才能(néng)基本满足要求(qiú),如果价(jià)格持续上涨,无论(lùn)是互(hù)联网、AI大厂(chǎng)、还是创业(yè)新贵,要追(zhuī)加(jiā)的(de)投入都可(kě)能远超当初。
未经允许不得转载:橘子百科-橘子都知道 张都监是什么级别的官,水浒官职品级一览表
最新评论
非常不错
测试评论
是吗
真的吗
哇,还是漂亮呢,如果这留言板做的再文艺一些就好了
感觉真的不错啊
妹子好漂亮。。。。。。
呵呵,可以好好意淫了