据报道,英伟达用于人工智能计算的H100 GPU交货等待时间已经大幅缩短。台积电台湾地区总经理Terence Liao表示,过去几个月内,交货等待时间从最初的3-4个月降至目前的2-3个月(8-12周)。服务器代工厂商也透露,相比2023年几乎无法买到英伟达H100的情况,目前供应瓶颈正在逐步缓解。

尽管交货等待时间有所缩短,但Terence Liao指出,对于人工智能硬件的需求仍然非常旺盛。即使价格昂贵,用于人工智能的服务器采购也正在取代通用服务器的采购。然而他认为,交付周期太长是导致需求看起来居高不下的主要原因。

注意到,在目前全球范围内经济形势不景气和通货膨胀的情况下,2-3个月的交货等待时间是历史上最短的。仅仅6个月之前,等待时间还长达11个月,大多数英伟达客户需要等待将近一年的时间才能拿到他们订购的人工智能GPU。

自2024年初以来,H100 GPU交货等待时间一直在显著缩短。今年年初,等待时间就已经从最初的数月降至3-4个月。现在又进一步缩短了一个月。依这样的速度,到今年年底甚至更早,或许将不再需要等待。

这种情况变化的部分原因可能是部分公司持有过剩的H100 GPU库存,并且为了降低闲置库存的高额维护成本而进行转售。此外,亚马逊云科技(AWS)方便用户通过云端租赁英伟达H100 GPU,这也帮助缓解了部分对H100的需求压力。

目前唯一仍在承受供应限制的英伟达客户是一些大型企业,例如OpenAI等正在研发自己的大型语言模型(LLM)。训练大型语言模型需要成千上万颗GPU才能快速高效地完成,因此这些公司仍然面临着供应瓶颈的挑战。

(8652631)

友情提示

本站部分转载文章,皆来自互联网,仅供参考及分享,并不用于任何商业用途;版权归原作者所有,如涉及作品内容、版权和其他问题,请与本网联系,我们将在第一时间删除内容!

联系邮箱:1042463605@qq.com