英偉達H100交貨時間從4個月降至8-12周

H100 AI GPU的供應限制問題有望解決了。

 

據(jù)Digitimes報道，戴爾臺灣地區(qū)總經(jīng)理Terence Liao報告稱，英偉達（Nvidia）H100 AI GPU的交付周期在過去幾個月中已從3-4個月縮短到僅2-3個月（8-12周）。服務器 ODM 顯示，與 2023 年相比，供應終于有所緩解，當時幾乎不可能獲得 Nvidia 的 H100 GPU。

盡管交貨時間縮短，但Terence Liao表示，對具有人工智能功能的硬件的需求仍然非常高。具體來說，人工智能服務器的購買正在取代企業(yè)中的通用服務器購買，盡管人工智能服務器的成本非常高。但是，他認為采購時間是造成這種情況的唯一原因。

2-3 個月的交付窗口是 Nvidia H100 GPU 的最短交貨時間。就在6個月前，交貨時間達到了 11 個月，這意味著英偉達的大多數(shù)客戶不得不等待一年才能完成他們的 AI GPU 訂單。

進入2024年以來，交貨時間顯著縮短。首先，我們看到今年早些時候大幅減少到 3-4 個月。現(xiàn)在，交貨時間又縮短了一個月。按照這個速度，我們可以看到交貨時間在年底或更早之前完全消失。

這種行為可能是一些公司擁有過剩的 H100 GPU并轉(zhuǎn)售部分供應以抵消未使用庫存的高昂維護成本的連鎖反應的結(jié)果。此外，AWS 使通過云租用 Nvidia H100 GPU變得更加容易，這也有助于緩解部分 H100 需求。

唯一在供應限制中苦苦掙扎的英偉達客戶是像OpenAI這樣的大公司，它們正在開發(fā)自己的LLM。這些公司需要數(shù)以萬計的 GPU 來快速有效地訓練他們的 LLM。

好消息是，這應該不會成為長期的問題。如果交貨時間繼續(xù)呈指數(shù)級縮短，就像過去4個月一樣，英偉達最大的客戶應該能夠獲得他們需要的所有GPU，至少在理論上是這樣。

CoWoS封裝產(chǎn)能是關(guān)鍵

交貨時間縮短，表明臺積電擴增的CoWoS封裝產(chǎn)能開始釋放。據(jù)悉，臺積電要在2024年底前將相關(guān)產(chǎn)能從2023年中的水平增加一倍，從目前的情況來看，臺積電及其合作伙伴的CoWoS產(chǎn)能擴增進展快于預期，使得以H100為代表的高性能GPU交貨時間大幅縮短。

產(chǎn)業(yè)人士分析，從2023年7月到年底，臺積電積極調(diào)整CoWoS封裝產(chǎn)能，已逐步擴充并穩(wěn)定量產(chǎn)，去年12月，臺積電CoWoS月產(chǎn)能增加到1.4萬~1.5萬片。

雖然臺積電在積極擴產(chǎn)，但只有這一家的產(chǎn)能還是無法滿足市場需求，因此，英偉達已經(jīng)在2023年向臺積電以外的專業(yè)封測代工廠（OSAT）尋求幫助，主要包括日月光和安靠（Amkor），其中，安靠在2023年第四季度已開始提供相關(guān)產(chǎn)能，日月光投控旗下矽品也于2024年第一季度開始供應CoWoS封裝產(chǎn)能。

2024年，AI芯片用先進封裝產(chǎn)能依然會供不應求，包括臺積電、日月光、安靠、力成、京元電在內(nèi)的專業(yè)封測代工廠，將會在今年擴大資本支出，以布局先進封裝產(chǎn)能。

根據(jù)臺積電的擴產(chǎn)節(jié)奏，預計到今年第四季度，該晶圓代工龍頭的CoWoS月產(chǎn)能將大幅擴充到3.3萬~3.5萬片。

今年，日月光的資本支出規(guī)模將同比增長40%~50%，其中，65%的投資用于封裝，特別是先進封裝項目。日月光投控營運長吳田玉表示，今年的先進封裝與測試營收占比會更高，AI相關(guān)先進封裝收入將翻倍，今年相關(guān)營收至少增加2.5億美元。力成也在擴大先進封裝產(chǎn)能，該公司董事長蔡篤恭表示，下半年將積極擴大資本支出，規(guī)模有望達到100億元新臺幣。力成主要布局扇出型基板封裝（fan out on substrate）技術(shù)，整合ASIC和HBM先進封裝，在AI用HBM內(nèi)存方面，力成有望在今年第四季度量產(chǎn)相關(guān)產(chǎn)品。為滿足CoWoS封裝后的晶圓測試需求，今年，京元電相關(guān)晶圓測試產(chǎn)能將擴充兩倍。

H100轉(zhuǎn)售潮

隨著交貨周期的縮短，一些之前囤積了H100的公司開始考慮轉(zhuǎn)售其過剩的庫存。這一現(xiàn)象在AWS、谷歌云和微軟Azure等大型云服務提供商的影響下尤為明顯。這些公司提供了便捷的芯片租賃服務，使得用戶無需大量購買和囤積硬件，從而降低了成本并提高了靈活性。

盡管H100的可用性有所改善，但AI芯片的需求仍然旺盛，尤其是在訓練大型語言模型（LLM）的領域。

英偉達作為全球領先的GPU制造商，在AI芯片市場占有重要地位。然而，隨著AMD、Intel等公司在AI芯片領域的不斷投入和發(fā)展，市場競爭愈發(fā)激烈。

隨著AI技術(shù)的廣泛應用，AI芯片市場正迎來快速增長期。盡管AI芯片供應問題有所緩解，但市場需求仍然旺盛，市場競爭依然激烈。英偉達等公司在擴大生產(chǎn)規(guī)模、提高供應鏈效率的同時，也需要關(guān)注競爭對手的動態(tài)和市場變化，以應對未來可能出現(xiàn)的挑戰(zhàn)和機遇。