AI服務(wù)器嚴(yán)重缺貨造成價(jià)格上漲是為什么？AI服務(wù)器價(jià)格上漲給相關(guān)企業(yè)帶來(lái)困境AI 服務(wù)器價(jià)格上漲給相關(guān)企業(yè)帶來(lái)了成本壓力和出貨量下降的困境。一方面，對(duì)于AI服務(wù)器生產(chǎn)商來(lái)說(shuō)，由于核心零部件GPU價(jià)格上漲和供應(yīng)緊張，導(dǎo)致其生產(chǎn)成本增加和出貨量受限。另一方面，對(duì)于AI服務(wù)器使用者來(lái)說(shuō)，例如云服務(wù)商和終端用戶，由于AI服務(wù)器價(jià)格上漲和供應(yīng)不足，導(dǎo)致其使用成本增加和算力資源匱乏。
據(jù)行業(yè)媒體報(bào)道，“現(xiàn)在英偉達(dá)GPU嚴(yán)重缺貨，服務(wù)器廠商缺少核心零部件，一定程度上影響了相關(guān)企業(yè)的出貨量。”而為了應(yīng)對(duì)增加的訂單量，英偉達(dá)也向臺(tái)積電追加預(yù)訂1萬(wàn)片先進(jìn)封裝產(chǎn)能，以滿足AI頂級(jí)規(guī)格芯片的生產(chǎn)。但這些措施仍然難以解決短期內(nèi)的供需矛盾。另外，在國(guó)內(nèi)可用于訓(xùn)練AI大模型的A100大約有4萬(wàn)~5萬(wàn)個(gè)，供應(yīng)相當(dāng)吃緊。一些云服務(wù)商已嚴(yán)格限制內(nèi)部使用這些先進(jìn)芯片，以將其保留至需要強(qiáng)力運(yùn)算的任務(wù)。而對(duì)于終端用戶來(lái)說(shuō)，在線租用云端AI服務(wù)器也變得更加昂貴和困難。
面對(duì)AI 服務(wù)器價(jià)格上漲和供應(yīng)緊張的問題，業(yè)界正在尋求各種解決方案。其中主要有以下幾個(gè)方向：- 增加GPU產(chǎn)能：這是最直接也最困難的方案。由于全球芯片產(chǎn)業(yè)鏈的復(fù)雜性和脆弱性，在短期內(nèi)很難實(shí)現(xiàn)大幅提升GPU產(chǎn)能。不過，在中長(zhǎng)期來(lái)看，隨著臺(tái)積電、三星等芯片制造商擴(kuò)大投資和產(chǎn)能，在國(guó)內(nèi)也有多家企業(yè)在積極布局國(guó)產(chǎn)GPU芯片，在未來(lái)或許可以緩解GPU供應(yīng)緊張的問題；- 優(yōu)化AI模型：這是一個(gè)技術(shù)層面的方案。通過優(yōu)化AI模型的結(jié)構(gòu)、參數(shù)、算法等方式，可以降低模型對(duì)算力資源的消耗。例如，在NLP領(lǐng)域有一種叫做知識(shí)蒸餾的技術(shù)方法，可以將一個(gè)大型模型（教師模型）訓(xùn)練出來(lái)的知識(shí)傳遞給一個(gè)小型模型（學(xué)生模型），使得小型模型可以在保持較高精度的同時(shí)減少運(yùn)算量。
- 利用邊緣計(jì)算：這是一個(gè)架構(gòu)層面的方案。通過利用邊緣計(jì)算技術(shù)，在離數(shù)據(jù)源更近、更分散、更靈活的邊緣節(jié)點(diǎn)上進(jìn)行數(shù)據(jù)處理和分析，并將結(jié)果返回給云端或終端設(shè)備。這樣可以減少對(duì)云端中心化算力資源的依賴和消耗，并提高數(shù)據(jù)處理效率和安全性；- 探索新型硬件：這是一個(gè)創(chuàng)新層面的方案。通過探索新型硬件設(shè)備和技術(shù)來(lái)提升或替代傳統(tǒng)GPU芯片在人工智能領(lǐng)域中的作用。例如，有一種叫做神經(jīng)網(wǎng)絡(luò)處理器（NPU）的專用芯片，可以針對(duì)神經(jīng)網(wǎng)絡(luò)的特點(diǎn)進(jìn)行優(yōu)化設(shè)計(jì)，提高運(yùn)算速度和效率；還有一種叫做光子計(jì)算的新興技術(shù)，可以利用光子代替電子進(jìn)行數(shù)據(jù)傳輸和處理，實(shí)現(xiàn)超高速度和超低功耗的計(jì)算。
?
