利潤1000%！英偉達(dá)的GPU為何會(huì)如此受追捧？
發(fā)布時(shí)間： 2023-10-24 10:35
英偉達(dá)的GPU為何會(huì)如此受追捧？英偉達(dá)發(fā)布截至7月30日的2024財(cái)年第二財(cái)季財(cái)報(bào)。第二財(cái)季，英偉達(dá)營收135.1億美元，同比增長101%；非美國通用會(huì)計(jì)準(zhǔn)則下凈利潤為67.4億美元，同比增長422%。而造就英偉達(dá)瘋狂業(yè)績的最大推手無疑就是AI——用于處理AI計(jì)算的GPU需求火爆，使得英偉達(dá)數(shù)據(jù)中心業(yè)務(wù)收入翻倍，營收占比拉高到76%，增速遠(yuǎn)超前一季度，刷新單季最高紀(jì)錄。根據(jù)GPU Utils的測(cè)算，英偉達(dá)AI芯片H100在2023年8月的市場(chǎng)總需求可能在43.2萬張左右，這個(gè)數(shù)字還沒有包括中國區(qū)特供的H800，國內(nèi)各家大模型廠商對(duì)H800的需求也居高不下。在財(cái)報(bào)公布前，英偉達(dá)高端AI GPU不斷傳出漲價(jià)聲，Barrron's引述瑞杰金融分析師的數(shù)據(jù)指出，一張H100制造成本為3320美元，而售價(jià)則高達(dá)2.5萬~3萬美元，利潤率高達(dá)1000%，且需求只增不減，H100已售罄缺貨到2024年。毛利率超過70%，對(duì)芯片產(chǎn)品而言，有些不可思議。英偉達(dá)的GPU為何會(huì)如此受追捧？國外分析師認(rèn)為，英偉達(dá)構(gòu)建的CUDA軟件生態(tài)是客戶無法輕易轉(zhuǎn)向AMD等競(jìng)爭(zhēng)對(duì)手的主要原因。原因在于，AI算力的配置絕非簡單的硬件堆疊，要把1000張加速卡、100臺(tái)AI服務(wù)器放在一起，跑同一個(gè)LM訓(xùn)練或推論任務(wù)，還需要大量的配套軟件、通訊網(wǎng)絡(luò)，還不包括客戶的大量數(shù)據(jù)。即便把重達(dá)30多公斤、多達(dá)3.5萬個(gè)零件組成的英偉達(dá)HGX平臺(tái)層層堆起來，也堆不出LLM必須的AI算力。黃仁勛把H100這類AI GPU稱為“技術(shù)奇跡”，并非沒有原因。至于H100為何價(jià)格高昂？在硬件層面上，H100采用了四大先進(jìn)技術(shù)。第一是臺(tái)積電4納米制程（4N，其實(shí)并非真正的4nm，叫做5nm+或許更合適），要讓這一顆長26.8厘米、寬11.1厘米、含有800億個(gè)晶體管的H100發(fā)揮前所未有的效能，非臺(tái)積電代工莫屬。第二是連接技術(shù)，每張H100包含3個(gè)NVLink連接，這是英偉達(dá)獨(dú)家的數(shù)據(jù)傳輸技術(shù)，第四代NVlink可提供每秒900GB的GPU對(duì)GPU互連帶寬，以便將更多H100互連使用，獲得倍增的效能。第三是80GB的HBM2e高帶寬存儲(chǔ)器，目前僅SK海力士、三星電子可供應(yīng)，值得注意的是，英偉達(dá)剛剛宣布將最新的HBM3e植入最新GH200，是全球第一個(gè)支持HBM3e的GPU產(chǎn)品。第四是臺(tái)積電的獨(dú)家技術(shù)：CoWoS封裝，臺(tái)積電正積極擴(kuò)建CoWoS產(chǎn)能，但供不應(yīng)求情況恐將持續(xù)到2024年。CoWoS工藝能夠提供更好的成本、散熱和吞吐帶寬，后兩者對(duì)GPU特別重要。這四大技術(shù)每一項(xiàng)均屬尖端領(lǐng)域，如果說LLM推動(dòng)AI GPU加速運(yùn)算時(shí)代來臨，但讓英偉達(dá)站在當(dāng)前科技舞臺(tái)上獨(dú)舞的關(guān)鍵，卻是黃仁勛領(lǐng)導(dǎo)團(tuán)隊(duì)的長期押注與心血累積。
