一個(gè)季度賺了123億美元的英偉達(dá),現(xiàn)在成了許多半導(dǎo)體企業(yè)艷羨的對象,大家頭一回發(fā)現(xiàn),原來GPU利潤這么高,甚至能撐起2萬億美元的市值,但英偉達(dá)真的會滿足于此嗎?
英偉達(dá)CEO黃仁勛曾在2008年發(fā)表過感言,認(rèn)為公司應(yīng)該把研究客戶的需求,把解決客戶的問題放在第一位,而不是去關(guān)注對手,如果把精力放在如何從對手那里把客戶搶過來,就會錯(cuò)失開拓新客戶的機(jī)會。
16年之后,英偉達(dá)的CEO還是黃仁勛,雖然股價(jià)市值規(guī)模早已翻了十?dāng)?shù)倍乃至上百倍,但在他的掌舵下,英偉達(dá)依舊走在不斷尋找新客戶的道路上。
據(jù)路透社報(bào)道,英偉達(dá)正在建立一個(gè)新的業(yè)務(wù)部門,專注于為云計(jì)算公司和其他公司設(shè)計(jì)定制芯片,其中包括先進(jìn)的人工智能處理器。
據(jù)其爆料,英偉達(dá)高管已經(jīng)與亞馬遜、Meta、微軟、谷歌和OpenAI的代表會面,討論為他們生產(chǎn)定制芯片的事宜,除了數(shù)據(jù)中心芯片外,英偉達(dá)還在尋求電信、汽車和視頻游戲的客戶。
路透社的這份報(bào)道,意味著英偉達(dá)要以強(qiáng)勢姿態(tài)切入數(shù)據(jù)中心定制芯片市場,要在傳統(tǒng)的游戲,新興的人工智能等領(lǐng)域之后開拓一片新的戰(zhàn)場。
那么,英偉達(dá)為什么要這么做,它的勝算又有幾何呢?
定制雙雄
從2020年開始,自研和定制成為了半導(dǎo)體行業(yè)的熱門詞,從蘋果發(fā)布M1芯片開始,似乎每個(gè)廠商都在嘗試自研芯片,以此來獲得成本上的優(yōu)勢。
但對于超大規(guī)模數(shù)據(jù)中心企業(yè)(Hyperscaler)公司來說,他們對于硬件和軟件都有接近完全的掌控力,非常適合開發(fā)自己專屬的SoC,而他們在這方面的研究也確實(shí)要早的多,定制化芯片初期最大的推動因素,就是來自這些企業(yè)對AI,以及云端計(jì)算的龐大需求。”
早些年靠AlphaGo一炮而紅的谷歌,就是定制化芯片的先行者。
2013年,Google AI負(fù)責(zé)人Jeff Dean經(jīng)過計(jì)算后發(fā)現(xiàn),如果有1億安卓用戶每天使用手機(jī)語音轉(zhuǎn)文字服務(wù)3分鐘,其中消耗的算力就是Google所有數(shù)據(jù)中心總算力的兩倍,而全球安卓用戶遠(yuǎn)不止1億。
此時(shí)谷歌已經(jīng)意識到,光靠通用的CPU和GPU已經(jīng)無法滿足未來的龐大計(jì)算需求,而出路就是選擇定制芯片,為此,它定下了一個(gè)目標(biāo):針對機(jī)器學(xué)習(xí)這一目的來構(gòu)建特定領(lǐng)域計(jì)算架構(gòu)(Domain-specific Architecture),還要將深度神經(jīng)網(wǎng)絡(luò)推理的總體擁有成本(TCO)降低至原來的十分之一。
2016年的Google I/O開發(fā)者大會上,谷歌首席執(zhí)行官Sundar Pichai正式向世界展示了TPU這一自研成果,初代TPU采用了28納米工藝制造,運(yùn)行頻率為700MHz,運(yùn)行時(shí)功耗為40W,谷歌將處理器包裝成外置加速卡,安裝在SATA 硬盤插槽中,實(shí)現(xiàn)即插即用。TPU通過PCIe Gen3 x16總線與主機(jī)連接,可提供12.5GB/s 的有效帶寬。
但初代TPU并非谷歌自己獨(dú)立打造,它的背后,離不開博通的助力。
根據(jù)2020年摩根大通分析師Harlan Sur的報(bào)告,谷歌TPU v1至v4這幾代均是它與博通共同設(shè)計(jì)的,當(dāng)時(shí)它已經(jīng)開始生產(chǎn)采用7nm 工藝的TPU v4,并開始與谷歌合作設(shè)計(jì)采用5nm工藝的TPU v5。
Sur表示,博通的專用集成電路(ASIC)業(yè)務(wù)2020年全年收入為7.5億美元,高于2016年的5000萬美元,除了芯片設(shè)計(jì)之外,博通還為谷歌提供了關(guān)鍵的知識產(chǎn)權(quán),并負(fù)責(zé)了制造、測試和封裝新芯片等步驟,以供應(yīng)谷歌的新數(shù)據(jù)中心,博通還與其他客戶如Meta、微軟和AT&T等公司合作設(shè)計(jì)ASIC芯片。
這位分析師還在2022年5月表示,Meta正在使用定制芯片來構(gòu)建其Metaverse硬件,成為博通下一個(gè)價(jià)值數(shù)十億美元的 ASIC客戶,“我們相信,這些成果主要集中在5納米和3納米工藝上,并將用于支持Metaverse硬件架構(gòu),該架構(gòu)將在未來幾年內(nèi)部署,Meta 將在未來三到四年內(nèi)成為博通繼谷歌之后下一個(gè)年產(chǎn)10億美元的 ASIC 客戶?!?Sur談到。
在人工智能元年到來之前,博通就與谷歌Meta勾肩搭背,極大拓展了自己在數(shù)據(jù)中心芯片市場中的份額,而在2023年人工智能爆火后,微軟所推出的Maia 100芯片,以及其尚在研發(fā)中的網(wǎng)卡,背后可能都有博通的參與,依靠著這幾個(gè)巨頭,博通成為了一人之下萬人之上的AI贏家。
博通的最新財(cái)報(bào)也體現(xiàn)了這一點(diǎn),其2024年第一季度財(cái)報(bào)顯示,該季度半導(dǎo)體營收73.9億美元,同比增長4%,營收占比62%,其中網(wǎng)絡(luò)營收33億美元,同比增長46%,占半導(dǎo)體營收45%,主要由兩大客戶定制DPU芯片增長拉動,預(yù)計(jì)2024年網(wǎng)絡(luò)營收同比增長35%+。
值得一提的是與AI相關(guān)的業(yè)務(wù),博通將AI ASIC和專注于AI的網(wǎng)絡(luò)解決方案一起歸類為AI加速器,截至2023年,該業(yè)務(wù)總銷售額合計(jì)占全年半導(dǎo)體收入的 15%,即約 42 億美元,而2024年第一季度 AI營收約23億美元,占半導(dǎo)體營收31%,較前一年同期翻了四倍,預(yù)計(jì)2024年總占比會在35%以上,意味著2024年AI營收規(guī)模超100億美元(此前預(yù)計(jì)75億美元),預(yù)計(jì)同比增長約133%左右;
而在營收超100億美元的目標(biāo)當(dāng)中,定制DPU芯片約70億美元,20%是交換機(jī)/路由器芯片,10%是光芯片以及互聯(lián)芯片等,這就意味著,光是為谷歌、Meta和微軟這樣的巨頭定制芯片,就能賺得盆滿缽滿。
博通首席執(zhí)行官Hock Tan 絲毫不掩飾自己對AI以及定制芯片的樂觀,他在財(cái)報(bào)電話會議上表示:到2024財(cái)年,網(wǎng)絡(luò)收入將同比增長30%,這主要得益于網(wǎng)絡(luò)連接部署的加速以及超大規(guī)模企業(yè)中人工智能加速器的擴(kuò)展,預(yù)計(jì)生成式AI 的收入將占半導(dǎo)體收入的25%以上。
與排名第一的博通相比,Marvell在定制芯片上的規(guī)模稍小,但同樣擁有不容小覷的實(shí)力,2023年4月,Marvell發(fā)布了基于臺積電3納米工藝打造的數(shù)據(jù)中心芯片,這也是全球第一家以芯片設(shè)計(jì)公司名義發(fā)布的3納米芯片。
2023年6月,臺灣媒體自由時(shí)報(bào)報(bào)道稱,Marvell 獲得亞馬遜 AI 訂單。通過此次合作,Marvell將協(xié)助亞馬遜第二代 AI 芯片(即Trainium 2)的設(shè)計(jì),預(yù)計(jì)2023年下半年啟動委托設(shè)計(jì),2024年進(jìn)入量產(chǎn)。
早在2020年12月,亞馬遜就推出了一款全新的機(jī)器學(xué)習(xí)定制訓(xùn)練芯片 Trainium,與標(biāo)準(zhǔn)的AWS GPU 實(shí)例相比,AWS 承諾可帶來30%的吞吐量提升、以及降低 45% 的單次引用成本,隨后亞馬遜又在2023年11月推出了升級版Trainium 2,這兩代芯片推出的背后,也少不了Marvell的影子。
在Marvell官網(wǎng)上,更是直白地提到自己是AWS的戰(zhàn)略供應(yīng)商,提供云優(yōu)化芯片,幫助滿足AWS客戶的基礎(chǔ)設(shè)施需求,包括提供電子光學(xué)、網(wǎng)絡(luò)、安全、存儲和定制設(shè)計(jì)解決方案,考慮到亞馬遜目前是全球最大的云服務(wù)提供商,且谷歌有意于從博通轉(zhuǎn)向Marvell,其在定制芯片上的實(shí)力可見一斑。
在Marvell發(fā)布的截止至2024年2月3日的第四財(cái)季與年度財(cái)務(wù)報(bào)告中,2024財(cái)年第四季度營業(yè)收入為14.27億美元,超出中旬時(shí)所給出的預(yù)期。Marvell的董事長兼首席執(zhí)行官馬特·墨菲先生對此強(qiáng)調(diào):“我們的Marvell 2024財(cái)年第四季度營收突破了14.27億美元,超過了預(yù)期。而人工智能帶來的收入增長更是驚人,使我們的數(shù)據(jù)中心終端市場的收入環(huán)比增幅達(dá)到38%,同比增長則高達(dá)54%。”
有意思的是,在此前的2024年第三季度財(cái)報(bào)中,Marvell就宣布自己通過為云供應(yīng)商開發(fā)定制芯片,在云計(jì)算領(lǐng)域也實(shí)現(xiàn)了增長。首席執(zhí)行官墨菲表示:“云計(jì)算客戶仍然專注于通過構(gòu)建他們自己的定制計(jì)算解決方案來增強(qiáng)他們的人工智能產(chǎn)品,我們已經(jīng)贏得了許多這樣的設(shè)計(jì)?!?/span>
雖然不清楚Marvell與哪些巨頭達(dá)成了合作,但其中必然有亞馬遜的席位。從Marvell 2017年收購Cavium,2019年收購Globalfoundries的ASIC業(yè)務(wù)部門Aquantia,2020年收購了光芯片廠商Inphi,2022年收購網(wǎng)絡(luò)交換芯片廠商Innovium這一番布局來看,其圖謀所求還是挺大的。
此外,相較于博通依靠巨頭的做法,Marvell的押注更加關(guān)鍵,早在2020年9月,Marvell就幫助今年爆火的Groq 設(shè)計(jì)生產(chǎn)出了Groq Node,其中Marvell 提供了構(gòu)建 ASIC 及其與外界接口的構(gòu)建塊,而 Groq 自己則專注于人工智能加速。
博通與Marvell,足以稱得上是人工智能時(shí)代里的定制雙雄。
誰是對手
雖然博通和Marvell并未獲得英偉達(dá)那樣的關(guān)注度,由于非AI業(yè)務(wù)的拖累,現(xiàn)在的財(cái)報(bào)不夠好看,股價(jià)也難以與英偉達(dá)比擬,但它們背后所潛藏的廣闊市場足以讓英偉達(dá)側(cè)目。
“超大規(guī)模數(shù)據(jù)中心企業(yè)自己做芯片比向外大量購買還要便宜,并省掉了中間商的成本?!盓DA工具與知識產(chǎn)權(quán)巨頭Cadence數(shù)位與簽核部門VP Kam Kittrell認(rèn)為,“這些公司通常是自家云端服務(wù)的使用者,并且擁有高價(jià)值的專門化軟件。他們可以針對這些軟件打造能源效率更佳的專屬硬件。”
“我們看到最大的成長是來自于數(shù)據(jù)基礎(chǔ)架構(gòu)的領(lǐng)域,包含云端、數(shù)據(jù)中心、網(wǎng)絡(luò)、儲存設(shè)備,以及5G基礎(chǔ)架構(gòu)等應(yīng)用。”Alphawave Semi行銷主管Sudhir Mallya表示:“從今天來看,定制化芯片在數(shù)據(jù)中心基礎(chǔ)架構(gòu)應(yīng)用上的成長幅度實(shí)在驚人。從幾年前Google、微軟、AWS、Meta等超大規(guī)模數(shù)據(jù)中心企業(yè)都紛紛開始設(shè)計(jì)自家芯片,我們就看到了這個(gè)趨勢?!?/span>
據(jù)研究公司650 Group 的 Alan Weckel 估計(jì),數(shù)據(jù)中心定制芯片市場今年將增長至100億美元,到2025 年將翻一番。Needham 分析師 Charles Shi 表示,到 2023 年,更廣泛的定制芯片市場價(jià)值約為300億美元,約占全球芯片年銷售額的5%。
“博通的定制芯片業(yè)務(wù)達(dá)到100億美元,而 Marvell 的規(guī)模約為20億美元,這是一個(gè)真正的威脅,”芯片研究集團(tuán) SemiAnalysis 的創(chuàng)始人迪倫·帕特爾 (Dylan Patel) 表示?!斑@是一個(gè)真正的大利空——有更多的競爭者加入了戰(zhàn)局?!?/span>
有意思的是,英偉達(dá)CEO黃仁勛最近在斯坦福的演講里,也提到了這一廣闊市場,他表示,英偉達(dá)不僅有來自競爭對手的競爭,還有來自客戶的競爭(云服務(wù)廠商),客戶可以為特定的算法構(gòu)建一款優(yōu)秀的芯片(ASIC),但計(jì)算不僅僅是關(guān)于transformer,更何況英偉達(dá)正在不斷地發(fā)明新的transformer變種。
黃仁勛著重提到了成本,他表示,購買和銷售芯片的人僅僅考慮的是芯片的價(jià)格,而運(yùn)營數(shù)據(jù)中心的人考慮的是整個(gè)運(yùn)營成本、部署時(shí)間、性能、利用率以及在所有這些不同應(yīng)用中的靈活性。總的來說,英偉達(dá)的總運(yùn)營成本(TCO)非常好,即使競爭對手的芯片是免費(fèi)的,最終算下來它也不夠便宜,英偉達(dá)的目標(biāo)是增加更多價(jià)值,以至于替代品不僅僅是關(guān)于成本的問題。
作為英偉達(dá)實(shí)際掌控人的他,首先對目前的ASIC芯片表達(dá)出了不屑,而后他表示,只要有需要,英偉達(dá)隨時(shí)可以利用已有的IP和技術(shù)積累,為客戶打造出更好的定制芯片,這也與前文中路透社的報(bào)道相吻合。
“我們是否愿意定制化?是的,我們愿意。為什么現(xiàn)在的門檻相對較高?因?yàn)槲覀兤脚_的每一代產(chǎn)品首先有GPU,有CPU,有網(wǎng)絡(luò)處理器,有軟件,還有兩種類型的交換機(jī)。我為一代產(chǎn)品建造了五個(gè)芯片,人們以為只有GPU一個(gè)芯片,但實(shí)際上是五個(gè)不同的芯片,每個(gè)芯片的研發(fā)成本都是數(shù)億美元,僅僅是為了達(dá)到我們所說的“發(fā)布”標(biāo)準(zhǔn),然后你必須將它們集成到一個(gè)系統(tǒng)中,然后你還需要網(wǎng)絡(luò)設(shè)備、收發(fā)送器、光纖設(shè)備,以及大量的軟件。運(yùn)行一個(gè)像這個(gè)房間這么大的計(jì)算機(jī),需要大量的軟件,所以這一切都很復(fù)雜。如果定制化的需求差異太大,那么你必須重復(fù)整個(gè)研發(fā)過程。然而,如果定制化能夠利用現(xiàn)有的一切,并在此基礎(chǔ)上增加一些東西,那么這就非常有意義了。也許是一個(gè)專有的安全系統(tǒng),也許是一個(gè)加密計(jì)算系統(tǒng),也許是一個(gè)新的數(shù)值處理方式,還有更多,我們對這些非常開放。我們的客戶知道我愿意做所有這些事情,并認(rèn)識到,如果你改變得太多,你基本上就全部重置了,浪費(fèi)了近千億美元。所以他們希望在我們的生態(tài)系統(tǒng)中盡可能地利用這些(減少重置成本)?!?/span>
事實(shí)上,隔壁的兩家早已在數(shù)據(jù)中心芯片上不斷推陳出新。AMD有Instinct計(jì)算GPU,以及EPYC處理器(采用chiplet設(shè)計(jì)),解決AI和HPC工作負(fù)載;Intel則采用多方位策略,運(yùn)用單體的Habana處理器處理AI應(yīng)用,多芯片的Data Center GPU Max處理AI及HPC應(yīng)用,以及多芯片的第四代Xeon可擴(kuò)充CPU處理其余應(yīng)用。
還在采用單體設(shè)計(jì)的英偉達(dá)H100,目前在AI上的競爭力依舊強(qiáng)大,但這種優(yōu)勢并非無法消弭,尤其是考慮到它昂貴的價(jià)格。像亞馬遜、谷歌、Meta、微軟這樣的云服務(wù)巨頭,他們既有開發(fā)定制化數(shù)據(jù)中心芯片的雄厚財(cái)力,也有為之設(shè)計(jì)一套配套軟件的技術(shù)能力,為了提升效率和降低成本,本就在往這一方向上發(fā)展,AI的到來只是加速了向定制化芯片遷移的過程。
當(dāng)云服務(wù)廠商率先轉(zhuǎn)向定制芯片后,所生產(chǎn)出來的芯片不僅服務(wù)自身,還可以開放給其他廠商,長此以往就是定制芯片比例越來越高,英偉達(dá)芯片比例就會越來越少,如今它所構(gòu)筑出的2萬億帝國可能就會在頃刻間崩塌。
黃仁勛的演講中,一方面強(qiáng)調(diào)成本,表達(dá)出“定制芯片很不錯(cuò),但算下來還是我的芯片更劃算”的意思,另一方面也對定制芯片持有開放態(tài)度,先安撫住自己這群躁動的客戶再說,成本高?給你優(yōu)惠,定制化?先提需求,有什么問題不要急,我們坐下慢慢談。
這種態(tài)度,實(shí)際上體現(xiàn)出了英偉達(dá)如今的左右為難,還記得文章開始所提到的黃仁勛的感言嗎?英偉達(dá)把客戶需求而不是競爭對手放在第一位,這一招讓英偉達(dá)在GPU市場里橫行了二十余年而未嘗一敗,但當(dāng)客戶變成對手時(shí),多少是有些尷尬的。
從這一角度看,博通和Marvell倒也不用過于擔(dān)心英偉達(dá)橫插一腳,一旦英偉達(dá)開啟定制化芯片的先河,那就會引發(fā)一場厚此薄彼的矛盾,英偉達(dá)B100和定制化芯片哪個(gè)更好,不同的定制芯片又有怎樣的性能差異等等,這都是黃仁勛未來所需要考慮的問題。
寫在最后
英偉達(dá)現(xiàn)在所涉及的領(lǐng)域之廣,絕非昔日能比,2008年的英偉達(dá)可能只需要盯著AMD和英特爾就行了,但2024年的英偉達(dá),要盯著的廠商數(shù)量早已翻了好幾倍,且都不是等閑之輩。
而它最近向美國*券交易委員會提交的文件中,也放入了一堆競爭對手,英特爾、AMD、博通、高通、亞馬遜和微軟都位列其中,面對幾個(gè)巨頭的咄咄逼人,英偉達(dá)再淡定,額頭多少也沁出了一些汗珠,并非像以往那樣風(fēng)淡云清。
或許英偉達(dá)現(xiàn)在真的需要思考下,不把打敗對手當(dāng)成目標(biāo)了。