🍀 Spring Date with Fortune, Prizes with Raffle! Growth Value Phase 1️⃣ 7️⃣ Spring Raffle Carnival Begins!
Seize Spring's Good Luck! 👉 https://www.gate.com/activities/pointprize?now_period=17
🌟 How to Participate?
1️⃣ Enter [Square] personal homepage, click the points icon next to your avatar to enter [Community Center]
2️⃣ Complete Square or Hot Chat tasks such as posting, commenting, liking, speaking to earn growth value
🎁 Every 300 points can raffle once, 10g gold bars, Gate Red Bull gift box, VIP experience card and more prizes waiting for you to win!
Details 👉 https://www.gate.com/ann
當下,如何破解AI"泡沫"?-安全可靠加密數字貨幣交易所平台
最近AI相關的公司股票都因為美國各種循環融資,
看不到回報的高額投入和全球市場流動性的缺失遭受重創。
CSP大廠改折舊,
現金流,
資本開支營收占比已經比較高了這點我去年中就提過了,
但當時市場無視了,
繼續猛衝AI,
現在又被拿出來熱議,
核心原因和當時完全一樣,
還是沒有看到與資本開支相匹配的盈利和爆款應用,
說白了市場認為的泡沫就是投入成本太高。
但當下大家也是不可能真不投入AI了,
與其去虛無縹緲的預測資本開支破裂和爆款應用的出現時間,
還不如去研究當前行業的發展趨勢去破解AI的“泡沫”問題。
怎麼破解呢,
答案就是降本,
任何一項技術的發展趨勢必定是其單位成本的不斷降低,
不然他就不可能普及。
從大哥大到小靈通再到智能手機,
從互聯網到移動互聯網都是這樣走過來的。
那麼當下AI最大的困境在哪裡:資本開支高和缺電,
對應起來就是GPU太貴,
電力消耗過大,
那麼怎麼解決這個問題,
就下面兩個路徑:
一、
降算卡的系統成本
(1)自研芯片,
典型代表就是谷歌嘛,
並且谷歌和蘋果一樣屬於現金充裕,
生態閉環,
軟硬兼修的六邊形戰士,
理所當然地成為巴老爺子人生最後一筆投資。
從下面這張表也能看出來谷歌TPU7配置還是相當可以的,
兩塊能力基本對標B300,
但是從價格算,
買塊B300估計能做四張TPU7。
因此26年TPU出貨指引已經來到了四百萬張,
都快趕上預測的26年Rubin出貨量了。
對產業影響就在於,
如果通用GPU和自研卡長期總市場達到1:1,
意味著同樣的資本開支,
能實現大約原來1.5倍以上的算力和存儲使用量。
對光模組這些配套產品同樣是這個道理,
更多的卡意味著配套需求增加了。
(這段是我9月7號寫的,
剛好這波存儲爆發前,
詳情可以翻一下當時的內容)
(2)將傳統一款GPU拆分成推理+深層訓練兩種不同配置卡的形式,
採用高低搭配的內存方案,
英偉達的rubin+CPX組合以及昇騰系列芯片的950pr+950dr都是這個例子,
邏輯部分可以採用同樣的芯片,
但是通過在內存上採用不同的配置降低成本。
像288G HBM4成本已經到了驚人的3萬+人民幣,
但是我用288G的GDDR7可能才1萬5左右,
文本預處理輕量化可以顯著降低我的推理卡成本,
部署更多的卡用於推理。
昇騰950pr這個自研的HI BL1.0是個國內創新出的非傳統HBM的高帶寬推理卡方案,
人家還沒正式發布不適合公開討論,
不過行業內的話估計應該猜到是啥了。
二、
降低伺服器耗電
這周新聞已經提到了,
為了降低AI伺服器的耗電量,
英偉達近期決定將伺服器使用的內存從通常用於伺服器的DDR5(第5代雙倍數據速率同步動態隨機存取記憶體),
改為LPDDR5X——也是許多旗艦手機採用的內存。
至於國內的AI芯片節電,
和高通一樣,
搞得比英偉達還要激進很多,
人家還在CPU的存儲上用lpddr節電,
咱們直接把算盤打到了GPU上的存儲上,
不能再劇透了,
只能說你懂的。
此外就是伺服器風冷換液冷,
這個自然不用說了,
散熱嘛,
也是能耗重點。
總之,
產業內會發生很多結構性的轉變這些環節依然是後續大機會所在。
存儲,
這邊這周也幹得很慘,
一個是流動性問題,
一個是所謂的內存大規模擴產。
首先海力士和三星真正新建的產能分別只有M15X和平澤 P4,
其他都是自家原有的老制程DDR4/LPDDR5產能轉產的,
實際上不算啥新增產能,
標題一個大大的XX擴產8倍更多是文字遊戲,
一是先進1C制程原來基數小,
二是你5成以上都是存量產能升級了一下制程,
實際總量增加值還比較有限。
而且這擴產起碼26年下半年以後才能落地,
有的甚至是27-28年的期貨,
裝機完全可以跟著市場需求調整。
將DRAM價格維持在一個相對高位波動,
擴大銷售滿足需求,
才是存儲原廠想幹也是需要去做的的,
獲得一個類似於hbm的長期的高毛利,
量價齊增,
由於DRAM一共就三星、
美光、
海力士三家主導,
據說韓廠兩家桌面下是有些勾兌的。
此外,
需要注意的是,
大家看到的現貨價,
原廠供貨的是合約價,
遠沒有現貨價這麼高,
哪怕現貨價格腰斬原廠價格依然要比現貨價低50%。
從HBM擴展到通用存儲,
使得Ai業務占比大幅提高,
存儲原廠量價齊增的“光模組時刻”已經到來。
美國銀行也發了個報告描述當下的尷尬,
買方內部的分歧很大,
買方研究員都看好存儲,
但是基金經理怕成接盤俠,
通俗地講就是懂行的都覺得沒問題,
但是管錢的擔心,
只能等二級市場見底後再沖了