(文/觀察者網(wǎng) 呂棟 編輯/張廣凱)
8月25日,觀察者網(wǎng)獲悉,華為將于8月27日推出新款AI SSD(固態(tài)硬盤),這種硬盤并非用于個人電腦中的消費級SSD,而是用在大模型訓練和推理的數(shù)據(jù)中心中。
知情人士對觀察者網(wǎng)稱,華為推出新款AI SSD,旨在破解AI訓練推理中的“顯存墻”難題。傳統(tǒng)HBM(高帶寬內(nèi)存)存在容量限制,而華為通過技術創(chuàng)新提供大容量SSD,同時提升數(shù)據(jù)吞吐效率,可大幅提升算力卡效率,為AI應用提供更強支撐。
單純看這一消息可能不太好理解,但結合華為近期在數(shù)據(jù)存儲領域的動向,就不難看出,華為是想通過軟硬兩手,降低對高性能HBM的依賴,讓可獲得的HBM更高效發(fā)揮作用,同時也能提升SSD的價值。
當下,國產(chǎn)DRAM(動態(tài)隨機存儲器)和HBM還與國外存在代際差距,同時美國還對HBM的出口和制造進行嚴格管制,但是國產(chǎn)NAND閃存技術已經(jīng)取得長足發(fā)展,國產(chǎn)消費級和企業(yè)級SSD的競爭力明顯提升。
如果能減少高性能HBM的使用,充分發(fā)揮SSD的作用,就能一定程度降低模型訓練和推理的成本,緩解中國AI產(chǎn)業(yè)界對高性能HBM的依賴,是另一種“系統(tǒng)補單點”的思維。
就在前不久,華為曾推出一項名為UCM(推理記憶數(shù)據(jù)管理器)的技術。這種技術可以根據(jù)記憶熱度,在HBM、DRAM、SSD等存儲介質(zhì)中分級緩存數(shù)據(jù),相當于擴充了HBM的容量,讓模型能記住的KV Cache數(shù)據(jù)更多,同時能更智能、更快速的調(diào)用數(shù)據(jù)。
KV Cache可以優(yōu)化計算效率、減少重復運算,但會對HBM顯存造成巨大壓力,而UCM的關鍵作用就是減輕HBM壓力,讓SSD在訓練和推理中發(fā)揮更大作用,這可能也是華為很快又推出新款AI SSD的原因。
“華為此次布局,或?qū)θ騍SD市場形成沖擊。”前述人士對觀察者網(wǎng)稱,結合華為自研XtremeLink、SpeedFlex PCB等技術,成為國產(chǎn)SSD突破的關鍵一步。華為將與國內(nèi)訓推一體機廠商合作,有利于中國構建全新AI生態(tài)鏈,應對全球化挑戰(zhàn)。
“AI SSD聚焦提升訓練效率和推理體驗, 存儲器領域不會僅有HBM一枝獨秀,有望形成百花齊放的競爭態(tài)勢。華為計劃與一體機廠商合作,改變現(xiàn)有局面,為AI存儲器市場注入新活力,帶來更多可能性。”他說道。
本文系觀察者網(wǎng)獨家稿件,未經(jīng)授權,不得轉載。
本文鏈接:HBM不再一枝獨秀?華為新品或沖擊全球SSD市場http://www.sq15.cn/show-3-152975-0.html
聲明:本網(wǎng)站為非營利性網(wǎng)站,本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻,不代表本站觀點,本站不承擔任何法律責任。天上不會到餡餅,請大家謹防詐騙!若有侵權等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。
上一篇: 【經(jīng)緯晚班車】育兒補貼申領入口公布;青島航空否認即將易主
下一篇: Keep扭虧?仍困在三座大山里