今年的世界人工智能大會(WAIC 2025),國產(chǎn)算力芯片的發(fā)展仍然備受關(guān)注。
在后摩智能展臺,后摩智能M50系列產(chǎn)品首次亮相,后摩智能M50芯片與力謀?BX50計算盒子、力擎LQ50 Duo M.2卡等旗下核心產(chǎn)品一同位于展臺的核心位置。
作為主打端邊大模型和存算一體的芯片企業(yè),后摩智能這次帶來的M50芯片專為大模型推理設(shè)計,主要面向AI PC(人工智能個人電腦)、智能終端等場景。
“未來大模型有兩個重要發(fā)展趨勢:一是大模型的重心逐漸從訓(xùn)練向推理遷移。二是逐漸從云端智能逐漸向邊端或者端邊智能遷移。”7月25日,后摩智能CEO(首席執(zhí)行官)吳強對觀察者網(wǎng)等表示。
他認(rèn)為,未來的計算格局有可能是端、邊、云的混合體,但是90%的數(shù)據(jù)處理可能會在端和邊,只有10%的訓(xùn)練算到云端做更昂貴或者更復(fù)雜的任務(wù)在云端做。
圖源:觀察者網(wǎng)
后摩智能創(chuàng)立于2020年,創(chuàng)立早期定位為基于存算一體技術(shù)的大算力AI(人工智能)芯片研發(fā)企業(yè)。創(chuàng)始人吳強擁有美國普林斯頓大學(xué)博士學(xué)位,曾任地平線CTO(首席技術(shù)官)。
M50芯片被視為后摩智能過去兩年交出的一份答卷。
據(jù)介紹,M50芯片實現(xiàn)了160TOPS INT8、100TFLOPS bFP16的物理算力,搭配最大48GB內(nèi)存與153.6 GB/s的超高帶寬,典型功耗僅10W,相當(dāng)于手機快充的功率,能讓PC、智能語音設(shè)備、機器人等智能移動終端高效運行1.5B到70B參數(shù)的本地大模型,實現(xiàn)了“高算力、低功耗、即插即用”。
除了M50芯片,后摩智能此次發(fā)布的產(chǎn)品矩陣形成了覆蓋端側(cè)到邊緣的多元算力方案。力擎LQ50 Duo M.2卡以口香糖大小的標(biāo)準(zhǔn)M.2規(guī)格,為AI PC、陪伴機器人等移動終端提供“即插即用”的端側(cè)AI能力。
吳強曾表示,國產(chǎn)替代的企業(yè)可以對標(biāo)海外的某類產(chǎn)品,但絕不能用同樣的技術(shù)路徑進行照搬,如英偉達、AMD等國際巨頭的研發(fā)、工程、供應(yīng)鏈能力遠(yuǎn)超過初創(chuàng)企業(yè),硬碰硬難以取得成功,創(chuàng)業(yè)公司需要另辟蹊徑,以一種差異化的技術(shù)路線來應(yīng)對和巨頭們之間的競爭。
當(dāng)前,后摩智能通過存算一體技術(shù)與大模型的深度融合,推動AI大模型在端邊側(cè)實現(xiàn)“離線可用、數(shù)據(jù)留痕不外露”。
吳強稱,M50芯片的發(fā)布是后摩智能現(xiàn)階段邁出的重要的一步,后面會推出更多的芯片去解決端邊大模型的算力和功耗問題以及帶寬問題。“長期來說,后摩希望定位在端邊AI計算。”
在他看來,M50的發(fā)布只是一個開始,“我們的目標(biāo)是讓大模型算力像電力一樣隨處可得、隨取隨用。”
圖源:觀察者網(wǎng)
“無論是商業(yè)還是個人,端邊的AI都有可能成為更懂你的AI。因為它本身是有很多天生的優(yōu)勢,盡管剛剛開始,大模型剛剛開始,端邊剛剛開始,但是它本身有更好的實時響應(yīng),更低的使用成本,更安全的數(shù)據(jù)隱私,以及更好的個人的用戶體驗。未來這會成為一個趨勢。”吳強說。
2024年初,后摩智能把第一代芯片調(diào)整了一版,推出了M30,針對大模型做了一些調(diào)整和優(yōu)化。
本次推出的M50產(chǎn)品可廣泛應(yīng)用于消費終端、智能辦公、智能工業(yè)等多元領(lǐng)域,且均能在離線狀態(tài)下實現(xiàn)全流程本地處理,從源頭杜絕數(shù)據(jù)聯(lián)網(wǎng)傳輸風(fēng)險。
吳強還披露了當(dāng)下后摩智能的意向客戶,包括聯(lián)想的下一代AI PC產(chǎn)品、訊飛聽見的下一代智能語音設(shè)備以及中國移動的全新一代的5G+AI邊緣計算設(shè)備等。
“目前我們看重幾個領(lǐng)域,一是平板和電腦這種消費終端類,大模型是生產(chǎn)力工具。二是智能語音系統(tǒng),大模型語音會議也是我們重點布局的方面。三是運營商的邊緣計算,5G+AI是一個趨勢。”他說道。
吳強還提到,機器人包括具身智能機器人(特指陪伴機器人),更像是十年前的智能駕駛,是一個新興的垂直賽道,格局還未定,“大家還有機會”。
“只要是端邊,只要對大模型有需要,對功耗敏感,都有可能是我們的客戶,需要我們逐步地拓展。目前大方向是消費終端、智能辦公、智能工業(yè),機器人也算其中,這是我們重點在布局的幾個領(lǐng)域。”他表示。
面向未來,后摩智能已啟動下一代DRAM-PIM技術(shù)研發(fā),通過將計算單元直接嵌入DRAM陣列,使計算與存儲的協(xié)同更加緊密高效。該技術(shù)將突破1TB/s片內(nèi)帶寬,能效較現(xiàn)有水平再提升三倍,推動百億參數(shù)大模型在終端設(shè)備實現(xiàn)普及,讓更強大的AI算力能夠融入PC、平板等日常設(shè)備。
本文系觀察者網(wǎng)獨家稿件,未經(jīng)授權(quán),不得轉(zhuǎn)載。
本文鏈接:對話后摩智能CEO吳強:未來90%的數(shù)據(jù)處理可能會在端邊http://www.sq15.cn/show-3-150682-0.html
聲明:本網(wǎng)站為非營利性網(wǎng)站,本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻,不代表本站觀點,本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅,請大家謹(jǐn)防詐騙!若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。
上一篇: 初代“雪糕刺客”,破產(chǎn)了
下一篇: 余承東:鴻蒙5終端數(shù)量突破千萬