中新經(jīng)緯2月5日電 題:DeepSeek本地部署加速端側(cè)AI推廣落地
作者 舒迪 國泰君安證券研究所電子行業(yè)首席分析師
春節(jié)期間,DeepSeek以其獨特的創(chuàng)新力,正逐步打開AI應用產(chǎn)業(yè)的上升通道。模型正式發(fā)布以來,DeepSeek連續(xù)多日登頂蘋果App Store和谷歌Play Store全球下載榜首。DeepSeek通過多項工程創(chuàng)新,成功降低了訓練成本和推理成本,同時提升了模型效果。
盡管DeepSeek觸發(fā)了模型降本,但算力需求卻并未減少,在多個層面呈現(xiàn)出增長趨勢。隨著AI應用模型向更高智能維度躍遷,訓練需要更多算力;AI應用的推理也廣泛需要算力支持,更多人開始訓練和推理自己的模型;同時,轉(zhuǎn)向?qū)Φ犬悩?gòu)計算的新主流計算形態(tài)也需要更多GPU(圖形處理器)。未來,從對話到任務、到多模態(tài),AI的發(fā)展將需要更多算力加持。
同時,以DeepSeek為代表的開源模型興起加速了人工智能生態(tài)的構(gòu)建,而DeepSeek的本地部署更是讓個人知識庫的構(gòu)建成為可能。許多企業(yè)已經(jīng)意識到,開源且具有廣泛共識的模型更容易構(gòu)建生態(tài)系統(tǒng)。DeepSeek蒸餾(指的是通過一系列算法和策略,將原始的、復雜的數(shù)據(jù)進行去噪、降維、提煉等操作)后的小模型表現(xiàn)出色,使得本地部署知識庫從企業(yè)端擴展到個人用戶。通過高效且靈活地構(gòu)建私有化的AI知識管理系統(tǒng),不僅保護了數(shù)據(jù)隱私,還可以根據(jù)特定需求進行定制優(yōu)化。
在端側(cè)產(chǎn)品設計中,算力和傳輸是關鍵因素。隨著蒸餾模型能力的提升,未來端側(cè)SoC(系統(tǒng)級芯片)將更加注重模型的本地部署和推理能力。端云協(xié)同升級將成為未來技術發(fā)展的必然趨勢,端側(cè)產(chǎn)品需要在有限的硬件資源下實現(xiàn)高效的計算和傳輸,而云端則需要提供更強大的計算能力和存儲支持。
此外,DeepSeek的開源發(fā)展也降低了成本,推動了應用的繁榮。對于B端應用來說,優(yōu)質(zhì)開源模型可以更好地用于垂類場景。成本的壓低將帶來使用場景的普及,從而帶動新的供給和需求。如今的AIGC(人工智能生成內(nèi)容)創(chuàng)作已經(jīng)呈現(xiàn)出類似的趨勢,若推理成本進一步降低,對于AI(人工智能)內(nèi)容的發(fā)展將有顯著推動。
展望未來,DeepSeek將繼續(xù)以其創(chuàng)新力和開源精神,推動AI技術的普及和應用。從教育、娛樂應用到電商場景,從AI視頻生成技術到AI硬件落地發(fā)展,DeepSeek都有望推動相關行業(yè)的變革與發(fā)展。(中新經(jīng)緯APP)
中新經(jīng)緯版權(quán)所有,未經(jīng)授權(quán),不得轉(zhuǎn)載或以其他方式使用。
責任編輯:孫慶陽
本文鏈接:舒迪:DeepSeek本地部署加速端側(cè)AI推廣落地http://www.sq15.cn/show-2-10511-0.html
聲明:本網(wǎng)站為非營利性網(wǎng)站,本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻,不代表本站觀點,本站不承擔任何法律責任。天上不會到餡餅,請大家謹防詐騙!若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。
上一篇: OpenAI原應用負責人卡斯: DeepSeek加速AI平價化
下一篇: 家用市場期待機器人來“敲門”