21世紀經濟報道記者雷晨 北京報道
自ChatGPT及其背后的GPT系列大語言模型發布以來，人工智能大模型熱潮持續蔓延。
除了提供云端大模型應用程序編程接口（API）的商業模式外，銷售“軟硬件結合”的大模型訓推一體機是另一條備受關注的商業化路徑，在中國市場上熱度較高，甚至被稱作AI“魔盒”。
大模型的訓練和部署往往需要大量的計算資源。然而，當前國內在大模型訓練上存在算力不夠、缺少高端芯片等問題，導致大模型訓練進展緩慢。
業內人士認為，在AI時代，既需要算力的強大性能，也需要考慮靈活性、普惠性和易獲得性。
在此背景下，大模型訓推一體機應運而生。訓推一體機是指集成了大模型訓練和推理功能的“全棧式”人工智能設備，通常包含中央處理器（CPU）、圖形處理器（GPU）、存儲器、操作系統、深度學習模型等軟硬組件，能通過大規模數據訓練掌握數據處理和預測等能力。
“訓推一體機的出現，通過集成硬件設備、基礎軟件以及AI開發平臺，降低了開發門檻，使得更多的企業和開發者能夠參與到AI大模型的研發和應用中來。”一位機構分析師對記者指出。
目前，多家廠商都發布了基于華為昇騰AI基礎軟硬件平臺的訓推一體機產品。但從市場情況來看，仍處于商業化前期階段。
靈活的AI“魔盒”
與OpenAI、谷歌等公司采取的提供云端大模型應用程序編程接口（API）的模式不同，訓推一體機采取的是“軟硬件結合”的模式。通過軟硬件協同，優化了性能，降低部署成本。
“訓推一體機可根據企業的特定業務需求提供‘開箱即用’的定制化大模型解決方案，企業將模型放到機器里，邊進行推理邊進行訓練，相當于把大模型私有化，先讓客戶用起來，邊用邊訓練，然后不斷完善模型。”有業內資深人士對21世紀經濟報道記者表示。
除了能夠解決大模型的訓練問題，訓推一體機還可以提供本地化部署的解決方案，滿足企業對數據安全的需求。隨著數據安全和隱私保護意識的不斷提高，越來越多的企業和組織希望能夠在本地進行模型訓練和推理，以減少數據泄露的風險。
在國內市場，自2023年3月華為昇騰攜手華鵬振宇推出針對高校與科研院所的AI訓練開發一體機以來，國內廠商相繼發布合作版昇騰一體機，應用范圍迅速拓寬，覆蓋科研至AI全場景及垂類模型應用落地。
民生證券研報稱，昇騰AI一體機是國內AI軟硬件技術的黃金交點，是以國產算力領軍者華為昇騰AI基礎軟硬件平臺為基礎，聯合國內領先AI廠商打造的先進生產力工具。
2023年3月，華為昇騰與旗下華鵬振宇打造了專為高校和科研院所設計的AI訓練開發一體機，奠定了將AI算力、AI平臺軟件、AI開發框架、開發組件和存儲高效融合的算力底座基礎架構。
2023年6月，軟通動力(301236.SZ)發布訓推一體化平臺，支持用戶一站式AI開發、深度適配不同AI應用場景；同年8月起，云從科技(688327.SH)、科大訊飛(002230.SZ)、智譜AI等大模型廠商合作款昇騰一體機面世。
其中，科大訊飛聯合華為在去年8月15日推出訊飛星火一體機，進軍私有化垂直大模型賽道。
據科大訊飛董事長劉慶峰介紹，“星火一體機”是國產軟硬件一體化的私有專屬大模型解決方案，開箱即可使用，提供從底層算力、AI框架、訓練算法、推理能力、應用成效等全棧AI能力，面向金融、國企、央企等重點行業客戶，提供自主可控的私有化大模型。
后續醫渡科技、安恒信息、中興通訊等公司將昇騰一體機用于自身垂類模型落地，昇騰一體機應用范圍逐漸擴展到AI全場景。
值得一提的是，隨著技術的進步和市場競爭的加劇，訓推一體機的價格逐漸從百萬級降至千元級。例如，云天勵飛（688343.SH）推出的深目AI模盒，其售價在千元級，這在很大程度上降低了大模型應用的門檻。
當前，訓推一體機市場上還有跨界玩家涌入。
開勒股份（301070.SZ）近日接受機構調研時表示，豫資開勒目前在研一款通用型的模型服務開發平臺，以及具備訓練、推理功能的一體機產品。
仍處于商業化前期
雖然訓推一體機以低成本和靈活性著稱，但不可忽視的是，它也存在一些局限性。
首先，其性能往往會受到硬件技術的限制，這不僅增加了技術持有和更新的成本，還在一定程度上制約了其處理復雜任務的能力。
與公共云服務或使用 API 接入大模型相比，訓推一體機在效率方面可能處于劣勢。由于其對大模型的使用較為零散，難以充分發揮大模型的整體優勢，從而影響了處理大規模數據和復雜任務的效果。
從技術層面來看，訓推一體機集成了多種高性能組件，并需要軟硬件之間的緊密協同工作。盡管眾多廠商陸續發布訓推一體機，但記者多方了解獲悉，多家廠商仍投入大量技術人員持續優化調試，以確保其在應用場景下的穩定性和效率。
目前，訓推一體機覆蓋的范圍也逐漸擴展至能源、金融、運營商、政務、制造、教育科研等多領域的通用問答、寫作輔助、代碼輔助、智能分析、智能客服、知識咨詢等場景。
但訓推一體機仍處于商業化前期階段。一位接近科大訊飛人士對記者表示，關于星火一體機的銷售情況，目前還沒有可披露的新消息。
近期，有投資者在互動平臺向云從科技提問：云從科技攜手華為聯合發布從容大模型訓推一體化解決方案，是否已與相關客戶簽訂一體機業務合同或意向訂單？
云從科技回應稱，今年一體機的市場需求正隨著國產算力和應用的明確，已經有了合同和未來預期的收入。另一方面，一體機訂單優先會在信息化、私有化部署以及國產化算力需求明確的行業（如能源、教育和文旅等）突破。
從市場空間來看，華為董事、ICT（信息與通信技術）產品與解決方案總裁楊超斌在今年3月舉行的華為中國合作伙伴大會上表示，2024年中國區人工智能訓推一體機市場規模有望達到168億元。
民生證券研報指出，以華為昇騰AI基礎軟硬件平臺為基礎，聯合國內領先AI廠商打造的先進生產力工具，有著數據安全可控、開箱即用的特點，AI大模型在數據安全與數據要素驅動下，帶來央國企與政府大模型本地化部署的剛需。樂觀預計，2027年G端昇騰一體機市場規模超4500億元，30%的G端PC將接入大模型AI。
本文鏈接：A股群雄逐鹿AI“魔盒” 守望大模型一體機千億級風口http://www.sq15.cn/show-2-7809-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。