企業(yè)大模型開發(fā)平臺(tái)隆重發(fā)布
百模大戰(zhàn)愈演愈烈，各大廠商卷出了不同形態(tài)：
有的大秀肌肉，在文本長度上一騎絕塵；有的與搜索等功能深度融合，成為了全能型AI助手……琳瑯滿目的大模型產(chǎn)品令人目不暇接。
但對(duì)于企業(yè)用戶而言，盡管這些通用大模型各有各的特色，但在解決行業(yè)任務(wù)時(shí)，表現(xiàn)得卻并非那么完美。
究其“不能勝任”的原因，主要是通用大模型在特定行業(yè)的知識(shí)儲(chǔ)備并不充足，甚至存在嚴(yán)重的幻覺。
為了彌補(bǔ)這樣的缺陷，需要大量的行業(yè)數(shù)據(jù)，模型算法也需要進(jìn)行優(yōu)化，而這又會(huì)牽扯出算力問題……
也是這種背景之下，為了幫助企業(yè)用戶更好地實(shí)現(xiàn)大模型應(yīng)用落地，浪潮信息提出了集算法、算力、數(shù)據(jù)和互聯(lián)為一體的端到端解決方案。
大模型進(jìn)入2.0時(shí)代，但落地依舊困難
隨著人工智能技術(shù)的快速發(fā)展，AI正在變得無處不在，影響著各種計(jì)算設(shè)備和平臺(tái)。
從服務(wù)器到個(gè)人電腦（PC），甚至是移動(dòng)設(shè)備，AI算力正在滲透進(jìn)每一個(gè)計(jì)算設(shè)備，面向人工智能的算力范式不斷革新。
除了這種“一切計(jì)算皆AI”的大背景，人工智能的代表性產(chǎn)品——大模型也進(jìn)入了2.0時(shí)代。
這意味著將會(huì)出現(xiàn)更大的模型，隨之而來的是更多的數(shù)據(jù)需求，以及對(duì)算力資源的更大需求。
而算法、算力和數(shù)據(jù)正是人工智能發(fā)展的“三駕馬車”，但從當(dāng)今發(fā)展來看，發(fā)展得都不充分。
首先，由于大模型的訓(xùn)練成本極其高昂，導(dǎo)致試錯(cuò)代價(jià)極高，進(jìn)而出現(xiàn)了在大模型時(shí)代對(duì)于算法的創(chuàng)新依舊有所保守的局面。
算力的資源也并不均衡，北京智源研究院副院長兼總工程師林詠華認(rèn)為，大模型2.0時(shí)代，不能只關(guān)注單顆芯片的能力，而是需要考慮從芯片到服務(wù)器集群，再到數(shù)據(jù)中心的存儲(chǔ)和計(jì)算關(guān)系，以及整個(gè)網(wǎng)絡(luò)的協(xié)同。
數(shù)據(jù)方面的情況一樣不樂觀，隨著大模型對(duì)計(jì)算規(guī)模的需求增加，人類產(chǎn)生的已知數(shù)據(jù)，對(duì)于大模型而言即將甚至已經(jīng)不足。
除了大模型自身發(fā)展受到算力和數(shù)據(jù)等方面的桎梏，對(duì)于企業(yè)用戶來說，大模型落地還存在更多的現(xiàn)實(shí)問題。
一是大模型缺少專業(yè)的行業(yè)數(shù)據(jù)，不可避免地導(dǎo)致了幻覺問題，難以適用于企業(yè)場(chǎng)景。
另一方面，有些企業(yè)應(yīng)用場(chǎng)景中，對(duì)模型窗口長度需求極大，現(xiàn)有的模型可能無法滿足需求。
此外，開發(fā)難度大、技術(shù)門檻高，也是企業(yè)實(shí)現(xiàn)大模型落地的一個(gè)重要壁壘。
想要解決這些痛點(diǎn)難點(diǎn)，需要從上到下的整個(gè)生態(tài)為之發(fā)力，而浪潮信息正是企業(yè)大模型落地助推者中的一份子。
端到端開發(fā)企業(yè)大模型應(yīng)用
第十屆IPF浪潮信息生態(tài)伙伴大會(huì)上，浪潮信息AI軟件研發(fā)總監(jiān)吳韶華隆重發(fā)布了企業(yè)大模型開發(fā)平臺(tái)元腦企智EPAI。
EPAI平臺(tái)提供了端到端的企業(yè)大模型落地解決方案，解決了企業(yè)大模型應(yīng)用開發(fā)流程復(fù)雜、門檻高等困難。
大模型2.0時(shí)代，數(shù)據(jù)就是資產(chǎn)，掌握數(shù)據(jù)就等于掌握了話語權(quán)。
而EPAI提供了上億條基礎(chǔ)知識(shí)數(shù)據(jù)，同時(shí)還包含了自動(dòng)化的數(shù)據(jù)處理工具，可以幫助用戶整理行業(yè)數(shù)據(jù)和專業(yè)數(shù)據(jù)，生成高質(zhì)量的微調(diào)數(shù)據(jù)和行業(yè)/企業(yè)知識(shí)庫，進(jìn)而打造企業(yè)專屬數(shù)據(jù)資產(chǎn)。
有優(yōu)質(zhì)的基礎(chǔ)+行業(yè)+企業(yè)數(shù)據(jù)作為支撐，大模型生成內(nèi)容的準(zhǔn)確性和可靠性就有了保證，幻覺問題將大幅縮減。
同時(shí)，結(jié)合檢索增強(qiáng)生成（RAG）技術(shù)，EPAI可以解決企業(yè)知識(shí)庫更新頻率高但大模型微調(diào)耗時(shí)長、頻率低的矛盾，保證模型能夠及時(shí)獲得處理最新知識(shí)的能力。
另一方面，EPAI還提供了高效的微調(diào)工具，支持千億參數(shù)模型面向產(chǎn)業(yè)知識(shí)的快速再學(xué)習(xí)，并讓模型具備百萬Token的長文檔處理能力，解決窗口長度不足的問題，快速打造領(lǐng)域大模型。
好馬當(dāng)配好鞍，EPAI不僅擁有強(qiáng)大的企業(yè)大模型開發(fā)功能，在易用性方面也幫助開發(fā)者降低了使用門檻。
使用方式上，EPAI支持API、對(duì)話UI和智能體三種使用方式，可以面對(duì)不同的業(yè)務(wù)場(chǎng)景需求，并讓不同技術(shù)水平的開發(fā)者都能擁有與自己能力相匹配的開發(fā)方式。
甚至是非專業(yè)開發(fā)人員，也能在幾天培訓(xùn)之后快速掌握平臺(tái)的使用方法，擺脫專業(yè)知識(shí)的限制。EPAI實(shí)現(xiàn)了大模型應(yīng)用開發(fā)的普及化，降低了企業(yè)的用工成本。
吳韶華舉例說，假如要開發(fā)一個(gè)“智能編程助手”，即使是經(jīng)驗(yàn)非常豐富的工程師可能也需要兩到三周的時(shí)間，但用了EPAI，可以非常快速地執(zhí)行。
而且EPAI既支持包括CPU和各種GPU在內(nèi)的多元算力，又支持包括自研的“源”大模型和其他主流開源、閉源模型，適配快，遷移成本低，為企業(yè)提供了豐富的模型和算力選擇。
此外，企業(yè)用戶最擔(dān)心的數(shù)據(jù)安全問題，EPAI也提供了堅(jiān)實(shí)保障，通過權(quán)限管理、數(shù)據(jù)加密、內(nèi)容審查等多種技術(shù)手段，確保數(shù)據(jù)和模型安全，做到了隱私信息不泄露。
相較于其他開發(fā)平臺(tái)，浪潮信息的一個(gè)獨(dú)特優(yōu)勢(shì)是，從“左手”的算力、模型等底層技術(shù)提供者，到“右手”的各行業(yè)軟件開發(fā)商，都是浪潮信息生態(tài)中的伙伴。
這意味著，EPAI平臺(tái)可以上承算力，下接應(yīng)用，成為整個(gè)生態(tài)的“交通樞紐”，加速面向應(yīng)用的快速創(chuàng)新。
EPAI為企業(yè)用戶很好地解決了算法和數(shù)據(jù)問題，但浪潮信息提供的支持不止于此，而是集算法、算力、數(shù)據(jù)、存儲(chǔ)、互聯(lián)為一體的全面布局。
在算力方面，面向越來越多的大模型推理場(chǎng)景，浪潮信息還聯(lián)合英特爾發(fā)布可運(yùn)行千億參數(shù)大模型的AI通用服務(wù)器；存儲(chǔ)方面，發(fā)布分布式全閃存儲(chǔ)AS13000G7，解決大模型訓(xùn)練數(shù)據(jù)挑戰(zhàn)；互聯(lián)方面，發(fā)布國內(nèi)首款超級(jí)AI以太網(wǎng)交換機(jī) X400，加速大模型訓(xùn)練推理……
浪潮信息的這一系列布局，或?qū)⒔o大模型行業(yè)帶來新的格局。
EPAI將促進(jìn)大模型產(chǎn)業(yè)協(xié)作
談及EPAI平臺(tái)的意義，吳韶華介紹到，EPAI平臺(tái)提供的是工具箱和方法論，讓用戶可以盡可能地發(fā)揮自己企業(yè)的價(jià)值。
而且，EPAI平臺(tái)將能夠?qū)崿F(xiàn)對(duì)于開發(fā)者的普惠，企業(yè)不必再花費(fèi)大量資金構(gòu)建一個(gè)高精尖的團(tuán)隊(duì)，也可以做起大模型。
通過EPAI和其所提供的方法論，企業(yè)用戶可以從自己做起，掌握這樣一套方法和工具，然后再去服務(wù)好、支持好他們行業(yè)的客戶。
只有借助最適合、最高效的工具，讓它在工作的時(shí)候擁有很高的效率和成功率，才能真正把產(chǎn)業(yè)快速地做大。
對(duì)此，浪潮信息高級(jí)副總裁劉軍表示，EPAI“讓我們看到大模型的另外一面，它的產(chǎn)業(yè)化落地的這一面”。
此外，EPAI對(duì)于整個(gè)產(chǎn)業(yè)的協(xié)作也大有裨益——
過去，恨不得每個(gè)人都想做大模型企業(yè)，都想自己從頭徹尾都搞一套工具，但事實(shí)上不可能所有人都能把生意做大。
只有依靠優(yōu)質(zhì)的產(chǎn)業(yè)協(xié)作分工，大家都做自己最擅長的事情，形成多元多樣化的、共同去促進(jìn)的生態(tài)，才能讓產(chǎn)業(yè)AI真正落地。
本文鏈接：快速低成本構(gòu)建應(yīng)用，浪潮信息把企業(yè)大模型落地門檻打下來了http://www.sq15.cn/show-2-5354-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
上一篇： 全球首個(gè)「油電平權(quán)」智駕方案：10萬級(jí)入門標(biāo)配高速NOA，高通Momenta聯(lián)合出品