CPU讓一部分人先用起來AI
今年，圍繞AI的最前沿科技依舊是大熱門的話題，而上述這段話正是來自全國政協委員周漢民。此建議一出，可謂是立即在網上掀起了不小的熱潮。
而之所以會有如此建議，是因為在周漢民看來，對于這些最前沿的技術是要盡快體驗和使用的：
不難看出，其核心觀點，就是技術需要被用起來，要盡快地做到落地。
而這也應了自ChatGPT引爆AIGC大熱潮以來的一個大趨勢，即從大模型的訓練逐漸向推理過渡，從底層的模型層逐漸向頂層的應用，甚至是更進一步的行業或消費者應用發展。
但畢竟像Sora這樣的技術也是剛問世不久，諸多技術和體驗方式還并沒有對外開放；而大語言模型（LLM），則是已然火了整整一年有余。
由此能聯想到的一個問題便是——LLM，現在用得怎么樣了？
讓我們先拿醫療行業的實踐舉個例子。
無論是以往傳統AI，還是當下頂流大模型，醫療領域一直都是一個非常典型且亟需AI支持的大行業場景，AI的融入，能肉眼可見地提高醫療服務的效率和質量、應對醫療資源短缺的挑戰、以及推動個性化醫療的發展等。
讓我們從電子病歷上來個“以小見大”。
一方面，與之相關的工作可以說是非常的繁雜，大量的文本信息需要人為手動地去輸入，在有些醫生詳細追蹤患者的情況下，病歷甚至可長達萬字之多，極容易出現錯誤錄入的情況。
另一方面，電子病歷又會影響到醫生和醫療工作者的判斷，因為他們需要對電子病歷有著深入的洞察，以便發現潛在的健康風險和疾病模式。
其在醫療工作環節中的重要性可見一斑。而諸如LLM這樣的AI技術，恰巧能夠很好地滿足對大量文本內容的信息化、數字化以及深入理解，正好可以用來做病歷的歸納、糾錯和重要信息的提煉，而且這類活兒恰好苦到，或者累到……所有“正常人類”都不太愿意干。
那么這些工作讓AI來代勞，又能帶來什么樣的效果呢？我們不妨以深耕醫療行業多年，并且已經幫助眾多頭部三甲醫院完成信息化和數字化的衛寧健康為標桿來一探究竟。
衛寧給出的一套解決方案叫做WiNEX Copilot，如其名，它在醫療領域所發揮的作用，正是充當醫生和相關工作者的AI助手。
在WiNEX Copilot病歷文書助手的加持之下，醫生們可以一鍵生成符合醫療規范和匹配患者個人病情的病歷文書段落，大幅減少病歷記錄書寫工作量，可以讓他們更專注于診斷和治療。
從披露的數據來看，只需要給它8個小時（例如在醫生下班后的時間），病歷文書助手就可以處理近6000份病歷，相當于三甲醫院12名醫生一天工作量的總和！
而這也還僅是LLM上崗醫療的一隅，WiNEX Copilot還具備怎樣的實力，我們繼續往下看。
AI醫生助手為什么值得擁有
實際上，WiNEX Copilot已深度集成到衛寧新一代產品WiNEX中，除了前面提到的病歷文書助手，我們還可以舉幾個有代表性的場景來進一步展示它的實力。
在放射科，WiNEX Copilot影像報告助手就能幫助醫生提升診斷質量，降低誤診率。
根據影像醫生寫下的影像檢查所見情況文字描述，這個小助手就可以自動生成影像診斷結論，包括具體的病變名稱或診斷、隨訪建議等。
醫生可基于對自動生成內容準確度的判斷，靈活選擇一鍵引用或重新生成。
對于影像報告的完整書寫工作來說，這就相當于人類醫生和AI合作完成了一輪交叉核對，減輕影像科醫生的工作負擔，降低誤診漏診風險，提高影像報告質量。
特別是遇到有多次檢查記錄的隨訪患者，系統可自動調出相關的報告輔助對比分析，讓診斷結論更嚴謹、完整、準確。
再如WiNEX Copilot藥品知識助手，不僅能從海量的醫藥文獻和數據庫中快速檢索出與用戶查詢相關的精確知識，還能基于這些信息生成通俗易懂、內容準確的回答。
這樣一來，就相當于給醫護人員提供了一個外掛的藥品知識庫，面對不斷更新的藥品信息，也能跟得上變化。
就像這樣，WiNEX Copilot對接上具體細分的醫療業務場景，就會立即搖身變成醫護人員的全方位、多維度智能助手。
目前WiNEX Copilot已經集成在衛寧健康WiNEX全系列產品中，覆蓋醫院管理、醫生增效和患者服務等100多個臨床應用場景。
所有這一切，看著炫目又實用，一定需要氪不少金才能擁有吧？
劃重點了，它的硬件成本非常合理，性價比也許出乎你的預料。而且更重要的是其實際部署和應用也非常高效，能在任何一家已經使用WiNEX系統的醫院迅速“上崗”。
這，又是怎么做到的？
用CPU加速AI落地
可以把AI產品做到既貼近用戶需求，又能把它落地和部署的效率拉滿，這對于衛寧健康來說其實是相輔相成的。
作為國內醫療信息化領域龍頭企業，衛寧健康服務的各類醫療衛生機構用戶達 6,000 余家，其中包括 400 余家三級醫院，覆蓋智慧醫院、區域衛生、基層衛生、公共衛生、醫療保險、健康服務等多個領域。
在技術方面，衛寧健康還擁有成體系的系統研發、AI和大數據技術轉化能力。
到了大模型時代，衛寧健康多年積累的醫療行業經驗、高質量訓練數據和研發能力就起到了關鍵作用——
在三項優勢的綜合下，推出面向醫療垂直領域的大模型WiNGPT。
WiNGPT正是WiNEX Copilot的底層AI引擎，它一個突出特點就是結合高質量醫療數據，可針對醫療場景優化和定制。
從2023年初開始研發，到10月正式發布時預訓練數據20G，微調數據更是達到50萬條。
WiNGPT另一個突出特點就是能高效交付、部署和應用了。
衛寧健康為此選擇與英特爾合作，通過軟硬適配、優化模型算法等手段，把在CPU上部署的生成效率搞到接近GPU的水平。
為什么要選擇這一條技術路線，與CPU本身的能力和醫療行業的特點都脫不開關系。
首先，高端CPU近年來瞄準AI市場持續發力，內置的AI加速技術的性能已經能夠滿足需求。
這一步在應用部署方面更看重的推理算力方面表現得更為突出。
例如衛寧選用的第五代英特爾? 至強? 可擴展處理器，內置了AMX（高級矩陣擴展）加速技術。相比同樣內置AMX的第四代至強? 可擴展處理器，得益于自身在微架構和整體性能上的提升，第五代的推理性能提升高達42%；而與內置了矢量加速指令集，即深度學習加速（DL Boost）技術的第三代至強? 可擴展處理器相比，其AI訓練和推理性能提升更是高達14倍。
其次，在醫療行業數字化過程中，CPU已有非常廣泛的使用基礎。
這一點行內人都知道，廣泛應用的電子病歷系統、醫院資源規劃系統以及患者管理系統等等，都需要處理大量的數據，并且要求高可靠性和實時性。
因此CPU早就已經是醫療行業經常采購的設備，不像專用AI加速器或者GPU還需要特批采購流程，選擇在CPU上落地AI應用自然更平滑順暢。
再進一步來說，CPU得益于這種基礎，積累了充足的技術人才儲備，更易于優化和使用。
CPU群眾基礎廣泛，易于使用、有較出色的可靠性，在醫療行業歷經考驗的同時，也積攢了大批相關專業人才。
這些人才，和衛寧健康自己的專業人才，再加上合作伙伴英特爾方面的工程師協作，推進AI應用落地時，無論業務方案還是硬件優化方面都能做到就緒程度更高，上手更快。
綜合來看，如果這樣一個AI 應用能在擁有廣泛部署、易于獲取，便于應用和優化，能兼顧通用計算又能做推理加速的平臺上落地，且不用為此導入異構帶來的各種復雜性，自然就會收獲高效的應用表現、落地速度和更會有的成本競爭力。
具體到實際表現上——在衛寧健康和英特爾共同對WiNGPT的推理進行優化后，提升了內存使用效率，并通過對 PyTorch在CPU平臺上主要算子的算法進行改良，進一步加快了深度學習框架的推理速度。
而在測試中，將基于第五代英特爾? 至強? 可擴展處理器的方案與基于第三代英特爾? 至強? 可擴展處理器的方案進行了對比，結果顯示，新一代處理器可將性能提升多達 3 倍。
同時，CPU方案還具有可以更輕松擴展推理實例數量的優勢，并且可以在各種平臺上適配進行推理。
所有這些優勢疊加的結果，就是能讓每家已經用上衛寧新一代產品WiNEX系統的醫院，都有機會擁有WiNGPT支持的全套WiNEX Copilot醫護智能助手。
CPU成了大模型時代下的另一種解法
那么我們現在再來回答最初的那個問題：如何把LLM用好？
首先非常確定的是，目前的大模型已然是步入到了拼誰可以“快好省”地用起來的階段。
這種趨勢從去年便已開始嶄露頭角，例如從ChatGPT問世之后，國內外先是呈現出了百模大戰這種以訓練為基礎的態勢。
而后從下半年至今，則是在訓練完大模型的基礎之上，更多企業都在思考的則是如何將LLM真正地扎根到行業里。
衛寧這個例子，可以說是較為成功的范例，這不僅是得益于它長期在以大模型為代表的前沿技術上的跟進與創新，更是基于它對于醫療行業的深耕；因此才可以抓住醫療領域的痛點，并讓LLM在其中發揮更大的價值。
由此來看，如何能把LLM用好，需得先有深厚的行業積累、有洞悉，方可精準切入。
誠然，全球步入大模型時代之后，GPU或專用的加速器無疑成為了香餑餑，并且越發呈現出千金難求的局面。
然而這就是所有場景中的最優解嗎？不見得。
正如我們剛才所言，不論是傳統的AI技術亦或是LLM，要想很好的落地需得是做到“快好省”。
若是在部署時盲目堆GPU，一是可能會出現算力上的過剩甚至浪費，二是在落地效率上可能達不到那么高，同時成本也可能會水漲船高。
因此衛寧pick老牌芯片巨頭英特爾的最新一代至強，也是從性能、行業、人才、到成本等一系列因素深入考量之后所做出的較優解；而從結果上來看，CPU也正在實實在在地助力著LLM在醫療領域大展拳腳。
所以，到了今天，我們會突然發現，一個有意思的新趨勢是：CPU成了大模型落地的另一種解法。
更多CPU支持的AI驅動醫療信息整合解決方案內容，請通過“下方鏈接”獲取。
https://www.intel.cn/content/www/cn/zh/artificial-intelligence/winning-health-nlp-post-structured-platform.html?cid=soc&source=Wechat&article_id=5328
本文鏈接：來感受一下“人工智能+”，三甲醫院是這樣用大模型的http://www.sq15.cn/show-2-3864-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇： 開源版“Devin”AI程序員炸場：自己分析股票、做報表、建模型
下一篇： 何愷明劉壯新作：消除數據集偏差的十年之戰