AI+時(shí)代，公共云將成為破解算力資源緊張、降低算力成本的關(guān)鍵抓手
公共云可以多路復(fù)用，通過(guò)多租戶使用同一套計(jì)算資源大池，削峰填谷，顯著提升硬件資源利用率，降低使用成本
公共云和AI相結(jié)合還將推動(dòng)云計(jì)算走向云智算
新一代人工智能技術(shù)正步入跨越式發(fā)展新階段，成為引領(lǐng)現(xiàn)代產(chǎn)業(yè)變革的核心力量。“人工智能+”今年首次被寫入政府工作報(bào)告，多地積極探索推動(dòng)AI深度賦能實(shí)體經(jīng)濟(jì)，開(kāi)啟了AI在各行各業(yè)廣泛應(yīng)用的新篇章。
隨著AI技術(shù)和應(yīng)用創(chuàng)新不斷加速，模型復(fù)雜度和數(shù)據(jù)量急劇增加，對(duì)包括算力在內(nèi)的新型基礎(chǔ)設(shè)施建設(shè)提出了新需求和新要求，建立適應(yīng)AI+時(shí)代的高質(zhì)量算力服務(wù)體系迫在眉睫。
日前國(guó)家信息中心信息化和產(chǎn)業(yè)發(fā)展部發(fā)布了《“人工智能+”時(shí)代公共云發(fā)展模式與路徑研究》報(bào)告，提出公共云是破解我國(guó)AI+時(shí)代算力“供不上、用不起”瓶頸問(wèn)題的重要抓手。
公共云是指面向公眾提供的云計(jì)算資源，通過(guò)聚合各類算力并通過(guò)在線的模式為各類用戶提供簡(jiǎn)單易用，且近乎無(wú)限擴(kuò)展的計(jì)算服務(wù)，其本質(zhì)是將云計(jì)算資源規(guī)模化、大范圍進(jìn)行共享。“公共云能以資源利用效率最大化的方式，幫助提升我國(guó)算力供給能力，并通過(guò)規(guī)模經(jīng)濟(jì)效應(yīng)推動(dòng)算力門檻降低，讓更多的用戶享受普適普惠的算力服務(wù)。”國(guó)家信息中心信息化和產(chǎn)業(yè)發(fā)展部主任單志廣介紹。
智能算力緊缺制約大模型規(guī)模化應(yīng)用
智能算力資源緊缺已成為制約大模型規(guī)模化應(yīng)用的主要瓶頸。
按照應(yīng)用和功能特性，算力可分為基礎(chǔ)算力、智能算力、超算算力三類，基礎(chǔ)算力主要基于CPU芯片，用于滿足基礎(chǔ)通用計(jì)算需求，如網(wǎng)購(gòu)、打游戲等；智能算力基于GPU、FPGA（現(xiàn)場(chǎng)可編程門陣列）、ASIC（專用集成電路芯片）等AI芯片的加速計(jì)算平臺(tái)，主要用于人工智能的訓(xùn)練和推理計(jì)算，如語(yǔ)音、圖像和視頻的處理；超算算力由超級(jí)計(jì)算機(jī)等高性能計(jì)算集群提供，主要用于尖端科學(xué)領(lǐng)域的計(jì)算。
智能算力方面，以AIGC（生成式人工智能）為代表的AI應(yīng)用、大模型訓(xùn)練等所使用的數(shù)據(jù)量和參數(shù)規(guī)模呈指數(shù)級(jí)增長(zhǎng)，帶來(lái)了智能算力需求爆炸式增加。例如GPT-3模型參數(shù)約為1746億個(gè)，訓(xùn)練一次需要以每秒一千萬(wàn)億次計(jì)算，運(yùn)行3640天。GPT-4參數(shù)數(shù)量擴(kuò)大到1.8萬(wàn)億個(gè)，是GPT-3的10倍，訓(xùn)練算力需求上升到GPT-3的68倍，在2.5萬(wàn)個(gè)A100芯片上需要訓(xùn)練90～100天。
在中文大語(yǔ)言模型方面，2023年3月百度發(fā)布文心一言，4月華為發(fā)布盤古大模型，阿里發(fā)布通義千問(wèn)大模型，商湯科技公布日日新大模型體系，5月科大訊飛發(fā)布星火大模型等，到目前我國(guó)大語(yǔ)言模型已有上百個(gè)。根據(jù)中國(guó)信息通信研究院測(cè)算，從設(shè)備供給側(cè)看，2022年我國(guó)計(jì)算設(shè)備總算力規(guī)模中，基礎(chǔ)算力占比40%，智能算力占比則高達(dá)59%，成為算力快速增長(zhǎng)的驅(qū)動(dòng)力。根據(jù)預(yù)測(cè)，到2026年智能算力規(guī)模將進(jìn)入每秒十萬(wàn)億億次浮點(diǎn)計(jì)算（ZFlops）級(jí)別。
“大語(yǔ)言模型發(fā)展帶來(lái)了AI算力需求的快速上升，所消耗的計(jì)算資源每幾個(gè)月翻一倍，算力需求的增長(zhǎng)速度已經(jīng)遠(yuǎn)超芯片性能提升和產(chǎn)能擴(kuò)張速度上限。”單志廣介紹。
公共云具備緩解算力緊缺潛力
公共云是以需求為導(dǎo)向以應(yīng)用為目的的一種公共服務(wù)模式。AI+時(shí)代，公共云將成為破解算力資源緊張、降低算力成本的關(guān)鍵抓手。
首先，公共云具備訓(xùn)練大模型所需的強(qiáng)算力。訓(xùn)練全球領(lǐng)先的基礎(chǔ)大模型需要調(diào)度至少萬(wàn)張GPU芯片高效協(xié)同工作，只有極少數(shù)公共云具備相應(yīng)能力。從亞馬遜、微軟和谷歌等科技巨頭運(yùn)營(yíng)公共云的經(jīng)驗(yàn)來(lái)看，其優(yōu)勢(shì)是規(guī)模大、效率高，天然能向全球市場(chǎng)擴(kuò)張。
其次，公共云的規(guī)模效應(yīng)能夠帶來(lái)算力普惠。隨著AI大模型規(guī)模化應(yīng)用，支撐海量用戶頻繁使用所需要的推理算力成本也將急劇上升，尤其是多模態(tài)大模型對(duì)于算力的消耗將遠(yuǎn)高于文本類大語(yǔ)言模型。算力成本是限制大模型發(fā)展的關(guān)鍵因素之一，中小型AI企業(yè)往往難以通過(guò)自建算力設(shè)施解決訓(xùn)練和推理算力需求，因此算力租賃需求旺盛。公共云可以多路復(fù)用，通過(guò)多租戶使用同一套計(jì)算資源大池，削峰填谷，顯著提升硬件資源利用率，降低使用成本。例如亞馬遜、阿里云等公共云廠商隨著用戶規(guī)模增加、技術(shù)優(yōu)化和運(yùn)營(yíng)效率提升，持續(xù)降低云計(jì)算服務(wù)價(jià)格，亞馬遜AWS曾連續(xù)三年每年降價(jià)12次；過(guò)去十年阿里云將計(jì)算成本降低了80%，存儲(chǔ)成本降低了近90%。
再者，公共云能夠?qū)崿F(xiàn)我國(guó)算力供給能力的邊界突破。公共云通過(guò)集群的計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)平衡設(shè)計(jì)和軟硬一體化加速技術(shù)，調(diào)度“盤活”已有芯片，可以形成超大規(guī)模算力資源池，實(shí)現(xiàn)芯片復(fù)用、彈性可擴(kuò)展；發(fā)揮公共云大規(guī)模機(jī)器調(diào)度、異構(gòu)芯片兼容能力，不僅能將已有先進(jìn)芯片集約化利用，還能充分利用已有的通用CPU資源，為AI大模型訓(xùn)練和推理應(yīng)用提供必要的算力支持；隨著公共云技術(shù)體系加速升級(jí)，AI訓(xùn)練、AI推理以及HPC超算等計(jì)算資源將并池管理，實(shí)現(xiàn)算力普惠和模型普及。
推動(dòng)云計(jì)算走向云智算
公共云和AI相結(jié)合將推動(dòng)云計(jì)算走向云智算。未來(lái)云計(jì)算將不再局限于IT計(jì)算本身，而是提供包括算力、模型、數(shù)據(jù)、生態(tài)等與智能化發(fā)展相關(guān)的全方位創(chuàng)新服務(wù)，從而促進(jìn)AI+切實(shí)落地，引領(lǐng)新質(zhì)生產(chǎn)力發(fā)展。
推動(dòng)云計(jì)算走向云智算，亟待解決技術(shù)層面的短板。國(guó)家信息中心信息化和產(chǎn)業(yè)發(fā)展部提出了公共云技術(shù)服務(wù)架構(gòu)解決方案。
第一，以融合算力設(shè)施為支點(diǎn)搭建云計(jì)算基石。利用虛擬化技術(shù)把各種硬件資源，如計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)等整合起來(lái)，并輸出融合異構(gòu)算力服務(wù)。無(wú)論是X86、GPU還是ARM（微處理器芯片），都能在這個(gè)平臺(tái)上運(yùn)行，不僅解決AI算力不足的問(wèn)題，還能使大規(guī)模商業(yè)化成為可能。
第二，以AI工程化工具為重點(diǎn)搭建平臺(tái)，為開(kāi)發(fā)者提供統(tǒng)一的研發(fā)、測(cè)試、運(yùn)維工具，包括了智算服務(wù)和機(jī)器學(xué)習(xí)框架，讓AI開(kāi)發(fā)變得更加高效。開(kāi)發(fā)者無(wú)需在本地維護(hù)復(fù)雜的平臺(tái)就能享受到工程化的便利，降低開(kāi)發(fā)成本。
第三，為開(kāi)發(fā)者提供一站式模型服務(wù)。大模型是AI競(jìng)爭(zhēng)的關(guān)鍵，通過(guò)模型聚合、開(kāi)發(fā)和服務(wù)的整合，打破傳統(tǒng)AI應(yīng)用的壁壘，讓AI技術(shù)更易于應(yīng)用到各行各業(yè)。
第四，以智能化應(yīng)用場(chǎng)景為特色，提供適用于各種智能化場(chǎng)景的軟件服務(wù)。
“此外，公共云需要進(jìn)一步提升大規(guī)模集群管理能力，以優(yōu)化資源利用效率，從而更好地滿足AI對(duì)算力的需求。”單志廣介紹。
AI+時(shí)代，公共云將成為破解算力資源緊張、降低算力成本的關(guān)鍵抓手
公共云可以多路復(fù)用，通過(guò)多租戶使用同一套計(jì)算資源大池，削峰填谷，顯著提升硬件資源利用率，降低使用成本
公共云和AI相結(jié)合還將推動(dòng)云計(jì)算走向云智算
新一代人工智能技術(shù)正步入跨越式發(fā)展新階段，成為引領(lǐng)現(xiàn)代產(chǎn)業(yè)變革的核心力量。“人工智能+”今年首次被寫入政府工作報(bào)告，多地積極探索推動(dòng)AI深度賦能實(shí)體經(jīng)濟(jì)，開(kāi)啟了AI在各行各業(yè)廣泛應(yīng)用的新篇章。
隨著AI技術(shù)和應(yīng)用創(chuàng)新不斷加速，模型復(fù)雜度和數(shù)據(jù)量急劇增加，對(duì)包括算力在內(nèi)的新型基礎(chǔ)設(shè)施建設(shè)提出了新需求和新要求，建立適應(yīng)AI+時(shí)代的高質(zhì)量算力服務(wù)體系迫在眉睫。
日前國(guó)家信息中心信息化和產(chǎn)業(yè)發(fā)展部發(fā)布了《“人工智能+”時(shí)代公共云發(fā)展模式與路徑研究》報(bào)告，提出公共云是破解我國(guó)AI+時(shí)代算力“供不上、用不起”瓶頸問(wèn)題的重要抓手。
公共云是指面向公眾提供的云計(jì)算資源，通過(guò)聚合各類算力并通過(guò)在線的模式為各類用戶提供簡(jiǎn)單易用，且近乎無(wú)限擴(kuò)展的計(jì)算服務(wù)，其本質(zhì)是將云計(jì)算資源規(guī)模化、大范圍進(jìn)行共享。“公共云能以資源利用效率最大化的方式，幫助提升我國(guó)算力供給能力，并通過(guò)規(guī)模經(jīng)濟(jì)效應(yīng)推動(dòng)算力門檻降低，讓更多的用戶享受普適普惠的算力服務(wù)。”國(guó)家信息中心信息化和產(chǎn)業(yè)發(fā)展部主任單志廣介紹。
智能算力緊缺制約大模型規(guī)模化應(yīng)用
智能算力資源緊缺已成為制約大模型規(guī)模化應(yīng)用的主要瓶頸。
按照應(yīng)用和功能特性，算力可分為基礎(chǔ)算力、智能算力、超算算力三類，基礎(chǔ)算力主要基于CPU芯片，用于滿足基礎(chǔ)通用計(jì)算需求，如網(wǎng)購(gòu)、打游戲等；智能算力基于GPU、FPGA（現(xiàn)場(chǎng)可編程門陣列）、ASIC（專用集成電路芯片）等AI芯片的加速計(jì)算平臺(tái)，主要用于人工智能的訓(xùn)練和推理計(jì)算，如語(yǔ)音、圖像和視頻的處理；超算算力由超級(jí)計(jì)算機(jī)等高性能計(jì)算集群提供，主要用于尖端科學(xué)領(lǐng)域的計(jì)算。
智能算力方面，以AIGC（生成式人工智能）為代表的AI應(yīng)用、大模型訓(xùn)練等所使用的數(shù)據(jù)量和參數(shù)規(guī)模呈指數(shù)級(jí)增長(zhǎng)，帶來(lái)了智能算力需求爆炸式增加。例如GPT-3模型參數(shù)約為1746億個(gè)，訓(xùn)練一次需要以每秒一千萬(wàn)億次計(jì)算，運(yùn)行3640天。GPT-4參數(shù)數(shù)量擴(kuò)大到1.8萬(wàn)億個(gè)，是GPT-3的10倍，訓(xùn)練算力需求上升到GPT-3的68倍，在2.5萬(wàn)個(gè)A100芯片上需要訓(xùn)練90～100天。
在中文大語(yǔ)言模型方面，2023年3月百度發(fā)布文心一言，4月華為發(fā)布盤古大模型，阿里發(fā)布通義千問(wèn)大模型，商湯科技公布日日新大模型體系，5月科大訊飛發(fā)布星火大模型等，到目前我國(guó)大語(yǔ)言模型已有上百個(gè)。根據(jù)中國(guó)信息通信研究院測(cè)算，從設(shè)備供給側(cè)看，2022年我國(guó)計(jì)算設(shè)備總算力規(guī)模中，基礎(chǔ)算力占比40%，智能算力占比則高達(dá)59%，成為算力快速增長(zhǎng)的驅(qū)動(dòng)力。根據(jù)預(yù)測(cè)，到2026年智能算力規(guī)模將進(jìn)入每秒十萬(wàn)億億次浮點(diǎn)計(jì)算（ZFlops）級(jí)別。
“大語(yǔ)言模型發(fā)展帶來(lái)了AI算力需求的快速上升，所消耗的計(jì)算資源每幾個(gè)月翻一倍，算力需求的增長(zhǎng)速度已經(jīng)遠(yuǎn)超芯片性能提升和產(chǎn)能擴(kuò)張速度上限。”單志廣介紹。
公共云具備緩解算力緊缺潛力
公共云是以需求為導(dǎo)向以應(yīng)用為目的的一種公共服務(wù)模式。AI+時(shí)代，公共云將成為破解算力資源緊張、降低算力成本的關(guān)鍵抓手。
首先，公共云具備訓(xùn)練大模型所需的強(qiáng)算力。訓(xùn)練全球領(lǐng)先的基礎(chǔ)大模型需要調(diào)度至少萬(wàn)張GPU芯片高效協(xié)同工作，只有極少數(shù)公共云具備相應(yīng)能力。從亞馬遜、微軟和谷歌等科技巨頭運(yùn)營(yíng)公共云的經(jīng)驗(yàn)來(lái)看，其優(yōu)勢(shì)是規(guī)模大、效率高，天然能向全球市場(chǎng)擴(kuò)張。
其次，公共云的規(guī)模效應(yīng)能夠帶來(lái)算力普惠。隨著AI大模型規(guī)模化應(yīng)用，支撐海量用戶頻繁使用所需要的推理算力成本也將急劇上升，尤其是多模態(tài)大模型對(duì)于算力的消耗將遠(yuǎn)高于文本類大語(yǔ)言模型。算力成本是限制大模型發(fā)展的關(guān)鍵因素之一，中小型AI企業(yè)往往難以通過(guò)自建算力設(shè)施解決訓(xùn)練和推理算力需求，因此算力租賃需求旺盛。公共云可以多路復(fù)用，通過(guò)多租戶使用同一套計(jì)算資源大池，削峰填谷，顯著提升硬件資源利用率，降低使用成本。例如亞馬遜、阿里云等公共云廠商隨著用戶規(guī)模增加、技術(shù)優(yōu)化和運(yùn)營(yíng)效率提升，持續(xù)降低云計(jì)算服務(wù)價(jià)格，亞馬遜AWS曾連續(xù)三年每年降價(jià)12次；過(guò)去十年阿里云將計(jì)算成本降低了80%，存儲(chǔ)成本降低了近90%。
再者，公共云能夠?qū)崿F(xiàn)我國(guó)算力供給能力的邊界突破。公共云通過(guò)集群的計(jì)算、網(wǎng)絡(luò)、存儲(chǔ)平衡設(shè)計(jì)和軟硬一體化加速技術(shù)，調(diào)度“盤活”已有芯片，可以形成超大規(guī)模算力資源池，實(shí)現(xiàn)芯片復(fù)用、彈性可擴(kuò)展；發(fā)揮公共云大規(guī)模機(jī)器調(diào)度、異構(gòu)芯片兼容能力，不僅能將已有先進(jìn)芯片集約化利用，還能充分利用已有的通用CPU資源，為AI大模型訓(xùn)練和推理應(yīng)用提供必要的算力支持；隨著公共云技術(shù)體系加速升級(jí)，AI訓(xùn)練、AI推理以及HPC超算等計(jì)算資源將并池管理，實(shí)現(xiàn)算力普惠和模型普及。
推動(dòng)云計(jì)算走向云智算
公共云和AI相結(jié)合將推動(dòng)云計(jì)算走向云智算。未來(lái)云計(jì)算將不再局限于IT計(jì)算本身，而是提供包括算力、模型、數(shù)據(jù)、生態(tài)等與智能化發(fā)展相關(guān)的全方位創(chuàng)新服務(wù)，從而促進(jìn)AI+切實(shí)落地，引領(lǐng)新質(zhì)生產(chǎn)力發(fā)展。
推動(dòng)云計(jì)算走向云智算，亟待解決技術(shù)層面的短板。國(guó)家信息中心信息化和產(chǎn)業(yè)發(fā)展部提出了公共云技術(shù)服務(wù)架構(gòu)解決方案。
第一，以融合算力設(shè)施為支點(diǎn)搭建云計(jì)算基石。利用虛擬化技術(shù)把各種硬件資源，如計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)等整合起來(lái)，并輸出融合異構(gòu)算力服務(wù)。無(wú)論是X86、GPU還是ARM（微處理器芯片），都能在這個(gè)平臺(tái)上運(yùn)行，不僅解決AI算力不足的問(wèn)題，還能使大規(guī)模商業(yè)化成為可能。
第二，以AI工程化工具為重點(diǎn)搭建平臺(tái)，為開(kāi)發(fā)者提供統(tǒng)一的研發(fā)、測(cè)試、運(yùn)維工具，包括了智算服務(wù)和機(jī)器學(xué)習(xí)框架，讓AI開(kāi)發(fā)變得更加高效。開(kāi)發(fā)者無(wú)需在本地維護(hù)復(fù)雜的平臺(tái)就能享受到工程化的便利，降低開(kāi)發(fā)成本。
第三，為開(kāi)發(fā)者提供一站式模型服務(wù)。大模型是AI競(jìng)爭(zhēng)的關(guān)鍵，通過(guò)模型聚合、開(kāi)發(fā)和服務(wù)的整合，打破傳統(tǒng)AI應(yīng)用的壁壘，讓AI技術(shù)更易于應(yīng)用到各行各業(yè)。
第四，以智能化應(yīng)用場(chǎng)景為特色，提供適用于各種智能化場(chǎng)景的軟件服務(wù)。
“此外，公共云需要進(jìn)一步提升大規(guī)模集群管理能力，以優(yōu)化資源利用效率，從而更好地滿足AI對(duì)算力的需求。”單志廣介紹。
本文鏈接：公共云提速“人工智能+”http://www.sq15.cn/show-2-5553-0.html
聲明：本網(wǎng)站為非營(yíng)利性網(wǎng)站，本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
上一篇： 推動(dòng)數(shù)據(jù)要素發(fā)揮乘數(shù)效應(yīng)
下一篇： 構(gòu)建“產(chǎn)業(yè)大腦+未來(lái)工廠”新生態(tài)——重慶探索數(shù)字經(jīng)濟(jì)發(fā)展模式