21世紀(jì)經(jīng)濟報道記者 王俊 馮戀閣 實習(xí)生湯雨昕 李伊靜 北京、廣州報道
人工智能從理論走向應(yīng)用的腳步加快。隨著技術(shù)不斷演進，我們迎來了更加智能化的時代，人工智能在各個領(lǐng)域都呈現(xiàn)出日益增長的影響力。
2024年，進化之路上AI將有怎樣的顛覆性突破？其應(yīng)用場景、商業(yè)模式的迭代和革新會給人類帶來危機還是新機？
1月28日，南財合規(guī)科技研究院與中國社科院法學(xué)所網(wǎng)絡(luò)與信息法研究室共同發(fā)布《2024年十大AI趨勢預(yù)測》，研究團隊結(jié)合2023年全球的人工智能發(fā)展、應(yīng)用情況，試圖從技術(shù)、商業(yè)以及治理的維度對行業(yè)發(fā)展做出預(yù)測。該預(yù)測在中國社會科學(xué)院法學(xué)研究所主辦的“人工智能安全治理研討會”暨中國社會科學(xué)院“人工智能安全治理研究”實驗室孵化研討會上發(fā)布。
2024年十大AI趨勢為：
1、開源模型性能日益強大，有望與閉源模型分庭抗禮
2、AI Agent快速崛起，助力大模型應(yīng)用落地
3、多模態(tài)大模型成為AI產(chǎn)業(yè)競爭重要陣地
4、AI應(yīng)用場景爆發(fā)，“AI+”實踐補齊商業(yè)化短板
5、具身智能，通用人工智能探索的下一節(jié)點
6、高質(zhì)量數(shù)據(jù)稀缺，合成數(shù)據(jù)或成解法
7、新型智算中心、數(shù)據(jù)中心加快布局 成為關(guān)鍵基礎(chǔ)設(shè)施
8、人工智能版權(quán)糾紛大量涌入司法實踐
9、一批AI創(chuàng)業(yè)公司在2024年倒閉
10、安全可信AI訴求催生新技術(shù)、新商業(yè)工具
1、開源模型性能日益強大，有望與閉源模型分庭抗禮
以GPT-4為代表的閉源大模型在2023年展現(xiàn)了出眾能力，福布斯預(yù)測2024年商業(yè)閉源大模型仍將持續(xù)領(lǐng)先于開源大模型。
開源代表Yann LeCun（Meta首席AI科學(xué)家）、Clem Delangue（Hugging Face CEO）等看好開源大模型的發(fā)展，認(rèn)為開源大模型能夠達(dá)到或超越閉源大模型的能力。
自Llama 2后，開源又逐漸成為主流趨勢，2023年底，Meta和IBM宣布共同成立了一個人工智能聯(lián)盟，由50多家人工智能公司和研究機構(gòu)組成，旨在培養(yǎng)開放社區(qū)。國內(nèi)阿里、百川等也在做開源部署。受益于科技公司的資源投入以及全球開源社區(qū)的共享協(xié)作，開源大模型在速度、適應(yīng)性以及整體效率方面都有望持續(xù)提升。
閉源大模型被視為具有較高的安全性，能夠發(fā)揮其保護數(shù)據(jù)隱私或商業(yè)利益的作用，并且能夠?qū)I(yè)力量持續(xù)投入到與業(yè)務(wù)場景的融合中，具備長期服務(wù)能力。比如OpenAI也會推出定制化GPT、應(yīng)用商店等構(gòu)建以ChatGPT為基礎(chǔ)的閉源模型生態(tài)體系。
未來，開源與閉源模型之爭的走向會如何，是互為補充并服務(wù)于不同的場景及需求，還是一方碾壓另一方，市場會告訴我們答案。
2、AI Agent快速崛起，助力大模型應(yīng)用落地
AI Agent是一個控制大模型來解決問題的代理系統(tǒng)，可以理解為大模型、記憶、任務(wù)規(guī)劃以及工具使用的集合，能夠根據(jù)給定任務(wù)詳細(xì)拆解出每一步的計劃步驟，依靠外界反饋和自主思考，為自己創(chuàng)建prompt以實現(xiàn)目標(biāo)。
比爾及梅琳達(dá)·蓋茨基金會聯(lián)席主席比爾·蓋茨預(yù)計AI Agent會改變?nèi)祟惻c計算機的交互方式，帶來從輸入命令到點擊圖標(biāo)的計算革命，并將在醫(yī)療保健、教育、生產(chǎn)力以及娛樂和購物四個領(lǐng)域產(chǎn)生重要影響。知名科學(xué)家李飛飛認(rèn)為AI Agent作為一種輔助智能體，能夠比完全自動化更早實現(xiàn)。DeepLearning.AI創(chuàng)始人吳恩達(dá)則期待在2024年AI Agent將會有新的突破。
從單一Agent發(fā)展到多個Agent協(xié)調(diào)合作，AI Agent可以通過將復(fù)雜任務(wù)拆解為多個子任務(wù)的分工，突破特定領(lǐng)域或場景限制，節(jié)約不同流程之間的切換時間，同時不斷提升處理特定任務(wù)的技能，提高整個系統(tǒng)的效率和產(chǎn)出質(zhì)量。
在商業(yè)化力量的推動下，AI Agent可能會成為大模型落地業(yè)務(wù)場景的重要載體，例如幫助企業(yè)更加高效便捷地自己構(gòu)建RPA、CRM、辦公OA等一系列應(yīng)用，幫助個人規(guī)劃和執(zhí)行一系列動作等。2024年，在AI Agent的代理下，大模型將為我們執(zhí)行更多任務(wù)。
3、多模態(tài)大模型成為AI產(chǎn)業(yè)競爭的重要陣地
人類通過視覺、語言、聽覺等感知與理解真實世界，AI作為人類智能的延伸也在拓展多模態(tài)能力，包括多模態(tài)的輸入和多模態(tài)的輸出與生成能力。多模態(tài)大模型可以處理應(yīng)用文字、圖片、視頻、音頻等多模態(tài)數(shù)據(jù)，完成聽、說、讀、寫、看等跨模態(tài)領(lǐng)域的任務(wù)，符合人類最自然的交互習(xí)慣，使人與AI的交流更加友好直接。
火爆海外的AI視頻生成工具Pika1.0，其AI模型能生成和編輯 3D 動畫、電影等各種風(fēng)格視頻。谷歌在2023年年底推出的Gemini模型則能夠分析和理解正在變化的視頻，并生成相應(yīng)的描述，描述的音頻還會包含一些擬人化的語氣和停頓。國內(nèi)方面，2024年1月以來，通義千問視覺理解模型Qwen-VL持續(xù)升級，零一萬物Yi-VL多模態(tài)語言大模型面向全球開源，多模態(tài)模型的能力正在快速提升。
由于多模態(tài)能夠帶來更豐富的用戶體驗、實現(xiàn)更廣泛的應(yīng)用場景，2024年多模態(tài)大模型將成為AI廠商發(fā)力的主要方向，多模態(tài)大模型正推動人工智能邁進“通感”時代。
4、AI應(yīng)用場景爆發(fā)，“AI+”實踐補齊商業(yè)化短板
2023至2024，AI賦能千行百業(yè)腳步走深。賽迪顧問數(shù)據(jù)顯示，2023 年人工智能在行業(yè)應(yīng)用的采用率已達(dá)到 28%。從行業(yè)實踐來看，人工智能率先助力金融、游戲、教育、醫(yī)療等行業(yè)重構(gòu)。
人工智能必須與應(yīng)用場景結(jié)合才能發(fā)揮最大作用。在誕生至今的60余年間，其發(fā)展幾次起落，應(yīng)用場景不足被視為前兩次浪潮歸于沉寂的主要原因之一。
人工智能面向行業(yè)的具體應(yīng)用并非易事，需要把技術(shù)邏輯、業(yè)務(wù)邏輯、場景邏輯和商業(yè)邏輯打通。2024年被視為人工智能應(yīng)用元年，場景創(chuàng)新、應(yīng)用落地、商業(yè)化拓展值得期待。在這條追求更高精度、挑戰(zhàn)更復(fù)雜任務(wù)、拓展能力邊界的演進之路上，從業(yè)者需著眼產(chǎn)業(yè)鏈全局布局場景建設(shè)，讓AI技術(shù)革新惠及整個產(chǎn)業(yè)生態(tài)。
5、具身智能，通用人工智能探索的下一節(jié)點
具身智能（Embodied AI）可以被認(rèn)為是指能與環(huán)境交互獲取信息、理解問題、作出決策并實現(xiàn)行動的智能系統(tǒng)。在ITF World 2023大會上，英偉達(dá)創(chuàng)始人黃仁勛公開表示，具身智能將引領(lǐng)人工智能的下一次浪潮。
機器人被認(rèn)為是具身智能落地的核心場景之一。圖靈獎得主、中國科學(xué)院院士姚期智在此前表示，人工智能領(lǐng)域下一個挑戰(zhàn)將是實現(xiàn)“具身通用人工智能”，即構(gòu)建能夠通過自我學(xué)習(xí)掌握各種技能并執(zhí)行現(xiàn)實生活中的種種通用任務(wù)的高端機器人。
2023年，AI風(fēng)起，亦卷動具身智能市場風(fēng)云。特斯拉人形機器人Optimus迭代加速，商業(yè)化持續(xù)推進。OpenAI領(lǐng)投人形機器人公司1X，二者或共同為機器人開發(fā)AI模型。
大語言模型和多模態(tài)大模型能夠通過海量數(shù)據(jù)預(yù)訓(xùn)練從語音、視覺、感知、控制等多方面幫助機器人更好“進化”。比如，李飛飛團隊發(fā)布具身智能研究VoxPoser，通過接入大模型，這一項目使機器人能直接理解人類自然語言指令并完成復(fù)雜任務(wù)，無需額外的數(shù)據(jù)和預(yù)訓(xùn)練。
具身智能可能成為大模型應(yīng)用元年的“高光時刻”之一。
不過，具身智能走向?qū)嵺`，還面臨不少挑戰(zhàn)。
在2023世界機器人大會上，姚期智指出，未來具身機器人還面臨四大主要挑戰(zhàn)：第一，機器人無法只通過一個基礎(chǔ)大模型直接做最底層的控制，工作相對復(fù)雜；第二，即使谷歌研發(fā)了Robotics Transformer模型，要實現(xiàn)實際控制，仍需要彌合計算能力的差距；第三，機器人多模態(tài)的感官感知的全部融合并非易事；第四，機器人研發(fā)、應(yīng)用等過程中的數(shù)據(jù)安全問題需要考慮。
6、高質(zhì)量數(shù)據(jù)稀缺，合成數(shù)據(jù)或成解法
作為生成式人工智能的“糧食和血液”，當(dāng)前高質(zhì)量數(shù)據(jù)的供給面臨挑戰(zhàn)。一項來自Epoch Al Research團隊的研究結(jié)果表明，高質(zhì)量的語言數(shù)據(jù)存量將在2026年耗盡。
對于數(shù)據(jù)稀缺問題，合成數(shù)據(jù)或是一個解法。合成數(shù)據(jù)是指基于計算機模擬技術(shù)或算法生成的虛擬數(shù)據(jù)。國內(nèi)外企業(yè)目前在這一領(lǐng)域已經(jīng)開展不少嘗試。比如，騰訊開發(fā)自動駕駛仿真系統(tǒng)TADSim可以自動生成無需標(biāo)注的各種交通場景數(shù)據(jù)；人工智能初創(chuàng)公司Cohere首席執(zhí)行官AidenGomez就曾公開表示，微軟、OpenAI和Cohere等公司，已使用合成數(shù)據(jù)來訓(xùn)練AI模型。
據(jù)咨詢公司Gartner預(yù)測，到2030年，合成數(shù)據(jù)將徹底取代真實數(shù)據(jù)，成為AI模型所使用的數(shù)據(jù)的主要來源。美國AI研究機構(gòu)Cognilytica數(shù)據(jù)顯示，2021 年合成數(shù)據(jù)市場規(guī)模大概在1.1億美元，到2027 年將達(dá)到11.5億美元。
不過，當(dāng)前合成數(shù)據(jù)的保真度、可控性等仍存問題。AI訓(xùn)練數(shù)據(jù)服務(wù)商Appen發(fā)布的一篇文章中指出，相比于真實數(shù)據(jù)，合成數(shù)據(jù)缺乏異常值，這對訓(xùn)練出的模型精確度會產(chǎn)生很大影響。此外，合成數(shù)據(jù)的質(zhì)量與其生成時所用的輸入數(shù)據(jù)息息相關(guān)，因此，輸入數(shù)據(jù)的質(zhì)量也會對其產(chǎn)生影響。所以，合成數(shù)據(jù)投入使用的過程還面臨一定爭議。
因此，合成數(shù)據(jù)之外，提升真實數(shù)據(jù)質(zhì)量也是必行之措。
在國內(nèi)，多地都曾發(fā)布相關(guān)政策以求推動建立高質(zhì)量數(shù)據(jù)集。2023年，北京、深圳等地先后發(fā)布相關(guān)文件，指出要提升高質(zhì)量數(shù)據(jù)要素供給能力、歸集高質(zhì)量基礎(chǔ)訓(xùn)練數(shù)據(jù)集、建立多模態(tài)公共數(shù)據(jù)集，打造高質(zhì)量中文語料數(shù)據(jù)等。同年7月的《生成式人工智能服務(wù)管理暫行辦法》中，亦指出要推動生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè)。今年國家數(shù)據(jù)局等17部門聯(lián)合印發(fā)的《“數(shù)據(jù)要素×”三年行動計劃(2024—2026年)》指出，應(yīng)該建設(shè)高質(zhì)量語料庫和基礎(chǔ)科學(xué)數(shù)據(jù)集，支持開展人工智能大模型開發(fā)和訓(xùn)練。
7、新型智算中心、數(shù)據(jù)中心加快布局 成為關(guān)鍵基礎(chǔ)設(shè)施
大模型的發(fā)展提升了智能算力的需求，目前國內(nèi)存在高性能芯片短缺、算力資源分散、存力相對不足等問題。需求爆發(fā)式增長與算力單點性能極限之間的矛盾日益突出，算力節(jié)點通過網(wǎng)絡(luò)靈活高效調(diào)配算力資源的能力仍存在不足，算網(wǎng)協(xié)同和全局調(diào)度能力有待提高，難以滿足數(shù)據(jù)對算力隨需處理的需求。
因此，需以系統(tǒng)化思維構(gòu)建算力基礎(chǔ)設(shè)施平臺，保障算力調(diào)度，將分散的算力資源聚合，形成集群效應(yīng)，實現(xiàn)算力、數(shù)據(jù)和算法的高效協(xié)同，滿足智算應(yīng)用場景的數(shù)據(jù)處理、存儲、傳輸?shù)拳h(huán)節(jié)要求。
2023年10月，工信部等六部門聯(lián)合印發(fā)《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動計劃》，其中提出2025年建成50個智能計算中心等量化指標(biāo)。2024年1月工信部等八部門發(fā)布《關(guān)于加快傳統(tǒng)制造業(yè)轉(zhuǎn)型升級的指導(dǎo)意見》，提出要探索建設(shè)區(qū)域人工智能數(shù)據(jù)處理中心，提供海量數(shù)據(jù)處理、生成式人工智能工具開發(fā)等服務(wù)。
接下來，新型數(shù)據(jù)中心、智算中心的建設(shè)和布局是一個重要趨勢，提供多樣性計算綜合能力的算力集群，以滿足千行百業(yè)智能化的需求。
8、人工智能版權(quán)糾紛大量涌入司法實踐
生成式人工智能技術(shù)的快速發(fā)展給版權(quán)帶來了新的挑戰(zhàn)。
從輸入端看，涉及訓(xùn)練數(shù)據(jù)來源合法合規(guī)問題。大模型訓(xùn)練數(shù)據(jù)多來自網(wǎng)絡(luò)中抓取的電子書、藝術(shù)作品、電子郵件、歌曲，抓取時并未告知原作者，難以獲得單獨授權(quán)，面臨侵權(quán)糾紛。
在輸出端，終端用戶、模型提供者的生成內(nèi)容是否具有可版權(quán)性，模型提供者生成內(nèi)容是否侵權(quán)也未有答案。傳統(tǒng)的版權(quán)法主要針對人類創(chuàng)作者的作品進行保護，而現(xiàn)在則涉及機器生成的內(nèi)容。
目前司法實踐中，紐約時報指控OpenAI和微軟訓(xùn)練大模型使用《紐約時報》大量文本內(nèi)容侵犯其版權(quán)，是輸入端的一個案例。
北京互聯(lián)網(wǎng)法院也作出了第一例人工智能生成內(nèi)容的著作權(quán)糾紛判決，是輸出端的一個案例。
2024年，伴隨著人工智能技術(shù)的不斷應(yīng)用，大概率會有大量版權(quán)糾紛案件涌入司法實務(wù)環(huán)節(jié)。
9、一批AI創(chuàng)業(yè)公司會在2024年倒閉
2023年人工智能領(lǐng)域資本市場火熱。IDC最新數(shù)據(jù)顯示，2022年全球人工智能IT總投資規(guī)模為1,288億美元，2027年預(yù)計增至4236億美元，五年復(fù)合增長率（CAGR）約為26.9%。
截至2023年12月末，涉及人工智能產(chǎn)業(yè)鏈的境內(nèi)A股上市公司已超過400家，業(yè)務(wù)領(lǐng)域上涵蓋了人工智能產(chǎn)業(yè)鏈的各個環(huán)節(jié)。科創(chuàng)板已匯聚十家人工智能產(chǎn)業(yè)鏈企業(yè)，合計市值逾4000億元，初步覆蓋基礎(chǔ)層、技術(shù)層及應(yīng)用層等環(huán)節(jié)，涵蓋AI芯片、行業(yè)大模型、智能機器人、計算機與3D視覺等多個細(xì)分賽道。
不過，從海外來看，AI初創(chuàng)公司融資速度正在放緩，Stability AI 和 Jasper 等初創(chuàng)公司都陷入困境。
2024年人工智能創(chuàng)業(yè)公司面臨多重挑戰(zhàn)。
市場競爭方面，大型公司憑借其資源和品牌優(yōu)勢占據(jù)大部分市場份額，使得許多初創(chuàng)AI企業(yè)難以立足。資金和融資方面，前期大把燒錢卻沒有實際商業(yè)化落地，融資會變得越發(fā)困難。尤其是商業(yè)化和產(chǎn)品落地是最大的挑戰(zhàn)，如果產(chǎn)品與實際業(yè)務(wù)場景結(jié)合不夠緊密，商業(yè)化進程受阻。
此外，還面臨法律政策的適應(yīng)性問題，全球各國、地區(qū)監(jiān)管動態(tài)密集，不確定性強。數(shù)據(jù)隱私和安全合規(guī)作為底線，可能增加成本。
10、安全可信AI訴求催生新技術(shù)、新商業(yè)工具
Gartner預(yù)測，生成式AI或?qū)⒂瓉砣窕瘯r代，到2026年，將有超過80%的企業(yè)使用生成式AI的API或模型，或在生產(chǎn)環(huán)境中部署支持生成式AI的應(yīng)用，而在2023年初這一比例還不到5%。
伴隨著人工智能的大規(guī)模應(yīng)用，安全問題變得更加迫切。2023年以來，生成式人工智能快速發(fā)展的同時，數(shù)據(jù)泄露、個人隱私風(fēng)險、虛假信息、大模型“幻覺”、算法黑箱......等問題也隨之而來。2023年11月，OpenAI的宮斗大戲把安全對齊、科技倫理等深層安全問題暴露在大眾視野中。
人工智能的安全問題可分為三個維度，第一是內(nèi)生風(fēng)險，包括“幻覺”問題、算法歧視、算法黑箱等，第二是衍生風(fēng)險，其在應(yīng)用中的風(fēng)險，比如虛假新聞、個人信息泄露等，第三則是外部風(fēng)險，外部對模型、系統(tǒng)的攻擊。
面對多重風(fēng)險，構(gòu)建安全可信的人工智能已成為共識。未來在解決AI風(fēng)險的過程中，可能會催生出針對安全對齊、可解釋性等新技術(shù)。
此外，針對人工智能內(nèi)生安全風(fēng)險、服務(wù)商風(fēng)險、應(yīng)用產(chǎn)生的數(shù)據(jù)泄露風(fēng)險等多維度安全風(fēng)險，或也會催生新型的商業(yè)工具。此前，一家知名保險公司宣布推出專為AI幻覺設(shè)計的保險政策。
解決人工智能安全風(fēng)險是底線，在對安全剛性要求的背景下，或能催生新的安全技術(shù)或者商業(yè)工具。
本文鏈接：2024年十大AI趨勢預(yù)測：安全性訴求催生新技術(shù)、商業(yè)工具，一批AI創(chuàng)業(yè)公司將倒閉？http://www.sq15.cn/show-2-2457-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。