中文字幕亚洲欧美一区二区三区_亚洲精品菠萝久久久久久久_日本成人免费视频_狠狠躁少妇一区二区三区_国产精品中文字幕久久久_国产乱子伦农村叉叉叉_麻豆tv免费在线观看_av在线这里只有精品_色吧亚洲视频_嫩草影院一二三

設(shè)置
  • 日夜間
    隨系統(tǒng)
    淺色
    深色
  • 主題色

尋找AI發(fā)展新路徑——專訪中國科學(xué)院院士鄂維南

2024-08-21 16:38:24 來源: 新華網(wǎng)

最近十幾年,以深度學(xué)習(xí)為代表的AI技術(shù)取得了巨大進展。大語言模型的成功,仿佛使人類站在了智能化時代的起點。但以GPT為代表的大模型技術(shù)路線并不適合我國國情。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

什么才是適合我國國情的AI發(fā)展路徑?如何才能保證我國AI長期穩(wěn)定地發(fā)展?近日,中國科學(xué)院院士、北京大學(xué)國際機器學(xué)習(xí)研究中心主任鄂維南接受《瞭望》新聞周刊記者專訪時表示,單純堆砌大模型并非長久之計,我們應(yīng)在以下兩方面盡快布局:一是建立起一個完整的AI底層創(chuàng)新體系和創(chuàng)新團隊,在模型架構(gòu)、AI系統(tǒng)、數(shù)據(jù)處理工具、高效訓(xùn)練芯片等方向謀求新突破。二是探索AI的基本原理,盡管我們與掌握AI的基本原理還有很大差距,但是我們已經(jīng)具備了探索這些基本原理的條件。而長期穩(wěn)定發(fā)展的技術(shù)路線,必然會在這個探索過程中產(chǎn)生出來。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

多年來,鄂維南帶領(lǐng)團隊積極探索適合中國國情的AI發(fā)展路徑,尤其是在中國AI for Science的發(fā)展中起到了引領(lǐng)作用。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

堆砌大模型之路不適合我國kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

《瞭望》:目前世界上主流的AI發(fā)展技術(shù)框架和思維模式是什么?kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

鄂維南:自2012年起,AI領(lǐng)域取得了顯著的成就:2016年,基于深度強化學(xué)習(xí)的AI方法,DeepMind的AlphaGo在圍棋比賽中戰(zhàn)勝了世界冠軍李世石,這是AI首次在圍棋這一復(fù)雜游戲中擊敗人類頂尖選手。2023年,OpenAI發(fā)布了ChatGPT,這是一個強大的語言模型,它在自然語言理解和生成方面達到了前所未有的水平。今年,DeepMind推出了AlphaGeometry,這是一個能夠在數(shù)學(xué)競賽中表現(xiàn)出色的AI系統(tǒng),展示了在解決復(fù)雜幾何問題方面取得的突破。今年另一個值得關(guān)注的AI進展是Sora,它能夠通過簡單的文本提示生成逼真的視頻,這標(biāo)志著物理世界與虛擬世界之間的橋梁已經(jīng)開始建立。此外,在科學(xué)領(lǐng)域,AI方法解決了蛋白結(jié)構(gòu)這樣一個生命科學(xué)中的基礎(chǔ)問題,這是許多人未曾預(yù)料到的成就。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

AI取得進步的一個重要原因就是深度神經(jīng)網(wǎng)絡(luò)的廣泛應(yīng)用。盡管深度學(xué)習(xí)受到熱捧之前人們就已經(jīng)在處理和分析大數(shù)據(jù),但是真正讓大數(shù)據(jù)充分發(fā)揮作用的方法是深度學(xué)習(xí),其標(biāo)志性事件是辛頓團隊于2012年贏得ImageNet圖像識別比賽冠軍。辛頓等人設(shè)計并訓(xùn)練了一個神經(jīng)網(wǎng)絡(luò),取名AlexNet。AlexNet有5層卷積網(wǎng)絡(luò)、3層全連接網(wǎng)絡(luò),6000多萬個參數(shù)。需要強調(diào)的是,辛頓等人在訓(xùn)練AlexNet的時候用的主要算法,如隨機梯度下降、反向傳播等都是已知的。辛頓團隊的工作就是充分訓(xùn)練了這樣一個多層神經(jīng)網(wǎng)絡(luò)。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

辛頓等人的工作不僅改變了圖像識別,而且改變了整個AI領(lǐng)域,因為基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)方法是一個通用方法。神經(jīng)網(wǎng)絡(luò)其實就是一類函數(shù),它與多項式這類函數(shù)的不同之處在于它似乎是逼近多變量函數(shù)的有效工具。也就是說,它能夠有效地幫助我們克服維數(shù)災(zāi)難和組合爆炸引起的困難,這是過去的AI方法難以做到的。因此神經(jīng)網(wǎng)絡(luò)也可以被用來解決科學(xué)領(lǐng)域碰到的多個自由度的問題,如蛋白結(jié)構(gòu)問題、分子動力學(xué)勢能函數(shù)問題等,由此催生出了一個嶄新的科研范式:AI for Science。正因為深度學(xué)習(xí)在多變量函數(shù)逼近這樣一個非常基礎(chǔ)性的問題上帶來了巨大突破,所以它在各種各樣的問題上都給我們帶來了新的可能。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

大模型技術(shù)是一個新的突破。之前的深度學(xué)習(xí)技術(shù)考慮的是單個任務(wù)和單個數(shù)據(jù)集,大模型考慮的是所有任務(wù)和所有數(shù)據(jù)。以O(shè)penAI的GPT為代表的大模型技術(shù)在文本任務(wù)和文本數(shù)據(jù)上展示了令人驚奇的成功。但總體來說,大模型技術(shù)還遠沒有成熟。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

《瞭望》:為什么說這一主流的AI發(fā)展模式不適合我國?kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

鄂維南:從長遠的角度來看,目前以GPT為代表的技術(shù)路徑并不適合我國國情。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

首先,我國的算力與美國的相比有相當(dāng)大的差距。目前國內(nèi)大模型第一梯隊的算力資源基本上是萬卡規(guī)模,比如擁有1萬張英偉達A100或類似級別的GPU卡。然而美國的第一梯隊能達到10萬卡甚至更大規(guī)模,10萬張卡的價值大約是200億到300億元人民幣,這對許多團隊來說是一個巨大的成本負擔(dān),許多開發(fā)基座模型的國內(nèi)團隊可能不得不停下追趕的腳步。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

其次,從計算量和參數(shù)規(guī)模的角度來說,GPT存在巨大浪費。我們可以通過新的框架和計算方法來避免這種浪費。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

最后,對圖像等問題,GPT不一定是最佳技術(shù)路徑,我們還需要尋求更加有效的技術(shù)方案。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

建立完整的AI底層創(chuàng)新體系kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

《瞭望》:發(fā)展新一代AI,需要解決哪些問題?kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

鄂維南:要尋找替代路線,并保證我國AI得到持續(xù)、穩(wěn)定的發(fā)展,就必須研究AI的底層邏輯,探索其基本原理,解決算力、數(shù)據(jù)、算法中的一些核心問題。另外,我們還需要探索數(shù)據(jù)以外的其他思路,包括邏輯推理、幾何表示和物理規(guī)律的應(yīng)用。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

從算力角度看,我國已經(jīng)建設(shè)了一些算力中心,比如萬卡規(guī)模的機房。我們還需要持續(xù)投入,盡管需要尋求新的人工智能技術(shù)路徑,但是在算力上的投入不能放松。未來我們可能需要考慮如何把分布在全國各地的算力資源有效地綜合利用起來,以支撐基座模型的訓(xùn)練。要做到這一點,還需要從模型的層面、算法的層面做一些改變,尋找更加適合于分布式算力和遠程通信的模型框架。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

從數(shù)據(jù)角度看,我們需要一套高效率、標(biāo)準(zhǔn)化的數(shù)據(jù)處理工具。處理好數(shù)據(jù)是提升模型能力的主要手段。現(xiàn)在我們?nèi)狈Ω咝实臄?shù)據(jù)處理工具。除數(shù)據(jù)清洗和標(biāo)注工具以外,還需要對數(shù)據(jù)做不同維度的畫像的工具,評估數(shù)據(jù)質(zhì)量、數(shù)據(jù)難度的工具等。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

從算法和模型的角度來看,我們要給模型瘦身。目前的主流技術(shù)框架是把知識和推理能力都放在大模型里面。其實一些具體知識沒必要放在模型里面。我們可以把它們存到一個知識庫里面,讓大模型隨時調(diào)用。這樣做就會大大降低模型規(guī)模。對不常用的知識,業(yè)界流行的外掛數(shù)據(jù)庫就可以實現(xiàn)這一技術(shù)方案。對經(jīng)常用的知識,我們需要更加高效的方法,這就是我們推出的“憶立方”模型要解決的問題。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

我們還需要提高學(xué)習(xí)效率。目前大模型是純粹通過刷題的方式來學(xué)習(xí)。例如為了做加減乘除運算,GPT即便是學(xué)了1萬道題目,它也并沒有真正學(xué)到加減乘除的規(guī)則。這樣的算法不夠有效,是在拼蠻力。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

要解決這個問題,我們需要把規(guī)則和大模型的學(xué)習(xí)能力結(jié)合在一起。一個例子是DeepMind推出的AlphaGeometry,它求解國際奧林匹克數(shù)學(xué)競賽中平面幾何題目的能力接近了人類最高水平。它的主要做法是把邏輯推理方法和經(jīng)驗方法相結(jié)合:定理庫和樹搜索提供具體證明,而機器學(xué)習(xí)模型提供思路,比如如何加輔助線。簡單來說,定理庫里面就是很多平面幾何的定理。一般平面幾何最難的地方是如何加輔助線。這要靠經(jīng)驗,靠積累,這是大模型擅長的。下一步它就到定理庫里面去找哪個定理可以用,用了以后能夠把問題簡化。這種方法不僅僅是對平面幾何,在更廣泛的場景都可以用。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

《瞭望》:你帶領(lǐng)團隊在建立AI底層創(chuàng)新體系方面,已經(jīng)做了哪些工作?kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

鄂維南:我們希望能夠全方位探索AI基本原理并且在此基礎(chǔ)上尋找下一代AI系統(tǒng)的技術(shù)路線。目前我們的努力主要集中在數(shù)據(jù)和模型兩個方面。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

在數(shù)據(jù)處理方面,我們團隊研發(fā)了國際上第一個專門為大規(guī)模結(jié)構(gòu)化+非結(jié)構(gòu)化數(shù)據(jù)處理打造的AI數(shù)據(jù)庫MyScale(此前稱為MQDB),這也是目前國內(nèi)綜合性能最好、功能最強的AI數(shù)據(jù)庫。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

MyScale拓展了結(jié)構(gòu)化查詢語言,在同一個系統(tǒng)中支持海量結(jié)構(gòu)化、向量、文本、JSON數(shù)據(jù)交換格式、空間、時序等各類異構(gòu)數(shù)據(jù)的高效存儲和聯(lián)合查詢,數(shù)據(jù)密度、插入速度、查詢效率優(yōu)于國內(nèi)外其他系統(tǒng)。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

比如,MyScale能夠?qū)崿F(xiàn)海量非結(jié)構(gòu)化數(shù)據(jù)清洗,減少數(shù)據(jù)收集量、數(shù)據(jù)標(biāo)注,提高效率,降低成本。假設(shè)我們要訓(xùn)練一個自動駕駛模型,我們就要處理各種不同的復(fù)雜場景。因此我們需要高效率、高精度地抽取相應(yīng)場景的數(shù)據(jù)。我們可以在MyScale數(shù)據(jù)庫中直接搜索“行人過馬路”或“人行道上的行人或自行車”等場景來獲取相應(yīng)的數(shù)據(jù),方便快捷。近期我們已將MyScale進行了開源,大部分功能已經(jīng)在開源版本中推出,完全可以滿足用戶數(shù)據(jù)量不太大時候的需求,歡迎大家去使用。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

在模型算法方面,我們團隊打造了“憶立方”模型,它通過將知識分層處理,并引入內(nèi)置數(shù)據(jù)庫,來提高知識寫入和讀取的效率。根據(jù)一個知識的使用頻率,來決定它的處理方式。使用頻率最高的知識,我們把它放在大模型中,最低的放在外掛數(shù)據(jù)庫中,常用的專業(yè)知識則放在內(nèi)置數(shù)據(jù)庫中。這樣不但可以大大降低對模型規(guī)模的要求,同時也提高了知識的使用效率。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

加快創(chuàng)新人才、創(chuàng)新生態(tài)培育kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

《瞭望》:建立完整的AI底層創(chuàng)新體系,還需要怎么做?kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

鄂維南:建立完整的AI底層創(chuàng)新體系,需要探索AI發(fā)展的底層邏輯和基本原理,這是AI長期發(fā)展的基礎(chǔ)。沒有對基本原理的理解,我們無法保證AI的持續(xù)進步,無法知道下一步該如何走。從AI發(fā)展的歷史上看,它經(jīng)歷了幾次大起大落,以及不斷的小起小落。這種情況的出現(xiàn),實際上也是因為我們對基本原理和底層邏輯的理解不夠深入。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

探索AI的基本原理是一個非常困難的任務(wù),這一探索需要多方面人才、多方面資源的緊密合作和結(jié)合。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

在人才培養(yǎng)方面,目前我們的主要精力都集中在離AI應(yīng)用最近的人才身上,如機器學(xué)習(xí)、計算機視覺、自然語言處理等。但AI的長期穩(wěn)定發(fā)展需要多方面、多層次的人才。建議從整個計算產(chǎn)業(yè)的角度全面布局AI發(fā)展藍圖,創(chuàng)新人才培養(yǎng)方式,培養(yǎng)綜合性、前瞻性人才,建設(shè)高質(zhì)量、多層次人才梯隊。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

現(xiàn)在很多高校都成立了AI學(xué)院,這既是好事,但也可能成為一件壞事。應(yīng)該認識到,AI是一個非常特殊的學(xué)科,它不只是一個典型的專業(yè),還是一個需要從全校層面進行規(guī)劃和布局的核心領(lǐng)域。僅就人才培養(yǎng)來說,對于AI方面的專業(yè)人才,我們要同時注重基本原理的思維能力和工程能力;對非AI專業(yè)的人才,我們必須切實加強AI通識教育。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

另外,建議注重實現(xiàn)人才資源和算力資源的有效對接。高校不缺人才但缺算力資源,大企業(yè)不缺算力但在人才資源方面處于劣勢。我們需要將有限的人才資源和算力資源有效地對接起來。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

從創(chuàng)新生態(tài)來看,加快建立鼓勵原始創(chuàng)新的生態(tài)環(huán)境及文化,提倡做與眾不同的事情,提倡“別人做了,我就不再去湊熱鬧”的科研心態(tài)。市場應(yīng)給創(chuàng)新足夠的生存空間,政府部門應(yīng)更加重視資源分配的合理性。作為創(chuàng)新群體,我們必須具備高度的社會責(zé)任感、冒險精神和實干精神,下決心真正從源頭上解決科技創(chuàng)新中面臨的困難,開創(chuàng)嶄新的局面。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

最近十幾年,以深度學(xué)習(xí)為代表的AI技術(shù)取得了巨大進展。大語言模型的成功,仿佛使人類站在了智能化時代的起點。但以GPT為代表的大模型技術(shù)路線并不適合我國國情。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

什么才是適合我國國情的AI發(fā)展路徑?如何才能保證我國AI長期穩(wěn)定地發(fā)展?近日,中國科學(xué)院院士、北京大學(xué)國際機器學(xué)習(xí)研究中心主任鄂維南接受《瞭望》新聞周刊記者專訪時表示,單純堆砌大模型并非長久之計,我們應(yīng)在以下兩方面盡快布局:一是建立起一個完整的AI底層創(chuàng)新體系和創(chuàng)新團隊,在模型架構(gòu)、AI系統(tǒng)、數(shù)據(jù)處理工具、高效訓(xùn)練芯片等方向謀求新突破。二是探索AI的基本原理,盡管我們與掌握AI的基本原理還有很大差距,但是我們已經(jīng)具備了探索這些基本原理的條件。而長期穩(wěn)定發(fā)展的技術(shù)路線,必然會在這個探索過程中產(chǎn)生出來。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

多年來,鄂維南帶領(lǐng)團隊積極探索適合中國國情的AI發(fā)展路徑,尤其是在中國AI for Science的發(fā)展中起到了引領(lǐng)作用。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

堆砌大模型之路不適合我國kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

《瞭望》:目前世界上主流的AI發(fā)展技術(shù)框架和思維模式是什么?kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

鄂維南:自2012年起,AI領(lǐng)域取得了顯著的成就:2016年,基于深度強化學(xué)習(xí)的AI方法,DeepMind的AlphaGo在圍棋比賽中戰(zhàn)勝了世界冠軍李世石,這是AI首次在圍棋這一復(fù)雜游戲中擊敗人類頂尖選手。2023年,OpenAI發(fā)布了ChatGPT,這是一個強大的語言模型,它在自然語言理解和生成方面達到了前所未有的水平。今年,DeepMind推出了AlphaGeometry,這是一個能夠在數(shù)學(xué)競賽中表現(xiàn)出色的AI系統(tǒng),展示了在解決復(fù)雜幾何問題方面取得的突破。今年另一個值得關(guān)注的AI進展是Sora,它能夠通過簡單的文本提示生成逼真的視頻,這標(biāo)志著物理世界與虛擬世界之間的橋梁已經(jīng)開始建立。此外,在科學(xué)領(lǐng)域,AI方法解決了蛋白結(jié)構(gòu)這樣一個生命科學(xué)中的基礎(chǔ)問題,這是許多人未曾預(yù)料到的成就。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

AI取得進步的一個重要原因就是深度神經(jīng)網(wǎng)絡(luò)的廣泛應(yīng)用。盡管深度學(xué)習(xí)受到熱捧之前人們就已經(jīng)在處理和分析大數(shù)據(jù),但是真正讓大數(shù)據(jù)充分發(fā)揮作用的方法是深度學(xué)習(xí),其標(biāo)志性事件是辛頓團隊于2012年贏得ImageNet圖像識別比賽冠軍。辛頓等人設(shè)計并訓(xùn)練了一個神經(jīng)網(wǎng)絡(luò),取名AlexNet。AlexNet有5層卷積網(wǎng)絡(luò)、3層全連接網(wǎng)絡(luò),6000多萬個參數(shù)。需要強調(diào)的是,辛頓等人在訓(xùn)練AlexNet的時候用的主要算法,如隨機梯度下降、反向傳播等都是已知的。辛頓團隊的工作就是充分訓(xùn)練了這樣一個多層神經(jīng)網(wǎng)絡(luò)。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

辛頓等人的工作不僅改變了圖像識別,而且改變了整個AI領(lǐng)域,因為基于神經(jīng)網(wǎng)絡(luò)的深度學(xué)習(xí)方法是一個通用方法。神經(jīng)網(wǎng)絡(luò)其實就是一類函數(shù),它與多項式這類函數(shù)的不同之處在于它似乎是逼近多變量函數(shù)的有效工具。也就是說,它能夠有效地幫助我們克服維數(shù)災(zāi)難和組合爆炸引起的困難,這是過去的AI方法難以做到的。因此神經(jīng)網(wǎng)絡(luò)也可以被用來解決科學(xué)領(lǐng)域碰到的多個自由度的問題,如蛋白結(jié)構(gòu)問題、分子動力學(xué)勢能函數(shù)問題等,由此催生出了一個嶄新的科研范式:AI for Science。正因為深度學(xué)習(xí)在多變量函數(shù)逼近這樣一個非常基礎(chǔ)性的問題上帶來了巨大突破,所以它在各種各樣的問題上都給我們帶來了新的可能。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

大模型技術(shù)是一個新的突破。之前的深度學(xué)習(xí)技術(shù)考慮的是單個任務(wù)和單個數(shù)據(jù)集,大模型考慮的是所有任務(wù)和所有數(shù)據(jù)。以O(shè)penAI的GPT為代表的大模型技術(shù)在文本任務(wù)和文本數(shù)據(jù)上展示了令人驚奇的成功。但總體來說,大模型技術(shù)還遠沒有成熟。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

《瞭望》:為什么說這一主流的AI發(fā)展模式不適合我國?kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

鄂維南:從長遠的角度來看,目前以GPT為代表的技術(shù)路徑并不適合我國國情。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

首先,我國的算力與美國的相比有相當(dāng)大的差距。目前國內(nèi)大模型第一梯隊的算力資源基本上是萬卡規(guī)模,比如擁有1萬張英偉達A100或類似級別的GPU卡。然而美國的第一梯隊能達到10萬卡甚至更大規(guī)模,10萬張卡的價值大約是200億到300億元人民幣,這對許多團隊來說是一個巨大的成本負擔(dān),許多開發(fā)基座模型的國內(nèi)團隊可能不得不停下追趕的腳步。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

其次,從計算量和參數(shù)規(guī)模的角度來說,GPT存在巨大浪費。我們可以通過新的框架和計算方法來避免這種浪費。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

最后,對圖像等問題,GPT不一定是最佳技術(shù)路徑,我們還需要尋求更加有效的技術(shù)方案。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

建立完整的AI底層創(chuàng)新體系kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

《瞭望》:發(fā)展新一代AI,需要解決哪些問題?kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

鄂維南:要尋找替代路線,并保證我國AI得到持續(xù)、穩(wěn)定的發(fā)展,就必須研究AI的底層邏輯,探索其基本原理,解決算力、數(shù)據(jù)、算法中的一些核心問題。另外,我們還需要探索數(shù)據(jù)以外的其他思路,包括邏輯推理、幾何表示和物理規(guī)律的應(yīng)用。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

從算力角度看,我國已經(jīng)建設(shè)了一些算力中心,比如萬卡規(guī)模的機房。我們還需要持續(xù)投入,盡管需要尋求新的人工智能技術(shù)路徑,但是在算力上的投入不能放松。未來我們可能需要考慮如何把分布在全國各地的算力資源有效地綜合利用起來,以支撐基座模型的訓(xùn)練。要做到這一點,還需要從模型的層面、算法的層面做一些改變,尋找更加適合于分布式算力和遠程通信的模型框架。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

從數(shù)據(jù)角度看,我們需要一套高效率、標(biāo)準(zhǔn)化的數(shù)據(jù)處理工具。處理好數(shù)據(jù)是提升模型能力的主要手段。現(xiàn)在我們?nèi)狈Ω咝实臄?shù)據(jù)處理工具。除數(shù)據(jù)清洗和標(biāo)注工具以外,還需要對數(shù)據(jù)做不同維度的畫像的工具,評估數(shù)據(jù)質(zhì)量、數(shù)據(jù)難度的工具等。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

從算法和模型的角度來看,我們要給模型瘦身。目前的主流技術(shù)框架是把知識和推理能力都放在大模型里面。其實一些具體知識沒必要放在模型里面。我們可以把它們存到一個知識庫里面,讓大模型隨時調(diào)用。這樣做就會大大降低模型規(guī)模。對不常用的知識,業(yè)界流行的外掛數(shù)據(jù)庫就可以實現(xiàn)這一技術(shù)方案。對經(jīng)常用的知識,我們需要更加高效的方法,這就是我們推出的“憶立方”模型要解決的問題。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

我們還需要提高學(xué)習(xí)效率。目前大模型是純粹通過刷題的方式來學(xué)習(xí)。例如為了做加減乘除運算,GPT即便是學(xué)了1萬道題目,它也并沒有真正學(xué)到加減乘除的規(guī)則。這樣的算法不夠有效,是在拼蠻力。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

要解決這個問題,我們需要把規(guī)則和大模型的學(xué)習(xí)能力結(jié)合在一起。一個例子是DeepMind推出的AlphaGeometry,它求解國際奧林匹克數(shù)學(xué)競賽中平面幾何題目的能力接近了人類最高水平。它的主要做法是把邏輯推理方法和經(jīng)驗方法相結(jié)合:定理庫和樹搜索提供具體證明,而機器學(xué)習(xí)模型提供思路,比如如何加輔助線。簡單來說,定理庫里面就是很多平面幾何的定理。一般平面幾何最難的地方是如何加輔助線。這要靠經(jīng)驗,靠積累,這是大模型擅長的。下一步它就到定理庫里面去找哪個定理可以用,用了以后能夠把問題簡化。這種方法不僅僅是對平面幾何,在更廣泛的場景都可以用。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

《瞭望》:你帶領(lǐng)團隊在建立AI底層創(chuàng)新體系方面,已經(jīng)做了哪些工作?kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

鄂維南:我們希望能夠全方位探索AI基本原理并且在此基礎(chǔ)上尋找下一代AI系統(tǒng)的技術(shù)路線。目前我們的努力主要集中在數(shù)據(jù)和模型兩個方面。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

在數(shù)據(jù)處理方面,我們團隊研發(fā)了國際上第一個專門為大規(guī)模結(jié)構(gòu)化+非結(jié)構(gòu)化數(shù)據(jù)處理打造的AI數(shù)據(jù)庫MyScale(此前稱為MQDB),這也是目前國內(nèi)綜合性能最好、功能最強的AI數(shù)據(jù)庫。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

MyScale拓展了結(jié)構(gòu)化查詢語言,在同一個系統(tǒng)中支持海量結(jié)構(gòu)化、向量、文本、JSON數(shù)據(jù)交換格式、空間、時序等各類異構(gòu)數(shù)據(jù)的高效存儲和聯(lián)合查詢,數(shù)據(jù)密度、插入速度、查詢效率優(yōu)于國內(nèi)外其他系統(tǒng)。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

比如,MyScale能夠?qū)崿F(xiàn)海量非結(jié)構(gòu)化數(shù)據(jù)清洗,減少數(shù)據(jù)收集量、數(shù)據(jù)標(biāo)注,提高效率,降低成本。假設(shè)我們要訓(xùn)練一個自動駕駛模型,我們就要處理各種不同的復(fù)雜場景。因此我們需要高效率、高精度地抽取相應(yīng)場景的數(shù)據(jù)。我們可以在MyScale數(shù)據(jù)庫中直接搜索“行人過馬路”或“人行道上的行人或自行車”等場景來獲取相應(yīng)的數(shù)據(jù),方便快捷。近期我們已將MyScale進行了開源,大部分功能已經(jīng)在開源版本中推出,完全可以滿足用戶數(shù)據(jù)量不太大時候的需求,歡迎大家去使用。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

在模型算法方面,我們團隊打造了“憶立方”模型,它通過將知識分層處理,并引入內(nèi)置數(shù)據(jù)庫,來提高知識寫入和讀取的效率。根據(jù)一個知識的使用頻率,來決定它的處理方式。使用頻率最高的知識,我們把它放在大模型中,最低的放在外掛數(shù)據(jù)庫中,常用的專業(yè)知識則放在內(nèi)置數(shù)據(jù)庫中。這樣不但可以大大降低對模型規(guī)模的要求,同時也提高了知識的使用效率。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

加快創(chuàng)新人才、創(chuàng)新生態(tài)培育kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

《瞭望》:建立完整的AI底層創(chuàng)新體系,還需要怎么做?kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

鄂維南:建立完整的AI底層創(chuàng)新體系,需要探索AI發(fā)展的底層邏輯和基本原理,這是AI長期發(fā)展的基礎(chǔ)。沒有對基本原理的理解,我們無法保證AI的持續(xù)進步,無法知道下一步該如何走。從AI發(fā)展的歷史上看,它經(jīng)歷了幾次大起大落,以及不斷的小起小落。這種情況的出現(xiàn),實際上也是因為我們對基本原理和底層邏輯的理解不夠深入。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

探索AI的基本原理是一個非常困難的任務(wù),這一探索需要多方面人才、多方面資源的緊密合作和結(jié)合。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

在人才培養(yǎng)方面,目前我們的主要精力都集中在離AI應(yīng)用最近的人才身上,如機器學(xué)習(xí)、計算機視覺、自然語言處理等。但AI的長期穩(wěn)定發(fā)展需要多方面、多層次的人才。建議從整個計算產(chǎn)業(yè)的角度全面布局AI發(fā)展藍圖,創(chuàng)新人才培養(yǎng)方式,培養(yǎng)綜合性、前瞻性人才,建設(shè)高質(zhì)量、多層次人才梯隊。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

現(xiàn)在很多高校都成立了AI學(xué)院,這既是好事,但也可能成為一件壞事。應(yīng)該認識到,AI是一個非常特殊的學(xué)科,它不只是一個典型的專業(yè),還是一個需要從全校層面進行規(guī)劃和布局的核心領(lǐng)域。僅就人才培養(yǎng)來說,對于AI方面的專業(yè)人才,我們要同時注重基本原理的思維能力和工程能力;對非AI專業(yè)的人才,我們必須切實加強AI通識教育。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

另外,建議注重實現(xiàn)人才資源和算力資源的有效對接。高校不缺人才但缺算力資源,大企業(yè)不缺算力但在人才資源方面處于劣勢。我們需要將有限的人才資源和算力資源有效地對接起來。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

從創(chuàng)新生態(tài)來看,加快建立鼓勵原始創(chuàng)新的生態(tài)環(huán)境及文化,提倡做與眾不同的事情,提倡“別人做了,我就不再去湊熱鬧”的科研心態(tài)。市場應(yīng)給創(chuàng)新足夠的生存空間,政府部門應(yīng)更加重視資源分配的合理性。作為創(chuàng)新群體,我們必須具備高度的社會責(zé)任感、冒險精神和實干精神,下決心真正從源頭上解決科技創(chuàng)新中面臨的困難,開創(chuàng)嶄新的局面。kls速刷資訊——每天刷點最新資訊,了解這個世界多一點SUSHUAPOS.COM

本文鏈接:尋找AI發(fā)展新路徑——專訪中國科學(xué)院院士鄂維南http://www.sq15.cn/show-2-8095-0.html

聲明:本網(wǎng)站為非營利性網(wǎng)站,本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻,不代表本站觀點,本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅,請大家謹防詐騙!若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。

上一篇: 電動汽車變身“充電寶”

下一篇: 首次試飛發(fā)現(xiàn)問題 美國波音777X客機結(jié)構(gòu)出現(xiàn)裂縫

熱門資訊

推薦資訊

  • 日榜
  • 周榜
  • 月榜
欧美18性精品| 国产一区二区精品| 美女免费毛片| 欧美一级视频免费| 成人免费观看男女羞羞视频| 欧美一区二区三区在线观看| 可以免费看毛片的网站| 国产不卡在线观看| 亚洲www美色| 色综合久久手机在线| 精品视频在线看| 日韩免费在线观看视频| 欧美一级视频高清片| 国产精品1024在线永久免费| 可以在线看黄的网站| 香蕉视频三级| 999精品视频在线| 午夜在线亚洲| 欧美国产日韩一区二区三区| 黄色免费网站在线| 韩国三级香港三级日本三级| 日韩在线观看网站| 美女被草网站| 在线观看成人网 | 毛片成人永久免费视频| 久久成人综合网| 国产视频在线免费观看| 国产a视频精品免费观看| 日韩在线观看免费| 久久99这里只有精品国产| 在线观看成人网| 久久久成人影院| 在线观看成人网 | 精品久久久久久综合网| 香蕉视频三级| 91麻豆tv| 久久国产精品自由自在| 久久精品免视看国产成人2021| 美女免费黄网站| 日韩中文字幕在线亚洲一区 | 亚洲精品中文一区不卡| 国产网站免费观看| a级毛片免费全部播放| 欧美激情一区二区三区在线 | 国产不卡高清在线观看视频| 国产麻豆精品| 久久国产一区二区| 黄色免费三级| 国产福利免费视频| 成人免费网站久久久| 免费毛片播放| 国产一区二区精品久久| 久久精品道一区二区三区| 99热精品一区| 二级片在线观看| 欧美另类videosbestsex高清| 欧美激情中文字幕一区二区| 精品国产一区二区三区精东影业 | 国产一级强片在线观看| 国产一区二区精品| 国产视频一区二区在线观看 | 国产麻豆精品免费视频| 精品视频在线看| 欧美激情伊人| 欧美国产日韩久久久| 日本久久久久久久 97久久精品一区二区三区 狠狠色噜噜狠狠狠狠97 日日干综合 五月天婷婷在线观看高清 九色福利视频 | 欧美a免费| 精品久久久久久综合网| 国产高清在线精品一区二区| 超级乱淫伦动漫| 亚洲天堂免费观看| 国产国语对白一级毛片| 欧美激情一区二区三区视频高清 | 九九精品在线| 国产美女在线一区二区三区| 免费国产在线观看不卡| 国产一区二区精品| 久久99中文字幕| 人人干人人草| 夜夜操天天爽| 天堂网中文字幕| 成人免费观看的视频黄页| 欧美激情一区二区三区中文字幕| 精品久久久久久中文字幕一区| 国产麻豆精品免费视频| 日韩免费在线视频| 成人免费观看男女羞羞视频| 国产91素人搭讪系列天堂| 日本特黄特色aa大片免费| 日本伦理片网站| 精品视频在线观看一区二区| 国产精品自拍在线| 香蕉视频三级| 日韩一级黄色大片| 好男人天堂网 久久精品国产这里是免费 国产精品成人一区二区 男人天堂网2021 男人的天堂在线观看 丁香六月综合激情 | 亚洲 欧美 成人日韩| 好男人天堂网 久久精品国产这里是免费 国产精品成人一区二区 男人天堂网2021 男人的天堂在线观看 丁香六月综合激情 | 精品视频在线观看一区二区| 精品视频一区二区| 国产原创中文字幕| 九九九网站| 日韩在线观看视频免费| 亚洲www美色| 精品视频在线观看视频免费视频| 你懂的国产精品| 久久精品大片| 国产麻豆精品视频| 你懂的日韩| 精品久久久久久中文| 一级女性全黄久久生活片| 麻豆午夜视频| 亚洲爆爽| 欧美激情一区二区三区在线 | 久久99中文字幕久久| 99色播| 精品久久久久久综合网| 91麻豆精品国产片在线观看| 国产不卡在线观看| 日本久久久久久久 97久久精品一区二区三区 狠狠色噜噜狠狠狠狠97 日日干综合 五月天婷婷在线观看高清 九色福利视频 | 欧美激情一区二区三区视频 | 色综合久久天天综合观看| 黄视频网站在线看| 黄视频网站在线观看| 99久久精品国产麻豆| 亚洲 激情| 黄视频网站免费观看| 精品视频在线观看一区二区| 国产韩国精品一区二区三区| 韩国三级视频在线观看| 欧美激情在线精品video| 国产91素人搭讪系列天堂| 亚飞与亚基在线观看| 四虎久久精品国产| 成人影视在线观看| 日韩在线观看视频网站| 成人影视在线观看| 久久99中文字幕| 一本高清在线| 成人影院久久久久久影院| 国产麻豆精品hdvideoss| 国产高清在线精品一区二区| 黄色免费网站在线| 日本在线不卡视频| 日韩专区一区| 精品视频在线观看视频免费视频| a级黄色毛片免费播放视频| 尤物视频网站在线| 欧美a级大片| 国产伦精品一区二区三区在线观看| 国产网站免费| 日本伦理黄色大片在线观看网站| 国产网站在线| 国产精品1024在线永久免费| 可以免费在线看黄的网站| 99热精品一区| 色综合久久天天综合绕观看| 亚洲精品影院| 欧美激情一区二区三区视频高清 | 午夜欧美成人久久久久久| 日本免费看视频| 精品国产一区二区三区久久久蜜臀| 欧美电影免费| 一级女性全黄久久生活片| 日韩免费在线观看视频| 好男人天堂网 久久精品国产这里是免费 国产精品成人一区二区 男人天堂网2021 男人的天堂在线观看 丁香六月综合激情 | 欧美夜夜骑 青草视频在线观看完整版 久久精品99无色码中文字幕 欧美日韩一区二区在线观看视频 欧美中文字幕在线视频 www.99精品 香蕉视频久久 | 青青青草影院| 美女免费精品高清毛片在线视 | 成人免费福利片在线观看| 日韩免费在线观看视频| 一级毛片看真人在线视频| 九九免费精品视频| 国产高清在线精品一区二区| 精品国产亚洲一区二区三区| 日韩专区第一页| 日本特黄特色aaa大片免费| 中文字幕一区二区三区 精品| 国产成人精品综合在线| 精品久久久久久中文字幕2017| 国产精品1024在线永久免费| 精品国产一区二区三区久久久蜜臀| 国产一区国产二区国产三区| 欧美激情一区二区三区视频 | 天天做日日干| 尤物视频网站在线观看| 天天做日日爱夜夜爽| 91麻豆精品国产综合久久久| 成人a级高清视频在线观看| 午夜在线亚洲| 亚洲 国产精品 日韩| 成人高清视频在线观看| 欧美激情一区二区三区在线播放 | 日本免费乱人伦在线观看| 国产91丝袜在线播放0| 国产伦精品一区二区三区无广告 | 超级乱淫伦动漫| 九九精品在线| 精品视频一区二区三区免费| 国产福利免费观看| 国产高清在线精品一区二区|