2024年圖靈獎(jiǎng)得主、“強(qiáng)化學(xué)習(xí)之父”理查德·薩頓（Richard Sutton）。
9月11日上午，2025 Inclusion·外灘大會(huì)在上海黃浦世博園區(qū)開幕。2024年圖靈獎(jiǎng)得主、“強(qiáng)化學(xué)習(xí)之父”理查德·薩頓（Richard Sutton）在開幕式上針對(duì)AI帶來偏見、失業(yè)甚至人類滅絕的擔(dān)憂表示，這種對(duì)人工智能的恐懼被夸大了。人工智能和人類繁榮將來自去中心化協(xié)作，“協(xié)作并非總能實(shí)現(xiàn)，卻是世間一切美好事物的源泉，我們必須尋求協(xié)作、支持協(xié)作，并致力將協(xié)作制度化。”
被譽(yù)為“AI教父”的計(jì)算機(jī)科學(xué)家、諾貝爾獎(jiǎng)得主杰弗里·辛頓（Geoffrey Hinton）曾預(yù)測(cè)，隨著企業(yè)用人工智能取代工人，AI將引發(fā)失業(yè)率上升與企業(yè)利潤(rùn)激增。盡管目前裁員尚未激增，但越來越多的證據(jù)表明，人工智能正在壓縮入門級(jí)崗位。
對(duì)于AI帶來偏見、失業(yè)甚至人類滅絕的擔(dān)憂，薩頓則認(rèn)為，這種對(duì)人工智能的恐懼被夸大了，并且是被某些從中獲利的組織和個(gè)人煽動(dòng)起來的。他以經(jīng)濟(jì)社會(huì)的運(yùn)行為例，只有當(dāng)每個(gè)人有不同的目標(biāo)和能力，經(jīng)濟(jì)才能運(yùn)行得最好。同樣，不同目標(biāo)的智能體可以通過去中心化的協(xié)作實(shí)現(xiàn)雙贏。“人類最卓越的超能力，就在于比其他任何動(dòng)物都更擅長(zhǎng)協(xié)作。人類最偉大的成功在協(xié)作本身。”薩頓表示，人工智能和人類繁榮將來自去中心化協(xié)作。“協(xié)作并非總能實(shí)現(xiàn)，卻是世間一切美好事物的源泉，我們必須尋求協(xié)作、支持協(xié)作，并致力將協(xié)作制度化。”
薩頓表示，今天大多數(shù)機(jī)器學(xué)習(xí)的目標(biāo)是把人類已有的知識(shí)轉(zhuǎn)移到靜態(tài)、缺乏自主學(xué)習(xí)能力的AI 上。但人類數(shù)據(jù)紅利正逼近極限，“我們逐漸達(dá)到人類數(shù)據(jù)的極限，現(xiàn)有的方法不能生成新的知識(shí)，不適合持續(xù)學(xué)習(xí)，而持續(xù)學(xué)習(xí)對(duì)智能的效用至關(guān)重要。”他認(rèn)為，人類正進(jìn)入“經(jīng)驗(yàn)時(shí)代”，需要由智能體與世界直接交互生成的一種新數(shù)據(jù)源，這正是人類和其他動(dòng)物的學(xué)習(xí)方式，是近期AlphaProof在國(guó)際數(shù)學(xué)奧林匹克斬獲銀牌的路徑。
“經(jīng)驗(yàn)”是指觀察、行動(dòng)和獎(jiǎng)勵(lì)，這三種信號(hào)在智能體與世界之間來回傳遞。“知識(shí)來自于經(jīng)驗(yàn)，可以從經(jīng)驗(yàn)中學(xué)習(xí)。一個(gè)智能體的智能程度取決于它能預(yù)測(cè)并控制自身輸入信號(hào)的程度。經(jīng)驗(yàn)是一切智能的核心與基礎(chǔ)。”他表示，強(qiáng)化學(xué)習(xí)帶領(lǐng)我們進(jìn)入了新的經(jīng)驗(yàn)時(shí)代，但要釋放全部潛力，還需要兩項(xiàng)目前尚不成熟的技術(shù)——持續(xù)學(xué)習(xí)（continual learning）和元學(xué)習(xí)（meta-learning）技術(shù)。
薩頓將宇宙的歷史分為四個(gè)時(shí)代：粒子時(shí)代、恒星時(shí)代、復(fù)制者時(shí)代和設(shè)計(jì)時(shí)代。他認(rèn)為人類的獨(dú)特之處在于“把設(shè)計(jì)推向極致”，創(chuàng)造出能自己設(shè)計(jì)的事物。人類至少是催化劑，是助產(chǎn)士，更是開啟宇宙第四大時(shí)代“設(shè)計(jì)時(shí)代”的先驅(qū)。他認(rèn)為人類終將真正理解智能，并借助技術(shù)創(chuàng)造智能。當(dāng)前人類的智力水平很快將會(huì)被超級(jí)人工智能或超級(jí)智能增強(qiáng)的人類遠(yuǎn)遠(yuǎn)超越，權(quán)力和資源會(huì)流向最聰明的智能體。
（原標(biāo)題：圖靈獎(jiǎng)得主理查德·薩頓：對(duì)AI的恐懼被夸大，去中心化協(xié)作實(shí)現(xiàn)AI與人類繁榮）
本文鏈接：圖靈獎(jiǎng)得主理查德·薩頓：對(duì)AI的恐懼被夸大http://www.sq15.cn/show-11-25865-0.html
聲明：本網(wǎng)站為非營(yíng)利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
上一篇： 引力波最終證實(shí)了霍金的黑洞定理