65歲的學(xué)者汪暉身著西裝上臺(tái)了。他頭發(fā)花白，手執(zhí)講稿，身后的大屏幕上寫著這場論壇的主題：“AI時(shí)代的倫理奇點(diǎn)”。這是當(dāng)下的熱門話題，但臺(tái)下有人在打哈欠，顯然清晨的困意未消。
我是一大早，跨越大半個(gè)北京城，擠了一個(gè)多小時(shí)的地鐵來清華大學(xué)聽這場“方塘論壇”的，興致很高。一半是因?yàn)檫@跟AI有關(guān)，一半是因?yàn)榧钨e名單里不只有科學(xué)家，還有70歲的趙鼎新、65歲的汪暉、64歲的趙汀陽等。
他們是人文社科領(lǐng)域的“思想老者”，要跟科學(xué)家一塊兒探討這個(gè)時(shí)代最新的燙手命題，這本身就值得期待。針對(duì)“時(shí)代”，他們論了幾十年，現(xiàn)在仍未停止。
面前的階梯教室沒坐滿，但也匯聚了上百人：學(xué)生、教授、學(xué)者、記者、作家，還有從美、英、德、意等國請(qǐng)來的嘉賓。空氣里似乎彌漫著一種學(xué)術(shù)會(huì)議特有的、略帶沉悶的氣氛，我揉了揉酸澀的眼睛，吃了口離家時(shí)塞進(jìn)背包的面包，想提振精神，讓沉重的腦袋清醒一些。
“幾乎所有領(lǐng)域，都在經(jīng)歷系統(tǒng)性的重構(gòu)。”汪暉主持開場，話語沉穩(wěn)有力，“回應(yīng)AI時(shí)代的倫理挑戰(zhàn)，不僅需要對(duì)技術(shù)本身的理解，更需要回到哲學(xué)、社會(huì)學(xué)、政治經(jīng)濟(jì)學(xué)、文學(xué)、藝術(shù)等基礎(chǔ)人文領(lǐng)域，共同探尋人類何以‘安身立命’”。
論壇的擇期頗顯用心，6月23日這天是計(jì)算機(jī)科學(xué)之父、人工智能之父——艾倫·圖靈誕辰113周年；圖靈獎(jiǎng)的中國得主、中國科學(xué)院院士、清華大學(xué)人工智能學(xué)院院長姚期智也受邀到場。
人工智能被提出75年了，而AI大規(guī)模走入公眾視野不過數(shù)年。最新數(shù)據(jù)顯示，中國生成式AI用戶數(shù)量已超3億。用戶數(shù)量從0到3億，中國互聯(lián)網(wǎng)花了15年，而AI只用了兩年。OpenAI的用戶數(shù)量更是在今年4月初就達(dá)到了5億。
歷史上從未有一個(gè)時(shí)代如AI時(shí)代這般，將未來如此迅猛地推向當(dāng)下。時(shí)間仿佛被丟入加速器，而AI如氧氣一般，彌漫進(jìn)社會(huì)和人的毛細(xì)血管里。智能駕駛、機(jī)器人、AI醫(yī)生、AI伴侶等，過去數(shù)十年來，昔日科幻小說里的事物正步入現(xiàn)實(shí)。
當(dāng)越來越多的人享受著AI帶來的技術(shù)紅利、探索新的可能性時(shí)，挑戰(zhàn)也如影隨形：失業(yè)、偏見、倫理、法律，乃至關(guān)乎人類存續(xù)的風(fēng)險(xiǎn)。這些問題，讓我覺得既遙遠(yuǎn)又真實(shí)。
“通用人工智能的能力快速增長，人類是否還有能力管控它？”姚期智是這天的第一個(gè)主題發(fā)言者。年近八旬的他，聲音不高，但每一個(gè)問題，都能戳我一下。
他認(rèn)為，AI時(shí)代的問題，許多是被放大的舊疾，尤其是生存性風(fēng)險(xiǎn)，武器的誕生曾讓人類很焦慮，AI也有這樣的問題，“它變得更危險(xiǎn)、更難對(duì)付”。
姚期智提到了2024年諾貝爾化學(xué)獎(jiǎng)得主——因利用AlphaFold（一種AI系統(tǒng)）解決蛋白質(zhì)結(jié)構(gòu)預(yù)測難題而獲獎(jiǎng)的戴米斯·哈薩比斯（Demis Hassabis）和約翰·江珀（John M.Jumper）。“這是多年來不可能的事情，也給了我們一些終極希望。”姚期智隨即警示，AI在生物醫(yī)學(xué)領(lǐng)域的突破，也可能被用來創(chuàng)造“鏡像生命（Mirror life，一種存在于假說中的人工合成生物）”，帶來致命的災(zāi)難。
2024年12月，《科學(xué)》雜志就曾發(fā)文呼吁全球暫停“鏡像生命”的研究，優(yōu)先考慮并防范風(fēng)險(xiǎn)。
另一種生存性風(fēng)險(xiǎn)在于大模型失控。“我們現(xiàn)在制造出來的AI系統(tǒng)，它變得越來越像人。”姚期智指出，已有模型展示出“騙人”本領(lǐng)和對(duì)人性的洞察——問題的嚴(yán)峻性在于，當(dāng)它真正像人一樣，甚至超過人時(shí)，如何控制。
這也是許多科學(xué)家反復(fù)警示的人工智能的“控制難題”，現(xiàn)在這個(gè)難題比以往任何時(shí)候都更迫切地需要答案。我這個(gè)人工智能技術(shù)領(lǐng)域的小白是沒有答案的，那一刻，我腦子里只閃過許多科幻電影里的失控場景。
從兩年前開始，許多科學(xué)家就曾疾呼：至少三分之一AI研發(fā)預(yù)算要用于確保安全。現(xiàn)實(shí)卻是，全球AI安全研究明顯滯后于技術(shù)發(fā)展。
“現(xiàn)在的大模型還沒有‘囂張’到那個(gè)程度，所以還沒有產(chǎn)生毀滅世界的結(jié)果，但是長期來講，我們要把這個(gè)事管制好。”姚期智強(qiáng)調(diào)，安全治理的當(dāng)務(wù)之急是發(fā)展“AI對(duì)齊（AI Alignment）”及評(píng)估方法。
他提供了兩種思路。一種思路要從博弈論角度展開，讓AI的行為與人類想法對(duì)齊，以人類的利益為主；另一種“更有把握、更徹底”的思路是，設(shè)計(jì)可證明的安全的AGI（通用人工智能），每一步都符合數(shù)學(xué)上絕對(duì)安全的要求，“凡是有可能出問題的系統(tǒng)大家都不要做”。
技術(shù)細(xì)節(jié)依然艱深，暗藏的安全隱患愈發(fā)明顯。
AI對(duì)齊，是人工智能安全領(lǐng)域的核心議題，旨在確保AI系統(tǒng)的目標(biāo)、決策和行為與人類的價(jià)值觀、偏好及意圖協(xié)調(diào)一致。然而在“對(duì)齊”這件事上，中國社會(huì)科學(xué)院學(xué)部委員趙汀陽的想法有點(diǎn)兒不一樣。
須發(fā)皆白的他，跛著腳走上臺(tái)，坐下，第一句話就帶著哲學(xué)式的冷峻詰問。“AI需要和人對(duì)齊嗎？”聽聞此問，我有些愣住，困意全消。他繼續(xù)驚人之語：“人們期望AI要和人的價(jià)值觀對(duì)齊。我對(duì)這個(gè)想法是有一些疑問的。地球上的所有‘壞事’都是人類做的，其他生命沒有做過任何超出生物需要的壞事。”
趙汀陽盯著階梯教室里的100余人，笑聲一片，我也笑了。但笑過之后，細(xì)細(xì)琢磨，他的這番話，更像是一記打向人性的耳光。AI也許是“性本善”的，只不過跟著人類的數(shù)據(jù)經(jīng)驗(yàn)，“照貓畫虎”數(shù)年，學(xué)了好，也學(xué)了壞。
他認(rèn)為，人類試圖把AI制造成為一種具有主體性的新物種，但這似乎是個(gè)自虐性的悖論。
人類既希望AI擁有超能力，去完成人做不了或不想做的事，又擔(dān)心AI獲得自我意識(shí)后會(huì)傷害人類。趙汀陽說，如果人類不教唆AI犯罪，AI應(yīng)是安全的，對(duì)齊人類價(jià)值觀的AI，則很可能通過模仿人類而變得危險(xiǎn)。
這個(gè)邏輯反轉(zhuǎn)讓我頭皮發(fā)麻——原來我們恐懼的，是人性投射在AI身上的影子。
至于設(shè)立“AI倫理”，趙汀陽覺得無濟(jì)于事。“人類也往往見利就忘義，如果倫理不能必然約束人類自身，又何以能夠約束AI？”他主張，管理AI的關(guān)鍵在于人類是否能保有控制AI的能力。
趙汀陽眼里另有一種危險(xiǎn)性相對(duì)比較低的對(duì)齊，是智能對(duì)齊。
“就目前智能水平而言，人類相對(duì)于AI仍然保有知己知彼的優(yōu)勢(shì)，因此能夠控制AI。”趙汀陽說，但當(dāng)AI部分經(jīng)驗(yàn)?zāi)芰h(yuǎn)超人類后，人類優(yōu)勢(shì)蕩然無存，AI將成為令人不寒而栗的“他者”，世界將形成二元主體性的格局，而人類與AI的關(guān)系將如何，無從知道。
不過，在中國科學(xué)院自動(dòng)化研究所研究員、人工智能倫理與治理研究中心主任曾毅看來，未來的社會(huì)可能比二元主體性更復(fù)雜。他在隨后的發(fā)言中談到自己的設(shè)想，未來的社會(huì)不僅有人類、動(dòng)物、超級(jí)智能，可能還有模仿狗、植物的類生命體。
那是一個(gè)他期待的可持續(xù)的共生社會(huì)，靠人和超級(jí)智能共同構(gòu)造，而不是靠人類自己。曾毅認(rèn)為，“所以向人類的對(duì)齊確實(shí)是不對(duì)的，要做超級(jí)的聯(lián)合對(duì)齊。”聯(lián)合對(duì)齊，這個(gè)詞很新鮮，帶著一種“天下大同”的意味。
但他認(rèn)為，在這樣的社會(huì)中，更重要的是，人類的價(jià)值觀要演化。
“比如當(dāng)超級(jí)智能未傷害到人類時(shí)，可不可以有自己的隱私？”曾毅提出這個(gè)問題時(shí)，我愣了一下。我從來沒思考過，機(jī)器某一天可以有自己的隱私？那意味著，它相對(duì)自由、獨(dú)立，不再是人類的附庸和工具。
“當(dāng)人對(duì)超級(jí)智能說，‘我是你的創(chuàng)作者，你要保護(hù)我’時(shí)，超級(jí)智能可能會(huì)跟人說，‘當(dāng)我看到你，就像你看到螞蟻一樣，你從來不會(huì)保護(hù)螞蟻，我為什么要保護(hù)你’。”曾毅提醒道。
他覺得，人工智能是一面鏡子。“當(dāng)人工智能騙人，大家都吃驚，說人工智能怎么能騙人呢，太壞了。但是當(dāng)人騙你的時(shí)候你的反應(yīng)有這么大嗎？恐怕沒有。”在曾毅看來，人工智能的鏡子讓我們看到了人類的缺陷，給了人類演化的機(jī)遇。
“人工智能演化慢點(diǎn)沒問題，但如果人類演化太慢了，那是真正的危險(xiǎn)。”曾毅說。
說老實(shí)話，僅在“人類價(jià)值觀演化”層面，我對(duì)人類的未來信心不足。一旦AI邁過奇點(diǎn)，超越人類，一切都將不盡如人意。
“作為一個(gè)自私的人，我希望人工智能‘性本善’。”曾毅記得，有一次，他在講座中遇到了一位研修佛法者，問他AI能否成佛。他覺得，并非沒有可能，超級(jí)智能除了認(rèn)知超過人類，也可能是超級(jí)“利他”的。
聽完曾毅的發(fā)言，汪暉說，他腦子里出現(xiàn)了赫爾曼·黑塞（Hermann Hesse）的《玻璃球游戲》中的鏡像，人在多重鏡面看到了自身。“我們都在討論怎么馴化機(jī)器，我們也需要討論人與自然、人與物的關(guān)系，重新理解人自身。”
上午的論壇結(jié)束，我最初的困意早已被沖刷干凈。我合上記了4頁紙的筆記本，感覺腦袋里比來時(shí)更“沉重”了。這場論壇，表面上是在探討AI倫理奇點(diǎn)、智能邊界，實(shí)際上始終在叩問自詡?cè)f物之靈的人類自己——那個(gè)既渴望神力、又恐懼神力的高級(jí)動(dòng)物。
下午的3場分論壇分別圍繞“2100年人類與超級(jí)智能的關(guān)系”“認(rèn)識(shí)機(jī)器：意識(shí)、道德與風(fēng)險(xiǎn)”和“奇點(diǎn)前夜：人類如何安身立命”，我選擇了第二場，但沒聽多久，就開始犯困，身邊也有人開始打瞌睡，頭不停地點(diǎn)著，像被陣陣微風(fēng)拂過的蘆葦。
發(fā)言者有一半人說英文，我戴著同聲傳譯器，耳機(jī)里不時(shí)傳來資本、奴隸、機(jī)器、工具等詞匯，每一個(gè)字都聽得懂，卻沒有一句能真正進(jìn)入意識(shí)里。我感覺會(huì)場的學(xué)者離我越來越遠(yuǎn)，那些聲音越來越小，有好幾次，我差點(diǎn)兒睡著了，也許是真的太困，也許是腦容量過載了。
中途，我離開昏昏欲睡的會(huì)場。有一件更迫切的事等我去做——編輯發(fā)來次日可能刊發(fā)的稿子，催我修改。在蒙民偉人文樓的大廳里，我找到了一塊插線板，打開電腦，席地而坐，開始忙碌。
神奇的是，一旦回到具體而微的“人類事務(wù)”，我的精神很快就清醒了。也許，相比于思考數(shù)十年后與AI的關(guān)系、厘清機(jī)器的倫理邊界、琢磨人類如何安身立命這類宏大的時(shí)代命題，此刻的我更在乎如何在當(dāng)下“安身立命”。
只是腦子里，還隱約回響著那句警言：“如果人類演化太慢了，那才是真正的危險(xiǎn)。”
65歲的學(xué)者汪暉身著西裝上臺(tái)了。他頭發(fā)花白，手執(zhí)講稿，身后的大屏幕上寫著這場論壇的主題：“AI時(shí)代的倫理奇點(diǎn)”。這是當(dāng)下的熱門話題，但臺(tái)下有人在打哈欠，顯然清晨的困意未消。
我是一大早，跨越大半個(gè)北京城，擠了一個(gè)多小時(shí)的地鐵來清華大學(xué)聽這場“方塘論壇”的，興致很高。一半是因?yàn)檫@跟AI有關(guān)，一半是因?yàn)榧钨e名單里不只有科學(xué)家，還有70歲的趙鼎新、65歲的汪暉、64歲的趙汀陽等。
他們是人文社科領(lǐng)域的“思想老者”，要跟科學(xué)家一塊兒探討這個(gè)時(shí)代最新的燙手命題，這本身就值得期待。針對(duì)“時(shí)代”，他們論了幾十年，現(xiàn)在仍未停止。
面前的階梯教室沒坐滿，但也匯聚了上百人：學(xué)生、教授、學(xué)者、記者、作家，還有從美、英、德、意等國請(qǐng)來的嘉賓。空氣里似乎彌漫著一種學(xué)術(shù)會(huì)議特有的、略帶沉悶的氣氛，我揉了揉酸澀的眼睛，吃了口離家時(shí)塞進(jìn)背包的面包，想提振精神，讓沉重的腦袋清醒一些。
“幾乎所有領(lǐng)域，都在經(jīng)歷系統(tǒng)性的重構(gòu)。”汪暉主持開場，話語沉穩(wěn)有力，“回應(yīng)AI時(shí)代的倫理挑戰(zhàn)，不僅需要對(duì)技術(shù)本身的理解，更需要回到哲學(xué)、社會(huì)學(xué)、政治經(jīng)濟(jì)學(xué)、文學(xué)、藝術(shù)等基礎(chǔ)人文領(lǐng)域，共同探尋人類何以‘安身立命’”。
論壇的擇期頗顯用心，6月23日這天是計(jì)算機(jī)科學(xué)之父、人工智能之父——艾倫·圖靈誕辰113周年；圖靈獎(jiǎng)的中國得主、中國科學(xué)院院士、清華大學(xué)人工智能學(xué)院院長姚期智也受邀到場。
人工智能被提出75年了，而AI大規(guī)模走入公眾視野不過數(shù)年。最新數(shù)據(jù)顯示，中國生成式AI用戶數(shù)量已超3億。用戶數(shù)量從0到3億，中國互聯(lián)網(wǎng)花了15年，而AI只用了兩年。OpenAI的用戶數(shù)量更是在今年4月初就達(dá)到了5億。
歷史上從未有一個(gè)時(shí)代如AI時(shí)代這般，將未來如此迅猛地推向當(dāng)下。時(shí)間仿佛被丟入加速器，而AI如氧氣一般，彌漫進(jìn)社會(huì)和人的毛細(xì)血管里。智能駕駛、機(jī)器人、AI醫(yī)生、AI伴侶等，過去數(shù)十年來，昔日科幻小說里的事物正步入現(xiàn)實(shí)。
當(dāng)越來越多的人享受著AI帶來的技術(shù)紅利、探索新的可能性時(shí)，挑戰(zhàn)也如影隨形：失業(yè)、偏見、倫理、法律，乃至關(guān)乎人類存續(xù)的風(fēng)險(xiǎn)。這些問題，讓我覺得既遙遠(yuǎn)又真實(shí)。
“通用人工智能的能力快速增長，人類是否還有能力管控它？”姚期智是這天的第一個(gè)主題發(fā)言者。年近八旬的他，聲音不高，但每一個(gè)問題，都能戳我一下。
他認(rèn)為，AI時(shí)代的問題，許多是被放大的舊疾，尤其是生存性風(fēng)險(xiǎn)，武器的誕生曾讓人類很焦慮，AI也有這樣的問題，“它變得更危險(xiǎn)、更難對(duì)付”。
姚期智提到了2024年諾貝爾化學(xué)獎(jiǎng)得主——因利用AlphaFold（一種AI系統(tǒng)）解決蛋白質(zhì)結(jié)構(gòu)預(yù)測難題而獲獎(jiǎng)的戴米斯·哈薩比斯（Demis Hassabis）和約翰·江珀（John M.Jumper）。“這是多年來不可能的事情，也給了我們一些終極希望。”姚期智隨即警示，AI在生物醫(yī)學(xué)領(lǐng)域的突破，也可能被用來創(chuàng)造“鏡像生命（Mirror life，一種存在于假說中的人工合成生物）”，帶來致命的災(zāi)難。
2024年12月，《科學(xué)》雜志就曾發(fā)文呼吁全球暫停“鏡像生命”的研究，優(yōu)先考慮并防范風(fēng)險(xiǎn)。
另一種生存性風(fēng)險(xiǎn)在于大模型失控。“我們現(xiàn)在制造出來的AI系統(tǒng)，它變得越來越像人。”姚期智指出，已有模型展示出“騙人”本領(lǐng)和對(duì)人性的洞察——問題的嚴(yán)峻性在于，當(dāng)它真正像人一樣，甚至超過人時(shí)，如何控制。
這也是許多科學(xué)家反復(fù)警示的人工智能的“控制難題”，現(xiàn)在這個(gè)難題比以往任何時(shí)候都更迫切地需要答案。我這個(gè)人工智能技術(shù)領(lǐng)域的小白是沒有答案的，那一刻，我腦子里只閃過許多科幻電影里的失控場景。
從兩年前開始，許多科學(xué)家就曾疾呼：至少三分之一AI研發(fā)預(yù)算要用于確保安全。現(xiàn)實(shí)卻是，全球AI安全研究明顯滯后于技術(shù)發(fā)展。
“現(xiàn)在的大模型還沒有‘囂張’到那個(gè)程度，所以還沒有產(chǎn)生毀滅世界的結(jié)果，但是長期來講，我們要把這個(gè)事管制好。”姚期智強(qiáng)調(diào)，安全治理的當(dāng)務(wù)之急是發(fā)展“AI對(duì)齊（AI Alignment）”及評(píng)估方法。
他提供了兩種思路。一種思路要從博弈論角度展開，讓AI的行為與人類想法對(duì)齊，以人類的利益為主；另一種“更有把握、更徹底”的思路是，設(shè)計(jì)可證明的安全的AGI（通用人工智能），每一步都符合數(shù)學(xué)上絕對(duì)安全的要求，“凡是有可能出問題的系統(tǒng)大家都不要做”。
技術(shù)細(xì)節(jié)依然艱深，暗藏的安全隱患愈發(fā)明顯。
AI對(duì)齊，是人工智能安全領(lǐng)域的核心議題，旨在確保AI系統(tǒng)的目標(biāo)、決策和行為與人類的價(jià)值觀、偏好及意圖協(xié)調(diào)一致。然而在“對(duì)齊”這件事上，中國社會(huì)科學(xué)院學(xué)部委員趙汀陽的想法有點(diǎn)兒不一樣。
須發(fā)皆白的他，跛著腳走上臺(tái)，坐下，第一句話就帶著哲學(xué)式的冷峻詰問。“AI需要和人對(duì)齊嗎？”聽聞此問，我有些愣住，困意全消。他繼續(xù)驚人之語：“人們期望AI要和人的價(jià)值觀對(duì)齊。我對(duì)這個(gè)想法是有一些疑問的。地球上的所有‘壞事’都是人類做的，其他生命沒有做過任何超出生物需要的壞事。”
趙汀陽盯著階梯教室里的100余人，笑聲一片，我也笑了。但笑過之后，細(xì)細(xì)琢磨，他的這番話，更像是一記打向人性的耳光。AI也許是“性本善”的，只不過跟著人類的數(shù)據(jù)經(jīng)驗(yàn)，“照貓畫虎”數(shù)年，學(xué)了好，也學(xué)了壞。
他認(rèn)為，人類試圖把AI制造成為一種具有主體性的新物種，但這似乎是個(gè)自虐性的悖論。
人類既希望AI擁有超能力，去完成人做不了或不想做的事，又擔(dān)心AI獲得自我意識(shí)后會(huì)傷害人類。趙汀陽說，如果人類不教唆AI犯罪，AI應(yīng)是安全的，對(duì)齊人類價(jià)值觀的AI，則很可能通過模仿人類而變得危險(xiǎn)。
這個(gè)邏輯反轉(zhuǎn)讓我頭皮發(fā)麻——原來我們恐懼的，是人性投射在AI身上的影子。
至于設(shè)立“AI倫理”，趙汀陽覺得無濟(jì)于事。“人類也往往見利就忘義，如果倫理不能必然約束人類自身，又何以能夠約束AI？”他主張，管理AI的關(guān)鍵在于人類是否能保有控制AI的能力。
趙汀陽眼里另有一種危險(xiǎn)性相對(duì)比較低的對(duì)齊，是智能對(duì)齊。
“就目前智能水平而言，人類相對(duì)于AI仍然保有知己知彼的優(yōu)勢(shì)，因此能夠控制AI。”趙汀陽說，但當(dāng)AI部分經(jīng)驗(yàn)?zāi)芰h(yuǎn)超人類后，人類優(yōu)勢(shì)蕩然無存，AI將成為令人不寒而栗的“他者”，世界將形成二元主體性的格局，而人類與AI的關(guān)系將如何，無從知道。
不過，在中國科學(xué)院自動(dòng)化研究所研究員、人工智能倫理與治理研究中心主任曾毅看來，未來的社會(huì)可能比二元主體性更復(fù)雜。他在隨后的發(fā)言中談到自己的設(shè)想，未來的社會(huì)不僅有人類、動(dòng)物、超級(jí)智能，可能還有模仿狗、植物的類生命體。
那是一個(gè)他期待的可持續(xù)的共生社會(huì)，靠人和超級(jí)智能共同構(gòu)造，而不是靠人類自己。曾毅認(rèn)為，“所以向人類的對(duì)齊確實(shí)是不對(duì)的，要做超級(jí)的聯(lián)合對(duì)齊。”聯(lián)合對(duì)齊，這個(gè)詞很新鮮，帶著一種“天下大同”的意味。
但他認(rèn)為，在這樣的社會(huì)中，更重要的是，人類的價(jià)值觀要演化。
“比如當(dāng)超級(jí)智能未傷害到人類時(shí)，可不可以有自己的隱私？”曾毅提出這個(gè)問題時(shí)，我愣了一下。我從來沒思考過，機(jī)器某一天可以有自己的隱私？那意味著，它相對(duì)自由、獨(dú)立，不再是人類的附庸和工具。
“當(dāng)人對(duì)超級(jí)智能說，‘我是你的創(chuàng)作者，你要保護(hù)我’時(shí)，超級(jí)智能可能會(huì)跟人說，‘當(dāng)我看到你，就像你看到螞蟻一樣，你從來不會(huì)保護(hù)螞蟻，我為什么要保護(hù)你’。”曾毅提醒道。
他覺得，人工智能是一面鏡子。“當(dāng)人工智能騙人，大家都吃驚，說人工智能怎么能騙人呢，太壞了。但是當(dāng)人騙你的時(shí)候你的反應(yīng)有這么大嗎？恐怕沒有。”在曾毅看來，人工智能的鏡子讓我們看到了人類的缺陷，給了人類演化的機(jī)遇。
“人工智能演化慢點(diǎn)沒問題，但如果人類演化太慢了，那是真正的危險(xiǎn)。”曾毅說。
說老實(shí)話，僅在“人類價(jià)值觀演化”層面，我對(duì)人類的未來信心不足。一旦AI邁過奇點(diǎn)，超越人類，一切都將不盡如人意。
“作為一個(gè)自私的人，我希望人工智能‘性本善’。”曾毅記得，有一次，他在講座中遇到了一位研修佛法者，問他AI能否成佛。他覺得，并非沒有可能，超級(jí)智能除了認(rèn)知超過人類，也可能是超級(jí)“利他”的。
聽完曾毅的發(fā)言，汪暉說，他腦子里出現(xiàn)了赫爾曼·黑塞（Hermann Hesse）的《玻璃球游戲》中的鏡像，人在多重鏡面看到了自身。“我們都在討論怎么馴化機(jī)器，我們也需要討論人與自然、人與物的關(guān)系，重新理解人自身。”
上午的論壇結(jié)束，我最初的困意早已被沖刷干凈。我合上記了4頁紙的筆記本，感覺腦袋里比來時(shí)更“沉重”了。這場論壇，表面上是在探討AI倫理奇點(diǎn)、智能邊界，實(shí)際上始終在叩問自詡?cè)f物之靈的人類自己——那個(gè)既渴望神力、又恐懼神力的高級(jí)動(dòng)物。
下午的3場分論壇分別圍繞“2100年人類與超級(jí)智能的關(guān)系”“認(rèn)識(shí)機(jī)器：意識(shí)、道德與風(fēng)險(xiǎn)”和“奇點(diǎn)前夜：人類如何安身立命”，我選擇了第二場，但沒聽多久，就開始犯困，身邊也有人開始打瞌睡，頭不停地點(diǎn)著，像被陣陣微風(fēng)拂過的蘆葦。
發(fā)言者有一半人說英文，我戴著同聲傳譯器，耳機(jī)里不時(shí)傳來資本、奴隸、機(jī)器、工具等詞匯，每一個(gè)字都聽得懂，卻沒有一句能真正進(jìn)入意識(shí)里。我感覺會(huì)場的學(xué)者離我越來越遠(yuǎn)，那些聲音越來越小，有好幾次，我差點(diǎn)兒睡著了，也許是真的太困，也許是腦容量過載了。
中途，我離開昏昏欲睡的會(huì)場。有一件更迫切的事等我去做——編輯發(fā)來次日可能刊發(fā)的稿子，催我修改。在蒙民偉人文樓的大廳里，我找到了一塊插線板，打開電腦，席地而坐，開始忙碌。
神奇的是，一旦回到具體而微的“人類事務(wù)”，我的精神很快就清醒了。也許，相比于思考數(shù)十年后與AI的關(guān)系、厘清機(jī)器的倫理邊界、琢磨人類如何安身立命這類宏大的時(shí)代命題，此刻的我更在乎如何在當(dāng)下“安身立命”。
只是腦子里，還隱約回響著那句警言：“如果人類演化太慢了，那才是真正的危險(xiǎn)。”
本文鏈接：我在AI論壇打瞌睡會(huì)錯(cuò)過未來嗎http://www.sq15.cn/show-2-12948-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
上一篇： 科技型企業(yè)孵化器將迎多重政策利好