7月26日，中國(guó)人工智能發(fā)展與安全研究網(wǎng)絡(luò)舉辦“人工智能發(fā)展與安全”全體會(huì)議。會(huì)議由清華大學(xué)文科資深教授、人工智能?chē)?guó)際治理研究院院長(zhǎng)薛瀾主持，近20位資深專(zhuān)家圍繞人工智能（AI）發(fā)展與安全的前沿進(jìn)展與應(yīng)用實(shí)踐進(jìn)行深入探討。
會(huì)議伊始，諾貝爾獎(jiǎng)和圖靈獎(jiǎng)得主、多倫多大學(xué)教授杰弗里·辛頓與圖靈獎(jiǎng)得主，清華大學(xué)交叉信息研究院、人工智能學(xué)院院長(zhǎng)姚期智進(jìn)行高端對(duì)談，重點(diǎn)圍繞AI與神經(jīng)科學(xué)、AI的“自我意識(shí)”、量子計(jì)算對(duì)AI發(fā)展的影響等話(huà)題展開(kāi)深度討論。他們談到，AI與合成生物學(xué)一樣，都是在創(chuàng)造“新的生命”，當(dāng)前AI已經(jīng)初步展現(xiàn)出很強(qiáng)的理解能力甚至“自我意識(shí)”，人們應(yīng)該拋棄只有人類(lèi)存在“意識(shí)”的固有思維。如何訓(xùn)練對(duì)人類(lèi)保持善意的AI，確保“智能向善”是人類(lèi)必須關(guān)注和解決的重要問(wèn)題。
加拿大蒙特利爾大學(xué)教授約書(shū)亞·本吉奧和美國(guó)加州大學(xué)伯克利分校教授大衛(wèi)·帕特森分別線(xiàn)上發(fā)言。本吉奧強(qiáng)調(diào)，過(guò)去幾年人們所見(jiàn)證的AI對(duì)社會(huì)的影響只是冰山一角，隨著其能力的不斷提升，安全風(fēng)險(xiǎn)也在同步增加，國(guó)際社會(huì)亟須加強(qiáng)合作，共同應(yīng)對(duì)。帕特森團(tuán)隊(duì)發(fā)現(xiàn)，人機(jī)協(xié)同時(shí)的能力優(yōu)于人類(lèi)與人工智能各自的單打獨(dú)斗，如果人類(lèi)能把AI的應(yīng)用聚焦于提升生產(chǎn)力，將獲得更多收益。
隨后的專(zhuān)家討論環(huán)節(jié)由姚期智主持。美國(guó)加州大學(xué)伯克利分校教授斯圖爾特·羅素、中國(guó)信息通信研究院院長(zhǎng)余曉暉、英國(guó)皇家工程院院士約翰·麥克德米、清華大學(xué)交叉信息研究院副院長(zhǎng)徐葳、奇安信集團(tuán)合伙人鄔怡等專(zhuān)家，圍繞“AI與人類(lèi)的和諧未來(lái)”問(wèn)題展開(kāi)研討。嘉賓們指出，AI與網(wǎng)絡(luò)等多領(lǐng)域的安全相互影響，需要在傳統(tǒng)安全防護(hù)手段的基礎(chǔ)上提升能力，呼吁加強(qiáng)跨學(xué)科協(xié)作，構(gòu)建“輔助博弈”框架，促使AI系統(tǒng)主動(dòng)學(xué)習(xí)人類(lèi)偏好而非簡(jiǎn)單模仿行為，通過(guò)冗余驗(yàn)證等“軟硬件結(jié)合”的方式降低人工智能風(fēng)險(xiǎn)等。
英國(guó)牛津大學(xué)布拉瓦尼克政府學(xué)院創(chuàng)始院長(zhǎng)林奈莉、上海交通大學(xué)文科資深教授季衛(wèi)東、美國(guó)微軟公司前首席研究與戰(zhàn)略官克雷格·蒙迪、中國(guó)電子信息產(chǎn)業(yè)發(fā)展研究院黨委副書(shū)記胡國(guó)棟、中國(guó)電信集團(tuán)網(wǎng)絡(luò)與信息安全首席專(zhuān)家劉紫千、阿里云智能集團(tuán)副總裁劉湘雯等專(zhuān)家參加了薛瀾主持的討論，圍繞“人工智能發(fā)展與安全的全球治理”問(wèn)題展開(kāi)。他們談到，智能體（Agent）的快速發(fā)展使得原本“點(diǎn)對(duì)點(diǎn)”的安全問(wèn)題逐漸轉(zhuǎn)變?yōu)橄到y(tǒng)性安全風(fēng)險(xiǎn)，僅依靠行業(yè)自我監(jiān)管很難有效應(yīng)對(duì)，呼吁世界各國(guó)加強(qiáng)合作，通過(guò)建立類(lèi)似國(guó)際原子能機(jī)構(gòu)的專(zhuān)門(mén)機(jī)構(gòu)等方式，形成具有廣泛共識(shí)的AI治理框架和標(biāo)準(zhǔn)規(guī)范，共同應(yīng)對(duì)AI風(fēng)險(xiǎn)，
最后，中國(guó)信息通信研究院、中國(guó)電子信息產(chǎn)業(yè)發(fā)展研究院、清華大學(xué)、上海人工智能實(shí)驗(yàn)室4家網(wǎng)絡(luò)成員單位代表網(wǎng)絡(luò)聯(lián)合發(fā)布《中國(guó)人工智能安全承諾框架》，框架在相關(guān)企業(yè)安全承諾基礎(chǔ)上新增針對(duì)加強(qiáng)安全治理國(guó)際合作和關(guān)于防范前沿AI安全風(fēng)險(xiǎn)的重要內(nèi)容。
本場(chǎng)論壇由清華大學(xué)人工智能?chē)?guó)際治理研究院、中國(guó)電子信息產(chǎn)業(yè)發(fā)展研究院（賽迪研究院）、上海期智研究院、清華大學(xué)交叉信息研究院、中國(guó)信息通信研究院、上海人工智能實(shí)驗(yàn)室等多家網(wǎng)絡(luò)成員單位共同承辦。
本文鏈接：探討AI安全發(fā)展與人類(lèi)共享，人工智能發(fā)展與安全會(huì)議舉辦http://www.sq15.cn/show-11-24002-0.html
聲明：本網(wǎng)站為非營(yíng)利性網(wǎng)站，本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。