OpenAI報(bào)復(fù)“吹哨人”？前員工聯(lián)名警告缺乏監(jiān)管
由安全問題引發(fā)的OpenAI“職場宮斗戲”還沒有結(jié)束。當(dāng)?shù)貢r(shí)間周二，數(shù)十位OpenAI前員工通過一封公開信再次警告，像OpenAI這樣的人工智能公司缺乏法律監(jiān)管和內(nèi)部批評機(jī)制，尤其是對“吹哨人”的保護(hù)遠(yuǎn)遠(yuǎn)不夠。該公開信由十三名 OpenAI 前員工簽名，并得到了包括“人工智能教父”Geoffrey Hinton 在內(nèi)的三名外部人員署名支持。
與此前音樂行業(yè)、電影演員行業(yè)的公開警告類似，公開信強(qiáng)調(diào)了AI雙刃劍的屬性：他們相信人工智能技術(shù)可以造福人類，但也看到了風(fēng)險(xiǎn)，比如加劇社會不平等，操縱和捏造信息。在生成式AI風(fēng)靡的這兩年，人們已經(jīng)見到了侵犯版權(quán)、深度造假影響政治選舉、AI生成色情圖片等沖突勢不可擋地蔓延至現(xiàn)實(shí)生活。
去年7月，OpenAI、谷歌、微軟、meta、亞馬遜、Anthropic、Inflection曾向拜登政府承諾，愿意接受外部第三方的安全測試，并向外界公開測試結(jié)果。但這一承諾主要是自愿性質(zhì)，硬性約束仍為空白。
公開信由此指出一個(gè)關(guān)鍵問題：在缺乏硬性監(jiān)管的情況下，不能指望公司自愿披露AI系統(tǒng)的真實(shí)性能、局限和風(fēng)險(xiǎn)。員工有責(zé)任要求公司對AI安全風(fēng)險(xiǎn)負(fù)責(zé)，但員工正受制于公司的保密協(xié)議。
“整個(gè)行業(yè)發(fā)生過類似事件，我們中的一些人有理由擔(dān)心各種形式的報(bào)復(fù)。我們并不是第一個(gè)遇到或談?wù)撨@些問題的人。”公開信暗指的是Ilya Sutskever離職引發(fā)的種種風(fēng)波。半個(gè)月前，OpenAI解散了負(fù)責(zé)安全問題的“超級對齊”團(tuán)隊(duì)，團(tuán)隊(duì)負(fù)責(zé)人和成員――聯(lián)合創(chuàng)始人兼首席科學(xué)家Ilya Sutskever、Jan Leike、Gretchen Krueger 紛紛離職。
據(jù)媒體報(bào)道，離職的原因是OpenAI在優(yōu)先保證安全還是優(yōu)先推出產(chǎn)品上有分歧。Jan Leike在社交平臺上的發(fā)言直接證明了一點(diǎn)，他披露OpenAI曾直接砍掉“超級對齊”部門的算力資源，部門被邊緣化。隨后外媒曝光了OpenAI 的離職協(xié)議，指出公司禁止離職員工公開批評公司，甚至禁止承認(rèn)保密協(xié)議的存在。
根據(jù)美國的《吹哨人保護(hù)法》(Whistleblower Protection Act)，舉報(bào)工資違規(guī)、歧視、安全和欺詐等問題的員工受到保護(hù)，這意味著公司不能用解雇、降職等方式報(bào)復(fù)舉報(bào)人。但簽署公開信的前員工們稱，AI安全風(fēng)險(xiǎn)問題往往不是非法活動，普通的法律保護(hù)措施是不夠的。他們因此呼吁人工智能公司取消禁止批評的保密協(xié)議、建立匿名舉報(bào)流程，并建設(shè)支持公開批評的公司文化。
公開資料顯示，谷歌、Meta、亞馬遜、微軟等公司均有成立專門的內(nèi)部安全團(tuán)隊(duì)，確保公司負(fù)責(zé)地開發(fā)AI系統(tǒng)。目前，OpenAI也已新建了由Sam Altman領(lǐng)導(dǎo)的安全團(tuán)隊(duì)，其首要任務(wù)是評估OpenAI 的安全流程和政策，由董事會拍板最終方案。不過，安全團(tuán)隊(duì)的三位負(fù)責(zé)人均在董事會任職，因此外界也質(zhì)疑其能否真正解決安全隱患。OpenAI員工的舉報(bào)信無疑加深了這一擔(dān)憂和反思，在沒有硬性監(jiān)管的約束下，僅靠公司的自我約束能不能給予安全問題足夠重視？需要打上一個(gè)問號。
本文鏈接：OpenAI報(bào)復(fù)“吹哨人”？前員工聯(lián)名警告缺乏監(jiān)管http://www.sq15.cn/show-2-6702-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。