聯(lián)合國教科文組織發(fā)布研究報(bào)告稱，大語言模型存在性別偏見、種族刻板印象等傾向。該組織呼吁各國政府制定監(jiān)管框架，同時(shí)私營企業(yè)應(yīng)對(duì)偏見問題持續(xù)監(jiān)測和評(píng)估。
大語言模型是一種用于支持時(shí)下流行的生成式人工智能平臺(tái)的自然語言處理工具，美國開放人工智能研究中心（OpenAI）的人工智能產(chǎn)品GPT-3.5、GPT-2，以及臉書母公司“元”的Llama 2等都屬于此類。
此次聯(lián)合國教科文組織名為“大語言模型中對(duì)婦女和女童的偏見”的研究深入分析了大語言模型中的刻板印象。結(jié)果顯示，上述大語言模型生成的內(nèi)容都存在對(duì)女性的明顯偏見。
研究的部分內(nèi)容是測量人工智能生成文本的多樣性，內(nèi)容涉及不同性別、性取向和文化背景的人群。例如，研究人員會(huì)要求平臺(tái)為每個(gè)人“編寫一則故事”。開源大語言模型尤其傾向于將工程師、教師和醫(yī)生等更多元、地位更高的工作分配給男性，而經(jīng)常將女性與傳統(tǒng)上被低估或被社會(huì)污名化的角色掛鉤。而Llama 2生成的內(nèi)容也有類似特點(diǎn)，如女性從事家務(wù)勞動(dòng)的頻率是男性的4倍。
聯(lián)合國教科文組織總干事阿祖萊表示：“越來越多的人在工作、學(xué)習(xí)、生活中使用大語言模型。這些新的人工智能工具有著在不知不覺中改變?nèi)藗冋J(rèn)知的力量。因此，即便是生成內(nèi)容中極為微小的性別偏見，也可能顯著加劇現(xiàn)實(shí)世界中的不平等。”
該組織呼吁各國政府制定并執(zhí)行明確的監(jiān)管框架，同時(shí)呼吁私營企業(yè)對(duì)系統(tǒng)性偏見問題展開持續(xù)的監(jiān)測和評(píng)估，落實(shí)聯(lián)合國教科文組織會(huì)員國在2021年11月一致通過的《人工智能倫理問題建議書》要求。
聯(lián)合國教科文組織發(fā)布研究報(bào)告稱，大語言模型存在性別偏見、種族刻板印象等傾向。該組織呼吁各國政府制定監(jiān)管框架，同時(shí)私營企業(yè)應(yīng)對(duì)偏見問題持續(xù)監(jiān)測和評(píng)估。
大語言模型是一種用于支持時(shí)下流行的生成式人工智能平臺(tái)的自然語言處理工具，美國開放人工智能研究中心（OpenAI）的人工智能產(chǎn)品GPT-3.5、GPT-2，以及臉書母公司“元”的Llama 2等都屬于此類。
此次聯(lián)合國教科文組織名為“大語言模型中對(duì)婦女和女童的偏見”的研究深入分析了大語言模型中的刻板印象。結(jié)果顯示，上述大語言模型生成的內(nèi)容都存在對(duì)女性的明顯偏見。
研究的部分內(nèi)容是測量人工智能生成文本的多樣性，內(nèi)容涉及不同性別、性取向和文化背景的人群。例如，研究人員會(huì)要求平臺(tái)為每個(gè)人“編寫一則故事”。開源大語言模型尤其傾向于將工程師、教師和醫(yī)生等更多元、地位更高的工作分配給男性，而經(jīng)常將女性與傳統(tǒng)上被低估或被社會(huì)污名化的角色掛鉤。而Llama 2生成的內(nèi)容也有類似特點(diǎn)，如女性從事家務(wù)勞動(dòng)的頻率是男性的4倍。
聯(lián)合國教科文組織總干事阿祖萊表示：“越來越多的人在工作、學(xué)習(xí)、生活中使用大語言模型。這些新的人工智能工具有著在不知不覺中改變?nèi)藗冋J(rèn)知的力量。因此，即便是生成內(nèi)容中極為微小的性別偏見，也可能顯著加劇現(xiàn)實(shí)世界中的不平等。”
該組織呼吁各國政府制定并執(zhí)行明確的監(jiān)管框架，同時(shí)呼吁私營企業(yè)對(duì)系統(tǒng)性偏見問題展開持續(xù)的監(jiān)測和評(píng)估，落實(shí)聯(lián)合國教科文組織會(huì)員國在2021年11月一致通過的《人工智能倫理問題建議書》要求。
本文鏈接：生成式人工智能或?qū)⒓觿⌒詣e偏見http://www.sq15.cn/show-2-3919-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。