21世紀(jì)經(jīng)濟報道見習(xí)記者肖瀟 北京報道
在社交平臺上，娜塔莎是一名定居中國的31歲俄羅斯人，講一口流利的普通話，喜歡分享俄羅斯美食，定期直播帶貨。她的賬號“娜塔莎進口食品”有二十萬粉絲，看起來是無數(shù)開店網(wǎng)紅中的一個。
但實際上，娜塔莎的所有內(nèi)容都由AI生成。她的臉來自一位烏克蘭視頻博主Olga Loiek，后者在YouTube的粉絲剛過一萬。“中國有人把我克隆了。”O(jiān)lga Loiek把這一發(fā)現(xiàn)發(fā)到Y(jié)ouTube上，引發(fā)了熱議。
深度合成技術(shù)最近找到了新的流量密碼。在社交平臺上，有人設(shè)、有標(biāo)簽、有顏值，仿冒真人的博主在成批涌現(xiàn)。此前抖音發(fā)布公告，打擊利用AIGC技術(shù)創(chuàng)建虛擬人物仿冒真人的內(nèi)容。小紅書也在近期清除了一批AI仿冒博主的賬號，并推出AIGC社區(qū)主張，強調(diào)不能用AI技術(shù)虛構(gòu)使用體驗以商業(yè)變現(xiàn)。
當(dāng)OpenAI發(fā)布Sora的演示視頻時，許多人感嘆，未來虛擬和現(xiàn)實的邊界將被徹底顛覆。眼下Sora還沒落地，AI博主已經(jīng)走進了普通人的日常生活。深度合成技術(shù)的影響比想象中來得更快，也更悄無聲息。
而對于早已使用AI技術(shù)帶貨的電商行業(yè)，AI博主是對AI數(shù)字人一次技術(shù)的簡化、玩法的升級。在AI數(shù)字人全面介入商品宣傳、銷售、交易環(huán)節(jié)的當(dāng)下，商業(yè)變現(xiàn)之路伴隨哪些法律風(fēng)險，同樣值得討論。
十幾秒完成換臉
“80后單親媽媽一枚，親測好吃好用才會推薦。”
這是抖音號“小姨妹”的簡介。小姨妹的視頻常以自己的自拍為封面，搭配產(chǎn)品的語音介紹。收獲了110萬粉絲。但點進視頻，部分內(nèi)容被平臺標(biāo)注了疑似AI生成。如果碰巧刷到了其他類似的賬號，比如“春香”、“溫柔”，還會發(fā)現(xiàn)她們共用一張臉。
在社交平臺上假裝真人的AI賬號，大體可以分為兩類：一類是人設(shè)各異的顏值博主，比如女大學(xué)生、純欲風(fēng)美女、男體育生、單親媽媽；另一類是外國人。他們的分享內(nèi)容主要是自拍，半身照、皮膚清晰透亮、場景多變，視頻也多由靜態(tài)圖片拼接而成。
博主@陳也被網(wǎng)友指出由AI合成
董宇（化名）從去年5月開始運營一個AI美少女的小紅書賬號，他告訴21世紀(jì)經(jīng)濟報道記者，當(dāng)時AI顏值博主就已經(jīng)很普遍了。不過，彼時大家更熟悉的是AIGC寫真，或者模仿網(wǎng)紅、明星。現(xiàn)在不管是生成質(zhì)量還是風(fēng)格，都更貼近現(xiàn)實生活中的普通人。
不少網(wǎng)友在社交平臺上發(fā)帖控訴，AI博主盜用了自己的生活照，有的是保留身體用AI換臉，有的是把臉挪到AI生成的身體上，這也許揭示了許多AI博主“逼真”的一個主要原因。
“想換誰的臉，只需要把一張正面照喂給SD（Stable Diffusion），十幾秒就搞定了。” 董宇介紹，開源社區(qū)里有許多可以一鍵換臉的大模型插件，能夠快速、準(zhǔn)確地實現(xiàn)面部替換。
像董宇這樣，用AI憑空生成一張寫實風(fēng)格的圖片，需要多次輸入具體的形容詞（比如動作、場景、衣服），再用插件修改局部，達(dá)到?jīng)]有“瑕疵”的標(biāo)準(zhǔn)常常要兩到三個小時。調(diào)用大模型次數(shù)多了，還面臨充值付費。相比之下，換臉AI只需要十幾秒就能生成一張非常自然的圖片，幾乎不需要任何專業(yè)技能，能批量生產(chǎn)，成本逼近為零。
換臉生成視頻的成本也不高。據(jù)界面財聯(lián)報道，盜臉烏克蘭女性 Olga 的運營團隊，使用的是名為 HeyGen 的 AI 肖像克隆軟件。網(wǎng)絡(luò)上能找到眾多面向初學(xué)者的 HeyGen 教程。使用價格上，即使最貴的商用版本每月也只需 72 美元（約500元人民幣）。
用逼真的視覺收割一定粉絲，主要為了帶貨。拿“娜塔莎進口食品”來說，視頻中有著歐洲人長相的娜塔莎會先強調(diào)中國對俄羅斯的經(jīng)濟支持十分重要，俄羅斯人非常感謝中國人——隨后附上俄羅斯糖果的鏈接。AI顏值博主“陳也”通過分享自己的美白、護膚經(jīng)驗，推廣葡萄籽。據(jù)新抖數(shù)據(jù)統(tǒng)計，近30天，“溫柔”“小姨妹”等賬號的累計預(yù)估帶貨金額在5萬元以上。
在過去的經(jīng)驗中，雖然也有Photoshop這樣的“科技狠活”，但仍然考驗使用者的精力和技術(shù)能力，照片、視頻依然是最有說服力的產(chǎn)品廣告。在深度合成技術(shù)下，這一經(jīng)驗恐怕要失效了。
AI帶貨的紅線在哪？
北京師范大學(xué)法學(xué)院副教授、中國互聯(lián)網(wǎng)協(xié)會研究中心副主任吳沈括分析，用AI冒充真人帶貨，是一種降低成本、簡化流程、尋找變現(xiàn)路徑的新方式。隨著技術(shù)演進和商業(yè)模式的變化，用AIGC進行低成本逐利的行為會越來越多。
董宇的AI美少女賬號流量不小，每條AI內(nèi)容少則有一百，多則有幾千的互動數(shù)。不過董宇表示，由于內(nèi)容明確標(biāo)明了AI創(chuàng)作，幾乎沒有商家考慮合作帶貨。對于他這樣的AIGC博主，“最直接的變現(xiàn)方式還是賣課，但賣課肯定走不遠(yuǎn)。”
2月22日，曾靠賣課海撈5000萬元的“AI教父”李一舟所有課程被平臺下架。許多消費者投訴“課程太水”，完全可以從免費渠道中學(xué)習(xí)到，其推廣的大模型也被發(fā)現(xiàn)涉及合規(guī)問題。
而帶貨看起來是一條跑得通的商業(yè)路徑。電商行業(yè)的從業(yè)者已經(jīng)嘗試了不少AI+帶貨的玩法。比如，第四批通過國產(chǎn)大模型備案的初創(chuàng)公司摹小仙，主要就為電商提供AI模特。此前謝霆鋒的美食品牌使用AI虛擬的數(shù)字人直播，在抖音的日均成交金額達(dá)到16萬元。根據(jù)艾瑞咨詢的數(shù)據(jù)，AI數(shù)字人的發(fā)展領(lǐng)域還將進一步拓寬，預(yù)計到2025年核心市場規(guī)模達(dá)到480.6億元。
中倫律師事務(wù)所合伙人王飛律師在采訪中告訴21記者，與AI數(shù)字人相比，AI假冒真人最核心的不同是非法盜臉，侵害被假冒人的肖像權(quán)。
此外，虛假宣傳是用AI技術(shù)帶貨值得共同關(guān)注的問題。在廣告推廣的過程中，涉及歪曲事實、虛假宣傳、產(chǎn)品質(zhì)量等問題，將涉嫌損害消費者權(quán)益，違反《消費者權(quán)益保護法》《廣告法》。
舉例來說，用AI模特試衣時，通常能夠真實呈現(xiàn)衣服的顏色、款式、尺寸、花色等情況，達(dá)到與真人模特試衣相近的效果。但如果用AI模特強調(diào)護膚產(chǎn)品的滋潤、美白效果，可能涉及誘導(dǎo)消費者，甚至涉嫌虛假宣傳。王飛表示，虛構(gòu)是將不存在的產(chǎn)品效果通過渲染方式做出來。這也為電商行業(yè)敲響警鐘，使用AI技術(shù)時需要謹(jǐn)慎選品。
王飛提醒，《網(wǎng)絡(luò)主播行為規(guī)范》規(guī)定，利用人工智能技術(shù)合成的虛擬主播及內(nèi)容，參照本行為規(guī)范。換句話說，對于電商行業(yè)的AI虛擬人物，應(yīng)參照真人主播的管理規(guī)范。在言論合規(guī)、產(chǎn)品合規(guī)、知識產(chǎn)權(quán)合規(guī)、廣告合規(guī)、保護消費者權(quán)益等層面，都需要注意合規(guī)要求。
平臺如何應(yīng)對深度合成技術(shù)？
在深度合成技術(shù)的加持下，制作未經(jīng)授權(quán)的真人數(shù)字復(fù)制品變得非常容易，也更難識別。在此之前，心存不軌者不僅僅向普通人的錢包伸手，還瞄準(zhǔn)了色情傳播、金融詐騙：
今年1月，歌手泰勒·斯威夫特公開與運動員的戀情，有人趁機用AI合成圖片，生成以運動員休息室為背景的露骨照片。這一合成照片在X（前Twitter)上的瀏覽量高達(dá)千萬次，盡管賬戶隨后被暫停，但內(nèi)容仍然被瘋狂傳播，X隨后直接封鎖了“泰勒·斯威夫特”的搜索詞條；
香港近日偵破了一起換臉詐騙案，詐騙者用YouTube、X 等社交軟件收集了公司高管的音視頻資料，并用深度合成技術(shù)換臉、提前生成視頻，在Zoom在線會議上成功欺騙了公司職員，涉案金額達(dá)到2億港幣。類似的換臉經(jīng)濟詐騙案在去年層出不窮。
吳沈括指出，面對快速迭代的AI技術(shù)和涌現(xiàn)的AIGC內(nèi)容，最重要、最有效的方式是標(biāo)注AI內(nèi)容，即對內(nèi)容性質(zhì)作出明確標(biāo)識，這也是目前業(yè)內(nèi)比較常見的做法。《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確規(guī)定，對于內(nèi)容提供者，需要對AI生成的圖片、視頻等內(nèi)容進行標(biāo)識，以便公眾判斷。
不過，僅僅依靠用戶自覺，難以跟上技術(shù)的發(fā)展。小紅書團隊對記者表示，AI 生成內(nèi)容的真實度和擴散程度不斷提高，平臺主動的AIGC鑒別能力成為剛需。小紅書通過數(shù)據(jù)去噪、數(shù)據(jù)增強等保證模型分類精度，不斷提升技術(shù)手段、增強對AI生成內(nèi)容的識別能力，對疑似 AI 內(nèi)容生成的內(nèi)容自動打上標(biāo)識。抖音也表示，采用了人工智能生成內(nèi)容數(shù)據(jù)標(biāo)準(zhǔn)或元數(shù)據(jù)標(biāo)準(zhǔn)，便于其他內(nèi)容平臺進行識別。此外，平臺還要求虛擬人主播的賬號進行實名注冊。
王飛認(rèn)為，AIGC內(nèi)容的侵權(quán)風(fēng)險是平臺未來的治理難點。AI假冒真人侵權(quán)成本較低、權(quán)利人維權(quán)意愿低、侵權(quán)證據(jù)取證較難，才讓侵權(quán)行為“流行”。怎樣合理且及時地保護權(quán)利人權(quán)益，將成為一個重要挑戰(zhàn)。
在王飛看來，平臺治理的主要方向應(yīng)該是事先審查和事后追責(zé)。比如，平臺可以對其發(fā)布內(nèi)容進行直播監(jiān)測、關(guān)鍵詞監(jiān)測等，留存相關(guān)數(shù)據(jù)，及時跟進用戶舉報。如果發(fā)生違反法律法規(guī)、侵權(quán)等行為，可以立即糾錯并采取懲罰措施。
吳沈括提醒，對于深度合成技術(shù)，尤其要關(guān)注三方面的問題：一是訓(xùn)練數(shù)據(jù)的合法性，二是在運用過程中，需要遵從治理規(guī)則，比如提供產(chǎn)品和服務(wù)的法律要求。最后對用戶的投訴舉報，平臺需要做出及時、有效的響應(yīng)。
本文鏈接：盜臉、帶貨、種草，當(dāng)AI“假人”涌入社交媒體http://www.sq15.cn/show-2-3325-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。