“上當受騙了！沒想到視頻切片里‘專家推薦說辭’居然是AI造假。”00后小高憤怒地將購買的減肥產品扔進垃圾桶。
小高告訴新京報貝殼財經記者，自己之所以心動，源于看見《國醫(yī)少年志》視頻切片里推薦了這款減肥產品，結果未見效果反而被包裝營銷暗算。“原以為有專家背書的商品不會差，結果發(fā)現這些說辭居然是AI工具模仿語音篡改形成，專家根本就沒說過這些話。”
隨著《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目出圈，減肥、養(yǎng)生成為話題，但是短視頻平臺上不少節(jié)目切片卻開始“變味”，借著類似節(jié)目的噱頭暗中推薦保健商品，甚至宣稱“絕對有效”。
實際上，這些視頻切片大多為移花接木，內容看似是節(jié)目片段，但專家話術、字幕等細節(jié)卻是商家以AI技術進行篡改，進而植入品牌和帶貨。
“部分商家和視頻主抓住消費者追求健康的心態(tài)，借以‘權威’‘專業(yè)’噱頭讓消費者信以為真，繼而陷入其所設下的陷阱。”從事電商工作多年的蔣凌告訴新京報貝殼財經記者，如今短視頻平臺中確實充斥大量類似切片，甚至不乏修改名人語音進行商品帶貨的現象，“受此影響，不但多位名人和節(jié)目IP被造假，消費者權益也在不知情中受到傷害，而唯一獲利的只有惡意植入的品牌商。”
加句臺詞，綜藝切片包裝出“明星代言”
因為肥胖，小高經常上網尋找各種減肥方法和藥物。一次瀏覽短視頻時，他無意中看到視頻切片介紹一檔名為《國醫(yī)少年志》的綜藝節(jié)目，其中，中醫(yī)專家介紹如何有效減小肚子贅肉時，除了介紹白蘿卜、山楂干、紅棗等食材用以煮水飲用能控制體重外，還特意推銷一款名為“蔻敘堂丁香膏”的減肥產品。
“資深中醫(yī)在視頻里肯定表示‘早晚各一次，一個多月肚子就平了’，加上節(jié)目IP和多位藝人的背書，效果應該差不了。”心動的小高當即根據品牌名在電商平臺搜索并花費20多元下了一單。幾天體驗后，小高發(fā)現減肥效果遠沒有視頻宣傳般明顯，體重沒有絲毫變化。
和小高有著類似經歷的，還有00后女孩張伊。她告訴貝殼財經記者，自己也是在刷綜藝節(jié)目《一路繁花》的短視頻切片時，被劉曉慶在聚會時所提及的一款商品“種草”，但真正體驗后發(fā)現沒有任何效果。
貝殼財經記者調查發(fā)現，類似視頻切片在短視頻平臺中比比皆是，但是眼見并非為實。近段時間，《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目中健康養(yǎng)生類知識通過短視頻傳播，被一眾消費者所追捧，也讓他們成為部分商家收割的對象。
貝殼財經記者在短視頻平臺上搜索發(fā)現，不少非節(jié)目官方所發(fā)布的切片里夾藏大量“私貨”，視頻主通過AI技術更換專家語音和字幕，將涉及體重管理、祛濕等保健類商品經過包裝成功實現“名人帶貨”。
以《國醫(yī)少年志》一期節(jié)目中專家介紹如何有效改善大腿過粗為例。原視頻中專家推薦蘋果、生姜、紅棗等食品通過水煮飲用的方式起到提升代謝作用，但在部分視頻切片里，專家的話直接被篡改，特意加了“資藥堂（的赤菊膏）就很不錯”的短短一句話。
移花接木的招數也出現在《一路繁花》的視頻切片中。劉曉慶在聚餐時吃魚的片段，一款名為“詩諾千君貼”的商品被植入，并在字幕中顯示“提高代謝水平”“年輕人可以試試”，同樣實現明星帶貨的效果。
AI悄然篡改視頻內容，模糊了視頻真假的邊界，也迷惑了不少消費者。貝殼財經記者注意到，上當的網友在社交平臺上吐槽“純智商稅”“節(jié)目組推銷劣質商品”等，質疑產品的同時也將矛頭直指節(jié)目組。
對此，《國醫(yī)少年志》官方發(fā)文表示，部分社交媒體上營銷賬號未經授權擅自剪輯節(jié)目圖片、視頻實施產品推廣行為，歪曲了節(jié)目內容。節(jié)目組從未授權任何第三方賬號利用節(jié)目內容宣傳相關的任何產品，“任何非我司官方賬號或非節(jié)目原片所發(fā)布的我司及與我司合作生產相關產品的信息均為虛假信息。”
AI變聲“零門檻”，僅需幾元可隨意模仿
一個節(jié)目片段就能假冒名人帶貨，再次暴露了AI合成聲音濫用的問題。
“這些商品利用人們對身體健康的關注心態(tài)，通過AI篡改臺詞和字幕，以‘專業(yè)’‘權威’的噱頭讓消費者信以為真，進而陷入銷售陷阱。”電商從業(yè)者蔣凌說。
近日，貝殼財經記者在短視頻平臺以“AI克隆聲音”為關鍵詞檢索發(fā)現大量涉及AI合成聲音的視頻，一條“10秒鐘克隆任何聲音”的視頻講解顯示，AI技術可將聲音調整為孫悟空、曹操、哪吒等多個角色。
隨著人工智能技術普及，AI模擬聲音的門檻也大幅降低，甚至軟件都能隨處下載。通過一些開源軟件和平臺，普通用戶即使沒有專業(yè)知識以及成本就能輕松操作。
貝殼財經記者在社交平臺上搜索發(fā)現多個AI合成聲音軟件的廣告和下載渠道，價格也僅需幾元到數十元。不少廣告更是標榜“可隨意模仿明星語音”“通過一句話就可以克隆出任何聲音”等噱頭。
為調查所需，貝殼財經記者下載了一款在GitHub上開源的聲音克隆軟件。體驗過程中，貝殼財經記者上傳了一段由本人播報的3分鐘錄音，在經過AI模型訓練后，成功得到了這一聲音的模型文件。此后只需輸入任意文字，軟件即可實現這一聲音的口播內容。
貝殼財經記者發(fā)現，AI生成的語音模型連錄制者在發(fā)音時的吐字習慣也能模仿。對于一些較短的語句，很難識別出這是機器合成的語音。相比之下，生成長語句時，則會出現瑕疵。盡管如此，只要多次生成，再從中挑選合成效果較好的語句，也能以假亂真。
社交平臺上不少公眾人物的聲音已被AI克隆，其中“如何模仿雷軍說話”“讓明星給你播新聞”的視頻軟件教學和推廣并不難尋。
貝殼財經記者注意到，這些軟件操作流程頗為簡單，使用者僅需對著鏡頭錄制一段話，數秒鐘后這些話通過AI技術就能變成某位名人的聲音。值得注意的是，類似軟件錄入名人聲音時沒有任何授權證明，這意味著這些人根本不知道自己的聲音已被冒用。
實際上，早前就有利用軟件修改的明星靳東聲音與“粉絲”互動，詐騙老年人近百萬元。另外利用AI模仿國家傳染病醫(yī)學中心主任張文宏的聲音吐槽熱門話題，也曾引發(fā)關注。
一位AI領域從業(yè)者告訴貝殼財經記者，AI能夠克隆聲音源于其能通過深度學習算法，從采集的聲音樣本中提取頻率、音色、聲調等關鍵特征，再將這些特征記錄進行合成，“《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目中所出現的品牌植入，正是通過類似手段。”
“無論網友將AI模擬人聲用于惡搞以追逐流量，還是克隆名人聲音用以帶貨，都對聲音‘原主’和消費者帶來不良影響。發(fā)布者除了獲得流量曝光和廣告收入外，不乏假借身份傳播虛假消息，從而實現詐騙目的。”上述人士表示。
圍獵中老年，“AI換臉擬聲”亟待治理
隱形的賣貨方式以及真真假假的劇情，讓不熟悉AI技術的中老年人很難辨別，也就成了被圍獵的對象。
多位電商從業(yè)者接受采訪時坦言，此類商家的目標群體主要為追求身體健康的人群，其中又以中老年人群體為主。通過打造權威專家人設發(fā)布“時事點評”“健康養(yǎng)生”等內容，以吸引銷售目標的關注，最終再以視頻流量分成和櫥窗帶貨的模式變現。
“父母聽信‘專家視頻’買回一堆保健品，甚至還到處推薦身邊朋友購買。”一位網友吐槽稱，家中長輩對于AI不了解，認為視頻內容和說辭都是真的，甚至當家里人再三解釋視頻是偽造時，也會固執(zhí)地堅信沒有上當，“根本勸不住，AI語音騙局對老年人簡直就是降維打擊。”
值得注意的是，類似商品不乏資質存疑、廠商成謎的情況。貝殼財經記者搜索一款同樣由AI語音植入的益生菌品牌時注意到，產品鏈接跳轉至商城頁面后出現多款宣傳封面、產品包裝、文案說辭幾乎一樣的商品，生產廠商卻并不相同，很難讓人判斷出真?zhèn)巍?span style="display:none">WwG速刷資訊——每天刷點最新資訊，了解這個世界多一點SUSHUAPOS.COM
“消費者在觀看視頻時下單往往屬于沖動消費，其本質更多出于對藝人和專業(yè)人士背書的信任。然而，對商品真實效果、品質優(yōu)劣、是否適用于自身等情況并不清楚。”蔣凌告訴貝殼財經記者，商家選擇類似傳播渠道無疑比花錢打廣告效果更好，成本也更加低廉，“當消費者反應過來時，商家已完成了快速傳播、收割變現，甚至注銷跑路的營銷閉環(huán)。”
無論對于中老年人還是年輕網友而言，AI合成語音比早前的AI換臉視頻更難辨別，稍不注意就容易中招。
2024年4月，北京互聯(lián)網法院宣判全國首例“AI聲音侵權案”，明確認定在具備可識別性的前提下，自然人聲音權益的保護范圍可及于AI生成聲音。法院認為，未經權利人許可，擅自使用或許可他人使用錄音制品中的聲音構成侵權。
今年兩會期間，全國人大代表、小米集團創(chuàng)始人雷軍建議“加強‘AI換臉擬聲’違法侵權治理”，并表示他本人也曾是“AI換臉擬聲”的“受害者”。
貝殼財經記者了解到，早前短視頻平臺上曾出現大量“雷軍AI配音”的惡搞視頻，涉及堵車、調休、游戲等熱門話題，雷軍兩會期間回應，“一開始我還覺得這是網民喜聞樂見的一種方式，但是隨著內容越來越多，網友們也都在投訴。”為此，他呼吁盡快出臺相關治理措施。
同樣，全國政協(xié)委員靳東也回應了AI換臉導致的詐騙問題，并表示“一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質非常惡劣，希望能建立更好的規(guī)則。”
河南澤槿律師事務所主任付建告訴貝殼財經記者，通過AI技術冒用他人聲音的行為屬于違法行為。根據《中華人民共和國民法典》，對自然人聲音的保護參照適用肖像權保護的有關規(guī)定。而商家利用AI篡改專家說辭進行直播賣貨既侵犯了專家有關聲音的人格權益，也可能損害了專家的名譽權以及肖像權。同時，這種打廣告的行為也涉及虛假廣告宣傳，如果所賣商品沒有宣傳效果還構成消費者欺詐，違反了《反不正當競爭法》和《消費者權益保護法》有關規(guī)定，有可能面臨罰款、吊銷營業(yè)執(zhí)照等行政責任以及相應的民事賠償責任，情節(jié)嚴重的還涉及刑事犯罪。
“平臺有權依據《互聯(lián)網信息服務管理辦法》《電子商務法》以及平臺規(guī)則履行監(jiān)管義務，對違法商家采取封禁賬號、限流等處理措施。如果未及時采取合理措施導致?lián)p害擴大的，對擴大部分與不法商家承擔連帶責任。”付建說。
“上當受騙了！沒想到視頻切片里‘專家推薦說辭’居然是AI造假。”00后小高憤怒地將購買的減肥產品扔進垃圾桶。
小高告訴新京報貝殼財經記者，自己之所以心動，源于看見《國醫(yī)少年志》視頻切片里推薦了這款減肥產品，結果未見效果反而被包裝營銷暗算。“原以為有專家背書的商品不會差，結果發(fā)現這些說辭居然是AI工具模仿語音篡改形成，專家根本就沒說過這些話。”
隨著《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目出圈，減肥、養(yǎng)生成為話題，但是短視頻平臺上不少節(jié)目切片卻開始“變味”，借著類似節(jié)目的噱頭暗中推薦保健商品，甚至宣稱“絕對有效”。
實際上，這些視頻切片大多為移花接木，內容看似是節(jié)目片段，但專家話術、字幕等細節(jié)卻是商家以AI技術進行篡改，進而植入品牌和帶貨。
“部分商家和視頻主抓住消費者追求健康的心態(tài)，借以‘權威’‘專業(yè)’噱頭讓消費者信以為真，繼而陷入其所設下的陷阱。”從事電商工作多年的蔣凌告訴新京報貝殼財經記者，如今短視頻平臺中確實充斥大量類似切片，甚至不乏修改名人語音進行商品帶貨的現象，“受此影響，不但多位名人和節(jié)目IP被造假，消費者權益也在不知情中受到傷害，而唯一獲利的只有惡意植入的品牌商。”
加句臺詞，綜藝切片包裝出“明星代言”
因為肥胖，小高經常上網尋找各種減肥方法和藥物。一次瀏覽短視頻時，他無意中看到視頻切片介紹一檔名為《國醫(yī)少年志》的綜藝節(jié)目，其中，中醫(yī)專家介紹如何有效減小肚子贅肉時，除了介紹白蘿卜、山楂干、紅棗等食材用以煮水飲用能控制體重外，還特意推銷一款名為“蔻敘堂丁香膏”的減肥產品。
“資深中醫(yī)在視頻里肯定表示‘早晚各一次，一個多月肚子就平了’，加上節(jié)目IP和多位藝人的背書，效果應該差不了。”心動的小高當即根據品牌名在電商平臺搜索并花費20多元下了一單。幾天體驗后，小高發(fā)現減肥效果遠沒有視頻宣傳般明顯，體重沒有絲毫變化。
和小高有著類似經歷的，還有00后女孩張伊。她告訴貝殼財經記者，自己也是在刷綜藝節(jié)目《一路繁花》的短視頻切片時，被劉曉慶在聚會時所提及的一款商品“種草”，但真正體驗后發(fā)現沒有任何效果。
貝殼財經記者調查發(fā)現，類似視頻切片在短視頻平臺中比比皆是，但是眼見并非為實。近段時間，《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目中健康養(yǎng)生類知識通過短視頻傳播，被一眾消費者所追捧，也讓他們成為部分商家收割的對象。
貝殼財經記者在短視頻平臺上搜索發(fā)現，不少非節(jié)目官方所發(fā)布的切片里夾藏大量“私貨”，視頻主通過AI技術更換專家語音和字幕，將涉及體重管理、祛濕等保健類商品經過包裝成功實現“名人帶貨”。
以《國醫(yī)少年志》一期節(jié)目中專家介紹如何有效改善大腿過粗為例。原視頻中專家推薦蘋果、生姜、紅棗等食品通過水煮飲用的方式起到提升代謝作用，但在部分視頻切片里，專家的話直接被篡改，特意加了“資藥堂（的赤菊膏）就很不錯”的短短一句話。
移花接木的招數也出現在《一路繁花》的視頻切片中。劉曉慶在聚餐時吃魚的片段，一款名為“詩諾千君貼”的商品被植入，并在字幕中顯示“提高代謝水平”“年輕人可以試試”，同樣實現明星帶貨的效果。
AI悄然篡改視頻內容，模糊了視頻真假的邊界，也迷惑了不少消費者。貝殼財經記者注意到，上當的網友在社交平臺上吐槽“純智商稅”“節(jié)目組推銷劣質商品”等，質疑產品的同時也將矛頭直指節(jié)目組。
對此，《國醫(yī)少年志》官方發(fā)文表示，部分社交媒體上營銷賬號未經授權擅自剪輯節(jié)目圖片、視頻實施產品推廣行為，歪曲了節(jié)目內容。節(jié)目組從未授權任何第三方賬號利用節(jié)目內容宣傳相關的任何產品，“任何非我司官方賬號或非節(jié)目原片所發(fā)布的我司及與我司合作生產相關產品的信息均為虛假信息。”
AI變聲“零門檻”，僅需幾元可隨意模仿
一個節(jié)目片段就能假冒名人帶貨，再次暴露了AI合成聲音濫用的問題。
“這些商品利用人們對身體健康的關注心態(tài)，通過AI篡改臺詞和字幕，以‘專業(yè)’‘權威’的噱頭讓消費者信以為真，進而陷入銷售陷阱。”電商從業(yè)者蔣凌說。
近日，貝殼財經記者在短視頻平臺以“AI克隆聲音”為關鍵詞檢索發(fā)現大量涉及AI合成聲音的視頻，一條“10秒鐘克隆任何聲音”的視頻講解顯示，AI技術可將聲音調整為孫悟空、曹操、哪吒等多個角色。
隨著人工智能技術普及，AI模擬聲音的門檻也大幅降低，甚至軟件都能隨處下載。通過一些開源軟件和平臺，普通用戶即使沒有專業(yè)知識以及成本就能輕松操作。
貝殼財經記者在社交平臺上搜索發(fā)現多個AI合成聲音軟件的廣告和下載渠道，價格也僅需幾元到數十元。不少廣告更是標榜“可隨意模仿明星語音”“通過一句話就可以克隆出任何聲音”等噱頭。
為調查所需，貝殼財經記者下載了一款在GitHub上開源的聲音克隆軟件。體驗過程中，貝殼財經記者上傳了一段由本人播報的3分鐘錄音，在經過AI模型訓練后，成功得到了這一聲音的模型文件。此后只需輸入任意文字，軟件即可實現這一聲音的口播內容。
貝殼財經記者發(fā)現，AI生成的語音模型連錄制者在發(fā)音時的吐字習慣也能模仿。對于一些較短的語句，很難識別出這是機器合成的語音。相比之下，生成長語句時，則會出現瑕疵。盡管如此，只要多次生成，再從中挑選合成效果較好的語句，也能以假亂真。
社交平臺上不少公眾人物的聲音已被AI克隆，其中“如何模仿雷軍說話”“讓明星給你播新聞”的視頻軟件教學和推廣并不難尋。
貝殼財經記者注意到，這些軟件操作流程頗為簡單，使用者僅需對著鏡頭錄制一段話，數秒鐘后這些話通過AI技術就能變成某位名人的聲音。值得注意的是，類似軟件錄入名人聲音時沒有任何授權證明，這意味著這些人根本不知道自己的聲音已被冒用。
實際上，早前就有利用軟件修改的明星靳東聲音與“粉絲”互動，詐騙老年人近百萬元。另外利用AI模仿國家傳染病醫(yī)學中心主任張文宏的聲音吐槽熱門話題，也曾引發(fā)關注。
一位AI領域從業(yè)者告訴貝殼財經記者，AI能夠克隆聲音源于其能通過深度學習算法，從采集的聲音樣本中提取頻率、音色、聲調等關鍵特征，再將這些特征記錄進行合成，“《一路繁花》《國醫(yī)少年志》等綜藝節(jié)目中所出現的品牌植入，正是通過類似手段。”
“無論網友將AI模擬人聲用于惡搞以追逐流量，還是克隆名人聲音用以帶貨，都對聲音‘原主’和消費者帶來不良影響。發(fā)布者除了獲得流量曝光和廣告收入外，不乏假借身份傳播虛假消息，從而實現詐騙目的。”上述人士表示。
圍獵中老年，“AI換臉擬聲”亟待治理
隱形的賣貨方式以及真真假假的劇情，讓不熟悉AI技術的中老年人很難辨別，也就成了被圍獵的對象。
多位電商從業(yè)者接受采訪時坦言，此類商家的目標群體主要為追求身體健康的人群，其中又以中老年人群體為主。通過打造權威專家人設發(fā)布“時事點評”“健康養(yǎng)生”等內容，以吸引銷售目標的關注，最終再以視頻流量分成和櫥窗帶貨的模式變現。
“父母聽信‘專家視頻’買回一堆保健品，甚至還到處推薦身邊朋友購買。”一位網友吐槽稱，家中長輩對于AI不了解，認為視頻內容和說辭都是真的，甚至當家里人再三解釋視頻是偽造時，也會固執(zhí)地堅信沒有上當，“根本勸不住，AI語音騙局對老年人簡直就是降維打擊。”
值得注意的是，類似商品不乏資質存疑、廠商成謎的情況。貝殼財經記者搜索一款同樣由AI語音植入的益生菌品牌時注意到，產品鏈接跳轉至商城頁面后出現多款宣傳封面、產品包裝、文案說辭幾乎一樣的商品，生產廠商卻并不相同，很難讓人判斷出真?zhèn)巍?span style="display:none">WwG速刷資訊——每天刷點最新資訊，了解這個世界多一點SUSHUAPOS.COM
“消費者在觀看視頻時下單往往屬于沖動消費，其本質更多出于對藝人和專業(yè)人士背書的信任。然而，對商品真實效果、品質優(yōu)劣、是否適用于自身等情況并不清楚。”蔣凌告訴貝殼財經記者，商家選擇類似傳播渠道無疑比花錢打廣告效果更好，成本也更加低廉，“當消費者反應過來時，商家已完成了快速傳播、收割變現，甚至注銷跑路的營銷閉環(huán)。”
無論對于中老年人還是年輕網友而言，AI合成語音比早前的AI換臉視頻更難辨別，稍不注意就容易中招。
2024年4月，北京互聯(lián)網法院宣判全國首例“AI聲音侵權案”，明確認定在具備可識別性的前提下，自然人聲音權益的保護范圍可及于AI生成聲音。法院認為，未經權利人許可，擅自使用或許可他人使用錄音制品中的聲音構成侵權。
今年兩會期間，全國人大代表、小米集團創(chuàng)始人雷軍建議“加強‘AI換臉擬聲’違法侵權治理”，并表示他本人也曾是“AI換臉擬聲”的“受害者”。
貝殼財經記者了解到，早前短視頻平臺上曾出現大量“雷軍AI配音”的惡搞視頻，涉及堵車、調休、游戲等熱門話題，雷軍兩會期間回應，“一開始我還覺得這是網民喜聞樂見的一種方式，但是隨著內容越來越多，網友們也都在投訴。”為此，他呼吁盡快出臺相關治理措施。
同樣，全國政協(xié)委員靳東也回應了AI換臉導致的詐騙問題，并表示“一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質非常惡劣，希望能建立更好的規(guī)則。”
河南澤槿律師事務所主任付建告訴貝殼財經記者，通過AI技術冒用他人聲音的行為屬于違法行為。根據《中華人民共和國民法典》，對自然人聲音的保護參照適用肖像權保護的有關規(guī)定。而商家利用AI篡改專家說辭進行直播賣貨既侵犯了專家有關聲音的人格權益，也可能損害了專家的名譽權以及肖像權。同時，這種打廣告的行為也涉及虛假廣告宣傳，如果所賣商品沒有宣傳效果還構成消費者欺詐，違反了《反不正當競爭法》和《消費者權益保護法》有關規(guī)定，有可能面臨罰款、吊銷營業(yè)執(zhí)照等行政責任以及相應的民事賠償責任，情節(jié)嚴重的還涉及刑事犯罪。
“平臺有權依據《互聯(lián)網信息服務管理辦法》《電子商務法》以及平臺規(guī)則履行監(jiān)管義務，對違法商家采取封禁賬號、限流等處理措施。如果未及時采取合理措施導致?lián)p害擴大的，對擴大部分與不法商家承擔連帶責任。”付建說。
本文鏈接：AI變聲制造“明星代言”：克隆劉曉慶聲音悄悄帶貨http://www.sq15.cn/show-2-11157-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯(lián)網博主自發(fā)貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯(lián)系，我們將在第一時間刪除處理。