你在網絡直播間看到的正在帶貨的名人明星是真人嗎？未必。近期，小米集團創始人雷軍建議加強“AI換臉擬聲”違法侵權重災區治理，再次引發公眾對AI數字人使用的討論。
去年以來，AI生成的數字人大量“占領”電商平臺，有的靠“圖”預售、以次充好，還有的用AI數字人仿冒名人外貌及聲音為一些“神藥”“神器”背書，短時間內賣出巨額大單。在這背后，一套從肖像、配音，到文案生成的AI數字人帶貨制作流程充斥網絡，帶來眾多監管難題。
專家表示，利用AI數字場景直播帶貨是電商發展的新趨勢，但在發展前期，一些不法商家利用監管漏洞侵害了消費者權益，建議盡快完善法律法規，強化平臺責任，設定AI數字場景使用邊界，防止AI“賦能”變AI“負能”。
一場“眼見是否為實”的暗戰
蘭州市民崔女士近日在網絡直播間購買了一件春季薄款毛衫。商品頁面中模特展示這款毛衫的面料細膩柔軟，穿在身上得體優雅，她感覺自己的身材也像模特一樣屬于偏瘦類型，于是下單。而收到實物后卻發現，這件毛衫材質既不細膩也不柔軟，裁剪還很粗糙，她深感上當受騙。
經過與售后一番費盡周折的交流，崔女士得知，該模特其實是AI生成的“數字人”，面料的視覺效果都經過了AI技術的“渲染”。
甘肅慧聯信息科技發展有限責任公司總經理王雪蓮已有十多年電商從業經歷。她告訴記者，雇用模特試穿拍照是服裝電商行業的傳統做法，但AI數字模特的迷惑性在于它可以通過參數設置，生成“九頭身”“馬甲線”理想化身材，并借助AI渲染技術消除衣服褶皺、增強光澤感和飄逸靈動感，使廉價的面料呈現出昂貴質感，讓消費者誤判服裝的實際效果。
崔女士的購物經歷并非個例。記者調查發現，在直播帶貨領域，AI數字人通過仿真的面部形象、聲音和精心的場景布置，其迷惑性讓消費者防不勝防。
更有甚者，有商家將名人明星換臉為數字人“平替”。去年以來，“AI換臉楊冪”直播賣化妝品、“AI古天樂”代言游戲等AI數字人仿冒名人話題頻頻登上熱搜。今年春節期間，更有不法商家生成“AI張文宏”，“嚴肅認真地在直播間賣蛋白棒”，從開播到被舉報關停，短時間內賣出了1200多單商品。
除了借用名人效應外，一些商家用AI技術打造數字人人設，如“成功女企業家”“單親媽媽”“帶娃寶媽”“知性美女”“美妝達人”等，利用特定人群的同理心直播帶貨。而在保健品、藥品、化妝品、醫療輔助器械“三品一械”領域，精心打造的數字人面向老年人、學生等辨別能力弱的群體，大肆夸大產品功效，快速斂財。
AI數字營銷監管“網眼大”
針對AI數字人仿冒名人直播帶貨、AI換臉詐騙等違法行為，國家網信辦已出臺《人工智能生成合成內容標識辦法（征求意見稿）》，并開展網絡清朗行動等專項行動約束管理。
然而，對于正處在發展初期的AI數字營銷，一些專家表示，從法治層面到平臺監管，還存在諸多漏洞。
記者在某平臺上輸入“AI數字人直播教學”等關鍵詞，搜索出成千上萬個教程，學費從幾十元到數百元不等，還有的甚至免費。
記者聯系一位收費教程博主，其稱“三分鐘教會搭建AI數字人直播間”，并承諾“一天可以做近百個數字作品，都能通過原創審核”。
蘭州大學信息科學與工程學院副教授劉忻表示，AI技術發展迅速且具有技術門檻低、隱蔽性強、更新迭代快的特點，隨著開源工具的普及，普通人僅需少量數據即可生成逼真的仿冒內容，而且傳播速度快、范圍廣。當前，從數據采集、AI模型訓練到虛假賬號運營，已形成分工明確的產業鏈。
甘肅政法大學民商經濟法學院副教授盛玉華表示，利用AI仿冒他人形象直播帶貨或從事其他違法經營行為，違反了廣告法、個人信息保護法等多部法律法規，但面對AI數字人營銷騙局，當前最大的難點不是“無法可依”，而是“有法難依”。
盛玉華說，AI數字人虛假營銷涉及技術提供方、內容生成者、直播平臺、商家等多方，現有法律未明確各方責任劃分，導致在實際執法過程中難以準確適用法律。
針對AI數字人誤導消費者風險，2024年某平臺優化了對AI主播的識別能力，累計處理超17萬個錄播直播間，封閉3萬多個賬號，打擊2800多個黑商團伙。但從平臺管理來看，仍存盲區，審核機制還有待完善。
蘭州大學管理學院副教授王洪鵬說，此前該平臺通過博主的粉絲量來設計帶貨門檻，隨后這一規定被取消，直播帶貨門檻降低，也為AI數字人虛假營銷提供了可乘之機。
多方發力加強引導 促AI數字營銷健康發展
在王雪蓮、盛玉華等業內人士和受訪專家看來，從長遠來看，AI數字營銷將會革新傳統的電商銷售模式，賦能消費領域和銷售環節，給市場帶來更多更好的體驗。
事實上，目前AI數字人已在多個領域提升電商銷售發展水平。在服裝電商行業，AI數字技術正通過數據挖掘、視覺算法和個性化推薦，提升關聯銷售水平，如有的平臺推出AI搭配和AI試衣間，用戶在平臺內創建虛擬形象后，AI就會幫助顧客生成多種穿搭方案，直接鏈接到關聯商品，大幅提升商品關聯銷售額。
而當前出現的各類AI數字人虛假營銷，是AI賦能網絡直播銷售發展初期，監管機制不完善的階段性產物。“當務之急是要從法律層面補齊監管漏洞。”盛玉華說，首先要明確AI生成內容的法律性質和責任歸屬，厘清技術提供方、內容提供者、平臺、商家等多方主體的責任邊界，提高法律可操作性。
業內人士建議，在刑法、網絡安全法等法律框架下，對利用AI技術編造傳播虛假信息，實施詐騙、誹謗、侵害肖像權等行為，細化法律適用規則，加大懲處力度。
同時，要持續強化平臺責任，健全內容審核機制。例如利用技術手段，對直播和商品信息進行監測，及時發現和處理AI虛假營銷行為。可通過在AI直播間標注類似“AI直播注意鑒別”等字樣，把知情權、選擇權交給消費者。
王雪蓮等認為，對于AI數字賦能網絡銷售這一新事物，相關部門要加強對消費者的AI素養宣傳教育，提升其認知能力，并不斷完善在AI數字人大規模發展背景下消費者投訴舉報機制，降低維權成本，讓消費者從“技術弱勢方”轉變為“監督主力軍”，打破“維權難、違法易”的惡性循環。
你在網絡直播間看到的正在帶貨的名人明星是真人嗎？未必。近期，小米集團創始人雷軍建議加強“AI換臉擬聲”違法侵權重災區治理，再次引發公眾對AI數字人使用的討論。
去年以來，AI生成的數字人大量“占領”電商平臺，有的靠“圖”預售、以次充好，還有的用AI數字人仿冒名人外貌及聲音為一些“神藥”“神器”背書，短時間內賣出巨額大單。在這背后，一套從肖像、配音，到文案生成的AI數字人帶貨制作流程充斥網絡，帶來眾多監管難題。
專家表示，利用AI數字場景直播帶貨是電商發展的新趨勢，但在發展前期，一些不法商家利用監管漏洞侵害了消費者權益，建議盡快完善法律法規，強化平臺責任，設定AI數字場景使用邊界，防止AI“賦能”變AI“負能”。
一場“眼見是否為實”的暗戰
蘭州市民崔女士近日在網絡直播間購買了一件春季薄款毛衫。商品頁面中模特展示這款毛衫的面料細膩柔軟，穿在身上得體優雅，她感覺自己的身材也像模特一樣屬于偏瘦類型，于是下單。而收到實物后卻發現，這件毛衫材質既不細膩也不柔軟，裁剪還很粗糙，她深感上當受騙。
經過與售后一番費盡周折的交流，崔女士得知，該模特其實是AI生成的“數字人”，面料的視覺效果都經過了AI技術的“渲染”。
甘肅慧聯信息科技發展有限責任公司總經理王雪蓮已有十多年電商從業經歷。她告訴記者，雇用模特試穿拍照是服裝電商行業的傳統做法，但AI數字模特的迷惑性在于它可以通過參數設置，生成“九頭身”“馬甲線”理想化身材，并借助AI渲染技術消除衣服褶皺、增強光澤感和飄逸靈動感，使廉價的面料呈現出昂貴質感，讓消費者誤判服裝的實際效果。
崔女士的購物經歷并非個例。記者調查發現，在直播帶貨領域，AI數字人通過仿真的面部形象、聲音和精心的場景布置，其迷惑性讓消費者防不勝防。
更有甚者，有商家將名人明星換臉為數字人“平替”。去年以來，“AI換臉楊冪”直播賣化妝品、“AI古天樂”代言游戲等AI數字人仿冒名人話題頻頻登上熱搜。今年春節期間，更有不法商家生成“AI張文宏”，“嚴肅認真地在直播間賣蛋白棒”，從開播到被舉報關停，短時間內賣出了1200多單商品。
除了借用名人效應外，一些商家用AI技術打造數字人人設，如“成功女企業家”“單親媽媽”“帶娃寶媽”“知性美女”“美妝達人”等，利用特定人群的同理心直播帶貨。而在保健品、藥品、化妝品、醫療輔助器械“三品一械”領域，精心打造的數字人面向老年人、學生等辨別能力弱的群體，大肆夸大產品功效，快速斂財。
AI數字營銷監管“網眼大”
針對AI數字人仿冒名人直播帶貨、AI換臉詐騙等違法行為，國家網信辦已出臺《人工智能生成合成內容標識辦法（征求意見稿）》，并開展網絡清朗行動等專項行動約束管理。
然而，對于正處在發展初期的AI數字營銷，一些專家表示，從法治層面到平臺監管，還存在諸多漏洞。
記者在某平臺上輸入“AI數字人直播教學”等關鍵詞，搜索出成千上萬個教程，學費從幾十元到數百元不等，還有的甚至免費。
記者聯系一位收費教程博主，其稱“三分鐘教會搭建AI數字人直播間”，并承諾“一天可以做近百個數字作品，都能通過原創審核”。
蘭州大學信息科學與工程學院副教授劉忻表示，AI技術發展迅速且具有技術門檻低、隱蔽性強、更新迭代快的特點，隨著開源工具的普及，普通人僅需少量數據即可生成逼真的仿冒內容，而且傳播速度快、范圍廣。當前，從數據采集、AI模型訓練到虛假賬號運營，已形成分工明確的產業鏈。
甘肅政法大學民商經濟法學院副教授盛玉華表示，利用AI仿冒他人形象直播帶貨或從事其他違法經營行為，違反了廣告法、個人信息保護法等多部法律法規，但面對AI數字人營銷騙局，當前最大的難點不是“無法可依”，而是“有法難依”。
盛玉華說，AI數字人虛假營銷涉及技術提供方、內容生成者、直播平臺、商家等多方，現有法律未明確各方責任劃分，導致在實際執法過程中難以準確適用法律。
針對AI數字人誤導消費者風險，2024年某平臺優化了對AI主播的識別能力，累計處理超17萬個錄播直播間，封閉3萬多個賬號，打擊2800多個黑商團伙。但從平臺管理來看，仍存盲區，審核機制還有待完善。
蘭州大學管理學院副教授王洪鵬說，此前該平臺通過博主的粉絲量來設計帶貨門檻，隨后這一規定被取消，直播帶貨門檻降低，也為AI數字人虛假營銷提供了可乘之機。
多方發力加強引導 促AI數字營銷健康發展
在王雪蓮、盛玉華等業內人士和受訪專家看來，從長遠來看，AI數字營銷將會革新傳統的電商銷售模式，賦能消費領域和銷售環節，給市場帶來更多更好的體驗。
事實上，目前AI數字人已在多個領域提升電商銷售發展水平。在服裝電商行業，AI數字技術正通過數據挖掘、視覺算法和個性化推薦，提升關聯銷售水平，如有的平臺推出AI搭配和AI試衣間，用戶在平臺內創建虛擬形象后，AI就會幫助顧客生成多種穿搭方案，直接鏈接到關聯商品，大幅提升商品關聯銷售額。
而當前出現的各類AI數字人虛假營銷，是AI賦能網絡直播銷售發展初期，監管機制不完善的階段性產物。“當務之急是要從法律層面補齊監管漏洞。”盛玉華說，首先要明確AI生成內容的法律性質和責任歸屬，厘清技術提供方、內容提供者、平臺、商家等多方主體的責任邊界，提高法律可操作性。
業內人士建議，在刑法、網絡安全法等法律框架下，對利用AI技術編造傳播虛假信息，實施詐騙、誹謗、侵害肖像權等行為，細化法律適用規則，加大懲處力度。
同時，要持續強化平臺責任，健全內容審核機制。例如利用技術手段，對直播和商品信息進行監測，及時發現和處理AI虛假營銷行為。可通過在AI直播間標注類似“AI直播注意鑒別”等字樣，把知情權、選擇權交給消費者。
王雪蓮等認為，對于AI數字賦能網絡銷售這一新事物，相關部門要加強對消費者的AI素養宣傳教育，提升其認知能力，并不斷完善在AI數字人大規模發展背景下消費者投訴舉報機制，降低維權成本，讓消費者從“技術弱勢方”轉變為“監督主力軍”，打破“維權難、違法易”的惡性循環。
本文鏈接：打造“完美主播”、暗設消費陷阱，AI營銷邊界在哪http://www.sq15.cn/show-2-11201-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇： 從修“腦殼”到造“腦機”的人
下一篇： 算法淪為算計，消費者如何反“殺熟”