“主播”變“明星” 騙你沒商量——AI換臉下的扭曲生意鏈

“活躍在巴黎時尚秀場上的明星居然也開始帶貨了”“楊冪、劉亦菲竟然賣起了減肥茶”，消費者在直播間里看得一頭霧水，但卻因“眼見為實”屢屢瘋狂下單，被騙了還渾然不知。

 更有甚者，打著“包教包會”的旗號當起了職業(yè)培訓師?！芭嘤栙M用”從29.9元到高至上萬元，涵蓋工具，承諾包教包會，消費者交費后才知道所謂的包教包會，是“只售出無售后”。從“AI換臉”到“Sora”，當消費者們還沉浸在科技對世界的重塑力上時，有這樣一些商家早已經(jīng)構(gòu)建起了一條低成本牟暴利的灰色產(chǎn)業(yè)鏈。

“主播”變“明星” 騙你沒商量

晚上9點，點進電商直播間，“楊冪”和“劉亦菲”竟然賣起了減肥茶，不久后“迪麗熱巴”也加入到直播帶貨中。在短短4個小時的時間里，依靠著“明星同款”“頂流力薦”的標簽，直播間內(nèi)的商品銷量已達上千件。

“追直播追了好幾天，結(jié)果追了個‘李鬼’，簡直欺騙了我的感情和信任。”消費者李響忿忿不平道。

消費者在觀看直播購物時，會因為對某個明星的喜愛和信任而購買產(chǎn)品。部分商家正是抓住了消費者的這一心理，開始借助AI換臉技術(shù)誘導消費者消費購物。

北京商報記者在實際對比了十余個同類型“明星”直播間后發(fā)現(xiàn)，通常情況下，只要直播間里的“明星”不做過于大幅度的動作，真的很難分辨出真?zhèn)巍?

但只要直播時間一長，仔細觀察就不難發(fā)現(xiàn)，該直播間內(nèi)的“女明星”如果動作稍大，就會暴露“面具”之下的本來樣貌。或者出現(xiàn)“面具”出畫的現(xiàn)象。

當眼見也不一定為實，針對疑似“AI換臉”的畫面，消費者如何防范？產(chǎn)業(yè)觀察家陳一凡指出，大面積遮擋臉部，或在臉部前方揮手，將導致人臉檢測失效，消費者可以由此判斷是否應用了相關(guān)技術(shù)。

“騙術(shù)”當“技術(shù)” 玩多元變現(xiàn)

光直播帶貨還不過癮。如今部分商家還做起了更“高級”的生意，將已經(jīng)爛熟于心的“騙術(shù)”，當作“技術(shù)”輸出。

順著某科普博主的賬號，北京商報記者進入一個獨立站點，而該博主科普AI技術(shù)的身份背后，掩藏著一條完整的“AI換臉”套餐銷售鏈。

除了售價29.9元的“AI換臉”教程，該博主還提供人臉模型定制。整體定制服務在2000元至上萬元不等，具體價格視質(zhì)量要求和應用場景而定，能夠全流程幫助科技“小白”完成“AI換臉”的一系列操作，實現(xiàn)視頻通話、直播等多個場景下“換臉”。

而服務于“技術(shù)流”的套餐則更加簡單直接。通過電商平臺直接檢索“AI換臉模型”，無法顯示出相關(guān)結(jié)果，但用于訓練人臉模型的src(源視頻)素材包卻可在平臺公開兜售。

素材包售價低至16.8元，最貴的僅29.8元。北京商報記者購買了其中一款素材包，其中約含圖片4000張，大部分是對應演員的影視劇截圖和個人照片。而在明星之外，該商家還提供“大眾臉女帶貨主播”“中年男路人”等素材包。

北京商報記者以消費者身份暗訪了某素材包銷售商家，該商家向記者介紹，“如果是純新手，不推薦購買，需要有一定搭建此類模型的基礎(chǔ)”。而在記者的一再追問下，該商家表示，也有可以直接使用的人臉模型，但需要脫離平臺私下購買，女性面孔居多，售價更高，男性面孔較少。

想售后？不支持任何理由退換

這筆存在于“技術(shù)流”層面的交易也并不省心。通過“AI換臉”從事虛擬主播的柒柒談道，“模型用得久了，慢慢出現(xiàn)了一些運行不穩(wěn)定、臉部有鋸齒、表情無法識別的問題，當時砸進去近萬元做的模型，但商家已經(jīng)聯(lián)系不上了，如果另外找人修改模型，幾乎要重新開始，又是一大筆費用”。

在暗訪中，北京商報記者注意到，幾乎所有的“換臉”明星素材包商家商品詳情，都在商品介紹中寫明：“本店為虛擬產(chǎn)品，下單后自動發(fā)貨，不支持任何理由退款和換貨?！?

聚焦在人臉模型定制服務上的問題同樣是售后。北京商報記者以咨詢換臉明星進行直播帶貨為由與提供人臉模型定制的商家劉先生取得聯(lián)系，對方稱需要預先支付99元作為定金，隨后可以進行一個初步的“換臉嘗試”，看看效果再判斷是否要進行進一步的需求對接。

當涉及如果最終的成品無法達到滿意的效果如何進行售后服務時，劉先生三緘其口，始終回避交貨后的維護問題。

消費者趙月告訴北京商報記者，當初為了“AI換臉”充了月卡，結(jié)果生成視頻居然需要花168元成為終身會員，到現(xiàn)在平臺卻沒有預兆地突然下架了“AI換臉”功能。

此類情況并非個例，在黑貓投訴中以“AI換臉”為關(guān)鍵詞檢索，出現(xiàn)了近百條投訴，其中包括“換臉”效果不合心意但平臺不受理退款等。

損害消費者權(quán)益需加強監(jiān)管

對于“AI換臉”所觸碰到的版權(quán)及損害消費者權(quán)益等問題，商家們也紛紛預先表態(tài)“不背鍋”，在多位提供人臉模型定制服務的業(yè)務介紹中，均提到“不接任何違反道德或者法律的相關(guān)業(yè)務，業(yè)務范圍僅限于個人娛樂、合法直播領(lǐng)域”。

根據(jù)《民法典》相關(guān)規(guī)定，公民享有肖像權(quán)，這意味著他人不得隨意使用肖像，同樣地，使用明星的臉部圖像也可能涉及到侵犯明星的肖像權(quán)。

北京市中聞律師事務所律師趙虎指出，如果使用“AI換臉”技術(shù)來制造虛假的代言人形象，誤導消費者購買商品或服務，那么這種行為就可能構(gòu)成虛假宣傳。同時，人臉作為識別個人身份的重要信息，如果被不當使用，也可能涉及到名譽權(quán)的問題，應由商家承擔相應的法律責任。此外，發(fā)生數(shù)據(jù)泄露的情況，需要查明原因并確定責任，如由于AI工具本身存在缺陷導致的數(shù)據(jù)泄露，那么AI工具的提供者應當承擔相應的法律責任。

那么買了假明星帶貨的產(chǎn)品，消費者要不要負連帶責任？

對于消費者而言，趙虎進一步指出，消費者在購買商品時需保持理性，注意辨別直播間內(nèi)容的真?zhèn)巍．斚M者基于對直播內(nèi)容的信任和興趣進行購買，他們通常是受害者，而非責任方。如果消費者因為商家的虛假宣傳或侵權(quán)行為而遭受損失，有權(quán)向商家維權(quán)，可及時向平臺或相關(guān)部門舉報，維護自身權(quán)益和市場秩序。

事實上，相關(guān)規(guī)定早已為“AI換臉”劃定了“底線”和“紅線”。2023年起施行的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》明確，任何組織和個人不得利用深度合成服務制作、復制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，深度合成服務提供者應當以顯著方式提示深度合成服務技術(shù)支持者和使用者承擔信息安全義務。

相關(guān)業(yè)內(nèi)人士也向北京商報記者表示，現(xiàn)階段，盡管不少平臺已經(jīng)明確要求商家在使用“AI換臉”技術(shù)時注明身份，以確保AI合成視頻的發(fā)布者身份清晰可辨，但在利益驅(qū)動下，仍存在試圖通過模糊身份來規(guī)避責任或誤導消費者的商家。

陳一凡指出，新質(zhì)生產(chǎn)力確實以其顛覆性和原創(chuàng)性的特點，為傳統(tǒng)生產(chǎn)格局注入了新的活力，為經(jīng)濟社會發(fā)展提供了新的動能，催生出眾多新產(chǎn)業(yè)，成為推動社會進步的重要力量。新科技的應用往往帶來市場的變革，但如果被錯誤使用，可能導致市場信號失真，資源配置不合理。

北京商報沸點調(diào)查小組

（責任編輯：土火）