“主播”變“明星” 騙你沒商量——AI換臉下的扭曲生意鏈

“活躍在巴黎時尚秀場上的明星居然也開始帶貨了”“楊冪、劉亦菲竟然賣起了減肥茶”，消費者在直播間里看得一頭霧水，但卻因“眼見為實”屢屢瘋狂下單，被騙了還渾然不知。

 更有甚者，打著“包教包會”的旗號當(dāng)起了職業(yè)培訓(xùn)師?！芭嘤?xùn)費用”從29.9元到高至上萬元，涵蓋工具，承諾包教包會，消費者交費后才知道所謂的包教包會，是“只售出無售后”。從“AI換臉”到“Sora”，當(dāng)消費者們還沉浸在科技對世界的重塑力上時，有這樣一些商家早已經(jīng)構(gòu)建起了一條低成本牟暴利的灰色產(chǎn)業(yè)鏈。

“主播”變“明星” 騙你沒商量

晚上9點，點進(jìn)電商直播間，“楊冪”和“劉亦菲”竟然賣起了減肥茶，不久后“迪麗熱巴”也加入到直播帶貨中。在短短4個小時的時間里，依靠著“明星同款”“頂流力薦”的標(biāo)簽，直播間內(nèi)的商品銷量已達(dá)上千件。

“追直播追了好幾天，結(jié)果追了個‘李鬼’，簡直欺騙了我的感情和信任?！毕M者李響忿忿不平道。

消費者在觀看直播購物時，會因為對某個明星的喜愛和信任而購買產(chǎn)品。部分商家正是抓住了消費者的這一心理，開始借助AI換臉技術(shù)誘導(dǎo)消費者消費購物。

北京商報記者在實際對比了十余個同類型“明星”直播間后發(fā)現(xiàn)，通常情況下，只要直播間里的“明星”不做過于大幅度的動作，真的很難分辨出真?zhèn)巍?

但只要直播時間一長，仔細(xì)觀察就不難發(fā)現(xiàn)，該直播間內(nèi)的“女明星”如果動作稍大，就會暴露“面具”之下的本來樣貌?；蛘叱霈F(xiàn)“面具”出畫的現(xiàn)象。

當(dāng)眼見也不一定為實，針對疑似“AI換臉”的畫面，消費者如何防范？產(chǎn)業(yè)觀察家陳一凡指出，大面積遮擋臉部，或在臉部前方揮手，將導(dǎo)致人臉檢測失效，消費者可以由此判斷是否應(yīng)用了相關(guān)技術(shù)。

“騙術(shù)”當(dāng)“技術(shù)” 玩多元變現(xiàn)

光直播帶貨還不過癮。如今部分商家還做起了更“高級”的生意，將已經(jīng)爛熟于心的“騙術(shù)”，當(dāng)作“技術(shù)”輸出。

順著某科普博主的賬號，北京商報記者進(jìn)入一個獨立站點，而該博主科普AI技術(shù)的身份背后，掩藏著一條完整的“AI換臉”套餐銷售鏈。

除了售價29.9元的“AI換臉”教程，該博主還提供人臉模型定制。整體定制服務(wù)在2000元至上萬元不等，具體價格視質(zhì)量要求和應(yīng)用場景而定，能夠全流程幫助科技“小白”完成“AI換臉”的一系列操作，實現(xiàn)視頻通話、直播等多個場景下“換臉”。

而服務(wù)于“技術(shù)流”的套餐則更加簡單直接。通過電商平臺直接檢索“AI換臉模型”，無法顯示出相關(guān)結(jié)果，但用于訓(xùn)練人臉模型的src(源視頻)素材包卻可在平臺公開兜售。

素材包售價低至16.8元，最貴的僅29.8元。北京商報記者購買了其中一款素材包，其中約含圖片4000張，大部分是對應(yīng)演員的影視劇截圖和個人照片。而在明星之外，該商家還提供“大眾臉女帶貨主播”“中年男路人”等素材包。

北京商報記者以消費者身份暗訪了某素材包銷售商家，該商家向記者介紹，“如果是純新手，不推薦購買，需要有一定搭建此類模型的基礎(chǔ)”。而在記者的一再追問下，該商家表示，也有可以直接使用的人臉模型，但需要脫離平臺私下購買，女性面孔居多，售價更高，男性面孔較少。

想售后？不支持任何理由退換

這筆存在于“技術(shù)流”層面的交易也并不省心。通過“AI換臉”從事虛擬主播的柒柒談道，“模型用得久了，慢慢出現(xiàn)了一些運行不穩(wěn)定、臉部有鋸齒、表情無法識別的問題，當(dāng)時砸進(jìn)去近萬元做的模型，但商家已經(jīng)聯(lián)系不上了，如果另外找人修改模型，幾乎要重新開始，又是一大筆費用”。

在暗訪中，北京商報記者注意到，幾乎所有的“換臉”明星素材包商家商品詳情，都在商品介紹中寫明：“本店為虛擬產(chǎn)品，下單后自動發(fā)貨，不支持任何理由退款和換貨?！?

聚焦在人臉模型定制服務(wù)上的問題同樣是售后。北京商報記者以咨詢換臉明星進(jìn)行直播帶貨為由與提供人臉模型定制的商家劉先生取得聯(lián)系，對方稱需要預(yù)先支付99元作為定金，隨后可以進(jìn)行一個初步的“換臉嘗試”，看看效果再判斷是否要進(jìn)行進(jìn)一步的需求對接。

當(dāng)涉及如果最終的成品無法達(dá)到滿意的效果如何進(jìn)行售后服務(wù)時，劉先生三緘其口，始終回避交貨后的維護(hù)問題。

消費者趙月告訴北京商報記者，當(dāng)初為了“AI換臉”充了月卡，結(jié)果生成視頻居然需要花168元成為終身會員，到現(xiàn)在平臺卻沒有預(yù)兆地突然下架了“AI換臉”功能。

此類情況并非個例，在黑貓投訴中以“AI換臉”為關(guān)鍵詞檢索，出現(xiàn)了近百條投訴，其中包括“換臉”效果不合心意但平臺不受理退款等。

損害消費者權(quán)益需加強監(jiān)管

對于“AI換臉”所觸碰到的版權(quán)及損害消費者權(quán)益等問題，商家們也紛紛預(yù)先表態(tài)“不背鍋”，在多位提供人臉模型定制服務(wù)的業(yè)務(wù)介紹中，均提到“不接任何違反道德或者法律的相關(guān)業(yè)務(wù)，業(yè)務(wù)范圍僅限于個人娛樂、合法直播領(lǐng)域”。

根據(jù)《民法典》相關(guān)規(guī)定，公民享有肖像權(quán)，這意味著他人不得隨意使用肖像，同樣地，使用明星的臉部圖像也可能涉及到侵犯明星的肖像權(quán)。

北京市中聞律師事務(wù)所律師趙虎指出，如果使用“AI換臉”技術(shù)來制造虛假的代言人形象，誤導(dǎo)消費者購買商品或服務(wù)，那么這種行為就可能構(gòu)成虛假宣傳。同時，人臉作為識別個人身份的重要信息，如果被不當(dāng)使用，也可能涉及到名譽權(quán)的問題，應(yīng)由商家承擔(dān)相應(yīng)的法律責(zé)任。此外，發(fā)生數(shù)據(jù)泄露的情況，需要查明原因并確定責(zé)任，如由于AI工具本身存在缺陷導(dǎo)致的數(shù)據(jù)泄露，那么AI工具的提供者應(yīng)當(dāng)承擔(dān)相應(yīng)的法律責(zé)任。

那么買了假明星帶貨的產(chǎn)品，消費者要不要負(fù)連帶責(zé)任？

對于消費者而言，趙虎進(jìn)一步指出，消費者在購買商品時需保持理性，注意辨別直播間內(nèi)容的真?zhèn)?。?dāng)消費者基于對直播內(nèi)容的信任和興趣進(jìn)行購買，他們通常是受害者，而非責(zé)任方。如果消費者因為商家的虛假宣傳或侵權(quán)行為而遭受損失，有權(quán)向商家維權(quán)，可及時向平臺或相關(guān)部門舉報，維護(hù)自身權(quán)益和市場秩序。

事實上，相關(guān)規(guī)定早已為“AI換臉”劃定了“底線”和“紅線”。2023年起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確，任何組織和個人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，深度合成服務(wù)提供者應(yīng)當(dāng)以顯著方式提示深度合成服務(wù)技術(shù)支持者和使用者承擔(dān)信息安全義務(wù)。

相關(guān)業(yè)內(nèi)人士也向北京商報記者表示，現(xiàn)階段，盡管不少平臺已經(jīng)明確要求商家在使用“AI換臉”技術(shù)時注明身份，以確保AI合成視頻的發(fā)布者身份清晰可辨，但在利益驅(qū)動下，仍存在試圖通過模糊身份來規(guī)避責(zé)任或誤導(dǎo)消費者的商家。

陳一凡指出，新質(zhì)生產(chǎn)力確實以其顛覆性和原創(chuàng)性的特點，為傳統(tǒng)生產(chǎn)格局注入了新的活力，為經(jīng)濟(jì)社會發(fā)展提供了新的動能，催生出眾多新產(chǎn)業(yè)，成為推動社會進(jìn)步的重要力量。新科技的應(yīng)用往往帶來市場的變革，但如果被錯誤使用，可能導(dǎo)致市場信號失真，資源配置不合理。

北京商報沸點調(diào)查小組

（責(zé)任編輯：土火）