新華社上海5月13日電　題：名人“畫皮”、換臉惡搞,、色情合成——AI視頻換臉技術(shù)濫用調(diào)查

　　新華社記者蘭天鳴

　　隨著AI技術(shù)發(fā)展，視頻換臉技術(shù)門檻降低,，普通人也能制作換臉視頻,。記者調(diào)查發(fā)現(xiàn)，這項技術(shù)被用于惡搞視頻,、色情視頻合成上,，其不良效應(yīng)也引發(fā)了社會的關(guān)注和擔(dān)憂：放任自流，任其“異化”,，可能成為侵害他人合法權(quán)益和危害社會公共安全的工具,。

　　“你要的樣子我都有”，AI“畫皮”只需2.5元

　　“你要的樣子我都有”“男人瞬間變女人,毫無違和感”“用朋友圈視頻就可換臉”……近日,，AI換臉視頻在不少平臺上風(fēng)靡,。記者在嗶哩嗶哩網(wǎng)站搜索“換臉”,，出來的視頻達(dá)千條,。

　　其中，有網(wǎng)友將影視劇中不同演員的臉進(jìn)行互換,；有人將某平臺女主播瞬間“變臉”成不同女明星的樣貌,；還有人則制造“假新聞”，把國外電視節(jié)目嘉賓的臉換成國內(nèi)公眾人物的,，標(biāo)題則為國內(nèi)某某在國外接受采訪……

　　視頻中的人物被換臉后,，幾乎可以“以假亂真”，有網(wǎng)友評論其為“AI畫皮”“有圖未必有真相”“細(xì)思極恐”,。

　　在“deepfake”的貼吧里,，與AI換臉有關(guān)的帖子超過9000條。里面有大量明星換臉視頻的售賣信息,。一個名為“合成聯(lián)盟”的用戶在群里公開售賣換臉色情視頻,，清單里的數(shù)量達(dá)150多部，并稱“白菜價全部只要58元”,。在名為“明星論壇”的論壇上,，有人貼出了多個換臉視頻色情網(wǎng)站網(wǎng)址。

　　記者在淘寶網(wǎng)上搜索“AI換臉”“deepfake”等,，出現(xiàn)了不少換臉軟件售賣信息,，包括“商業(yè)背書視頻”“明星偶像互動視頻”“惡搞視頻”，并號稱“動作逼真清晰”,。有的還提供換臉視頻制作服務(wù),，一個淘寶ID為“專業(yè)定制換臉視頻”的賣家表示，可以代為制作換臉視頻,，三分鐘以內(nèi)的價格為300元,。

　　記者在某二手交易平臺上以2.5元的價格購買了一款名為“fakeapp”的換臉軟件,，根據(jù)教程，導(dǎo)入提供的視頻素材,，只需要按“提取”和“合成”鍵等,，就可以將視頻素材中的人臉進(jìn)行互換，幾乎看不出痕跡,。

　　擅自換臉“一時爽”,，或致違法侵權(quán)

　　“AI換臉技術(shù)原理并不復(fù)雜，AI將多個視頻內(nèi)的人臉特征自動提取并進(jìn)行分類,，再利用編碼技術(shù),，對視頻中的特定位置編碼重構(gòu)合成等即可?！遍L期從事影視換臉業(yè)務(wù)的北京聚力維度科技公司首席技術(shù)官趙天奇介紹,。

　　“以前，相關(guān)制作費(fèi)用每分鐘可達(dá)上百萬元,。隨著一些AI技術(shù)的開源,，換臉制作不僅價格大幅下降，門檻也不斷降低,?！彼f。

　　中國傳媒大學(xué)政治與法律學(xué)院副院長王四新說：“目前,，通過AI技術(shù)深度偽造他人的肖像,、聲音主要用于網(wǎng)絡(luò)‘惡搞’，但仿真效果已逼近真?zhèn)坞y辨的邊界,，隨著技術(shù)發(fā)展,，結(jié)合短視頻形態(tài)的快速傳播，如果使用不當(dāng),，會產(chǎn)生很強(qiáng)的負(fù)面作用,。”

　　近期,，民法典人格權(quán)編草案二審稿對此作出規(guī)定,，任何組織或者個人不得以丑化、污損,，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán),。其他人格權(quán)的許可使用和自然人聲音的保護(hù)，參照適用有關(guān)規(guī)定,。

　　“如果正式通過,，這意味著除法律另有規(guī)定的情況外，如果用他人肖像進(jìn)行AI換臉等，只要未經(jīng)本人同意,，即便沒有營利目的和主觀惡意,，同樣有可能構(gòu)成侵權(quán)?！北本┐髮W(xué)法學(xué)院副院長薛軍說,。

　　他還提醒，侵權(quán)者不要抱有僥幸心理,，即使換臉后不是100%相似,，只要換臉視頻和原視頻能達(dá)到一定相似度，經(jīng)由第三方能夠識別,，就可能被認(rèn)作是侵權(quán),，“如將他人的臉與色情視頻中人物的臉替換，并進(jìn)行傳播,，則涉嫌構(gòu)成傳播淫穢物品罪,，需承擔(dān)相應(yīng)刑事責(zé)任”。

　　AI換臉“雙刃劍” 不能放任自流

　　“AI換臉技術(shù)在影視制作行業(yè)有一定的需求,。有的演員在電影拍攝完成前去世了,，依靠換臉技術(shù)就能在熒幕上‘復(fù)活’?！壁w天奇說,，AI換臉可以實(shí)現(xiàn)演員不在場拍攝,，提升了拍攝效率,，極大節(jié)省了經(jīng)費(fèi)。

　　但是,，有關(guān)專家表示,，應(yīng)當(dāng)保證新技術(shù)被正當(dāng)使用，不能放任自流,，任其“異化”,，成為侵害他人合法權(quán)益和危害社會公共安全的工具。

　　——使用者需秉承善意使用原則,。技術(shù)是中性的,，但使用有正反兩面效應(yīng)，需要避免對新技術(shù)的濫用,。

　　“使用者需要自律,，讓工具能夠在合理合法的用途和目的上使用，需要對法律常識和公序良俗有底線意識,?！毖娬f。

　　——平臺不能只躲在“避風(fēng)港”里。國內(nèi)某大型短視頻應(yīng)用相關(guān)負(fù)責(zé)人告訴記者,，換臉視頻在審核上常常隱蔽性較強(qiáng),，除了涉恐、涉黃等明顯違法視頻外,，比如一般的惡搞視頻,，由于平臺并非是被侵權(quán)主體，缺乏主動作為的動力,。只能是事后用戶舉報后,，再作處理。

　　王四新認(rèn)為,，平臺應(yīng)完善事前處置機(jī)制,，加強(qiáng)對違規(guī)換臉視頻的自動研判與編審，嚴(yán)控問題視頻的分發(fā),，“平臺如果明知視頻違法違規(guī)而不采取措施,，繼續(xù)對他人和社會造成損害，平臺也需承擔(dān)連帶責(zé)任”,。

　　——監(jiān)管要重拳出擊,。王四新建議，監(jiān)管部門對于違法侵權(quán)視頻,，要重點(diǎn)關(guān)注和監(jiān)測,，對可能造成惡劣社會影響、危害國家安全和社會公共利益的換臉視頻,，要嚴(yán)格監(jiān)管,，對違法侵權(quán)行為重拳出擊。

【糾錯】

責(zé)任編輯： 邱麗芳