北京快三一定牛走图:名人“畫皮” 換臉惡搞 色情合成——AI視頻換臉技術濫用調查

2019-05-14 08:54:43 來源: 大武夷新聞網 作者:□新華社記者 蘭天鳴

北京快三快三走势图 www.uelbr.icu 隨著AI技術發展,視頻換臉技術門檻降低,普通人也能制作換臉視頻。記者調查發現,這項技術被用于惡搞視頻、色情視頻合成上,其不良效應也引發了社會的關注和擔憂:放任自流,任其“異化”,可能成為侵害他人合法權益和危害社會公共安全的工具。

“你要的樣子我都有”,AI“畫皮”只需2.5元

“你要的樣子我都有”“男人瞬間變女人,毫無違和感”“用朋友圈視頻就可換臉”……近日,AI換臉視頻在不少平臺上風靡。記者在嗶哩嗶哩網站搜索“換臉”,出來的視頻達千條。

其中,有網友將影視劇中不同演員的臉進行互換;有人將某平臺女主播瞬間“變臉”成不同女明星的樣貌;還有人則制造“假新聞”,把國外電視節目嘉賓的臉換成國內公眾人物的,標題則為國內某某在國外接受采訪……

視頻中的人物被換臉后,幾乎可以“以假亂真”,有網友評論其為“AI畫皮”“有圖未必有真相”“細思極恐”。

在“deepfake”的貼吧里,與AI換臉有關的帖子超過9000條。里面有大量明星換臉視頻的售賣信息。一個名為“合成聯盟”的用戶在群里公開售賣換臉色情視頻,清單里的數量達150多部,并稱“白菜價全部只要58元”。在名為“明星論壇”的論壇上,有人貼出了多個換臉視頻色情網站網址。

記者在淘寶網上搜索“AI換臉”“deepfake”等,出現了不少換臉軟件售賣信息,包括“商業背書視頻”“明星偶像互動視頻”“惡搞視頻”,并號稱“動作逼真清晰”。有的還提供換臉視頻制作服務,一個淘寶ID為“專業定制換臉視頻”的賣家表示,可以代為制作換臉視頻,三分鐘以內的價格為300元。

記者在某二手交易平臺上以2.5元的價格購買了一款名為“fakeapp”的換臉軟件,根據教程,導入提供的視頻素材,只需要按“提取”和“合成”鍵等,就可以將視頻素材中的人臉進行互換,幾乎看不出痕跡。

擅自換臉“一時爽”,或致違法侵權

“AI換臉技術原理并不復雜,AI將多個視頻內的人臉特征自動提取并進行分類,再利用編碼技術,對視頻中的特定位置編碼重構合成等即可?!背て詿郵掠笆踴渙騁滴竦謀本┚哿ξ瓤萍脊臼紫際豕僬蘊炱娼檣?。

“以前,相關制作費用每分鐘可達上百萬元。隨著一些AI技術的開源,換臉制作不僅價格大幅下降,門檻也不斷降低?!彼?。

中國傳媒大學政治與法律學院副院長王四新說:“目前,通過AI技術深度偽造他人的肖像、聲音主要用于網絡‘惡搞’,但仿真效果已逼近真偽難辨的邊界,隨著技術發展,結合短視頻形態的快速傳播,如果使用不當,會產生很強的負面作用?!?/p>

近期,民法典人格權編草案二審稿對此作出規定,任何組織或者個人不得以丑化、污損,或者利用信息技術手段偽造等方式侵害他人的肖像權。其他人格權的許可使用和自然人聲音的?;?,參照適用有關規定。

“如果正式通過,這意味著除法律另有規定的情況外,如果用他人肖像進行AI換臉等,只要未經本人同意,即便沒有營利目的和主觀惡意,同樣有可能構成侵權?!北本┐笱Хㄑг焊痹撼ぱ?。

他還提醒,侵權者不要抱有僥幸心理,即使換臉后不是100%相似,只要換臉視頻和原視頻能達到一定相似度,經由第三方能夠識別,就可能被認作是侵權,“如將他人的臉與色情視頻中人物的臉替換,并進行傳播,則涉嫌構成傳播淫穢物品罪,需承擔相應刑事責任”。

AI換臉“雙刃?!?不能放任自流

“AI換臉技術在影視制作行業有一定的需求。有的演員在電影拍攝完成前去世了,依靠換臉技術就能在熒幕上‘復活’?!閉蘊炱嫠?,AI換臉可以實現演員不在場拍攝,提升了拍攝效率,極大節省了經費。

但是,有關專家表示,應當保證新技術被正當使用,不能放任自流,任其“異化”,成為侵害他人合法權益和危害社會公共安全的工具。

——使用者需秉承善意使用原則。技術是中性的,但使用有正反兩面效應,需要避免對新技術的濫用。

“使用者需要自律,讓工具能夠在合理合法的用途和目的上使用,需要對法律常識和公序良俗有底線意識?!毖?。

——平臺不能只躲在“避風港”里。國內某大型短視頻應用相關負責人告訴記者,換臉視頻在審核上常常隱蔽性較強,除了涉恐、涉黃等明顯違法視頻外,比如一般的惡搞視頻,由于平臺并非是被侵權主體,缺乏主動作為的動力。只能是事后用戶舉報后,再作處理。

王四新認為,平臺應完善事前處置機制,加強對違規換臉視頻的自動研判與編審,嚴控問題視頻的分發,“平臺如果明知視頻違法違規而不采取措施,繼續對他人和社會造成損害,平臺也需承擔連帶責任”。

——監管要重拳出擊。王四新建議,監管部門對于違法侵權視頻,要重點關注和監測,對可能造成惡劣社會影響、危害國家安全和社會公共利益的換臉視頻,要嚴格監管,對違法侵權行為重拳出擊。 (新華社上海5月13日電)

□新華社記者 蘭天鳴

[責任編輯:姚心妮]
五分快三计划软件下载 十一选五怎么追号稳赚 北京pk10高手看走势 安徽时时平台哪个好 斗牛看牌抢庄20元场 11选5任7胆拖多少钱 看和值判断大小 时时彩后三包胆是什么 内部人员揭秘网赌控制结果 百灵百人牛牛经典版 即时比分足球赛比分直播 看牌抢庄规则 重庆时时彩一直跟34567 重庆时时历史开奖记录 牌九玩法图解 pt真人娱乐开户