7月18日,南都记者在电商平台发现,一些商家以“动作”“敏捷换脸”“成品”等隐晦关键词叫卖Deepfakes技术制作的淫秽视频,但视频中的女主角却变成了中国知名女星

  • 时间:

【复联4砍美队的头】

而從民事層面看,未經當事人同意,以營利為目的使用公民的肖像,則有侵犯肖像權之嫌。虛假的淫穢視頻,也可能構成名譽侵權。

美國民間組織Revenge Porn的創始人兼首席執行官Katelyn Bowden曾作出鮮明的反對錶態,認為DeepNude這樣的技術不應該向公眾開放。“現在任何人,甚至在根本沒有拍過裸照的情況下,都可能發現自己成了色情的受害者。”她對媒體表示。

除了電商平臺,Deepfakes也在外國的色情網站上大行其道。某知名色情網站2018年便宣佈禁止發佈Deepfakes製作的視頻,但至今仍有用戶上傳涉及中國女明星的換臉視頻,併在標題中公然打出“人工智能換臉”“AI合成”等關鍵詞。這些換臉淫穢視頻均有數十萬瀏覽量,有的甚至超過百萬。

北京京都律師事務所律師金傑指出,使用軟件把他人照片轉為裸照進行傳播,屬於違法侵權行為。“利用軟件將他人照片轉為裸照擴散,既嚴重侵害他人肖像權,也嚴重侵害他人的名譽權,讓公眾誤認為是他人‘春光泄露’,或者有其他不良行為、不良癖好,嚴重損害了他人的人格,也降低了他人的社會評價,是法律所嚴格禁止的。”金傑說。

在全球執法者設法應對的同時,技術人員也在尋求破解之道。今年6月初,有企業在DEF CON CHINA 1.0大會上展示了“打假”成果,研究人員用深度神經網絡來訓練識別算法,識別偽造視頻的準確率超過了90%。6月底,加州大學伯克利分校和南加州大學的研究者也發佈了一項進展,據稱“打假”正確率達到了92%。

Rose告訴媒體,她打算將社交賬戶設為“私密”。

惡意人工智能應用已進入監管視野7月19日,南都記者再次搜索發現,部分賣家已刪除商品鏈接及Deepfakes關鍵詞,但仍有賣家通過頭像提示稱“沒下載的請等兩天后私我”。

南都記者調查發現,與DeepNude相比,另一種使用了類似算法的人工智能技術,Deepfakes,在黑灰產中更受歡迎。不同於前者只能生成裸照,Deepfakes主打“視頻換臉”。此前火爆網絡的“朱茵變楊冪”視頻,便應用了相關技術。

出售軟件是否構成違法?金傑認為,要具體情況具體分析。如果是僅限個人使用並不擴散,不會對他人造成損害,則不構成侵權。如果是出於惡意或者專門出售給某些個人或組織,用於非法目的,則應認定為違法或違規。

由於偽造女性裸照極具道德爭議,DeepNude火了不到一個星期便被開發者下架。6月27日,開發者在推特發佈聲明稱,“從未想到該軟件會得到病毒式傳播”。他承認,儘管軟件生成裸照後會打上“偽造”等遮擋水印,人們濫用軟件的可能性還是很大。“這個世界還沒有做好接受DeepNude的準備。”開發者說。

“視頻換臉”已成產業,不少女星受害

如今,這一風氣也傳到國內。7月18日,南都記者在電商平臺發現,一些商家以“動作”“敏捷換臉”“成品”等隱晦關鍵詞叫賣Deepfakes技術製作的淫穢視頻,但視頻中的女主角卻變成了中國知名女星。

自2017年開始,就有基於Deepfakes的換臉視頻在美國網站流傳。漸漸地,包括“神奇女俠”扮演者蓋爾·加朵、在《復仇者聯盟》飾演“寡姐”的斯嘉麗·約翰遜、《冰與火之歌》中的“Arya”麥茜·威廉姆斯在內,諸多高人氣女演員接連慘遭“毒手”,被合成到了色情淫穢視頻中。儘管有網站宣佈“封殺”,但此類視頻仍在網上層出不窮。

這些視頻合集的售價從18.8元到199元不等。有賣家在商品介紹中寫道,視頻使用了深度學習技術,誤差在0.01甚至0.005,共有280個“精品資源”,總大小在40G左右。該賣家同時貼出的截圖顯示,有買家評論“做得沒破綻”。南都記者註意到,為繞過平臺監管,部分賣家會在發佈一段時間後刪除商品,並通過頭像留下購買提示。

最近,27歲的新加坡女孩Rose(化名)發現,她的社交賬號粉絲量莫名暴漲。如果不是有人聯繫告知,Rose可能永遠不會知道,一年前她在社交賬號上發佈的生活照片,被人改成了裸體照片,如今正在色情網站流傳。

被下架的“脫衣”軟件流入中國今年6月下旬,一款名為“DeepNude”的AI軟件現身網絡。它以人工智能算法為基礎,可以識別並“刪去”照片中人物的衣服,從而把正常照片轉為“裸照”。據外媒測試,原始照片的清晰度越高、女性裸露的肌膚越多,轉換出的“裸照”就越逼真。

有技術人員告訴南都記者,從實踐來看,製作逼真度較高的換臉視頻,至少需要千餘張照片。但目前已出現一些新的技術方法,即便只有一張照片,也可以製作出換臉視頻。

這意味著,不僅是女明星,任何曾在社交媒體上公開過生活照片的女性,都可能成為惡意應用的受害者。

值得註意的是,部分賣家明顯在用話術規避平臺監管。一位賣家在商品介紹中提示,“直接拍,拍完私聊秒發貨”。另一位賣家則聲稱“被禁言了”,在商品介紹中留下了微信號,要求買家加其微信號完成購買。還有的賣家將頭像設置為二維碼,提示買家通過“掃一掃”跳轉進入其他平臺的鏈接購買。

不過,這些尚未正式出台的法律法規,還無法有效阻止DeepNude、Deepfakes及偽造裸照、淫穢視頻的廣泛傳播。

正如新加坡女孩Rose,她的偽造裸照在色情網站流傳,其本人卻毫不知情。據新加坡媒體the Star Online報道,過去幾周內,有數個像Rose一樣的受害者出現。有人盜取了她們的社交媒體照片,通過DeepNude篡改後發上色情網站。並且,這些照片還在被不停地重新編輯,變得越來越多。

北京莫少平律師事務所律師莫少平說,商家在網上兜售換臉淫穢視頻,肯定屬於違法行為。根據情節不同,輕則違反《治安管理處罰條例》,重則觸犯《刑法》,構成犯罪。

有技術人員正尋求辦法識別偽造視頻

一套人工智能算法,數十張正常的生活照,二者結合,就能憑空生成一個女性的裸體照片,甚至把她的臉移花接木到淫穢視頻女優身上。類似的事情正在中國發生,多位知名女明星也中招,成為不法賣家的牟利工具。

5月底,國家網信辦會同有關部門發佈《數據安全管理辦法(征求意見稿)》,其中要求,“網絡運營者利用大數據、人工智能等技術自動合成新聞、博文、帖子、評論等信息,應以明顯方式標明‘合成’字樣;不得以謀取利益或損害他人利益為目的自動合成信息”。

按照《治安管理處罰條例》,製作、複製、出售、出租或者傳播淫書、淫畫、淫穢錄像或者其他淫穢物品的,處十五日以下拘留。《刑法》中則規定,“製作、複製、出版、販賣、傳播淫穢物品牟利罪”與“傳播淫穢物品罪”,對構成犯罪的追究刑事責任。

用技術作惡的人似乎總是比倫理和法律跑得快。在法律和技術尚無有效應對之道的當下,女性不得不更加保守和謹慎地對待社交網絡。

7月18日,南都記者檢索發現,在某電商平臺,“DeepNude破解版”“無水印版”的售價在3.99元到10元不等。但根據該電商平臺社區規則,用戶不得發佈色情低俗信息,也不得發佈侵犯他人商標權、著作權、專利權的信息。按這些規則判斷,DeepNude無疑屬於違規交易物品。

開發者還表示,肯定會有DeepNude的部分副本在網上流傳,如果有人從其他地方下載、分享這些副本,將違反DeepNude官網的使用條款——如今,這一判斷成為了現實。對於盜版者而言,“違反使用條款”的警告絲毫沒有震懾力。

DeepNude官網關閉後,各種版本的軟件先是在開源社區GitHub上流傳。7月10日,GitHub全面封禁了類似項目的代碼庫。但DeepNude依然流入中國,併在各種社區和雲盤內悄然擴散,甚至有電商平臺商家打出“DeepNude破解版”“無水印”的名號售賣該軟件牟利。

種種新政表明,監管層已註意到以Deepfakes為代表的惡意的人工智能應用。今年4月提交十三屆全國人大常委會第十次會議審議的民法典人格權分編擬規定,任何組織或個人不得以利用信息技術手段偽造的方式侵害他人的肖像權。

“是的,這不是你真正的私處,但別人會以為他們看到了你的裸體。一個Deepfakes的受害者曾告訴我,她覺得有上千人看到了她的裸體,她的身體好像不再是自己的了。”馬裡蘭大學法學院教授Danielle Citron在接受外媒採訪時說。