刷臉的時代卻可輕易「換臉」,AI換臉軟件一夜爆紅惹議,支付寶:被換全額補償

2019年8月30日晚間,以中國知名交友APP【陌陌】為主要出資方的某公司,推出了一款換臉APP,一夜之間就火了。

該技術不算創新也不是頂尖,火的主因是讓普通人就可以輕易使用,且衝擊了用戶隱私。

以下是新聞影片:

有刷臉支付功能的支付寶,甚至被迫回應:

8月30日正式上線,8月31日就在蘋果App Store的排名第二。

不過隱私爭議也開始出現。 許多人要求註銷賬號,刪除本地面孔。

部分媒體稱為「一夜爆紅,一天就涼了。」

本文來源:狐貍罐頭

微信id:SOHU_CAN

作者:陳墨

ZAO——這款換臉App——在一天之內,完成了從正式上線、刷爆網絡,到用戶協議備受質疑,再修改條款的全過程。

換臉時代來臨,我們準備好瞭嗎

和其他爆款級App一樣,嘗鮮期很快過去。

不過才過了一天,大家仿佛已經不再討論它了。

AI換臉技術並不少見。

國外有Zepeto、FaceApp,歐巴馬、佐伯格等名人曾遭遇AI換臉,國內有臉萌,年初「楊冪換臉朱茵」刷爆網絡。

  「朱茵換臉楊冪」爆紅視頻製作者:從此大家要知道,爆料視頻也可能是假的(附影片)

此次,比起刷屏風潮,ZAO更備受關注的是,數據隱私、協議條款等安全問題在違法的邊緣試探。

由此,AI換臉技術背後鮮為人知的版權、隱私等問題得到輿論的廣泛討論。

1

你肯定已經被ZAO製作的換臉小視頻轟炸。

各種經典影視劇、搞笑視頻、名場面片段出現在朋友圈,只不過明星、名人的臉換成了你朋友的臉。

換臉時代來臨,我們準備好瞭嗎

▲(換臉蔡徐坤)

ZAO的slogon是,僅需一張照片,出演天下好戲

操作很簡單的。

下載App,手機號登錄;跳到視頻素材界面,素材豐富多彩、眼花撩亂。

你可以選擇換臉合演、換臉演繹名場面,可以用自己的臉玩換裝遊戲,還可以跟愛豆同台飆戲。

換臉時代來臨,我們準備好瞭嗎

▲(ZAO App,換臉步驟)

比如,點進「小燕子打油詩」的名場面,可以選擇替換替換小燕子/皇上,想演誰就演誰。

點進替換,可以選擇手機拍照或者相冊。

了手機拍照後,它會不斷提示你離鏡頭遠一點,像錄制面部識別一樣不斷抬頭、低頭,才能夠實現拍攝。

選擇相冊之後,一張照片只能換臉十次,且不能將視頻分享到朋友圈;還要繼續的話,需要肖像驗證。

肖像驗證,和前面拍照的要求一樣,需要抬頭、低頭、眨眼等操作

OK,上傳一張照片,用AI換臉功能,將短視頻中的演員換成自己的臉,就可以「過足戲癮」。

而且,換臉的融合效果幾乎以假亂真,大家玩得不亦樂乎。

換臉時代來臨,我們準備好瞭嗎

▲(App啟動頁面的換臉演示)

可是,這些操作,不管是本人拍照,還是肖像認證,都讓人想到了支付寶的實名認證和銀行開卡驗證

這樣重要的生物特徵信息就這樣輕而易舉地給了ZAO,一個換臉遊戲的娛樂App?

當然,ZAO給了用戶承諾——

換臉時代來臨,我們準備好瞭嗎

「……完全免費 不可撤銷 永久、可轉授權和可再許可的權利,可以對用戶內容進行全部或部分的修改與編輯……」,堪稱霸王條款

正如法律工作者@法山叔所總結——

換臉時代來臨,我們準備好瞭嗎

正是這份霸王條款式用戶協議引發了關於隱私安全、版權歸屬的爭議。

  AI換臉是網民「報復」的新武器

2

AI換臉並不是什麼新技術。

你肯定還記得不久前火遍全球社交網絡的FaceApp

用戶只要上傳一張正臉照,即可實現一鍵讓人物照片變老。

換臉時代來臨,我們準備好瞭嗎

世界各地的明星等公眾人物爭相在社交平台分享自己的「老年」照片。

換臉時代來臨,我們準備好瞭嗎

換臉時代來臨,我們準備好瞭嗎

▲(李易峰發微博曬變老照)

換臉技術最初起源於deepfake

2017年,在美國論壇Reddit上,一名ID為「Deepfake」的用戶上傳了多段「嫁接」好萊塢女明星臉的色情視頻,引發網民熱烈討論。

換臉時代來臨,我們準備好瞭嗎

▲(其中,情色片女主角的臉被換成蓋爾•加朵)

  AI換臉是網民「報復」的新武器

人們第一次見證了AI換臉技術的強大,眾多受害者投訴。「deepfake」帳號因此被封。

但是,「deepfake」帳號被封殺後,直接開源了其AI換臉項目的代碼。

此後,這項技術就被命名為「deepfake」。

開源的代碼火速傳播,稍微懂點代碼的人,只要收集目標對象的大量照片就可以運用這項技術實現換臉、製作假視頻。

視頻換臉變得輕而易舉。

明星、政界人物等公眾人物最先深受其害。

去年四月,一段美國前總統歐巴馬吐槽特朗普是笨蛋的假視頻在Twitter走紅。

換臉時代來臨,我們準備好瞭嗎

▲(視頻里,歐巴馬說:PresidentTrump is total and complete dipshit.(特朗普總統完全就是個笨蛋。))

不過,這些勁爆的話都不是歐巴馬說的,視頻里的聲音來自2018年奧斯卡拿下最佳原創劇本獎的導演Jordan Peele。

他和另一個兄弟Jonah Peretti一起,自導自演了這麼一出大戲。

換臉時代來臨,我們準備好瞭嗎

▲(右邊是Jordan Peele,這段視頻的(部分)替身演員和聲優。視頻製作的主力工具是Adobe AE和FakeApp。)

今年5月,美國眾議院議長南希•佩洛西的假視頻也在Facebook上廣泛流傳。

視頻中,佩洛西如同喝醉了一般,神志不清,說話磕磕巴巴,舉止奇怪。

換臉時代來臨,我們準備好瞭嗎

▲(南希•佩洛西的假視頻截圖)

馬克•佐伯格也被人惡搞,原因就是Facebook拒絕刪除佩洛西的這段假視頻。

有人利用他以前的視頻通過AI換臉、配音,讓「他」在視頻中大談如何「控制數十億人泄漏的數據」。

換臉時代來臨,我們準備好瞭嗎

國人也很快掌握了「Deepfake」技術。

有人將《射雕英雄傳》里,朱茵扮演的黃蓉換上了楊冪的臉,今年年初刷爆網絡。

換臉時代來臨,我們準備好瞭嗎

換臉時代來臨,我們準備好瞭嗎

▲(楊冪換臉朱茵,以假亂真)

  「朱茵換臉楊冪」爆紅視頻製作者:從此大家要知道,爆料視頻也可能是假的(附影片)

明星、名人是受害重災區,普通人就能幸免於難?

事實上,很多新技術產生之後,最先嗅到商機的往往是一些灰色產業,這次AI換臉術也是如此。

在我們不知的地方,潘多拉魔盒早已開啟。

隨著「Deepfake」技術的進步和普及,普通女性也成為了目標

2018年4月,印度一名女性調查記者RanaAyyub收到一段用她的臉偽造的性愛視頻,對方以此威脅記者的報道,後來視頻在社交網絡上快速傳播,該記者一度崩潰。

《赫芬頓郵報》報道過六名Deepfake的女性受害者,她們的照片未經同意就被置入色情視頻。

在國內,事實上,針對普通人的換臉色情視頻已經形成了一個灰色產業:100元打包200部換臉情色片,囊括國內一二線女明星;5張照片幫你定制換臉視頻,400元就可以購買換臉軟件及教程並包教包會,可為你製作你想制定的任何人的假色情片。

淘寶隨便一搜,只需幾元錢,就能獲得AI換臉軟件和教程,將別人變成色情片主角。

換臉時代來臨,我們準備好瞭嗎

也就是說,只需收集一個人大量的面部信息和一段性愛視頻,就能「移花接木」。

所以,你無法控制你的頭像會被用於何處。

而一波人工智能換臉應用的熱潮已經出現,我們稍不注意就可能掉入陷阱之中。

有大數據專業人士提醒——

換臉時代來臨,我們準備好瞭嗎

除了色情視頻換臉、視頻欺詐,有人已經開始擔心起了支付寶

現在人臉支付,手機人臉解鎖正逐漸普及,如果它擁有你的動態肖像權,那背後可能出現的問題豈不是更令人不堪設想。

據澎湃新聞報道,有數據安全方面專業人士表示——

(此事)值得關注的是人臉識別已經成為實名認證的輔助,比如遠程開戶,對方可以通過眨眼、搖頭等動作來判斷手機前的你是否是活體,但換臉這項技術讓這套邏輯失效了。

因為手機前的人也許是盜用了別人的照片對自己進行了換臉。

這使得支付寶的回復——目前網上各類換臉軟件有很多,但不管換的有多逼真,都是無法突破刷臉支付的——難以令人信服。

換臉技術、換臉假視頻,可能成為未來犯罪新趨勢。

  美國大學技術研究:隨意輸入文字,能讓影片中的人物改念新的對白,細思極恐(附影片)

3

此事也再次強調了解決網絡隱私保護的迫切需要。

一句話總結ZAO用戶協議的核心思想的話,就是:要怪就怪換臉的用戶,技術無罪。

在備受質疑之後,ZAO官方對用戶協議做出了修改。

修改後的用戶協議表示,未經用戶同意,平台不會以任何形式和目的使用用戶的相關內容。

換臉時代來臨,我們準備好瞭嗎

▲(紅框內為「用戶協議」修改後的內容)

但是,改與不改,有什麼差別呢?

用戶的擔憂——自己的肖像被免費使用、修改,甚至是任意出售販賣以作其他用途——不會得到任何緩解。

因為沒有法律法規或者相關機構去監督、約束平台的行為

隨著技術進步的步伐,不計其數的app出現,我們在點下用戶協議、隱私協議下面的那個小小的勾的時候,也出讓了我們的電話號碼、帳戶、密碼、定位、行為記錄,甚至是指紋、面容等生物特徵信息。

換臉時代來臨,我們準備好瞭嗎

▲(人臉識別)

因為各種原因,這類數據會被泄露,比如平台後台被轉賣,有的甚至產生嚴重後果。

近幾年,大型網絡平台用戶帳戶、密碼泄露事件層出不窮,這些數據成為網絡詐騙產業鏈的源頭。

和密碼不同,人臉、聲紋等生物特徵信息是無法改變、不可再生的,一旦被盜用、竊用,會產生極為可怕的社會後果。

有法律專業人士預言,這些生物特徵的數據,可以打造一個完美的犯罪者。

在不久的將來,一個符合所有外觀的「你」或許會通過技術手段,呈現在鏡頭當中,用你的聲音說話,甚至可以通過安全基因檢測。

換臉時代來臨,我們準備好瞭嗎

▲(英劇《黑鏡》以極端的黑色幽默諷刺和探討科技對人類生活產生的影響。)

「黑鏡時代」的到來不是聳人聽聞。

很多國家已經越來越重視對於生物特徵信息的保護

面孔識別在一些地區受到了限制,對於身體隱私的擴大保護目前已經美國、歐盟等部分國家和地區形成了共識。

近日,美國加州議會近日將投票決定,是否在全州範圍內立法禁止警察隨身佩戴的攝像頭的人臉識別技術的使用。

如果通過,將成為繼新罕佈什爾州和俄勒岡州後的第三個州。

ACLU(美國公民自由聯盟)聲明說:如果讓警察使用人臉識別技術的攝像頭,無論是否準確,對社區和民權都是個災難

據BBC新聞27日報道,瑞典一所中學因使用AI人臉識別記錄學生出勤,被罰2萬美元。

換臉時代來臨,我們準備好瞭嗎

在2018年,一所名為Anderstorp\’s的瑞典中學通過人臉識別技術對22名學生進行了為期3周的考勤記錄,也被處以約2萬美元罰款。

盡管這個行為得到了當地教育部門和學生家長的同意,瑞典的數據安全監督部門(DPA)根據歐盟的《數據保護條例》判定,認為當地的中學校委會藐視隱私權、非法擁有生化數據

而國內的情形,我們的用戶,為了便利在無限度出讓自己的隱私。

為了快捷支付、控制智能家居,出讓指紋;為了方便開卡、身份認證,甚至是換臉的娛樂遊戲,出讓動態影像;為了某項基因檢測,出讓我們的血液、唾液樣本。

正如李彥宏所說,「用隱私換便捷」

換臉時代來臨,我們準備好瞭嗎

而那些冗長的、形式化的、用戶基本不看的用戶協議、隱私協議,背後也沒有相關法律法規的監督和約束。

只要不出事,基本等於不存在。

生物特徵信息授權使用的限度在哪里?商業性質、娛樂屬性的App的人臉識別能否得到授權使用?霸王條款的用戶協議是否具有法律效力?……很多問題都懸而未決。

如果這些問題得不到解決,最後出了事買單的還是用戶。

互聯網金融創新的前車之鑒在那兒,不加約束和監管終將「暴雷」。

而個人信息安全「暴雷」,吃的苦肯定比損失金錢來得慘烈。

  「朱茵換臉楊冪」爆紅視頻製作者:從此大家要知道,爆料視頻也可能是假的(附影片)
  AI換臉是網民「報復」的新武器
  美國大學技術研究:隨意輸入文字,能讓影片中的人物改念新的對白,細思極恐(附影片)
  【第一批AI已經開始詐騙】用你的聲音你的臉,說你沒說過的話

閱讀原文