AI換臉是網民「報復」的新武器

AI換臉是網民「報復」的新武器

本文來源:X博士

微信id:doctorx666

作者:吳少賤

AI換臉是網民「報復」的新武器

B站鬼畜區,惡搞蔡徐坤已經成了少男們發泄創造欲和荷爾蒙的快樂擂台賽。

這個事情的來龍去脈,我們在下文中已經詳細說過,不贅述。

  誰在惡搞蔡徐坤?

不過,其中技術最為牛逼的是換臉UP主,他們用AI換臉技術,可以將蔡徐坤變成任何人,栩栩如生。

網友眼中有些古板的孫悟空六小齡童,在AI換臉的世界中,成了時尚潮男。

AI換臉是網民「報復」的新武器

來源:B站up主 六學世家

雖然我對蔡徐坤不是很熟,但我還是要謝謝蔡徐坤,是他讓我領略了AI換臉的有趣,展開了對AI換臉的學習。

AI換臉,又叫Deepfake,是人工智能的一個分支,如果按族譜算,無人汽車、阿爾法狗、微軟小冰等比較出名的產品,都是Deepfake的哥哥。

但在Deepfake的世界中,身份就是沒有身份,美猴王可以打起籃球,蘇大強可以變成吳彥祖。

來源:梨視頻

能把徐錦江變成海王。

AI換臉是網民「報復」的新武器

還可以復活張國榮。

AI換臉是網民「報復」的新武器

從b站海量up主可以掌握AI換臉來看,這技術看著新穎,實際操作起來,並不深奧。

其實本技術,已經在各個領域沿用許久了。

換臉技術運用最廣泛的領域就是電影,比方說1994年的《阿甘正傳》就用了「原始」的換臉技術,用數字方式,將肯尼迪的影像填充到了電影中,並調節他的表情和肢體語言。

AI換臉是網民「報復」的新武器

如果你仔細關注肯尼迪的脖子,就能看出端倪

而在《速度與激情7》中,雖然沃克不幸在電影拍攝完成前去世了,但依靠換臉技術,通過電腦合成的沃克,還是能生動地出現在螢幕上,與大夥見面。

AI換臉是網民「報復」的新武器

不過,在國外,網友們多是利用deepfake技術來惡搞政壇人物,而非大牌明星。程序員可以換臉歐巴馬,用歐巴馬的口吻談論國事。

AI換臉是網民「報復」的新武器

模仿普金的口吻,也不在話下。

AI換臉是網民「報復」的新武器

甚至就連希拉蕊也成了自己最討厭的模樣。

AI換臉是網民「報復」的新武器

做這個希拉蕊•特朗普的視頻不複雜,僅僅用了一個叫FAKEAPP的軟件,放入圖片、視頻,成了,操作起來十分簡單,就算是不懂得編程的人,只要仔細閱讀使用幫助,也能馬上動手做一個換臉視頻。

  【第一批AI已經開始詐騙】用你的聲音你的臉,說你沒說過的話

AI換臉是網民「報復」的新武器

不過,deepfake第一次廣泛出現在觀眾視線的,並非令人逗樂的鬼畜創作,而是在Pornhub上流行的「deepfake」系列視頻,就是把自己喜歡的女明星的臉,放上色情片女主角臉上。

在這個色情領域,安妮•海瑟薇、艾瑪•沃特森、神奇女俠加爾•蓋朵是被deepfake最多的女星,這里就不放實物圖了。

AI換臉是網民「報復」的新武器

成人片演員跟Kate Mara以及艾瑪沃森換臉

而這些明星換臉視頻的製作源頭,往往指向一個地方——Reddit的deepfake論壇。

AI換臉是網民「報復」的新武器

如今deepfakes論壇,由於色情視頻、色情復仇、隱私侵犯、戀童癖等問題被Reddit給封禁了

這個deepfakes論壇的發展過程,有點像倒過來的馬斯洛需求金字塔。

在初期,少數了解deepfake技術的精英們,為了傳播deepfake技術,創辦了這個論壇,不僅滿足了自己的成就感,也贏得了網友們的尊重。

不過,久而久之,網友們在討論學習的過程中,也發現deepfake技術的黑暗面——可以滿足自己的私欲、性幻想,網友們將自己「夢中情人」的面龐,放到了各色視頻中。

AI換臉是網民「報復」的新武器

色情女星換臉蓋爾•加朵

然而,這種發展卻逐漸異化、病態化了,有的網友直接收集女生照片,用deepfake技術定制色情片了。

AI換臉是網民「報復」的新武器

這位屌絲,得不到自己暗戀的女生,收集了許多她的照片,在各個社區求助,想自己動手做一部換臉黃片。他也在reddit上發過,帖子已經被封了

這種色情癖帖子的傳播,最終很可能會演化出新產物——色情復仇

AI換臉是網民「報復」的新武器

BBC:「deepfake將是色情復仇的新工具」

比方說你憎恨某個人,那你就收集他的照片,用deepfake技術與色情片演員換臉,偽造色情視頻,在網上傳播。

偷窺狂、性報復者,不用提心吊膽地安裝針孔攝像頭了,只要偷拍女性的照片、或者在網上收集,接著利用deepfake技術,就能做出偽造精良的色情視頻。

別說是你的愛豆了,就連你的愛人,要是被懷有惡意的老王盯上了,你能保護你愛人的名譽麼?

給大家講一個案例。

印度記者Rana Ayyub,因為揭露了印度古吉拉特暴亂中官員的黑幕和不作為。

她不僅收到了死亡威脅,她也被色情復仇了。

AI換臉是網民「報復」的新武器

不法分子利用Deepfake技術,將Rana的臉與色情片女主角的臉互換,做成粗糙的短視頻,在Whatsapp上傳播。

而且,許多印度人真的信了,甚至,Rana的家人還拿著視頻來問Rana:「這是你麼?」

AI換臉是網民「報復」的新武器

在印度Whatsapp上流傳的Rana的換臉視頻,據Rana說,整個印度的人都看過了她的換臉視頻

Whatsapp和推特上,不斷地有人來詢問Rana一夜情的報價,也有人用最惡毒的語言咒罵Rana。

AI換臉是網民「報復」的新武器

大意是:「一個婊子跟狗一起死去吧,支持她的垃圾都去哭吧。」

最後,因為社會的壓力,Rana患病住院。

心悸、焦慮、抑鬱、失眠、高血壓、內分泌失調。

而且,印度尚不健全的法律制度,幫不了Rana。

別以為Rana的故事就遠在天邊。

現在的中國明星換臉的視頻已經在這些色情網站上大量存在了,而且售賣視頻已經成了一個地下生意。

AI換臉是網民「報復」的新武器

大家不能低估了人性的惡,想要毀了一個人的人生,只需要一個精美的deepfake色情視頻。

到時候即使某明星證明了該情色換臉視頻是假的,又能怎樣?大眾還是喜歡看熱鬧,各種視頻還是在瘋狂傳播,就像Rana的換臉小視頻一樣。

在正義和人性最卑劣的欲望之間,後者是更容易獲得勝利的。

  「朱茵換臉楊冪」爆紅視頻製作者:從此大家要知道,爆料視頻也可能是假的(附影片)

AI換臉是網民「報復」的新武器

如果看待deepfake還停留在惡搞蔡徐坤、對著明星擼管兒、拍點低成本A片的階段,還不足以概括其中的惡意。

除了色情領域的濫用,Deepfake更大的危害,目前在一片歡聲笑語和淫穢視頻中還沒有顯現,就是deepfake這個成本極低的技術,可以篡改視頻證據。

視頻、照片已經不能算作真實的依據。

一些社交媒體瘋狂的世界,人們無法識別什麼是假新聞。

早在2016年,歐洲刑警組織《網絡有組織犯罪威脅評估報告》中,就已經點明了deepfake犯罪將成為趨勢。

AI換臉是網民「報復」的新武器

而且,現如今,在人工智能的圈子里,出現了Deepfake2.0概念,就是不止要AI換臉,還要能模仿一個人的行為舉止、聲音、習慣、動作。要真的實現了,AI換臉視頻和真人視頻,就根本無法分辨了。

AI換臉是網民「報復」的新武器

史丹佛研究中心的一個研究項目,研究怎麼模仿一個人的口吻和語音

沒準再過十幾個月,一個小黑客就可以輕鬆模擬出川普和妓女的歡愉視頻,或是普京辱罵穆斯林國家的視頻。

這會引起直接的國際爭端和政治大變動。

對於我列舉的可能,大家或許不以為然,想著怎麼可能會有人會上當受騙。

但事實就是在世界的許多地方,尤其是第三世界的窮人們,缺乏辨別是非的能力,他們就非常吃這一套。

AI換臉是網民「報復」的新武器

2018年7月,印度的Rainpada村村民,因為在Whatsapp聽信了拐賣小孩的謠言後,將路過村口與小孩交談的五位陌生人,抓入房間內打死

再比如,deepfake一個馬雲、馬化騰唱衰經濟的視頻,很有可能造成一段時間的市場恐慌拋售,那麼偽造視頻的人可以借此大肆做空獲利。

你的財產就這麼縮水了。

你可能會質疑,市場有這麼蠢麼?

抱歉,這就是事實。

2013年4月23日,美聯社的推特帳號被黑客攻擊,發佈了一條假新聞,說:「號外:白宮發生兩次爆炸,歐巴馬受傷」。

AI換臉是網民「報復」的新武器

這麼容易求證的假新聞,卻導致道瓊斯指數當即暴跌了140多點,在假新聞的衝擊下,瞬間蒸發掉了1365億美元。

直到新聞被證偽,市場才漸漸回歸理性。

而且,這則流言僅僅是假推特罷了,在deepfake2.0的加持之下,有可能川普今天在白宮宣佈核震懾中東,明天普京就在克里姆林宮下令進軍烏克蘭了。

要是假新聞真的在網上流傳了,社會會產生多麼劇烈的反應?又需要多少時間重回正軌?

正如美國共和黨大佬盧比奧說的,deepfake就是核武器。

你只需要具備弄出一段可以以假亂真的虛假視頻來搞亂我們的選舉就行了。

這就足以讓我們的國家陷入巨大的內亂,深深削弱我們。

或許你覺得這個都是大人物的紛爭,與你小民無關。

但作為一個缺乏反制能力的普通人,如果有人想利用deefapke視頻對你進行詐騙,你很難防范。

東歐小國的某個模特,與你視頻聊天,念著你的中文名,變著花樣讓你微信發紅包,要你證明你們的愛情海枯石爛。

AI換臉是網民「報復」的新武器

最近就有一個烏克蘭的女性附著照片給我發郵件,但沒有回復,因為這騙局已經太古老了,在這騙局之前,還有中東王子、非洲公主、南美毒梟都給我發過相親信息了。

但如果她和我視頻聊天呢?

我覺得我可能真的有些心動。

甚至,你的親朋好友的臉也會被替換成勒索視頻中的人質,哭著求你轉帳救人,要是你看到這個視頻,你還能調用理性分辨出真假嗎?

我覺得很難。

抑或者,在一個換臉視頻中,你的臉被放在了犯罪分子身上。

這時候,你又該如何自證清白?

在憤怒的網友面前,告訴大家這不是你?

deepfake這一項技術,是人工智能的一個支流,它既可以給大家帶來樂趣、緬懷逝者,也催生了色情暴力、政治恐慌。

deepfake究竟是造福人類還是一個詛咒呢?

我們誰都不知道,我們只能在這個前途未卜的高速公路上狂奔。

  「朱茵換臉楊冪」爆紅視頻製作者:從此大家要知道,爆料視頻也可能是假的(附影片)
  【賺打工者的錢,操資本家的心】如何成為一名精貴?
  微信流行不到三天的「對罵群」,才剛火就被敏銳的微信官方集體封禁,怎麼回事?

閱讀原文

熱門書籍》美、中開戰的起點: 既有的強權,應該如何對面崛起中的強權?川普時代的美國,應該對中國採取什麼樣的態度?中國與美國,是否終需一戰?