事實上，這項江湖人稱“deepfake”自動換臉的技術出現已經不是壹兩天了，這是壹項依托於 AI 技術的視頻合成工具。早在 2014 年，deepfake 的雛形 " 生成對抗網絡（GAN）" 已經誕生，並在 2016 年孵化出 Face2Face，可以把壹個人的面部表情移植到另壹個人臉上。
這項技術真正進入大眾視野，是因為壹位名為 "deepfakes" 的網友，他在 2017 年將女明星的臉合成在不雅視頻中，並上傳至 Reddit 論壇並引發大量訪問。不過 deepfake 的 AI 換臉技術的代碼已經在 Gitbub 上開源，降低了適用門檻，故而換臉視頻還是普及，在國外已經有不少政要、明星被惡搞。
deepfake 的出現，借助 AI 強大的深度學習能力，極大地降低了技術門檻，能夠做到“換臉自動化”。deepfake 的大致原理分為三步：選擇需要換臉的對象，選擇進行覆蓋的對象，以及 AI 自動生成替換。
其中諸如從原始對象中提取面部信息，進行模型訓練並轉換等難點，都可以通過 AI 的深度學習來完成。搜集到的原始照片和視頻素材越多，AI 的學習樣本就越多，換臉的細節也更逼真。楊冪換臉事件中視頻如此栩栩如生想來也是得益於女演員有較為豐富的影像資料。
隨著科技的發展，AI設計師、AI主播、AI寫作等人工智能在各個行業和領域開花，帶著新技術的優越感，以勢不可擋之勢襲來。技術的革新讓人興奮，但這種不真實感的不可控也讓人細思極恐。
”AI換臉“技術去年就已經在國外大火，有外國網友利用軟件將《神奇女俠》的扮演者蓋爾·加朵的臉，替代到色情片主角上，偽造成壹個以假亂真的小視頻，引發無數網友圍觀。隨後又有很多好萊塢當紅女星慘遭毒手，諸如斯嘉麗·約翰遜、娜塔莉·波特曼、艾瑪·沃特森等，都被網友用“AI 換臉”技術替換掉，是宅男之蜜糖，也是女星之砒霜。更有甚者，用身邊女同學的臉制作小視頻上傳。這些“產品”即便是發布者主動刪除也無法在發達的網絡世界中將之徹底清除。
以上所說的聽起來跟普通人關系不大，讓人有事不關己的錯覺，那就大錯特錯了，換臉技術濫用帶來的不僅僅是道德和倫理問題，還有和每個人都息息相關的安全問題。目前，人臉識別技術已經得到普遍應用，諸如上班打卡、刷臉購物、支付、手機解鎖、抓交通違章等場景，擁有大量的用戶群體。假如有人利用AI 換臉技術在這些領域弄虛作假，人臉識別又無法辨識真偽的話，那麽個人隱私信息、財產等都會被盜，後果難以想象。
有報道稱，瑞士兩位科學家對 deepfake 進行了測評，先後測試了兩套前沿且先進的人臉識別系統：壹個是性能最優的圖像分類模型 VGG，另壹個是基於 Facenet 的算法。結果顯示，AI 分辨真假視頻錯誤率高達 95%！
退壹步講，即便在支付等領域人臉識別技術已經能規避換臉技術帶來的威脅。“AI 換臉”技術在直播、視頻聊天裏都已經能使用，那麽假如有壹天有詐騙份子帶著妳的臉向妳的父母家人要錢呢？AI技術的濫用會使網絡詐騙升級到新的高度，識別能力跟不上將會造成損失。
盡管人們對AI換臉的安全隱患頗感擔憂，但這項技術在影視制作行業仍然有相當大的作用。曾經電影《速度與激情 7》遭遇保羅沃克變故後，為了讓他回歸片方用了替身 + 動態捕捉 +CGI 動畫的方式，以保羅的兩位弟弟為替身，最終讓觀眾在大屏幕上重新看到保羅沃克，避免了其突然逝去造成的影片夭折遺憾。此外，AI換臉技術在技術做後期特效階段也能節省較大的人力物力，提高制作效率。
技術的發展像壹把雙刃劍，嚴格的監管、合理的使用才能真正讓技術推動社會發展，讓生活更智慧便捷。