壹面是狂歡，壹面是背叛。
文 | Eva
微信朋友圈、微博、抖音……過去壹周的各大社交媒體平臺上，商量好了壹樣地紛紛“中邪”，壹打開，就仿佛捅了螞蟻窩，盡是“螞蟻呀嘿，螞蟻呀呼，螞蟻呀哈，螞蟻呀哈哈......”的洗腦魔音，搭配誇張扭動的變臉視頻。
原來，網友們只需將照片導入壹款名為Avatarify的AI換臉軟件中，這些照片即會被算法驅動，變成壹段跟著節奏晃動的視頻。靈魂BGM、反差萌效果、傻瓜式操作，勾得眾人心癢難耐，爭先恐後地上陣壹試。
可惜好景不長。火爆全網的Avatarify軟件從2月底沖上蘋果App Store免費榜第壹，到3月2日淩晨從App Store中國區悄然下架，只存活了寥寥數天工夫。目前，官方尚未給出具體下架原因，而業界與網友猜測該款軟件或涉及隱私安全及版權等問題。
為什麽是Avatarify火了？
Avatarify這款軟件壹度火到什麽程度？
據東方網，移動應用數據分析平臺七脈數據顯示，2月25日0點，Avatarify在中國區App Store的免費App榜單僅排名第65，而到了當日下午5點，Avatarify躥升至免費榜第壹名，並壹直持續到3月1日。
直到3月5日，抖音#螞蟻呀嘿#相關話題播放總量已超29億次，特效被 785 萬人使用。
四大天王版“螞蟻呀嘿”
德雲社版“螞蟻呀嘿”
據悉，Avatarify的名稱來源於“阿凡達”電影，創作者是壹位開發工程師，最初只是因為疫情期間太過無聊，才開發了這款變臉應用並將其開源。
事實上，Avatarify早在去年7月就已經上線，但壹直不溫不火，直至“螞蟻呀嘿”特效躥紅，這款軟件方出了圈、上了天。
此處簡單科普下：AI如何讓人臉跟著音樂擠眉弄眼動起來？這裏頭需要壹個叫做壹階運動模型 （First Order Motion Model）的技術來搞定，其原理借鑒了意大利特倫托大學的壹項入選了“NIPS（Neural Information Processing Systems，神經信息處理系統大會，是壹個關於機器學習和計算神經科學的國際會議）2019”的研究。
在此之前，這種AI特效必須具備壹定的計算機能力才可以實現。比如，壹張名人照片和壹個妳說話的視頻，就可以讓夢露學妳說話。
還有，印度程序員開發的實時動畫特效。妳壹動，蒙娜麗莎跟著妳壹起動。
而這回的Avatarify，讓不會編程的人也能爽到，難怪讓網友如此瘋魔。
為什麽Avatarify又涼得這麽快？
另有媒體報道指出，Avatarify采用的技術，與早前國外壹款開源的AI換臉軟件“DeepFakes”極為相似。“DeepFakes”的核心技術是壹種名為生成式對抗網絡（GAN）的框架，該網絡有兩個模塊，壹個負責生成偽圖，另壹個負責鑒別生成圖片的質量，通過“對抗博弈”的方式不斷進化，達到以假亂真的水平。
註意，2017年Reddit上的“DeepFakes”賬號，上傳了把女星蓋爾·加朵的臉合成到成人影片女演員身上的視頻，給受害者直接帶來名譽損害，曾掀起軒然大波。後續的DeepNude應用，亦可以通過換臉來間接脫掉女性的衣服。而隨著桌面應用程序FakeApp的出現，普通網民也能簡單制作換臉假視頻，互聯網上的假臉視頻開始廣泛流傳。有人把AI換臉技術用來惡搞政客，錄制出以政客面容發表離譜演講的視頻等等，壹時烏煙瘴氣，最終導致多個網站禁止用戶使用這項技術。到了2019年，壹款陌陌系出品的AI換臉軟件“ZAO”再掀是非：用戶只要上傳自拍照，便可將自己“變成”影視片段的主角，並將這些“換過頭”的視頻片段，上傳各大社交平臺，引發病毒式傳播。此後，鑒於用戶隱私協議不規範，存在數據泄露風險等網絡數據安全問題，“ZAO”涼得挺快，被工信部約談。
許多人猜測，Avatarify從中國區App Store下架，大概是在復制“ZAO”的可悲命運，即壹旦涉及隱私安全等問題，基本要涼。
演示人員：您現在看到的這段視頻，就是利用深度合成中的表情操縱的方法生成的壹段偽造的視頻。就是說我們可以操縱壹張圖片，讓它做出和右邊這個視頻壹樣的動作來。比如說點頭、搖頭、說話。可以用於攻擊人臉識別系統的這種場景當中。
但是，目前在App Store上，還有壹批“螞蟻呀嘿同款特效”的App。
近年來，圍繞人臉識別的爭議不斷。由全國信息安全標準化技術委員會等機構發布的《人臉識別應用公眾調研報告（2020）》顯示，有九成以上的受訪者使用過人臉識別，有六成受訪者認為人臉識別技術有濫用趨勢，還有三成受訪者稱已經因為人臉信息被泄露和濫用而遭受到隱私或財產損失。
用戶的個人信息安全問題已經引起了有關部門的重視。2019年11月底，國家網信辦、文旅部和廣電總局等三個部門聯合發布了《網絡音視頻信息服務管理規定》。
其中第九條指出，任何組織和個人不得利用網絡音視頻信息服務以及相關信息技術從事危害國家安全、破壞 社會 穩定、擾亂 社會 秩序、侵犯他人合法權益等法律法規禁止的活動，不得制作、發布、傳播煽動顛覆國家政權、危害政治安全和 社會 穩定、網絡謠言、淫穢色情，以及侵害他人名譽權、肖像權、隱私權、知識產權和其他合法權益等法律法規禁止的信息內容。
第十壹條指出，網絡音視頻信息服務提供者和網絡音視頻信息服務使用者利用基於深度學習、虛擬現實等的新技術新應用制作、發布、傳播非真實音視頻信息的，應當以顯著方式予以標識。網絡音視頻信息服務提供者和網絡音視頻信息服務使用者不得利用基於深度學習、虛擬現實等的新技術新應用制作、發布、傳播虛假新聞信息。轉載音視頻新聞信息的，應當依法轉載國家規定範圍內的單位發布的音視頻新聞信息。
第十三條指出，網絡音視頻信息服務提供者應當建立健全辟謠機制，發現網絡音視頻信息服務使用者利用基於深度學習、虛擬現實等的虛假圖像、音視頻生成技術制作、發布、傳播謠言的，應當及時采取相應的辟謠措施，並將相關信息報網信、文化和 旅遊 、廣播電視等部門備案。
在近日召開的全國政協十三屆四次會議新聞發布會上，大會新聞發言人郭衛民也表示，個人信息保護法草案已經提請全國人大常委會審議，對保護個人信息安全將發揮重要作用。
最後，用戶本身，今後也還是需要多長個心眼：在使用壹款帶來狂歡的軟件時，是否已不知不覺將自己“出賣”？坑總是會有的，是誰加挖了壹鏟子，再毫無戒備地跳了下去？
綜合網絡素材
· 驚！這幾款潤唇膏竟會影響生育能力，妳可能正在用......·尋物 | 壹大波 美食 紀錄片正在催肥幹飯人的路上·好戲 | 42歲戲劇人存款2萬，為何還要堅持？
新民周刊所有平臺稿件， 未經正式授權壹律不得轉載、出版、改編，或進行與新民周刊版權相關的其他行為，違者必究！