關(guān)閉 Deepfake 的潘多拉魔盒，RealAI 推出深度假視頻檢測工具

Deepfake誕生之初是一種有趣的圖像處理技術(shù)，只帶來搞笑有趣的視頻，但大家都不知道潘多拉魔盒被打開，催生色情產(chǎn)品，欺騙政客“操縱”輿論. Deepfake正在逐漸進化成一種新型“病毒”，人類倫理的“形象”也被無情揭開。

圖片：凱特·麥金農(nóng)在周六夜現(xiàn)場和伊麗莎白·沃倫中變臉

面對新技術(shù)引發(fā)的公眾恐慌，相關(guān)監(jiān)管部門也加快了行動，出臺了“打假”策略，打擊Deepfake虛假音視頻，控制“打假病毒”的傳播。與此同時，國家也迎來了“最嚴數(shù)據(jù)管理”之年。

11月29日，國家網(wǎng)信辦還正式印發(fā)《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，規(guī)定自2020年1月1日起，不得隨意發(fā)布人工智能造假視頻。新規(guī)中，對人工智能仿冒音視頻主要有四項規(guī)定：“按照國家有關(guān)規(guī)定進行安全評估”、“以重大方式標(biāo)記”非真實音頻信息、不得使用人工智能仿冒技術(shù)發(fā)布虛假新聞，部署人工智能虛假音視頻識別技術(shù)和完善的反謠言機制等。

在新規(guī)中不難發(fā)現(xiàn)，有效打擊Deepfakes及類似欺詐行為需要“兩只手”。除了用法律法規(guī)嚴控“別有用心的人”作惡，還需要從源頭上加強安全評估和識別技術(shù)能力，借助技術(shù)手段提前布局，一步到位。檢測領(lǐng)先。

近日，清華大學(xué)人工智能公司RealAI正式發(fā)布深度造假視頻檢測工具，可實現(xiàn)一鍵自動準(zhǔn)確識別深度造假視頻。

一、一鍵變臉一鍵“假冒”

RealAICEO田田表示，盡管需求上已經(jīng)達成共識，但目前防偽手段的大規(guī)模應(yīng)用面臨諸多困難。

首先，Deepfake的開源技術(shù)將使用AI換臉的門檻降低到了手機美化和P圖的水平。一鍵換臉，帶來了“造謠”成本的降低和爆發(fā)式傳播。但是，在防御層面，幾乎沒有相應(yīng)的標(biāo)準(zhǔn)化檢測工具。人工識別不僅專業(yè)性高，而且效率低下。因此，無論對于個人、平臺還是第三方組織，打假造謠的時間窗口都很短智能檢具，但難度卻很大。

圖：雷佳音（左）變臉郭德綱（右）

另外，一個比較嚴重的問題是，在很多情況下，deepfakes的程度非常高，人眼難以察覺。此外智能檢具，其算法目前無法建模分析，檢測技術(shù)研究受到嚴重影響，而造假者適應(yīng)速度很快，新技術(shù)日新月異。

RealAI 是一款基于第三代人工智能技術(shù)的深度偽造視頻檢測產(chǎn)品。通過使用“數(shù)據(jù)增強”，從偽造的視頻中訓(xùn)練出新的模型，使模型能夠更好地識別偽造的痕跡。鑒別假視頻可謂是“魔高一尺，路高一尺”。產(chǎn)品支持圖像和視頻內(nèi)容識別。用戶根據(jù)API接口上傳待檢測圖片或視頻，真實性一鍵反饋。

事實上，對Deepfake進行“防偽”研究的團隊由來已久，但相關(guān)成果僅停留在算法層面，更多用于學(xué)術(shù)研究，無法應(yīng)對真實環(huán)境中廣泛傳播的虛假信息。因此，RealAI推出的這款標(biāo)準(zhǔn)化自動檢測工具，可以說為大規(guī)模“防偽”行動帶來了新的希望。

二、檢測準(zhǔn)確率99%，Deepfake“不逃”

作為清華大學(xué)人工智能研究院的核心孵化器和國內(nèi)首家安全可控的人工智能系統(tǒng)提供商，RealAI在人工智能安全和攻防技術(shù)領(lǐng)域具有行業(yè)領(lǐng)先優(yōu)勢。在今年剛剛結(jié)束的GeekPwn2019國際安全極客大賽中，其與清華大學(xué)的聯(lián)合團隊一舉奪得“CAAD CTF圖像對抗樣本挑戰(zhàn)賽”和“CAAD隱身挑戰(zhàn)賽”的冠軍。

深厚的技術(shù)積累也讓RealAI安全研究團隊對“造假方”的攻擊原理有了更深入的了解，更有針對性地開發(fā)檢測工具。此次推出的深度偽造視頻檢測產(chǎn)品，大大簡化了原本困難的檢測流程。只需接入SDK即可一鍵實時檢測，調(diào)用簡單快捷。

Deepfake 視頻檢測產(chǎn)品流程圖

與目前市場上現(xiàn)有的檢測技術(shù)相比，RealAI的視頻檢測工具使用深度學(xué)習(xí)算法和大量數(shù)據(jù)集訓(xùn)練模型，能夠檢測出大部分AI換臉假視頻，準(zhǔn)確率高達99% （內(nèi)部在測試數(shù)據(jù)集上）。面對越來越逼真的算法換臉效果，RealAI的研發(fā)團隊也專注于開發(fā)新的檢測算法，迭代更新RealAI的檢測算法庫。

值得注意的是，該產(chǎn)品適用于復(fù)雜視頻內(nèi)容檢測，支持多種格式和多種人臉檢測模式，1S識別，最多可支持10人同屏。

三、Deepfake 的潘多拉魔盒最終將被關(guān)閉

隨著 Deepfake 技術(shù)的濫用，“真”與“假”的傳統(tǒng)界限變得模糊。這對社會生活的影響以前沒有預(yù)料到，但現(xiàn)在技術(shù)邪惡的負面影響是積極的。滿分。

比如視頻和圖片內(nèi)容在網(wǎng)絡(luò)上肆意傳播，傳統(tǒng)的內(nèi)容平臺審核機制無法區(qū)分Deepfake生成的內(nèi)容，如果采用人工審核，需要額外的時間和人力成本；具體對象是社交平臺上捏造的虛假信息，在互聯(lián)網(wǎng)上廣為傳播。處于輿論中心的當(dāng)事人找不到有效方法證明“謠言”是捏造的，個人名譽受損；基于Deepfake無法直觀識別證據(jù)是否偽造，需要專業(yè)工具驗證真實性；事故圖像數(shù)據(jù)真?zhèn)坞y辨，保險公司檢查人員缺乏Deepfake欺詐意識，不具備專業(yè)識別能力，存在欺詐理賠風(fēng)險...

“人人都怕?lián)Q臉”的恐慌，使得反深度偽造檢測需求異常迫切。本次推出的RealAI檢測工具，通過與內(nèi)容平臺、執(zhí)法機構(gòu)、保險公司等機構(gòu)的合作，能夠在虛假內(nèi)容篩查、在線數(shù)據(jù)審核、圖像物證真實性等實際應(yīng)用場景中發(fā)揮作用檢查，幫助企業(yè)和個人更好地進行信息控制和風(fēng)險預(yù)警。

最后，在這場AI軍備競賽中，Deepfake會不斷進化，RealAI也會不斷迭代技術(shù)，打磨產(chǎn)品。 RealAI CEO天天表示，未來AI必然是一個安全可控的AI。一鍵“防偽”終將超越一鍵換臉?biāo)俣?，Deepfake的潘多拉魔盒終將被關(guān)閉。

未來智能實驗室是人工智能科學(xué)家與科學(xué)院相關(guān)機構(gòu)共同建立的人工智能、互聯(lián)網(wǎng)和腦科學(xué)的交叉學(xué)科研究機構(gòu)。

未來智能實驗室的主要任務(wù)包括：建立AI智能系統(tǒng)智商測評體系，開展全球人工智能智商測評；開展互聯(lián)網(wǎng)（城市）云大腦研究計劃，構(gòu)建互聯(lián)網(wǎng)（城市）云大腦技術(shù)和企業(yè)版圖，提升企業(yè)、行業(yè)、城市服務(wù)的智能化水平。

如果您對實驗室研究感興趣，歡迎加入未來智能實驗室在線平臺。掃描下方二維碼或點擊本文左下角“閱讀原文”