中國西藏網(wǎng) > 即時(shí)新聞 > 時(shí)政

      視頻“變臉”相似度達(dá)80%!“AI換臉詐騙”如何防范?

      發(fā)布時(shí)間:2023-11-07 09:48:00來源: 央視新聞客戶端

        最近,視頻網(wǎng)站上通過人工智能換臉,《亮劍》里的主角用英語飆起了臺(tái)詞,通過小程序用戶也可以將自己變成電影里的人物。新技術(shù)帶來歡樂的同時(shí),也帶來了一種名為“AI換臉詐騙”的新騙術(shù)。前不久,國家金融監(jiān)督管理總局北京監(jiān)管局發(fā)布謹(jǐn)防“AI換臉”等新型欺詐手段的風(fēng)險(xiǎn)提示,這種騙術(shù)如何防?一起關(guān)注——

        青島的一名大學(xué)生和他在網(wǎng)上認(rèn)識(shí)的“女朋友”視頻聊天,對(duì)方稱需要資金周轉(zhuǎn),男孩打錢過去之后,發(fā)現(xiàn)竟然被詐騙了。

        深圳安絡(luò)科技市場(chǎng)部經(jīng)理梁雅婷:我們通過取證發(fā)現(xiàn)其實(shí)跟他聊天的并不是他的女朋友,對(duì)方是通過虛擬的攝像頭,然后通過AI換臉的功能跟他進(jìn)行聊天。

        那么AI如何做到在視頻通話時(shí)換臉呢?記者在一家為公安機(jī)關(guān)提供技術(shù)支持的科技公司看到的演示,相似度可以達(dá)到80%。

        深圳安絡(luò)科技產(chǎn)品部經(jīng)理劉遠(yuǎn)洋:剛才我們拍了一張照片,然后上傳到電腦上面,我們只需要打開軟件選擇頭像,左邊已經(jīng)看到我們的圖片,右邊是事先拍好的一段視頻。工程師已經(jīng)把所有的參數(shù)都已經(jīng)設(shè)定好了,我們只需要點(diǎn)擊開始執(zhí)行,輸入要保存的文件名,這個(gè)窗口彈出來過后,換臉視頻就已經(jīng)開始生成了。

        我們?cè)诂F(xiàn)場(chǎng)看到,一個(gè)高配置的電腦,合成一段10秒的換臉視頻只需要一兩分鐘。而技術(shù)的發(fā)展,視頻聊天的實(shí)時(shí)變臉也不是難事了。

        深圳安絡(luò)科技產(chǎn)品部經(jīng)理劉遠(yuǎn)洋:照片上傳后,一般就會(huì)有30秒鐘左右的時(shí)間,對(duì)照片進(jìn)行特征識(shí)別,然后進(jìn)行建模。建模好過后就可以進(jìn)行實(shí)時(shí)轉(zhuǎn)換,不管是你的頭像,還是在朋友圈的一張小照片,只要是照片都可以直接上傳,進(jìn)行特征的識(shí)別建模。

        AI生成的技術(shù)還在不斷地更新迭代,比如性別的互換,聲音的變換,都可以同步進(jìn)行。由于算法是開源的,也就是說一個(gè)普通的工程師就可以制作出一個(gè)變臉軟件,這就導(dǎo)致我們?cè)诳刂圃搭^上帶來了極大的困難。

        AI換臉用于詐騙 反詐也有新手段

        不斷迭代的AI技術(shù),已經(jīng)把換臉視頻做到“真假難辨”,那么我們應(yīng)該如何防范此類新型詐騙呢?

        首先,目前視頻換臉的技術(shù)上也不是無懈可擊的,視頻溝通時(shí)的一些動(dòng)作,就可以發(fā)現(xiàn)破綻。

        深圳安絡(luò)科技副總裁肖堅(jiān)煒:在這個(gè)操作中,如果我用另外第三個(gè)圖像去干擾它,比如讓他用手捂臉、動(dòng)一動(dòng),就會(huì)干擾到圖像的合成。從這里演示看,我把手放上去之后,會(huì)明顯地看到屏幕上我們同事的眼睛在抖動(dòng)了,鼻子在抖動(dòng)了,我的手已經(jīng)消失了,嘴巴也消失了。

        除了讓對(duì)方在臉部做出一些動(dòng)作來判斷,專家介紹,AI合成軟件的升級(jí)可能是飛速的,如果動(dòng)作捕捉已經(jīng)被避開,那么我們就需要通過一些更專業(yè)的軟件來分辨了。

        深圳安絡(luò)科技副總裁肖堅(jiān)煒:我們可以通過軟件來識(shí)別,比如人的整個(gè)輪廓,替換的眼睛、鼻子、嘴巴這里,它的像素大小是不一樣的,顏色的色域是有差別的。像我們的衣服一樣,要打一個(gè)補(bǔ)丁,是沒辦法做到完美的。這些我們眼睛肉眼看不出來,但是軟件算法是可以檢測(cè)出來的。

        目前,這類鑒別軟件對(duì)設(shè)備和周邊的要求也比較高,使用起來并不普及。不過,讓視頻傳播的網(wǎng)站或者社交軟件,使用專業(yè)的鑒別軟件來鑒定,再打上“AI制作”的標(biāo)簽,在現(xiàn)階段不失為一個(gè)方法。

        預(yù)防“AI換臉詐騙”,大家還要加強(qiáng)對(duì)人臉、聲紋、步態(tài)、指紋等生物特征數(shù)據(jù)的安全防護(hù)。

        中國科技大學(xué)公共事務(wù)學(xué)院、網(wǎng)絡(luò)空間安全學(xué)院教授左曉棟:在使用互聯(lián)網(wǎng)服務(wù)或者在社會(huì)生活中,要求輸入人臉等生物特征數(shù)據(jù)的時(shí)候,我們要看一看,對(duì)方收集我們的生物特征數(shù)據(jù)是不是符合數(shù)據(jù)安全法,個(gè)人信息保護(hù)法的要求,是不是合法、正當(dāng)和必要。

        此外,國家也在通過多重手段防范“AI換臉詐騙”,近兩年,相關(guān)部門先后出臺(tái)了互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定,生成式人工智能服務(wù)管理暫行辦法等有關(guān)政策文件。先后開展了“互聯(lián)網(wǎng)深度合成算法備案”“大語言模型算法備案”等有關(guān)工作。嚴(yán)厲打擊利用AI換臉、變聲等手段實(shí)施的違法犯罪行為。

        中國科技大學(xué)公共事務(wù)學(xué)院 網(wǎng)絡(luò)空間安全學(xué)院教授左曉棟:目前看來初步遏制了濫用人工智能技術(shù)。特別是從事違法犯罪的這些勢(shì)頭,整體治理效果開始顯現(xiàn),而且也有力促進(jìn)了人工智能技術(shù)的規(guī)范發(fā)展。(央視新聞客戶端)

      (責(zé)編:李雨潼)

      版權(quán)聲明:凡注明“來源:中國西藏網(wǎng)”或“中國西藏網(wǎng)文”的所有作品,版權(quán)歸高原(北京)文化傳播有限公司。任何媒體轉(zhuǎn)載、摘編、引用,須注明來源中國西藏網(wǎng)和署著作者名,否則將追究相關(guān)法律責(zé)任。

      主站蜘蛛池模板: 精品国产三级a∨在线欧美| www久久精品| 欧美va亚洲va国产综合| 人妻无码视频一区二区三区| 肉伦禁忌小说小可的奶水| 国产成人久久av免费| 香蕉视频一区二区三区| 国模无码一区二区三区| 一级一片一a一片| 扶着大肚子从后面进| 久久精品女人的天堂AV| 欧美午夜小视频| 亚洲欧美激情小说另类| 狠狠躁日日躁夜夜躁2022麻豆| 国产AV一区二区三区无码野战| 香港经典aa毛片免费观看变态| 国产精品无码久久av不卡| jizz18高清视频| 小浪蹄子嗯嗯水挺多啊| 丰满多毛的陰户视频| 精品水蜜桃久久久久久久| 国产女人18毛片水真多18精品| 亚洲欧洲另类春色校园小说| 中文字幕天天躁日日躁狠狠躁免费| 欧美A∨在线观看| 亚洲欧美一区二区三区| 狠狠色丁香久久综合五月| 免费日韩在线视频| 精品久久久久久久九九九精品| 四虎8848精品永久在线观看| 色多多视频免费网站下载| 国产亚洲一路线二路线高质量| 黄页在线播放网址| 国产欧美综合一区二区| 一个色中文字幕| 国产精品毛片va一区二区三区| 97色伦综合在线欧美视频| 夜先锋av资源网站| 99精品热线在线观看免费视频| 天天摸天天干天天操| gogogo高清在线播放|