武大團隊研發出能避監控的“隱身衣” 將有助于反向提升人工智能安全性
擁有一件隱身衣,是很多小說、電影里的橋段,也是許多孩子的夢想。11月27日,“華為杯”第一屆中國研究生網絡安全創新大賽落幕,武漢大學獲5項一等獎,獲獎數居全國高校首位。武大獲獎項目中有一項名為“InvisDefense隱身衣”引起了極目新聞記者的注意。據介紹,這套“隱身衣”主要是對付機器識別,可在機器視覺下隱身,用以保護人身安全。
用算法來對抗算法
武大官方新聞上是這樣介紹“InvisDefense隱身衣”的:InvisDefense提供全天候的隱身防御。白天場景,特制的迷彩圖案有效地干擾視覺神經網絡,使其失明。夜間場景,InvisDefense在衣服內部嵌入溫控材料,實現在紅外熱成像下的隱身,可在機器視覺下隱身用以保護人身安全。
一般人可能看不太懂。“視覺神經網絡指的是人工智能識別,而不是人類的肉眼識別。比如現在很多視頻監控設備都有行人檢測功能,智能汽車也可以識別行人、道路、障礙。”InvisDefense研發團隊指導教師、武漢大學計算機學院教授王正解釋。
王正說,人們都知道,穿上迷彩服可以讓自己不容易被人看到,但計算機視覺還是可以很容易地識別,因為它是靠算法“看見”。于是,研究計算機視覺的王正想到,通過新的算法來設計一種迷彩紋路,讓目前常用的行人檢測的方法失效,“通俗地說就是攝像頭可以拍到你,但判斷不出你是人類。”
對于夜間模式,目前計算機視覺常用的是紅外熱成像來判斷。與之對抗的辦法是在“隱身衣”內裝一些溫控裝置,有的是提高溫度,有的是降低溫度,就可使計算機難以通過熱成像圖案判斷出掃瞄對象。
七百次失敗終成功
2020年在海外留學期間,王正就有了初步想法,并一直在做這方面的理論研究。將理論變為現實的,是他帶的研究生團隊:武大計算機學院博士生衛慧、國家網絡安全學院碩士生李柱波、戴書鈺,以及經濟與管理學院碩士生菅澤華。
衛慧介紹,他從2021年開始跟著導師做“隱身衣”研究,今年8月開始組隊備戰這次比賽。負責核心算法和設計的他說,想要實現“隱身衣”的理論并不容易,“首先要解決的是一種平衡,比如說,你拿著一個大色塊擋在身前,確實可以騙過攝像頭,但騙不過人眼,反而會特別顯眼。所以,我們要通過算法設計出最不‘顯眼’卻能讓計算機視覺失效的圖案。”為了找到這種平衡,團隊成員不斷通過電腦模擬,3個月內經歷了近七百次失敗,才取得理想的結果。
另一個難點是實現晝夜兼容。團隊的目標就是找到成本最經濟的方案,因此一開始試驗的是暖寶寶和降溫貼。改變局部溫度后,還要計算出怎樣的排列方式,能成功干擾計算機視覺識別。通過團隊的測試視頻可以看到,最終只需要在上衣內,安裝4處不規則形狀的溫控裝置,就可以讓紅外成像識別“失明”。
目前,“InvisDefense隱身衣”項目已有兩項專利申請被受理。該項目實際應用前景如何?王正認為,該技術將有助于反向促進人工智能模型安全性的提升,也可為我國國防事業作出貢獻,如研制“隱身軍服”等。據介紹,“InvisDefense隱身衣”目前一套的成本僅約500元。
版權聲明:凡注明“來源:中國西藏網”或“中國西藏網文”的所有作品,版權歸高原(北京)文化傳播有限公司。任何媒體轉載、摘編、引用,須注明來源中國西藏網和署著作者名,否則將追究相關法律責任。