法治日報記者 王衛

　　近期，美國流行樂歌星泰勒·斯威夫特的“AI偽造照片”事件掀起軒然大波，甚至驚動了美國白宮。雖然利用AI技術制作虛假信息早已有之，但隨著生成式AI在過去一年多時間內的快速發展，對視頻、圖片、音頻進行深度造假技術更加成熟且普遍，造假的成本也更加低廉。如何在發展、利用生成式AI的同時，有效監管和減少深度偽造產生的虛假信息，成為全球關注的一個重要議題。

　　眼見不一定為實

　　“深度偽造”技術利用機器的深度學習，實現圖像、聲音、視頻的篡改、偽造和自動生成，產生高度逼真且難以甄別的效果。

　　近日，大量由AI生成的泰勒虛假色情、血腥照片在多個社交平臺瘋傳，瀏覽量已超過千萬，引發社交媒體震動，也引起了美國白宮的注意。實際上這不是泰勒第一次成為AI“深度偽造”的受害者。就在不久前，有人使用AI技術仿造了她的聲音和形象來為商品進行推廣，讓消費者誤以為這是泰勒代言的商品。

　　白宮新聞秘書卡琳·讓-皮埃爾表示：“我們對媒體發布的關于泰勒照片（更確切地說是虛假圖像）流傳的報道感到震驚，這種情況令人擔憂。雖然社交媒體平臺在內容管理方面作出了自己的獨立決定，但我們認為他們在執行自己規則方面可以發揮重要作用，以防止錯誤信息和未經同意的真實人物的私密圖像傳播。”她還補充稱，“執法不到位對于女性影響更大，畢竟她們是網絡騷擾的主要目標”。

　　除了泰勒，同樣深受其害的還大有人在。

　　印度當地媒體《經濟時報》1月15日報道，此前一段視頻顯示，印度的板球傳奇人物坦杜卡支持一款名為Skyward Aviator Quest的游戲應用程序，并稱他的女兒通過使用該應用程序預測游戲結果，每日收入高達18萬盧比。這名板球運動員回應稱，“這些視頻是假的，技術濫用現象猖獗，令人不安。請大家積極舉報此類視頻、廣告和應用程序。社交媒體平臺需要保持警惕并響應投訴。他們的行動對于阻止錯誤信息和深度偽造的傳播至關重要。”

　　去年11月，美國新澤西一所中學30多名女生的照片被篡改和傳播，她們呼吁學校和政府采取措施；西班牙某小鎮的女學生也發現自己的“裸照”在學校和社區里流傳，給她們的身心帶來不小沖擊，當地警方發現這都是有人使用廉價應用程序炮制而成。

　　有報道指出，在全球化時代，社交媒體成了滋生虛假信息的溫床，憑借一段原始語音、一張原始圖片，犯罪分子就可以編造出一段真假難辨的謠言。每個人都有可能成為“AI惡意操作”的受害者。

　　影響政治社會秩序

　　“深度偽造”技術不斷被濫用，而“反深度偽造”技術仍未成熟，這一局面或將對個人隱私、行政執法、司法取證等多方面帶來困擾和威脅，引發社會憂慮和信任危機。

　　國際社會認為，“深度偽造”技術首先給個人和企業帶來損害。制作虛假色情視頻是“深度偽造”技術最常見的運用方式之一。“深度偽造”技術可能侵害肖像權、隱私權和知識產權等權利，也可能被用來實施詐騙、敲詐勒索等違法犯罪活動。2019年，全球首例AI詐騙案發生在英國，一名詐騙者利用先進的AI語音模仿軟件，假扮公司高層，成功騙取了一家英國能源公司總經理的22萬歐元。

　　其次是國家安全和公共安全受到威脅。美國專家西特倫舉例說，“深度偽造”可能會影響美國大選，制造出一些候選人沒做過的“錯事”，這些影響是不可估量的。2018年4月，一段主角為美國前總統奧巴馬的視頻，在推特上獲得200多萬次的播放和5萬多個點贊。奧巴馬在視頻中抨擊時任總統特朗普。但實際上并非出自奧巴馬。2018年5月，特朗普宣布中止全球氣候變化協議，隨后被比利時某政黨利用“深度偽造”技術篡改，做出一個“特朗普宣告比利時政府也應退出”的假視頻，引起比利時民眾的公憤。

　　第三是引發社會憂慮和信任危機。專家認為，“深度偽造”會加深公眾對政府的不信任感。隨著公眾意識到“深度偽造”的危害，他們會對一般的真實視頻產生懷疑，更容易把真實視頻當作虛假視頻，迷失在真假信息之中，對官方澄清也會持懷疑態度。“泰勒是影響力很大的明星，要是我們普通人也被深度偽造了不雅照可怎么辦？”“AI發展得太快太恐怖了，我都不敢想如果是我那真的是跳進黃河也洗不清了。”“支持AI立法，濫用危害太大了。”“這真的和我們的生活息息相關，AI照片視頻的人類面部表情已經很像真人了，聲音也能模仿得一樣，這樣的騙局讓普通人難以分辨。”這些聲音傳達出了公眾對AI“深度偽造”技術發展的強烈不安。

　　及時完善立法

　　盡管AI技術給我們的生活帶來了新的挑戰，但國際社會普遍認為，不能“因噎廢食”，拒絕發展相關技術。在技術進步的過程中，其本身就可以用來對抗“深度造假”行為。

　　專家學者、相關領域的企業機構想過不少應對辦法。比如在傳播之前標明“數字出處”。去年12月，一款名為mist的隱形圖片水印在網上發布，該水印用于抵抗AI模型對圖片的訓練和抓取，這一水印能夠極大程度干擾AI模型，使之生成的圖片遭受不同程度的破壞。此外，也有開發者建議讓AI生成平臺、公司給相關的AI生成軟件加上隱形水印機制，以快速識別AI并進行溯源，各個社交平臺也應以技術手段加強對于疑似AI生成圖、文、視頻內容的識別功能。

　　還可以利用技術手段檢測偽造。2018年6月，美國達特茅斯學院和紐約州立大學奧爾巴尼分校的計算機科學家宣布開發了一個程序，通過在視頻中觀察研究對象眨眼時眼瞼運動是否異常，來檢測“深度造假”。當然，在攻防過程中，“深度造假”技術可能隨著檢測技術演進而不斷升級。

　　另有專家認為，除了技術解決方法之外，法律手段也要有所作為。在以技術制約技術的同時，及時完善立法，不斷加強執法，對一些技術解決不了的問題應該立法重罰，追究刑事責任。比如規定制作或分享“深度仿冒品”，構成誹謗、欺詐或盜用他人肖像等民事和刑事違法行為等。早在2019年，中國便發布了《網絡音視頻信息服務管理規定》，旨在防止傳播利用基于深度學習、虛擬現實等新技術新應用制作的假新聞音視頻（即深度偽造）。

　　“深度偽造”是人工智能“深度學習”技術進步的產物。它有許多有價值的應用，例如出于教育目的而制作歷史人物的音頻或視頻。但是，“深度偽造”也可能被用于險惡目的。如何控制技術向善除惡，是一個需要不斷學習的課題。各國應加強交流合作，通過技術和法律等手段，規避人工智能相關風險，使之健康有序發展。