近日,經過馬拉松式的談判之后,歐洲議會、歐洲理事會和歐盟委員會三方就《人工智能法案》達成協議。該法案將成為全球首部人工智能領域的綜合性監管法規。據路透社報道,這項法案最早將于明年初生效。專家分析認為,《人工智能法案》具有全面性和綜合性。未來,法案頒布實施,將對人工智能的研發、產品和服務的設計與運行帶來巨大影響。
里程碑:
全球首部綜合性人工智能監管立法
“歐盟就《人工智能法案》達成協議,具有里程碑意義。”英國《衛報》報道稱,歐盟委員會內部市場專員蒂埃里·布雷頓在社交平臺X寫道:“《人工智能法案》不僅是一本規則手冊,也將成為幫助歐盟初創企業和研究人員引領全球人工智能競賽的平臺。”
“《人工智能法案》是全球范圍內首部綜合性人工智能監管立法,立法進程總體進展非常迅速。”復旦大學發展研究院副研究員姚旭接受本報記者采訪時介紹,2021年4月21日,歐盟委員會提交《人工智能法案》,之后經歷數輪討論。作為履行共同決策程序的聯合立法機構,歐洲理事會和歐洲議會在該法案立法進程中發揮關鍵作用。2022年12月6日,歐洲理事會一致通過《人工智能法案》草案;2023年6月14日,歐洲議會全體會議表決確認其認同立場。歐洲議會投票結束后,歐洲議會、歐洲理事會和歐盟委員會立即就法案舉行了第一次“三方會談”。“三方會談機制”是歐盟三大機構代表組成的非正式會議,可以在共同決策程序的任何階段召開,力求高效解決關鍵問題,促使機構間達成協議。隨后的2023年7月18日、10月2日和10月24日,分別舉行了第二、三、四次“三方會談”。直至此次協議達成,該法案整體沒有遇到根本性阻礙。
“靴子落地。”中國現代國際關系研究院歐洲研究所歐洲經濟項目負責人董一凡在接受本報記者采訪時表示,歐盟的3大核心機構就《人工智能法案》達成共識,是一個標志性進展,代表著該法案最終生效基本是板上釘釘。在全球范圍內,《人工智能法案》是一個比較領先的整體性監管規則,具有很強的歐盟特色。
在歐盟就《人工智能法案》達成一致協議的談判中,有兩個爭論點備受關注——
一是如何監管像ChatGPT一樣的先進人工智能模型。據彭博社報道,一份歐盟文件顯示,所有通用型人工智能系統的開發者都必須滿足基本的透明度要求,除非它們是免費的或者開源的。透明度要求包括:具有可接受的使用策略、更新訓練大模型的最新信息、遵守歐盟版權法以及報告用于訓練其模型的數據信息。根據該文件,被視為有“系統性風險”的模型將受到額外約束。歐盟將根據用于訓練模型的計算能力來確定風險。專家表示,目前唯一能自動達到這一門檻的模型只有人工智能公司OpenAI的GPT-4。
二是生物識別監控技術。協議規定,各國政府只能在公共場所使用實時生物識別監控,防止恐怖襲擊等可預見的威脅公共安全的事件以及搜索犯罪嫌疑人等。文件還規定,禁止有目的地操縱技術,利用分類系統來推斷用戶種族、宗教信仰等個人信息。事實上,歐洲議會希望全面禁止生物識別監控技術。
姚旭表示,歐盟各方達成最新協議,并不代表該法案正式完成所有立法動作,最終還需要返回歐洲議會和歐洲理事會再行確認。美國《紐約時報》報道稱,該法規的許多細節預計在未來兩年內都難以敲定,這為人工智能的發展留足了時間。直到談判最后一分鐘,立法者和歐盟各國仍在為“如何在促進創新與防范可能的傷害間取得平衡”這一問題辯論。
緊迫性:
為歐盟人工智能發展提供最基本護欄
“當前,人工智能發展的速度遠遠超過技術監管、法律倫理、政策評估的腳步,需要一些更有遠見的框架來應對未知挑戰。”董一凡表示,作為超大規模市場,基于不同于其他國家和地區的人工智能倫理與法律風險認知,歐盟希望利用自身現有市場規模和規則制定能力影響全球人工智能發展方向。此外,相對來說,無論是在技術、企業規模還是產業發展等方面,歐盟在全球并不處于很靠前的位置。因此,歐盟希望通過率先制定一些基本規則,為自身的人工智能發展提供最基本護欄。
“歐盟《人工智能法案》的迅速進展主要源于ChatGPT等人工智能技術爆發的壓力影響。”姚旭表示,自2022年11月OpenAI推出其大語言模型平臺ChatGPT以來,全球各主要經濟體針對人工智能產業出臺了不同的監管政策。歐盟人工智能立法進程被迫大大提速,現有進展速度遠超此前預期。
姚旭分析,全球人工智能監管與立法呈現兩種趨勢:一是以中國和歐盟為代表的國家和機構迅速出臺相關規制,對人工智能進行從框架到細節的治理探索。其中,今年7月,中國出臺的《生成式人工智能服務管理暫行辦法》是全球首個針對生成式人工智能做出迅速反應的法律,明確了本國人工智能產業發展方向和規范。二是以美國為代表的國家,政府、立法與業界還在不斷磨合。OpenAI的CEO奧爾特曼在國會聽證會上曾經呼吁對人工智能進行更明確的監管,但美國國內現有的討論還不足以在法律層面形成快速突破。
“制定人工智能全球標準,各方仍在博弈。”姚旭表示,今年5月,G7大阪峰會上,發達國家領導人聲稱要以所謂“民主價值觀”為基礎建立人工智能國際準則。今年11月,中國、美國、歐盟和其他約20個國家在英國簽署了《布萊切利宣言》。近期舉辦的一系列人工智能國際治理會議中,“全球南方”國家普遍表示,希望全球人工智能標準合作程度不斷加深,不希望在所謂的陣營間“選邊站”,這與中國強調的人工智能領域國際合作倡議完全契合。從這個意義上說,《人工智能法案》將使歐盟在人工智能監管國際合作中有較強獨立性。
姚旭說,近年來,歐盟在科技治理領域形成了高度內部協同,此前數個數字治理相關法案均高速“通關”,歐盟在針對數字平臺巨頭的監管道路上也正協同加速。此次《人工智能法案》的快速進展再次印證了這一點。
新參考:
平衡監管與發展是重中之重
《紐約時報》報道稱,歐盟三方艱難達成協議,意味著《人工智能法案》的關鍵輪廓已經確定。該法案為那些尋求利用這項技術潛在好處的國家設定了一個新的全球基準。美國《華盛頓郵報》援引哥倫比亞大學專門研究數字監管的法學教授阿努·布拉德福德的話稱,歐盟的全面規則“可以為許多考慮監管的政府提供參考”。
“歐盟在人工智能立法方面遵循‘人工智能向善’理念,在對人工智能相關企業責任的約束上,為全球其他經濟體提供重要參考。”董一凡表示,歐盟推動《人工智能法案》落地生效,一方面可以利用布魯塞爾效應,讓在歐洲開展人工智能業務的利益攸關方遵守相關規則約束,從而對全球人工智能技術和產業發展產生直接影響;另一方面,歐盟將通過與聯合國、G20和G7等多邊平臺合作,積極推廣自身理念規則,增強該法案的國際影響力。
“歐盟《人工智能法案》最終通過后,將成為全球加強人工智能治理浪潮中的重要‘靶子’。”姚旭認為,歐盟內部立法往往具有很強的溢出效應,例如,《通用數據保護條例》已逐漸成為全球范圍內各個國家建立數據保護相關機制的重要參考,也是幾乎所有全球化運營的企業必須實時跟蹤的重要合規依據。針對歐盟《人工智能法案》當中的算法透明度、通用人工智能護欄、禁止使用的場景劃分等內容,各國后續立法一定會針對本國實際情況逐條參考,確定保障措施和例外條款。歐盟人工智能法案后續施行情況,也將成為各國著重觀察的重點,其中,如何平衡監管與發展是重中之重。
歐盟《人工智能法案》受到全球的密切關注,因為其不僅會影響人工智能開發商,還會影響使用該技術的教育、醫療保健、銀行等領域。
目前,歐盟《人工智能法案》也面臨一定爭議。德國工業聯合會(BDI)表示,歐洲目前在人工智能關鍵技術方面面臨落后危險。“隨著對人工智能基礎模型及應用的全面監管,《人工智能法案》將危及制造商和用戶雙方的競爭力和創新能力。”BDI相關負責人艾里斯·普洛格表示,該法案基于不成熟的標準,給公司帶來的法律確定性不是更多,而是更少。
該法案未來的執行情況也遭到質疑。《紐約時報》認為,《人工智能法案》涉及27個國家的監管機構,并要求在政府預算緊張之際聘請新的專家。歐盟之前的《通用數據保護條例》,后期就因在各國執行不同步而受到批評。
姚旭表示,對于《人工智能法案》,歐盟內部依然還有反對意見,雖然大概率無法阻擋立法進程完成,但反映出歐盟人工智能法案的矛盾性。
董一凡表示,《人工智能法案》是歐盟主要大國博弈的結果,力求在安全監管和促進發展上形成一種平衡。(本報記者 賈平凡)
來源:人民日報海外版
版權聲明:凡注明“來源:中國西藏網”或“中國西藏網文”的所有作品,版權歸高原(北京)文化傳播有限公司。任何媒體轉載、摘編、引用,須注明來源中國西藏網和署著作者名,否則將追究相關法律責任。