歐盟如何監管人臉識别技術？
刊物介紹
原标題：歐盟面部識别技術強監管：基本人權與技術利益的平衡
本文作者：吳世櫻
摘要
面部識别技術在歐盟面臨強監管态勢。現階段歐盟人工智能法規草案中，部分應用領域如執法部門的面部識别技術被列入高風險人工智能系統，或面臨最強監管即完全禁止。更重要的是，歐盟正在努力通過制定數字時代的技術标準來重新确立自己全球技術領導者的地位。在面部識别技術上找到适當的監管平衡不僅是降低此類技術風險的關鍵，而且對于歐盟樹立其數字時代全球領導者的地位也至關重要。
Image Source / 圖源：Panda Security, https://www.pandasecurity.com/en/mediacenter/security/facial-recognition-software/
在過去的兩年裡，總部位于美國的面部識别公司 Clearview AI 在其收集和處理個人數據方面面臨了歐盟各國的審查。2021 年 11 月，英國獨立數據隐私機構因該公司違反該國的數據保護法，對其處以超過 2200 萬美元的罰款。2021 年 12 月，法國數據保護機構 CNIL要求 Clearview 在兩個月中從其數據庫中删除所有法國面孔。2022 年 2 月，Clearview 被意大利處罰2000 萬歐元，并被要求停止收集數據，從其數據庫中删除所有意大利人民的人臉圖像數據，并設立公司代表與歐盟相關部門保持聯絡。自 2018 年以來，歐盟内部的數據收集和處理都因歐盟通用數據保護條例而受到了更多限制。面部識别對隐私和監控問題所帶來的挑戰已成為歐盟立法者讨論的焦點。同時，歐盟設立新AI法規的舉措也将輔助歐盟建立其在制定全球面部技術技術标準方面的領導地位。
一、歐盟對面部識别技術的強監督
近年來，面部識别技術在全球興起：2018 年，全球面部識别市場價值約39.7 億美元，并可能在 2025 年可能增長到 101.5 億美元。随着面部識别技術的發展，歐盟旨在控制面部識别的潛在負面影響。 2020 年 2 月，歐盟委員會發布了人工智能白皮書，其中強調了在歐盟部署面部識别技術的保障措施的必要性。歐盟人工智能高級别專家組指出，歐盟需要定義何時以及如何允許人工智能自動識别個人生物信息。
在此背景下，歐盟委員會于 2021 年 4 月發布了人工智能法規草案。該草案提出了一種基于風險等級的方法來制定人工智能系統的監管制度。可能對基本權利造成不利影響的“高風險”人工智能系統将面臨更加嚴格的限制。在該草案中，遠程生物特征識别系統類别的面部識别技術的監管将根據其應用領域而改變。其中，一個關鍵的政策問題是對于高風險和低風險生物識别系統的區分。例如，目前的條款大多都偏向于針對實時面部識别技術的部署。然而，研究人員指出，面部識别技術的“實時”和“後期”使用之間的差别可能沒有想象中的大：人工智能技術的非實時使用也可能會給基本權利帶來同樣的風險。
此外，部分議員和民權組織認為目前的草案對面部識别的監管過于寬松。目前，該草案禁止在可公開訪問的執法空間中實時使用面部識别。然而，一個由 40 名歐洲議會成員組成的跨黨派團體指出，目前的框架未能禁止生物識别大規模監視。同時，多個隐私權倡導組織指出，當前的提案隻關注執法部門，卻忽視了其他政府機構和私人企業使用面部識别技術的威脅。
2021 年 10 月，歐洲議會通過了一項不具約束力的決議，支持禁止執法部門公開使用面部識别以及創建私人面部識别數據庫——例如由 Clearview AI 創建的數據庫。雖然不具約束力的決議不會影響當前的草案，但歐洲議會表示出了歐盟将對面部識别技術更強硬的立場。目前的提案草案将繼續在歐盟層面進行辯論和審查，并可能需要數年才能通過。
二、強監管的動機
·面部識别的技術風險
歐盟關于監管面部識别技術的辯論主要由兩個原因被推動：1）對該技術固有風險的擔憂；2）歐盟尋求領導全球技術标準的制定。首先，鑒于面部識别技術的普及，人為控制難以實現。敏感信息可能會在未經同意的情況下被收集和使用，這些信息可能會被濫用而造成更大的傷害。此外，根據《歐盟基本權利憲章》第 7 條和第 8 條，面部識别技術可能會侵犯個人數據保護權和私人生活權。此外，算法決策系統中的歧視和偏見也是衆所周知的問題。接受過有偏見數據訓練的面部識别技術可能會延續現有的社會偏見，使弱勢群體（如種族群體）處于不利地位。當該技術被執法部門部署時，這些問題會進一步加劇。最後，大規模監控的潛在威脅是面部識别技術的一個關鍵問題。在歐盟，在公共場所使用生物識别系統正日益成為常态。在這一點上，如果面部識别技術超出當前授權使用範圍，該技術可能會導緻大規模監視和匿名性完全的喪失。
·全球領導力以及平衡問題
除了面部識别技術的固有風險之外，歐盟還指出了其全球标準制定領導地位的首要問題。3 月 22 日，歐洲議會數字時代人工智能特别委員會 (AIDA) 通過了其最終建議。通過的文本警告說，歐盟正在落後于全球技術領導力競賽，必須采取行動成為“人工智能的全球标準制定者”。歐洲議員 Axel Voss 表示，歐盟有“獨特的機會來促進基于基本權利的以人為本和值得信賴的人工智能方法。”AIDA 委員會主席 Dragos Tudorache 也表達了同樣的觀點，指出歐盟的未來全球競争力将取決于歐盟當前的監管框架和舉措。
此外，該文本指出了監管人工智能面部識别技術的一個關鍵政策問題：法律框架必須為創新和技術利益留出空間。歐洲議會議員一緻認為，歐盟的人工智能法案應側重于該技術在提高整體生活質量方面的巨大潛力。在這方面，歐盟正在尋求的方法必須在監管程度和人工智能系統的風險水平之間建立适當的平衡。針對面部識别，委員會主席 Tudorache 表示，徹底禁止不會是最終解決方案。面部識别監管需要取得适當的平衡，以确保該技術可以在危急情況下（例如恐怖襲擊）使用而不會導緻大規模監視。展望未來，面部識别技術問題将繼續作為人工智能法規草案的核心問題，成為其進展的關鍵挑戰。
三、餘論和總結
現階段歐盟人工智能法規草案中，部分應用領域如執法部門的面部識别技術被列入高風險人工智能系統，或面臨最強監管即完全禁止。更重要的是，歐盟正在努力通過制定數字時代的技術标準來重新确立自己全球技術領導者的地位。在這方面，歐盟正在尋求适當的平衡，讓面部識别技術在不侵犯個人權利和避免建立大規模監控的情況下造福公民社會，為歐盟在數字時代的競争力保駕護航。
上一篇
立遺囑 你需要了解的事兒
最新文章
-
“豫西中醫界之泰鬥喬保均”治療疑難病60年經驗賞析
9小時前 -
回憶、健忘和灑脫
9小時前 -
弘一法師：“真的不忍心告訴你，這個世界隻是一個夢。你一輩子執
9小時前 -
心理學，準的讓你驚叫
9小時前 -
人生，成大器者有四識，知識、見識、膽識、遠識
10小時前 -
俞和：被遺忘的書法家，以古為師，創新在手！
10小時前 -
2024屆新高考II卷語文真題答案及解析
10小時前 -
生前隻是小人物，死後震驚史學界
10小時前
熱門文章
-
每日一誦傷寒論第241條
1周前 -
老張老李侃門球之140篇
2天前 -
這個穴位可以治療多種胃痛腹痛，還可以減肥
5天前 -
診餘雜記（師傳經驗）
4天前 -
為什麼五點鐘要起床答案讓人吃驚！（現在知道還不晚）
1周前 -
治療坐骨神經痛藥酒５方
1周前 -
美麗中國-2870：中國最大的内陸河，塔裡木河
2天前 -
二十四山開門放水作竈真訣開門放水作竈直訣——子山
2天前
有話要說...