編者按
本公眾號簡要介紹了當前高校濫用人臉識別的現象，則對最新的司法解釋如何適用于高校刷臉問題進行了討論。
在前兩篇文章發布后，有老師建議我進一步闡明濫用刷臉的危害到底是什么。有讀者朋友也表示了疑惑，認為信息泄露的后果主要是騷擾電話、垃圾短信，并非不可忍受。根據我上網沖浪的經驗，持這種觀點的朋友不在少數。
因此，今天我希望能以較為通俗的文字，與大家分享我的看法，也期待能夠進一步提升公眾的個人信息保護意識。歡迎各位進行更深入的討論。
要點概覽
一、“臉”的重要性：身份、財富與管制媒介
1. 古早時代：“蒙面大俠”蘊藏的知情同意理念
2. 賽博時代：當“臉”成為財富密碼和管制工具
二、刷臉技術有哪些潛在風險？
1. 刷臉技術可靠嗎：“阿朱式風險”與“石破天式風險”
2. 技術的局限性如何影響了安全和公正
3. 萬物互聯后，“賞臉”讓你更容易被宰
4. 除非投胎轉世，否則難以救濟
三、番外：高校濫用刷臉的特殊風險
1. 不良的示范效應
2. 閘機的安全隱患
3. 教育的不利影響
4. 受阻的開放功能
“臉”的重要性：身份、財富與管制媒介
古早時代：“蒙面大俠”蘊藏的知情同意理念
要說濫用刷臉的危害，我們必須先談談臉的重要性。除了能靠顏值吃飯之外，其實臉承載的功能越來越多。
最基本的，臉可以讓別人辨別出“你是誰”。在地鐵站認出你的朋友，在他鄉識別出你的“故知”，乃至在人群中發現讓你一眼萬年的人人臉解鎖能設置幾個人，大部分情況下都是因為先看到了對方的臉。
臉是身份的象征。那些出入某些場合的 King/Queen，會被網友戲稱為“刷臉進”。“一張俏臉天下知”能解鎖很多福利，但被人看穿身份也會帶來不少隱患或不便。
選擇是否讓人看到或記住自己的臉，意味著自己偏好的生活方式。蒙面的不僅是大盜，也可能是大俠。
聚賢莊一戰，蕭峰被一個蒙面人所解救。雖然這武功高強的大俠是他爹，卻也不愿露出真面目。盡管蕭遠山的后續計劃未必靠譜，但他自己的職業規劃自己說了算，反正此刻他不想讓兒子收集自己的人臉信息。
除了苦大仇深的蕭遠山外，也有不少好人不愿露臉。比如神雕大俠楊過，做好事從來都是帶著面具，既避免虛名累身，又免得故人相認。唯一披露了人臉信息的一次，卻害得少女誤了終身。
圖：楊過正在對郭襄處理人臉信息的請求進行授權。圖源：TVB版《神雕俠侶》劇照
在現代社會，明星出行時遮得嚴嚴實實也是出于同樣的道理，既想在公共場所保留一份安寧，又希望避免被人跟蹤拍攝隱私。
即使是普通人，在某些特殊的場合，也會低下頭、側過臉，避免發生尷尬的對話，或引發不必要的關注。
這些熟悉的場景蘊藏著一個最基本的道理——你有權利選擇是否接受人臉識別，無論是來自人工的識別，還是來自機器的識別。“知情同意”不僅是一項法律規則，也是人類社會隱私領域的行為習慣。
強制刷臉帶來的危害顯而易見，它會影響到我們的生活方式選擇權。因此，刷臉必須以知情同意或法律的特殊授權作為前提。
賽博時代：當“臉”成為財富密碼和管制工具
在人臉識別技術出現后，“臉”不僅是熟人之間的認證，還成為了開啟財富的密碼。這里的“財富密碼”不是比喻，而是字面意思——最典型的應用就是刷臉支付——你的臉正在成為你的資產密碼。
App專項治理工作組、南都人工智能倫理課題組《人臉識別應用公眾調查報告（2020）》調查了2萬余名受訪者在哪些場景會遇到人臉識別。其中，有67.17%的受訪者選擇了支付轉賬場景，有54.09%的受訪者選擇了解鎖解密場景，有45.26%的受訪者選擇了開戶銷戶場景。[1]
你的“臉”不僅僅關聯了你的錢，還影響到你對財產的使用權。比如，在安裝了人臉識別的小區，如果你未能通過刷臉，那么你就無法回到家中，至少會對回家造成阻礙，從物權法上說，就影響到業主對于房屋的用益權能。
“刷臉”也成為生活中各項大小交易的基礎條件。有些地方，不動產的買賣、抵押需要進行刷臉認證。[2]在生活中，乘坐高鐵、入住酒店等也都需要刷臉認證。甚至有些地方連取廁紙都要刷臉。刷臉已經成為使用財產的前提。
此外，“刷臉”顯然也已經成為一種重要的管制工具，而這種工具正在為形形色色的組織體所青睞。不少公司將刷臉作為考勤簽到的方式，甚至有公司要求刷臉時必須微笑。
在第一篇文章中我們介紹過，能否進入高校，乃至高校的特定場所（如圖書館、宿舍、體育館等），有時也要看你是否愿意刷臉。如今，上大學不只是看成績，真的也要看臉了。
人臉識別技術也廣泛地應用于國家治理中。《人臉識別應用公眾調查報告（2020）》顯示，有29.05%的受訪者在政府辦事（如工商注冊、個人報稅、福利發放等）場景遇到過人臉識別。運用人臉識別來進行交通治理、刑事偵查，也早已不再是新聞。
在這樣的背景下，楊過的一張俊臉，所關聯起來的，不再僅僅是大俠的聲名和郭襄的憧憬，說是他大部分的身家性命都不為過。“臉”已經成為了人生中一把至關重要的鑰匙。
刷臉技術有哪些潛在風險？
刷臉技術可靠嗎：“阿朱式風險”與“石破天式風險”
如果說，“臉”是鏈接起許多財富與身份的鑰匙，那么“刷臉技術”就是一把“鎖”。你的臉能否打開這把“鎖”，不僅取決于你的鑰匙是不是正確的那一把，還取決于這把鎖的質量。有的鎖容易生銹，自家的鑰匙未必打得開；有的鎖過于好客，未必一把鑰匙只開一把鎖。
簡單來說，“刷臉技術”存在著兩種最大的風險。第一種是被破解的風險，就是有意扮成他人進行欺騙攻擊，筆者把它稱之為“阿朱式風險”。
圖：阿朱通過添加面部特征補丁的方式，對蕭峰自帶的人臉識別系統進行攻擊。圖源：TVB版《天龍八部》劇照
關于“阿朱式風險”的報道十分常見。2017年，央視“3.15”晚會曝光了某軟件存在人臉識別驗證漏洞，用他人社交媒體上發布的照片即可合成動圖，破解需要以眨眼等方式動態驗證的APP。[3]2019年，智能快遞柜“刷臉取件”功能被小學生拿著打印照片破解。[4]2021年，團隊在測試中用照片破解了19款手機的人臉識別解鎖功能。[5]
2021年6月更新的一篇論文介紹了常見的欺騙人臉識別系統的對抗性攻擊生成方法，主要包括：（1）基于卷積神經網絡模型的攻擊：包括基于圖像處理的攻擊（例如在面部圖像上隨機增加噪點或黑色線條），以及基于學習的攻擊（例如基于算法標注或特征值的攻擊）；（2）基于物理的攻擊：例如佩戴3D打印眼鏡、紅外線光斑投射、添加面部特征補丁等；（3）基于去識別化（de-）的攻擊，例如通過對抗性擾動來調整面部圖像，使得它無法被人臉識別系統識別：（4）基于幾何的攻擊：例如通過對輸入的圖像施加微小的旋轉、平移或比例變化來干擾算法。[6]
第二種風險是準確性不足的風險，機器可能無法正確地識別這張臉是人還是狗，是活人還是照片，是阮小七還是阮小五，是劉能還是謝廣坤，或者干脆認不出你是誰。這種在非攻擊狀態下的失誤，筆者把它稱之為“石破天式風險”。
圖：眾人的人臉識別系統將石破天錯誤識別為石中玉。圖源：TVB版《俠客行》劇照
2018年“董明珠闖紅燈烏龍事件”[7]和2020年的“去世老伯闖紅燈被罰事件”[8]曾引發網友熱議，使得算法誤判的風險廣為人知。筆者在調研中發現，有人用閘機刷臉后匹配到的是其他人的信息，認證系統卻也能照常通過。
盡管業界不斷宣稱人臉識別準確率超過99%甚至更高，但目前的技術只有在測試集或理想環境下才能保持高準確率。甚至外界溫度變化、流汗、化妝等也可能引發難以識別的問題。
圖：劍神孫一文小姐姐就曾遇到“石破天式風險”
美國國家標準技術研究院（NIST）系列研究指出，人臉識別在主體非合作（即人們在不知情時被攝像機被動捕獲）的場合準確性表現欠佳，對于在運動場中行走的主體，領先算法的準確率在36%到87%之間。[9]
此外，產業界的新聞往往是對最前沿科技的突破性報道，而現實中投入使用的人臉識別算法則五花八門，不同的供應商有著不同的技術水平，未必都能達到新聞上宣稱的高準確率。
技術的局限性如何影響了安全和公正
在了解到“臉”這把“鑰匙”的重要性，以及“刷臉”這把“鎖”的局限性之后，我們就能夠明白自己正在遭受的威脅并不僅僅是垃圾短信和騷擾電話了。
“阿朱式的風險”使得密碼的盜用成為可能，特別是在“臉”是一種公開的密碼的情況下，發起有針對性的攻擊并不困難。如果蕭峰是一臺刷臉閘機，那么阿紫完全可以靠著阿朱的大頭貼獲得愛情的入場券。
無數不在的刷臉，也會讓人們喪失警惕性人臉解鎖能設置幾個人，忘記自己的臉竟然可以作為密碼。2020年，廣西南寧多名業主就遭遇詐騙，在刷臉后房屋即被過戶，甚至被辦理抵押貸款。騙子的手法并不高明，只是告訴那些需要中介的業主，刷臉就是為了查一下房子的檔案。[10]
“石破天式的風險”不僅會降低識別的效率，還會對公正造成挑戰。在高校刷臉系統中，經常有同學表示自己并未出校，卻由于人臉識別誤差被記上違規出校記錄，從而受到禁足的懲罰。盡管可以通過某種程序向保衛部要求撤銷違規記錄，卻也要付出額外的時間和溝通成本。
這種風險甚至會影響到人身自由。當執法部門使用人臉識別系統尋找犯罪嫌疑人時，某些人群可能會發生更高的出錯率。由于人臉識別系統的誤判，2020年6月，美國一名黑人男性被錯誤羈押將近30小時；[11]2020年12月，美國另一名黑人男性被錯誤羈押10天。[12]
萬物互聯后，“賞臉”讓你更容易被宰
即使人臉識別技術不出錯，刷臉也并非是“有百利而無一害”的應用。在同一個或不同的數據庫中，人臉信息往往是與其他個人信息相匹配的。掌握數據的人很容易就勾勒出你的人物畫像——你姓嘛、叫嘛、從哪來、到哪去、家里幾口人、人均幾畝地、地里幾頭牛……
這些信息將給“殺熟”提供基礎。“大數據殺熟”已經不再是一則新聞，而運用了人臉識別技術后，萬物互聯將使得線下“殺熟”也成為可能。
去年沸沸揚揚的“戴頭盔看房”就是利用刷臉“殺熟”的著例。據《北京日報》報道，“由于人臉識別系統記錄到某位顧客曾主動到訪過一次，因此不能享受2%的優惠，兩個價格相差近20萬元。”[13]
商場中的人臉識別設備也可能為“殺熟”提供武器。“2019年，南都個人信息保護研究中心曾在北京多個商場調查發現，不少商場都裝有人臉識別系統，并對顧客進行刷臉，跟蹤記錄消費軌跡，但沒一家商場告知顧客并征得同意。”[14]
對人臉信息的隨意處理，不僅會導致經濟上的“被宰”，還可能成為私刑工具導致他人“社死”。2019年，引發爭議的“原諒寶”事件便是這一問題的典例。開發者聲稱通過利用人臉、聲紋等信息“在全球范圍內成功識別了十多萬名疑似從事色情行業的女性”[15] 這種無視程序正義和技術局限、隨意給她人打上道德標簽的行為，旋即遭到媒體和網友的批判。
除非投胎轉世，否則難以救濟
人臉識別既是一種密碼，又是一種身份的標識。當人臉信息發生泄露或被錯誤匹配時，將引發一系列不可預知的后果。
從財產的意義上看，密碼的安全性將變得十分脆弱，依靠刷臉進行授權的財產將處于危機之中。
從身份的意義上看，“識別失敗”將導致“如何證明我是我”的難題。“錯誤匹配”或“利用泄露的人臉信息”進行攻擊，將導致一系列識別出的關聯信息錯誤匹配到你身上，從而帶來聲譽和人身安全上的威脅。
這時，老生常談的一句話在這些問題下顯得格外扎心——人臉信息具有唯一性，并且難以修改，“一旦一次泄露，就將終身泄露”。除非回爐重造，或放棄人臉識別認證體系，或整體技術水平發生極大的進步，否則，受到損害的個人將難以獲得有效的救濟。
番外：高校濫用刷臉的特殊風險
不良的示范效應
高校作為萬人仰望的象牙塔，其行動模式具有示范效應。高校無視合法性風險強制引入人臉識別，可能會引發公司、商場等其他線下場景的效仿，使得強行設置人臉識別的行為變得更加普遍，助長社會不良風氣，從而進一步增加了人臉信息濫用的可能。
閘機的安全隱患
高校加裝刷臉閘機可能會使得出入通道變得狹小，大大降低了人流通過量，在火災、地震等風險事件中，將對大量人員的逃生造成威脅。筆者曾在第一篇文章中提到，2019年，重慶大學虎溪校區一棟宿舍樓的學生在地震逃生時，排隊刷臉引發擁堵，幸未造成傷亡。[16]
教育的不利影響
從教育心理學的角度講，有研究表明，持續的技術監控可能會阻礙批判性思維和自治能力的發展，會對學生自由探索、實驗、試錯和學習造成深遠影響。[17]
此外，高校引入人臉識別可能會使學生習慣于交出敏感個人信息，無助于培養公民的隱私意識。
受阻的開放功能
刷臉所伴隨的人員管制也可能削弱高校的開放功能。我國《普通高等學校圖書館規程》第37條規定：“圖書館應在保證校內服務和正常工作秩序的前提下，發揮資源和專業服務的優勢，開展面向社會用戶的服務。”《關于推進學校體育場館向社會開放的實施意見》提出“公辦學校要積極創造條件向社會開放體育場館”“鼓勵民辦學校向社會開放體育場館”。
而如今，刷臉閘機的泛濫使得高校內部也存在著重重壁壘。即使校外人士獲準進入校園，也未必能夠通過圖書館、體育場館、教學樓等地的刷臉閘機。這或許會讓“旁聽生”一詞成為時代之淚。
注：本文系2020年中國法學會民法學研究會青年學者研究項目“人臉識別的效用反思與法律規制”（）的階段性研究成果。
作者簡介：王旭，北京大學法學院2018級民商法學博士研究生。
致謝：一如既往地，、菽北、小林同學、填填和C++第一時間幫助審閱了本文，為文章提供了諸多有益的建議。特別地，小林同學建議我補充“原諒寶”的例子，建議我增加“難以救濟”的論述，完善了文章的論證結構。但本文文責自負。
如果您對文章觀點有任何評論意見，或對選題、排版等有任何建議，或者想要反饋您身邊的刷臉濫用問題，歡迎點擊下文“留言板”小程序與大家討論。您也可以通過公眾號后臺或與作者交流。
注釋：
[1] App專項治理工作組、南都人工智能倫理課題組：《人臉識別應用公眾調查報告（2020）》，載App專項治理工作組網2020年9月20日，，第4頁。
[2] 韋驥、林潔琪：《廣西10多名業主刷臉買房被騙超千萬元 中介涉詐騙被抓》，中國新聞網，2020年12月12日，
[3]新浪科技：《央視發布消費預警：人臉識別驗證存漏洞 用照片即可破解》，載新浪網2017年3月15日，。
[4]張璇、裘立華《小學生成功用照片“刷臉”取快遞，“刷臉技術”靠譜嗎？》，載新華網2019年10月20日：。
[5]劉以秦、柳書琪：《清華團隊用照片刷開19款安卓手機？真相來了》，載財經網2021年2月7日，。
[6] , , Ahmad , of on Face : A , on 22 Jul 2020 (v1), last 6 Feb 2021 (this , v3), arXiv:2007.11709 [cs.CV].
[7]新浪娛樂：《尷尬！董明珠闖紅燈被交警公示 原是人臉識別出錯》，載新浪網2018年11月21日，。
[8]看看新聞：《老人去世半年收到闖紅燈罰單？警方登門致歉：系統鬧烏龍》，載網易新聞網2020年10月13日，。
[9] , Quinn, Mei Ngan, Face In Video (FIVE): Face of Non- , March 2017,
[10]周益帆：《十幾人被騙超千萬：業主毫不知情僅刷一下臉 房子就被過戶了》，載央廣網2020年12月11日，；龐慧敏、蔣少萱：《廣西南寧多業主遭遇“刷臉房子即被過戶”》，載《工人日報》2020年12月17日，第6版。
[11] , : I was of . Why are to use it? Post (Jun. 25, 2020),
[12] G. , He Spent 10 Days In Jail After Led To The Of The Wrong Man, Says, (Dec. 29, 2020),
[13] 趙瑩瑩：《人臉識別竟然成了售樓處標配》，轉引自新華網，2020年11月26日，。
[14] 吳劍鋒：《人臉識別技術推廣受信息泄露困擾》，經濟參考網，2021年4月7日，。
[15] 畢舸：《“原諒寶”，技術噱頭下的作惡》，新華網，2019年7月2日，。
[16] 喻琰、趙思維、鐘笑玫：《地震了還排隊刷臉出宿舍樓？校方：演練過如何逃生，還得加強》，澎湃新聞網，2019年6月19日，
[17] Nila Bala, The of in Our 's . Duke Law & 18 (2020): 249-267.