人臉識別可能帶來的歧視和偏見，已經引發擔憂了。究其原因，一是源于AI技術本身，一是源于該技術被不當使用。

誰說AI是中立的

軟件公司Salesforce的首席科學家理查德?佐赫爾在《財富》國際頭腦風暴科技大會上指出：“偏見將成為未來人工智能領域里的一個根本性問題。”

顛覆認知的是，大規模的數據收集與分析并不代表能產生客觀中立的觀點，反而有可能加深先前存在的偏見。

如果一家銀行使用社交媒體來預測某人拖欠貸款的可能性，或是警方依賴預測模型來決定將哪類人列為嫌疑對象，那么從數據中發現的任何種族、性別或階級偏見都可以反映出來，并且可能被這些模型放大，從而產生帶有歧視性的結果。

再具體一點說。比如有人發現，一些人臉識別系統在識別深膚色和淺膚色人臉時，精確度往往不高，原因是用于訓練該系統的深膚色人臉數據遠遠不足。最臭名昭著的一個例子是，美國部分州的司法部門使用了一套人臉識別系統，用來決定是否應該批準犯罪嫌疑人保釋或假釋。然而在犯罪記錄相似的前提下，系統卻認為黑人嫌犯比白人嫌犯有更高的再次犯罪風險。

佐赫爾認為，在構建人工智能系統的人自身變得更加多元化之前，有些類型的偏見是不太可能被徹底消除的。目前，很多從事人工智能軟件開發的計算機工程師都是白人，而且當前開發的很多人工智能軟件都只反映了城市富裕人口的需求。

有爭議的應用場景

正如美國蘋果CEO庫克所說：“技術本身沒有好與壞，一切由我們人來決定”。讓我們感到害怕的不是人臉識別技術本身，而是其被過度、不當的應用。

今年9月，一段運用人臉識別技術來監控學生的視頻，在網上引發了熱議。

“趴桌子2次，玩手機2次，睡覺1次，聽講0次，閱讀0次，舉手0次，笑了0次，厭惡表情出現了10次……”

這項被稱作是能夠實現對學生“精準監控”的技術，在網絡上迅速引發了爭議。有網友指出，“學校應該是個培養人的地方，而正常人就應該有喜怒哀樂興奮懈怠開懷懶倦的情緒不是嗎？”

這條視頻出自AI獨角獸公司曠視科技，事發當晚該公司發出聲明稱：“近日網絡上出現的一幅課堂行為分析圖片，為技術場景化概念演示。曠視在教育領域的產品專注于保護孩子在校園的安全。”

但在同一天，剛剛開學的某高校同學們發現，校門口、學生宿舍門口、圖書館、實驗樓、教室里多了很多的人臉識別攝像頭。所用設備就是曠視科技的產品。

歧視并不是最可怕的，在一些時候，人臉識別技術被認為具有危險性。

《經濟學人》刊發于2017年的報道提出，人臉本身存在特殊性，“人臉和其他生物特征數據，比如和指紋之間存在一個巨大區別是，它們可以遠距離起作用。任何人只要有手機都能拍攝一張照片供人臉識別程序使用。”

因此人臉面部特征有著更為廣闊的運用前景，隨之而來的是更高的風險。

還記得前不久，一款名為“ZAO”的AI換臉軟件突然火爆全網吧？上線當晚就直接沖到了App Store的第二名。可以說這款軟件說把用戶想要體驗的AI換臉門檻降到了最低。但隨著ZAO越來越火，用戶們對它的質疑聲也變得越來越大。

我們來看看它的用戶協議。該項條款包括但不限于：人臉照片、圖片、視頻資料等肖像資料中所含的用戶或肖像權利人的肖像權，以及利用技術對其肖像進行形式改動。

這也就意味著，如果你簽了該協議，你就在無形中將自己的肖像權拱手讓人了，以后你的臉將完全有可能被別人隨意使用，變換。

其實早在2017年12月，國外某ID名為“deepfakes”的Reddit論壇用戶首次將自己制作的AI換臉視頻發布在了網絡上，它能夠把照片和視頻中的人臉替換成任何想要替換的人臉，且效果十分逼真，有些肉眼甚至難以分辨真假。

當時，“deepfakes”把情色電影里的女主角換成了蓋爾?加朵等好萊塢明星，這也是世界上所有人們第一次公開見識到AI換臉的強大——和危險。

市場調研公司Market Research Future稱，人臉識別市場每年增長20%，預計到2022年將達到每年90億美元。

開發頂尖軟件的競爭中，勝出的公司必然要算法精確度很高，可以迅速識別面部，盡量減少誤差。與人工智能其他領域一樣，要開發出最好的面部識別算法，就得收集大量數據，也就是面部圖像用來訓練。

“收集并分析這些數據是有許多益處的。”凱洛格學院的一位營銷學副教授卡特勒說道。“然而它的風險也很大，因為同樣的信息也能夠被惡意使用。”而即便是出于最大的善意研究這些數據，它們依然有可能產生預料之外的負面副作用。

為了改進算法，很多公司經常在未經許可的情況下利用數十億張面部照片來進行算法訓練。你自己的臉就可能在面部識別公司的“訓練庫”里，也可能在公司客戶的數據庫里。

最近，美國國家廣播公司的一篇報道重點批評了類似做法，道詳細描述了IBM如何從照片共享網站Flickr中抓走超過100萬張面部照片，用作人工智能研究。

此外也存在黑客攻擊的風險。網絡安全公司Gemini Advisors的安德雷?巴雷舍維奇說，曾經見過從印度國家生物特征數據庫中竊取的資料，都在“暗網”上出售。他還沒發現有人出售美國人面部數據庫，但補充說，“這只是時間問題。”如果發生這種情況，從酒店或零售商盜取的顧客面部圖片可以幫助罪犯實施詐騙或冒充身份。

我們是否太寬容

數據泄露和數據嚴重濫用通常會引發消費者的強烈抗議。然而，我們實際上對數據濫用的容忍度也讓人意外。

人臉識別公司FaceFirst的特雷普說：“80、90后更愿意提供面部圖像。《少數派報告》里呈現的世界即將到來。如果做得好，人們將享受到便利，而且將變成積極的經歷。不會感覺太古怪。”

那么問題來了：是否越來越多的人愿意用隱私來換取便利？他們都知道背后的風險么？監管部門是否能扮演保護者的角色？

喬治敦大學的研究員加維支持由法律監督該項技術。但她也表示立法者很難跟上技術發展的腳步：“跟指紋不一樣的是，長期以來指紋采集的方式和時間一直有規則限制，而面部識別技術領域沒有規則。”

很多情況下，消費者沒有意識到自己在巨大數據集的正式與非正式研究中扮演“參加者”的角色。

在注冊獲得一項免費服務，或申請信用卡時，“大多數人都不知道自己同意了哪些事項，也不知道他們的數據會被用來做什么。” 凱洛格學院的卡特勒教授說。“他們或許會感到不安，但對于他們的數據會被如何使用，以及可能帶來的損害則無了解。”

大多數人除了接受伴隨新技術的益處而來的弊端之外別無選擇，因為拒絕的成本往往太高。

不能缺席的法律法規

很多人開始警惕人臉識別技術的濫用，“反人臉識別”技術也開始涌現。比如“腦門貼紙”——穿戴繪制特定圖案的眼鏡、帽子、衣服能夠有效干擾機器視覺，避免算法對人的識別。

當然，這并非是理想的解決方案。

中國清華大學法學教授勞東燕在其公眾號發文稱，有必要對人臉識別進行法律規制。勞東燕主闡述了四點原因，一是人臉是重要的個人生物數據，相關機構或組織在收集之前需證明合法性；二是需征求公眾意見，經過嚴格的聽證過程；三是驗證分類標準的合理性和合法性；四是驗證人臉識別技術的通行效率。

法學博士史宇航稱，在我國正在制定的“民法典人格權編”草案二審稿中，就將面部特征等個人生物識別信息納入個人信息的范疇。除此以外，面部特征還涉及肖像權的保護問題，是傳統法律關系與新興法律關系的碰撞與融合。圍繞面部特征等個人信息的收集、利用，各國法律大多是以用戶的“知情-同意”作為合法的基礎。

美國已經有多個城市制定了與人臉識別數據相關的法案，禁止人臉識別技術的使用。

英國警方因為使用人臉識別技術，被認為侵犯了隱私而被告上法庭。這也是英國首宗因人臉識別技術而起的法律訴訟。

加拿大隱私專員辦公室已在調查商場使用面部識別技術的合法性問題。

2019年8月，瑞典數據保護機構對瑞典一所中學因違反通用數據保護條例而判處2萬歐元罰款。中學工作人員在一個教室里面安裝了一部人臉識別相機作為實驗，以檢測采用此種方式登記學生考勤是否更為迅速，該實驗共涉及22名學生。瑞典數據保護機構認為中學征得的同意不是“自由作出的”，并且不符合最小必要性原則。