他們為何叫停人臉識別?

人臉識別

文: 勞東燕、葉展旗、錢童 

進出大學校園要出示證件,郵寄東西要核查身分證,住個賓館要人臉識別,坐地鐵人物同檢尚嫌不夠,還要進一步運用所謂的新技術,來繼續提升安保級別。接下去,是不是要在所有的馬路上,所有的公共場所,全面安裝人臉識別的機器,以便隨時將行人攔截下來盤問與搜身,將那些被認為危及安全的人進行拘押呢? 

人臉識別等AI技術在中國野蠻生長的同時,三家美國科技巨頭:IBM、亞馬遜、微軟反而接連叫停了人臉識別,前所未見。

人臉識別技術關乎倫理問題,而非基於錢

「技術可以提高透明度、幫助警察保護社區,但絕不能放大歧視與種族不平等。」

IBM CEO 克里希納(Arvind Krishna)向美國國會議員發出公開信,宣布不再提供通用人臉識別軟件,提議制定負責任的技術政策;緊接著,亞馬遜亦聲明暫停向警方提供人臉識別技術一年時間;微軟也表態停止向警方銷售人臉識別軟件,直到有相關國家法律出台。

三家公司是美國科技業的代表,市值總計3萬億美元。年過百歲的IBM是最老牌的科技企業,微軟則是全球最大的軟件公司,而亞馬遜旗下AWS是最大的雲服務商,同樣服務著數以百萬計的政府機構和企業。三家此次決絕的態度,也讓人工智能(AI)倫理爭議再起。

人臉識別是近年AI浪潮中的標誌性技術,在特定領域遠超人眼,被廣泛應用於安防、金融等領域。

但由於數據量不足、數據種類單一等,識別算法更容易在深色皮膚、兒童等人群中出錯,被視為「算法歧視」。AI技術上難以排除小概率問題,使大型科技公司屢遭指責。

AI系統的供應商和用戶負有共同的責任,確保AI通過對偏見的測試。所以「暫停服務是個倫理上的決定,而非基於錢」。

相比之下,中國的企業在應用優先的環境中,人臉識別等一眾新技術仍在野蠻生長。「全靠企業自覺。」一家雲服務商主管稱,行業中還未有治理共識。中國的監管很強,但屬於事後監管,所以在惡性事件曝光之前,用戶的數據權利就看企業的道德水平。「爭論哪裡能做人臉識別沒有意義了,因為已然遍地都是。」

 
人臉識別濫用的「惡意」 

很多人對人臉識別技術野蠻生長很不以為然,清華大學的勞東燕教授歸納了大概四種看法:

其一,想太多,竟不能體味與感恩政府如家父般的保護善意。

政府是由具體的人在運作,這就等於說,所有的個人數據,包括識別性極強的生物學數據,都是由群體中的少數人來掌控。這些人究竟掌控我們多少的個人信息,為什麼要掌控我們的個人信息,掌控這些個人信息是要用來幹什麼,都是細思極恐的事。

掌控數據的人顯然不是上帝,他們有自己的私慾與弱點。所以,他們會如何使用我們的個人數據,會如何操控我們的生活,都不得而知。 

更不要說,這些數據因保管不善而被泄露或是被黑客侵入,導致為不法分子利用所可能產生的危害結果。

其二,有人會說,只要不幹壞事,便無需擔心政府掌控你的個人數據。 

在一個正常社會中,個人理應擁有正當的權利,反對任何組織隨意獲取自己的個人生物學數據。法律之所以保護個人的隱私權與住宅自由,就是要讓個人有自治的空間,這個空間不允許他人侵入。

這裡的他人,不單指其他的個人或是一般的組織,也包括政府,包括國家。倘若個人的生物學數據也能以安全為名未經同意而隨意獲取,則法律上對隱私權與住宅自由的保護,還有什麼意義? 

無隱私即無自由。

其三,有人會提出,自己並非什麼重要人物,別人想必也沒有興趣來了解我們的個人信息。 

當你把個人安全的問題,寄希望於別人的忽視時,基本上就活得如亡命的賭徒一般了。並且,你賭的不只是自己的運氣,同時還在賭,掌控數據的人是天使一般的存在。非要一廂情願地認為自己能賭贏的人,不僅是鴕鳥性格,竊以為大概還需要上交一些智商稅。 

其四,還有人會辯解,這樣的技術推廣是有些問題,但反對也沒什麼用,就懶得花力氣反對了。 

攸關自身重大權益的事項,如若我們自己不站出來反對,做出應有努力,自然更不可能指望別人出來幫著呼籲。在沒有做起碼的努力之前,怎麼就知道反對無效呢?即便反對最終無效,也終歸比馴服地給自己套上枷鎖要強。至少我們曾經努力過,做過一些抗爭。 

作為被侵害一方的我們,如果只是一味地默默地忍受,甚至不敢表明反對的立場,就等於是以不作為的方式,幫助對方來算計與加害自己。在這樣的事情上,退一步並非海闊天空,而很可能從此墜入深淵。 

因為這根本不是靠一味忍讓就能解決的問題。眼看著一步步地走向深淵,這樣的遭遇,至少部分是我們自己一味地隱忍所釀成的。

侵犯個人信息,公權力比商業機構更危險

商業機構以微利或是便捷安全之類的因素相引誘,讓人們「自願」地使用人臉識別,由於大多存在信息告知不充分的問題,很難成立有效的用戶同意,故而其運用也難謂合法。 

不過,在一心謀求自身利益的同時,企業與相應的技術人員,難道就沒有想過,這樣的技術推廣會給社會帶來什麼樣的災難嗎?難道不知道自己有一天也可能成為被反噬的對象嗎? 

不要扯什麼技術中立之類的套話。當人臉識別技術被大肆用來獲取普通公民的個人信息,並源源不斷地匯集於龐大的組織之手。從事相應技術研究與推廣的這些企業與技術人員,敢說自身就沒有任何的責任嗎? 

假如電幕的世界有一天真地降臨,你們是當之無愧的功臣;但願到彼時,還能有人身自由去暢飲慶功宴上的美酒。 

但是商業機構的濫用,至多不過是讓人們損失一些錢財。真正令人擔憂與恐懼的是,自己的信息被公權力部門所濫用;因為當他們濫用時,我完全不知道自己與家人會付出什麼樣的代價,財產、名譽、職業、自由、健康或是生命,一切皆有可能。 

人臉識別技術運用於日常安保,無差別地監控所有人的行動,以期對公共領域實現精確把控,從而達到理想化的安全狀態。 

這種行為將每一個人變成維護安全的工具,卻漠視人本身才是安全的目的

這和20世紀那些給人類帶來整整一個世紀災難的諸多行徑別無二致,例如德國納粹用科學手段測量劣等民族;蘇聯通過人獸雜交創造超級人猿戰士;歐洲的「絕育法案」等等,都是試圖用抽象、教條的科學方法論來管理、改造複雜、多變的人類社會,是對科學技術的濫用。

哈耶克在《科學的反革命》中說,濫用科學「把一個個活生生的人描述成『毫無生命的自由原子』,他們消解了倫理道德,他們追求價值中立,驅逐價值判斷,最終把人類社會引向奴役之路。」 

可以說,人臉識別技術的運用,不僅是合法與否的問題,更是關乎人類自由命運的大事。

    

傳播真相   探究歷史 支持正義  分享快樂

💰 打賞