誰在濫用人臉識別?

誰在濫用人臉識別?

連線Insight · 2020-11-25
對人臉識別多加警惕,并不是一件壞事。

編者按:本文來自微信公眾號“連線Insight”(ID:lxinsight),作者:鐘微 王古鋒,36氪經授權發布。

人們已經習慣了人臉識別的存在。

酒店接待旅客,刷臉登記入住,馬路上車輛川流不息,司機們習慣于通過人臉識別解鎖手機,而他們頭頂的攝像頭,正在利用同樣的技術自動抓拍。

作為近年來AI浪潮中的標志性技術,人臉識別已經大規模落地,并應用于安防、金融等日常生活的重要場景中。

但這項給生活帶來美好改變的技術,正處于前所未有的爭議之中:當人臉識別技術不斷引發個人信息安全問題,人們將之稱作“危險的武器”。

人臉識別開始接連被叫停,從杭州動物園發生的“人臉識別第一案”到杭州一小區抵制人臉識別技術事件,人們已經對人臉識別技術產生警惕。

從美國巨頭到中國科技企業,不乏被告上法庭的,有的企業則被勒令停止和中止使用人臉識別技術,他們站在了AI浪潮之上,卻在蒙眼狂奔時,忘記給自己設上“紅線”。

更惡劣的變化在于,人臉識別的濫用已經無孔不入、防不勝防。

近期,濟南一位看房者戴著頭盔進入售樓處,這樣滑稽的行為,揭開了一條關于技術開發者、使用者和受益者的利益鏈條,人臉識別沒有成為服務消費者的技術,反而成為房地產開發商精準營銷的工具。

對于用戶而言,如果風險無法避免,只能選擇全面避開人臉識別技術。

技術的開發者和推廣者也會陷入沮喪,技術并不是一開始便帶有惡意。創新工場董事長李開復曾對外表示,隱私保護不是一個非白即黑的問題。作為AI技術以及多個科技公司的投資者,他的立場代表了許多支持者。

爭議和混亂,也許是人臉識別發展中必經的過程,從目前的狀況來看,這個過程還將持續很久。

誰在濫用人臉識別?

面部信息是個人重要的生物特征,具有強烈的個人身份屬性。

人臉識別技術正越來越多地出現在日常生活中,但人們沒想到的是,在你沒注意的時候,你的臉部數據就已經被“偷竊”了。

戴頭盔看房的反常行為背后,就是部分房地產公司用人臉識別技術進行精準營銷,甚至這是以犧牲買房者的利益為代價。

據南方都市報報道,這或與房企的分銷模式有關,售樓部裝有人臉識別系統,可以把到訪的客戶區分為自然到訪客戶和渠道客戶。

自然到訪客戶是指購房者自己得知信息到售樓部看房的客戶,渠道客戶則指的是通過中介介紹到訪的客戶。

一旦渠道客戶成交,房產公司便會從每筆房產的成交額中給中介返傭。中介可以憑借這筆返傭讓利給消費者,讓其享受到售樓部的渠道優惠。

多年和房地產商打交道的方真對連線Insight表示,“這種給中介返傭的模式在業內很常見,根據中介水平的不同,售樓部給到的中介返傭,占銷售額的0-13%!

在此情況下,人臉識別系統,將自然到訪客戶和渠道客戶進行明確分類,可以更方便地計算傭金。

不過,部分房產公司,將流程稍加改變,便可能讓買房者利益受損。

房地產自媒體“重慶地產news”曾發布文章稱,某項目推出了一系列年底購房優惠,只要購房者第一次到訪項目并當場下單,各種折扣算下來可以少花30萬元。但購房者必須是第一次到訪,或者說此前沒有被攝像頭拍到過。

就在幾個月前,也發生了類似的事件。今年6月,據寧波晚報報道,宋先生的姐姐在房地產售樓部銷售吳經理的介紹下,購房返利拿到了2萬元,宋先生也打算購一套房,然而就在返利審批流程快要完結的時候,售樓經理反饋審批沒通過。

而審批未通過的原因是,如果想要拿到返利優惠,宋先生需要備案一個小時以后到售樓部,但宋先生備案不到一個小時就到售樓部,被人臉識別系統記錄下來。

對于房產這樣的高價產品,買房者通常購買時會咨詢多個渠道,房產公司利用人臉識別技術設定這一規則,實際上是“剝奪”了買房者對比的權利。

戴頭盔男子的行為,也許便是對房產公司這種規則的反抗和規避。同時,也是對于自身人臉信息的保護。

在這件事被曝出之前,很多人并不知道,售樓部裝了人臉識別系統,并且在毫無提前告知的情況下,房地產公司就抓取了消費者的人臉信息,這可以說是濫用人臉識別技術的一個典型案例。

而這只是人們臉部信息數據隱私被侵犯的冰山一角。

為什么要警惕人臉識別技術?

人臉識別技術準確率能夠達到98.52%,超過人眼識別能力的97.53%。

2014年,中國科學院深圳先進技術研究院副院長湯曉鷗帶領的團隊,發布了這一基于原創人臉識別算法的研究成果,也打開了人臉識別技術巨大的商業想象空間。

但是人臉識別技術大規模落地以來,人臉數據的隱私權一直沒有明確的法律規定,企業在人臉采集、人臉應用中沒有現行的規定和標準,而是更多依托自身的道德水平。

想要維護自身的信息安全,甚至變成了一個難題。

今年6月15日,“中國人臉識別第一案”在杭州市富陽區人民法院開庭審理,對簿公堂的是浙江理工大學副教授郭兵和杭州野生動物世界。

“中國人臉識別第一案”審理現場,圖源杭州市富陽區人民法院官網

回到事件剛發生時的2019年4月,郭兵購買了杭州野生動物世界1360元的年卡,并確認以指紋識別的形式進入園區,然而到了2019年7月、10月,杭州野生動物世界向郭兵發送短信通知,年卡的入園系統將由指紋識別更換為人臉識別,沒有激活人臉識別系統則無法入園,也無法辦理退卡退費。

這意味著杭州野生動物世界在強制性地讓郭兵使用人臉識別技術。

之后,雙方在入園方式、退卡退費上協商未果,郭兵把杭州野生動物世界告上了法庭,并表示杭州野生動物世界存在違約和欺詐,要求杭州野生動物世界賠償年卡卡費、交通費和刪除個人信息。

今年11月20日,“中國人臉識別第一案”正式公布結果,一審判決顯示商家無權強制消費者配合其人臉識別的管理方式,這也給國內一些企業強迫用戶使用人臉識別的行為敲響警鐘,這起案件的法律審判具有一定的參考意義。

對于人臉識別的警惕,并不是一件壞事。

在美國,人臉識別技術正成為侵犯人權和數據濫用的罪魁禍首,今年6月,微軟、亞馬遜和IBM相繼停止了人臉識別技術的應用。

IBM首席執行官克里希納在致國會信中寫道,“IBM堅決反對并且絕不容忍將任何技術(人臉識別技術)用于大規模監視,種族貌相,侵犯基本人權和自由,或任何與我們的價值觀和原則相抵觸的目的!

關于人臉識別,一個典型案例是,Facebook未經用戶允許,非法收集用戶生物數據,對用戶海量照片的人臉進行識別,并分析出人物標簽信息。

這一侵犯用戶信息數據隱私的行為,最終引起了用戶的集體訴訟。

根據伊利諾伊州當地法律,每個受影響的用戶,罰款金額將達到5萬美元,考慮到此事波及5000萬Facebook用戶,其他州也可能提起類似的訴訟。這也釀成了堪稱Facebook有史以來的最大危機。

Facebook希望用5.5億美元進行和解,被伊利諾伊州的法官拒絕, 他認為這個和解方案,沒有充分懲罰侵犯隱私權的Facebook。

直到今年7月,Facebook表示愿意支付6.5億美元賠償終止訴訟,加州聯邦法官初步批準該和解協議,最終和解協議還未正式公布。

回到國內,數據被濫用也是家常便飯。

在個人信息黑產鏈條中,人臉數據正在被交易。今年10月,據央視新聞報道,大量人臉照片被私下交易,2元可買上千張照片,5000張人臉照片不到10元,這些照片落入不法分子手中,可能用于精準詐騙甚至洗錢、涉黑等違法犯罪活動。

除了強制使用、數據濫用,人臉識別技術還存在許多的爭議點。

如2019年陌陌公司旗下的一款Ai換臉軟件ZAO,僅需上傳一張正臉照,就可以輕松實現明星、影視劇換臉,然而ZAO的一夜走紅也引起數據泄露的擔憂,事后人們才發現ZAO的用戶協議上寫明一旦上傳照片,則表示用戶同意ZAO及其關聯公司以及ZAO用戶全球范圍內完全免費、不可撤銷、永久、可轉授權和可再許可的權利。

另外,人臉識別領域的巨頭們被曝出的一些信息,也讓人感到擔憂。

今年9月,創新工廠董事長李開復公開演講時稱,曾在早期幫助曠視科技找到美圖螞蟻金服等合作伙伴,讓他們拿到大量人臉數據。

雖然李開復事后澄清是自己口誤,但仍然沒有辦法消除外界對人臉數據被肆意共享的擔憂。

獲取人臉識別的設備越來越多,也有越來越多的企業,在采集人臉數據后,更多考慮如何給自己帶來更多營收,而忽視了隱私保護,這也削弱了消費者接受人臉技術的信心。


0
2022天天躁日日躁狠狠躁