繼舊金山之後,美國第二個城市立法禁止「人臉識別」技術

本文來源:新智元

微信id:AI_era

繼舊金山之後,全美第二個禁止面部識別技術的城市出現了。

近日,馬薩諸塞州的薩默維爾市議會通過了禁止在公共場所使用面部識別軟件的投票。

新政策生效後,該市各機構、分局或下屬部門,均不得在公共場所使用面部識別技術。

  美國舊金山通過史上第一個「人臉識別禁令」,警察想用來抓罪犯也不可以

面部識別技術在美國的推進困難重重。

警方、政府部門等對使用面部識別協助警務有需求,但受到侵犯隱私、人權,歧視少數族裔、歧視女性等的指責。

對面部識別的批判越來越多,除舊金山、薩默維爾市外,奧克蘭、紐約等城市也在考慮類似禁令。

全票通過:繼舊金山之後,全美第二個禁止面部識別的城市

由於對潛在歧視和反烏托邦(dystopian)濫用的擔憂,近日,美國馬薩諸塞州的薩默維爾市(Somerville)議會投票禁止當地警方和市政部門使用面部識別軟件。

這使得位於波士頓附近並擁有81,000人口的薩默維爾,成為美國第二個禁止該技術的城市。

該禁令是在5月份舊金山通過面部識別禁令之後實施的。

該條例部分由ACLU(美國公民自由聯盟)撰寫,ACLU也幫助制定了薩默維爾法令。

除了禁止市政部門積極使用人工智慧外,該法令還禁止在刑事調查或法律訴訟中使用面部識別軟件系統產生的數據或證據

當地法律沒有限制州或聯邦執法部門使用面部識別的範圍。

然而,法律將面部識別稱為「等同於要求每個人隨時攜帶和展示帶有個人照片的身份證」,並引用了對女性、年輕人、移民和有色人種面部識別錯誤匹配的擔心。

該條例以11-0的投票獲得通過 – 這並不令人驚訝,因為11名薩默維爾市議員中有9位贊成立法。

隨著面部識別軟件開始滲透到工作場所,iPhone等消費者設備使用面部識別來驗證購買,警方也採用了很大程度上不受管制的技術。

隨著面部識別已經發揮作用,政府剛剛開始考慮如何在社會中使用它。

Somerville城市職員John Long在一封電子郵件中表示,當地居民分享了98條書面評論,加上ACLU的支持信和來自貿易組織安全行業協會的反對信。該市收到的所有信件都支持禁令。

「在使用納稅人資金之前,任何新的安全技術必須證明是有效的,」薩默維爾居民Dmitry Erastov在一封信中說。

Logic雜志的創始編輯和哈佛大學職員Moira Weigel表示:「我們知道,這些技術強制執行種族主義和cis-heterosexism,並為民主上不負責任的私人實體提供了大量敏感信息。」

「舊金山是另一個擁有大量技術人員的城市,他們了解這些系統是如何運作的,並且也投票禁止它們,這並不是偶然的。」

同樣也是這幾天,警用攝像機製造商 Axon承諾,將不為其產品添加面部識別軟件。

許多人工智慧專家或隱私倡導者,向州和國家立法者提供有關面部識別軟件相關風險和機會的建議,有利於暫停或徹底禁止該技術。

波士頓地區在面部識別政策辯論中,扮演著相當突出的角色。馬薩諸塞州立法機構目前正在考慮由波士頓地區立法者贊助的法案「面部監視暫停法案」。

舊金山成美國第一個禁止面部識別監控的城市

在波士頓之前,今年5月,舊金山成為美國第一個禁止面部識別監控的城市。

該措施以舊金山監管委員會的8-1投票通過,使舊金山成為美國第一個禁止警察和其他政府機構使用面部識別技術的城市。

近年來,由於深度學習技術的普及,面部識別得到了顯著改善。典型人臉識別系統的工作方式是分析面部特征,然後與資料庫中的標記面部進行比較。

然而,人工智慧研究人員和ACLU等民權組織特別關注面部識別系統的準確性和偏見。

有人擔心,它們在正確認識有色人種和女性方面並不那麽有效。

這個問題的一個原因是用於訓練軟件的數據集,可能不成比例地是男性和白人。

目前還沒有關於如何使用人工智慧技術或面部識別系統的聯邦法律,但一些州和地方政府已經做出了自己的努力:

例如,伊利諾伊州有一項法律要求公司在收集生物識別信息之前征得客戶的同意。加州參議院目前正在考慮一項法案,該法案將禁止該州的警察使用生物識別技術(如面部識別)和身體攝像機。

根據新的舊金山法律,任何想要使用監控技術或服務的城市部門必須首先得到監事會(Board of Supervisors)的批准。

該過程將包括提交有關技術及其使用方式的信息,並在公開聽證會上提交。

根據新規則,任何已經使用監控技術的城市部門都需要告訴董事會是如何使用它的。

該條例還規定,該市每年都需要向監事會報告監管設備和服務是否按批準方式使用,還包括保存、共享或刪除數據的詳細信息。

不過,也有一些人反對該條例:「當負責任地使用時,它可能是一個很好的公共安全工具。」

美國會兩黨共同提案:立法暫停使用人臉識別軟件

上個月,美國國會兩黨在一場國會聽證會上正式討論了對執法部門使用面部識別軟件所帶來的日益擔憂。

議員們聽了幾個小時的證詞,內容涉及不受監管的面部識別如何跟蹤抗議者,影響刑事司法系統,並加劇種族偏見等。

▲國會兩黨共同提案,尋求立法對面部識別進行監管

不同尋常的是,兩黨這次都表現出了合作的態度,同意共同努力對面部識別進行監管

兩黨一致認為面部識別軟件有侵犯公民隱私權和抗議權的隱憂,尋求立法暫停此類工具的使用。

包括面部識別軟件專家在內的團隊認為,在更完善的監管出台或技術充分成熟之前,此類面部識別工具應由國家叫停

當前,FBI 和國土安全局等聯邦機構在使用面部數據識別潛在犯罪嫌疑人前是不需要獲得搜查令的。

目前還不清楚該委員會計劃如何起草法律來打擊潛在的違法行為,但兩黨議員都對美國公民的面部掃描可能侵犯了憲法權利這點提出了擔憂。

專家警告稱,由於這項技術推出得太快並且存在嚴重缺陷,可能會導致調查人員對潛在嫌疑人進行誤判。

美國並非唯一對面部識別技術憂心忡忡的國家。

近日,歐洲人工智慧高級別專家組(HLEG)發布報告,提議「歐洲應該禁止AI進行大規模監視和社會信用評分」。

報告寫道:「政府應承諾只部署和采購值得信賴的人工智慧系統,其設計宗旨是尊重法律和基本權利,符合倫理原則,社會技術健全。」

膚色、性別歧視引爭議,專家批判面部識別技術被濫用

大約一年前,美國公民自由聯盟(ACLU)首次公開了亞馬遜的面部識別軟件已在使用的事實。

從那時起,對該軟件的審計發現其更有可能偏向白人,對黑人很有可能識別不當,特別是女性黑人。

當 ACLU 將國會議員與犯罪資料庫進行匹配時,亞馬遜的 Rekognition 軟件錯誤地將28名議員識別為罪犯

被識別為罪犯的 28 名議員中,40% 是有色人種,儘管國會議員中有色人種的比例僅為 20%。

▲去年,亞馬遜的人臉識別程序 Rekognition 曾將 28 名議員錯誤地識別為罪犯,引發巨大爭議。

沒有監管的現狀下,濫用面部識別技術的可能性很高,特別是對於有色人種。

MIT媒體實驗室研究員和演算法正義聯盟(Algorithmic Justice League)創始人 Joy Buowamwini 發表研究表明,人臉識別系統對膚色較淺的男性表現優於膚色較深的男性,而對於膚色較深的女性則表現最差

她的研究成果遭到 AI 領軍企業的批評,但有數十位著名的 AI 研究人員為其辯護。

她在會上說:「至少,國會應該通過一項關於警察使用人臉識別的禁令,因為人臉識別的濫用、缺乏監督和技術的不成熟會造成很大的風險,對於邊緣化社區而言尤其如此。」

美國走向保守:禁止人臉識別的城市在增加

自MIT的研究和 ACLU 的報告以來,微軟和亞馬遜都聲稱,已經縮小了準確性方面的種族差異

但是,改進技術以更好地識別黑色面孔只是過程的一部分:準確度很高的技術仍然可能被用來支持有害的警務

如何使用這項技術很重要,這就是政策可以防止濫用的地方。

微軟和亞馬遜提出的解決方案是,在人臉識別已經投入使用後,再對其進行種族和性別偏見的審核 —— 這可能為時已晚。

科技的發展向來就是一把雙刃劍,任何一項技術的應用都常有利弊相隨。

美國在人臉識別這樣的技術應用方面似乎走向了保守的道路。

舊金山、波士頓郊區已經成為正式立法禁止警方和市政部門使用人臉識別軟件的兩個城市,奧克蘭也在考慮類似的禁令。

在紐約,人臉識別被嘗試用於在大橋上識別車內司機面孔,結果是徹底失敗。

  美國舊金山通過史上第一個「人臉識別禁令」,警察想用來抓罪犯也不可以
  監控下的真實中國:憤怒、悲傷、心酸、感動
  【刷臉】的時代來了,中國多個城市多項服務已經啟用臉部辨識。

參考鏈接

https://venturebeat.com/2019/06/27/boston-suburb-bans-facial-recognition-software/

https://venturebeat.com/2019/05/22/facial-recognition-moratorium-receives-bipartisan-support-in-congress/

https://edition.cnn.com/2019/05/14/tech/san-francisco-facial-recognition-ban/index.html

閱讀原文