[摘要]  亞馬遜人臉識別再次陷入輿論漩渦。該產(chǎn)品此前就遭到亞馬遜用戶、民間組織、股東甚至亞馬遜員工在內(nèi)超過15萬人聯(lián)名抗議。最近，在美國公民自由聯(lián)盟(ACLU)的一次測試中，它將535名美國國會議員中的28人誤判為罪犯!

西安軍用監(jiān)控  西安保密場所監(jiān)控 西安安全監(jiān)控 西安遠距離監(jiān)控 西安員工監(jiān)控 監(jiān)獄監(jiān)控 特殊監(jiān)控  西安宇視監(jiān)控 西安天地偉業(yè)監(jiān)控 西安高端監(jiān)控 西安漢邦監(jiān)控  西安簡易監(jiān)控 西安監(jiān)控系統(tǒng) 西安高清大華監(jiān)控監(jiān)控   西安大華紅外監(jiān)控監(jiān)控系統(tǒng)  紅外監(jiān)控監(jiān)控機 西安監(jiān)控監(jiān)控機 西安門禁系統(tǒng) 西安指紋門禁 西安學校門禁 西安監(jiān)控門禁 西安刷卡門禁 西安門禁一體機 西安門禁系統(tǒng)刷卡讀卡 西安打卡門禁 西安小區(qū)門禁 西安門禁系統(tǒng) 西安感應卡門禁 西安人臉識別門禁 西安高端門禁

  亞馬遜人臉識別再次陷入輿論漩渦。該產(chǎn)品此前就遭到亞馬遜用戶、民間組織、股東甚至亞馬遜員工在內(nèi)超過15萬人聯(lián)名抗議。最近，在美國公民自由聯(lián)盟(ACLU)的一次測試中，它將535名美國國會議員中的28人誤判為罪犯!

   亞馬遜人臉識別產(chǎn)品Rekognition又闖禍了

  Rekognition是亞馬遜最具爭議的產(chǎn)品之一。這是一款在亞馬遜服務器上運行的圖像識別AI軟件，用戶需要為使用該軟件處理的每張圖片向亞馬遜付費。

  它可以識別圖像或視頻上的文字、對象、場景、活動和人員。亞馬遜正積極地將其面部識別技術(shù)賣給執(zhí)法部門。在美國，警方已經(jīng)開始使用該軟件來尋找走失的兒童和被拐賣的人口。

  最近，ACLU找到了一些看似令人信服的證據(jù)——他們使用亞馬遜的Rekognition人臉識別工具，掃描了全部535名美國國會議員的照片，并將它們與25000張警方公開的罪犯面部照片進行了比對。他們使用亞馬遜為Rekognition的默認匹配設置。

  結(jié)果，系統(tǒng)錯誤地將28名國會議員的照片與罪犯面部照片進行了配對。也就是說，亞馬遜的人臉識別工具認為，535名國會議員中，有28名議員看起來像是罪犯,錯誤率達到5.2%。

  被錯誤匹配的議員中，有色人種的比例顯著過高(11人)，僅國會黑人同盟(Congressional Black Caucus)就有6名成員被誤判，其中包括著名的民權(quán)活動家眾議院議員約翰·劉易斯(D-Ga)。測試表明，對于皮膚較黑的人和女性，人臉識別通常不太準確。雖然對于整個國會來說，錯誤率是5.2%，但對于非白人的國會議員，錯誤率達到39%。

  ACLU強調(diào)，整個測試只花費了12.33美元。他們使用的是亞馬遜提供給所有用戶的面部識別系統(tǒng)，任何人都可以用它來掃描人臉圖像，進行匹配。ACLU希望此結(jié)果促使國會加入抵制行列，呼吁執(zhí)法部門停止使用亞馬遜人臉識別系統(tǒng)。

  亞馬遜表示：不背鍋

  亞馬遜方面回應，其軟件的設計本意是輔助人類工作，造成誤判的原因是ACLU在實驗中使用了錯誤的設置，將識別閾值定為80%，一般在警方工作中建議閾值不低于99%——簡而言之，這鍋我們可不背。

  事實上，美國公民自由聯(lián)盟(ACLU)是在默認的80%置信度閾值設置下使用Rekognition軟件，而不是亞馬遜為執(zhí)法機構(gòu)推薦的95%以上的置信度水平。

  鑒于ACLU并沒有公開其實驗設置細節(jié)，亞馬遜自己做了一個測試。他們使用 850,000 張學界通用的人臉和所有美國國會議員的圖片，將識別閾值調(diào)到99%以后，誤判率為0%。此外，ACLU使用的罪犯照片也可能模糊不清，導致識別出錯。

  亞馬遜發(fā)言人通過電子郵件回應道：

  機器學習是一個幫助執(zhí)法機構(gòu)非常有價值的工具，雖然擔心它會被濫用，但我們不應該因為把溫度調(diào)錯烤糊了比薩就扔掉烤箱。

  ACLU表示，即使是面向安全目的的人臉識別，亞馬遜網(wǎng)站也認為80%的置信度已經(jīng)足夠。

  一位知情人士表示，當亞馬遜直接與執(zhí)法機構(gòu)合作時，如奧蘭多警察局，亞馬遜會教他們?nèi)绾螠p少誤報，避免人為的偏見。

  值得注意的是，“誤報”是人臉識別技術(shù)公認存在的問題。

  包括ACLU在內(nèi)的所有人都沒有說過，警方會僅憑人臉識別軟件的“誤報”就去逮捕某人。人臉識別縮小了嫌疑犯名單的范圍，接下來是由人類來接管。

  對此，你們是怎么看的呢？