아마존의 얼굴인식, 28명의 국회의원을 범죄자로 오인

미국 시민 자유 연맹(ACLU)이, Amazon이 개발 한 얼굴 인식 API "Amazon Rekognition"을 사용하여, 연방 의원의 얼굴 사진을 범죄자의 얼굴 사진 데이터베이스와 비교 한 결과, "28명의 의원이 범죄자로 잘못 인식했다"고 발표했다. 이 결과로 ACLU는 얼굴 인식 기술을 경찰, 법 집행 기관에 도입하는 것에 대해 재차 우려를 표명하고 있다.



"감시 카메라의 영상에 비친 얼굴을 범죄자의 얼굴 사진 데이터베이스와 비교하여, 군중속에 있는 범죄자를 찾아내는"이라는 얼굴 인식 기술의 응용이 다양한 국가의 경찰에 도입되고 있다. 




예를 들어, Amazon은 자사가 개발 한 얼굴 인식 기술 "Amazon Rekognition"을, 적어도 미국의 2개 주의 법 집행과 경찰의 바디 카메라 제조 회사 등에 판매하고 있었던 것이 판명되었다.


그러나, 얼굴 인식 기술의 정확도는 실용적인 면으로 높다고는 말할 수 없으며, 이미 얼굴 인식 기술을 경찰이 운영하기 시작한 영국에서는 오 인식률이 98%에 이른다는 결과가 밝혀져 비판을 받고 있었다고. 이러한 얼굴 인식 기술에 대한 신뢰성의 낮음으로부터 미국에서도 다양한 인권 단체가 얼굴 인식 기술의 도입에 대해 우려를 표명하고 있다.



ACLU는, 실제로 법 집행 기관에 납품되어 있다는 Amazon Rekognition의 정확성을 확인하는 테스트를 실시했다. 2만 5000장으로 구성된 범죄자의 얼굴 사진을 사용하여 Amazon Rekognition에서 얼굴 데이터베이스와 검색 도구를 구축하고 의회의 하원과 상원의 모든 의원의 공개 사진과 대조해 보았다고 한다.




테스트 결과, 28명의 의원이 범죄자의 얼굴과 일치하는 것으로 보고되었다. 특히 Amazon Rekognition이 잘못 인식 한 28명의 의원 가운데 약 40%인 11명이 유색 인종이었다고 ACLU는 보고하고 있다. 연방 의회 의원 중 유색 인종의 비율은 약 20%라는 데이터를 감안할 때, 유색 인종의 사람이 백인보다 오인되기 쉬울 가능성이 있다고 ACLU는 지적하고 있다.



2018년 5월, 연방 의회 의원의 유색 인종의 멤버가 모이는 모임 "Congressional Black Caucus(CBC)"는 Amazon의 제프 베조스 CEO에 대해 "흑인에게 얼굴 인식은 의도하지 않은 결과를 가져올지도 모르기 때문에, 법 집행 기관에 Rekognition을 판매하는 일을 중단해야 한다"고 편지를 보내고 있었지만, CBC는 우려를 뒷받침하는 결과가 되었다고 ACLU에 의견을 표명하고 있다. 의회 의원의 얼굴 사진을 사용한 테스트 결과의 반향은 크고, 이미 3명의 의원이 (PDF) 제프 베조스 CEO에 대한 공개 서한에 서명했다.


ACLU는, 얼굴 인식에 의한 경찰의 감시는 흑인과 이민자가 정부 조직에 억압 될 가능성을 낳는 것으로, 법 집행의 얼굴 인식 기술의 사용을 그만두어야 한다고 주장하고 있다. ACLU의 테스트를 계획 한 야곱 스노우 씨는 "이것은 어쩌면 늦었을지도 모릅니다. 얼굴 인식 기술은 이미 사용되고 있습니다"라고 말하고 있다.