디트로이트 경찰국, 얼굴인식 기술 규제 강화
디트로이트 경찰국(DPD)은 얼굴인식 기술(FRT) 사용을 제한하는 새로운 규정을 시행했다. 이는 2020년 오인 체포를 당한 흑인 남성 로버트 윌리엄스와의 협상 합의 이후다. 이 합의로 인해 DPD는 얼굴인식 결과만으로 체포를 할 수 없게 되었으며, 얼굴인식 정보만으로 범인 몰아가기를 할 수 없게 되었다. 윌리엄스는 만료된 운전면허증 사진이 절도범 사진과 일치한다는 오류로 인해 가족 앞에서 수치스러운 체포를 당했다. ACLU는 이 합의를 통해 얼굴인식 기술로 인한 흑인 개인의 오해의 체포가 적어도 두 건 더 있었다고 강조했다. 새로운 규정은 체포영장을 발부하기 위해서는 얼굴인식 기술 이외의 증거가 필요하며, 얼굴인식 기술의 인종적 편향에 대한 교육이 필요하다. 또한, 2017년부터 얼굴인식 기술을 사용한 모든 사건을 심사할 것이다.
핵심 요약
- 디트로이트 경찰국은 오해의 체포 합의 이후 얼굴인식 사용을 제한하는 새로운 규칙을 도입했다.
- 경찰은 얼굴인식 결과만으로 체포하거나 범인 몰아가기를 할 수 없다.
- 새로운 정책은 체포영장을 발부하기 위해 범죄와 용의자를 연결하는 독립적인 증거가 필요하다.
- 디트로이트 PD는 얼굴인식의 인종적 편향에 대한 교육을 받고 과거 사건을 심사할 것이다.
- 합의로 인해 얼굴인식 기술이 기본적인 수사 작업을 대체할 수 없게 되었다.
분석
윌리엄스 합의 이후 DPD의 얼굴인식 기술(FRT) 제한은 기술의 인종적 편향 문제에 주목하게 했다. 즉각적인 영향으로는 FRT 사용에 대한 엄격한 감시와 다른 경찰서에 대한 법적 도전이 있을 수 있다. 장기적으로는 FRT의 더 넓은 적용이 느려질 수 있으며, 이는 기술 회사들이 알고리즘의 편향을 해결하도록 강요할 수 있다. 재정적 영향은 경찰이 사용하는 Rekognition 소프트웨어 사용을 중단해 달라는 요청을 받은 아마존과 같은 회사에 영향을 미칠 수 있다. 이 합의는 종합적인 FRT 규제와 윤리적 AI 개발의 필요성을 강조한다.
알고 계셨나요?
- 얼굴인식 기술(FRT):
- 얼굴인식 기술(FRT)은 사람의 얼굴 특징을 사용하여 신원을 확인하거나 검증할 수 있는 생체 인식 소프트웨어다. 이 기술은 눈 사이의 거리, 눈썹의 깊이, 볼뼈의 모양, 코의 너비와 같은 독특한 얼굴 특징을 분석하는 방식으로 작동한다. FRT는 보안 시스템에 널리 사용되며 스마트폰, 감시 카메라, 접근 통제 시스템 등 다양한 애플리케이션에 활용된다.
- 얼굴인식 기술의 인종적 편향:
- 얼굴인식 기술의 인종적 편향은 이러한 시스템이 특정 인종 배경, 특히 흑인이나 아프리카계 개인에 대해 정확도가 떨어지는 경향을 말한다. 이러한 편향은 알고리즘을 훈련하는 데 사용되는 데이터 세트에서 비롯될 수 있는데, 이 데이터 세트는 다양한 인구를 충분히 대표하지 못할 수 있다. 결과적으로 이러한 시스템은 잘못된 일치를 생성하거나 개인을 올바르게 식별하지 못할 수 있으며, 이로 인해 오해의 체포나 보안 위반과 같은 문제가 발생할 수 있다.
- 법적 맥락에서의 합의:
- 법적 맥락에서 합의는 법정 소송 전, 중, 후에 두 명 이상의 당사자가 법적 분쟁을 해결하기 위해 도달한 합의를 말한다. 합의에는 재정적 보상, 정책 변경 또는 상황을 정정하기 위한 기타 조치가 포함될 수 있다. 디트로이트 경찰국과 로버트 윌리엄스의 경우, 합의로 인해 얼굴인식 기술의 사용을 제한하는 새로운 규칙이 마련되었으며, 인종적 편향을 해결하기 위한 추가 교육 및 심사가 요구되었다.