인공 지능은 우리의 일상 생활의 거의 모든 측면에 존재하지만 완벽하지는 않습니다. 특히 신청이 시민권에 영향을 줄 때 특히 중요합니다.
예를 들어, 얼굴 인식 기술, 얼굴 이미지의 대규모 데이터 세트를 스캔하여 두 이미지가 같은 사람의 속에 속하는지 여부를 결정할 수있는 AI 유형입니다. 이 엄청난 힘을 실현하는 미국 정부는 가지고 있습니다 채택, 배치 및 촉진 법 집행, 국토 안보 및 공공 주택에서 얼굴 인정의 확산.
안면 인식에 따르면 실험실에서와 같이 AI와 같은 복잡하고 진화하는 기술이 실제 세계에 배치 될 때 시뮬레이션에서 흥미로운 데이터 포인트가 될 수있는 기술적 결함은 미국인의 기본 자유를 훼손 할 수 있음을 보여줍니다.
저의 요청에 따라, 미국 민권위원회는 법무부, 국토 안보 및 주택 및 도시 개발 부서 내에서 연방 정부의 안면 인정 사용에 대한 몇 달 단위의 조사를 실시했습니다. 그런 다음 우리는 양당을 출판했습니다 보고서 지난 가을, 범죄 해결, 테러 위협 퇴치 및 실종 아동을 찾는 기술의 유용성을 인정합니다.
그러나이 보고서는 또한 얼굴 인정이 모든 미국인의 시민권에 제기 할 수있는 중대한 위험을 강조합니다. 이 보고서는 연구 분야에 대한 기여뿐만 아니라 민주당과 공화당의 임명인들 사이에서 균등하게 나뉘어 진 희귀 한 합의에 대해서도 중요하다. 이것은 AI에 대한 민권 문제가 당파 적이 아님을 보여줍니다.
안면 인식 기술은 백인의 이미지에 주로 훈련 된 상호 의존적 구성 요소의 시스템으로, 실제 환경에서 백인이 아닌 사람들을 정확하게 인식하는 데 더 나쁜 모델이 생깁니다. 안면 인식 시스템은 여전히 표현 된 그룹의 데이터를 해석 할 수 있지만 오류율이 높을 수 있습니다.
얼굴 인식 알고리즘이 의존하는 카메라 기술은 카메라 품질, 카메라 포지셔닝 및 환경 조명에 따라 동일한 사람의 피부 톤의 이미지를 크게 다룰 수 있습니다. 얼굴 인식 기술 알고리즘은 잘못된 양의 일치를 반환 할 수 있습니다. 즉, 시스템은 두 명의 다른 사람이 동일하거나 잘못된 부정적인 히트라고 생각합니다. 즉, 시스템이 같은 사람이 실제로 두 개인이라고 생각합니다.
다시 말해서, 얼굴 인식에는 결함이 있으며 색상의 사람들과 편견이 있고 불균형 적으로 해를 끼칩니다. 이것은 또한 여성과 노인들에게도 마찬가지입니다.
기술의 이러한 결함이 실제 결과로 어떻게 해석되는지 완전히 이해하는 것이 중요합니다. 법 집행 기관이 제대로 테스트되지 않은 얼굴 인식에 의존하고, 얼굴 인식을 적절히 사용하여 에이전트를 훈련시키고 형사 사건에서 피고인에게 얼굴 인식을 사용하는 것을 공개하지 않으면, 잘못된 긍정적 인 일치는 무고한 사람의 사람을 망칠 수 있습니다. 삶.
미시간 시민 인 Robert Williams는 그가 직접 경험했습니다. 잘못 체포되었습니다 두 개의 흐릿한 감시 사진이 안면 인식 결과의 기초가 된 후 디트로이트에있는 Shinola 매장 강도 사건을 위해 그의 가족 앞에서.
그의 사건 체포 영장에서 얼굴 인식 사용의 누락과 신뢰할 수없는 사진 라인업 절차가 포함되었습니다. 디트로이트 경찰국 (Detroit Police Department)은 얼굴 인식의 위험에 대한 훈련, 특히 색깔의 사람들에게 사용될 때, 기술에 대한 부서의 의존에 대한 상당한 롤백을 요구하는 전례없는 합의로 이어졌습니다.
그러나 윌리엄스와 그의 사랑하는 사람들에 대한 직접적, 담보 결과가 나오지 않았고, 그가 유죄 판결을 받고 유죄 판결을 받거나 유죄 판결을 받았다면, 유죄 판결을 받았다.
최근 조사 워싱턴 포스트 (Washington Post)에 따르면 미국 전역의 경찰서는 이러한 부정확 한 식별을 막기위한 자체 정책을 종종 무시한다고 밝혔다.
경찰서장 Armondo Aguilar의 증언을 감안할 때 이것은 특히 놀랍습니다. 위원회에 말했다 지난 봄 마이애미 경찰국이 사용하는 유비쿼터스 클리어 뷰 AI 소프트웨어는 부서별 지침에 요구하는 인적 수준의 사실 확인 이전의 시간의 40 %에 불과합니다. 그럼에도 불구하고, 인간 검토 자들은 자동화 된 시스템의 제안을 선호하고 모순 된 정보를 피하는 경향이있는“자동화 편견”으로 희생 될 수 있습니다.
안면 인식 기술은 법 집행에 문제가되지 않습니다. 공공 주택 당국이 얼굴 인식을 사용하여 임차인을 감시하는 경우, 그 수입은 그러한 주택에 대한 의미있는 대안을 제공하지 않는 경우, 그 임차인은 주택과 개인 정보를 선택해야하며, 퇴거와 같은 부당한 결과 및 거짓 긍정적 인 입국 거부의 위험이 있어야합니다. 거짓 부정적인 결과.
이와 같은 문제는 2023 Washington Post의 중심이었습니다. 조사 공공 주택 당국의 감시 시스템을 사용하여 많은 사람들이 얼굴 인식 기능을 갖추고 있습니다.
안면 인식 기술 테스트, 교육 및 배치 가드 레일은 오늘날 존재하기 때문에 연방 및 지역 차원의 정부가 얼굴 인정을 배치하는 복잡한 실제 시나리오를 설명하기에 충분히 전체적이거나 표준화되지 않습니다.
요약하면, 연방 정부가 검색 결과를 독립적으로 검토하기위한 “인간의 루프”형태와 같은 적절한 테스트 및 감독없이 실제 시나리오에서 얼굴 인식 기술에 크게 의존 할 때 대량 감시에 내재 된 프라이버시 위험에 대해 아무 말도하지 않기 위해 허위 체포, 잘못된 유죄 판결 및 불공정 주택 관행의 기초가 되십시오.
AI가 유용성으로 인해 증식함에 따라, 우리는 민권과 시민의 자유에 대한 끊임없이 증가하는 위험을 염두에 두어야합니다. 위원회 보고서에 포함 된 연방 정부에 대한 몇 가지 주요 권장 사항은 연방 및 지방 차원의 정부와 사립 행위자조차도 그러한 피해를 막을 수있는 방법에 대한 프레임 워크를 제공합니다.
첫째, 얼굴 인식 테스트 및 훈련은 필수, 표준화 및 실제 시나리오를 포함해야합니다.
둘째, 부서 또는 기관의 얼굴 인식 사용에있어 대중의 투명성은 웹 사이트에 사용 정책을 게시하고 얼굴 인정이 사용되었을 때 범죄 피고인에게 알리는 것과 같이 우선 순위를 정해야합니다.
셋째, 안면 인식 기술의 오용 또는 남용으로 피해를 입은 개인은 겪은 피해를 구제하기위한 법적 메커니즘을 가져야합니다.
역사상이 순간은 미국 정부가 모든 미국인의 시민권과 시민의 자유에 대한 적절한 고려와 보호 로이 엄청난 기술 잠재력을 충족시킬 수있는 중요한 기회를 제시합니다.
Mondaire Jones는 미국 민권위원회위원회 회원이며 이전에는 하원 사법부 및 윤리위원회에서 복무 한 뉴욕의 17 번째 의회 지구의 민주당 대표입니다.
