에 의해 Corsight AI 최고 개인 정보 보호 책임자 Tony Porter와 Conservation Beyond Borders 설립자 Nicole Benjamin Fink 박사
2023년 7월 8일 – 12:37에 게시됨
유럽 위원회는 과거에 효과적인 규제 기관임을 입증했습니다. 법 집행 기관에서 FRT를 전면적으로 금지하는 것은 범죄자에게만 도움이 될 것이라고 Tony Porter와 Nicole Benjamin Fink 박사는 썼습니다.
EU의 AI 법은 6월 중순 블록 의원들이 인공 지능에 대한 세계 최초의 규칙이 될 것을 승인하면서 주요 장애물을 통과했습니다.
광고그러나 한 가지 제안이 눈에 띕니다. 안면 인식 기술(FRT)을 완전히 금지하는 것입니다.
이 규칙을 그대로 두면 사회에서 가장 취약한 사람들을 보호하기 위해 중요한 업무를 수행하는 법 집행관의 눈을 가리게 될 것입니다. 야생 동물과 인명을 매매하는 사람들과 같은 범죄 집단을 대담하게 만들어 생명을 위험에 빠뜨릴 것입니다.
모든 감시 기능은 어느 정도 인권을 침해합니다. 문제는 이러한 권리에 미치는 영향을 완화하기 위해 FRT 사용을 효과적으로 규제할 수 있는지 여부입니다.
개인 정보 보호 대 사람 보호는 EU 의원이 파업할 수 있고 파업해야 하는 균형입니다. 일괄 금지는 쉽지만 책임 있는 옵션은 아닙니다.
개인 정보 보호 문제는 현실 확인에 직면해야 합니다.
MEP는 공개적으로 액세스할 수 있는 공간에서 라이브 FRT 사용 금지와 사법 명령을 받지 않는 한 “이벤트 후” FRT 사용에 대한 유사한 금지에 압도적으로 찬성했습니다.
이제 관심은 의심할 여지 없이 유럽의회, 유럽이사회, 회원국 간의 열띤 3자 협상으로 옮겨갔습니다.
본질적으로 FRT는 AI 알고리즘으로 구동되는 카메라를 사용하여 사람의 얼굴 특징을 분석하고 잠재적으로 당국이 개인을 식별하기 위해 기존 이미지 데이터베이스와 대조할 수 있게 합니다.
개인 정보 보호 운동가들은 그러한 기술을 사용함으로써 얻을 수 있는 잠재적 이점이 인권에 미치는 부정적인 영향만큼 가치가 없다고 오랫동안 주장해 왔습니다. 그러나 이러한 주장 중 많은 부분이 면밀한 조사를 견디지 못합니다. 사실, 그것들은 결정적으로 폭로된 신화에 근거하고 있습니다.
첫 번째는 기술이 부정확하고 유색 인종에게 불균형적으로 불이익을 준다는 것입니다.
그것은 기술의 초창기 반복에는 사실이었을지 모르지만 오늘날에는 확실히 그렇지 않습니다. Corsight는 예를 들어 미국 NIST(National Institute of Standards and Technology)에서 99.8%의 정확도로 벤치마킹했습니다.
이와는 별도로, 2020년 NIST 보고서는 FRT가 널리 보고된 것보다 인종 및 기타 인구통계 그룹에서 훨씬 더 효과적으로 수행되며 가장 정확한 기술은 그룹 간에 “감지할 수 없는” 차이를 표시한다고 주장했습니다.
광고또한 FRT가 효과가 없다는 잘못된 주장도 있습니다. 실제로 인터폴은 2021년 FRT를 사용해 2016년부터 약 1,500명의 테러리스트, 범죄자, 도망자, 요주의 인물, 실종자를 식별할 수 있었다고 밝혔다. 이 수치는 이후 기하급수적으로 증가할 것으로 예상됩니다.
FRT가 같은 이름의 유럽 협약에 명시된 인권을 침해한다는 마지막 신화는 런던 항소 법원에서 사실상 무너졌습니다. 2020년 사건에서 판사는 얼굴을 스캔하고 일치하는 항목을 찾을 수 없는 경우 데이터를 즉시 삭제하는 것이 인권에 미치는 영향이 미미하다고 판결했습니다.
인신매매범을 막는 것입니다.
반면에 엄격한 규정을 준수하여 사용하는 경우 고품질 FRT는 수많은 생명을 구하고 사람과 지역 사회를 위험으로부터 보호할 수 있습니다.
인신매매는 성적 착취, 강제 노동 및 기타 극악무도한 범죄를 가능하게 하는 비참한 거래입니다. 어린이를 포함하여 전 세계적으로 수천만 명이 영향을 받는 것으로 추정됩니다.
그러나 알려진 피해자나 인신매매범의 얼굴 이미지가 카메라에 포착되면 경찰이 실시간으로 개입하라는 경고를 받을 수 있습니다.
인신매매범은 대개 자신의 신원을 숨기기 위해 많은 노력을 기울이고 피해자, 특히 어린이는 공식 신분증을 거의 소유하지 않는다는 점을 감안할 때 FRT는 변화를 가져올 수 있는 드문 기회를 제공합니다.
야생동물 밀매도 마찬가지로 은밀합니다. 이는 수년 전에 209억 유로로 추산되는 세계 무역 규모로 무기, 마약, 인신매매 다음으로 세계에서 네 번째로 큰 불법 활동입니다.
대부분의 거래가 범죄 조직에 의해 온라인으로 이루어지기 때문에 수사관이 나중에 소셜 미디어에 게시된 이미지와 인신매매된 동물의 얼굴 이미지를 일치시킬 수 있다면 잠재적인 증거 추적이 가능합니다.
그런 다음 구매자는 특정 동물을 누구에게서 조달했는지 질문을 받을 수 있습니다. 이러한 방식으로 야생 동물 밀매자를 추적하는 데 도움이 되는 앱이 이미 생겨나고 있습니다.
더 나은 방법이 있습니다
여기에 문제가 있는 것을 감안할 때, 유럽 의원들은 사회적 피해를 줄이는 데 도움이 되는 것으로 입증된 기술을 인권에 대한 위험을 완화하는 방식으로 활용하는 방법에 대해 생각해야 합니다.
광고좋은 소식은 올바른 규제 가드레일과 함께 할 수 있다는 것입니다. 실제로 EU의 AI Act는 FRT가 유지될 수 있는 AI 기술에 대한 우수성의 표준을 제안함으로써 이미 이에 대한 훌륭한 기반을 제공하고 있습니다.
이를 바탕으로 FRT는 대중에게 “상당한” 위험이 있고 시민들을 피해로부터 보호하기 위한 합법적인 근거가 있는 곳이면 어디에서나 운영 도구로 유지되어야 합니다.
그것의 사용은 항상 필요하고 긴급한 요구에 비례해야 하며 엄격한 인권 평가를 받아야 합니다.
물론 독립적인 윤리 및 규제 감독이 적용되어야 하며 중앙 집중식 감독 기관이 마련되어야 합니다. 그리고 제안된 사용에 대한 세부 사항을 설명하는 명확한 정책을 게시해야 합니다.
영향을 받는 커뮤니티에 문의하고 배포 및 인권 평가의 성공 또는 실패를 자세히 설명하는 데이터를 게시해야 합니다.
유럽 위원회는 과거에 효과적인 규제 기관임을 입증했습니다. FRT를 규제합시다. 전면 금지는 범죄자에게만 도움이 됩니다.
Tony Porter는 Corsight AI의 최고 개인 정보 보호 책임자이자 전 영국 감시 카메라 커미셔너이며 Nicole Benjamin Fink 박사는 Conservation Beyond Borders의 설립자입니다.
Euronews에서는 모든 견해가 중요하다고 믿습니다. 프레젠테이션이나 제출물을 보내고 대화에 참여하려면 view@euronews.com으로 문의하십시오.
