 |
| 실시간 원격 얼굴인식 기술 도입·활용 중지 조치 권고, 국무총리 수용 |
□ 국가인권위원회(위원장 송두환, 이하 ‘인권위’)는 2023년 1월 12일 국무총리에게,
실시간 원격 얼굴인식 기술의 인권침해 위험성을 방지하기 위한 입법이 마련되기 전까지, 중앙행정기관 등 공공기관이 공공장소에서 실시간 원격
얼굴인식 기술을 도입·활용하지 않도록 하는 조치(모라토리엄)를 수립·시행할 것을 권고한 바 있다.
□ 이에 대하여 국무조정실은 2023년 4월 5일 현재 정부기관이 공공장소에서 불특정 다수를 대상으로 하는
실시간 얼굴인식 기술을 도입·사용하는 사례는 없고, 이러한 기술 활용이 필요할 경우 개별 법령에 근거를 마련한 후 도입할 방침이라고 밝혔으며,
2023년 10월 20일 개별 법령에 근거가 없는 경우 관련 기술을 활용한 시스템은 도입하지 않을 계획이라고 재차 회신하였다.
아울러, 실시간 얼굴인식 기술 도입·활용과 관련하여 기본권 보호, 공익적 활용 및 산업 발전 등을 고려한 법·제도 마련을 검토할 계획이며,
관계부처 회의 등을 통해 정부기관 내 실시간 얼굴인식 기술 도입 현황을 파악하고 대응방안을 논의하였다고 회신하였다.
○ 얼굴인식 기술은 정확성이 높고 신속하게 사람을 식별할 수 있어 신원확인, 출입통제 등 다양한 분야에서 널리 활용되고 있으며,
최근에는 인공지능 및 알고리즘 기술에 힘입어 더욱 발전하고 있다. 그러나 국가가 별다른 통제 없이 국민의 얼굴 정보를 폭넓게
수집·보유하고 얼굴인식 기술을 활용할 경우, 특정 개인에 대한 추적이나 감시가 가능하여 사생활의 비밀과 자유를 침해할 수 있고,
이로 인해 경계심이 커진 사람들이 공공장소에서 합법적인 집회·결사의 자유를 행사하는 것조차 꺼리게 되는 이른바 ‘위축 효과(chilling effect)’를 초래함으로써, 결과적으로 표현의 자유를 저해할 위험이 있다.
○ 특히, 유엔 인권최고대표는 2021년 특정 개인을 실시간 추적하는 ‘실시간 원격 얼굴인식 기술’의 위험성에 강한 우려를 표명하고, 공공장소에서 이러한 기술의 사용을 중지(모라토리엄)할 것을 각국에 권고한 바 있다.
○ 이에, 인권위는 얼굴인식 기술을 제도적으로 통제할 수 있는 입법의 필요성과, 인권침해 가능성을 내포한 신기술이 무분별하게
도입·활용되지 않도록 기술 발전의 사회적 영향을 면밀히 검토할 필요가 있다는 판단하에 국무총리에게 관련 권고를 하였다.
□ 판단
대한민국헌법 제17조 및 제21조를 판단기준으로 하고, 헌법재판소 2005. 5. 26. 자 99헌마513·2004헌마190(병합) 결정,
국가인권위원회 2022. 4.11. ‘인공지능 개발과 활용을 위한 인권 가이드라인’, 유엔 자유권위원회 2020년 일반논평 제37호 및 유엔 인권최고대표 ‘디지털 시대의 프라이버시권’(A/HRC/48/31) 등을 참고기준으로 하였다.
○ 얼굴인식 기술의 인권침해 위험성과 개선방안
1. 얼굴인식 기술 개요
얼굴인식 기술은 인물을 촬영한 이미지에서 눈, 눈썹, 코, 입, 얼굴 윤곽과 같은 개인 각각의 고유한 얼굴 형상의 특징점을 추출하고 이를 저장한 뒤,
이를 다른 얼굴 이미지의 특징점과 대조하여 그 인물이 맞는지 아닌지를 판단하는 기술을 의미한다.
얼굴인식 기술은 최근 인공지능 및 알고리즘 기술과 결합하여 더욱 발전하고 있다. 예를 들어 식별하고자 하는
인물의 표정 변화나 장신구 착용 등과 같이 식별에 방해가 되는 요소가 있어도, 다량의 데이터를 기반으로 하는 학습과 추론 능력의 발전으로 인해 식별의 정확도가 점차 높아지고 있다.
2. 얼굴인식 기술로 인한 인권침해 위험성
가. 사생활의 비밀과 자유, 집회·결사의 자유 등 침해 위험성
얼굴인식 기술은 개개인의 얼굴 정보와 같은 생체인식정보를 다량으로 수집·저장·처리하는 것을 근간으로 한다.
그런데 개인의 얼굴 정보와 같은 생체인식 정보는 개개인으로부터 분리할 수 없는 고유한 신체적· 생리적 특성을 나타내며,
한 사람을 다른 사람과 명확히 구별할 수 있게 한다는 점에서 사생활 보호와 밀접하게 연관되어 있다. 국가가 얼굴 정보를 다량으로
수집·보유·분석하고 그를 통해 공공장소 등에서 얼굴인식 기술을 폭넓게 사용할 경우, 이는 특정 개개인에 대한 추적이나 감시까지 가능하게 할 수 있으며,
결과적으로 이러한 얼굴인식 기술의 활용은 ‘사생활 보호에 대한 기대가능성’을 현저히 낮추게 되는 결과를 초래한다.
특히 얼굴인식 기술은 그 식별 결과에 따라서는 체포·구금, 행정처분 등 침익적 법적처분까지 연결될 가능성도 존재하므로 더욱 그러하다.
또한 공공장소에서 국가에 의해 얼굴인식 기술이 사용될 경우, 사람들은 공공장소에서도 자신이 익명성을 보장받지 못하고 손쉽게 식별되리라는 경계심을 가질 수밖에 없으며,
이는 합법적인 집회· 결사의 자유를 행사하는 것조차도 꺼리게 되는 이른바 ‘위축 효과’(chilling effect)를 초래함으로써 결과적으로 표현의 자유를 저해할 위험성도 지니고 있다.
나. 국내·외 관련 사례
우리나라에서는 경찰청의 3D 얼굴인식 시스템, 법무부의 출입국 인공지능 식별추적 시스템, 경기도 부천시의 코로나19 확진자 동선 확인시스템 등
최근 몇 년간 얼굴인식 기술에 기반하는 시스템들이 구축되었거나 구축 시도가 이루어진 바 있으나, 이 과정에서 생체인식정보를 수집·활용하는 데 대한
법률적 근거 미비, 사생활 침해 우려 등의 논란이 공통적으로 발생한 바 있다. 중국의 경우 전 세계에서 공공과 민간을 막론하고 얼굴인식 기술을 가장 활발하게
도입·활용하는 국가로 알려져 있는데, 이를 자국민의 감시에 폭넓게 활용하는 것이 아니냐는 비판을 국제사회로부터 받고 있다. 미국의 경우 경찰 등 수사기관을
중심으로 얼굴인식 기술이 널리 사용되고 있었으나 최근에는 얼굴인식 기술이 특정 인종을 잘못 인식하는 비율이 높다는 사실이 알려져 부정적인 여론이 확산되고 있으며,
이에 캘리포니아 주(州) 등 다수의 주정부 및 도시에서는 경찰 등 공공기관의 얼굴인식 기술 사용을 금지하는 법률을 제정하였다.
다. 얼굴인식 기술 관련 국제인권기준
유엔 자유권규약위원회 2020년 ‘일반논평 제37호: 제21조 평화적 집회의 권리’ 제61항은 “(집회에서) 당국에 의한 관련 정보 및 자료 수집이
권리의 억압 또는 위축 효과를 발생시켜서는 안 되며, (중략) 이러한 관행은 적절하고 공개적으로 접근가능한 국내법적 틀의 규제를 받아야 한다”고 하였으며,
같은 일반논평 제62항은 “예를 들어 얼굴인식 시스템과 군중 속에서 개별 참여자를 식별할수 있는 기타 기술 등을 통해 사생활권이 침해당할 수 있다”고 하면서,
공공장소에서 국가에 의한 얼굴인식 기술 사용으로 인하여 개인의 사생활의 비밀과 자유 및 집회·결사의 자유 등 기본권이 침해될 수 있다고 지적하였다.
유엔 인권최고대표는 2021년 유엔 총회에 보고한 ‘디지털 시대의 프라이버시권’(A/HRC/48/31)에서, 특히 ‘실시간 원격(real-time remote) 얼굴인식 기술’의 위험성에 대해 강한 우려를 표명하였다.
실시간 원격 얼굴인식 기술은 특정인의 얼굴 정보 등 생체인식정보를 기존의 데이터베이스와 비교하여 원거리에서 매우 짧은 시간 내에 식별할 수 있는 기술인바,
유엔 인권최고대표는 국가에 의해 실시간 원격 얼굴인식 기술과 같은 생체인식 기술이 활용되는 것은 개인의 사생활에 관한 권리 등 기본권 행사에 직접적으로 부정적인 영향을 미친다고 지적하면서,
충분한 보호 제도가 마련되기 전까지는 공공장소에서 실시간 원격 얼굴인식 기술의 사용을 중지(모라토리엄)할 것을 각국에 권고하였다.
유럽연합 기본권청(European Union Agency for Fundamental Rights;FRA)도 유엔과 동일한 논지로, 얼굴인식 기술이 사생활에 관한 권리, 집회·결사의 자유 등과 같은 기본권을 침해할 소지가 있다고 지적하였다.
3. 얼굴인식 기술에 대한 인권보호 방안
가. 얼굴인식 기술의 도입·활용에 대한 입법적 통제
앞서 본 바와 같이 개인의 얼굴 정보와 같은 생체인식정보를 활용하는 얼굴인식 기술은 결국 사생활 보호와 밀접하게 연관될 수밖에 없으며, 별다른 인권적 통제 절차 없이
국가가 얼굴인식 기술을 손쉽게 도입·활용하는 경우에는 국민의 사생활의 비밀과 자유, 집회·결사의 자유 등 기본적 권리에 대한 직접적인 위험이 될 수 있다.
특히 앞서 유엔 인권최고대표의 권고에서 지적한 것처럼, 국가에 의한 실시간 원격 얼굴인식 기술의 도입·활용에 대해 문제의식을 가질 필요가 있다. 중앙 행정기관이나
지방자치단체의 입장에서는 실시간 원격 얼굴인식 기술로 인해 얻어지는 행정적인 편의성을 앞세워 기본권 침해 가능성에 대한 면밀한 고려없이 이러한 기술을 도입하려고 시도할 여지가 있다.
반면 정보주체의 입장에서는 언제 누구로부터 얼굴인식이 되고 있는지 여부도 알기 어려울 뿐더러, 그러한 얼굴인식의 결과로 체포·구속되거나
기타 다양한 인권 제약적 조치의 대상이 될 수도 있다는 우려를 할 수밖에 없다.
얼굴인식 기술은 본질적으로 새로운 기술이며 인공지능과 알고리즘에 기반한 복잡다단한 특징을 지니고 있다.
이러한 기술은 인간의 실생활 영역에 도입하기 전에 기본권에 미치는 여러 가지 측면의 영향, 그에 대한 규제 수단 등을 신중하고 광범위하게 고려할 필요가 있다.
현재 존재하는 개인정보보호법 등의 법률로만 대응하는 것은 현실적으로 매우 어려우므로, 결국 ‘얼굴인식 기술에 의해 유발되는 기본권 침해에 대응하기 위한
적극적·선제적인 새로운 법률 근거 마련’이 추진될 필요가 있다고 판단된다. 얼굴인식 기술에 대해 유엔 등 국제기구가 제시한 기준 등을 참고하여 볼때,
얼굴인식 기술에 대한 인권적 통제를 주요 내용으로 하는 입법에는 다음과 같은 기준들이 포함되어야 할 것이다. 첫째, 얼굴인식 기술 도입·활용에 있어 인권 존중의 원칙을 반영하고,
국가에 의한 무분별한 도입과 활용을 제한하며, 공익적 필요성이 인정되는 경우에 이를 예외적·보충적으로 허용하는 기준을 두어야 한다. 또한 중앙행정기관이나
지방자치단체 등 공공기관의 얼굴인식 기술 도입·활용은 반드시 개별적·구체적 법률에 근거하여야 한다.
둘째, 실시간 원격 얼굴인식 기술의 사용은 원칙적으로 금지하여야 한다. 다만 극히 예외적으로 실시간 원격 얼굴인식 기술을 사용해야 할 명백하고 급박한 공익적
사유(예를 들어 유럽연합 기본권청에서는 실종 아동에 대한 급박한 수색 등을 제시하고 있다)가 존재하고, 비례의 원칙에 비추어 볼 때 해당 기술에 의하여 보호하려는 공익과 침해되는
사익을 비교 형량하여 보호하려는 공익이 현저히 큰 경우 등에 한하여 그 예외적 허용사유, 허용범위 및 절차 등을 법률에 반영해야 할 것이다. 이 경우 그 예외적 허용 사유는 반드시
폭넓은 범사회적 논의와 합의를 거쳐 도출해야 함은 물론이다. 참고로 국가인권위원회는 2022. 4. 11. 인공지능 개발과 활용에 관한 인권 가이드라인 결정에서
“국가는 대량 감시와 차별로 이어지고 집회 및 결사의 자유에 부정적 영향을 행사할 위험이 높은 얼굴인식 등 원격 생체인식 기술의 사용을 공공장소에서 남용하지 않도록
금지”해야 한다고 권고한 바 있다. 이와 관련하여, 실시간 원격 얼굴인식 기술에 대한 입법적 통제조치가 마련되기 전까지, 국무총리는 헌법 제86조 제2항에 따른
행정각부 통할권에 근거하여 각 중앙행정기관 등 공공기관이 공공장소에서 실시간 원격 얼굴인식 기술을 무분별하게 도입·활용하지 않도록 하는 조치(실시간 원격 얼굴인식 기술에 대한 모라토리엄)를 수립·시행하는 것이 필요하다.
나. 얼굴인식 기술에 대한 인권 영향평가 적용
얼굴인식 기술은 앞서 살펴보았듯이 여러 기본권에 대한 침해 가능성을 내포하고 있으므로, 해당 기술이 실생활에 적용되는 경우 어떠한 양상으로 긍정적 또는
부정적 영향을 미치는지를 사전에 엄밀히 평가하고 관리할 필요성이 있다. 그런데 최근 우리나라의 중앙행정기관 또는 지방자치단체의 얼굴인식 기술도입 사례들을 보면,
대부분 인권 영향평가가 아예 고려되지도 않았음은 물론이고 더 나아가 그러한 시스템의 개발·도입 자체가 국민들에게 제대로 알려지지도 않은 경우가 많아,
인권 침해요소가 내재된 대규모 시스템에 대한 사전 통제가 필요함을 여실히 드러내고 있다. 국제기구에서는 얼굴인식 기술과 같은 인공지능 기반 기술이 인권에 미치는 영향을
사전 평가하고 위험성을 완화하기 위한 인권 영향평가 제도를 권고하고 있다. 예를 들어 유엔은 ‘사회권의 실현에 있어 신기술의 역할’ 보고서 (A/HRC/43/29)를 통해
인공지능 시스템의 개발부터 활용에 이르는 전 단계에서 체계적으로 인권 실사를 실시해야 한다고 권고하고 있고, 유럽연합 역시 인공지능 시스템에 대해
입법자는 기본권의 모든 범주를 포괄하는 의무적 영향평가의 실시를 고려해야 하며, 이러한 인권 영향평가는 투명하게 실시하고 그 결과도 가능한 범위까지 공개되어야 한다고 강조하고 있다.
이상의 논의를 고려하여 볼 때, 얼굴인식 기술, 특히 인공지능에 기반한 얼굴인식 기술의 개발과 활용 과정에서 반드시 인권 영향평가를 실시하도록할 필요가 있으며,
이에 대한 근거와 절차를 얼굴인식 기술에 대한 입법에 반영하여야 한다. 구체적으로는 다음과 같은 내용이 포함되어야 할 것이다.
첫째, 얼굴인식 시스템에 대한 인권 영향평가는 반드시 개발 및 활용 이전에 하도록 하고, 이미 활용 중인 경우라 하더라도 그 목적이나 적용 범위, 내용 등에
중대한 변경이 있는 때에는 인권 영향평가를 다시 실시하도록 하여야 한다.
둘째, 얼굴인식 시스템에 대한 인권 영향평가는 사용되는 얼굴정보 등 데이터의 양, 얼굴인식을 통해 영향을 받는 정보주체의 수, 해당 얼굴인식 시스템이 포섭하는 지역이나 범위의 크기,
인공지능 학습에 사용되는 데이터 셋(set)의 검증 및 인권 침해적 요인의 내재 여부, 얼굴 오인식이나 차별적·편향적 판단 여부 등을 종합적으로 고려하여 실시하여야 한다.
셋째, 인권 영향평가의 실시 결과 해당 얼굴인식 시스템에서 인권에 중대한 영향을 미치는 위험성이 드러난 경우, 예를 들어 사생활 및 개인정보에 대한 과도한
침해, 원격 실시간 감시의 가능성, 인종이나 지역, 집단에 따라 편향적·차별적 인식 결과 발생 등이 나타난 경우에는 그 개발·활용을 중단하고 인권에 미치는 부정적
영향을 방지하거나 완화하는 조치를 시행하도록 하고, 그 내용과 결과를 공개하도록 법률에 구체적 절차를 정하여야 한다.
넷째, 얼굴인식 시스템에 대한 인권 영향평가 실시는 인권전문성과 독립성을 확보한 기관이 담당하도록 법률에 구체적 사항을 정하여야 한다.
|
|
|