인권누리 웹진 제95호 인권누리에서 불어오는 인권바람이야기

얼굴인식 기술로 인한 인권침해에 적극 대응 필요

□ 국가인권위원회(위원장 송두환, 이하 ‘인권위’)는 2023년 1월 12일 국회의장과 국무총리에게 다음과 같이 의견을 표명하고 권고하였다.

○ 국회의장과 국무총리에게, 얼굴인식 기술은 다양한 분야에서 효율적으로 개인을 식별·분류하는 데 이용되고 있으나 사생활의 비밀과 자유, 집회 및 결사의 자유 등을 침해할 위험성을 내포하고 있으므로,
이러한 기본권이 침해되지 않도록 입법을 추진할 필요가 있다는 의견을 아래와 같이 표명하였다.

- 국가에 의한 얼굴인식 기술 도입·활용 시 인권 존중의 원칙을 반영하고, 무분별한 도입과 활용을 제한하며, 공익적 필요성이 인정되는 경우에 한하여 이를 예외적·보충적으로 허용하는 기준을 두어야 한다.
또한 얼굴인식 기술 도입·활용은 반드시 개별적·구체적 법률에 근거하여야 한다.

- 불특정 다수를 대상으로 공공장소에서 ‘실시간 원격 얼굴인식 기술’을 사용하는 것은 기본권 침해 위험성이 매우 크므로, 국가에 의한 실시간 원격 얼굴인식 기술의 도입·활용을 원칙적으로 금지하여야 한다.

- 얼굴인식 기술의 도입·활용에 사용되는 데이터의 양, 영향을 받는 정보주체의 수 등을 고려하여, 얼굴인식 기술 개발 및 활용 전에 인권영향평가를 실시하도록 하고,
활용 중인 경우라도 목적이나 내용에 중대한 변경이 있는 때에는 인권영향평가를 실시하도록 하며, 인권 전문성과 독립성을 확보한 기관이 인권영향평가를 담당하도록 하여야 한다.

○ 또한 국무총리에게, 실시간 원격 얼굴인식 기술의 인권침해 위험성을 방지하기 위한 법률이 마련되기 전까지,
중앙행정기관 등 공공기관이 공공장소에서 실시간 원격 얼굴인식 기술을 도입·활용하지 않도록 하는 조치(모라토리엄)를 수립·시행할 것을 권고하였다.

□ 얼굴인식 기술은 정확성이 높고 신속하게 사람을 식별할 수 있어 신원확인, 출입통제 등 다양한 분야에서 널리 활용되고 있으며, 최근에는 인공지능 및 알고리즘 기술에 힘입어 더욱 발전하고 있다.

그러나 만약 국가가 별다른 통제 없이 국민의 얼굴 정보를 폭넓게 수집·보유하면서 얼굴인식 기술을 활용한다면, 특정 개인에 대한 추적이나 감시가 가능하여 사생활의 비밀과 자유를 침해할 수 있고,
이로 인해 경계심이 커진 사람들이 공공장소에서 합법적인 집회·결사의 자유를 행사하는 것조차 꺼리게 되는 이른바 ‘위축 효과(chilling effect)’를 초래함으로써, 결과적으로 표현의 자유를 저해할 위험이 있다.

□ 유엔 자유권규약위원회, 유럽연합 기본권청((European Union Agency for Fundamental Rights) 등은 얼굴인식 기술이 사생활의 비밀과 자유, 집회·결사의 자유 등을 침해할 소지가 있다고 지적한 바 있고,
특히 유엔 인권최고대표는 2021년 특정 개인을 실시간 추적하는 ‘실시간 원격 얼굴인식 기술’의 위험성에 강한 우려를 표명하면서, 공공장소에서 이 기술의 사용을 중지(모라토리엄)할 것을 각국에 권고하였다.
실제로 미국 캘리포니아주 등에서는 경찰을 비롯한 공공기관이 얼굴인식 기술을 사용하는 것을 금지하는 법률을 제정하였다.

□ 최근 우리나라에서도 중앙행정기관 및 지방자치단체 등이 얼굴인식 기술 도입을 추진하거나 활용한 사례가 있으나, 대부분 인권영향평가를 전혀 고려하지 않은 것은 물론이고 그러한 시스템의 개발·도입 사실 자체가
국민에게 제대로 알려지지 않은 경우도 많아, 인권침해 요소가 내재된 대규모 시스템에 대한 사전 통제의 필요성이 제기되었다.

□ 이에 인권위는 얼굴인식 기술을 제도적으로 통제할 수 있는 입법이 필요하다고 판단하여, 국회의장과 국무총리에게 관련 권고 및 의견표명을 하였다.

1. 얼굴인식에 관해
얼굴인식 기술은 인물을 촬영한 이미지에서 눈, 눈썹, 코, 입, 얼굴 윤곽과 같은 개인 각각의 고유한 얼굴 형상의 특징점을 추출하고 이를 저장한 뒤,
이를 다른 얼굴 이미지의 특징점과 대조하여 그 인물이 맞는지 아닌지를 판단하는 기술을 의미한다.
얼굴인식 기술은 최근 인공지능 및 알고리즘 기술과 결합하여 더욱 발전하고 있다. 예를 들어 식별하고자 하는 인물의 표정 변화나 장신구 착용 등과 같이 식별에 방해가 되는 요소가 있어도,
다량의 데이터를 기반으로 하는 학습과 추론 능력의 발전으로 인해 식별의 정확도가 점차 높아지고 있다

2. 얼굴인식 기술로 인한 인권침해 위험성
가. 사생활의 비밀과 자유, 집회·결사의 자유 등 침해 위험성
얼굴인식 기술은 개개인의 얼굴 정보와 같은 생체인식정보를 다량으로 수집·저장·처리하는 것을 근간으로 한다. 그런데 개인의 얼굴 정보와 같은 생체인식정보는 개개인으로부터 분리할 수 없는 고유한 신체적· 생리적 특성을 나타내며,
한 사람을 다른 사람과 명확히 구별할 수 있게 한다는 점에서 사생활 보호와 밀접하게 연관되어 있다.
국가가 얼굴 정보를 다량으로 수집·보유·분석하고 그를 통해 공공장소 등에서 얼굴인식 기술을 폭넓게 사용할 경우, 이는 특정 개개인에 대한 추적이나 감시까지 가능하게 할 수 있으며,
결과적으로 이러한 얼굴인식 기술의 활용은 ‘사생활 보호에 대한 기대가능성’을 현저히 낮추게 되는 결과를 초래한다.
특히 얼굴인식 기술은 그 식별 결과에 따라서는 체포·구금, 행정처분 등 침익적 법적 처분까지 연결될 가능성도 존재하므로 더욱 그러하다.
또한 공공장소에서 국가에 의해 얼굴인식 기술이 사용될 경우, 사람들은 공공장소에서도 자신이 익명성을 보장받지 못하고 손쉽게 식별되리라는 경계심을 가질 수밖에 없으며,
이는 합법적인 집회· 결사의 자유를 행사하는 것조차도 꺼리게 되는 이른바 ‘위축 효과’(chilling effect)를 초래함으로써 결과적으로 표현의 자유를 저해할 위험성도 지니고 있다.

따라서 얼굴인식 기술에 대해 유엔 등 국제기구가 제시한 기준 등을 참고하여 볼 때, 얼굴인식 기술에 대한 인권적 통제를 주요 내용으로 하는 입법에는 다음과 같은 기준들이 포함되어야 할 것이다.
첫째, 얼굴인식 기술 도입·활용에 있어 인권 존중의 원칙을 반영하고, 국가에 의한 무분별한 도입과 활용을 제한하며, 공익적 필요성이 인정되는 경우에 이를 예외적·보충적으로 허용하는 기준을 두어야 한다.
또한 중앙행정기관이나 지방자치단체 등 공공기관의 얼굴인식 기술 도입·활용은 반드시 개별적·구체적 법률에 근거하여야 한다.
둘째, 실시간 원격 얼굴인식 기술의 사용은 원칙적으로 금지하여야 한다.
다만 극히 예외적으로 실시간 원격 얼굴인식 기술을 사용해야 할 명백하고 급박한 공익적 사유(예를 들어 유럽연합 기본권청에서는 실종 아동에 대한 급박한 수색 등을 제시하고 있다)가 존재하고,
비례의 원칙에 비추어 볼 때 해당 기술에 의하여 보호하려는 공익과 침해되는 사익을 비교 형량하여 보호하려는 공익이 현저히 큰 경우 등에 한하여 그 예외적 허용사유, 허용범위 및 절차 등을 법률에 반영해야 할 것이다.
이 경우 그 예외적 허용 사유는 반드시 폭넓은 범사회적 논의와 합의를 거쳐 도출해야 함은 물론이다.
참고로 국가인권위원회는 2022. 4. 11. 인공지능 개발과 활용에 관한 인권 가이드라인 결정에서 “국가는 대량 감시와 차별로 이어지고
집회 및 결사의 자유에 부정적 영향을 행사할 위험이 높은 얼굴인식 등 원격 생체인식 기술의 사용을 공공장소에서 남용하지 않도록 금지”해야 한다고 권고한 바 있다.

3. 얼굴인식 기술에 대한 인권 영향평가 적용
얼굴인식 기술은 앞서 살펴보았듯이 여러 기본권에 대한 침해 가능성을 내포하고 있으므로, 해당 기술이 실생활에 적용되는 경우 어떠한 양상으로 긍정적 또는 부정적 영향을 미치는지를 사전에 엄밀히 평가하고 관리할 필요성이 있다.
그런데 최근 우리나라의 중앙행정기관 또는 지방자치단체의 얼굴인식 기술 도입 사례들을 보면, 대부분 인권 영향평가가 아예 고려되지도 않았음은 물론이고
더 나아가 그러한 시스템의 개발·도입 자체가 국민들에게 제대로 알려지지도 않은 경우가 많아, 인권 침해요소가 내재된 대규모 시스템에 대한 사전 통제가 필요함을 여실히 드러내고 있다.
국제기구에서는 얼굴인식 기술과 같은 인공지능 기반 기술이 인권에 미치는 영향을 사전 평가하고 위험성을 완화하기 위한 인권 영향평가 제도를 권고하고 있다.
예를 들어 유엔은 ‘사회권의 실현에 있어 신기술의 역할’ 보고서(A/HRC/43/29)를 통해 인공지능 시스템의 개발부터 활용에 이르는 전 단계에서 체계적으로 인권 실사를 실시해야 한다고 권고하고 있고,
유럽연합 역시 인공지능 시스템에 대해 입법자는 기본권의 모든 범주를 포괄하는 의무적 영향평가의 실시를 고려해야 하며, 이러한 인권 영향평가는 투명하게 실시하고 그 결과도 가능한 범위까지 공개되어야 한다고 강조하고 있다.
이상의 논의를 고려하여 볼 때, 얼굴인식 기술, 특히 인공지능에 기반한 얼굴인식 기술의 개발과 활용 과정에서 반드시 인권 영향평가를 실시하도록할 필요가 있으며, 이에 대한 근거와 절차를 얼굴인식 기술에 대한 입법에 반영하여야 한다.
구체적으로는 다음과 같은 내용이 포함되어야 할 것이다.
첫째, 얼굴인식 시스템에 대한 인권 영향평가는 반드시 개발 및 활용 이전에 하도록 하고, 이미 활용 중인 경우라 하더라도 그 목적이나 적용 범위, 내용 등에 중대한 변경이 있는 때에는 인권 영향평가를 다시 실시하도록 하여야 한다.
둘째, 얼굴인식 시스템에 대한 인권 영향평가는 사용되는 얼굴정보 등 데이터의 양, 얼굴인식을 통해 영향을 받는 정보주체의 수,
해당 얼굴인식 시스템이 포섭하는 지역이나 범위의 크기, 인공지능 학습에 사용되는 데이터 셋(set)의 검증 및 인권 침해적 요인의 내재 여부, 얼굴 오인식이나 차별적·편향적 판단 여부 등을 종합적으로 고려하여 실시하여야 한다.
셋째, 인권 영향평가의 실시 결과 해당 얼굴인식 시스템에서 인권에 중대한 영향을 미치는 위험성이 드러난 경우,
예를 들어 사생활 및 개인정보에 대한 과도한 침해, 원격 실시간 감시의 가능성, 인종이나 지역, 집단에 따라 편향적·차별적 인식 결과 발생 등이 나타난 경우에는 그 개발·활용을 중단하고
인권에 미치는 부정적 영향을 방지하거나 완화하는 조치를 시행하도록 하고, 그 내용과 결과를 공개하도록 법률에 구체적 절차를 정하여야 한다.
넷째, 얼굴인식 시스템에 대한 인권 영향평가 실시는 인권전문성과 독립성을 확보한 기관이 담당하도록 법률에 구체적 사항을 정하여야 한다.