AI 감시 피하는 옷, 얼굴인식을 정말 속일까

얼굴인식 AI의 추적을 피하도록 설계된 옷이 패션 아이템으로 주목받고 있습니다. 특정 색 조합과 기하학적 문양, 반복되는 그래픽을 프린트해 AI가 얼굴의 형태·특징을 제대로 분석하지 못하게 만든 옷입니다. 사람 눈에는 그냥 화려한 패턴 티셔츠나 후드로 보이지만, 인식 알고리즘 쪽에서는 얼굴이나 다른 물체로 잘못 판단하게 됩니다.

어떻게 AI를 속이나

이탈리아 브랜드 '캡에이블(Cap_able)'과 독일 브랜드 '어반 프라이버시(Urban Privacy)'가 이런 기능을 넣은 옷을 대표적으로 선보이고 있습니다. 원리는 컴퓨터 비전 분야에서 '적대적 예제(adversarial example)'로 불리는 기법과 맞닿아 있습니다. 사람 눈에는 자연스러운 무늬로 보이지만, 신경망 모델이 학습한 패턴 인식 규칙을 정면으로 건드리는 화소 배치를 넣어 모델의 판단을 흐트러뜨리는 방식입니다. 어반 프라이버시는 한 걸음 더 나아가 일부 후드 제품에 적외선 LED를 달았습니다. 사람 눈에는 거의 보이지 않지만 카메라 센서에는 강한 빛으로 잡혀, 야간 얼굴인식 성능을 떨어뜨리는 원리입니다.

기법	작동 방식	대표 제품
적대적 패턴 프린트	특정 문양이 얼굴 인식 모델의 판단을 오작동시킴	캡에이블 의류
적외선 LED 내장	사람 눈엔 안 보이지만 카메라엔 강한 빛으로 인식	어반 프라이버시 후드

왜 지금 이런 옷이 나오나

도심 곳곳의 CCTV와 매장 안면인식 결제, 공공장소 안전 감시망이 촘촘해지면서 "내 얼굴 데이터가 어디까지 수집되는지 모르겠다"는 불안감이 프라이버시 테크 시장을 키우는 배경으로 꼽힙니다. 해킹이나 시스템 침입 없이, 옷차림만으로 감시 카메라 앞에서 익명성을 지키려는 수요가 패션이라는 형태로 상품화된 셈입니다.

방어하는 입장에서 봐야 할 것

이런 의류가 보여주는 원리는 컴퓨터 비전 모델을 다루는 개발자에게는 낯설지 않은 이야기입니다. 안면인식·객체탐지 모델을 서비스에 쓴다면, 사람이 의도적으로 만든 패턴이나 스티커 하나로 모델이 오작동할 수 있다는 점을 전제하고 설계해야 합니다. 실제로 정지 표지판에 작은 스티커를 붙여 자율주행 인식 모델을 속이는 연구(2018년 카네기멜런대 등)가 이미 발표된 바 있어, 물리적 적대적 공격은 학계에서도 오래 다뤄온 주제입니다. 얼굴인식이나 이상행동 탐지 같은 보안·감시 모델을 운영 중이라면, 적대적 패턴에 대한 강건성(robustness) 테스트를 정기 점검 항목에 넣어두는 것이 안전합니다.

패션이 프라이버시 방어 수단으로 쓰이는 흐름은, 감시 기술과 회피 기술이 계속 서로를 뒤쫓는 '창과 방패' 구도가 일상 영역까지 내려왔다는 걸 보여줍니다.