컴퓨터 비전 현란 위장(Computer vision dazzle)은 고대비의 기하학적 패턴을 물체에 적용하여 자동 인식 시스템의 시각적 인식을 방해하는 위장의 한 형태이다. 이 기술은 제1차 세계 대전 당시 선박에 사용된 현란 위장(dazzle camouflage) 개념에서 유래했으며, 당시에는 굵은 줄무늬와 모양으로 선박의 속도와 방향을 추정하기 어렵게 만들었다. 인공지능의 맥락에서 컴퓨터 비전 현란 위장은 신경망 및 기타 머신 러닝 모델의 한계를 이용하는 것을 목표로 한다. 이러한 모델은 종종 가장자리 검출과 질감 단서에 의존하여 물체를 식별한다. 물체의 실루엣을 분해하는 시각적 잡음을 도입함으로써, 패턴은 모델이 물체를 오분류하거나 완전히 감지하지 못하게 할 수 있다.
이 접근 방식은 이미지에 인지할 수 없는 미세한 교란을 추가하는 적대적 공격(adversarial attack)과는 구별된다. 컴퓨터 비전 현란 위장은 눈에 보이고 종종 미학적으로 눈에 띄게 설계되며, 현대 미술이나 군사 위장과 유사하다. 이는 물리적 세계 공격의 한 형태로, 패턴이 디지털 이미지가 아닌 실제 물체에 직접 적용된다. 이는 감시, 자율 주행 또는 재고 관리에 카메라와 자동 시스템이 사용되는 응용 분야에서 관련성이 높다.
역사적 기원과 영감
"현란(dazzle)"이라는 용어는 해군 역사에서 유래했다. 제1차 세계 대전 중 영국 예술가 노먼 윌킨슨(Norman Wilkinson)은 선박을 굵고 대비되는 기하학적 모양으로 칠할 것을 제안했다. 이는 선박을 숨기기 위한 것이 아니라 적 잠수함 사령관이 사거리, 속도, 방향을 혼동하게 하기 위한 것이었다. 패턴은 어뢰 조준을 정렬하기 어렵게 만들었다. 이 아이디어는 21세기에 컴퓨터 비전 연구자들에 의해 부활되었으며, 인간의 시각 인식과 딥 러닝 모델이 이미지를 처리하는 방식 사이의 유사점을 발견했다.
2010년대에는 동물 위장, 특히 얼룩말과 특정 어류의 현란 패턴에 대한 연구가 기계 인식을 방해하는 새로운 작업에 영향을 주었다. MIT CSAIL 및 버클리 AI 연구와 같은 기관의 연구자들은 물체 감지기를 속일 수 있는 인쇄 패턴을 실험하기 시작했다. 목표는 물체를 보이지 않게 만드는 것이 아니라 모델의 훈련 데이터와 일치하지 않는 외관을 만드는 것이었다.
교란 메커니즘
현대 컴퓨터 비전 시스템, 특히 합성곱 신경망(신경망의 한 유형) 기반 시스템은 가장자리, 모서리, 질감을 감지하는 계층을 통해 이미지를 처리한다. 이러한 저수준 특징은 바퀴, 얼굴 또는 차체와 같은 고수준 구조를 인식하기 위해 결합된다. 컴퓨터 비전 현란 위장 패턴은 이 특징 계층 구조를 방해하도록 설계된다.
패턴은 일반적으로 검정과 흰색 또는 기타 고대비 색상 사이의 급격한 전환을 사용한다. 이러한 전환은 모델의 가장자리 감지기를 혼동시킬 수 있는 거짓 가장자리를 만든다. 예를 들어, 자동차 문의 패턴은 바퀴 경계처럼 보이는 선을 만들어 모델이 자동차를 다른 차량 유형으로 오식별하게 할 수 있다. 일부 패턴은 훈련에 사용되는 데이터 증강 기법을 이용하기도 하는데, 이 기법은 종종 무작위 잘라내기와 회전을 포함하여 모델이 특정 공간 주파수에 더 민감하게 만든다.
연구에 따르면 현란 패턴의 효과는 모델의 특정 아키텍처에 따라 달라진다. 잔차 네트워크를 속이는 패턴은 U-Net이나 트랜스포머 기반 비전 모델을 속이지 못할 수 있다. 이로 인해 대상 모델의 가중치에 맞춰진 패턴을 생성하는 최적화 알고리즘이 개발되었다.
응용 및 함의
컴퓨터 비전 현란 위장은 여러 실용 분야에서 탐구되었다. 자율 주행 차량 영역에서 연구자들은 웨이모 또는 테슬라 오토파일럿 시스템이 차량과 보행자를 감지하지 못하게 할 수 있는지 확인하기 위해 패턴을 테스트했다. 이러한 테스트는 종종 통제된 환경에서 수행되지만, 자율 주행 자동차 기술의 잠재적 보안 취약점을 강조한다.
감시 및 보안 분야에서 이 기술은 개인이나 집단이 카메라 시스템의 감지를 피하기 위해 사용할 수 있다. 이는 개인 정보 보호와 공공 안전에 관한 윤리적, 법적 질문을 제기한다. 반대로, 동일한 원리는 군용 차량과 같은 민감한 물체가 적군 드론에 식별되는 것을 방지하는 데 사용될 수 있다.
또 다른 응용 분야는 소매 및 물류이다. 아마존 웹 서비스와 같은 회사는 재고 추적을 위한 컴퓨터 비전 서비스를 제공한다. 현란 패턴은 이러한 시스템을 혼동시켜 절도나 변조를 가능하게 할 수 있다. 그러나 동일한 패턴은 지적 재산을 보호하기 위한 디지털 워터마킹 형태로도 사용될 수 있다.
한계 및 대응책
컴퓨터 비전 현란 위장은 완벽하지 않다. 그 효과는 무작위 잡음을 포함한 데이터 증강이나 중복 특징을 제거하는 모델 가지치기와 같은 적대적 견고성 기법으로 훈련된 모델을 사용함으로써 줄어들 수 있다. 또한, 물체를 여러 각도에서 보는 다중 카메라 시스템은 패턴이 시점 간에 일관되지 않을 수 있으므로 종종 교란을 극복할 수 있다.
또 다른 한계는 현란 패턴이 정적이라는 점이다. 모델이 업데이트되거나 재훈련되면 패턴이 효과적이지 않을 수 있다. 연구자들은 또한 현란 패턴의 특징적인 고대비 가장자리를 찾아 의심스러운 것으로 표시하는 탐지 방법을 개발했다. 일부 접근 방식은 생성 AI를 사용하여 인간 관찰자에게 덜 명백한 더 현실적인 패턴을 만든다.
2020년대 초반 현재, 컴퓨터 비전 현란 위장은 CVPR 및 NeurIPS와 같은 주요 학회에서 논문이 발표되는 활발한 연구 분야로 남아 있다. 이는 특별히 설계된 안경이나 의복 착용과 같은 기술을 포함하는 물리적 적대적 공격의 광범위한 분야의 일부이다. 패턴 생성기와 방어 알고리즘 간의 지속적인 군비 경쟁은 기계 인식에서 가능한 경계를 계속 확장하고 있다.
미래 방향
컴퓨터 비전 현란 위장의 미래는 시간이 지나거나 시야각에 따라 변화하는 적응형 패턴을 포함할 수 있다. 연구자들은 대규모 언어 모델을 사용하여 생성 AI 시스템에 의해 렌더링되는 패턴 설명을 생성하는 가능성을 탐구하고 있다. 또한 현란을 열 마스킹이나 레이더 흡수 재료와 같은 다른 위장 기술과 결합하는 데에도 관심이 있다.
AI 시스템이 일상 생활에 더 통합됨에 따라 이러한 공격을 이해하고 완화할 필요성이 커질 것이다. 컴퓨터 비전 현란 위장에 대한 연구는 취약점을 드러낼 뿐만 아니라 인간과 기계 시각이 어떻게 다른지에 대한 통찰력을 제공한다. 이러한 지식은 의료에서 자율 시스템에 이르는 분야에 혜택을 주는 더 견고하고 해석 가능한 AI 모델로 이어질 수 있다.