미국의 딥페이크 법률은 인공지능 시스템에 의해 생성된 합성 미디어의 제작, 유포, 사용을 규제하기 위해 제정된 연방 및 주 차원의 법률들이 모자이크처럼 얽혀 있는 형태를 이룬다. 이러한 법률들은 선거 간섭, 비동의 친밀 이미지, 사기, 명예훼손 등 딥페이크와 관련된 다양한 피해를 다룬다. 법적 환경은 2010년대 중반 이후 생성형 AI의 발전과 접근 가능한 딥페이크 제작 도구의 확산에 힘입어 빠르게 진화해 왔다. 2025년 기준으로 미국 대부분의 주는 어떤 형태로든 딥페이크 관련 법률을 제정했지만, 그 범위와 집행 메커니즘은 상당히 다양하다.
딥페이크는 '딥러닝'과 '가짜'의 합성어로, 머신러닝 기술을 사용하여 편집되거나 생성된 이미지, 비디오, 오디오를 의미한다. 이 기술은 변이 오토인코더와 생성적 적대 신경망(GAN)을 포함한 신경망을 활용하여 매우 사실적인 합성 미디어를 만든다. 가짜 콘텐츠를 만드는 행위 자체는 디지털 기술 이전부터 존재했지만, 딥페이크는 AI 기반 도구를 사용하여 실제 또는 가상의 인물을 전례 없는 정확도로 묘사할 수 있는 미디어를 생산한다는 점에서 독특하다. 이러한 능력은 프라이버시, 지식재산권, 민주적 무결성에 관한 중요한 법적, 정책적 질문을 제기해 왔다.
연방 차원의 입법 노력
연방 차원에서 의회는 딥페이크를 다루는 여러 법안을 검토했지만 2025년 현재 포괄적인 법률을 제정하지는 못했다. 2019년에 처음 발의된 딥페이크 책임법(Deepfake Accountability Act)은 AI 생성 콘텐츠에 디지털 워터마크를 요구하고 합성 미디어를 공개하지 않을 경우 형사 처벌을 제안했다. 2020년에 서명되어 법으로 제정된 생성적 적대 신경망 출력 식별법(Identifying Outputs of Generative Adversarial Networks Act)은 국립과학재단과 국립표준기술연구소가 딥페이크 탐지 및 콘텐츠 진위성 연구를 지원하도록 지시했다.
여러 회기에 걸쳐 재발의된 DEEPFAKES 책임법은 딥페이크 제작자에게 디지털 워터마크를 삽입하고 콘텐츠의 합성적 성격을 공개하도록 요구했을 것이다. 이 법안은 또한 동의 없이 딥페이크에 묘사된 개인에게 민사상 소송권을 창설하는 방안도 제안했다. 그러나 이러한 연방 제안들은 표현의 자유 보호와 규제 목표를 조화시키는 데 어려움을 겪었으며, 어느 것도 양원에서 최종 표결까지 진행되지 못했다.
2023년과 2024년에는 연방 차원의 관심이 선거 관련 딥페이크로 옮겨갔다. 제안된 선거를 기만적 AI로부터 보호법(Protect Elections from Deceptive AI Act)은 선거 120일 이내에 연방 후보자를 묘사하는 실질적으로 기만적인 AI 생성 오디오 또는 시각 미디어의 유포를 금지했을 것이다. 이 법안은 딥페이크가 선거 과정에 간섭할 가능성에 대한 우려가 커지고 있음을 반영했으며, 학계와 정책 입안자들은 이러한 우려를 허위 정보 및 증오 발언에 대한 우려와 함께 강조해 왔다.
주 차원의 규제: 개요
주 의회들은 딥페이크를 다루는 데 있어 의회보다 더 적극적이었다. 2025년까지 40개 이상의 주가 합성 미디어 관련 법률을 제정했으며, 대부분 포괄적 규제보다는 특정 피해에 초점을 맞추고 있다. 2019년경 시작된 첫 번째 주 법률 물결은 비동의 친밀 이미지(NCII)를 겨냥했는데, 이는 흔히 리벤지 포르노라고 불리며 딥페이크 기술이 널리 보급되기 전에 이미 많은 주에서 범죄로 규정되어 있었다.
캘리포니아는 딥페이크 규제의 선구자로 부상했다. 2019년, 이 주는 선거 60일 이내에 선출직 후보자의 실질적으로 기만적인 오디오 또는 시각 미디어의 유포를 금지하는 하원 법안 730(Assembly Bill 730)을 제정했다. 같은 해, 캘리포니아는 동의 없는 딥페이크 포르노그래피의 제작과 유포를 범죄화하는 하원 법안 602(Assembly Bill 602)를 통과시켰다. 이 법률들은 선거 무결성 조항과 친밀 이미지 남용 보호를 결합한 템플릿을 확립했으며, 다른 주들이 이를 따르게 되었다.
비동의 친밀 이미지 법률
가장 널리 채택된 딥페이크 법률 범주는 비동의 친밀 이미지를 다룬다. 2025년 기준으로 거의 모든 주가 디지털로 조작되거나 AI 생성된 친밀 이미지를 NCII 정의에 명시적으로 포함하는 법률을 보유하고 있다. 이러한 법률은 일반적으로 동의 없이 실제 인물을 묘사하는 딥페이크 포르노그래피를 제작하거나 유포하는 행위에 대해 형사 처벌을 부과하며, 관할권과 상황에 따라 경범죄에서 중죄까지 처벌 수준이 다양하다.
텍사스는 2019년에 괴롭힘이나 해를 끼칠 의도로 딥페이크 친밀 이미지를 제작하거나 유포하는 행위를 중죄로 규정하는 더 엄격한 법률 중 하나를 제정했다. 이 법은 또한 피해자가 손해 배상과 금지 명령을 구할 수 있는 민사 구제책도 제공한다. 뉴욕은 2022년에 합성 친밀 이미지의 유포를 범죄화하는 법률을 통과시켰으며, 동시에 민사 소송 사유도 확립했다. 이러한 법률들은 딥페이크 NCII가 피해자에게 심각한 심리적, 명예적, 경제적 피해를 초래할 수 있다는 인식을 반영한다.
일부 주는 NCII 법률을 딥페이크 친밀 이미지를 만들겠다는 위협까지 포함하도록 확장했다. 예를 들어, 일리노이주는 기존 리벤지 포르노 법령을 수정하여 위협을 포함시켰는데, 이는 단순히 딥페이크를 만들겠다는 위협만으로도 피해자를 강요하고 통제하는 도구로 사용될 수 있음을 인식한 것이다. 이러한 확장은 피해자의 원본 친밀 이미지 없이도 생성될 수 있는 딥페이크의 독특한 특성을 다룬다.
선거 및 정치 딥페이크 법률
선거 관련 딥페이크 법률은 주 규제의 두 번째 주요 범주를 구성한다. 이러한 법률은 일반적으로 선거 전 특정 기간(종종 60일 또는 90일) 내에 정치 후보자를 묘사하는 기만적인 합성 미디어의 유포를 금지한다. 대부분의 법률은 콘텐츠가 실질적으로 기만적이어야 한다고 요구하는데, 이는 합리적인 사람이 후보자가 실제로 말하거나 행동하지 않은 것을 말하거나 행동했다고 믿게 만들 정도여야 함을 의미한다.
2019년에 제정된 캘리포니아의 AB 730은 이러한 종류의 최초의 법률이었다. 이 법은 기만적인 딥페이크에 묘사된 후보자가 금지 명령을 구할 수 있도록 허용하고 민사 처벌을 부과했다. 미네소타는 2023년에 유사한 법률을 통과시켰고, 미시간, 워싱턴, 위스콘신도 자체 버전을 뒤따랐다. 2024년까지 최소 20개 주가 선거 관련 딥페이크 법률을 제정했으며, 많은 법률이 2024년 대통령 선거 전에 발효되었다.
이러한 법률들은 수정 헌법 제1조에 대한 도전에 직면해 있다. 2024년, 플로리다의 연방 법원은 그 주의 딥페이크 선거법의 일부 조항을 위헌으로 판결했는데, 이는 지나치게 광범위하여 보호받는 표현을 위축시킨다는 이유였다. 이 판결은 선거 기만을 방지하는 것과 정치적 표현을 보존하는 것 사이의 긴장을 강조했으며, 이러한 긴장은 다른 주들의 입법 초안 작성에 계속 영향을 미치고 있다. 일부 주는 기만적 콘텐츠의 정의를 좁히거나 풍자, 패러디, 뉴스 보도에 대한 면제 조항을 추가하는 방식으로 대응했다.
민사 구제책과 퍼블리시티권
형사 법령 외에도 많은 주가 퍼블리시티권 법률을 통해 딥페이크 피해자를 위한 민사 구제책을 확장했다. 이러한 법률은 개인의 이름, 이미지, 초상의 상업적 사용에 대한 통제권을 보호한다. 테네시는 2024년에 공연자의 목소리와 이미지의 AI 생성 복제물을 퍼블리시티권 법령에 명시적으로 포함시킨 최초의 주가 되었으며, 이는 음성·이미지·초상 보안 보장법(ELVIS Act)으로 알려져 있다. 이 법은 아티스트의 목소리를 무단으로 모방한 AI 생성 노래에 대한 음악 산업의 우려에서 비롯되었다.
캘리포니아와 뉴욕도 디지털 복제물을 다루기 위해 퍼블리시티권 법률을 수정했다. 캘리포니아의 2020년 민법 개정은 책임이 AI를 통해 생성된 "디지털 복제물"에도 적용된다는 점을 명확히 했다. 뉴욕의 2020년 법률(2021년 발효)은 사망한 공연자의 디지털 복제물을 포함하는 사후 퍼블리시티권을 창설했다. 이러한 법률은 손해 배상을 위한 민사 소송 사유를 제공하여 피해자가 딥페이크에서 자신의 초상의 무단 상업적 사용에 대해 소송을 제기할 수 있게 한다.
사기 및 금융 범죄 조항
일부 주는 사기 및 금융 범죄의 맥락에서 딥페이크를 다루고 있다. 이러한 법률은 딥페이크가 금전적 이득을 위해 개인을 사칭하는 데 사용될 수 있음을 인식하는데, 예를 들어 사기 거래를 승인하기 위한 음성 복제나 직원을 속여 자금을 이체하게 하는 비디오 딥페이크 등이 있다. 2025년 기준으로 최소 12개 주가 기존 사기 법령을 확장하거나 새로운 범죄를 창설하는 방식으로 AI 기반 사기를 구체적으로 다루는 법률을 제정했다.
애리조나와 루이지애나는 딥페이크 기술을 사용하여 저질러진 범죄에 대한 처벌을 강화하는 법률을 제정했다. 이러한 법령은 합성 미디어의 사용을 가중 요소로 취급하여 신원 도용, 전신 사기, 공갈과 같은 기본 범죄에 대한 혐의의 심각성을 높인다. 이 접근 방식은 검사가 기존 형사 프레임워크를 적용하면서도 AI 생성 기만이 제기하는 독특한 위협을 인식할 수 있게 한다.
탐지 및 공개 요건
점점 더 많은 주가 AI 생성 콘텐츠의 공개를 요구하는 법률을 제정하고 있다. 이러한 법률은 일반적으로 딥페이크에 라벨을 부착하거나 워터마크를 삽입하여 시청자에게 합성적 성격을 알리도록 의무화한다. 캘리포니아의 2024년 법률(2025년 발효)은 대규모 온라인 플랫폼이 선거나 공중 보건에 대해 시청자를 기만할 수 있는 AI 생성 콘텐츠에 라벨을 부착하도록 요구한다. 이 법은 또한 플랫폼이 사용자에게 라벨이 없는 딥페이크를 신고할 수 있는 도구를 제공하도록 요구한다.
유타와 콜로라도도 유사한 공개 법률을 제정했으며, 콜로라도의 2024년 법령은 정치 광고가 생성형 AI의 사용을 공개하도록 요구한다. 이러한 공개 요건은 시청자가 미디어의 진위성에 대해 정보에 입각한 판단을 내릴 수 있도록 함으로써 딥페이크의 정보적 피해를 해결하는 것을 목표로 한다. 그러나 집행 메커니즘은 다양하며, 일부 법률은 정부 감독보다는 플랫폼 자율 규제에 의존한다.
집행 과제와 비판
딥페이크 법률의 집행은 상당한 과제에 직면해 있다. 인터넷의 분산된 특성으로 인해 피해가 발생한 관할권 밖에 있을 수 있는 제작자를 식별하고 기소하기가 어렵다. 또한 대규모 언어 모델 및 기타 AI 기술의 빠른 발전으로 인해 탐지 도구가 생성 능력을 따라잡지 못하는 경우가 많다. 이미지 포렌식 연구자들은 조작된 이미지를 탐지하는 기술을 개발했지만, 이러한 방법은 가장 정교한 딥페이크에 대해서는 항상 신뢰할 수 있는 것은 아니다.
딥페이크 법률에 대한 비판자들은 과도한 광범위성과 합법적 표현에 대한 위축 효과에 대한 우려를 제기한다. 예술가, 언론인, 풍자가들은 일부 법령이 합성 미디어를 사용하는 정치적 패러디나 다큐멘터리 영화와 같은 보호받는 표현을 억압하는 데 사용될 수 있다고 주장한다. 미국시민자유연합(ACLU)과 다른 옹호 단체들은 수정 헌법 제1조에 근거하여 딥페이크 법률에 도전하는 여러 사건에서 의견서를 제출했으며, 정부의 기만 방지 이익이 콘텐츠에 대한 광범위한 제한을 정당화하지 않는다고 주장한다.
또 다른 비판은 주 법률의 불일치에 관한 것으로, 이는 플랫폼과 제작자에게 복잡한 준수 환경을 조성한다. 한 주에서 합법적인 딥페이크가 다른 주에서는 범죄가 될 수 있으며, 연방 차원의 통일성이 부족하여 주 경계를 넘는 집행이 복잡해진다. 일부 법학자들은 최소 기준을 확립하면서도 주가 더 엄격한 보호 조치를 제정할 수 있도록 허용하는 연방 프레임워크를 요구해 왔다.
향후 방향
2025년 현재, 미국의 딥페이크 법적 환경은 여전히 유동적이다. 연방 법률은 제안되었지만 제정되지 않았으며, 주 법률은 기술 발전과 법원 도전에 대응하여 계속 진화하고 있다. 대법원은 아직 딥페이크 법률의 합헌성에 대해 판결을 내리지 않았으며, 하급 법원이 규제와 표현의 자유 사이의 균형을 다루도록 남겨두고 있다.
새로운 문제로는 엔터테인먼트 산업에서의 딥페이크 사용이 있으며, OpenAI 및 다른 회사들이 사실적인 비디오와 오디오를 생성할 수 있는 도구를 개발했다. 딥페이크가 미디어 산업을 교란할 가능성은 업계 자율 규제와 콘텐츠 출처에 대한 기술 표준에 대한 요구를 촉발했다. 업계 그룹인 콘텐츠 출처 및 진위성 연합(Coalition for Content Provenance and Authenticity)은 디지털 콘텐츠의 출처와 이력을 검증할 수 있는 암호화 서명된 메타데이터에 대한 기술 사양을 개발했다.
여러 주의 입법자들은 2025-2026 회기 동안 딥페이크에 묘사된 개인에 대한 보호를 확장하는 법안을 발의했으며, 여기에는 신속한 삭제 절차와 악의적 사용에 대한 강화된 손해 배상 조항이 포함된다. 일부 제안은 플랫폼이 딥페이크 탐지 도구를 구현하고 지정된 기간 내에 신고된 콘텐츠를 제거하도록 요구할 것이다. 이러한 제안은 AI 생성 합성 미디어가 제기하는 도전에 법적 프레임워크를 적응시키려는 지속적인 노력을 반영한다.