딥페이크 법률(Deepfake laws)은 인공지능을 통해 생성된 합성 미디어의 제작과 유포를 규제하기 위해 제정된 미국의 주 및 연방 법령들의 집합체를 의미한다. 이러한 법률들은 비동의적 친밀 이미지, 선거 방해, 사기와 같은 유해한 용도를 겨냥하며, 조작된 콘텐츠에 묘사된 개인에게 민사상 구제 수단도 제공한다. 입법 노력은 2019년 이후 생성형 인공지능의 발전과 접근 가능한 딥페이크 도구의 확산에 대응하여 가속화되었다.
법적 환경은 개인과 공공 기관을 피해로부터 보호하려는 것과 표현의 자유 및 기술 혁신을 보존하려는 것 사이의 긴장에 의해 형성된다. 2025년 현재, 포괄적인 연방 딥페이크 법령은 존재하지 않지만, 의회에서 수많은 법안이 발의되었고 대부분의 주에서 어떤 형태로든 규제를 제정했다. 법률은 범위, 정의, 집행 메커니즘에 있어 크게 다르며, 이는 기술과 그 사회적 영향의 급속한 진화를 반영한다.
연방 차원의 입법 노력
연방 차원에서 의원들은 딥페이크를 겨냥한 여러 법안을 제안했지만, 2025년 현재 어느 것도 법으로 제정되지는 않았다. 2019년 하원에서 처음 발의된 DEEPFAKES 책임법(DEEPFAKES Accountability Act)은 딥페이크 제작자에게 디지털 워터마크를 삽입하고 콘텐츠의 합성적 성격을 공개하도록 요구할 것이다. 이 법안은 이후 회기에서 재발의되었지만 표결에 부쳐지지 않았다.
2020년 12월에 서명된 생성적 적대 신경망 출력 식별법(Identifying Outputs of Generative Adversarial Networks Act)은 국립과학재단과 국립표준기술연구소가 딥페이크 탐지 및 진위성 표준에 관한 연구를 지원하도록 지시했다. 이 법은 처벌을 부과하지는 않았지만 연방 연구 조정의 토대를 마련했다.
2023년, 상원은 선거로부터의 기만적 AI 보호법(Protect Elections from Deceptive AI Act)을 발의했는데, 이 법은 선거 120일 이내에 연방 후보자를 묘사하는 실질적으로 기만적인 AI 생성 오디오 또는 비주얼 미디어의 유포를 명확한 공개가 포함되지 않는 한 금지할 것이다. 이 법안은 계류 중이다. 유사하게, 2024년에 발의된 No Fakes Act는 개인의 초상과 목소리에 대한 디지털 복제물에 대한 연방 차원의 퍼블리시티권을 창설할 것을 제안하며, 뉴스, 논평, 패러디에 대한 예외를 둔다.
연방 기관들도 기존 권한에 따라 행동해 왔다. 연방선거위원회(FEC)는 2024년 캠페인 광고의 AI 생성 딥페이크에 관한 규칙 제정을 고려하기로 투표했지만, 최종 규칙은 채택되지 않았다. 연방거래위원회(FTC)는 AI 생성 지지와 관련된 사건에서 기만적 관행에 대한 권한을 사용했지만, 이러한 조치는 상업적 맥락으로 제한된다.
주 차원의 형사 법령
주 의회는 의회보다 더 적극적이었다. 2025년 초 현재, 최소 45개 주와 컬럼비아 특별구가 어떤 형태로든 딥페이크를 다루는 법률을 제정했다. 가장 일반적인 접근 방식은 비동의적 딥페이크 포르노그래피, 종종 "딥페이크 리벤지 포르노"라고 불리는 것을 범죄화하는 것이다. 이러한 법률은 일반적으로 이미지가 실제인지 합성인지에 관계없이 동의 없이 개인의 친밀 이미지를 제작하거나 유포하는 것을 범죄로 만든다.
캘리포니아는 2019년 의회 법안 602를 제정하여 주의 리벤지 포르노 법령을 디지털로 변경된 이미지를 포함하도록 수정한 선구자였다. 이 법은 형사 처벌을 부과하고 민사 소송을 허용한다. 텍사스는 정치 후보에게 해를 끼치거나 선거에 영향을 미치려는 의도를 가진 딥페이크 비디오를 특별히 범죄화하는 2019년 법률로 뒤를 이었으며, 이는 선거 무결성에 대한 우려에 대한 대응이었다.
뉴욕의 2023년 법률인 디지털 공정 수리법(Digital Fair Repair Act)에는 동의 없는 합성 친밀 이미지의 유포를 범죄화하는 조항이 포함되어 있으며, 반복 범죄자에 대한 처벌이 가중된다. 버지니아, 메릴랜드, 하와이도 유사한 법령을 가지고 있으며, 종종 "친밀 이미지"를 사실적인 디지털 묘사를 포함하도록 광범위하게 정의한다.
일부 주는 선거의 딥페이크를 겨냥한 법률을 제정했다. 예를 들어, 미네소타는 2023년 선거 90일 이내에 후보자의 딥페이크 유포를 금지하는 법을 통과시켰는데, 이는 콘텐츠가 실질적으로 기만적이고 명확히 표시되지 않은 경우에 해당한다. 워싱턴 주의 2024년 법률은 선거 관련 딥페이크에 대한 민사 처벌을 부과하고 플랫폼이 통지 후 48시간 이내에 이를 삭제하도록 요구한다.
민사 구제 및 퍼블리시티권
형사 처벌 외에도 많은 주는 딥페이크 피해자에게 민사 구제 수단을 제공한다. 퍼블리시티권 - 자신의 이름, 이미지, 초상의 상업적 사용을 통제할 수 있는 법적 권리 - 은 여러 관할권에서 AI 생성 복제물을 포함하도록 확장되었다. 캘리포니아의 2020년 법률 AB 2331은 딥페이크 포르노그래피 제작자에 대한 손해 배상 소송을 명시적으로 허용하며, 위반당 최대 150,000달러의 법정 손해 배상을 포함한다.
2024년에 제정된 테네시주의 초상, 목소리, 이미지 보안법(Ensuring Likeness Voice and Image Security Act)은 가장 포괄적인 법률 중 하나이다. 이 법은 승인되지 않은 디지털 복제물에 대한 민사 소송 원인을 창설하고, 상업적 및 비상업적 용도 모두에 적용되며, 금지 명령 구제에 대한 조항을 포함한다. 이 법은 또한 사후 권리에 대한 절차를 확립하여 유산이 사망자의 디지털 초상을 사망 후 최대 10년 동안 통제할 수 있도록 한다.
일리노이와 뉴욕은 딥페이크를 다루기 위해 퍼블리시티권 법령을 수정했다. 뉴욕의 2020년 법률은 연주자가 승인되지 않은 디지털 복제물에 대해 소송을 제기할 수 있도록 허용하지만, 뉴스, 논평, 패러디는 면제한다. 일리노이의 2024년 퍼블리시티권법 수정안은 "디지털 복제물"을 포함하며 실제 손해 또는 위반당 2,500달러의 법정 손해를 제공한다.
민사 소송은 또한 명예 훼손, 고의적 정신적 고통 유발, 허위 사실 노출과 같은 전통적인 불법 행위에 따라 제기되어 왔다. 그러나 이러한 청구는 공인에 대한 실제 악의를 입증하고 딥페이크가 특정 피해를 초래했음을 증명해야 하는 등 장애물에 직면한다. 2025년 현재, 재판에 회부된 사건은 거의 없으며, 법원은 기존 원칙을 합성 미디어에 적용하기 위한 기준을 여전히 개발 중이다.
선거 및 정치적 딥페이크
별도의 주 법률 범주는 정치 캠페인의 딥페이크를 겨냥한다. 이러한 법률은 일반적으로 캠페인 광고의 AI 생성 콘텐츠에 공개 라벨을 요구하거나 기만적인 딥페이크를 완전히 금지한다. 2025년 현재, 최소 20개 주가 이러한 법률을 제정했으며, 시기, 범위, 처벌에 있어 차이가 있다.
캘리포니아의 AB 730은 2020년에 발효되어, 콘텐츠에 면책 조항이 포함되지 않는 한 선거 60일 이내에 후보자의 실질적으로 기만적인 오디오 또는 비주얼 미디어 유포를 금지한다. 이 법은 후보자가 금지 명령과 손해 배상을 구할 수 있도록 허용한다. 미시간의 2023년 법률은 유사한 제한을 부과하고 플랫폼이 플래그된 콘텐츠를 48시간 내에 삭제해야 한다는 요구 사항을 추가한다.
일부 주는 처벌을 기만 의도와 연계한다. 예를 들어, 위스콘신의 2023년 법률은 제작자가 후보자의 평판을 해치거나 유권자에게 영향을 미칠 의도가 있었음을 증명해야 한다. 유타와 같은 다른 주는 AI 생성 정치 광고에 시각적 또는 청각적 고지를 포함하도록 요구하는 공개에 초점을 맞춘다.
이러한 법률은 수정헌법 제1조 도전에 직면해 있다. 2024년, 플로리다의 연방 법원은 주의 딥페이크 선거법 일부를 위헌적으로 모호하고 과도하게 광범위하다고 기각했으며, 내용 기반 제한에 대한 대법원의 엄격 심사 기준을 인용했다. 유사한 도전이 다른 주에서도 계류 중이며, 법적 결과는 불확실하다.
비동의적 친밀 이미지
가장 널리 채택된 딥페이크 법률은 비동의적 친밀 이미지(NCII)를 다룬다. 2025년 현재, 50개 주 모두 리벤지 포르노를 범죄화하는 어떤 법률을 가지고 있으며, 대부분 합성 이미지를 포함하도록 수정되었다. 그러나 정의는 다양하다: 일부 주는 이미지가 "성적으로 노골적"이어야 한다고 요구하는 반면, 다른 주는 "친밀한" 이미지를 더 광범위하게 다룬다.
연방 법률도 NCII를 다룬다. 2022년 여성 폭력 재승인법(Violence Against Women Act Reauthorization)에는 컴퓨터 생성 이미지를 포함하여 동의 없이 친밀 이미지를 공개하는 것을 연방 범죄로 만드는 조항이 포함되었다. 이 법은 반복 범죄자에 대해 최대 7년의 징역형을 부과한다. 그러나 집행은 제한적이며, 이 법은 민사 소송 권리를 창설하지 않는다.
딥페이크 NCII 피해자는 종종 법적 구제에 실질적인 장벽에 직면한다. 많은 주는 이미지가 실제 인물을 묘사해야 한다고 요구하는데, 이는 가상 또는 합성 이미지에 문제가 될 수 있다. 또한 온라인 플랫폼의 익명성은 가해자 식별을 복잡하게 만든다. 뉴저지와 같은 일부 주는 알 수 없는 피고에 대한 소송을 허용하고 통지 시 콘텐츠 삭제를 플랫폼에 요구함으로써 이러한 장벽을 낮추는 "딥페이크 특화" 법률을 제정했다.
산업 및 플랫폼 규제
포괄적인 연방 법률이 없는 상황에서 기술 기업들은 자체 정책을 시행해 왔다. 주요 소셜 미디어 플랫폼(페이스북, 인스타그램, 틱톡, X 포함)은 비동의적 합성 친밀 이미지를 금지하고 자동 탐지 도구를 개발했다. 이러한 정책은 자발적이며 집행에 있어 차이가 있다.
인공지능 산업도 자율 규제를 제안했다. 2023년, 오픈AI, 앤트로픽, 구글 딥마인드를 포함한 주요 AI 기업들은 콘텐츠 진위성 및 출처 연합(C2PA) 표준을 통해 AI 생성 콘텐츠에 워터마킹을 하기로 약속했다. 그러나 이러한 조치는 법적 구속력이 없으며, 연구자들은 워터마크가 제거되거나 우회될 수 있음을 보여주었다.
일부 주는 플랫폼에 의무를 부과했다. 예를 들어, 캘리포니아의 2022년 법률은 소셜 미디어 플랫폼이 딥페이크 NCII를 신고할 수 있는 메커니즘을 제공하고 유효한 신고 후 36시간 이내에 접근을 차단하도록 요구한다. 뉴욕의 2023년 법률은 유사한 요구 사항을 부과하고 불이행에 대한 민사 처벌을 추가한다.
도전 과제 및 향후 방향
딥페이크 법률의 효과성은 논쟁의 대상이다. 비평가들은 형사 처벌이 풍자, 예술, 교육과 같은 합성 미디어의 합법적 사용을 억제할 수 있다고 주장한다. 다른 이들은 탐지 기술이 생성 기술을 따라잡지 못해 집행이 어렵다고 지적한다. 2025년 현재, 딥페이크 특화 법령에 따른 상당한 수의 기소를 보고한 주는 없으며, 민사 사건도 드물다.
법학자들은 주 법률을 조화하고 관할권 문제를 해결하기 위한 통일된 연방 프레임워크를 촉구해 왔다. 제안에는 연방 퍼블리시티권, 모든 AI 생성 콘텐츠의 의무 라벨링, 딥페이크 민원을 처리할 전담 기관 설립이 포함된다. 그러나 입법 진행은 더디며, 내용 기반 제한에 대한 대법원의 회의적 태도가 향후 법률의 범위를 제한할 수 있다.
머신러닝 기술이 계속 발전함에 따라 실제와 합성 미디어의 경계는 더욱 흐려질 것이다. 법적 시스템은 혁신과 개인 권리 및 민주적 과정의 보호 사이의 균형을 맞추며 적응해야 할 것이다. 주 법률의 모자이크는 불완전하지만, 급속히 진화하는 기술을 규율하는 지속적인 실험을 대표한다.