Deepfake Accountability Act는 생성형 AI 콘텐츠(딥페이크 포함)의 라벨링을 의무화하여 기만과 허위 정보의 위험을 완화하기 위해 제안된 미국 연방 법안이다. 2019년에 처음 도입된 이 법안은 합성 미디어의 제작자와 배포자에게 투명성 의무를 부과하고, 라벨이 없는 딥페이크로 피해를 입은 개인에게 법적 구제 수단을 제공하는 것을 목표로 한다. 이 법안은 Generative AI 기술의 오용에 대한 증가하는 우려를 반영하며, 이후 AI 규제에 관한 정책 논의에서 기준점이 되어 왔다.
딥페이크는 Artificial intelligence 기술, 특히 Deep learning 및 Neural network 아키텍처를 사용하여 만들어진 사실적이지만 조작된 미디어이다. 이 용어는 '딥 러닝'과 '가짜'를 결합한 것이며, 이 기술은 2017년 익명의 Reddit 사용자가 조작된 연예인 동영상을 게시하면서 주목을 받았다. 2019년까지 딥페이크의 확산은 선거를 훼손하고, 개인을 명예 훼손하며, 미디어에 대한 공공의 신뢰를 침식할 가능성에 대한 경고를 불러일으켰다. Deepfake Accountability Act는 2019년 6월 12일 뉴욕주 하원의원 Yvette Clarke(민주당)에 의해 미국 하원에 도입되었으며, 그녀는 이전에 사이버 보안 법안을 후원한 바 있다.
Legislative Provisions
이 법안은 미국 통신법(1934년)에 대한 수정안을 제안하며, '합성 미디어 생성의 투명성'에 관한 새로운 섹션을 추가한다. 이 법안에 따라, 배포 의도로 딥페이크를 생성하는 모든 사람은 콘텐츠가 AI 생성임을 나타내는 디지털 워터마크 또는 텍스트 라벨을 포함해야 한다. 라벨은 명확하게 보여야 하며 쉽게 제거할 수 없어야 한다. 이 법안은 또한 사용자 생성 콘텐츠를 호스팅하는 플랫폼이 사용자가 라벨이 없는 딥페이크를 신고할 수 있는 메커니즘을 제공하고, 신고 시 해당 콘텐츠를 삭제하도록 요구한다.
또한, 이 법안은 개인 소송권을 설정하여, 동의 없이 딥페이크에 묘사된 개인이 위반당 최대 150,000달러의 법정 손해 배상을 포함한 손해 배상을 위해 제작자를 고소할 수 있도록 허용한다. 또한 연방 통신 위원회(FCC)에 법안 시행 후 180일 이내에 라벨링 요구 사항을 구현하는 규정을 채택하도록 지시한다. 이 법안은 명백히 풍자, 패러디 또는 허구인 콘텐츠를 명시적으로 제외하며, 단 그러한 콘텐츠가 진정한 뉴스나 사실 보도로 제시되지 않는 경우에 한한다.
Legislative History
Deepfake Accountability Act는 116대 의회에서 H.R. 3230으로 도입되었다. 하원 에너지 및 상업 위원회에 회부되었지만, 해당 회기 동안 추가 조치는 취해지지 않았다. 이 법안은 2020년 3월 12일 H.R. 6236으로 유사한 조항과 함께 재도입되었다. 다시 위원회에서 지연되었다. 117대 의회에서 Clarke 의원은 2021년 6월 24일 H.R. 4230으로 개정된 버전을 도입했으며, 여기에는 정치 광고에 대한 추가 요구 사항이 포함되었다. 이들 버전 중 어느 것도 본회의 표결로 진행되지 않았다.
통과되지 않았음에도 불구하고, 이 법안은 딥페이크 규제의 모델로 여러 주 차원의 이니셔티브와 학술 논문에서 인용되었다. 예를 들어, 캘리포니아는 2019년에 선거 60일 이내에 정치 후보의 기만적인 오디오 또는 시각 미디어 배포를 금지하는 법(AB 730)을 통과시켰으며, Deepfake Accountability Act는 종종 연방 대응책으로 언급된다. 이 법안은 또한 2021년에 딥페이크에 대한 투명성 의무를 포함하는 AI Act를 제안한 유럽 연합의 논의에도 영향을 미쳤다.
Key Supporters and Opponents
Yvette Clarke 의원은 주요 후원자로서, 이 법안이 소비자를 보호하고 민주적 무결성을 유지하는 데 필요하다고 주장해 왔다. 보도 자료에서 그녀는 '딥페이크는 우리의 국가 안보, 민주주의, 그리고 사회에 심각한 위협을 제기한다'고 밝혔다. 이 법안은 라벨링 및 삭제 조항을 칭찬한 전자 프런티어 재단(EFF)과 같은 시민 자유 단체의 지지를 받았지만, EFF는 과도한 개입 가능성에 대한 우려도 표명했다.
반대자로는 표현의 자유 옹호자와 일부 기술 산업 단체가 있으며, 의무 라벨링이 부담이 될 수 있고 법안의 딥페이크 정의가 너무 광범위하다고 주장한다. 미국 시민 자유 연합(ACLU)은 개인 소송권이 비판적 논평이나 예술적 표현과 같은 합법적인 표현을 억압하는 데 사용될 수 있다고 경고했다. OpenAI 및 Google DeepMind를 포함한 일부 기술 회사는 자발적 라벨링을 공개적으로 지지했지만 특정 법안을 지지하지는 않았다.
Technical Context
Deepfake Accountability Act는 Generative AI 모델의 급속한 발전 기간 동안 등장했다. 2018년 NVIDIA 연구자들은 매우 사실적인 인간 얼굴을 생성할 수 있는 StyleGAN 아키텍처를 도입했다. 2019년 OpenAI는 일관된 텍스트를 생성할 수 있는 Large language model인 GPT-2를 출시하여 AI 생성 허위 정보에 대한 우려를 불러일으켰다. 법안의 라벨링 요구 사항은 이러한 발전에 대한 대응으로 여겨졌지만, 주로 텍스트보다는 시각 및 오디오 딥페이크에 초점을 맞추었다.
딥페이크 생성은 일반적으로 생성적 적대 신경망(GAN)을 포함하며, 여기서 생성기와 판별기라는 두 개의 신경망이 함께 훈련된다. 생성기는 합성 미디어를 생성하고, 판별기는 이를 실제 미디어와 구별하려고 시도한다. 시간이 지남에 따라 생성기는 개선되어 점점 더 설득력 있는 출력을 생성한다. 법안의 가시적 라벨 요구 사항은 기본 기술이 진화하더라도 시청자가 그러한 콘텐츠를 식별하기 쉽게 하기 위한 것이었다.
Impact and Legacy
Deepfake Accountability Act는 법률이 되지 않았지만 정책 환경에 지속적인 영향을 미쳤다. 딥페이크를 구체적으로 다룬 최초의 연방 법안 중 하나였으며, 그 조항은 초당적 Deepfake Task Force Act of 2020 및 Algorithmic Accountability Act of 2022와 같은 이후 제안에서 반영되었다. 이 법안은 또한 AI 윤리 및 규제에 대한 더 넓은 논의에 기여하여 딥페이크 탐지 및 워터마킹에 대한 학술 연구에 영향을 미쳤다.
연방 법안이 없는 상황에서 여러 주가 자체 딥페이크 법률을 제정했다. 2024년 기준으로 최소 15개 주가 악의적 사용에 대한 형사 처벌부터 정치 광고의 라벨링 요구 사항까지 다양한 딥페이크 관련 법률을 통과시켰다. Deepfake Accountability Act는 이러한 주 차원의 노력에서 템플릿으로 자주 인용된다. 또한 주요 기술 플랫폼은 meta의 'Made with AI' 태그 및 Google (AI)의 콘텐츠 자격 증명과 같은 AI 생성 콘텐츠를 라벨링하는 자발적 정책을 구현했다.
Current Status and Future Prospects
2025년 현재, Deepfake Accountability Act는 현재 의회에서 재도입되지 않았다. 그러나 GPT-4와 같은 Large language model의 부상과 합성 미디어 생성의 용이성 증가로 인해 이 문제는 여전히 중요하다. 2024년 연방 선거 위원회(FEC)는 권한 부족을 이유로 정치 광고에서 AI 생성 딥페이크를 규제하지 않기로 결정했으며, 이는 연방 법안에 대한 요구를 다시 촉발했다. Clarke 의원은 법안의 새 버전을 도입할 수 있다고 밝혔지만 공식 발표는 없었다.
법안의 미래는 정치적 환경과 AI 규제에 대한 진행 중인 논쟁의 결과에 달려 있을 수 있다. 일부 입법자는 AI Foundation Model Transparency Act와 같이 모든 영역에서 AI 생성 콘텐츠의 공개를 요구하는 더 광범위한 AI 법안을 제안했다. Deepfake Accountability Act는 여전히 기본적인 기준점으로 남아 있으며, 그 원칙은 향후 연방 딥페이크 법률에 정보를 제공할 가능성이 높다.
Criticism and Limitations
비평가들은 Deepfake Accountability Act의 몇 가지 한계를 지적했다. 첫째, 법안의 딥페이크 정의는 '실제처럼 보이고 사람이 하지 않은 말이나 행동을 하는 것처럼 묘사하는 오디오 또는 시각 미디어'로 제한된다. 이는 허위 정보를 퍼뜨리는 데 사용될 수 있는 텍스트 기반 AI 생성 콘텐츠를 제외한다. 둘째, 라벨링 요구 사항은 워터마크를 제거하거나 탐지를 피하는 AI를 사용하여 콘텐츠를 생성할 수 있는 정교한 사용자에 의해 우회될 수 있다. 셋째, 많은 딥페이크가 미국 외부에서 발생하므로 법안은 딥페이크 배포의 국제적 성격을 다루지 않는다.
또한 일부 법률 학자는 개인 소송권이 경솔한 소송으로 이어질 수 있으며 150,000달러의 법정 손해 배상이 과도하다고 주장했다. 다른 사람들은 법안이 플랫폼에 딥페이크를 사전에 탐지하도록 요구하지 않고 신고에 대응하도록만 요구하며, 이는 매일 업로드되는 콘텐츠의 규모를 고려할 때 불충분할 수 있다고 지적했다. 이러한 비판은 이러한 격차 중 일부를 해결하려는 이후의 입법 노력에 정보를 제공했다.
Conclusion
Deepfake Accountability Act는 연방 차원에서 AI 생성 콘텐츠를 규제하려는 초기 시도를 나타낸다. 통과되지는 않았지만 딥페이크 규제에 대한 담론을 형성하고 주 및 국제적 노력에 영향을 미쳤다. AI 기술이 계속 발전함에 따라 합성 미디어의 투명성과 책임에 대한 필요성은 여전히 시급하며, 법안의 원칙은 향후 입법 제안에서 다시 표면화될 가능성이 높다.