중국은 세계에서 가장 광범위하고 세부적인 인공지능(AI) 규제 체계 중 하나를 개발했다. 중국 사이버공간관리국(CAC), 산업정보통신부, 국무원을 포함한 다양한 국가 기관이 발표한 이러한 규정은 국가 안보, 사회 안정, 공공 질서에 대한 우려를 해결하면서 인공지능 기술의 빠른 배포를 관리하는 것을 목표로 한다. 이 체계는 콘텐츠 통제, 알고리즘 투명성, AI 서비스 제공자의 법적 책임에 초점을 맞춘 것으로 유명하며, 다른 관할권에서 볼 수 있는 시장 주도형 또는 혁신 우선 접근 방식과 구별된다.
규제 환경은 특히 생성형 AI 시스템과 딥페이크 기술의 부상이라는 특정 기술 발전에 대응하여 진화했다. 2022년과 2023년에 중국은 알고리즘 추천, 딥 합성(딥페이크), 생성형 AI 서비스에 대한 맞춤형 규칙을 도입했다. 이러한 조치는 AI 거버넌스를 기존 사이버 보안 및 데이터 보호 법률에 통합하려는 더 넓은 노력의 일부이며, AI 애플리케이션 유형과 사회에 대한 잠재적 위험에 따라 서로 다른 요구 사항을 적용하는 계층적 시스템을 만든다.
역사적 배경 및 법적 근거
중국의 AI 규제는 2017년 사이버 보안법과 2021년 데이터 보안법과 같은 초기 법률의 기반 위에 구축된다. 이러한 법률은 데이터 처리, 국경 간 데이터 전송, 중요 정보 인프라 보호에 대한 원칙을 확립했다. 2021년 11월에 시행된 개인정보보호법(PIPL)은 개인 데이터를 처리하는 AI 시스템에 직접적인 영향을 미치는 동의, 데이터 최소화, 개인 권리에 대한 엄격한 요구 사항을 추가했다.
최초의 AI 특화 규제 조치는 2022년 3월 1일에 시행된 "인터넷 정보 서비스 알고리즘 추천 관리 규정"이었다. 이 규정은 뉴스 추천, 검색 결과, 콘텐츠 피드에 사용되는 알고리즘을 대상으로 했다. 서비스 제공자는 알고리즘을 CAC에 등록하고, 보안 평가를 수행하며, 알고리즘 출력이 사회주의 핵심 가치를 위반하거나 허위 정보를 퍼뜨리지 않도록 해야 했다. 또한 사용자에게 개인화 추천 기능을 비활성화할 수 있는 옵션을 제공하도록 의무화했다.
딥 합성 규정 (2022)
2022년 12월, CAC는 2023년 1월 10일에 시행된 "인터넷 정보 서비스의 딥 합성 관리에 관한 규정"을 발표했다. 이러한 규칙은 딥러닝 및 신경망 방법을 사용하여 이미지, 오디오, 비디오를 생성하거나 변경하는 딥페이크 기술을 구체적으로 다룬다. 이 규정은 시청자를 오도할 수 있는 AI 생성 또는 편집 콘텐츠에 합성 콘텐츠임을 명확히 표시하도록 요구한다. 서비스 제공자는 편집을 위해 딥 합성을 사용하기 전에 사용자 동의를 얻어야 하며, 타인을 비방하거나 소문을 퍼뜨리거나 공공 질서를 위반하는 콘텐츠를 생성하는 것이 금지된다.
딥 합성 제공자는 사용자에 대한 실명 확인을 구현하고, 최소 3개월 동안 콘텐츠 생성 활동 로그를 유지하며, 사기나 정치적 조작을 위한 기술 남용을 방지하는 메커니즘을 구축해야 한다. 이러한 규칙은 국내 기업과 중국 내에서 서비스를 제공하는 외국 기업 모두에게 적용되어 국제 AI 개발자에게 규정 준수 부담을 안긴다.
생성형 AI에 대한 임시 조치 (2023)
현재까지 가장 중요한 규정은 2023년 8월 15일에 시행된 "생성형 인공지능 서비스 관리에 관한 임시 조치"이다. 이러한 조치는 CAC, 국가개혁위원회, 과학기술부 및 기타 기관이 공동으로 발표했다. 이는 중국 내 대중에게 콘텐츠를 제공하기 위해 생성형 AI를 사용하는 서비스에 적용되며, 대규모 언어 모델 기반 챗봇, 이미지 생성기 및 기타 도구를 포함한다.
주요 조항은 다음과 같다:
- 콘텐츠 요구 사항: 생성된 콘텐츠는 사회주의 핵심 가치를 준수해야 하며, 국가 권력 전복 선동, 테러, 민족 증오 또는 음란물을 피해야 한다. 제공자는 훈련 데이터가 합법적이고 지적 재산권을 침해하지 않도록 해야 한다.
- 알고리즘 등록: 제공자는 서비스를 대중에게 제공하기 전에 알고리즘과 훈련 데이터를 CAC에 등록해야 한다. 여기에는 보안 평가 및 모델 아키텍처에 대한 세부 정보 제출이 포함된다.
- 사용자 라벨링: AI 생성 콘텐츠는 특히 인간이 만든 콘텐츠로 오인될 수 있는 경우 합성 콘텐츠임을 명확히 표시해야 한다.
- 개인 데이터 보호: 훈련 데이터에는 동의 없이 개인 정보가 포함되어서는 안 되며, 제공자는 PIPL에 따라 사용자 데이터를 보호해야 한다.
- 책임 및 의무: 제공자는 사용자가 명시적으로 요청하지 않은 경우에도 모델이 생성하는 콘텐츠에 대해 법적 책임을 진다. 유해한 출력을 필터링하고 수정하는 메커니즘을 구현해야 한다.
임시 조치는 또한 생성형 AI 서비스가 국가 안보나 공공 질서를 위협할 수 있는 콘텐츠 생성을 방지하도록 설계되어야 한다고 요구한다. 이로 인해 중국 AI 기업들은 규정 준수를 보장하기 위해 인간 검토자와 콘텐츠 필터를 고용하는 등 상당한 자체 검열을 하게 되었다.
범위 및 집행
중국의 AI 규정은 회사 본사 위치와 관계없이 중국 내 사용자에게 AI 서비스를 제공하는 모든 법인에 적용된다. 이러한 역외 적용 범위는 중국 규칙을 준수하거나 중국에서 서비스에 대한 접근을 차단해야 하는 글로벌 AI 개발자에게 영향을 미친다. 집행은 CAC가 수행하며, 경고, 벌금 부과, 서비스 중단 또는 비준수에 대한 라이선스 취소를 명령할 수 있다.
처벌은 위반 사항에 따라 다르다. 경미한 위반의 경우 규제 기관은 시정을 명령하고 최대 100,000위안(약 14,000달러)의 벌금을 부과할 수 있다. 국가 안보와 관련된 위반과 같은 더 심각한 위반은 기존 법률에 따라 형사 책임으로 이어질 수 있다. CAC는 또한 정기 감사를 수행하고 AI 서비스의 실시간 모니터링을 요구할 수 있다.
AI 개발 및 산업에 미치는 영향
이러한 규정은 특히 생성형 AI 분야에서 중국의 AI 개발을 형성했다. 알리바바, 바이두, 텐센트를 포함한 주요 중국 기술 기업은 알리바바의 통이첸원과 바이두의 어니봇과 같은 자체 대규모 언어 모델을 출시했다. 이러한 모델은 임시 조치를 준수하기 위해 내장된 콘텐츠 모더레이션으로 설계되었다. 알고리즘 등록 요구 사항은 제품 출시를 지연시킬 수 있는 관료적 절차를 만들지만, 기업에 일정 수준의 규제 확실성을 제공하기도 한다.
국제 기업의 경우 이러한 규정은 진입 장벽으로 작용한다. 오픈AI 및 앤트로픽과 같은 기업은 규정 준수 부담과 법적 책임 위험 때문에 중국에서 서비스를 제공하지 않는다. 일부 외국 기업은 중국 기업과 파트너십을 맺거나 규제 요구 사항을 충족하기 위해 모델의 현지화 버전을 개발하기로 선택했다.
콘텐츠 통제에 대한 초점은 연구 개발에도 영향을 미쳤다. 중국 AI 연구자들은 종종 서양 기관의 더 개방적인 접근 방식과 다를 수 있는 정부 지침에 대한 안전과 정렬을 우선시한다. 이로 인해 중국에서 상업적으로 실행 가능한 AI 애플리케이션 유형이 다른 지역과 차이가 생겼다.
다른 관할권과의 비교
중국의 접근 방식은 위험 기반 분류와 기본 권리에 중점을 두는 유럽 연합의 AI 법안과 부문별 및 자발적 지침에 의존하는 미국의 접근 방식과 대조적이다. EU가 투명성과 인간 감독에 초점을 맞추는 반면, 중국은 국가 안보와 콘텐츠 모더레이션에 더 중점을 둔다. 미국은 2025년 현재 포괄적인 연방 AI 법률 없이 주로 산업 자율 규제와 행정 명령에 의존해 왔다.
중국의 규정은 또한 다른 많은 국가의 규정보다 더 처방적이다. 알고리즘 등록 및 보안 평가 요구 사항은 독특하며, AI 생성 콘텐츠가 국가 이데올로기에 부합해야 한다는 명시적 의무도 독특하다. 이로 인해 중국은 AI를 통제하려는 다른 권위주의 정부의 모델이 되었지만, 규칙이 표현의 자유와 혁신을 억압한다고 주장하는 인권 단체와 국제 관찰자들의 비판도 받았다.
향후 방향 및 과제
2025년 현재, 중국의 AI 규제 체계는 계속 진화하고 있다. 생성형 AI에 대한 임시 조치는 임시적이며 영구 법률로 대체될 것으로 예상된다. 국무원은 기존 규정을 통합하고 자율 주행 차량, 의료, 군사 응용 분야의 AI와 같은 새로운 문제를 해결할 "인공지능 법"을 작업 중이다. 이 법의 초안 버전이 의견 수렴을 위해 유포되었지만 최종 텍스트는 아직 발표되지 않았다.
오픈 소스 모델에 대한 콘텐츠 규칙 집행의 어려움과 기술 변화의 빠른 속도를 포함한 과제가 남아 있다. 텍스트, 이미지, 비디오를 결합하는 다중 모드 AI의 부상은 새로운 규정을 요구할 수 있다. 또한 AI 개발의 글로벌 특성으로 인해 중국의 규칙이 국제 표준과 충돌하여 다국적 기업에 마찰을 일으킬 수 있다.
이러한 과제에도 불구하고 중국의 규제 접근 방식은 기업의 불확실성을 줄이는 명확한 지침을 제공한다는 점에서 일부에게 칭찬을 받았다. 안보와 안정에 대한 강조는 기술 자립과 사회 통제라는 정부의 더 넓은 목표와 일치한다. AI가 계속 발전함에 따라 중국의 규정은 이 강력한 기술을 어떻게 통치할지 고민하는 다른 국가들에게 참고 자료가 될 가능성이 높다.