중국의 알고리즘 추천 규정, 공식 명칭은 인터넷 정보 서비스 알고리즘 추천 관리 규정으로, 중국 사이버공간관리국(CAC)이 발표한 행정 규칙이며 2022년 3월 1일부터 시행되었다. 이 규정은 기계 학습 및 심층 학습 기술을 포함한 알고리즘 기반 추천 서비스 제공자를 대상으로 하며, 콘텐츠 관리, 사용자 권리, 알고리즘 투명성과 관련된 의무를 부과한다. 이는 인공지능 애플리케이션을 규제하고 인터넷 플랫폼의 행동을 형성하려는 중국의 광범위한 노력의 일환이다.
이 규정은 중국 내에서 대중에게 알고리즘 추천 서비스를 제공하는 모든 기관에 적용되며, 뉴스推送, 검색 결과, 짧은 동영상, 소셜 미디어 피드, 전자상거래 추천 등의 영역을 포함한다. 제공자는 알고리즘을 CAC에 등록하고, 보안 평가를 제출하며, 추천이 사회주의 핵심 가치를 위반하거나 불법 또는 유해 정보를 유포하지 않도록 보장해야 한다. 또한 규정은 사용자에게 알고리즘 추천을 비활성화하거나 사용자 프로필을 삭제할 수 있는 옵션을 제공하고, 해당되는 경우 알고리즘 생성 콘텐츠에 라벨을 부착하도록 요구한다.
배경 및 맥락
이 규정은 여론, 사용자 행동, 사회 안정에 대한 추천 알고리즘의 영향에 대한 우려가 커지는 가운데 등장했다. 중국 당국은 2020년과 2021년에 알고리즘 추천에 관한 지침을 이미 발표했지만, 2022년 규정은 이를 공식적인 규제 체계로 성문화했다. 이 규칙은 중국의 사이버보안법, 데이터 보안법, 개인정보 보호법과 일치하여 디지털 플랫폼을 위한 포괄적인 법적 환경을 조성한다.
중국의 접근 방식은 투명성과 책임성에 초점을 맞춘 유럽연합의 디지털 서비스법, 그리고 주로 자발적인 산업 자율 규제에 의존해 온 미국과 같은 다른 관할권과 대조적이다. 중국 규정은 알고리즘이 국가가 정의한 가치를 준수해야 한다는 명시적 요구와 의무 등록 절차로 주목할 만하다.
주요 조항
등록 및 신고
제공자는 알고리즘의 유형, 목적, 잠재적 위험을 포함한 알고리즘 추천 시스템에 대한 정보를 CAC에 신고해야 한다. 이 신고는 서비스 출시 전 또는 중대한 변경이 있을 때 요구된다. CAC는 신고된 알고리즘의 공개 등록부를 유지하지만, 보안상의 이유로 세부 사항은 종종 삭제된다.
콘텐츠 거버넌스
제공자는 추천 콘텐츠에 분리 독립 요구, 국가 권력 전복, 테러리즘, 외설과 같은 불법 정보가 포함되지 않도록 보장할 책임이 있다. 또한 소문과 허위 정보의 확산을 방지하고, 공공 질서나 사회 도덕을 위반하는 콘텐츠를 식별하고 제거하기 위한 조치를 취해야 한다. 규정은 제공자에게 콘텐츠 검토 메커니즘을 구축하고 조사에서 당국과 협력할 것을 요구한다.
사용자 권리
사용자는 알고리즘이 자신이 보는 콘텐츠에 어떻게 영향을 미치는지 알 권리와 자신의 경험을 통제할 권리가 있다. 제공자는 사용자가 개인화 추천을 끌 수 있는 간단한 방법을 제공하고, 알고리즘 프로파일링에 사용된 개인 데이터를 삭제할 수 있도록 허용해야 한다. 또한 제공자는 명확한 공개 없이 사용자 특성에 기반한 차별적 가격 책정(예: "빅 데이터 가격 차별")을 위해 알고리즘을 사용해서는 안 된다.
알고리즘 투명성
제공자는 추천 알고리즘의 기본 원리와 논리를 평이한 언어로 설명해야 한다. 여기에는 사용자 행동, 관심사, 위치와 같은 추천에 영향을 미치는 주요 요소를 공개하는 것이 포함된다. 규정은 또한 준수를 보장하기 위해 정기적인 감사와 평가를 요구하며, 제공자는 CAC에 연례 보고서를 제출해야 한다.
민감 영역에 대한 특별 규칙
뉴스 및 정보 전파에 사용되는 알고리즘의 경우, 제공자는 뉴스 라이선스를 취득하고 추천이 권위 있는 출처를 우선시하도록 보장해야 한다. 소셜 미디어에 사용되는 알고리즘의 경우, 제공자는 사용자를 다양한 관점에서 고립시키는 "정보 고치"의 생성을 방지해야 한다. 전자상거래에 사용되는 알고리즘의 경우, 제공자는 가격을 조작하거나 불공정 경쟁에 관여하기 위해 알고리즘을 사용해서는 안 된다.
집행 및 영향
집행은 CAC와 지역 사이버공간 관리 사무소에 의해 수행된다. 위반에 대한 처벌에는 경고, 벌금, 서비스 중단, 라이선스 취소가 포함된다. 심각한 경우, 제공자는 추천 시스템 전체를 폐쇄하라는 명령을 받을 수 있다. 규정이 시행된 이후, CAC는 여러 차례 검사를 실시했으며 여러 기업을 공개적으로 지목하고 벌금을 부과했다.
이 규정은 중국에서 운영되는 국내외 기술 기업 모두에게 상당한 영향을 미쳤다. 알리바바 클라우드, 알리바바 다먀오 아카데미와 같은 주요 플랫폼은 준수하기 위해 알고리즘과 사용자 인터페이스를 조정해야 했다. 일부 기업은 "싫어요" 버튼과 "관심 없음" 옵션을 도입했고, 다른 기업은 특정 콘텐츠가 추천되는 이유에 대한 설명을 추가했다.
다른 규정과의 관계
알고리즘 추천 규정은 중국의 알고리즘 및 AI 규제를 위한 광범위한 규제 체계의 일부이다. 2023년, 중국은 생성형 AI 시스템과 같은 대규모 언어 모델에 적용되는 생성형 인공지능 서비스 관리에 관한 잠정 조치를 발표했다. 2022년 규정은 추천 시스템에 초점을 맞추고, 2023년 규칙은 콘텐츠 생성을 다루며 이러한 조치를 보완한다. 함께, 이는 AI 거버넌스에 대한 계층적 접근 방식을 만든다.
글로벌 영향 및 비교
중국 규정은 다른 국가의 정책 논의에 영향을 미쳤다. 예를 들어, 2021년에 제안되고 2024년에 채택된 EU의 AI 법은 AI 시스템에 대한 투명성과 위험 관리에 관한 조항을 포함하지만, 등록이나 가치 정렬을 의무화하지는 않는다. 중국 모델은 알고리즘 영향력을 통제하기 위한 템플릿으로 간주하는 동남아시아와 중동의 규제 기관에 의해 연구되어 왔다.
비판 및 과제
비평가들은 규정이 지나치게 광범위하며 정부에 온라인 발언에 대한 과도한 통제권을 부여한다고 주장한다. 일부 업계 관찰자들은 등록 절차가 불투명하고 "사회주의 핵심 가치"와의 정렬 요구가 모호하여 플랫폼의 자기 검열로 이어진다고 지적한다. 다른 이들은 규정이 소규모 기업에 준수 비용을 부과함으로써 혁신을 저해할 수 있다고 지적한다.
이러한 비판에도 불구하고, 이 규정은 사용자 주체성을 증진하고 알고리즘 편향 및 필터 버블과 같은 문제를 해결한다는 점에서 일부에게 찬사를 받았다. 비개인화 옵션을 제공해야 하는 요구는 사용자 자율성에 대한 긍정적인 단계로 간주된다.
향후 발전
2025년 현재, CAC는 생성형 AI와 딥페이크가 제기하는 새로운 과제를 해결하기 위해 규정을 업데이트할 것이라고 시사했다. 제안된 수정안은 제공자가 AI 생성 콘텐츠에 더 눈에 띄게 라벨을 부착하고 오용에 대한 더 강력한 보호 장치를 구현하도록 요구할 것이다. 이러한 규칙의 진화는 AI 규제에 대한 글로벌 대화를 계속 형성할 가능성이 높다.
결론
중국의 알고리즘 추천 규정은 불투명한 알고리즘 추천 세계를 규제하려는 선구적인 시도를 대표한다. 등록, 투명성, 사용자 통제 요구 사항을 부과함으로써, 이 규칙은 혁신과 사회 안정 사이의 균형을 목표로 한다. 시행에는 어려움이 있었지만, 이 규정은 AI 기반 콘텐츠 유통의 사회적 영향에 대처하는 다른 국가들에게 선례를 세웠다.