中国のアルゴリズム推薦規制、正式名称は「インターネット情報サービスアルゴリズム推薦管理規定」であり、中国国家インターネット情報弁公室（CAC）が発行した行政規則で、2022年3月1日に施行された。この規制は、Machine learningやDeep learning技術を使用するものを含む、アルゴリズムベースの推薦サービスを提供する事業者を対象とし、コンテンツ管理、ユーザー権利、アルゴリズムの透明性に関連する義務を課す。これは、中国がArtificial intelligenceアプリケーションを規制し、インターネットプラットフォームの行動を形成するための広範な取り組みの一部である。
この規制は、中国国内で一般向けにアルゴリズム推薦サービスを提供するすべての事業者に適用され、ニュース配信、検索結果、ショート動画、ソーシャルメディアフィード、電子商取引の推薦などの分野をカバーする。事業者は、アルゴリズムをCACに登録し、セキュリティ評価を受け、推薦が社会主義の中核的価値観に違反したり、違法または有害な情報を拡散したりしないことを保証する必要がある。また、ユーザーにアルゴリズム推薦を無効化するオプションやユーザープロフィールを削除するオプションを提供し、該当する場合はアルゴリズム生成コンテンツにラベルを付けることも義務付けられている。
背景と文脈
この規制は、推薦アルゴリズムが世論、ユーザー行動、社会の安定に与える影響に対する懸念が高まる中で生まれた。中国当局は2020年と2021年にアルゴリズム推薦に関するガイドラインを発行していたが、2022年の規定はこれらを正式な規制枠組みに成文化した。この規則は、中国のサイバーセキュリティ法、データセキュリティ法、個人情報保護法と整合し、デジタルプラットフォームのための包括的な法的環境を創り出している。
中国のアプローチは、透明性と説明責任に焦点を当てた欧州連合のデジタルサービス法や、主に自主的な業界自主規制に依存してきた米国など、他の法域とは対照的である。中国の規制は、アルゴリズムが国家が定義した価値観に従うことを明示的に要求し、強制的な登録プロセスを設けている点で注目に値する。
主要な規定
登録と届出
事業者は、アルゴリズムの種類、目的、潜在的なリスクを含む、アルゴリズム推薦システムに関する情報をCACに届け出る必要がある。この届出は、サービス開始前または重要な変更が行われた際に必要となる。CACは届出済みアルゴリズムの公開台帳を維持しているが、詳細はセキュリティ上の理由でしばしば編集される。
コンテンツガバナンス
事業者は、推薦されるコンテンツに、分離独立の呼びかけ、国家権力の転覆、テロリズム、わいせつ物などの違法情報が含まれないことを保証する責任がある。また、噂や虚偽情報の拡散を防ぎ、公序良俗や社会道徳に違反するコンテンツを特定して削除する措置を講じる必要がある。この規制は、事業者にコンテンツ審査メカニズムの確立と当局の調査への協力を義務付けている。
ユーザー権利
ユーザーは、アルゴリズムが自分が見るコンテンツにどのように影響するかを知り、自分の体験を制御する権利がある。事業者は、パーソナライズされた推薦をオフにする簡単な方法を提供し、アルゴリズムプロファイリングに使用される個人データをユーザーが削除できるようにする必要がある。さらに、事業者は、明確な開示なしにユーザーの特性に基づく差別価格設定（例えば「ビッグデータ価格差別」）にアルゴリズムを使用してはならない。
アルゴリズムの透明性
事業者は、推薦アルゴリズムの基本原則とロジックを平易な言葉で説明する必要がある。これには、ユーザーの行動、興味、位置情報など、推薦に影響を与える主な要因の開示が含まれる。この規制はまた、コンプライアンスを確保するための定期的な監査と評価を要求し、事業者はCACに年次報告書を提出する必要がある。
機密分野に関する特別規則
ニュースや情報発信に使用されるアルゴリズムについては、事業者はニュースライセンスを取得し、推薦が権威ある情報源を優先することを保証する必要がある。ソーシャルメディアに使用されるアルゴリズムについては、事業者はユーザーを多様な視点から隔離する「情報の繭」の作成を防ぐ必要がある。電子商取引に使用されるアルゴリズムについては、事業者は価格を操作したり、不公平な競争に従事したりするためにアルゴリズムを使用してはならない。
執行と影響
執行はCACと地方のサイバー空間管理局事務所によって行われる。違反に対する罰則には、警告、罰金、サービスの停止、ライセンスの取り消しが含まれる。深刻な場合、事業者は推薦システム全体を停止するよう命じられることがある。規制が施行されて以来、CACは複数回の検査を実施し、コンプライアンス違反でいくつかの企業を公に指名し罰金を科している。
この規制は、中国で事業を展開する国内外のテクノロジー企業に大きな影響を与えている。Alibaba Cloud、Alibaba DAMO Academyなどの主要プラットフォームは、コンプライアンスを確保するためにアルゴリズムとユーザーインターフェースを調整する必要があった。一部の企業は「嫌い」ボタンや「興味がない」オプションを導入し、他の企業は特定のコンテンツが推薦される理由の説明を追加した。
他の規制との関係
アルゴリズム推薦規制は、中国におけるアルゴリズムとAIのための広範な規制枠組みの一部である。2023年、中国はGenerative AIシステムやLarge language modelに適用される生成人工知能サービス管理暫定措置を発行した。2022年の規制は推薦システムに焦点を当て、2023年の規則はコンテンツ生成に対処することで、これらを補完している。一緒に、これらはAIガバナンスへの階層的アプローチを創り出している。
世界的な影響と比較
中国の規制は、他の国の政策議論に影響を与えている。例えば、2021年に提案され2024年に採択されたEUのAI法は、AIシステムの透明性とリスク管理に関する規定を含んでいるが、登録や価値観の整合性は義務付けていない。中国のモデルは、アルゴリズムの影響を制御するためのテンプレートと見なす東南アジアや中東の規制当局によって研究されている。
批判と課題
批評家は、この規制が過度に広範であり、政府にオンラインスピーチに対する過剰な統制を与えると主張している。一部の業界オブザーバーは、登録プロセスが不透明であり、「社会主義の中核的価値観」に整合するという要件が曖昧で、プラットフォームによる自己検閲につながると指摘している。他の人々は、この規制が小規模企業にコンプライアンスコストを課すことでイノベーションを阻害する可能性があると指摘している。
これらの批判にもかかわらず、この規制は、ユーザーの主体性を促進し、アルゴリズムバイアスやフィルターバブルのような問題に対処するとして、一部から賞賛されている。非パーソナライズされたオプションを提供する要件は、ユーザーの自律性にとって前向きなステップと見なされている。
今後の展開
2025年現在、CACは生成AIとディープフェイクによってもたらされる新たな課題に対処するために規制を更新する意向を示している。提案された修正案は、事業者にAI生成コンテンツのラベルをより目立つように付け、誤用に対するより強力な保護措置を実装することを要求するだろう。これらの規則の進化は、AI規制に関する世界的な議論を形成し続ける可能性が高い。
結論
中国のアルゴリズム推薦規制は、不透明なアルゴリズム推薦の世界を統治する先駆的な試みを表している。登録、透明性、ユーザー制御の要件を課すことで、この規則はイノベーションと社会の安定のバランスを取ることを目指している。実施には課題があったものの、この規制はAI駆動のコンテンツ配信の社会的影響に取り組む他の国々に先例を設定している。