EU AI 책임 지침은 2022년 9월 28일 유럽 위원회가 제안한 법적 문서로, 인공지능 시스템으로 인해 발생한 손해에 대한 민사 책임 규칙을 유럽 연합 전역에서 조화시키는 것을 목표로 한다. 이 지침은 AI 시스템 요구 사항 규제에 초점을 맞춘 EU AI 법을 보완하여, AI 시스템이 피해를 초래했을 때 누가 법적 책임을 지는지에 대한 문제를 다룬다. 이는 무과실 책임 체계를 만들지 않고, AI 관련 청구에서 피해자의 입증 책임을 완화하기 위해 절차적 규칙을 조정한다.
이 제안은 AI 시스템으로 피해를 입은 개인이 현실적인 보상 경로를 확보하도록 보장함으로써 AI에 대한 신뢰를 구축하려는 위원회의 광범위한 디지털 전략의 일부이다. 이 지침은 계약 및 비계약 책임 청구 모두에 적용되며, 의료 기기에서 자율 주행 차량에 이르기까지 다양한 AI 응용 분야를 포괄한다. 이는 제품 책임 규칙과 같은 기존 국가 책임 체계와 함께 작동하도록 설계되었으며, 이를 완전히 대체하지는 않는다.
배경 및 입법 맥락
유럽 연합은 2010년대 후반부터 AI에 대한 포괄적인 규제 체계를 개발해 왔다. 2021년 4월에 처음 제안된 AI 법은 투명성 및 인간 감독 의무를 포함한 AI 시스템에 대한 위험 기반 요구 사항을 확립한다. 그러나 AI 법은 민사 책임을 다루지 않는다 - AI 시스템이 어떻게 구축되고 사용되어야 하는지에 대한 규칙을 설정하지만, 이로 인해 발생한 피해에 대해 누가 배상하는지는 규정하지 않는다. EU AI 책임 지침은 회원국 간 책임 청구에 대한 조화된 접근 방식을 만들어 이 공백을 메운다.
이 지침은 2020년 유럽 의회 결의안에 따라 개발되었으며, 이 결의안은 AI에 대한 현대적 책임 체계를 요구했다. 위원회는 영향 평가를 실시하여 기존 국가 법률의 상당한 공백을 확인했으며, 이로 인해 AI 시스템이 관련된 경우 피해자가 인과 관계를 입증하지 못하는 경우가 많았다. 이 제안은 또한 불투명한 의사 결정 과정으로 인해 전통적인 법적 청구가 어려운 중요한 분야에서 Machine learning 시스템의 배포 증가에 대응한다.
입법 과정은 제안이 발표된 이후 계속 진행 중이다. 유럽 의회의 법률 위원회가 텍스트를 검토 중이며, 협상은 2024년과 2025년까지 계속될 것으로 예상된다. 이 지침은 AI 법과 밀접하게 연관되어 있으며, 최종 형태는 병행 협상 결과에 따라 달라질 것이다.
주요 조항
이 지침은 AI 책임의 문제를 해결하기 위해 두 가지 주요 메커니즘을 도입한다. 첫째, 청구인이 AI 시스템의 과실이 피해를 초래했음을 입증할 수 있는 경우 인과 관계에 대한 반증 가능한 추정을 만든다. 이 추정은 청구인이 피고가 AI 법에 따른 의무와 같은 법적 의무를 준수하지 않았고 피해가 해당 위반의 그럴듯한 결과임을 입증할 때 적용된다. 피고는 피해가 다른 요인에 의해 발생했음을 입증하여 추정을 반박할 수 있다.
둘째, 이 지침은 청구인에게 AI 시스템 제공자 또는 사용자로부터 관련 증거 공개를 요청할 권리를 부여한다. 이 권리는 청구에 필요하고 비례적인 범위로 제한되며, 영업 비밀 및 기밀 정보를 보호한다. 법원은 청구인이 자신의 주장의 그럴듯함을 뒷받침할 충분한 사실을 제시한 경우에만 공개를 명령할 수 있다. 증거에는 훈련 데이터, 모델 매개변수 및 시스템 로그가 포함될 수 있으며, 이는 인과 관계를 확립하는 데 종종 필수적이다.
이 지침은 또한 AI 가치 사슬에서 다양한 행위자의 책임을 명확히 한다. AI 시스템의 제공자, 이를 배포하는 사용자, 특정 경우의 수입업자 또는 유통업자를 구분한다. 인과 관계 추정은 시스템의 관련 측면을 통제한 사람에 따라 이러한 당사자 중 누구에게나 적용될 수 있다. 고위험 AI 시스템의 경우, 이 지침은 AI 법의 의무와 일치하므로 해당 의무를 준수하지 않으면 추정이 촉발될 수 있다.
범위 및 제외
이 지침은 신체적 피해, 재산 피해 및 경제적 손실을 포함하여 AI 시스템으로 인한 손해 청구에 적용된다. 이는 고의 및 과실 행위를 모두 포함하지만 무과실 책임을 만들지는 않는다 - 청구인은 여전히 과실 또는 법적 위반을 입증해야 한다. 이 제안은 핵 손해, 국가 자동차 보험 제도가 적용되는 교통 사고 및 특정 EU 법률에 의해 이미 규제되는 기타 영역에서 발생하는 청구를 명시적으로 제외한다.
이 지침은 예측, 권장 사항 또는 결정과 같은 출력을 생성할 수 있는 소프트웨어를 포함하는 AI 법에 정의된 AI 시스템에 적용된다. 이 정의는 Generative AI 모델 및 Large language model 시스템을 포함한 광범위한 기술을 포괄한다. 그러나 이 지침은 EU의 권한 밖에 있는 군사, 국가 안보 또는 공공 안보 목적으로만 사용되는 AI 시스템에는 적용되지 않는다.
이 제안은 또한 청구인이 피해와 인과 관계를 인지했거나 인지했어야 한 날부터 시작하여 청구 제기 기간을 3년으로 설정한다. 이는 EU 회원국의 일반적인 관행과 일치하지만 연합 전역에 균일한 기준을 제공한다.
제품 책임 지침과의 관계
EU AI 책임 지침은 병행하여 개정된 기존 제품 책임 지침과 함께 작동한다. 제품 책임 지침은 소프트웨어를 포함한 결함 제품에 대한 청구를 무과실 책임 체계로 다룬다 - 청구인은 과실을 입증할 필요 없이 제품에 결함이 있고 피해를 초래했음을 입증하기만 하면 된다. EU AI 책임 지침은 제품 자체의 결함이 아닌 AI 시스템 사용으로 인해 피해가 발생하는 경우를 다루어 이를 보완한다.
예를 들어, AI 기반 의료 기기가 제조 결함으로 인해 오작동하는 경우 제품 책임 지침이 적용된다. 편향된 의사 결정과 같은 AI 시스템의 훈련 또는 사용 방식으로 인해 피해가 발생하는 경우 EU AI 책임 지침이 적용될 수 있다. 두 지침은 상호 배타적으로 설계되었으며, EU AI 책임 지침은 제품 책임 지침이 적용되지 않는 경우에만 적용된다.
위원회는 EU AI 책임 지침이 국가 책임 법의 기본 원칙을 변경하지 않는다고 강조했다. 이는 과실의 정의나 손해 배상 계산을 조화시키지 않으며, 이는 회원국 법률에 따라 규율된다. 대신 AI 관련 사건에서 피해자가 사법 접근을 용이하게 하는 절차적 규칙에 초점을 맞춘다.
AI 개발자 및 배포자에 대한 영향
이 지침은 특히 증거 보존 및 문서화와 관련하여 AI 시스템 제공자와 사용자에게 새로운 의무를 부과한다. 제공자는 시스템 설계, 훈련 데이터 및 운영 매개변수에 대한 정보를 포함하여 법적 절차에 사용할 수 있는 기록을 유지해야 한다. 이 요구 사항은 AI 법의 문서화 의무와 일치하지만 책임 특정 차원을 추가한다.
AI 개발자의 경우, 이 지침은 강력한 테스트 및 모니터링 프로세스를 구현할 인센티브를 만든다. 인과 관계 추정은 AI 법 요구 사항을 준수하지 않으면 입증 책임이 피고에게 전환되어 청구인이 성공하기 쉬워진다는 것을 의미한다. 이는 시스템 투명성을 개선하는 Model Pruning 및 기타 기술의 채택과 편향을 줄이기 위한 더 엄격한 Data Augmentation 관행을 장려할 수 있다.
이 지침은 또한 운영에서 AI 시스템을 배포하는 기업을 포함한 AI 사용자에게 영향을 미친다. 사용자는 시스템을 적절히 감독하지 않거나 법적 의무를 위반하는 방식으로 사용하는 경우 책임을 질 수 있다. 이 지침은 인간 감독 메커니즘 및 사고 보고 절차를 포함한 AI 배포에 대한 명확한 정책을 유지하도록 사용자를 장려한다.
비판 및 논쟁
이 제안은 이해 관계자들 사이에서 상당한 논쟁을 불러일으켰다. 소비자 단체는 피해자 보호를 위한 단계로 지침을 환영하지만 충분하지 않다고 주장한다. 일부는 고위험 AI 시스템에 대한 무과실 책임 체계를 요구하며, 이는 과실 입증 필요성을 완전히 제거할 것이다. 위원회는 혁신을 억제하고 AI 개발자에게 과도한 비용을 부과할 것이라고 주장하며 이 접근 방식을 거부했다.
산업계는 특히 영업 비밀과 관련된 증거 공개 부담에 대한 우려를 표명했다. 이 지침은 법원 감독 및 기밀 유지 조치와 같은 보호 장치를 포함하지만, 일부 기업은 독점 정보 노출 위험이 여전히 너무 높다고 주장한다. 최종 텍스트에는 AI 제공자가 요약 형식으로 증거를 제출할 수 있도록 허용하는 것과 같은 추가 보호 장치가 포함될 수 있다.
법률 학자들은 또한 많은 회원국의 전통적인 불법 행위 법에서 벗어난 인과 관계 추정에 대해 논쟁해 왔다. 일부는 추정이 너무 광범위하여 경솔한 청구로 이어질 수 있다고 주장하는 반면, 다른 일부는 AI 시스템의 "블랙 박스" 문제를 해결하는 데 필요하다고 주장한다. 유럽 의회는 추정의 범위를 명확히 하고 고위험 AI 시스템에만 적용되도록 보장하는 수정안을 제안했다.
현재 상태 및 다음 단계
2024년 현재, EU AI 책임 지침은 여전히 협상 중이다. 유럽 의회와 유럽 연합 이사회는 각자의 입장을 작업 중이며, 두 기관이 수정안에 합의하면 3자 회의 논의가 시작될 것으로 예상된다. 이 지침은 2024년 3월에 채택된 AI 법과 밀접하게 연관되어 있으며, 최종 책임 규칙은 AI 법의 요구 사항과 일치해야 한다.
위원회는 지침이 채택 후 2년 이내에 국가 법률로 전환되어야 한다고 밝혔다. 이 일정은 최종 입법 일정에 따라 대부분의 회원국에서 2026년 또는 2027년까지 지침을 발효시킬 것이다. 위원회는 또한 지침의 이행을 모니터링하고 경험에 기반한 개정을 제안할 것을 약속했다.
이 지침은 AI 책임 규제에 대한 광범위한 글로벌 추세의 일부이다. 미국과 중국을 포함한 다른 관할권은 자체적인 AI 책임 접근 방식을 개발 중이다. EU의 체계는 특히 증거 공개 및 인과 관계 추정 영역에서 이러한 노력에 영향을 미칠 가능성이 높다. 따라서 입법 과정의 결과는 유럽 연합을 넘어 AI 책임에 대한 글로벌 표준을 형성하는 데 영향을 미칠 것이다.