EU AI 책임 지침은 인공지능 시스템으로 인해 발생한 손해에 대한 민사 책임 규칙을 조화시키기 위해 설계된 유럽연합의 제안된 법적 수단입니다. 2022년 9월 28일 유럽위원회가 도입한 이 지침은 특히 자율적 또는 반자율적 행동을 하는 AI 시스템이 개인이나 기업에 피해를 입힐 때 발생하는 법적 공백을 해결하는 것을 목표로 합니다. 이는 세계 최초의 포괄적인 AI 규제 프레임워크인 AI 법을 포함하는 더 넓은 EU 디지털 전략의 일부입니다. AI 법이 위험 기반 요구 사항을 통해 피해를 예방하는 데 초점을 맞추는 반면, EU AI 책임 지침은 피해 발생 후 보상에 초점을 맞추어 피해자가 효과적으로 구제를 받을 수 있도록 보장합니다.
이 제안은 AI가 제기하는 독특한 도전, 즉 머신 러닝 모델의 불투명성으로 인해 오작동의 특정 원인을 식별하기 어렵게 만드는 '블랙 박스' 문제에 대응합니다. 종종 청구인이 과실이나 결함을 증명해야 하는 전통적인 책임 규칙은 딥 러닝과 신경망을 통해 진화할 수 있는 AI 시스템에는 적합하지 않습니다. 이 지침은 모든 EU 회원국에 걸쳐 균일한 법적 프레임워크를 만들어 현재 국가 책임 법률에 존재하는 분열을 줄이고 소비자와 기업 모두에게 법적 확실성을 제공하고자 합니다.
배경 및 입법 맥락
EU AI 책임 지침은 2020년 디지털 시대 패키지의 일부인 개정된 제품 책임 지침과 함께 제안되었습니다. 위원회의 영향 평가는 기존 국가 책임 제도가 AI 관련 피해에 대해 부적절하여 EU 전역에서 일관되지 않은 결과를 초래한다고 식별했습니다. 이 지침은 2024년에 채택된 AI 법을 보완하여 AI 법이 다루지 않는 민사 책임 측면을 해결하도록 설계되었습니다. AI 법은 고위험 AI 시스템에 대한 투명성 및 인간 감독 의무를 포함한 규칙을 설정하지만 피해자가 보상을 청구할 수 있는 메커니즘을 제공하지 않습니다. EU AI 책임 지침은 이 공백을 메웁니다.
이 제안은 광범위한 협의와 협상을 거쳤습니다. 유럽의회와 유럽연합 이사회는 공동 입법자이며, 2025년 현재 이 지침은 여전히 입법 과정에 있습니다. 의회의 법무위원회는 더 넓은 범위와 AI 개발자 및 배포자의 책임에 대한 더 명시적인 조항을 포함한 수정안을 제안했습니다. 이사회는 전반적인 접근 방식을 지지했지만 '고위험' AI의 정의와 제품 책임 지침과의 상호 작용에 대한 명확화를 요청했습니다.
지침의 주요 조항
EU AI 책임 지침은 피해자의 입증 책임을 완화하기 위한 두 가지 주요 법적 메커니즘을 도입합니다. 첫째, 인과 관계 추정을 설정합니다. 청구인이 피고의 과실(예: AI 법 요구 사항 미준수)이 피해의 가능한 원인임을 입증할 수 있는 경우, 법원은 피고가 반증하지 않는 한 그 과실이 피해를 초래했다고 추정할 수 있습니다. 이 추정은 인과 관계를 확립하기 어려운 복잡한 AI 시스템을 포함하는 경우에 특히 중요합니다. 둘째, 지침은 기밀성 및 영업 비밀 보호를 조건으로 훈련 데이터 및 알고리즘 로그를 포함한 AI 시스템에 대한 관련 증거 공개를 명령할 수 있는 권한을 법원에 부여합니다.
이 지침은 공급자(AI 시스템을 개발하거나 제조하는 주체)와 배포자(전문적 자격으로 AI 시스템을 사용하는 주체) 모두에게 적용됩니다. 공급자는 AI 시스템 자체의 결함에 대해 책임이 있으며, 배포자는 부적절한 사용 또는 시스템 유지 관리 실패에 대해 책임이 있을 수 있습니다. 이 지침은 엄격 책임 제도를 만들지 않으며 과실 기반 접근 방식을 유지하지만 특정 상황에서 증거 부담을 전환합니다. 이는 종종 결함 증명을 요구하는 전통적인 제품 책임과의 중요한 차이입니다.
범위 및 정의
이 지침은 AI 법에 따라 'AI 시스템'을 정의하며 대규모 언어 모델, 생성형 AI, 트랜스포머를 포함한 광범위한 기술을 다룹니다. 재산 손상, 경제적 손실, 차별 또는 개인 정보 침해와 같은 비물질적 피해를 포함한 물리적 및 디지털 피해 모두에 적용됩니다. 그러나 지침은 계약 분쟁 및 핵 손상 또는 특정 국제 협약이 적용되는 기타 영역에서 발생하는 청구를 제외합니다.
지침은 AI 법에 정의된 '고위험' AI 시스템과 기타 AI 시스템을 구분합니다. 고위험 시스템의 경우 인과 관계 추정이 더 광범위하게 적용되어 더 높은 피해 가능성을 반영합니다. 비고위험 시스템의 경우 청구인은 추정을 촉발하기 위해 더 많은 증거를 제공해야 합니다. 지침은 또한 공급자가 해당 구성 요소를 AI 시스템에 통합한 경우 제3자 구성 요소로 인한 피해에 대해 공급자에게 청구할 수 있도록 하는 '관통' 조항을 포함합니다.
기업 및 소비자에 미치는 영향
기업의 경우 EU AI 책임 지침은 새로운 규정 준수 비용과 잠재적 법적 노출을 도입합니다. 자율 주행 차량 또는 수술 로봇과 같은 AI 시스템을 배포하는 기업은 적절한 기록을 유지하고 증거 공개 명령에 대응할 수 있도록 해야 합니다. 지침은 설명 가능성을 개선하는 모델 가지치기 및 기타 기술의 사용을 장려하며, 이는 책임 위험을 줄일 수 있습니다. 중소기업(SME)의 경우 위원회는 AI 법 요구 사항을 준수하는 AI 시스템에 대한 '안전 항구'를 제안하여 책임을 중대한 과실 사례로 제한했습니다.
소비자의 경우 지침은 공정한 경쟁의 장을 마련하는 것을 목표로 합니다. 법원이 종종 대형 기술 기업이 보유한 AI 시스템 데이터에 접근할 수 있도록 함으로써 '블랙 박스' 장벽을 제거합니다. 이는 테슬라의 오토파일럿 또는 딥마인드의 의료 알고리즘을 포함하는 사례에 특히 관련이 있습니다. 지침은 또한 배포자의 책임이 계약 조건으로 배제될 수 없음을 명확히 하여 AI 기반 서비스를 사용하는 소비자를 보호합니다.
제품 책임 지침과의 관계
EU AI 책임 지침은 2022년에 제안되고 2024년에 채택된 개정된 제품 책임 지침과 함께 운영됩니다. 제품 책임 지침은 소프트웨어를 포함한 결함 제품을 다루며 제조업체에 엄격 책임을 부과합니다. 대조적으로 EU AI 책임 지침은 서비스 또는 여러 AI 시스템 간의 상호 작용으로 인한 피해를 포함한 더 넓은 AI 관련 피해를 다룹니다. 두 지침은 보완적으로 설계되었습니다. 제품 책임 지침은 결함 제품이 피해를 초래할 때 적용되고, EU AI 책임 지침은 제품 결함이 식별되지 않더라도 AI 시스템 운영에서 피해가 발생할 때 적용됩니다.
실제로 피해자는 두 지침 모두에 따라 청구할 수 있습니다. 예를 들어 휴머노이드 로봇이 소프트웨어 버그로 인해 오작동하는 경우 피해자는 제품 책임 지침에 따라 제조업체를, EU AI 책임 지침에 따라 배포자를 고소할 수 있습니다. 지침에는 이중 보상을 방지하고 가장 적절한 피고가 책임을 지도록 보장하기 위한 조정 조항이 포함되어 있습니다.
비판 및 논쟁
EU AI 책임 지침은 다양한 이해 관계자로부터 비판을 받았습니다. OpenAI 및 Anthropic을 포함한 기술 기업은 인과 관계 추정이 AI 개발자를 고소하기 너무 쉽게 만들어 혁신을 억제할 수 있다고 주장했습니다. 그들은 '블랙 박스' 문제가 AI에만 고유한 것이 아니며 기존 책임 규칙으로 충분하다고 주장합니다. 일부 법학자들은 특히 피해가 여러 요인의 조합으로 발생할 때 인과 관계 추정이 실제로 적용하기 어려울 수 있다고 지적하며 지침의 효과에 의문을 제기했습니다.
반면 소비자 옹호 단체는 지침을 환영하지만 충분하지 않다고 주장합니다. 그들은 결함 제품에 대한 책임과 유사한 고위험 AI에 대한 엄격 책임 제도를 요구했습니다. 유럽의회는 '피해'의 더 넓은 정의와 더 긴 소멸 시효 기간을 포함한 지침을 강화하기 위한 수정안을 제안했습니다. 이사회는 과도한 규제를 피하고 영업 비밀을 보호해야 할 필요성을 강조하며 더 신중한 입장을 취했습니다.
현재 상태 및 다음 단계
2025년 현재 EU AI 책임 지침은 여전히 협상 중입니다. 유럽의회는 2024년에 입장을 채택했으며 이사회는 2025년에 입장을 채택할 것으로 예상됩니다. 두 기관이 공통 입장에 도달하면 지침이 공식적으로 채택되고 회원국이 국가 법률로 전환할 것이며, 이는 2년 이내에 이루어질 가능성이 높습니다. 지침은 전환 날짜 이후 시장에 출시된 AI 시스템에 적용되며 기존 시스템에는 전환 기간이 제공됩니다.
최종 텍스트는 공동 입법자가 혁신과 소비자 보호의 균형을 추구함에 따라 원래 제안과 크게 다를 수 있습니다. 이 지침은 AI 법 및 개정된 제품 책임 지침과 함께 신뢰할 수 있는 AI의 글로벌 리더가 되려는 EU의 야망의 핵심 구성 요소입니다. 그 성공은 AI 관련 피해에서 인과 관계를 입증하는 실질적인 도전을 얼마나 효과적으로 해결하는지에 달려 있습니다.
결론
EU AI 책임 지침은 인공지능 시대에 민사 책임 규칙을 적응시키려는 선구적인 시도를 나타냅니다. 인과 관계 추정과 증거 공개 메커니즘을 도입함으로써 AI 개발자에게 과도한 부담을 주지 않으면서 과실 기반 접근 방식을 유지하면서 피해자가 보상을 받기 쉽게 만드는 것을 목표로 합니다. 이 지침은 논란의 여지가 없지는 않지만 AI가 제기하는 독특한 위험에 대해 기존 법적 프레임워크가 부적절하다는 인식이 커지고 있음을 반영합니다. 입법 과정이 계속됨에 따라 이 지침은 AI 책임 문제를 해결하고 있는 미국과 일본을 포함한 다른 관할권의 모델이 될 가능성이 높습니다.