구글 AI 원칙은 2018년 6월에 발표된 윤리 지침으로, 회사의 인공지능 연구, 개발, 배포를 규율한다. 이 원칙은 CEO 순다르 피차이가 블로그 게시물에서 도입했으며, 구글이 AI 작업에서 약속하는 일곱 가지 목표와 추구하지 않을 응용 분야를 설명한다. 이 지침은 알고리즘 편향, 개인정보 보호, 자율 시스템의 잠재적 오용에 대한 우려를 포함한 AI 윤리에 대한 공개 논쟁이 커지는 가운데 등장했다.
그 원칙들은 내부 논의와 직원들 및 시민 사회 단체들의 피드백을 포함한 외부 의견에 의해 형성되었다. 그들은 프로젝트 마벤(Project Maven)과 같은 내부 논쟁을 따랐는데, 이는 미국 국방부의 드론 영상 분석 프로그램으로, 직원 항의와 여러 연구자의 사임으로 이어졌다. 그 원칙들은 혁신과 책임을 균형 있게 하는 윤리적 의사 결정을 위한 체계를 제공하는 것을 목표로 한다.
핵심 목표
구글 AI 원칙은 일곱 가지 주요 목표를 나열한다. 첫째, AI는 사회적으로 이로워야 하며, 사람들의 삶을 개선하고 의료, 교육, 지속 가능성과 같은 도전 과제를 해결하는 것을 목표로 한다. 둘째, AI는 공정성을 보장하고 차별적 결과를 완화하기 위한 노력으로, 부당한 편향을 만들거나 강화하지 않아야 한다. 셋째, AI는 안전을 위해 구축 및 테스트되어야 하며, 안정적인 설계와 위험 평가를 포함한다. 넷째, AI는 피드백 기회와 인간 감독을 통해 사람들에게 책임이 있어야 한다. 다섯째, AI는 개인정보 설계 원칙을 통합하여 사용자에게 데이터에 대한 투명성과 통제를 제공해야 한다. 여섯째, AI는 엄격한 테스트와 검토를 포함한 뛰어난 과학적 수준을 유지해야 한다. 일곱째, AI는 이러한 원칙에 부합하는 용도로 제공되어, 맥락과 잠재적 피해를 고려해야 한다.
추구하지 않는 응용 분야
그 원칙들은 또한 구글이 설계하거나 배포하지 않을 분야도 명시한다. 여기에는 전반적 피해를 일으키거나 일으킬 가능이 있는 기술, 부상을 용이하게 하거나 그 목적으로 하는 무기 또는 기타 기술, 국제적으로 인정된 규범을 위반하는 감시를 위해 정보를 수집하거나 사용하는 기술, 그리고 국별 권위와 인권의 국제 법원의 널리 인정된 원리를 위반하는 목적을 가진 기술이 포함된다. 이 섹션은 자율 무기에 대한 입장으로 특히주목할 만했지만, 모든 군사 응용을 위법한 금지는 아니다.
거버넌스 및 구현
원칙을 운영하기 위해 구글은 고용된 팀과 자문 위원회를 포함한 AI 윤리 검토 프로세스를 설립했다. 회사는 원칙을 적용하는 방법을 사례 연구와 지표를 포함한 매년 보고서를 발행한다. 그러나 이행은 많은 도전을 겪었다. 이에는 2019년 비판으로 인해 외부 자문 위원회이 해산된 일이 포함된다. 그 원칙들은 어떤 이들은 합리적이고 취약한 것에 비용할 수 있는 윤리적 방향을 제시하는 것으로 보고, 어떤 이들은 실재적으로 강제할 수 없는 것으로 비난하며, 회사가 책임 있는 AI 개발을 이행하는 긍정적인 단계로 여긴다.
그 원칙들은 OpenAI 및 Anthropic과 같은 다른 조직이 유사한 윤리적 프레임워크를 채택하는 더 넓은 산업 추세의 일부이다. 그것들은 머신러닝 윤리에서 알고리즘 공정성과 투명성에 대한 학술적 논의에도 부합한다. 그 원칙들은 구글의 제품 결정에 영향을 미쳤으며, 특정 얼굴 인식 기능을 제한하고 무기 시스템에 AI를 제공하지 않는 것과 같은 경우를 포함한다.
영향과 비판
구글 AI 원칙들은 기업 AI 거버넌스에 상당한 영향을 미쳤고, 다른 기업의 모델로 작용하고 있으며, AI 윤리 학술 문헌과 정책 논의에서 인용되었다. 그러나 비판자들은 원칙들이 구속력 있는 집행 메커니즘이 부족하고, 구글이 군사 및 정부 고객과 계속 협력하며 응용에 대한 의심이 제기된다고 주장한다. 예를 들어, 시장성 있게 지속되는 프로젝트나 응용은 아니지만, 일부 방어 관련 계약은 여전히 유지되고 있다.
2023년, 구글은 "부상이나 사망을 주는 주목적을 지닌 무기나 기타 기술"을 회피 명시을 제거하는 것으로 원칙을 개정했고, 이는 AI 윤리 연구자들로부터 비판을 받았다. 이 개정은 경쟁 완화, 특히 Generative AI 및 Large language model 기술 분야에서의 경كة압력에 대한 대응로 여겨졌다. 이 움직임은 윤리적 약속과 상업적 이익 간의 긴장을 드러냈으며, 많은 AI 개발자들이 직면하는 도전 과제였다.
유산
구글 AI 원칙들은 책임 있는 AI에 관한 논의에서 여전히 언급되는 기준점으로 남아 있다. 그것들은 자체 윤리와 안전 프레임워크를 가진 Google DeepMind와 같은 유사 옵션과 비교되었다. 원칙들은 또한 편향, 투명성, 그리고 표준에 대한 유사한 우려를 다루는 유럽 연합의 AI관여와 같은 규제 노력과 교차한다. AI가 계속 발전함에 따라, 이 원칙들은 인적 가치와 기술 진보를 조율하는 지속적인 노력에서의 역사적 이정표로 작용한다.