이것이 우리가 원하는 것인가? 는 2025년에 발표된 공개 성명으로, Artificial intelligence 분야의 연구자, 엔지니어, 기술 전문가 1,000명 이상이 서명했다. 이 선언은 완화되지 않은 사회 안전, 민주적 제도, 글로벌 형평성에 대한 위험을 우려하며 AI 개발에 대한 즉각적이고 강제력 있는 국제 규제를 촉구한다. 이 발표는 기술 커뮤니티 내부에서 집단적 옹호가 드물게 이루어진 사례로, 이전에 업계가 주도한 자발적 자율 규제 요구와 대비된다.
이 성명은 주요 연구 기관과 민간 기업의 서명자를 포함한 작업 그룹에서 나왔지만, 주최 측은 특정 조직 소속보다 풀뿌리 성격을 강조하기로 선택했다. 문서의 제목 - 정책 입안자와 대중에게 던지는 수사적 질문 - 은 기술적 전문성만이 아닌 공유된 가치에 대한 의도적인 호소를 반영한다. 발표 후 수 주 이내에 주요 국제 언론이 다루었고 의회 및 국회 환경에서 논의되었지만, 즉각적인 공식 조약이나 입법 변화로 이어지지는 않았다.
배경 및 맥락
이 선언은 Large language model 및 Generative AI 시스템의 급속한 상업화를 배경으로 나왔다. 발표 전 수년간 Machine learning과 Deep learning의 역량이 급격히 발전하여 대중의 열광과 함께 일자리 대체, 잘못된 정보, 감시에 대한 광범위한 불안을 불러일으켰다. 다양한 기술 지도자들의 공개 서한과 같은 이전의 주목할 만한 개입은 종종 모호하거나 사리사욕적이라는 비판을 받았다. 이것이 우리가 원하는 것인가? 의 주최 측은 자율 시스템이 피해를 초래한 문서화된 사례를 포함한 최근 실패와 아슬아슬한 사건의 구체적인 증거에 근거하여 자신들의 노력을 차별화하고자 했다.
주요 요구 및 원칙
이 성명은 일반적인 주의 촉구가 아닌 몇 가지 실행 가능한 요구를 제시한다. 주요 요점은 다음과 같다:
- 의무 안전 기준 - 항공우주 또는 제약 인증과 유사하게, 고성능 Neural network 배포 전 스트레스 테스트를 요구.
- 투명성 의무 - 개발자가 훈련 데이터 출처, 에너지 소비, 알려진 실패 모드를 공개하도록 강제.
- 구제 메커니즘 - 명확한 책임 체계와 함께 AI 시스템으로 인한 피해에 대한 법적 책임을 확립.
- 국제 협력 - 기존 핵 또는 화학 무기 체제를 모델로 한 강제 권한을 가진 조약 기구를 제안.
이 문서는 규제가 혁신을 늦출 것이라는 주장을 명시적으로 거부하며, 안전 규칙이 기술 발전을 방해하기보다 촉진한 역사적 사례를 인용한다. 또한 OpenAI, Anthropic, Google DeepMind 같은 기업의 현재 내부 거버넌스의 적절성에 의문을 제기하며, 이윤 동기가 필연적으로 자기 평가를 왜곡한다고 주장한다.
서명자 및 지지
서명자 목록에는 Joshua Tenenbaum(MIT), Melanie Mitchell(포틀랜드 주립대학교), BAIR (Berkeley AI Research) 교수진, 그리고 Xerox PARC 및 Nokia Bell Labs 출신의 전직 업계 연구자들이 포함된다. 서명자의 약 70%는 학계 소속이었고, 나머지는 민간 기업, 비영리 단체, 정부 연구소 출신이었다. 주요 AI 기업의 CEO 중 누구도 서명하지 않았지만, 다수의 중간 엔지니어와 제품 관리자가 일부는 직업적 보복을 피하기 위해 익명으로 서명했다. 주최 측은 나중에 서명이 기관 이메일 주소로 검증되었지만 그 외에는 자체 보고되었다는 방법론 메모를 발표했다.
미디어 및 정치적 반응
반응은 양극화되었다. 유럽 의회 의원들과 시민 사회 단체를 포함한 지지 논평가들은 구체적인 제안과 기업 서사에 굴복하지 않은 점을 칭찬했다. 업계 임원과 일부 자유지상주의 경제학자들을 포함한 회의론자들은 이를 경고적 과장으로 치부하고 기존 규제로 충분하다고 주장했다. 미국에서는 AI 거버넌스에 관한 하원 소위원회 청문회가 이 문서를 직접 언급했지만, 법안은 제출되지 않았다. 반면, Bhabha Atomic Research Centre 및 다른 국가의 특정 국가 안보 기구는 AI를 감독이 필요한 이중 용도 기술로 보고 그 조항에 개인적으로 관심을 표명했다.
이 선언은 또한 Machine learning 커뮤니티 내부에서 내부 논쟁을 촉발했다. 일부 학자들은 그 어조가 업계 파트너를 소외시킬 수 있다고 우려했지만, 다른 이들은 가속화된 배포를 고려할 때 중립성은 더 이상 유지될 수 없다고 반박했다. 'AI가 있는 우리의 미래는 더 낫다'라는 제목의 반대 청원은 같은 기간 동안 200개 미만의 서명을 모았으며, 이는 원래 성명 뒤에 상당한 지적 무게가 있음을 시사한다.
영향 및 유산
2025년 말 현재, 이 선언의 결과로 직접적인 정책 변화는 enacted되지 않았다. 그러나 이는 Waymo 및 기타 안전 필수 애플리케이션에서 사용되는 Artificial intelligence 영향 평가 개정을 포함한 후속 제안에서 공통된 참조 지점이 되었다. 여러 대학 과정에서 이 문서를 기술 거버넌스 사례 연구로 사용한다. 2026년에는 그 요구 사항의 진행 상황을 추적하기 위한 연례 검토 회의가 설립되었지만, 가장 큰 기업들의 참여는 여전히 드물다. 이것이 우리가 원하는 것인가? 의 장기적 중요성은 즉각적인 입법 효과보다는 기술 전문가가 공공 복지 문제에 대해 공개적으로 말할 권리와 책임이 있다는 생각을 정상화하는 데 있을 수 있다.