엘리에저 유드코스키(1979년 9월 11일 출생)는 미국의 독학 연구자이자 작가로, AI 정렬에 대한 연구와 범용 인공지능의 통제되지 않은 발전이 인류의 멸종으로 이어질 수 있다는 주장을 대중화한 것으로 가장 잘 알려져 있다. 그는 정규 학위가 없으며, 학교를 중퇴한 후 주로 온라인에서 에세이, 블로그 게시물, 그리고 그가 설립을 도운 합리주의 웹사이트 LessWrong 주변 커뮤니티를 통해 경력을 쌓았다.
2000년에 유드코스키는 싱귤래리티 연구소(Singularity Institute for Artificial Intelligence)를 공동 설립했으며, 이후 기계지능연구소(MIRI)로 개명된 이곳에서 대부분의 경력을 정렬이라는 기술적 문제에 바쳤다. 즉, 충분히 강력한 AI 시스템이 인간의 생존과 가치에 부합하는 목표를 추구하도록 보장하는 방법이다. 점진적이고 교정 가능한 실패의 관점에서 문제를 구성하는 많은 AI 안전 연구자들과 달리, 유드코스키는 2000년대 중반부터 충분히 강력한 초지능이 인간의 이익과 치명적으로 불일치하는 방식으로 목표를 추구할 수 있으며, 그러한 시스템이 인류에게 실수를 교정할 두 번째 기회를 주지 않을 수 있다고 주장해 왔다.
공공 옹호 활동
유드코스키의 영향력은 MIRI의 기술적 산출물을 훨씬 넘어선다. LessWrong에 게재된 그의 에세이는 나중에 "합리성: AI에서 좀비까지"로 모아졌으며, 더 넓은 합리주의 및 효과적 이타주의 커뮤니티의 토대를 마련하는 데 기여했다. 이 두 커뮤니티는 한 세대의 AI 연구자와 자금 제공자들이 AI로 인한 실존적 위험을 생각하는 방식을 형성했다. 그는 또한 널리 읽힌 팬 픽션 작품 "해리 포터와 합리성의 방법"을 집필하여, 그의 AI 위험 주장이 주류에 도달하기 훨씬 전에 합리주의 사상을 일반 대중에게 소개했다.
ChatGPT와 GPT-4 출시 이후 대규모 언어 모델이 급속도로 발전하면서, 유드코스키의 경고는 하위 문화에서 주류 미디어로 이동했다. 2023년 3월, 그는 미래생명연구소의 일시 중지 서한과 함께 널리 논의되었지만, 일시적인 중단으로는 충분하지 않다고 공개적으로 주장했다. 2023년 3월 TIME 매거진 기고문에서 그는 대규모 대규모 언어 모델 훈련 실행에 대한 무기한 국제적 강제 유예를 촉구했으며, 불량 데이터 센터에 대한 조치 위협을 포함시켰다. 이는 맥스 테그마크와 같은 서한 서명자 대부분의 입장보다 훨씬 더 극단적인 것이었다.
평가와 비판
유드코스키의 거의 확실한 재앙에 대한 예측은 진지한 관심과 날카로운 비판을 동시에 불러일으켰다. 지지자들은 그가 정렬을 유행하기 훨씬 전에 연구 우선순위로 끌어올렸고, 이후 OpenAI와 Anthropic 같은 연구소에 합류한 연구자들에게 영향을 준 공로를 인정한다. 비판자들은 일부 AI 연구자와 기술 전문가를 포함하여, 그의 파멸 확률 추정치가 반증 불가능하며, 공식적인 머신러닝 연구 경험 부족이 그의 특정 주장의 기술적 신뢰성을 제한하고, 그의 수사가 단일 실패 시나리오의 확실성을 과장할 수 있다고 주장한다. 그의 주장은 댄 헨드릭스와 닉 보스트롬 같은 다른 공공 인물들이 제시한 보다 신중한 위험 완화 프레임워크와 대조적으로, 공개 논쟁에서 "AI 두머" 입장과 밀접하게 연관되어 있다.