Connor Leahy는 대규모 언어 모델에 대한 연구와 고급 AI의 위험에 대한 옹호 활동으로 알려진 독일계 미국인 인공지능 연구자이자 기업가이다. 그는 초기 오픈소스 언어 모델을 만든 집단인 EleutherAI를 공동 창립했으며, 이후 AI 안전 연구 회사인 Conjecture를 설립하여 2026년까지 CEO로 이끌었다. 2026년 현재 그는 인공 초지능으로 인한 멸종 위험을 방지하는 데 초점을 맞춘 비영리 단체인 ControlAI의 미국 이사로 재직 중이다.
Leahy는 고급 AI로 인한 인류 멸종 가능성에 대해 경고하는 저명한 목소리였다. 그는 캐나다 하원에서 증언했으며 2023년 첫 AI 안전 정상회의에 참석했다. 그의 공개 발언은 종종 강력한 AI 시스템의 예측 불가능성과 정부의 감독 필요성을 강조한다.
초기 생애 및 교육
Leahy는 독일에서 성장했으며 이후 미국으로 이주했다. 그는 대학에서 공부하며 여가 시간에 머신러닝 모델을 실험하기 시작했다. 2019년 학생이던 시절, 그는 기숙사 방에서 OpenAI의 GPT-2를 리버스 엔지니어링했는데, 당시 해당 조직은 전체 모델을 처음에 공개하지 않았었다. 이 초기 프로젝트는 대규모 언어 모델의 내부 작동 방식과 사회적 영향에 대한 그의 관심을 촉발했다.
경력 및 연구
2020년 7월, Leahy는 Sid Black 및 Leo Gao와 함께 EleutherAI를 공동 창립했으며, 초기에는 GPT-3를 오픈소스 환경에서 재현하는 데 초점을 맞췄다. 공동 리더로 재임하는 동안 EleutherAI는 초기 오픈소스 대규모 언어 모델과 데이터셋을 일부 생산했다. 여기에는 2020년 12월 The Pile, 2021년 3월 GPT-Neo, 2021년 6월 GPT-J-6B, 2022년 2월 GPT-NeoX-20B가 포함되었다. 출시 당시 GPT-J-6B는 세계에서 가장 큰 오픈소스 GPT-3 스타일 언어 모델로, AI 연구 커뮤니티에 중요한 이정표였다.
2022년 3월, Leahy는 AI 안전 연구 회사인 Conjecture를 공동 창립했으며 CEO로 이끌었다. 회사의 명시된 사명은 강력한 AI 시스템이 인간의 의도에 따라 작동하도록 보장하는 문제를 해결하는 것을 목표로 하는 응용 AI 정렬 연구를 확장하는 것이었다. Leahy는 정렬 문제에 대한 완전한 해결책으로서 인간 피드백 기반 강화 학습에 대해 회의적인 입장을 표명했다. 그는 강력한 AI 시스템의 추론을 "외계적"이라고 설명하며, RLHF와 같은 기술이 근본적인 비인간적 사고 과정을 단지 가릴 뿐일 수 있다고 지적했다. 그는 예상치 못한 프롬프트에서 벗겨질 수 있는 "스마일 얼굴 가면"이라는 은유를 사용하여 그가 "거대한 광기의 밑바닥"이라고 부르는 것을 드러낸다고 말했다.
옹호 활동 및 대중 참여
2023년 3월, Leahy는 Future of Life Institute의 공개 서한에 서명한 사람 중 한 명으로, "모든 AI 연구소가 GPT-4보다 더 강력한 AI 시스템 훈련을 최소 6개월 동안 즉시 중단할 것"을 촉구했다. 이 서한은 광범위한 주목을 받았으며 AI 개발 속도에 대한 논쟁을 촉발했다. 2023년 5월, 그는 AI 위험에 관한 성명서에 서명한 사람 중 하나였는데, 이 한 문장 선언은 다음과 같다: "AI로 인한 멸종 위험을 완화하는 것은 팬데믹 및 핵전쟁과 같은 다른 사회적 규모의 위험과 함께 글로벌 우선순위가 되어야 한다." 이 성명서에는 노벨상 수상자, AI 연구자, OpenAI, Anthropic, Google DeepMind와 같은 주요 AI 기업 CEO를 포함한 수백 명의 저명한 인물들이 서명했다.
2023년 11월, Leahy는 영국에서 열린 첫 AI 안전 정상회의에서 연설하도록 초청받았다. 그는 인간 능력을 능가하는 AI 시스템의 위험을 정상회의가 적절히 다루지 못할 것이라는 우려를 표명하며, 그러한 시스템이 적절한 통제 없이 구축된다면 "미래는 우리의 것이 아니라 그들의 것"이라고 주장했다. 그는 비영리 단체 ControlAI와 협력하여 정부가 인공 일반 지능 개발에 대한 중단을 시행하도록 옹호했으며, 주요 AI 기업들이 정부의 감독과 규제를 회피하려 한다고 비판했다.
이후 경력
2026년 3월, Leahy는 회고에서 Conjecture 프로젝트가 종료되고 있으며 ControlAI의 미국 이사로 합류한다고 발표했는데, 이전에는 고문 역할을 수행했었다. ControlAI에서의 그의 작업은 인공 초지능의 위험에 대한 정책 옹호와 대중 교육에 초점을 맞추고 있다. 그는 "Expedition to the Far Lands"라는 제목의 Substack 뉴스레터를 유지하며 AI 안전에 대해 계속 저술하고 공개적으로 발언하고 있다.
같이 보기
- Llion Jones
- Jakob Uszkoreit
- Lukasz Kaiser
- Niki Parmar
- Mark Chen
- Brad Lightcap
- Jacob Steinhardt
- David Kaplan
- Jack Clark
- David Luan
- Chen Wu
- Ashish Kumar
- Karen Simonyan
- Koray Kavukcuoglu
- Michael Jordan
- Anima Anandkumar
- Samy Bengio
- Joshua Tenenbaum
- Brendan Lake
- Melanie Mitchell