미래생명연구소(FLI)는 고급 기술이 제기하는 실존적 위험을 완화하는 데 전념하는 비영리 조직으로, 주로 인공지능에 초점을 맞추고 있다. 2014년에 설립된 FLI는 기술, 정책, 윤리의 교차점에서 운영되며, 변혁적 발전이 인류에게 이익이 되도록 보장하고 재앙적 결과를 초래하지 않도록 하는 것을 목표로 한다. 이 연구소는 영향력 있는 연구, 대중 인식 캠페인, 정책 입안자 및 기술 개발자와의 직접적인 교류로 잘 알려져 있다.
FLI의 사명은 핵무기, 생명공학, 기후 변화로 인한 위험을 포함한 광범위한 잠재적 위험을 포괄하지만, 가장 두드러진 작업은 기계 학습 및 대규모 언어 모델의 안전한 개발에 중점을 둔다. 이 조직은 강력한 AI 시스템을 규제하기 위한 예방적 조치, 견고한 안전 표준, 국제 협력을 옹호한다. 또한 학술 연구에 자금을 지원하고 신흥 기술의 장기적 사회적 영향을 탐구하는 이니셔티브를 지원한다.
역사와 설립
FLI는 2014년 MIT 우주론자 맥스 테그마크, 스카이프 공동 창업자 얀 탈린, 연구 과학자 빅토리야 크라코브나 등에 의해 설립되었다. 이 연구소는 물리학, 컴퓨터 과학, 철학과 같은 분야의 전문가들을 모은 실존적 위험에 관한 일련의 워크숍과 논의에서 출발했다. 초기 자금은 이전에 다른 장기 위험 조직을 지원했던 탈린과 오픈 필란트로피 프로젝트에서 나왔다.
2015년 1월, FLI는 스티븐 호킹, 일론 머스크 및 수많은 AI 연구자들이 서명한 인공지능에 관한 공개 서한을 발표했다. 이 서한은 AI 안전과 사회적 영향에 대한 연구를 촉구하며 이러한 문제를 주류 담론으로 끌어올리는 데 기여했다. 이어 2015년 푸에르토리코 회의가 열렸고, 이 회의는 유익한 AI 개발을 위한 일련의 원칙을 산출했으며, 이후 2017년 아실로마 AI 원칙으로 공식화되었다.
주요 이니셔티브 및 프로그램
FLI는 AI 위험을 줄이기 위한 여러 주요 프로그램을 운영한다. AI 안전 보조금 프로그램은 기술 안전, 해석 가능성, 견고성에 관한 연구를 수행하는 학술 연구자들에게 수백만 달러를 분배했다. 주목할 만한 수혜자로는 옥스퍼드 대학교, 버클리 AI 연구, 카네기 멜론 대학교의 팀이 있다.
이 연구소는 또한 연구자, 산업 리더, 정책 입안자를 한자리에 모으는 유익한 AI 회의와 같은 컨퍼런스와 워크숍을 조직한다. FLI는 정책 브리핑과 보고서를 발행하며, 직원들은 정부 기관에 자주 증언한다. 2023년, FLI는 GPT-4보다 더 강력한 AI 시스템 훈련의 일시 중지를 옹호하는 데 핵심적인 역할을 했으며, 이는 지지와 비판을 동시에 불러일으켰다.
또한 FLI는 초기 경력 연구자를 지원하는 AI 실존 안전 펠로우십과 실존적 위험을 줄이는 데 중요한 기여를 한 개인에게 수여하는 미래생명상을 운영한다. 이 연구소는 또한 영화, 팟캐스트, 교육 자료를 통해 대중 홍보 활동에 참여한다.
정책 및 옹호
FLI의 옹호 활동은 AI에 대한 규제 프레임워크를 구축하는 데 초점을 맞춘다. 이 연구소는 유럽 연합의 AI 법과 같은 이니셔티브를 지원하고 국제 감독 기구의 설립을 촉구했다. 이 연구소는 고급 AI 시스템을 배포하기 전에 투명성, 책임성, 안전 표준 개발의 중요성을 강조한다.
2023년, FLI는 "거대 AI 실험 일시 중지"라는 제목의 공개 서한을 발표했으며, 이 서한에는 1,000명 이상의 기술 지도자와 연구자가 서명했다. 이 서한은 사회에 대한 심각한 위험을 인용하며 AI 연구소가 GPT-4의 능력을 초과하는 시스템 개발을 최소 6개월 동안 중단할 것을 촉구했다. 이는 광범위한 논쟁을 촉발했고 이후 AI 거버넌스 논의에 영향을 미쳤다.
FLI는 또한 OpenAI, Anthropic, Google DeepMind를 포함한 다른 조직과 협력하여 모범 사례를 촉진한다. 그러나 이 연구소는 독립적인 입장을 유지하며, 안전 기대에 미치지 못하는 산업 행동을 종종 비판한다.
연구 및 출판물
FLI는 재앙적 결과에 대한 수학적 모델 개발을 포함하여 AI 위험 시나리오에 대한 자체 연구를 수행한다. 이 연구소는 신경망 및 트랜스포머 아키텍처의 잠재적 실패 모드를 분석하는 "AI와 실존적 위험" 시리즈와 같은 작업 문서와 보고서를 발행한다. 또한 글로벌 AI 정책 개발을 추적하고 관련 법률 데이터베이스를 유지한다.
이 연구소의 연구는 AI 시스템이 인간 가치와 일치하지 않는 방식으로 행동할 수 있는 정렬 문제에 대한 이해에 기여했다. FLI는 해석 가능성, 견고성, 가치 학습에 대한 작업을 지원하고 강화 학습 안전 및 생성 AI 위험에 관한 프로젝트에 자금을 지원했다.
영향 및 평가
FLI는 AI로 인한 실존적 위험에 대한 인식을 높이고 학술 연구 의제와 공공 정책 논의에 영향을 미친 것으로 평가받고 있다. 이 연구소의 공개 서한과 회의는 AI 안전을 연구 분야로 정당화하는 데 도움이 되었다. 그러나 일부에서는 극단적인 시나리오에 초점을 맞추는 것이 편향성과 일자리 대체와 같은 더 즉각적인 문제에서 주의를 분산시킨다고 주장하며 비판하기도 한다.
이러한 논쟁에도 불구하고 FLI는 AI 거버넌스에 관한 글로벌 대화에서 중심적인 목소리로 남아 있다. 이 연구소의 보조금은 수많은 연구 프로젝트를 지원했으며, 옹호 활동은 다양한 국가 및 국제 프레임워크에 안전 조항을 포함시키는 데 기여했다. 2024년 현재 FLI는 고급 대규모 언어 모델과 인공 일반 지능의 잠재력에 특히 중점을 두고 프로그램을 계속 확장하고 있다.