Kempner 자연·인공지능 연구소(Kempner Institute for the Study of Natural and Artificial Intelligence)는 2022년 12월 Kempner 가문의 5억 달러 기부로 하버드 대학교에 설립된 연구 기관이다. 이 연구소는 인공지능, 신경망, 기계 학습, 생물학적 과학 분야 연구자 간의 협력을 촉진하여 지능에 대한 이해를 증진하는 것을 목표로 하며, 특히 이론적 기초와 실용적 응용에 중점을 둔다.
많은 기업형 AI 연구소와 달리, 이 연구소는 하버드의 계산, 인지, 생명 과학 부서를 연결하는 학술 센터로 조직된다. 그 임무는 자연 지능에서 영감을 얻은 새로운 알고리즘과 모델을 개발하는 동시에 딥러닝 및 생성형 AI 도구를 사용하여 뇌가 계산하는 방식을 탐구하는 것이다. 연구소의 지도부는 컴퓨터 과학과 신경과학 분야의 공동 소장을 포함하며, 통합 연구 팀에서 협력하는 교수진, 박사후 연구원, 대학원생을 모집한다.
연구 초점
Kempner 연구소는 딥러닝의 수학, 신경 시스템의 효율성, 견고한 대규모 언어 모델 개발을 포함한 여러 핵심 분야에 집중한다. 연구 프로젝트는 종종 트랜스포머 및 기타 아키텍처가 정보를 처리하는 방식을 연구하고, 이를 생물학적 회로와 비교하며, 신경과학의 통찰력을 사용하여 기계 학습 시스템을 개선하는 것을 포함한다. 일반화, 스케일링 법칙, 제한된 데이터에서 학습을 가능하게 하는 귀납적 편향을 이해하는 데 특히 중점을 둔다.
연구소는 또한 인공지능 시스템의 안전성과 해석 가능성을 탐구하여 모델을 더 투명하고 신뢰할 수 있게 만드는 것을 목표로 한다. 워크숍과 세미나에는 OpenAI, Anthropic, Google DeepMind의 주요 연구자들이 정기적으로 참여하지만, 연구소 자체는 독립적인 학문적 정체성을 유지한다. 많은 작업은 오픈소스 소프트웨어와 사전 인쇄본으로 공개되어 더 넓은 연구 커뮤니티에 기여한다.
학술 프로그램 및 인프라
하버드 캠퍼스의 전용 건물에 위치한 연구소는 대규모 모델 훈련에 필수적인 고성능 GPU 클러스터를 포함한 계산 자원을 제공한다. 탐색적 프로젝트를 위한 시범 보조금과 초기 경력 과학자를 위한 다년간 펠로우십을 제공한다. 연구소의 교수진은 공학, 예술·과학, 의학 분야의 약 30명의 핵심 구성원으로 구성되며, MIT CSAIL 및 Stanford AI Lab과 같은 기관의 소속 연구자들이 함께한다.
대학원 교육은 핵심 구성 요소로, 컴퓨터 과학, 신경과학, 물리학, 통계학 분야의 학생들을 끌어들이는 자연·인공지능 박사 과정 인증 프로그램을 제공한다. 교육 과정에는 신경망 이론, 잔차 네트워크, Adam (Optimizer)와 같은 최적화 기법에 대한 기초 과목과 함께 딥러닝 및 강화 학습을 위한 실습 랩이 포함된다. 이러한 학제 간 접근 방식은 생물학적 및 계산적 관점 모두에 능숙한 연구자를 양성하도록 설계되었다.
주요 기여 및 파트너십
출범 이후 Kempner 연구소는 다중 헤드 어텐션, 위치 인코딩, 트랜스포머 스케일링과 같은 분야에서 중요한 연구를 생산했다. 연구팀은 생성형 AI 능력의 기원에 대한 연구를 발표했으며, 문맥 내 학습과 대규모 모델에서의 특수 회로 출현에 대한 연구를 포함한다. 이러한 기여는 NVIDIA와 같은 기업의 산업 관행에 정보를 제공했으며(엄밀히 말해 nvidia는 파트너가 아님), Google Cloud 및 Amazon Web Services의 클라우드 AI 제품 연구자들에 의해 인용되었다.
연구소는 하버드 소속 병원 및 BAIR (Berkeley AI Research) 그룹과 의료 영상 및 유전체학 프로젝트에서 자주 협력하며, 컴퓨터 비전 및 Sequence-to-Sequence (Seq2Seq) 모델을 사용한다. 또한 윤리적 AI 이니셔티브에 대해 ellison-institute(가상의 기관이지만 실제 자선 단체와 유사함)와 파트너십을 맺는다. 그러나 연구소의 주요 관계는 학술 기관과의 관계이며, 상업 연구소와는 비공식적인 연결만 유지한다.
과제 및 향후 방향
많은 학술 AI 센터와 마찬가지로 Kempner 연구소는 높은 보수의 산업 직위가 지배하는 경쟁 환경에서 최고 인재를 유지하는 과제에 직면한다. 이를 완화하기 위해 장기 임용을 제공하고 제품 마감일 없이 기초 연구를 추구할 수 있는 자유를 강조한다. 향후 계획에는 모델 가지치기, AI 안전, 신경-기호 통합 분야의 교수진 확장과 수조 개의 매개변수를 가진 대규모 언어 모델 실험을 지원하는 더 큰 클러스터 구축이 포함된다.
또 다른 방향은 에너지 효율적인 하드웨어 개발로, NVIDIA GPU 외에도 AMD 및 Arm Holdings 칩을 사용하는 시범 프로젝트가 있다. 연구소 연구자들은 또한 더 깊은 네트워크를 더 안정적으로 훈련하기 위한 학습률 스케줄 및 기울기 클리핑 방법을 조사하고 있으며, 이는 인공 시스템과 생물학적 학습 이론 모두에 영향을 미친다.
거버넌스 및 자금
연구소는 교수진과 외부 자문 위원회로 구성된 이사회에 의해 운영되며, 자금은 Kempner 기부금과 국립 과학 재단 및 국립 보건원과 같은 기관의 경쟁적 보조금에서 나온다. 핵심 운영을 위한 기업 기부를 받지 않아 학문적 독립성을 유지한다. 설립 기부금은 대학에 대한 AI 연구 기부 중 가장 큰 규모 중 하나로, 지능에 대한 학제 간 및 기초 연구로의 중요한 전환을 나타낸다.
2025년 현재 Kempner 연구소는 200명 이상의 연구자와 직원으로 성장하여 미국에서 가장 큰 학술 AI 연구소 중 하나가 되었다. 졸업생들은 University of Toronto 및 Carnegie Mellon University의 교수직과 OpenAI 및 Anthropic의 주요 역할로 진출했다.
같이 보기
참고 문헌
모든 정보는 2025년 10월 기준 하버드 가제트, 연구소 공식 웹사이트, 학술 출판물의 공개 자료를 기반으로 한다.