임페리얼 칼리지 AI는 영국 런던에 위치한 공립 연구 대학인 임페리얼 칼리지 런던에서 이루어지는 인공지능 연구 및 교육 활동을 의미한다. 공식 명칭이 임페리얼 칼리지 오브 사이언스, 테크놀로지 앤드 메디신인 이 대학은 공학, 의학, 자연과학, 경영학의 네 개 학부에 걸쳐 AI 관련 작업을 통합해 왔다. 이 대학의 AI 노력은 1907년 왕립과학대학과 왕립광산학교가 합병하여 임페리얼 칼리지 런던이 되고, 1910년 시티 앤드 길드 칼리지가 합류한 역사에 기반을 둔다. 이 기관은 2007년 런던 대학에서 독립했으며, 주요 캠퍼스는 사우스 켄싱턴에 있고 화이트 시티와 다른 곳에 추가 시설을 두고 있다.
임페리얼의 AI 연구는 기계 학습, 딥러닝, 신경망 아키텍처와 같은 핵심 기술 영역뿐만 아니라 의료, 기후 과학, 경영학 분야의 응용을 포괄한다. 이 대학의 의학부는 런던 전역에 5개의 교육 병원을 운영하며, AI 기반 진단 및 임상 의사 결정 지원을 위한 환경을 제공한다. 2003년에 설립되고 엘리자베스 2세 여왕이 공식 개교한 임페리얼 경영대학원은 과학 교육과 경영 과정을 통합하여 AI 혁신과 기업가 정신을 육성한다. 이 대학은 학부 간 협력을 장려하며, 경영학 학생들은 과학 훈련을 받고 과학 학생들은 AI의 상업적 응용에 대한 이해를 얻는다.
연구 및 교육
임페리얼의 AI 연구는 트랜스포머 모델, 대규모 언어 모델 시스템, 생성형 AI를 포함한 기초 주제를 다룬다. 이 대학의 연구자들은 딥 네트워크 훈련에 널리 사용되는 아담 최적화 및 SGD 변형과 같은 최적화 방법에 기여했다. 다른 연구 분야로는 잔차 네트워크 설계, 배치 정규화, 층 정규화, 드롭아웃 기법이 있으며, 이들은 모두 현대 딥러닝 시스템의 표준 구성 요소이다. 이 대학은 또한 트랜스포머 아키텍처의 핵심인 다중 헤드 어텐션 메커니즘과 위치 인코딩 방법을 연구한다.
AI 교육은 학부 및 대학원 프로그램을 통해 제공되며, 이론과 실제 응용 모두에 중점을 둔다. 과정은 시퀀스-투-시퀀스 학습, 인코더-디코더 프레임워크, 빔 탐색 디코딩과 같은 주제를 다루며, 모델 가지치기 및 커리큘럼 학습과 같은 고급 주제도 포함한다. 학생들은 컴퓨팅 자원과 산업 파트너와의 협력에 접근할 수 있으며, 아마존 웹 서비스 및 구글 클라우드와 같은 클라우드 제공업체가 대규모 실험을 지원한다.
응용 및 협력
임페리얼의 AI 작업은 특히 의학과 공학 분야의 응용 영역으로 확장된다. 의학부는 교육 병원 네트워크를 활용하여 이미지 분석, 신약 개발, 환자 모니터링에 AI를 사용한다. 공학에서는 AI가 로봇 공학, 자율 시스템, 재료 과학에 적용된다. 경영대학원은 생성형 AI 도구 채택과 거버넌스 프레임워크를 포함한 AI의 경제적 영향을 연구한다.
이 대학은 기술 기업 및 연구소를 포함한 외부 조직과 협력한다. 파트너십에는 하드웨어 가속을 위한 AMD, 인텔, ARM 홀딩스와 같은 기업, 모델 아키텍처 발전을 위한 오픈AI 및 구글 딥마인드가 포함된다. 임페리얼은 또한 공공 기관 및 스타트업과 협력하여 연구의 상업적 제품 전환을 지원한다. 이러한 협력은 종종 혁신 공간과 산업 중심 연구소를 갖춘 화이트 시티 캠퍼스를 통해 촉진된다.
주요 기여
임페리얼의 학자들은 AI 및 관련 분야에서 영향력 있는 연구를 발표했다. 기여에는 신경망 이론의 초기 발전과 최적화 및 정규화의 실용적 진전이 포함된다. 이 대학의 연구자들은 또한 강화 학습 방법인 RLHF와 텍스트 생성에 사용되는 탑-k 샘플링 및 탑-p 샘플링과 같은 샘플링 전략을 탐구했다. 손실 함수 및 가중치 초기화에 대한 연구는 해당 분야 전반의 훈련 관행에 영향을 미쳤다.
임페리얼과 관련된 졸업생 및 학자로는 노벨상 수상자 14명, 필즈 메달 수상자 3명, 왕립학회 펠로우 74명, 왕립공학아카데미 펠로우 84명이 있다. 이들 모두가 AI 분야에서 일한 것은 아니지만, 이 대학의 과학적 환경은 기계 학습 및 통계와 교차하는 학제 간 연구를 지원해 왔다.
역사적 배경
이 대학의 AI 활동은 과학과 기술에 대한 오랜 강조에 뿌리를 두고 있다. 1907년에 설립된 임페리얼은 제2차 세계 대전 이후 크게 확장되었으며, 1953년 대학 보조금 위원회와의 타협으로 10년 동안 규모를 두 배로 늘릴 수 있었다. 1957년 힐 빌딩과 1960년 물리학 빌딩과 같은 새로운 건물은 증가하는 연구 프로그램을 위한 공간을 제공했다. 1988년 임페리얼은 세인트 메리 병원 의과대학과 합병했고, 이어서 채링 크로스 및 웨스트민스터 의과대학과 합병하여 임페리얼 칼리지 의과대학을 형성했다. 이러한 합병은 현재 의료 AI 연구에 정보를 제공하는 임상 전문성을 가져왔다.
2020년대 현재, 임페리얼은 화이트 시티의 새로운 시설과 계산 인프라에 대한 지속적인 투자를 통해 AI 역량을 계속 확장하고 있다. 런던의 문화 및 과학 기관 근처에 위치한 이 대학의 입지는 스타트업 및 기존 기술 기업과의 협력을 지원하며, 영국 AI 생태계에 중요한 기여자로 자리 잡고 있다.