캠브리지 AI 연구(Cambridge AI Research)는 케임브리지 대학교에서 이루어지는 인공지능 및 AI 정렬에 관한 학술 연구를 의미한다. 이 대학은 머신러닝, AI 안전성, 그리고 AI의 사회적 영향에 초점을 맞춘 여러 학제 연구 그룹을 운영하고 있다. 이러한 그룹에는 2016년에 설립된 Leverhulme 미래지능연구소(LCFI)와 2020년에 설립된 케임브리지 의학 AI 센터(CCAIM)가 포함된다. 캠브리지 연구진은 Transformer (architecture) 구조의 개발을 포함한 기초적인 AI 개념에 기여해 왔으며, AI 윤리와 거버넌스에 관한 영향력 있는 논문을 발표했다.
초기 기여와 트랜스포머
2017년, 케임브리지 대학교의 연구진인 Jakob Uszkoreit와 Llion Jones은 "Attention is All You Need"라는 논문에서 소개된 Transformer (architecture) 구조를 개발하기 위해 구글과 협력했다. 이 구조는 OpenAI의 GPT 시리즈와 Google DeepMind의 Chinchilla와 같은 현대 Large language model의 기반이 되었다. 케임브리지의 Machine learning 그룹은 Christopher Bishop과 같은 교수들이 주도한 가운데 1990년대부터 활발히 활동하며 Neural network과 Deep learning에 대한 연구를 생산했다. 비숍의 교과서인 "패턴 인식 및 머신러닝(Pattern Recognition and Machine Learning)"은 2006년 발간되어 현재 대학원 수업에서 널리 사용된다.
Leverhulme Centre for the Future of Intelligence
Leverhulme Centre for the Future of Intelligence(LCFI)은 2016년 Leverhulme Trust로부터의 지원금을 받아 설립되었다. 이곳은 철학자, 컴퓨터 과학자, 그리고 사회 과학자들이 모여 AI의 장기적 영향을 연구하는 학제 간 연구 센터이다. LCFI은 OpenAI와 일부 연구자들이 공동 저자로 참여한 "악의적 AI 사용(Malicious use of Artificial Intelligence)" 같은 AI 윤리에 관한 보고서를 발표했으며, 2019년 "AI와 인류의 미래" 행사를 포함한 AI 안전성 연례 콘퍼런스도 진행했다. 이 센터는 stephen-cave가 소장으로 있으며, AI 안전성에 관한 연례 콘퍼런스를 2019년 "AI와 인류의 미래"를 포함한 연례 행사를 후원하고 있다.
케임브리지 의학 AI 센터
2020년, 캐임브리지 대학교는 Machine learning을 의료에 적용하기 위한 캐임브리지 의학 AI 센터(CCAIM)를 설립했다. 이 센터는 mihaela-van-der-schaar와 Andrew Lloyd Brown이 공동으로 소장하고 있다. CCAIM은 환자의 가시적 예후를 예측하는 AI 모형을 개발해 왔으며, 2021년에 Deep learning을 사용해 COVID-19 환자의 사망률을 예측한 연구 등이 여기에 해당한다. 이 센터는 Nokia Bell Labs 및 Samsung Research와 협력하여 의료 이미지 처리용 Neural network 관련 프로젝트를 진행한다.
AI 정렬과 윤리 연구
케임브리지는 Artificial intelligence 시스템이 안전하고 윤리적으로 작동하도록 보장하는 것에 초점을 맞춘 AI 정렬 연구의 허브가 되었다. 2019년, 대학은 AI로부터의 치명적 위험을 분석하는 존재적 위험 연구 센터(Centre for the Study of Existential Risk, CSER)를 시설했다. CSER 연구자들은 huw-price와 sean-o-heigeartaigh를 포함해, 2020년 "AI 안전성에서의 국제 협력 역할"과 같은 AI 거버넌스에 관한 논문을 발표했다. 또한 캐임브리지는 Machine learning 알고리즘의 편향과 Generative AI의 사회적 영향을 분석하는 AI 윤리와 사회 연구 그룹을 운영한다.
주요 연구자 및 협력
여러 저명한 AI 연구자들이 케임브리지와의 관련을 갖고 있다. Jakob Uszkoreit와 Llion Jones은 캠브리지 동문으로, 이후 Google DeepMind에서 근무하였다. Christopher Bishop은 케임브리지에서 교수직을 가지고 있으며, 동시에 microsoft-research에서도 자리를 갖고 있다. mihaela-van-der-schaar은 머신러닝 교수이자 왕립학회(r rather-society)의 특별회원이다. 케임브리지는 Anthropic과도 2023년 소위 인터프리터빌리티 워크숍을 포함한 AI 안전성 연구에 협력했다. 이 대학은 또한 개방형 AI 연구를 촉진하는 OpenPanel 컨소시엄의 일원이다. 2022년에는 케임브리지가 Arm Holdings와 협력하여 Neural network 전용 하드웨어에 초점을 맞춘 캐임브리지 AI 및 로봇학 센터를 설립했다.
영향 및 미래 방향
케임브리지 AI 리서치는 학술적 및 산업적 AI에 모두 영향을 미쳤다. 캐임브리지 연구진의 참여로 개발된 Transformer (architecture) 구조는 Large language model 표준이 되었다. LCFI의 AI 윤리 성과는 유럽 연합과 유나이티드 네이션의 정책 보고서에 정보를 제공했다. CCAIM의 의학 AI 이 인공지능은 임상 환경에서 시험 중이며, 2023년에는 ad in ad을 포함한 임상 시험이 있다. 2024년 기준으로, 케임브리지 대학은 AI 윤리 분야의 새 학 그리고 OpenAI 및 Google DeepMind와의 AI 정렬 연구 계획 등을 포함해 AI 프로그램을 계속 확장하고 있다. 대학의 학술 간 학문적 접근 덕분에 케임브리지에서의 AI의 기술적 및 사회적 도전 모두를 다를 수 있을 것이다.