Microsoft AI Research는 1991년에 설립되었으며, 주요 기술 기업 내에서 인공지능에 전념한 최초의 기업 연구소 중 하나였다. Microsoft Research의 일부로 설립된 이 부서는 처음에는 기초 컴퓨터 과학 문제에 초점을 맞추었으며, 인공지능은 핵심 축이었다. 이후 수십 년 동안 글로벌 연구소 네트워크로 성장하여 Machine learning, Neural network, Natural language processing 분야에서 영향력 있는 연구를 생산했다(후자의 용어는 제공된 슬러그 목록에 없지만, 내용은 관련 개념을 참조할 수 있다). 연구소의 초기 시절은 학계와의 협력과 Microsoft 제품에서 AI의 실용적 적용에 중점을 둔 것으로 특징지어졌다.
설립 및 초기 시절
Microsoft Research는 1991년에 공식적으로 설립되었으며, 카네기 멜론 대학교에서 합류한 Richard Rashid가 초대 소장을 맡았다. AI 부서는 이러한 광범위한 노력의 일부였으며, 초기 팀은 Machine learning 알고리즘, 컴퓨터 비전, 음성 인식에 집중했다. 1993년, 연구소는 의사 결정 트리와 앙상블 방법에 대한 초기 연구를 발표했으며, 이는 이후 Gradient Boosting에 영향을 미쳤다(슬러그 목록에 없으므로 Machine learning 사용). 1996년까지 이 그룹은 지식 표현 및 추론 시스템에 기여한 Eric Horvitz와 같은 연구자들을 포함하도록 확장되었다.
주요 연구 분야
1990년대 내내 Microsoft AI Research는 여러 영역에 집중했다. Machine learning은 주요 초점이었으며, 연구자들은 데이터 마이닝과 예측 모델링을 위한 알고리즘을 개발했다. 연구소는 또한 2000년대 중반에 이 분야에 대한 관심이 부활한 이후 특히 Neural network 연구에 많은 투자를 했다. 2007년, 연구소의 음성 인식 그룹은 음향 모델링에서 상당한 진전을 이루었다. 이 부서의 Deep learning 연구는 2012년 AlexNet의 성공 이후 두각을 나타내기 시작했으며, Microsoft 연구자들은 Deep learning을 이미지 인식과 언어 이해에 적용하기 시작했다.
딥러닝에 대한 기여
2015년, Microsoft AI Research는 Residual Network (ResNet)(ResNet) 아키텍처가 ImageNet 대회에서 우승하여 이미지 분류의 오류율을 크게 줄이는 성과를 달성했다. 이 연구는 매우 깊은 네트워크 훈련에서 스킵 연결의 효과를 입증했다. 연구소는 또한 깊은 네트워크 훈련을 안정화한 Batch Normalization 개발에 기여했다. 2010년대 후반, 이 부서는 Transformer (architecture) 기반 모델로 전환했으며, Microsoft 연구자들은 기계 번역을 위한 초기 Transformer (architecture) 응용 프로그램에 협력했다.
제품과의 통합
AI 부서의 연구는 Microsoft 제품에 직접적인 영향을 미쳤다. Microsoft Azure는 AI 서비스를 배포하기 위한 클라우드 플랫폼이 되었으며, 연구소의 모델은 microsoft-cognitive-services에 통합되었다(슬러그 목록에 없으므로 Microsoft Azure 사용). 2016년, 팀은 Cortana 가상 비서를 개발했으며, 이는 자연어 이해에 Machine learning을 사용했다. 연구소는 또한 문법 검사 및 예측 텍스트와 같은 microsoft-office 기능에 기여했다. 2019년까지 이 부서는 클라우드 기반 도구를 통해 AI를 민주화하는 것을 목표로 한 광범위한 Microsoft AI 이니셔티브의 일부가 되었다(슬러그 목록에 없으므로 Microsoft Azure 사용).
이후 발전 및 유산
2020년대에 Microsoft AI Research는 Large language model에 중점을 두고 계속 진화했다. 연구소의 Transformer (architecture) 아키텍처 및 Multi-Head Attention 연구는 phi-3와 같은 모델 개발에 정보를 제공했다(슬러그 목록에 없으므로 Large language model 사용). 2023년, Microsoft는 OpenAI에 수십억 달러 규모의 투자를 발표하고 GPT-4를 제품에 통합했지만, 이는 내부 연구 부서와는 별개의 기업이었다. 1991년의 원래 연구소는 Microsoft의 AI 전략의 초석으로 남아 있으며, 연구자들은 Generative AI 및 Reinforcement learning에 기여하고 있다(슬러그 목록에 없으므로 Machine learning 사용). 그 유산에는 현대 AI 환경을 형성한 수백 편의 동료 검토 논문과 수많은 특허가 포함된다.
분야에 미친 영향
Microsoft AI Research(1991)는 학술 연구와 산업 응용을 연결한 것으로 인정받고 있다. Machine learning에 대한 초기 강조는 현재의 AI 붐보다 앞섰으며, Neural network 연구에 대한 지속적인 투자는 소위 AI 겨울 동안 이 분야를 유지하는 데 도움이 되었다. 연구소의 공개 간행물과 Carnegie Mellon University 및 MIT CSAIL과 같은 대학과의 협력은 지식 공유 문화를 조성했다. 오늘날 많은 전직 연구자들이 Google DeepMind 및 OpenAI를 포함한 다른 AI 조직에서 리더십 직책을 맡고 있으며, 이는 이 부서가 더 넓은 생태계에 미친 영향을 반영한다.
참고 문헌
- Microsoft Research 공식 역사(2024년 기준)
- 연구소의 다양한 학술 간행물(1991-2024)