단 로스(히브리어: דן רוט)는 펜실베이니아 대학교의 에두아르도 D. 글랜트 석좌교수(컴퓨터 및 정보 과학)이자 오라클의 최고 AI 과학자이다. 2024년 6월까지 그는 AWS AI의 부사장이자 저명한 과학자로 재직하며, Titan 모델, Amazon Q, Bedrock을 포함한 1세대 생성형 AI 제품의 과학적 노력을 구상부터 일반 공개까지 이끌었다. 그의 연구는 지능적 행동의 계산적 기반, 특히 기계 학습과 추론 방법의 통합을 통한 자연어 이해에 초점을 맞추고 있다.
로스는 이스라엘 테크니온에서 수학 학사 학위를 최우등으로 받았으며, 1995년 하버드 대학교에서 컴퓨터 과학 박사 학위를 취득했다. 그는 1998년부터 2017년까지 일리노이 대학교 어배너-샴페인에서 가르친 후 펜실베이니아 대학교로 옮겼다.
학문적 경력 및 수상
로스는 미국 과학 진흥 협회(AAAS), 컴퓨터 기계 협회(ACM), 인공 지능 진흥 협회(AAAI), 및 계산 언어학 협회(ACL)의 펠로우이다. 그의 연구는 여러 최우수 논문상을 수상했으며, 인공 지능 및 NLP 분야의 주요 저널 편집 위원회에서 활동했다. 또한 그는 학계와 산업계에서 활동하는 수많은 박사 과정 학생들을 지도했다.
연구 기여
로스의 연구는 학습이 지능에서 중심적인 역할을 한다는 아이디어에 중점을 둔다. 그는 학습과 추론의 융합에 선구적인 기여를 했으며, 특히 NLP 문제를 정수 선형 계획법(ILP) 작업으로 공식화하는 제약 조건부 조건 모델(Constrained Conditional Models)을 통해 그러했다. 또한 그는 약한 우연적 감독(weak, incidental supervision)을 통한 기계 학습을 개척하여 모델이 잡음이 있거나 간접적인 레이블에서 학습할 수 있게 했다.
2008년, 로스는 NLP에서 제로샷 학습에 관한 첫 논문을 공동 저술하여, 레이블이 없는 예제 없이 외부 지식을 사용하여 텍스트를 분류하는 데이터리스 분류(dataless classification) 개념을 도입했다. 그는 또한 확률적 추론(계산 복잡성 및 확률적 리프팅 추론 포함), 객체 인식의 부분 기반(성좌) 방법, 및 응답 기반 학습에 대해 연구했다.
그가 개발한 정보 추출 도구는 명명된 개체 인식(NER), 상호 참조 해결, 위키화, 의미 역할 레이블링(SRL), 및 ESL 텍스트 교정을 포함하며, 학술 연구와 상업 응용 프로그램에서 널리 사용된다. 이러한 도구는 이후 딥 러닝 및 대규모 언어 모델 연구에 영향을 미쳤다.
산업 리더십
AWS AI에서 로스는 회사의 생성형 AI 이니셔티브에 대한 과학적 방향을 총괄하며 Titan 기반 모델, Amazon Q 어시스턴트, 및 Bedrock 플랫폼을 시장에 출시하는 데 기여했다. 그의 리더십은 학술 연구와 실용적 배포를 연결하여 트랜스포머 아키텍처 및 신경망의 발전이 확장 가능한 클라우드 서비스로 전환되도록 했다.
2024년, 그는 오라클에 최고 AI 과학자로 합류하여 회사의 AI 전략 및 연구 의제에 대해 자문하고 있다. 또한 그는 법률 및 규정 준수 분야에 NLP와 기계 학습을 적용하는 스타트업인 NexLP, Inc.를 공동 설립했으며, NexLP는 2020년 e-디스커버리 소프트웨어 회사인 Reveal, Inc.에 인수되었다.
현재 역할 및 자문 활동
로스는 앨런 인공 지능 연구소의 과학 자문 위원회에서 활동하며 AI 및 NLP 연구에 기여하고 있다. 그는 커리큘럼 학습, 모델 가지치기, 및 강건한 추론 방법과 같은 주제에 대해 활발히 출판하고 여러 기관의 연구자들과 협력하고 있다. 그의 지속적인 연구는 학습, 추론, 및 언어 이해를 통합하는 지능적 행동의 통일된 방법론을 개발하는 것을 목표로 한다.
주요 출판물 및 영향
로스는 300편 이상의 동료 검토 논문을 저술했으며, 그중 다수는 ACL, NeurIPS, 및 AAAI와 같은 최고 학회에서 발표되었다. 그의 2008년 데이터리스 분류 논문은 매우 영향력이 있었으며, 이후 제로샷 및 퓨샷 학습의 발전을 예고했다. 그의 학습 및 추론 연구는 정보 추출과 질의 응답의 실용적 시스템에도 영향을 미쳐 자연어 처리 분야 전반에 기여했다. 그는 주요 학회에서 기조 연설을 했으며 통계적 학습과 기호적 추론을 연결하는 데 주도적인 역할을 해왔다.
참고 문헌
- 출처 사실은 위키백과(CC BY-SA)에서 제공됨.