댄 로스(Dan Roth, 히브리어: דן רוט)는 펜실베이니아 대학교의 Eduardo D. Glandt 컴퓨터 및 정보 과학 석좌 교수이자 오라클의 최고 AI 과학자이다. 2024년 6월까지 그는 AWS AI의 부사장이자 저명 과학자로 재직하며, Titan 모델, Amazon Q, Bedrock을 포함한 1세대 생성형 AI 제품의 과학적 노력을 구상부터 일반 공개까지 이끌었다. 그의 연구는 지능적 행동의 계산적 기반, 특히 기계 학습과 추론 방법의 통합을 통한 자연어 이해에 초점을 맞추고 있다.
로스는 이스라엘 테크니온에서 수학 학사 학위를 최우등으로 받았으며, 1995년 하버드 대학교에서 컴퓨터 과학 박사 학위를 받았다. 그는 1998년부터 2017년까지 일리노이 대학교 어배너-샴페인에서 가르친 후 펜실베이니아 대학교로 옮겼다.
학문적 경력 및 수상
로스는 미국 과학 진흥 협회(AAAS), 컴퓨터 기계 협회(ACM), 인공 지능 진흥 협회(AAAI), 및 전산 언어학 협회(ACL)의 펠로우이다. 그의 연구는 여러 최우수 논문상을 수상했으며, 인공 지능 및 NLP 분야 주요 학술지의 편집 위원회에서 활동했다. 또한 그는 학계와 산업계에서 활동하는 수많은 박사 과정 학생들을 지도했다.
연구 기여
로스의 연구는 학습이 지능에서 중심적인 역할을 한다는 아이디어에 중점을 둔다. 그는 학습과 추론의 융합에 선구적인 기여를 했으며, 특히 NLP 문제를 정수 선형 계획법(ILP) 작업으로 공식화하는 제약 조건부 조건 모델(Constrained Conditional Models)을 통해 그러하다. 또한 그는 약한 우연적 감독(weak, incidental supervision)을 통한 기계 학습을 개척하여 모델이 노이즈가 있거나 간접적인 레이블에서 학습할 수 있게 했다.
2008년, 로스는 NLP에서 제로샷 학습에 관한 첫 논문을 공동 저술하여 데이터 없는 분류(dataless classification) 개념을 도입했는데, 이는 모델이 외부 지식을 사용하여 레이블이 없는 예제 없이 텍스트를 분류하는 방식이다. 그는 또한 확률적 추론(계산 복잡성 및 확률적 리프트 추론 포함), 객체 인식의 부분 기반(성좌) 방법, 및 응답 기반 학습에 대해서도 연구했다.
그가 개발한 정보 추출 도구는 개체명 인식(NER), 상호 참조 해결, 위키화, 의미 역할 레이블링(SRL), 및 ESL 텍스트 교정을 포함하며, 학술 연구와 상업적 응용 모두에서 널리 사용된다. 이러한 도구는 이후 딥 러닝 및 대규모 언어 모델 연구에 영향을 미쳤다.
산업 리더십
AWS AI에서 로스는 회사의 생성형 AI 이니셔티브에 대한 과학적 방향을 총괄하며, Titan 기반 모델, Amazon Q 어시스턴트, 및 Bedrock 플랫폼을 시장에 출시하는 데 기여했다. 그의 리더십은 학술 연구와 실용적 배포를 연결하여 트랜스포머 아키텍처 및 신경망의 발전이 확장 가능한 클라우드 서비스로 전환되도록 했다.
2024년, 그는 오라클에 최고 AI 과학자로 합류하여 회사의 AI 전략 및 연구 의제에 대한 자문을 제공한다. 또한 그는 법률 및 규정 준수 분야에 NLP와 기계 학습을 적용하는 스타트업인 NexLP, Inc.를 공동 설립했으며, NexLP는 2020년 e-디스커버리 소프트웨어 회사인 Reveal, Inc.에 인수되었다.
현재 역할 및 자문 활동
로스는 앨런 인공 지능 연구소의 과학 자문 위원회에서 활동하며 AI 및 NLP 연구에 기여하고 있다. 그는 커리큘럼 학습, 모델 가지치기, 및 견고한 추론 방법과 같은 주제에 대해 활발히 출판하고 여러 기관의 연구자들과 협력하고 있다. 그의 지속적인 연구는 학습, 추론, 및 언어 이해를 통합하는 지능적 행동을 위한 통합 방법론을 개발하는 것을 목표로 한다.
주요 출판물 및 영향
로스는 ACL, NeurIPS, 및 AAAI와 같은 주요 학회에서 300편 이상의 동료 검토 논문을 저술했다. 그의 2008년 데이터 없는 분류 논문은 매우 영향력이 있었으며, 이후 제로샷 및 퓨샷 학습의 발전을 예고했다. 그의 학습 및 추론 연구는 정보 추출 및 질문 응답의 실용적 시스템에도 영향을 미쳐 자연어 처리의 광범위한 분야에 기여했다. 그는 주요 학회에서 기조 연설을 했으며 통계적 학습과 기호적 추론을 연결하는 데 주도적인 역할을 해왔다.
참고 문헌
- 출처 사실은 위키백과(CC BY-SA)에서 제공됨.