Ce Zhang은 기계 학습 시스템과 데이터 관리에 기여한 것으로 알려진 컴퓨터 과학자이자 학자이다. 그는 시카고 대학교의 부교수이자 오픈소스 생성형 AI 인프라에 주력하는 회사인 Together AI의 공동 창립자이다. 그의 연구는 인공지능과 데이터베이스 및 시스템 설계를 연결하여 기계 학습을 더 효율적이고 접근 가능하게 만드는 것을 목표로 한다.
Zhang의 업적은 Sloan Research Fellowship과 NSF CAREER Award를 포함한 여러 상으로 인정받았다. 그는 SIGMOD, VLDB, NeurIPS와 같은 최고 학회에 광범위하게 논문을 발표했으며, 그의 연구는 대규모 AI 모델 배포에 있어 학계와 산업계의 관행에 영향을 미쳤다.
초기 경력 및 교육
Zhang은 토론토 대학교에서 컴퓨터 과학 박사 학위를 받았으며, Renée J. Miller의 지도 아래 연구를 수행했다. 그의 박사 연구는 데이터 통합과 정제에 초점을 맞추었으며, 이는 이후 기계 학습 파이프라인에 이러한 기법을 적용하는 데 관심을 갖게 하는 계기가 되었다. 시카고 대학교에 합류하기 전에는 스탠포드 AI 연구소에서 박사후 연구원으로 근무하며 Christopher Ré와 함께 비정형 데이터에서 정보 추출을 위해 통계적 추론을 사용하는 DeepDive 시스템을 공동 개발했다.
연구 기여
Zhang의 연구는 데이터 관리와 기계 학습의 교차점에 중점을 둔다. 그는 인덱싱, 압축, 쿼리 최적화와 같은 데이터베이스 원리를 활용하여 딥러닝 모델의 훈련과 추론을 최적화하는 시스템을 개발했다. 주목할 만한 프로젝트 중 하나는 잠금 없이 멀티코어 시스템에서 SGD 변형을 확장하여 거의 선형적인 속도 향상을 달성하는 방법을 보여준 "Hogwild!" 스타일의 병렬 SGD 구현이다.
그는 또한 데이터 과학자가 하이퍼파라미터 공간을 효율적으로 탐색할 수 있게 하는 대규모 모델 선택 및 관리 시스템인 "Cerebro" 개발에 기여했다. "LazyBatching" 및 "DataSkipping" 기법에 대한 그의 연구는 관계형 데이터에서 신경망 훈련 성능을 개선하여 I/O 및 계산 비용을 줄였다. 이러한 기여는 널리 인용되었으며 ML 시스템 분야의 후속 연구에 영향을 미쳤다.
Together AI 및 산업 영향
2022년, Zhang은 다른 연구자 및 엔지니어들과 함께 Together AI를 공동 창립했다. 이 회사는 대규모 언어 모델을 훈련하고 실행하기 위한 클라우드 인프라를 제공하며, 오픈소스 모델과 도구에 중점을 둔다. Together AI의 플랫폼은 Llama 및 Mistral과 같은 인기 모델을 지원하며, 미세 조정, 추론 및 배포 서비스를 제공한다. 이 회사는 상당한 자금을 조달했으며, 전문적이고 비용 효율적인 솔루션을 제공함으로써 대형 클라우드 제공업체와 경쟁하는 생성형 AI 생태계의 핵심 플레이어가 되었다.
Together AI에서 Zhang의 역할은 분산 시스템에서 트랜스포머 아키텍처의 성능을 최적화하는 데 있어 기술적 방향을 이끄는 것이다. 그의 학문적 통찰력은 확장 가능한 AI 인프라 구축에 대한 회사의 접근 방식을 직접 형성했으며, 그는 연구와 산업 실무를 계속 연결하고 있다.
교육 및 멘토링
시카고 대학교에서 Zhang은 기계 학습 시스템과 데이터 관리에 관한 강의를 한다. 그는 수많은 박사 과정 학생과 박사후 연구원을 멘토링했으며, 그들 중 다수는 학계와 산업계에서 직책을 맡았다. 그의 교육은 AI 시스템 구축 및 배포에 대한 실습 경험을 강조하며, 학생들이 이론적 기초와 실용적인 엔지니어링 과제를 모두 이해하도록 장려한다.
Zhang은 또한 NeurIPS, ICML, SIGMOD와 같은 주요 학회의 프로그램 위원회에서 활동하며 학술 회의 및 워크숍 조직에 적극적으로 참여하고 있다. 그는 AI 연구의 재현성을 강력히 옹호하며, 그의 연구실은 개발한 시스템에 대한 오픈소스 코드와 벤치마크를 유지 관리한다.
인정 및 수상
Zhang의 기여는 여러 영예로 인정받았다. 그는 뛰어난 가능성을 지닌 초기 경력 과학자에게 수여되는 Sloan Research Fellowship을 2021년에 받았다. 또한 젊은 교수진을 위한 권위 있는 보조금인 NSF CAREER Award도 수상했다. "Cerebro"에 대한 그의 논문은 ICDE 2020에서 최우수 논문상을 받았으며, "Hogwild!" 스타일 알고리즘에 대한 그의 연구는 병렬 기계 학습의 기초적 기여로 인정받았다.
그는 여러 회의 및 워크숍에서 기조 연설을 초청받았으며, 그의 연구는 AI 발전을 다루는 미디어 매체에서 소개되었다. Together AI에서의 그의 작업은 AI 인프라 제공업체의 성장하는 환경에 대한 산업 보고서에서도 조명되었다.
향후 방향
Zhang은 잔차 네트워크 및 기타 아키텍처의 효율적인 훈련 방법과 모델 가지치기 및 데이터 증강 기법을 포함한 기계 학습 시스템의 새로운 개척지를 계속 탐구하고 있다. 그는 대규모 모델 훈련에 필요한 계산 리소스를 줄여 AI를 더 지속 가능하게 만드는 데 관심이 있다. 그의 진행 중인 연구는 변화하는 데이터 분포에 적응하고 대규모 실시간 추론을 지원할 수 있는 시스템을 개발하는 것을 목표로 한다.
Together AI의 공동 창립자로서 Zhang은 또한 AI에 대한 접근을 민주화하여 연구자와 개발자가 엄청난 비용 없이 강력한 모델을 활용할 수 있도록 하는 데 중점을 두고 있다. 학자이자 기업가로서의 그의 이중 역할은 향후 수년간 인공지능의 이론적 및 실용적 진화에 영향을 미칠 수 있는 위치에 있다.