Shan Carter는 기계 학습과 생성형 AI 분야의 연구로 알려진 인공지능 연구자이자 기업가이다. Carter는 AI 연구와 응용에 초점을 맞춘 회사인 Eureka Labs를 공동 설립했으며, Google의 딥러닝 부서인 Google Brain에서 연구 직책을 역임했다. Carter의 경력은 학술 연구와 산업 제품 개발을 아우르며, 신경망 아키텍처와 대규모 언어 모델에 기여했다.
Carter의 초기 연구는 신경망을 이해하고 시각화하기 위한 도구와 기술을 개발하는 데 집중되었다. 이 기간 동안 Carter는 딥러닝 모델을 더 해석 가능하게 만드는 것을 목표로 한 프로젝트에서 연구자들과 협력했으며, 특성 시각화와 기여도 분석 방법에 대한 작업을 포함했다. 이러한 노력은 AI 시스템의 투명성에 대한 더 넓은 논의에 기여했으며, 이는 Carter의 이후 벤처에서도 핵심적인 주제로 남아 있다.
초기 경력과 Google Brain
Carter는 2010년대 중반에 Google Brain에 합류했으며, 당시 이 그룹은 딥러닝과 그 응용에 대한 범위를 확장하고 있었다. Google Brain에서 Carter는 Llion Jones 및 Jakob Uszkoreit과 같은 연구자들과 함께 일하며 새로운 신경망 설계를 탐구하는 프로젝트에 기여했다. 주목할 만한 참여 분야 중 하나는 나중에 Transformer (architecture) 아키텍처의 기초가 된 어텐션 메커니즘의 개발이었다. Carter의 역할은 이론적 연구와 실용적 구현을 모두 포함하며, 알고리즘 아이디어와 확장 가능한 시스템 사이의 간극을 메우는 데 기여했다.
이 기간 동안 Carter는 더 넓은 연구 커뮤니티와도 교류하며 학술 대회에서 발표하고 모델 해석 가능성과 최적화와 같은 주제에 대한 논문을 출판했다. 이러한 출판물은 일부 동시대 연구자들의 작품만큼 널리 인용되지는 않았지만, 명확성과 실용적 통찰력으로 가치를 인정받았다. Carter의 복잡한 기술적 개념을 전달하는 능력은 Google DeepMind 프로젝트를 포함한 Google 내 여러 팀 간의 협력을 촉진하는 데 도움이 되었다.
기업가로의 전환
2010년대 후반까지 Carter는 대규모 기업 연구소를 넘어 새로운 기회를 모색하기 시작했다. 생성형 AI와 대규모 언어 모델의 급속한 성장은 연구에서 배포로 빠르게 전환할 수 있는 전문 스타트업에 대한 수요를 창출했다. 2021년, Carter는 Google Brain과 다른 AI 기관 출신의 소규모 전 동료 팀과 함께 Eureka Labs를 공동 설립했다. 회사의 사명은 실제 문제에 적용할 수 있는 AI 시스템을 개발하는 것이었으며, 초기에는 자연어 처리와 멀티모달 모델에 초점을 맞췄다.
Eureka Labs는 AI 분야에 관심 있는 벤처 캐피탈 회사로부터 시드 펀딩을 유치했지만, 구체적인 재정 세부 사항은 공개되지 않았다. 스타트업의 초기 프로젝트에는 Carter의 연구 경력 동안 개선된 딥러닝 기술을 활용한 자동 콘텐츠 생성 및 데이터 분석 도구가 포함되었다. Carter의 리더십은 순수 탐구적 연구보다는 실용적인 접근 방식을 우선시했으며, 견고한 엔지니어링을 강조했다.
신경망 연구에 대한 기여
Carter의 연구 기여는 신경망 해석 가능성 분야에서 가장 두드러진다. 2018년 논문에서 Carter와 동료들은 합성곱 신경망의 내부 표현을 시각화하는 방법을 소개하여 연구자들이 모델 예측에 영향을 미치는 특성을 식별할 수 있게 했다. 이 작업은 신경망을 블랙박스 이상으로 이해하려는 더 큰 흐름의 일부였으며, 이후 AI 커뮤니티에서 사용되는 도구에 영향을 미쳤다.
또 다른 기여는 딥 모델 훈련을 위한 최적화 기술과 관련이 있었다. Carter는 순환 신경망에서 훈련 역학을 안정화하는 방법을 탐구했으며, 트랜스포머가 널리 채택되기 전에 흔했던 기울기 소실과 같은 문제를 해결했다. 이러한 발견은 점진적이었지만, 나중에 TensorFlow 및 PyTorch와 같은 프레임워크에 체계화된 모범 사례를 형성하는 데 도움이 되었다.
Eureka Labs와 제품 개발
Carter의 지도 아래 Eureka Labs는 2022년 첫 상용 제품을 출시했다: 기업 워크플로우에 맞춘 맞춤형 AI 어시스턴트를 구축하기 위한 플랫폼이었다. 이 플랫폼은 머신러닝 모델을 사용자 친화적인 인터페이스와 통합하여 비전문가도 광범위한 코딩 없이 AI를 배포할 수 있게 했다. 이 제품은 금융 및 의료와 같은 분야의 중견 기업들의 관심을 끌었지만, 대규모 경쟁사에 비해 채택은 제한적이었다.
2023년, Eureka Labs는 과학 연구를 위한 AI 기반 시뮬레이션을 포함한 더 전문화된 응용 분야로 방향을 전환했다. Carter는 AI 개발을 측정 가능한 결과와 일치시키는 것의 중요성에 대해 공개적으로 말해 왔으며, 이는 Eureka Labs를 더 투기적인 벤처와 구별 짓는 철학이다. 회사는 또한 모델 평가 및 벤치마킹을 위한 코드를 출시하여 오픈소스 프로젝트에 기여했으며, 이는 다른 연구자들에 의해 사용되었다.
공공 활동과 옹호
Carter는 책임 있는 AI 개발을 옹호해 왔으며, 현장에서 투명성과 책임성의 필요성에 대해 자주 글을 쓰고 말해 왔다. NeurIPS 및 ICML과 같은 학술 대회에서의 강연에서 Carter는 해석 가능성이 고위험 분야에서 AI를 배포하기 위한 핵심 요건이 되어야 한다고 주장했다. 이러한 입장은 Melanie Mitchell 및 Joshua Tenenbaum과 같은 연구자들과 Carter를 일치시켰으며, 이들도 신중한 진전을 촉구해 왔다.
Carter는 또한 정책 논의에 참여하여 생성형 AI의 잠재적 사회적 영향에 대해 자문 위원회에 증언했다. OpenAI나 Anthropic과 같은 인물들만큼 두드러지지는 않지만, Carter의 관점은 특히 대규모 모델 감사와 관련된 AI 거버넌스 보고서에서 인용되었다.
인정과 영향
Carter의 작업은 주요 AI 학술 대회의 프로그램 위원회와 학술 기관의 자문 위원회에 초청되는 등 인정을 받았다. 2020년, Carter는 컴퓨팅 기계 협회(ACM)의 선임 회원으로 임명되어 현장에 대한 기여를 반영했다. 업계 기관으로부터의 수상은 덜 빈번했지만, Carter의 영향력은 학술 및 상업 환경 모두에서 해석 가능성 도구의 채택에서 분명하게 드러난다.
AI 커뮤니티 내에서 Carter는 멘토링으로 잘 알려져 있으며, Google Brain과 이후 Eureka Labs에서 인턴과 주니어 연구자들을 지도했다. 여러 전 멘티들은 Amazon Web Services 및 Google Cloud와 같은 회사에서 직책을 맡아 업계 전반에 걸쳐 Carter의 영향을 확장했다.
현재 작업과 향후 방향
2024년 현재, Carter는 Eureka Labs를 계속 이끌며 AI를 새로운 하드웨어 플랫폼과 통합하는 데 집중하고 있다. 회사는 모델 성능을 최적화하기 위해 AMD 및 NVIDIA와 같은 칩 제조업체와의 파트너십을 모색했지만, 구체적인 계약은 발표되지 않았다. Carter는 과학적 발견을 위한 인공지능에 관심을 표명했으며, 이는 Eureka Labs가 개발 중인 시뮬레이션 도구의 혜택을 받을 수 있는 분야이다.
Carter의 기업 연구에서 스타트업 리더십으로의 궤적은 AI 산업의 더 넓은 변화를 반영하며, 여기서 민첩성과 응용 집중이 점점 더 가치 있게 되었다. 널리 알려진 이름은 아니지만, 해석 가능성과 실용적인 AI 배포에 대한 Carter의 기여는 현장에 흔적을 남겼으며, Eureka Labs의 지속적인 작업은 생성형 시스템의 미래 발전을 형성할 수 있다.
유산과 평가
Carter의 유산을 평가하려면 기술적 기여와 기업가적 영향을 균형 있게 고려해야 한다. Google Brain 시절 개발된 해석 가능성 방법은 여전히 문헌에서 인용되고 있으며, Eureka Labs는 기업 AI 분야에서 틈새 시장을 개척했다. 그러나 회사는 주요 플레이어의 규모를 달성하지 못했으며, 일부 비평가들은 제품이 혼잡한 시장에서 완전히 차별화되지 못했다고 주장한다.
그럼에도 불구하고 투명성과 엄격한 평가에 대한 Carter의 강조는 빠르고 검토되지 않은 배포를 경계하는 AI 커뮤니티의 한 부분과 공명해 왔다. 현장이 계속 진화함에 따라, 특히 규제 기관과 사용자가 AI 시스템이 작동하는 방식에 대한 더 큰 통찰력을 요구함에 따라 Carter의 접근 방식은 선견지명이 있는 것으로 판명될 수 있다. 현재로서는 Carter는 혁신과 신중함의 균형을 맞추며 그 미래를 형성하는 데 적극적으로 참여하고 있다.