Robust Intelligence는 인공지능 시스템의 보안에 중점을 두는 기술 기업이다. 2019년 Yaron Singer와 Kojin Oshiba가 설립했으며, 기계 학습 모델을 적대적 공격, 데이터 드리프트 및 기타 보안 취약점으로부터 검증하고 보호하도록 설계된 플랫폼을 제공한다. 본사는 캘리포니아주 샌프란시스코에 위치한다.
이 회사는 하버드 대학교의 연구에서 시작되었으며, Singer는 그곳에서 컴퓨터 과학 및 응용 수학 교수로 재직 중이다. Robust Intelligence는 기업 환경에서 AI 보안에 대한 증가하는 필요성을 해결하는 것을 목표로 하며, 특히 조직이 사기 탐지, 자율 주행 차량 및 의료 진단과 같은 중요한 애플리케이션에 기계 학습 모델을 점점 더 많이 배포함에 따라 그 필요성이 커지고 있다.
역사와 설립
Robust Intelligence는 2019년 Yaron Singer와 Kojin Oshiba에 의해 공동 설립되었다. CEO를 맡고 있는 Singer는 알고리즘 및 기계 학습에 대한 학문적 전문성을 가져왔고, CTO인 Oshiba는 엔지니어링 및 제품 개발 경험을 기여했다. 이 회사는 처음에 비공개 모드로 운영되며 핵심 기술을 개발하다가 2021년에 공개적으로 출시되었다.
2021년, Robust Intelligence는 Sequoia Capital이 주도한 3천만 달러 규모의 시리즈 A 투자 라운드를 발표했으며, Harrison Metal과 Y Combinator를 포함한 다른 투자자들도 참여했다. 이 자금은 제품 개발을 가속화하고 회사의 시장 진출 노력을 확장하기 위한 것이었다. 2023년까지 회사는 추가 자금을 조달하여 총액이 6천만 달러를 초과하게 되었다.
플랫폼과 기술
Robust Intelligence의 핵심 제공 사항은 AI 검증 및 보호 플랫폼이다. 이 플랫폼은 기계 학습 모델의 취약점(적대적 예제, 데이터 포이즈닝 및 분포 외 입력 포함)을 지속적으로 테스트한다. 자동화된 레드 팀링, 스트레스 테스트 및 모니터링을 결합하여 잠재적 실패 모드를 악용되기 전에 식별한다.
이 플랫폼은 기존 ML 워크플로우와 통합되며 TensorFlow, PyTorch 및 scikit-learn과 같은 널리 사용되는 프레임워크를 지원한다. 보안 팀이 위험을 시각화하고 알림을 수신하며 규정 준수 보고서를 생성할 수 있는 대시보드를 제공한다. 또한 시스템은 적대적 훈련 및 입력 정화와 같은 완화 전략을 제공하여 식별된 위협에 대해 모델을 강화한다.
산업 맥락
인공지능과 기계 학습의 부상은 새로운 보안 과제를 창출했다. 전통적인 사이버 보안은 데이터와 인프라 보호에 초점을 맞추지만, AI 모델은 고유한 취약점을 도입한다. 적대적 공격은 입력을 조작하여 오분류를 유발할 수 있으며, 데이터 드리프트는 시간이 지남에 따라 모델 성능을 저하시킬 수 있다. Robust Intelligence는 이 틈새 시장에서 운영되며, 다른 AI 보안 스타트업 및 광범위한 사이버 보안 공급업체와 경쟁한다.
주요 관련 개념에는 적대적 기계 학습, 데이터 드리프트 및 모델 검증이 포함된다. 이 회사의 접근 방식은 사고가 발생하기를 기다리지 않고 약점을 적극적으로 찾아내는 점에서 AI에 대한 침투 테스트와 자주 비교된다.
리더십과 팀
CEO인 Yaron Singer는 알고리즘 및 기계 학습 분야의 저명한 연구자이다. 그는 광범위하게 논문을 발표했으며 NSF CAREER Award와 Sloan Research Fellowship과 같은 상을 수상했다. CTO인 Kojin Oshiba는 이전에 Google에서 근무했으며 대규모 시스템 및 제품 엔지니어링 경험을 보유하고 있다.
이 회사는 Google, Microsoft 및 다양한 대학의 전 직원을 포함하여 주요 기술 기업 및 연구 기관에서 인재를 유치했다. 팀에는 보안, ML 연구 및 소프트웨어 엔지니어링 전문가가 포함된다.
자금과 성장
Robust Intelligence는 상당한 벤처 캐피털 자금을 조달했다. 2021년 시리즈 A 라운드에 이어 2023년 시리즈 B 라운드가 진행되어 총 자금이 6천만 달러에 도달했다. 투자자에는 Sequoia Capital, Harrison Metal, Y Combinator 등이 포함된다. 회사는 이 자금을 사용하여 영업 팀을 확장하고 제품을 강화하며 Amazon Web Services 및 Google Cloud와 같은 클라우드 제공업체와의 파트너십을 구축했다.
2023년 현재, Robust Intelligence는 금융, 의료 및 기술 분야의 다양한 기업 고객에게 서비스를 제공한다. 회사는 자사 플랫폼이 수천 개의 모델을 테스트하고 보호하는 데 사용되었다고 보고하지만, 특정 고객 이름은 종종 기밀로 유지된다.
향후 방향
앞으로 Robust Intelligence는 개발부터 배포까지 전체 AI 수명 주기를 포괄하도록 플랫폼을 확장하는 것을 목표로 한다. 또한 회사는 프롬프트 주입 및 편향된 출력과 같은 새로운 유형의 위험을 제시하는 대규모 언어 모델 및 생성형 AI의 새로운 과제를 해결하는 방법을 모색하고 있다. AI 채택이 계속 증가함에 따라 강력한 보안과 검증에 대한 수요도 증가할 것으로 예상되며, 회사의 추가 확장 가능성을 높이고 있다.
같이 보기
- 적대적 기계 학습
- 데이터 드리프트
- 모델 검증
- AI 보안
- Yaron Singer