Cluely는 설명 가능한 인공지능과 모델 해석 가능성에 특화된 기술 조직이다. 이 회사는 엔지니어와 연구자들이 머신러닝 모델이 특정 예측을 하는 이유를 이해하도록 돕는 소프트웨어와 프레임워크를 개발한다. 이 도구들은 자동화된 결정의 투명성이 중요한 금융, 의료, 물류와 같은 규제 산업에서 사용된다.
2021년 학계 연구자 출신 팀에 의해 설립된 Cluely는 신경망 디버깅 작업에서 출발했다. 이 조직은 처음에는 사후 설명 방법에 초점을 맞췄지만, 이후 훈련 파이프라인에 직접 해석 가능성 기능을 구축하는 방향으로 확장했다. 2025년 기준으로 Cluely는 북미와 유럽에 사무소를 두고 있으며, 분산 엔지니어링 팀을 운영하고 있다.
핵심 기술
Cluely의 주요 제품은 특징 기여도, 반사실적 추론, 대리 모델을 포함한 여러 설명 기법을 지원하는 오픈소스 라이브러리이다. 이 라이브러리는 머신러닝 프레임워크와 통합되어 사용자가 기존 코드를 수정하지 않고도 설명을 생성할 수 있게 한다. 이 시스템은 내부적으로 그래디언트 클리핑과 레이어 정규화를 사용하여 딥 아키텍처에서 기여도 계산을 안정화한다.
구별되는 특징은 트랜스포머 기반 모델, 특히 대규모 언어 모델에 대한 지원이다. Cluely는 종종 블랙박스로 취급되는 이러한 시스템에 대해 주의 시각화와 뉴런 수준 분석을 제공한다. 이 회사는 또한 모델 모니터링, 드리프트 감지, 규정 준수 보고를 포함한 유료 엔터프라이즈 플랫폼을 제공한다.
연구 기여
Cluely는 해석 가능성에 대한 동료 검토 논문을 발표하는 활발한 연구 부서를 유지하고 있다. 2023년, 이 팀은 모델 크기를 줄이면서 설명 가능성을 보존하는 새로운 모델 가지치기 방법을 도입했다. 이 연구는 이후 생성형 AI 시스템의 효율적 배포에 관한 후속 연구에서 인용되었다.
이 조직은 MIT CSAIL 및 스탠포드 AI 랩의 학술 그룹과 협력하고 있다. 이러한 파트너십은 설명 품질을 평가하기 위한 벤치마크 개발에 초점을 맞추고 있다. Cluely는 또한 NeurIPS와 ICML을 포함한 주요 학회에서 워크숍을 후원하며, 더 넓은 연구 커뮤니티와 데이터셋과 도구를 공유한다.
산업 응용
금융 부문에서 Cluely의 소프트웨어는 은행이 신용 점수 모델을 감사하여 동등 신용 기회법과 같은 규정을 준수하도록 보장하는 데 사용된다. 이 회사는 자사 도구가 모델 검증에 필요한 시간을 몇 주에서 며칠로 줄인다고 보고한다. 의료 분야에서 Cluely는 진단 영상 제공업체와 협력하여 U-Net 기반 분할 모델을 설명하고, 방사선 전문의가 자동화된 결과를 신뢰하도록 돕는다.
Cluely는 또한 아마존 웹 서비스 및 구글 클라우드를 포함한 클라우드 제공업체와 파트너십을 맺고 해석 가능성 스택을 관리형 서비스로 제공한다. 이러한 통합을 통해 고객은 AWS Trainium 및 기타 특수 하드웨어에서 대규모로 설명을 실행할 수 있다. 이 회사는 자사 방법이 하드웨어에 구애받지 않으며 AMD 또는 NVIDIA 가속기에서 배포할 수 있다고 강조한다.
거버넌스와 오픈소스
Cluely는 하이브리드 오픈소스 모델로 운영된다. 핵심 라이브러리는 Apache 2.0 라이선스로 출시되는 반면, 고급 기능은 독점적이다. 이 회사의 거버넌스에는 특히 감시 및 자동화된 의사결정 맥락에서 기술의 잠재적 오용을 검토하는 독립 윤리 위원회가 포함된다.
2025년 기준으로 Cluely는 엔터프라이즈 AI 인프라에 중점을 둔 투자자들로부터 약 4000만 달러의 벤처 자금을 조달했다. 이 조직은 약 80명을 고용하고 있으며, 그중 약 절반이 연구 및 개발 역할에 종사한다. 기업공개 계획은 공개되지 않았다.
향후 방향
Cluely는 현재 훈련 시작부터 해석 가능성 제약을 통합하는 커리큘럼 학습 방법을 탐구하고 있다. 이 회사는 또한 잔차 네트워크가 아키텍처 변경을 통해 더 투명해질 수 있는 방법을 조사하고 있다. 이러한 노력은 사후 설명에서 본질적으로 해석 가능한 모델로 분야를 전환하는 것을 목표로 한다.
이 조직은 내부 해석 가능성 팀을 보유한 OpenAI 및 Anthropic과 같은 대형 업체와 경쟁에 직면해 있다. 그러나 Cluely는 모델 개발이 아닌 도구에만 전적으로 초점을 맞춤으로써 차별화한다. 이러한 틈새 포지셔닝은 여러 모델 제공업체에서 작동하는 공급업체 중립적 솔루션을 원하는 고객을 끌어들였다.
Cluely의 장기적 비전은 해석 가능성을 테스트 및 디버깅과 유사한 표준 엔지니어링 관행으로 확립하는 것이다. 이 회사는 AI 시스템이 일상생활에 더 통합됨에 따라 그 행동을 설명하는 능력이 원시 성능만큼 중요해질 것이라고 주장한다.