Lightmatter는 인공지능 및 머신러닝 워크로드를 가속화하도록 설계된 포토닉 컴퓨팅 및 광학 상호 연결 기술을 전문으로 하는 기업이다. 2017년에 설립된 이 회사는 전자가 아닌 빛을 사용하여 계산을 수행하고 데이터를 이동시키는 하드웨어를 개발하며, 데이터 센터에서 기존 전자 프로세서의 에너지 및 속도 한계를 해결하는 것을 목표로 한다. 이 기술은 데이터 전송 및 처리 요구가 매우 높은 딥러닝 및 대규모 언어 모델 추론과 훈련을 포함하는 애플리케이션을 대상으로 한다.
이 회사의 핵심 전제는 AI 모델의 크기와 복잡성이 증가함에 따라 기존 반도체 기반 시스템에 전력을 공급하는 데 필요한 에너지가 지속 불가능해진다는 것이다. Lightmatter의 접근 방식은 포토닉스를 활용하여 전력 소비를 줄이고 계산 처리량을 늘리며, 인텔, AMD, NVIDIA와 같은 기업의 기존 칩 아키텍처에 대한 대안으로 자리매김한다.
역사 및 설립
Lightmatter는 MIT CSAIL에서 연구를 수행하던 중 만난 Nick Harris, Darius Bunandar, Thomas Graham이 2017년에 공동 설립했다. 설립자들은 수십 년 동안 학계에서 탐구되어 온 포토닉 컴퓨팅 연구를 상업화하려고 했다. 이 회사는 2019년에 AI 추론용 포토닉 프로세서 구축에 초점을 맞춘 스텔스 모드에서 공식 출범했다.
2021년, Lightmatter는 AI 추론용 포토닉 가속기인 Envise와 칩과 메모리를 연결하는 광학 상호 연결 기술인 Passage라는 첫 주요 제품 라인을 출시했다. 이후 이 회사는 제품 포트폴리오를 확장했으며, 2021년 1억 5,400만 달러 규모의 시리즈 C 라운드와 2024년 4억 달러 규모의 시리즈 D 라운드를 포함한 상당한 벤처 캐피털 자금을 유치하여 기업 가치가 40억 달러 이상으로 평가받았다.
기술 및 제품
Lightmatter의 주요 기술은 광학 부품을 실리콘 칩에 통합하는 실리콘 포토닉스를 기반으로 한다. 이 회사의 Envise 프로세서는 신경망 계산의 기본 연산인 행렬 곱셈을 수행하기 위해 포토닉 어레이를 사용한다. 데이터를 빛으로 인코딩함으로써 프로세서는 전자식 대응 제품보다 더 높은 대역폭과 더 낮은 지연 시간을 달성하는 것을 목표로 한다.
Passage 상호 연결 기술은 프로세서와 메모리 간 데이터 이동의 병목 현상을 해결한다. 광학 도파로를 사용하여 고속으로 데이터를 전송하며, 수천 개의 칩에 걸쳐 AI 시스템을 보다 효율적으로 확장할 수 있게 한다. 이는 대규모 병렬 처리가 필요한 트랜스포머 모델 훈련에 특히 관련이 있다.
2024년, Lightmatter는 포토닉 칩 제조를 위해 TSMC와의 파트너십을 발표했으며, TSMC의 고급 패키징 및 제조 역량을 활용한다. 이 회사는 또한 광학 네트워킹 부품에 대해 브로드컴과 협력한다.
애플리케이션 및 시장 위치
Lightmatter는 아마존 웹 서비스, 구글 클라우드, 애저와 같은 잠재 고객을 포함한 데이터 센터 운영자와 클라우드 서비스 제공업체를 대상으로 한다. 이 기술은 AI 훈련과 추론 모두에 위치하며, 대규모 AI 배포의 에너지 발자국을 줄이는 데 특히 중점을 둔다. 이 회사는 포토닉 프로세서가 전자 프로세서에 비해 에너지 효율성에서 수 자릿수 개선을 달성할 수 있다고 주장한다.
AI 가속기 시장은 NVIDIA 및 Cerebras와 같은 기존 업체가 지배하고 있지만, Lightmatter는 포토닉 접근 방식을 통해 차별화한다. 2025년 현재, 이 회사는 Envise 프로세서의 상업적 대규모 배포를 발표하지 않았지만, 연구 기관과의 파트너십을 확보했으며 데이터 센터용 레퍼런스 설계를 개발 중이다.
과제 및 향후 전망
포토닉 컴퓨팅은 기존 전자 시스템과 광학 부품을 통합하는 어려움과 특수 제조 공정의 필요성을 포함한 몇 가지 기술적 과제에 직면한다. 제조를 위해 TSMC에 의존하는 것은 이러한 장애물을 극복하기 위한 전략적 움직임이지만, 회사의 생산 일정을 TSMC의 용량에 묶어두기도 한다.
회사의 성공은 AI 워크로드의 지속적인 성장과 데이터 센터 운영자가 새로운 하드웨어 아키텍처를 채택하려는 의지에 달려 있다. 생성형 AI 및 OpenAI 스타일 모델의 부상으로 효율적인 컴퓨팅에 대한 수요가 증가할 것으로 예상되며, 이는 Lightmatter에 이점이 될 수 있다. 그러나 효율성이 계속 개선되고 있는 전자 가속기와의 경쟁도 중요한 요소로 남아 있다.
리더십 및 팀
Lightmatter는 MIT에서 포토닉 연구를 수행했던 공동 설립자 Nick Harris CEO가 이끌고 있다. 리더십 팀에는 포토닉스, 반도체 제조, AI 시스템 전문가가 포함된다. 이 회사는 제록스 팔로알토 연구소 및 노키아 벨 연구소를 포함한 주요 기술 기업 및 연구 기관에서 인재를 영입하여 고급 하드웨어 혁신에 중점을 두고 있음을 반영한다.
2025년 현재, Lightmatter는 300명 이상의 직원을 고용하고 있으며 매사추세츠주 보스턴과 캘리포니아주 프리몬트에 사무소를 두고 있다. 이 회사는 포토닉 컴퓨팅에 관한 연구를 계속 발표하고 있으며 학계 기관과 협력하여 이 분야를 발전시키고 있다.