Apertus는 인공지능 모델을 구축, 훈련, 배포하기 위한 오픈소스 소프트웨어 프레임워크이다. 이는 독점 AI 개발 스택에 대한 모듈식이고 투명한 대안을 제공하도록 설계되었으며, 연구자와 엔지니어가 상호 교환 가능한 구성 요소로 머신러닝 파이프라인을 구축할 수 있게 한다. 이 프로젝트는 재현성과 감사 가능성을 강조하며, 모델 아키텍처, 훈련 절차, 하드웨어 활용에 대한 세밀한 제어를 가능하게 하는 데 중점을 둔다. Apertus는 커뮤니티 주도 이니셔티브로 유지되며, 소스 코드는 허용적 라이선스 하에 공개적으로 제공된다.
이 프레임워크는 대규모 AI 시스템의 증가하는 복잡성과 불투명성에 대응하여 시작되었다. 개발은 2020년대 초에 시작되었으며, 첫 안정 버전은 2023년에 출시되었다. Apertus는 모델 정의를 특정 실행 환경에서 분리하는 핵심 추상화 계층을 중심으로 구축된다. 이 설계는 동일한 모델 코드가 수정 없이 CPU, GPU, 특수 가속기 등 다양한 하드웨어 플랫폼에서 실행될 수 있게 한다. 이 프로젝트는 AI 수명 주기의 모든 단계를 검사할 수 있는 투명성과 능력을 우선시하는 학술 연구자와 독립 개발자 사이에서 주목을 받고 있다.
핵심 아키텍처
Apertus의 아키텍처는 머신러닝 워크플로우의 특정 측면을 담당하는 여러 개별 모듈로 구성된다. 중심 구성 요소는 모델 정의 API로, 사용자가 선언적 구문을 사용하여 신경망 계층, 활성화 함수, 연결 패턴을 지정할 수 있게 한다. 이 API는 개별 합성곱 또는 순환 계층과 같은 저수준 기본 요소와 잔차 블록 또는 트랜스포머 인코더와 같은 고수준 빌딩 블록을 모두 지원한다.
모델 API 아래에는 실제 계산을 처리하는 실행 엔진이 있다. 엔진에는 사용자 정의 모델을 효율적인 계산 그래프로 변환하는 그래프 최적화기가 포함된다. 이 최적화기는 연산자 융합, 메모리 계획, 레이아웃 변환과 같은 작업을 수행한다. 실행 엔진에는 특정 하드웨어 대상에 대한 최적화된 기계 코드를 생성할 수 있는 JIT(Just-In-Time) 컴파일러도 포함되며, Deep learning 프레임워크인 TensorFlow 및 PyTorch에서 사용되는 기술과 유사한 기법을 활용한다.
세 번째 주요 구성 요소는 데이터 파이프라인 모듈이다. 이 모듈은 훈련 데이터 세트를 로드, 전처리, 증강하는 도구를 제공한다. 로컬 저장소 또는 클라우드 서비스에서 데이터를 스트리밍하는 것을 지원하며, 무작위 잘라내기, 뒤집기, 색상 지터링과 같은 일반적인 Data Augmentation 기술의 내장 구현을 포함한다. 데이터 파이프라인은 병렬 데이터 로드 및 프리페칭을 지원하여 효율적이고 확장 가능하도록 설계되었다.
훈련 모듈은 다양한 최적화 알고리즘과 스케줄링 전략을 구현한다. 모멘텀 SGD 및 Adam과 같은 표준 확률적 경사 하강법 변형과 AI 피드백 기반 강화 학습과 같은 고급 방법을 포함한다. 모듈은 또한 학습률 스케줄링, 그래디언트 클리핑, 가중치 초기화 체계를 지원한다. 훈련 실행은 손실, 정확도, 그래디언트 노름과 같은 지표를 기록하는 내장 로깅 시스템을 통해 모니터링할 수 있다.
하드웨어 추상화 및 백엔드
Apertus의 주요 기능은 하드웨어 추상화 계층으로, 모델이 다양한 컴퓨팅 장치에서 실행될 수 있게 한다. 프레임워크는 x86 프로세서의 AVX-512와 같은 최적화된 명령어 세트를 활용하여 일반적인 CPU 아키텍처용 백엔드를 포함한다. GPU 가속을 위해 Apertus는 CUDA 및 ROCm과 인터페이스하는 백엔드를 제공하며, NVIDIA 및 AMD의 하드웨어를 지원한다.
프레임워크는 또한 특수 AI 가속기용 실험적 백엔드를 포함한다. 여기에는 AWS Trainium 칩, Google Cloud TPU, Graphcore IPU 지원이 포함된다. Apertus의 백엔드 인터페이스는 확장 가능하도록 설계되어 제3자 하드웨어 공급업체가 자체 구현을 기여할 수 있다. 예를 들어, Groq의 텐서 스트리밍 프로세서용 커뮤니티 개발 백엔드가 제공되었지만, 그 성숙도는 릴리스에 따라 다양하다.
Apertus의 추상화 계층은 메모리 관리로도 확장된다. 프레임워크는 호스트 메모리와 장치 메모리 간의 데이터 전송을 자동으로 관리할 수 있으며, 사용 가능한 경우 통합 메모리 아키텍처를 지원한다. 이는 대규모 언어 모델과 같이 많은 메모리를 필요로 하는 모델 개발을 단순화한다.
모델 동물원 및 사전 훈련 가중치
Apertus 프로젝트는 다양한 일반 아키텍처에 대한 사전 훈련 가중치를 포함하는 모델 동물원을 유지한다. 여기에는 ResNet 변형과 같은 이미지 분류용 합성곱 신경망과 이미지 분할용 U-Net 모델이 포함된다. 자연어 처리를 위해 동물원은 BERT와 같은 인코더 전용 모델과 GPT와 유사한 디코더 전용 모델을 포함한 트랜스포머 기반 모델을 포함한다.
모델 동물원의 모든 사전 훈련 가중치에는 훈련 데이터, 하이퍼파라미터, 평가 지표를 설명하는 상세 문서가 함께 제공된다. 이러한 투명성은 프로젝트의 핵심 원칙으로, 사용자가 각 모델의 출처와 한계를 이해할 수 있게 한다. 모델 동물원은 또한 훈련 실행을 재현하는 스크립트를 포함하여 연구자가 결과를 검증하고 기존 작업을 기반으로 구축할 수 있게 한다.
공식 모델 동물원 외에도 Apertus는 커뮤니티 기여 레지스트리를 지원한다. 이 레지스트리는 사용자가 자신의 훈련된 모델을 메타데이터 및 평가 결과와 함께 게시할 수 있게 한다. 레지스트리에는 버전 관리 시스템이 포함되어 모델을 시간이 지남에 따라 추적하고 업데이트할 수 있다. 2025년 기준으로 레지스트리는 수십억 파라미터 언어 모델에 이르는 소규모 실험 네트워크부터 다양한 모델을 호스팅한다.
다른 도구와의 통합
Apertus는 더 넓은 AI 생태계와 상호 운용되도록 설계되었다. ONNX 및 OpenAI의 safetensors 형식과 같은 다른 프레임워크에서 모델을 내보내고 가져올 수 있는 변환 유틸리티를 제공한다. 이는 기존 도구 및 라이브러리와 함께 Apertus를 사용하는 것을 용이하게 한다.
프레임워크는 또한 NumPy 및 SciPy와 같은 인기 있는 과학 컴퓨팅 라이브러리와 통합되는 Python API를 포함한다. 이를 통해 연구자는 Jupyter 노트북과 같은 친숙한 워크플로우 내에서 Apertus를 사용할 수 있다. 또한 Apertus는 모델 훈련, 평가, 추론을 포함한 일반적인 작업을 위한 명령줄 인터페이스를 제공한다.
배포를 위해 Apertus는 모델을 최적화된 런타임 형식으로 내보낼 수 있다. 이러한 형식은 프로덕션 환경에서 저지연 추론을 위해 설계되었으며, 프레임워크의 내장 추론 서버를 사용하여 제공될 수 있다. 서버는 배칭, 동적 형태 처리, 모델 버전 관리를 지원하여 AWS, Azure 또는 Oracle Cloud 배포에 적합하다.
커뮤니티 및 거버넌스
Apertus 프로젝트는 개방형 커뮤니티 모델로 운영된다. 개발은 공개 저장소를 통해 조정되며, 개인 및 조직의 기여를 수용한다. 프로젝트에는 로드맵을 감독하고 기술적 분쟁을 해결하는 운영 위원회가 있다. 이 위원회에는 MIT CSAIL 및 Stanford AI Lab과 같은 학술 기관의 대표와 산업 기여자가 포함된다.
프로젝트 자금은 기업 후원과 개인 기부의 조합에서 나온다. 주요 후원자에는 AMD, Intel, Samsung Electronics가 포함된다. 프로젝트는 또한 국가 과학 기관의 연구 보조금을 포함한 지원을 받는다. 모든 재정 기여는 공개적으로 공개되어 프로젝트 운영의 투명성을 보장한다.
커뮤니티는 활발한 토론 포럼과 정기적인 개발 스프린트 일정을 유지한다. 이러한 이벤트는 전 세계의 기여자를 모아 특정 기능이나 버그 수정 작업을 수행한다. 프로젝트는 또한 새로운 개발 및 사용 사례에 대한 발표를 특징으로 하는 연례 컨퍼런스 ApertusCon을 조직한다.
응용 및 사용 사례
Apertus는 다양한 연구 및 산업 환경에서 채택되었다. 학계에서는 Machine learning 및 Artificial intelligence 교육과 연구에 사용된다. 예를 들어, 토론토 대학교 및 카네기 멜론 대학교의 과정은 학생 프로젝트의 주요 프레임워크로 Apertus를 사용한다.
산업에서는 AI 시스템에 대한 세밀한 제어가 필요한 회사에서 Apertus를 사용한다. 여기에는 의료, 금융, 자율 주행 분야의 조직이 포함된다. 예를 들어, Intuitive Surgical은 수술 이미지 분석 모델을 개발하는 데 Apertus를 사용했으며, Waymo는 자율 주행 차량의 인식 작업에 사용을 탐구했다.
프레임워크의 투명성 기능은 규제 산업에서 특히 매력적이다. 의료 분야에서 Apertus의 감사 추적 및 재현 가능한 훈련 절차는 규정 준수 요구 사항을 충족하는 데 도움이 된다. 마찬가지로 금융 분야에서 모델 동작을 완전히 문서화하는 능력은 위험 관리 및 규제 보고에 가치가 있다.
성능 및 확장성
Apertus는 단일 장치 실험에서 대규모 분산 훈련 실행까지 확장되도록 설계되었다. 프레임워크에는 데이터 병렬 처리, 모델 병렬 처리, 파이프라인 병렬 처리를 지원하는 분산 훈련 모듈이 포함된다. 이를 통해 NCCL 및 MPI와 같은 통신 프로토콜을 사용하여 여러 GPU 또는 노드에서 모델을 훈련할 수 있다.
벤치마크 테스트는 Apertus가 다른 프레임워크와 비교하여 경쟁력 있는 성능을 달성함을 보여주었다. ImageNet에서 ResNet-50 훈련과 같은 표준 이미지 분류 작업에서 Apertus의 처리량은 PyTorch의 성능의 5% 이내이다. 트랜스포머 기반 언어 모델의 경우 프레임워크의 최적화된 어텐션 구현은 단순 구현보다 최대 20%의 속도 향상을 제공한다.
프레임워크는 또한 개발자가 성능 병목 현상을 식별하는 데 도움이 되는 프로파일링 도구를 포함한다. 이러한 도구는 커널 실행 시간, 메모리 사용량, 통신 오버헤드에 대한 상세 정보를 제공한다. 이 데이터는 가장 효율적인 멀티 헤드 어텐션 구현을 선택하거나 배치 정규화 매개변수를 조정하는 것과 같은 최적화 노력을 안내하는 데 사용될 수 있다.
향후 방향
Apertus 로드맵에는 향후 릴리스에 대한 여러 계획된 기능이 포함된다. 한 가지 초점 영역은 리소스 제약 장치에 모델을 배포하는 데 필수적인 모델 가지치기 및 양자화 지원을 개선하는 것이다. 팀은 또한 시퀀스-투-시퀀스 모델 및 크로스 어텐션 메커니즘에 대한 프레임워크 지원을 강화하는 작업을 하고 있다.
개발의 또 다른 영역은 생성 AI 기능의 통합이다. 여기에는 텍스트 생성을 위한 top-k 샘플링, top-p 샘플링, 온도 스케일링에 대한 내장 지원이 포함된다. 목표는 훈련에서 추론까지 생성 모델을 구축하고 배포하기 위한 완전한 툴킷을 제공하는 것이다.
프로젝트는 또한 하드웨어 지원을 확장하는 것을 목표로 한다. Qualcomm의 AI 가속기 및 ARM 기반 프로세서용 백엔드 작업이 진행 중이다. 또한 Oracle Cloud 및 기타 클라우드 플랫폼과의 통합을 개선하여 Apertus 기반 애플리케이션 배포를 단순화할 계획이 있다.
2025년 현재 Apertus 프로젝트는 계속 진화하고 있으며, 기여자와 사용자 커뮤니티가 성장하고 있다. 개방성과 투명성에 대한 헌신은 빠르게 발전하는 인공지능 분야에서 중요한 대안으로 자리매김하고 있다.