ETBLAST는 인도 뭄바이의 Bhabha Atomic Research Centre 팀이 개발한 생물학적 서열 분석을 위한 Deep learning 모델이다. 이 모델은 전통적으로 BLAST와 같은 휴리스틱 도구가 처리해 온 서열 정렬 문제에 Transformer (architecture) 아키텍처를 적용한다. 이 모델은 2023년 3월 사전 인쇄본 형태로 처음 공개되었으며, 2025년 기준으로 40편 이상의 동료 검토 논문에서 인용되었다.
이 시스템은 Neural network 인코더-디코더 구조를 사용하며, 12개 레이어, 8개 어텐션 헤드, 512의 은닉 차원을 갖추고 있어 총 약 4,500만 개의 파라미터를 포함한다. UniProtKB/Swiss-Prot 데이터베이스의 210만 개 단백질 서열 데이터셋에 합성 돌연변이를 추가하여 견고성을 향상시킨 데이터로 훈련되었다. 훈련은 16개의 NVIDIA A100 GPU 클러스터에서 200 에포크 동안 진행되었으며, 완료하는 데 약 11일이 걸렸다.
아키텍처 및 훈련
ETBLAST의 아키텍처는 Encoder-Decoder Architecture 패러다임을 기반으로 하며, 인코더는 질의 서열을 처리하고 디코더는 참조 데이터베이스에 대한 정렬을 생성한다. Positional Encoding 및 Multi-Head Attention 메커니즘을 통합하여 전통적인 Sequence-to-Sequence (Seq2Seq) 모델이 놓치는 경우가 많은 서열 데이터의 장거리 의존성을 포착한다. 이 모델은 Layer Normalization과 Dropout (비율 0.1)을 사용하여 훈련을 안정화하고 과적합을 방지한다.
훈련 목표는 마스크 언어 모델링 손실과 상동 서열의 임베딩이 벡터 공간에서 더 가까워지도록 장려하는 대조 손실을 결합한다. 옵티마이저는 Adam (Optimizer)였으며, Learning Rate Scheduling은 1,000단계에 걸쳐 워밍업된 후 선형적으로 감소했다. Gradient Clipping은 폭발적 그래디언트를 방지하기 위해 최대 노름 1.0으로 적용되었다.
성능 벤치마크
Pfam 데이터베이스의 표준 벤치마크에서 ETBLAST는 단백질 패밀리 분류에 대해 평균 정밀도 0.87을 달성했으며, 전통적인 BLASTp 도구의 0.81과 HMMER 제품군의 0.83에 비해 우수한 성능을 보였다. ENCODE 프로젝트 데이터를 사용한 DNA 서열 정렬 작업에서는 BLASTn에 비해 정렬 오류를 23% 줄였으며, CPU에서는 1.8배 느리지만 GPU 하드웨어에서는 3.2배 빠르게 실행되었다.
모델의 Top-K Sampling 및 Top-P (Nucleus) Sampling 디코딩 전략은 여러 후보 정렬을 생성할 수 있게 하며, 이후 신뢰도 점수로 순위가 매겨진다. 이전에 본 적 없는 500개 단백질 패밀리에 대한 블라인드 테스트에서 ETBLAST는 상동 관계의 92%를 올바르게 식별하여 BLASTp의 86% 정확도를 초과했다.
응용 및 통합
ETBLAST는 Amazon Web Services 및 Google Cloud 마켓플레이스에 컨테이너화된 서비스로 통합되어 연구자들이 로컬 GPU 인프라 없이 대규모 정렬을 실행할 수 있게 한다. 또한 서울의 Samsung Research AI 연구소에서 메타게놈 분석 프로젝트에, University of Toronto에서 비교 유전체학 연구에 채택되었다.
이 모델은 특히 서열이 20% 미만의 동일성을 공유하는 원거리 상동성 검출에 효과적이다. 이러한 경우 ETBLAST의 Cross-Attention 레이어는 전통적인 정렬 도구가 놓치는 구조적 모티프를 식별할 수 있다. University of Oxford 연구자들의 2024년 연구에 따르면 ETBLAST는 최신 방법에 비해 단백질 기능 예측의 민감도를 15% 향상시켰다.
한계 및 향후 작업
ETBLAST는 추론을 위해 최소 8GB 메모리의 GPU가 필요하므로 표준 노트북에서의 사용이 제한된다. 또한 이 모델은 메모리 사용량이 이차적으로 증가하는 매우 긴 서열(10,000개 이상의 잔기)에서 어려움을 겪는다. 개발자들은 정확도 손실 없이 파라미터 수를 40% 줄이는 Model Pruning 기법을 제안했지만, 아직 공개되지 않았다.
향후 버전은 전문가가 선별한 정렬을 기반으로 모델을 미세 조정하기 위해 Reinforcement Learning from AI Feedback (RLAIF) (정렬 피드백 기반 강화 학습)을 통합할 계획이다. Bhabha Atomic Research Centre 팀은 또한 생성 모델을 사용하여 알려진 단백질 패밀리를 넘어 훈련 세트를 확장하는 Data Augmentation 전략을 탐구하고 있다.
수용 및 영향
ETBLAST의 출시는 생물정보학에서 Large language model 기법의 역할에 대한 Artificial intelligence 커뮤니티의 논의를 촉발했다. Carnegie Mellon University 연구자들의 리뷰는 이를 "중요한 진전"이라고 평가했지만, 일상적인 검색에서 최적화된 C++ 구현의 속도를 완전히 대체하지는 않는다고 지적했다. 2025년 초 기준으로 이 모델은 공개 저장소에서 15,000회 이상 다운로드되었으며, Stanford AI Lab, MIT CSAIL, BAIR (Berkeley AI Research)의 연구에서 인용되었다.