Qualcomm AI는 퀄컴(Qualcomm)의 인공지능 부문으로, 퀄컴은 다국적 반도체 및 통신 장비 기업이다. 이 부문은 클라우드 기반 처리에 의존하지 않고 스마트폰, 노트북, 사물인터넷(IoT) 하드웨어와 같은 엣지 디바이스에서 직접 실행되는 AI 기술을 개발하고 상용화하는 데 전념하고 있다. 그 작업은 머신러닝 및 딥러닝 기능을 퀄컴의 스냅드래곤 플랫폼에 통합하는 데 중점을 두며, 특히 전력 효율성과 온디바이스 성능을 강조한다.
이 부문의 핵심 초점은 생성형 AI 및 대규모 언어 모델 추론을 포함한 고급 AI 워크로드를 소비자 디바이스에서 로컬로 실행할 수 있게 하는 것이다. 이러한 접근 방식은 클라우드 의존형 AI에서 발생하는 지연 시간, 개인정보 보호, 연결성 문제를 해결한다. 퀄컴 AI는 스냅드래곤 프로세서에 탑재된 헥사곤 NPU와 같은 전용 신경 처리 장치를 활용하여 실시간 언어 번역, 지능형 카메라 향상, 개인화된 디지털 어시스턴트와 같은 고성능 AI 기능을 인터넷 연결 없이 제공하는 것을 목표로 한다.
역사와 발전
퀄컴의 AI 참여는 전용 부문이 공식적으로 설립되기 이전부터 시작되었다. 회사는 2010년대 중반에 모바일 칩셋에 기본적인 신경망 처리 기능을 통합하기 시작했다. 2015년 스냅드래곤 820 출시에는 벡터 확장 기능을 갖춘 1세대 헥사곤 디지털 신호 프로세서(DSP)가 포함되어 간단한 머신러닝 작업에 사용될 수 있었다. 그러나 2017년 스냅드래곤 845의 출시가 중요한 진전을 의미했는데, CPU, GPU, DSP를 결합하여 AI 워크로드를 가속화하는 전용 AI 엔진을 탑재했기 때문이다.
공식적인 퀄컴 AI 부문은 2018년에 설립되어 회사의 AI 연구 개발 노력을 통합했다. 이러한 움직임은 특히 온디바이스 AI 기능을 개발하고 있던 애플과 삼성전자의 AI 칩 시장에서의 경쟁 심화에 대한 대응이었다. 2019년 퀄컴은 데이터 센터 추론을 위한 개별 가속기인 Cloud AI 100을 출시하여 모바일을 넘어선 확장을 알렸다. 그러나 회사의 주요 초점은 엣지 AI에 남아 있었고, Cloud AI 100은 이후 온디바이스 솔루션에 대한 더 강력한 추진을 위해 비중이 축소되었다.
중요한 전환점은 2021년 스냅드래곤 8 Gen 1 출시로, 업그레이드된 헥사곤 NPU를 탑재하고 AI 엔진이 더 복잡한 모델을 처리할 수 있게 되었다. 이어 2022년 스냅드래곤 8 Gen 2는 트랜스포머 모델 지원을 추가하고 저전력 상시 작동 AI 프로세서인 센싱 허브를 도입했다. 가장 큰 도약은 2023년 스냅드래곤 8 Gen 3에서 발생했는데, 이는 온디바이스 생성형 AI에 특별히 최적화되어 스테이블 디퓨전 및 라마 2와 같은 모델을 휴대폰에서 직접 실행할 수 있었다.
주요 기술 및 제품
퀄컴 AI의 주요 제품은 스냅드래곤 플랫폼으로, 구성 요소 전반에 AI 기능을 통합한다. 핵심 요소는 여러 세대에 걸쳐 발전해 온 전용 신경 처리 장치인 헥사곤 NPU이다. 최신 헥사곤 NPU는 대규모 모델의 효율적인 처리를 가능하게 하는 마이크로 타일링 아키텍처를 갖추고 있으며, 벡터 확장 및 텐서 가속기로 보완된다. 이 설계는 NPU가 정수 및 부동 소수점 연산을 모두 처리할 수 있게 하여 다양한 AI 모델을 실행하는 데 중요하다.
또 다른 핵심 기술은 개발자에게 스냅드래곤 디바이스에서 AI 모델을 배포할 수 있는 도구를 제공하는 소프트웨어 및 하드웨어 스택인 퀄컴 AI 엔진이다. 여기에는 텐서플로 및 파이토치와 같은 프레임워크를 지원하는 퀄컴 신경망(QNN) SDK와 온디바이스 실행을 위한 모델 최적화를 돕는 AI 모델 효율성 툴킷(AIMET)이 포함된다. AI 엔진에는 활동 감지 및 음성 웨이크업과 같은 상황 인식 기능을 위해 센서 데이터를 지속적으로 처리하는 저전력 하위 시스템인 센싱 허브도 포함된다.
2024년 퀄컴은 Windows PC용 스냅드래곤 X 엘리트 및 X 플러스 플랫폼을 출시하여 온디바이스 AI를 노트북에 도입했다. 이 프로세서는 초당 최대 45조 회 연산(TOPS)을 제공할 수 있는 강력한 NPU를 갖추고 있어 대규모 언어 모델 및 기타 AI 애플리케이션을 로컬에서 실행할 수 있다. 이러한 움직임은 퀄컴을 AI PC 시장에서 인텔 및 AMD의 경쟁자로 자리매김하게 했으며, 전력 효율성과 지속적인 AI 성능에 중점을 두었다.
연구 개발
퀄컴 AI는 온디바이스 AI의 최첨단을 발전시키는 데 초점을 맞춘 중요한 연구 부문을 유지하고 있다. 연구팀은 모델 압축, 양자화, 효율적인 신경망 아키텍처와 같은 주제를 다루는 논문을 주요 학회 및 저널에 발표한다. 주목할 만한 연구 분야 중 하나는 리소스가 제한된 디바이스에서 대규모 언어 모델을 실행하기 위한 기술 개발로, 메모리 사용량 감소 및 추론 속도 향상 방법이 포함된다.
이 부문은 또한 학술 기관 및 산업 파트너와 협력한다. 퀄컴은 AI 및 관련 분야에서 일하는 대학원생에게 자금을 지원하는 퀄컴 혁신 펠로우십을 설립했다. 또한 회사는 오픈소스 이니셔티브에 참여하여 ONNX 런타임 및 MLPerf 벤치마크 제품군과 같은 프로젝트에 기여한다. 이러한 노력은 퀄컴 AI의 기술이 더 넓은 AI 생태계와 호환성을 유지하도록 보장한다.
주요 연구 초점은 신경망 가중치의 정밀도를 줄여 메모리 사용량을 낮추고 속도를 높이는 양자화에 있다. 퀄컴은 최소한의 정확도 손실로 모델을 실행할 수 있는 독자적인 양자화 기술을 개발했다. 회사는 또한 스파이킹 신경망 및 뉴로모픽 컴퓨팅과 같은 새로운 아키텍처를 탐구하지만, 이러한 분야는 아직 실험 단계에 있다.
응용 분야 및 사용 사례
퀄컴 AI의 주요 응용 분야는 스마트폰으로, 다양한 기능을 지원한다. 여기에는 AI가 저조도 성능을 개선하고 노이즈를 줄이며 인물 모드 및 야간 모드와 같은 기능을 가능하게 하는 컴퓨테이셔널 포토그래피가 포함된다. AI는 또한 실시간 언어 번역에 사용되어 사용자가 네트워크 연결 없이 음성과 텍스트를 번역할 수 있게 한다. 오픈AI의 기술을 기반으로 구축된 음성 어시스턴트는 스냅드래곤 디바이스에서 로컬로 실행되어 더 빠르고 개인정보 보호가 강화된 상호 작용을 제공할 수 있다.
PC 시장에서 퀄컴 AI는 AI를 사용하여 배경을 흐리게 하고 시선 유지를 개선하여 화상 통화를 향상시키는 Windows 스튜디오 효과와 같은 기능을 지원한다. NPU는 또한 문서 요약, 이메일 생성, 데이터를 클라우드로 보내지 않고 질문에 답변할 수 있는 로컬 AI 어시스턴트를 지원한다. 이는 데이터 보안에 우려가 있는 기업 사용자에게 특히 매력적이다.
IoT 디바이스의 경우 퀄컴 AI는 스마트 카메라, 산업용 로봇, 헬스케어 모니터와 같은 응용 분야에 사용된다. 헥사곤 NPU의 저전력 소비는 지속적인 AI 추론을 수행해야 하는 배터리 구동 디바이스에 적합하다. 예를 들어, 퀄컴은 실시간으로 생체 데이터를 분석할 수 있는 AI 기반 보청기 및 웨어러블 건강 모니터를 개발하기 위해 기업들과 파트너십을 맺었다.
경쟁 구도
퀄컴 AI는 모바일 및 PC 부문의 경쟁사들과 맞서는 고도로 경쟁적인 시장에서 운영된다. 모바일 분야의 주요 경쟁자는 애플의 뉴럴 엔진과 삼성전자의 엑시노스 NPU이다. 애플의 A-시리즈 및 M-시리즈 칩은 강력한 AI 성능으로 알려져 있으며, 삼성의 엑시노스 프로세서는 자사 일부 디바이스에 사용된다. 퀄컴은 다양한 Android 제조업체에 판매하여 더 넓은 시장 범위를 확보함으로써 차별화한다.
PC 시장에서 퀄컴은 AI 가속 프로세서를 도입한 인텔 및 AMD와 경쟁한다. 인텔의 코어 울트라 시리즈는 신경 처리 장치(NPU)를 탑재하고 있으며, AMD의 라이젠 AI 프로세서에는 전용 AI 엔진이 포함된다. 퀄컴의 스냅드래곤 X 시리즈는 배터리 구동 노트북의 중요한 지표인 AI 성능 대비 전력 효율성 측면에서 이러한 경쟁사를 능가하는 것을 목표로 한다.
회사는 또한 전문 AI 칩 스타트업과의 경쟁에 직면하지만, 이러한 기업들은 대부분 엣지 디바이스보다는 데이터 센터를 대상으로 한다. 퀄컴의 강점은 CPU, GPU, NPU와 성숙한 소프트웨어 생태계를 포함하는 완전한 시스템온칩(SoC)에 AI를 깊이 통합하는 데 있다. 이러한 통합은 개별 AI 가속기에 비해 더 나은 최적화와 더 낮은 지연 시간을 가능하게 한다.
향후 방향
퀄컴 AI는 온디바이스 AI의 기능을 확장하는 데 초점을 맞추고 있다. 주요 개발 분야 중 하나는 더 크고 복잡한 대규모 언어 모델에 대한 지원이다. 퀄컴은 스냅드래곤 디바이스에서 100억 개 이상의 매개변수를 가진 모델을 실행할 수 있음을 입증했으며, 향후 세대에서는 더 큰 모델을 처리할 수 있을 것으로 예상된다. 이를 통해 더 정교한 AI 어시스턴트와 창의적 도구가 로컬에서 실행될 수 있을 것이다.
또 다른 방향은 텍스트, 이미지, 오디오를 동시에 처리할 수 있는 멀티모달 AI의 통합이다. 퀄컴은 여러 양식에 걸쳐 콘텐츠를 이해하고 생성할 수 있는 모델을 지원하기 위해 노력하고 있으며, 실시간 비디오 분석 및 증강 현실과 같은 새로운 사용 사례를 열어가고 있다. 회사는 또한 사용자 행동에 따라 디바이스가 AI 모델을 개인화할 수 있게 하면서도 데이터를 클라우드로 보내지 않는 온디바이스 학습을 탐구하고 있다.
퀄컴 AI는 또한 스냅드래곤 라이드 플랫폼이 고급 운전자 지원 시스템(ADAS) 및 자율 주행을 위한 AI 기능을 제공하는 자동차 부문에 투자하고 있다. 회사는 온디바이스 AI 전문성을 차량에 적용하여 운전자 모니터링 및 차량 내 어시스턴트와의 자연어 상호 작용과 같은 기능을 가능하게 하는 것을 목표로 한다. AI가 계속해서 클라우드에서 엣지로 이동함에 따라, 퀄컴 AI는 모바일 및 무선 기술에서의 리더십을 활용하여 이러한 변화에서 중심적인 역할을 할 좋은 위치에 있다.
과제 및 고려 사항
강점에도 불구하고 퀄컴 AI는 여러 과제에 직면해 있다. 중요한 문제 중 하나는 AI 모델 개발의 빠른 속도로, 종종 하드웨어가 따라잡을 수 있는 능력을 앞지른다. 모델은 크기와 복잡성이 증가하고 있으며, 퀄컴은 이를 지원하기 위해 NPU 아키텍처를 지속적으로 업데이트해야 한다. 이를 위해서는 연구 개발에 상당한 투자와 AI 연구자 및 개발자와의 긴밀한 협력이 필요하다.
또 다른 과제는 Android 생태계의 파편화이다. 하드웨어와 소프트웨어를 모두 통제하는 애플과 달리, 퀄컴은 다양한 사양과 운영 체제 버전을 가진 광범위한 디바이스를 지원해야 한다. 이로 인해 모든 디바이스에서 일관된 AI 성능을 보장하기가 어렵다. 퀄컴은 통합 소프트웨어 스택을 제공하고 디바이스 제조업체와 긴밀히 협력하여 제품을 최적화함으로써 이 문제를 해결한다.
개인정보 보호와 보안도 우려 사항이다. 온디바이스 AI는 데이터를 로컬에 유지하여 개인정보 보호 이점을 제공하지만, 새로운 공격 표면을 만들기도 한다. 악의적인 행위자가 AI 처리 파이프라인의 취약점을 악용하여 민감한 정보를 추출할 가능성이 있다. 퀄컴은 보안 처리 장치(SPU)와 같은 보안 처리 환경에 투자하여 이러한 위험을 완화한다. 회사는 또한 다양한 데이터 보호 규정을 준수하여 AI 기능이 사용자 개인정보를 존중하도록 보장한다.
마지막으로 환경 영향의 문제가 있다. 온디바이스에서 AI 모델을 실행하면 전력이 소비되며, 모델이 더 복잡해짐에 따라 전력 소비가 증가할 수 있다. 퀄컴은 에너지 효율성 개선에 전념하고 있으며, NPU는 최소한의 전력 소비로 AI 작업을 수행하도록 설계되었다. 회사는 또한 제조에서 폐기에 이르는 제품의 전체 수명 주기를 지속 가능성 노력에서 고려한다.