Qualcomm AIは、多国籍半導体および通信機器企業であるQualcommの人工知能部門である。この部門は、クラウドベースの処理に依存するのではなく、スマートフォン、ノートパソコン、モノのインターネット(IoT)ハードウェアなどのエッジデバイス上で直接動作するAI技術の開発と商業化に専念している。その活動は、機械学習および深層学習機能をQualcommのSnapdragonプラットフォームに統合することに重点を置いており、特に電力効率とオンデバイス性能に力を入れている。
この部門の中心的な焦点は、生成AIや大規模言語モデルの推論を含む高度なAIワークロードを、消費者向けデバイス上でローカルに動作させることを可能にすることである。このアプローチは、クラウド依存のAIに伴う遅延、プライバシー、接続性に関する懸念に対処する。Snapdragonプロセッサに搭載されているHexagon NPUなどの専用ニューラル処理ユニットを活用することで、Qualcomm AIは、インターネット接続を必要とせずに、リアルタイムの言語翻訳、インテリジェントなカメラ機能強化、パーソナライズされたデジタルアシスタントなどの高性能AI機能を提供することを目指している。
歴史と進化
QualcommのAIへの関与は、専用部門の正式な設立に先立つ。同社は2010年代半ばに、基本的なニューラルネットワーク処理機能をモバイルチップセットに統合し始めた。2015年のSnapdragon 820の発表には、ベクトル拡張を備えた第1世代Hexagonデジタルシグナルプロセッサ(DSP)が含まれており、これは単純な機械学習タスクに使用できた。しかし、2017年のSnapdragon 845の導入が重要な一歩となり、CPU、GPU、DSPを組み合わせてAIワークロードを加速する専用のAIエンジンを搭載した。
正式なQualcomm AI部門は2018年に設立され、同社のAI研究開発活動を統合した。この動きは、特にAppleやSamsung ElectronicsからのオンデバイスAI機能の開発競争が激化したことへの対応の一環でもあった。2019年、Qualcommはデータセンター推論用のディスクリートアクセラレータであるCloud AI 100を発表し、モバイルデバイスを超えた拡大を示した。しかし、同社の主な焦点はエッジAIに留まり、Cloud AI 100は後にオンデバイスソリューションへのより強力な推進に優先順位を譲り、重要性が低下した。
2021年のSnapdragon 8 Gen 1のリリースは、アップグレードされたHexagon NPUを搭載し、AIエンジンがより複雑なモデルを処理できるようになったことで、極めて重要な瞬間となった。これに続き、2022年のSnapdragon 8 Gen 2はTransformerモデルのサポートを追加し、低消費電力の常時稼働AIプロセッサであるSensing Hubを導入した。最も大きな飛躍は2023年のSnapdragon 8 Gen 3で発生し、これはオンデバイス生成AI用に特別に最適化され、Stable DiffusionやLlama 2などのモデルをスマートフォン上で直接実行できるようになった。
主要技術と製品
Qualcomm AIの主要製品はSnapdragonプラットフォームであり、そのコンポーネント全体にAI機能を統合している。中心的な要素は、数世代にわたって進化してきた専用ニューラル処理ユニットであるHexagon NPUである。最新のHexagon NPUは、大規模モデルの効率的な処理を可能にするマイクロタイリングアーキテクチャを特徴とし、ベクトル拡張とテンソルアクセラレータによって補完されている。この設計により、NPUは整数演算と浮動小数点演算の両方を処理でき、多様なAIモデルを実行するために重要である。
もう一つの主要技術はQualcomm AI Engineであり、開発者がSnapdragonデバイス上でAIモデルを展開するためのツールを提供するソフトウェアおよびハードウェアスタックである。これには、TensorFlowやPyTorchなどのフレームワークをサポートするQualcomm Neural Network(QNN)SDKや、オンデバイス実行用にモデルを最適化するのに役立つAI Model Efficiency Toolkit(AIMET)が含まれる。AI Engineには、アクティビティ検出や音声ウェイクアップなどのコンテキスト認識機能のためにセンサーデータを継続的に処理する低消費電力サブシステムであるSensing Hubも含まれている。
2024年、QualcommはWindows PC向けにSnapdragon X EliteおよびX Plusプラットフォームを発表し、オンデバイスAIをノートパソコンにもたらした。これらのプロセッサは、最大45兆回の演算/秒(TOPS)を実現する強力なNPUを搭載し、大規模言語モデルやその他のAIアプリケーションをローカルで実行できるようにした。この動きにより、QualcommはAI PC市場においてIntelやAMDの競合として位置づけられ、電力効率と持続的なAI性能に重点を置いている。
研究開発
Qualcomm AIは、オンデバイスAIの最先端を進めることに焦点を当てた重要な研究部門を維持している。研究チームは、モデル圧縮、量子化、効率的なニューラルネットワークアーキテクチャなどのトピックをカバーする論文を主要な会議やジャーナルで発表している。注目すべき研究分野の一つは、リソースに制約のあるデバイス上で大規模言語モデルを実行するための技術の開発であり、メモリフットプリントの削減と推論速度の向上のための方法が含まれる。
この部門はまた、学術機関や業界パートナーとも協力している。Qualcommは、AIおよび関連分野で働く大学院生に資金を提供するQualcomm Innovation Fellowshipを設立した。さらに、同社はオープンソースイニシアチブに参加し、ONNXランタイムやMLPerfベンチマークスイートなどのプロジェクトに貢献している。これらの取り組みは、Qualcomm AIの技術がより広範なAIエコシステムとの互換性を維持するのに役立っている。
主要な研究焦点は量子化であり、これはメモリ使用量を削減し速度を上げるためにニューラルネットワークの重みの精度を下げることを含む。Qualcommは、最小限の精度損失でモデルを実行できる独自の量子化技術を開発した。同社はまた、スパイキングニューラルネットワークやニューロモーフィックコンピューティングなどの新しいアーキテクチャも探求しているが、これらはまだ実験段階にある。
アプリケーションとユースケース
Qualcomm AIの主な用途はスマートフォンであり、さまざまな機能を強化している。これには、AIが低照度性能の向上、ノイズ低減、ポートレートモードやナイトモードなどの機能を可能にすることで画像を強化するコンピュテーショナルフォトグラフィーが含まれる。AIはまた、ネットワーク接続なしで音声やテキストを翻訳できるリアルタイム言語翻訳にも使用されている。OpenAIの技術に基づく音声アシスタントなどは、より高速でプライベートな対話のためにSnapdragonデバイス上でローカルに実行できる。
PC市場では、Qualcomm AIは、AIを使用して背景をぼかしアイコンタクトを維持することでビデオ通話を改善するWindows Studio Effectsなどの機能を可能にする。NPUはまた、ドキュメントの要約、メールの作成、データをクラウドに送信せずに質問への回答ができるローカルAIアシスタントもサポートする。これは、データセキュリティを懸念するエンタープライズユーザーにとって特に魅力的である。
IoTデバイスについては、Qualcomm AIはスマートカメラ、産業用ロボット、ヘルスケアモニターなどのアプリケーションで使用されている。Hexagon NPUの低消費電力は、継続的なAI推論を実行する必要があるバッテリー駆動デバイスに適している。例えば、Qualcommは、生体データをリアルタイムで分析できるAI搭載補聴器やウェアラブルヘルスモニターを開発するために企業と提携している。
競争環境
Qualcomm AIは、モバイルおよびPCセクターの両方からの競合他社と対峙する、非常に競争の激しい市場で事業を展開している。モバイルでは、主な競合他社はAppleのNeural EngineとSamsung ElectronicsのExynos NPUである。AppleのAシリーズおよびMシリーズチップは強力なAI性能で知られており、SamsungのExynosプロセッサは同社自身の一部のデバイスで使用されている。Qualcommは、幅広いAndroidメーカーに販売することで差別化を図っており、より広い市場リーチを持っている。
PC市場では、QualcommはIntelおよびAMDと競合しており、両社ともAIアクセラレーションプロセッサを導入している。IntelのCore Ultraシリーズはニューラル処理ユニット(NPU)を搭載し、AMDのRyzen AIプロセッサには専用のAIエンジンが含まれている。QualcommのSnapdragon Xシリーズは、バッテリー駆動のノートパソコンにとって重要な指標であるAI性能/ワットにおいて、これらの競合他社を上回ることを目指している。
同社はまた、専門のAIチップスタートアップとの競争にも直面しているが、これらは主にエッジデバイスではなくデータセンターをターゲットにしている。Qualcommの強みは、CPU、GPU、NPUを含む完全なシステムオンチップ(SoC)へのAIの深い統合と、成熟したソフトウェアエコシステムにある。この統合により、ディスクリートAIアクセラレータと比較して、より良い最適化と低い遅延が可能になる。
将来の方向性
今後、Qualcomm AIはオンデバイスAIの機能拡張に焦点を当てている。主要な開発分野の一つは、より大規模で複雑な大規模言語モデルのサポートである。Qualcommは、Snapdragonデバイス上で100億以上のパラメータを持つモデルを実行できることを実証しており、将来の世代ではさらに大きなモデルを処理できると期待されている。これにより、より洗練されたAIアシスタントやクリエイティブツールがローカルで実行できるようになる。
もう一つの方向性は、テキスト、画像、音声を同時に処理できるマルチモーダルAIの統合である。Qualcommは、複数のモダリティにわたってコンテンツを理解および生成できるモデルを可能にすることに取り組んでおり、リアルタイムビデオ分析や拡張現実などの新しいユースケースを切り開いている。同社はまた、データをクラウドに送信せずにユーザーの行動に基づいてAIモデルをパーソナライズできるオンデバイストレーニングも探求している。
Qualcomm AIはまた、自動車セクターにも投資しており、Snapdragon Rideプラットフォームは高度な運転支援システム(ADAS)および自動運転向けのAI機能を提供している。同社は、オンデバイスAIの専門知識を車両にもたらし、ドライバーモニタリングや車載アシスタントとの自然言語対話などの機能を可能にすることを目指している。AIがクラウドからエッジへと移行し続ける中、Qualcomm AIは、モバイルおよびワイヤレス技術におけるリーダーシップを活用し、この変革において中心的な役割を果たす好位置にいる。
課題と考慮事項
その強みにもかかわらず、Qualcomm AIはいくつかの課題に直面している。重要な問題の一つは、AIモデル開発の急速なペースであり、これはしばしばハードウェアの追従能力を上回る。モデルはサイズと複雑さが増しており、QualcommはそれらをサポートするためにNPUアーキテクチャを継続的に更新する必要がある。これには、研究開発への多大な投資と、AI研究者および開発者との緊密な連携が必要である。
もう一つの課題は、Androidエコシステムの断片化である。ハードウェアとソフトウェアの両方を管理するAppleとは異なり、Qualcommは異なる仕様とオペレーティングシステムバージョンを持つ幅広いデバイスをサポートする必要がある。これにより、すべてのデバイスで一貫したAI性能を保証することが困難になる。Qualcommは、統一されたソフトウェアスタックを提供し、デバイスメーカーと緊密に協力して製品を最適化することで、この問題に対処している。
プライバシーとセキュリティも懸念事項である。オンデバイスAIはデータをローカルに保つことでプライバシー上の利点を提供する一方で、新たな攻撃対象も生み出す。悪意のある攻撃者がAI処理パイプラインの脆弱性を悪用して機密情報を抽出する可能性がある。Qualcommは、Secure Processing Unit(SPU)などのセキュアな処理環境に投資して、これらのリスクを軽減している。同社はまた、さまざまなデータ保護規制を遵守し、AI機能がユーザーのプライバシーを尊重することを保証している。
最後に、環境への影響という問題がある。オンデバイスでAIモデルを実行すると電力を消費し、モデルがより複雑になるにつれて、消費電力が増加する可能性がある。Qualcommはエネルギー効率の改善に取り組んでおり、そのNPUは最小限の電力消費でAIタスクを実行するように設計されている。同社はまた、製造から廃棄までの製品の全ライフサイクルをサステナビリティへの取り組みにおいて考慮している。