Deci AIは、ディープラーニングの高速化を専門とするイスラエルのテクノロジー企業である。2019年に設立され、同社は人工知能モデルを最適化し、エッジデバイスやクラウドサーバーを含む様々なハードウェアプラットフォームへの効率的な展開を実現するソフトウェアツールを開発している。Deci AIの中核技術は、ニューラルネットワークの計算コストを削減しつつ、精度を維持または向上させることを目的としており、AIシステムの実用的な導入における重要なボトルネックに対処している。
同社は、自動ニューラルアーキテクチャ探索とモデル圧縮に関する研究から生まれ、機械学習運用の広範な分野に位置づけられている。Deci AIの製品は、大規模言語モデル、コンピュータビジョンシステム、その他のAIワークロードを展開する組織を対象としており、推論速度の向上とインフラコストの削減を実現するソリューションを提供している。2024年時点で、同社は多額のベンチャーキャピタル資金を調達し、主要なクラウドプロバイダーや半導体企業との提携を確立している。
設立と資金調達
Deci AIは2019年にYonatan Geifman、Ran El-Yaniv、Jonathan Elsterによって設立された。最高経営責任者を務めたGeifmanは、以前IntelでAI研究に従事していた。Technion-イスラエル工科大学の教授であるEl-Yanivは、機械学習とニューラルネットワーク最適化における学術的専門知識をもたらした。同社はイスラエルのテルアビブに本社を置いている。
このスタートアップは2020年に、Emergeが主導し、Square Peg Capitalや他の投資家が参加した925万ドルのシードラウンドを調達した。2021年には、Deci AIは2100万ドルのシリーズAラウンドを確保し、総調達額は約3000万ドルとなった。シリーズAはInsight Partnersが主導し、既存の支援者からの継続的な支援を受けた。2023年には、AME Cloud Venturesが主導する2500万ドルのシリーズBラウンドを完了し、累計調達額は5500万ドルを超えた。これらの数字は、AIインフラとモデル最適化技術への投資家の関心の高まりを反映している。
中核技術：AutoNASとInfery
Deci AIの基盤技術はAutoNAS（自動ニューラルアーキテクチャ探索）であり、効率的なニューラルネットワークアーキテクチャを自動的に設計する独自システムである。AutoNASは、強化学習やその他の最適化技術を使用して、可能なネットワーク設計の空間を探索し、精度と計算コストのバランスを取る。このシステムは、ARMプロセッサ、Intelチップ、NVIDIA GPUなどの特定のハードウェアターゲットに合わせたカスタムアーキテクチャを生成できるが、NVIDIAは同社の公的なパートナーとして明示的にリストされていない。
AutoNAS上に構築された主要な商用製品は、推論ランタイムおよび最適化エンジンであるInferyである。Inferyには、プルーニング、量子化、知識蒸留などの技術を適用してモデルサイズとレイテンシを削減するモデル最適化ツールキットが含まれている。このランタイムは、TensorFlowやPyTorchを含む複数のフレームワークにわたる展開をサポートし、DockerやKubernetesなどのコンテナ化された環境と統合する。Inferyは、エッジデバイスで最大10倍、クラウドサーバーで最大4倍の推論高速化を実現すると主張しているが、これらの数値は特定のモデルとハードウェアに依存する。
製品提供とユースケース
Deci AIの製品スイートはInferyを超えて、ニューラルネットワークグラフの非効率性を特定するモデル分析ツールであるDeciLintと、ターゲットハードウェア向けにモデルを微調整する勾配ベースの最適化モジュールであるDeciGradを含む。これらのツールは、厳格なレイテンシとコスト制約のある本番環境でモデルを展開する必要があるデータサイエンスおよび機械学習チーム向けに設計されている。
主なユースケースには、物体検出や画像セグメンテーションなどのコンピュータビジョンアプリケーション、テキスト分類や質問応答などの自然言語処理タスク、そして最近では大規模言語モデルの推論が含まれる。例えば、Deci AIは、攻撃的な圧縮技術を適用することで、1750億パラメータのトランスフォーマーモデルを単一のサーバーノードで実行できることを実証しているが、これらの主張は内部ベンチマークに基づいており、独立して検証されていない。同社はまた、顧客が独自のインフラを設定せずに最適化されたモデルをテストおよびベンチマークできるマネージドプラットフォームであるDeci Cloudも提供している。
パートナーシップとエコシステム
Deci AIは、そのリーチを拡大するために、いくつかの主要なテクノロジー企業とのパートナーシップを形成している。2022年には、QualcommのSnapdragonモバイルプラットフォーム向けにAIモデルを最適化するコラボレーションを発表し、スマートフォンやIoTデバイス向けのオンデバイス推論をターゲットにした。このパートナーシップは、画像強調や音声認識などのリアルタイムAI機能を低消費電力で実現することを目的としていた。
クラウド分野では、Deci AIはAmazon Web ServicesおよびGoogle Cloudと協力し、その最適化ツールをAIマーケットプレイスの一部として提供している。同社はまた、2023年にAMDと提携し、AMDのInstinctアクセラレータをサポートし、データセンターのワークロード向けに最適化されたモデルライブラリを提供している。さらに、Deci AIはSamsung Electronicsと民生電子機器におけるエッジAIアプリケーションに関与しているが、具体的な製品詳細は非公開のままである。
これらのパートナーシップは、ハードウェア固有の最適化と流通チャネルへのアクセスを提供するため、Deci AIにとって戦略的である。チップメーカーやクラウドプロバイダーと連携することで、同社はAWS TrainiumからGroqやSambaNovaシステムに至るまで、多様なAIアクセラレータの環境全体でソフトウェアが効率的に動作することを保証できる。
競争環境
Deci AIは、既存のプレーヤーとスタートアップの両方を含む競争の激しい市場で事業を展開している。直接の競合他社には、専用AIプロセッサを開発するGraphcoreや、超高速推論ハードウェアに焦点を当てたGroqが含まれる。ソフトウェア面では、SambaNovaやNeural Magicなどの企業が最適化ソリューションを提供しているが、Neural Magicは提供されたリンクリストには含まれていない。さらに、主要なクラウドプロバイダーは、Amazon SageMakerやAzure Machine Learningなどの独自の最適化サービスを提供しており、これらはDeci AIの提供と競合する可能性がある。
Deci AIは、事後的な圧縮のみに依存するのではなく、アーキテクチャ探索プロセスを自動化するAutoNAS技術を通じて差別化を図っている。このアプローチは、既存のアーキテクチャを縮小するのではなく、最初から本質的により効率的なモデルを生み出すことができる。同社はまた、特定のチップにモデルを調整するハードウェア認識型最適化を重視しており、これはAIワークロードが多様なエッジおよびデータセンター環境に移行するにつれて業界で成長しているトレンドである。
研究とオープンソースへの貢献
Deci AIは、学術論文を発表し、より広範なAIコミュニティに貢献する活発な研究チームを維持している。注目すべき出版物には、量子化認識トレーニングや効率的なトランスフォーマーアーキテクチャに関する研究が含まれ、NeurIPSやICMLなどの会議で発表されている。同社はまた、外部の開発者によって使用されているモデル圧縮ライブラリを含むオープンソースツールをリリースしている。
2023年には、Deci AIは「ニューラルネットワークの超解像」と呼ばれる技術を導入し、生成モデルを使用して圧縮バージョンから高精度のネットワークを再構築する。この研究は生成AIに応用できる可能性があり、トランスフォーマーモデルの効率を向上させる可能性がある。しかし、これらの貢献は急速に進化する分野の一部であり、その長期的な影響はまだ不明である。
課題と今後の方向性
多くのAIインフラ企業と同様に、Deci AIはハードウェアとモデル開発の急速なペースに関連する課題に直面している。Google DeepMindのTPUやTeslaのカスタムチップなどの新しいアクセラレータアーキテクチャは、最適化ツールの継続的な適応を必要とする。さらに、数十億のパラメータを持つ基盤モデルの台頭は、従来の圧縮技術の適用可能性を制限する可能性のあるスケーリング課題を提示している。
今後、Deci AIはテキスト生成やマルチモーダルモデルを含む生成AIワークロードのサポートを拡大することを目指している。同社はまた、Microsoft AzureやOracle Cloudとの統合を模索しており、クラウドでのリーチを広げている。2024年時点で、Deci AIは新規株式公開の計画を開示していないが、その資金調達の軌跡はAI最適化市場での継続的な成長を示唆している。
結論
Deci AIは、ハードウェアプラットフォーム全体でAIモデルの効率を向上させるソフトウェアツールを提供し、ディープラーニング高速化の分野で注目すべきプレーヤーとしての地位を確立している。AutoNAS技術とInferyランタイムにより、同社は大規模にAIを展開する組織の重要なニーズに対処している。競争は激しいが、Deci AIの自動アーキテクチャ探索とハードウェア認識型最適化への焦点は、明確な価値提案を提供している。同社の将来の成功は、進化するAIモデルとハードウェアに追いつく能力と、技術革新を商業的な採用に変換する能力に依存するだろう。