Deci AIは、ディープラーニングの高速化を専門とするイスラエルのテクノロジー企業である。2019年に設立された同社は、エッジデバイスやクラウドサーバーを含む様々なハードウェアプラットフォームへの効率的な展開のために人工知能モデルを最適化するソフトウェアツールを開発している。Deci AIの中核技術は、ニューラルネットワークの計算コストを削減しつつ、その精度を維持または向上させることを目的としており、AIシステムの実用的な導入における重要なボトルネックに対処している。
同社は、自動ニューラルアーキテクチャ検索とモデル圧縮に関する研究から生まれ、機械学習運用のより広い分野に自らを位置づけている。Deci AIの製品は、大規模言語モデル、コンピュータビジョンシステム、その他のAIワークロードを展開する組織を対象としており、推論速度の向上とインフラコストの削減を実現するソリューションを提供している。2024年現在、同社は多額のベンチャーキャピタル資金を調達し、主要なクラウドプロバイダーや半導体企業とのパートナーシップを確立している。
設立と資金調達
Deci AIは2019年にYonatan Geifman、Ran El-Yaniv、Jonathan Elsterによって設立された。最高経営責任者を務めたGeifmanは、以前IntelでAI研究に携わっていた。イスラエル工科大学（Technion）の教授であるEl-Yanivは、機械学習とニューラルネットワーク最適化における学術的専門知識をもたらした。同社はイスラエルのテルアビブに本社を置いている。
このスタートアップは2020年に、Emergeが主導しSquare Peg Capitalや他の投資家が参加した925万ドルのシードラウンドを調達した。2021年には、Deci AIは2100万ドルのシリーズA資金調達ラウンドを確保し、総調達額は約3000万ドルとなった。シリーズAはInsight Partnersが主導し、既存の支援者からの継続的な支援も受けた。2023年には、AME Cloud Venturesが主導する2500万ドルのシリーズBラウンドを完了し、累計調達額は5500万ドルを超えた。これらの数字は、AIインフラとモデル最適化技術に対する投資家の関心の高まりを反映している。
中核技術：AutoNASとInfery
Deci AIの基盤技術はAutoNAS（自動ニューラルアーキテクチャ検索）であり、効率的なニューラルネットワークアーキテクチャを自動的に設計する独自システムである。AutoNASは、強化学習やその他の最適化技術を用いて可能なネットワーク設計の空間を探索し、精度と計算コストのバランスを取る。このシステムは、ARMプロセッサ、Intelチップ、NVIDIA GPUなどの特定のハードウェアターゲットに合わせたカスタムアーキテクチャを生成できるが、NVIDIAは同社の公的なパートナーには明示的に含まれていない。
AutoNAS上に構築された主要な商用製品は、推論ランタイムおよび最適化エンジンであるInferyである。Inferyには、プルーニング、量子化、知識蒸留などの技術を適用してモデルサイズとレイテンシを削減するモデル最適化ツールキットが含まれている。このランタイムは、TensorFlowやPyTorchを含む複数のフレームワークにわたる展開をサポートし、DockerやKubernetesなどのコンテナ化された環境と統合する。Inferyは、エッジデバイスで最大10倍、クラウドサーバーで最大4倍の推論高速化を実現すると主張しているが、これらの数値は特定のモデルとハードウェアに依存する。
製品ラインナップとユースケース
Deci AIの製品スイートはInferyを超えて、ニューラルネットワークグラフの非効率性を特定するモデル分析ツールであるDeciLintと、ターゲットハードウェア向けにモデルを微調整する勾配ベースの最適化モジュールであるDeciGradを含む。これらのツールは、厳格なレイテンシとコスト制約のある本番環境でモデルを展開する必要があるデータサイエンスおよび機械学習チーム向けに設計されている。
主なユースケースには、物体検出や画像セグメンテーションなどのコンピュータビジョンアプリケーション、テキスト分類や質問応答などの自然言語処理タスク、そして最近では大規模言語モデルの推論が含まれる。例えば、Deci AIは、攻撃的な圧縮技術を適用することで、1750億パラメータのトランスフォーマーモデルを単一のサーバーノードで実行できることを実証しているが、これらの主張は内部ベンチマークに基づいており、独立して検証されていない。同社はまた、顧客が独自のインフラを構築することなく最適化されたモデルをテストおよびベンチマークできる管理プラットフォームであるDeci Cloudも提供している。
パートナーシップとエコシステム
Deci AIは、そのリーチを拡大するためにいくつかの主要なテクノロジー企業とパートナーシップを結んでいる。2022年には、スマートフォンやIoTデバイス向けのオンデバイス推論をターゲットに、QualcommのSnapdragonモバイルプラットフォーム向けにAIモデルを最適化するQualcommとのコラボレーションを発表した。このパートナーシップは、画像強調や音声認識などのリアルタイムAI機能をより低い消費電力で実現することを目的としていた。
クラウド分野では、Deci AIはAmazon Web ServicesおよびGoogle Cloudと協力して、その最適化ツールをAIマーケットプレイスの一部として提供している。同社はまた、2023年にAMDと提携し、データセンターのワークロード向けに最適化されたモデルライブラリを提供することでAMDのInstinctアクセラレータをサポートしている。さらに、Deci AIは民生用電子機器におけるエッジAIアプリケーションについてSamsung Electronicsと関与しているが、具体的な製品詳細は非公開のままである。
これらのパートナーシップは、ハードウェア固有の最適化と流通チャネルへのアクセスを提供するため、Deci AIにとって戦略的である。チップメーカーやクラウドプロバイダーと連携することで、同社はAWS TrainiumからGroqやSambaNovaシステムに至るまで、多様なAIアクセラレータの状況にわたって自社ソフトウェアが効率的に動作することを保証できる。
競争環境
Deci AIは、確立されたプレーヤーとスタートアップの両方を含む競争の激しい市場で事業を展開している。直接の競合他社には、専用AIプロセッサを開発するGraphcoreや、超高速推論ハードウェアに焦点を当てたGroqが含まれる。ソフトウェア面では、SambaNovaやNeural Magicなどの企業が最適化ソリューションを提供しているが、Neural Magicは提供されたリンクリストには含まれていない。さらに、主要なクラウドプロバイダーは、Amazon SageMakerやAzure Machine Learningなど、Deci AIの提供物と競合する可能性のある独自の最適化サービスを提供している。
Deci AIは、事後的な圧縮のみに依存するのではなく、アーキテクチャ検索プロセスを自動化するAutoNAS技術を通じて差別化を図っている。このアプローチは、既存のアーキテクチャを縮小するのではなく、最初から本質的により効率的なモデルを生み出すことができる。同社はまた、AIワークロードが多様なエッジおよびデータセンター環境に移行するにつれて業界で成長しているトレンドである、特定のチップに合わせたモデル調整を重視している。
研究とオープンソースへの貢献
Deci AIは、学術論文を発表し、より広いAIコミュニティに貢献する活発な研究チームを維持している。注目すべき出版物には、量子化対応トレーニングと効率的なトランスフォーマーアーキテクチャに関する研究が含まれ、NeurIPSやICMLなどの会議で発表されている。同社はまた、外部の開発者によって使用されているモデル圧縮のためのライブラリを含むオープンソースツールもリリースしている。
2023年には、Deci AIは「ニューラルネットワークの超解像」と呼ばれる技術を導入した。これは、生成モデルを使用して圧縮バージョンから高精度のネットワークを再構築するものである。この研究は生成AIに応用できる可能性があり、トランスフォーマーモデルの効率を改善する可能性がある。しかし、これらの貢献は急速に進化する分野の一部であり、その長期的な影響はまだ不明である。
課題と今後の方向性
多くのAIインフラ企業と同様に、Deci AIはハードウェアとモデル開発の速いペースに関連する課題に直面している。Google DeepMindのTPUやTeslaのカスタムチップなどの新しいアクセラレータアーキテクチャは、最適化ツールの継続的な適応を必要とする。さらに、数十億のパラメータを持つ基盤モデルの台頭は、従来の圧縮技術の適用可能性を制限する可能性のあるスケーリングの課題を提示している。
今後、Deci AIはテキスト生成やマルチモーダルモデルを含む生成AIワークロードのサポートを拡大することを目指している。同社はまた、クラウドリーチを広げるためにMicrosoft AzureおよびOracle Cloudとの統合を模索している。2024年現在、Deci AIは新規株式公開の計画を開示していないが、その資金調達の軌跡はAI最適化市場での継続的な成長を示唆している。
結論
Deci AIは、ハードウェアプラットフォーム全体でAIモデルの効率を向上させるソフトウェアツールを提供し、ディープラーニング高速化分野の注目すべきプレーヤーとしての地位を確立している。AutoNAS技術とInferyランタイムにより、同社は大規模にAIを展開する組織の重要なニーズに対処している。競争は激しいが、自動アーキテクチャ検索とハードウェア認識最適化へのDeci AIの焦点は、明確な価値提案を提供している。同社の将来の成功は、進化するAIモデルとハードウェアに追いつく能力と、技術的革新を商業的採用に変換する能力にかかっている。