Arm AI ist die auf künstliche Intelligenz spezialisierte Abteilung von Arm Holdings plc, einem britischen Unternehmen für Halbleiter- und Softwaredesign mit Hauptsitz in Cambridge, England. Arm AI entwickelt Prozessordesigns und neuronale Verarbeitungseinheiten (NPUs), die auf Edge Computing zugeschnitten sind und On-Device-Machine learning- und Deep learning-Workloads in Geräten von Smartphones bis hin zu eingebetteten Sensoren ermöglichen. Die Ethos-NPU-Familie ist eine wichtige Produktlinie, die darauf ausgelegt ist, Neural network-Inferenz effizient in stromsparenden Umgebungen zu beschleunigen.
Die Abteilung baut auf der breiteren Arm-Architektur auf, die weltweit an Partner lizenziert wird. Arm-CPU-Kerne wie die Serien Cortex-A und Cortex-M werden häufig in Mobil- und eingebetteten Systemen eingesetzt, und Arm AI integriert KI-spezifische Beschleuniger mit diesen Kernen. Dieser Ansatz ermöglicht es Geräten, Generative AI-Modelle und andere KI-Aufgaben lokal auszuführen, wodurch die Abhängigkeit von Cloud Computing verringert und Datenschutz sowie Latenz verbessert werden. Arm AI konkurriert mit anderen Edge-KI-Lösungen von Unternehmen wie Qualcomm, Apple und Samsung Electronics, aber sein Lizenzmodell unterscheidet es, indem es ein breites Ökosystem von Chipdesignern ermöglicht.
Geschichte und Entwicklung
Arm Holdings wurde am 12. November 1990 als Widelogic Limited gegründet und am 3. Dezember 1990 schnell in Advanced RISC Machines Limited umbenannt, als Joint Venture zwischen Acorn Computers, Apple und VLSI Technology. Das Akronym ARM stand ursprünglich für „Acorn RISC Machine“ und wurde später auf Wunsch von Apple in „Advanced RISC Machines“ geändert. Der erste Prozessor des Unternehmens, der ARM1, wurde im Acorn Archimedes verwendet, einem der ersten RISC-basierten Desktop-Computer. Arms früher Fokus lag auf stromsparenden, hocheffizienten Prozessoren, die grundlegend für mobile Geräte wurden.
Arm AI entstand als eigenständige Initiative in den 2010er Jahren, als Artificial intelligence-Anwendungen zunahmen. 2017 führte Arm seine erste KI-spezifische Prozessorarchitektur ein, den Arm Machine Learning Processor, und 2018 startete die Ethos-NPU-Produktlinie. Diese Entwicklungen zielten darauf ab, KI-Fähigkeiten auf Milliarden von Edge-Geräten zu bringen, im Einklang mit Arms Mission, überall zu rechnen. Die Abteilung hat sich seitdem erweitert, um Large language model-Inferenz auf dem Gerät zu unterstützen, eine wachsende Nachfrage, da Modelle wie die von OpenAI und Anthropic kompakter werden.
Ethos-NPU-Architektur
Die Ethos-NPU-Familie ist das zentrale Hardware-Angebot von Arm AI. Die erste Generation, Ethos-N37, wurde 2018 angekündigt und zielte auf Mittelklasse-Smartphones und IoT-Geräte ab. Nachfolgende Generationen wie Ethos-N57 und Ethos-N77 skalierten die Leistung für höherwertige Anwendungen. 2020 führte Arm die Ethos-U-Serie ein, die für Mikrocontroller und extrem stromsparende Edge-Geräte entwickelt wurde und KI in Sensoren und Wearables ermöglicht. Das neueste Ethos-U85, das 2024 veröffentlicht wurde, unterstützt transformerbasierte Modelle, einschließlich Transformer (architecture)-Architekturen, die in moderner KI verwendet werden.
Ethos-NPUs sind für Inferenz optimiert, nicht für Training, und konzentrieren sich auf Effizienzkennzahlen wie TOPS/W (Tera-Operationen pro Sekunde pro Watt). Sie unterstützen gängige neuronale Netzwerkoperationen, einschließlich Faltung, Pooling und Aktivierungsfunktionen, und sind über Software-Frameworks wie TensorFlow Lite und PyTorch programmierbar. Arm AI bietet auch die Arm-NN-Softwarebibliothek an, die KI-Frameworks mit der Hardware verbindet und eine nahtlose Bereitstellung gewährleistet.
Integration mit Arm-CPUs
Arm-AI-Prozessoren sind so konzipiert, dass sie mit Arm-CPUs zusammenarbeiten, die in Mobil- und eingebetteten Systemen allgegenwärtig sind. Die Cortex-A-Serie, die in Smartphones verwendet wird, und die Cortex-M-Serie, die in Mikrocontrollern verwendet wird, bieten allgemeine Rechenleistung, während Ethos-NPUs KI-spezifische Aufgaben auslagern. Dieser heterogene Rechenansatz balanciert Leistung und Stromverbrauch aus, was für batteriebetriebene Geräte entscheidend ist. Beispielsweise könnte ein Smartphone einen Cortex-A78 für die App-Verarbeitung und einen Ethos-N77 für Kamera-KI-Funktionen wie Szenenerkennung verwenden.
Arms Total-Compute-Lösungen, die 2020 eingeführt wurden, integrieren CPUs, GPUs und NPUs in eine kohäsive Plattform. Die Mali- und Immortalis-GPUs, Arms Grafiklinien, unterstützen ebenfalls KI-Workloads, wobei Immortalis Hardware-Raytracing hinzufügt. Diese Integration ermöglicht es Entwicklern, KI-Modelle über verschiedene Recheneinheiten hinweg zu optimieren und so die Effizienz zu maximieren. Arms Software-Tools, einschließlich der Arm Compute Library und CMSIS-NN für Cortex-M, vereinfachen die Bereitstellung weiter.
Marktposition und Wettbewerb
Arm AI operiert in einer wettbewerbsintensiven Landschaft. Im mobilen KI-Bereich gehören zu den Rivalen Qualcomm mit seinem Hexagon-DSP und Apple mit seiner Neural Engine. Im Edge-KI-Bereich für IoT konkurrieren Intel mit Movidius und Hardware-Partner von Google DeepMind. Arms Lizenzmodell bietet jedoch einen einzigartigen Vorteil: Anstatt Chips zu verkaufen, lizenziert es Designs an Hunderte von Partnern, darunter Samsung Electronics, TSMC und Broadcom. Dieser Ökosystemansatz hat dazu geführt, dass Arm-basierte Prozessoren bis 2025 in praktisch allen modernen Smartphones verwendet werden.
Im Server- und Rechenzentrumsbereich steht Arm AI im Wettbewerb mit AMD und Intel, aber sein Fokus bleibt auf Edge. Arms Haupt-CPU-Konkurrenten bei Servern sind IBM, Intel und AMD, aber Arm hat keine Konkurrenz bei mobilen CPUs, obwohl Chip-Anbieter in diesem Bereich konkurrieren. Bei GPUs konkurriert Arm mit Imagination Technologies, Qualcomm und zunehmend Nvidia, AMD, Samsung und Intel. Trotzdem werden Arms NPUs oft mit GPUs anderer Anbieter integriert, wie in Qualcomms Snapdragon-Plattformen zu sehen ist.
Software- und Entwickler-Ökosystem
Arm AI bietet einen umfassenden Software-Stack zur Unterstützung der KI-Entwicklung. Das Arm-NN-SDK, das erstmals 2017 veröffentlicht wurde, ermöglicht es Entwicklern, neuronale Netzwerke auf Arm-Hardware auszuführen und unterstützt Frameworks wie TensorFlow, Caffe und ONNX. 2019 führte Arm den Arm ML Embedded Evaluator (Arm ML Eval) ein, ein Tool zur Benchmarking der KI-Leistung auf eingebetteten Geräten. Die CMSIS-NN-Bibliothek, Teil des Cortex Microcontroller Software Interface Standard, optimiert neuronale Netzwerk-Kernel für Cortex-M-Prozessoren.
Arm arbeitet auch mit Cloud-Anbietern zusammen, um Edge-to-Cloud-KI zu ermöglichen. Durch Partnerschaften mit Amazon Web Services, Microsoft Azure und Google Cloud werden Arm-AI-Designs in Cloud-Instanzen für das Training verwendet, während Edge-Geräte die Inferenz übernehmen. Dieser hybride Ansatz ist in Generative AI-Anwendungen üblich, bei denen Modelle in der Cloud trainiert und auf dem Gerät bereitgestellt werden. Arms Unterstützung für Model Pruning und Quantization hilft, die Modellgröße zu reduzieren, was die Bereitstellung auf speicherbegrenzten Geräten ermöglicht.
Aktuelle Entwicklungen und zukünftige Richtungen
2023 ging Arm an der Nasdaq an die Börse und sammelte 4,87 Milliarden US-Dollar bei einer Bewertung von 54,5 Milliarden US-Dollar ein, wobei die SoftBank Group etwa 90 % des Eigentums behielt. Dieser Börsengang bot Kapital für Arm AI, um seine Produkt-Roadmap zu erweitern. 2024 kündigte Arm das Ethos-U85 an, das Transformer-Modelle unterstützt, und führte den Arm AI Accelerator für Rechenzentren ein, der auf Inferenz in großem Maßstab abzielt. Diese Schritte signalisieren einen Vorstoß in leistungsfähigere Edge-KI, einschließlich On-Device-Large language model-Inferenz.
Arm AI erkundet auch Partnerschaften mit KI-Forschungslabors. 2025 arbeitete es mit MIT CSAIL und Stanford AI Lab an energieeffizienten KI-Algorithmen zusammen, um den CO2-Fußabdruck von KI zu reduzieren. Die Abteilung investiert in Residual Network (ResNet)- und U-Net-Optimierungen für Computer Vision und in Sequence-to-Sequence (Seq2Seq)-Modelle für die Verarbeitung natürlicher Sprache. Da KI-Modelle effizienter werden, zielt Arm AI darauf ab, ihre Bereitstellung in Milliarden von Geräten zu ermöglichen, von Smart-Home-Sensoren bis zu autonomen Fahrzeugen.
Herausforderungen und Kontroversen
Arm AI steht vor Herausforderungen, einschließlich des versuchten Erwerbs durch Nvidia von 2020 bis 2022, der aufgrund regulatorischen Drucks aus Großbritannien, der EU und den USA abgesagt wurde. Diese Unsicherheit beeinflusste Arms strategische Richtung, aber das Unternehmen blieb unabhängig. Darüber hinaus war Arms China-Tochtergesellschaft Arm China eine Quelle von Streitigkeiten, wobei 2020 Führungskonflikte berichtet wurden. Diese Probleme haben die Produktentwicklung von Arm AI nicht direkt beeinträchtigt, heben jedoch Governance-Komplexitäten hervor.
Eine weitere Herausforderung ist der Wettbewerbsdruck durch Open-Source-KI-Hardware-Initiativen wie RISC-V, die kostenlose Alternativen bieten. Arms ausgereiftes Ökosystem und Software-Support bieten jedoch einen starken Schutz. Ab 2026 innoviert Arm AI weiter, mit Berichten über eine mögliche Übernahme von Cerebras Systems, einem Hersteller von Wafer-Scale-Chips, obwohl der Ansatz abgelehnt wurde. Dies deutet auf Arms Ambition hin, in leistungsstarke KI-Berechnung zu expandieren und möglicherweise Edge- und Rechenzentrumsmärkte zu überbrücken.
Fazit
Arm AI repräsentiert einen strategischen Fokus innerhalb von Arm Holdings auf die Ermöglichung von KI am Edge. Durch seine Ethos-NPU-Familie und die Integration mit Arm-CPUs bietet es effiziente, skalierbare Lösungen für eine breite Palette von Geräten. Der Erfolg der Abteilung ist mit Arms Lizenzmodell verbunden, das Innovation in der Halbleiterindustrie fördert. Da KI allgegenwärtig wird, ist Arm AI gut positioniert, um eine zentrale Rolle bei der Bereitstellung von Intelligenz auf jedem vernetzten Gerät zu spielen, von Wearables bis zu industriellen Sensoren, und gleichzeitig die wachsende Nachfrage nach On-Device-Verarbeitung in einer datenschutzbewussten Welt zu adressieren.