IBM Granite ist eine Serie von Decoder-only-Large Language Models und Foundation-Modellen, die von IBM entwickelt wurden. Angekündigt am 7. September 2023, mit einem ersten Paper, das vier Tage später veröffentlicht wurde, waren die Modelle zunächst für IBMs cloudbasiertes Daten- und Generative-AI-Plattform Watsonx konzipiert, neben anderen Modellen. IBM öffnete später den Quellcode einiger codefokussierter Varianten und machte sie unter einer permissiven Lizenz frei verfügbar.
Granite-Modelle werden auf kuratierten Datensätzen trainiert, die aus dem Internet, akademischen Publikationen, Code-Repositories sowie Rechts- und Finanzdokumenten stammen. Die Serie umfasst eine Reihe von Parametergrößen, von 3 Milliarden bis 34 Milliarden, um unterschiedlichen Bereitstellungsanforderungen gerecht zu werden.
Architektur der Foundation-Modelle
Ein Foundation-Modell ist ein KI-Modell, das auf breiten Daten in großem Umfang trainiert wird und die Anpassung an eine Vielzahl von nachgelagerten Aufgaben ermöglicht. IBM-Granite-Modelle sind Decoder-only-Transformatoren, eine gängige Architektur für generative Sprachmodelle, die das nächste Token in einer Sequenz vorhersagt. Die ersten Foundation-Modelle, Granite.13b.instruct und Granite.13b.chat, hatten jeweils 13 Milliarden Parameter, was kleiner war als viele zeitgenössische große Modelle. Spätere Varianten erweiterten den Bereich auf 3 bis 34 Milliarden Parameter und boten Flexibilität für unterschiedliche Rechenbudgets und Anwendungsfälle.
Die Kuratierung der Trainingsdaten betonte Qualität und Vielfalt und integrierte Quellen wie akademische Arbeiten, Code-Datensätze und spezialisierte Bereiche wie Recht und Finanzen. Dieser Ansatz zielte darauf ab, die Leistung bei unternehmensorientierten Aufgaben zu verbessern, ein zentraler Fokus für IBMs kommerzielle Angebote.
Veröffentlichung und Open-Source-Code-Modelle
Am 6. Mai 2024 veröffentlichte IBM den Quellcode von vier Varianten der Granite-Code-Modelle unter der Apache-2.0-Lizenz, einer permissiven Open-Source-Lizenz, die freie Nutzung, Modifikation und Weitergabe erlaubt. Diese Modelle wurden auf Hugging Face bereitgestellt, einer beliebten Plattform zum Hosten von KI-Modellen. Laut internen Berichten von IBM übertraf das Granite-8b-Modell Llama 3 bei mehreren codebezogenen Benchmarks in einem ähnlichen Parameterbereich, was seine wettbewerbsfähige Leistung bei Codegenerierung und -verständnis hervorhebt.
Die Open-Source-Veröffentlichung war Teil einer breiteren Strategie, die Community-Adoption und Zusammenarbeit zu fördern, im Gegensatz zu einigen proprietären Modellen anderer Anbieter. IBM positionierte Granite als flexible Alternative für Unternehmen, die anpassbare KI-Lösungen suchen.
Anwendungen und Ökosystem
Granite-Modelle sind in IBMs Watsonx-Plattform integriert, die Werkzeuge für Datenanalyse, generative KI und Modellbereitstellung bietet. Die Modelle werden für Aufgaben wie Codegenerierung, Dokumentzusammenfassung und Fragenbeantwortung verwendet, insbesondere in regulierten Branchen wie Finanzen und Recht, wo Datenschutz und Compliance entscheidend sind. Durch das Angebot sowohl von Open-Source- als auch von Cloud-basiertem Zugang wollte IBM eine breite Palette von Kunden bedienen, von Start-ups bis zu großen Unternehmen.
Die Veröffentlichung von Open-Source-Code-Modellen ermöglichte es auch Drittentwicklern, Granite auf ihrer eigenen Infrastruktur zu feinabzustimmen und bereitzustellen, einschließlich auf Amazon Web Services und anderen Cloud-Anbietern. Dieser Ökosystemansatz spiegelte Trends in der breiteren KI-Community wider, wo offene Modelle wie LLaMA und Mistral AI an Bedeutung gewonnen haben.
Leistung und Vergleiche
IBM hat Benchmarks veröffentlicht, die zeigen, dass Granite-Modelle wettbewerbsfähige Ergebnisse bei standardmäßigen NLP- und Codierungsaufgaben erzielen. Beispielsweise übertraf das Granite-8b-Modell Berichten zufolge Llama 3 bei Codierungs-Benchmarks, trotz einer ähnlichen Anzahl von Parametern. Die unabhängige Verifizierung dieser Behauptungen ist jedoch begrenzt, und die Leistung kann je nach spezifischer Aufgabe und Bewertungsmethodik variieren. Die Modelle sind auf Effizienz ausgelegt, wobei kleinere Varianten für Edge-Bereitstellung und größere für Cloud-basierte Workloads geeignet sind.
Siehe auch
- Mistral AI, ein Unternehmen, das ebenfalls Open-Source-Modelle anbietet
- GPT
- LLaMA
- Gemini
Referenzen
(Es sind gemäß dem Stil des Artikels keine externen Links enthalten.)