Dolly ist ein großes Sprachmodell, das durch Instruction-Tuning optimiert wurde und von Databricks entwickelt wurde. Es wurde erstmals im März 2023 veröffentlicht. Es zeigte, dass ein relativ kleines Modell, das mit einem bescheidenen Datensatz feinabgestimmt wurde, kompetentes Befolgen von Anweisungen erreichen konnte, und stellte damit die vorherrschende Annahme in Frage, dass massive Größe und umfangreiche proprietäre Daten für solche Fähigkeiten notwendig seien. Das Projekt zielte darauf ab, die Anpassung von LLMs für Unternehmen zugänglich zu machen, indem es zeigte, dass die Feinabstimmung auf einem einzelnen Rechner in kurzer Zeit durchgeführt werden konnte.
Die erste Version, Dolly 1.0, basierte auf EleutherAIs GPT-J 6B-Modell und wurde mit einem Datensatz von etwa 15.000 Anweisungs-Antwort-Paaren feinabgestimmt, die von Databricks-Mitarbeitern erstellt wurden. Darauf folgte im April 2023 Dolly 2.0, das dasselbe Basismodell verwendete, aber einen größeren, quelloffenen Datensatz von 15.000 Paaren einführte, der unter einer freizügigen Lizenz veröffentlicht wurde. Dolly 2.0 wurde bekannt als eines der ersten quelloffenen, instruction-tuned Modelle mit einem vollständig offenen Trainingsdatensatz, was es Forschern ermöglichte, die Arbeit zu replizieren und darauf aufzubauen.
Technischer Ansatz
Dollys Training verwendete eine Technik namens Instruction Tuning, bei der ein vortrainiertes Sprachmodell mit Beispielen von Anweisungen und entsprechenden Antworten feinabgestimmt wird. Dieser Prozess richtet das Verhalten des Modells auf die Benutzerabsicht aus und ermöglicht es, Aufforderungen in verschiedenen Aufgaben wie Zusammenfassung, Beantwortung von Fragen und Textgenerierung zu befolgen. Die Feinabstimmung verwendete ein standardmäßiges überwachtes Lernziel, das das Modell optimierte, um die Antwort-Tokens basierend auf der Anweisung vorherzusagen. Databricks nutzte seine eigene Maschinenlern-Plattform zur Verwaltung der Trainingspipeline, aber das Modell selbst war darauf ausgelegt, auf handelsüblicher Hardware zu laufen, einschließlich einer einzelnen Nvidia A10 GPU für die Inferenz.
Das Basismodell, GPT-J, ist eine Transformer-basierte Architektur mit 6 Milliarden Parametern, die auf dem Pile-Datensatz trainiert wurde. Dollys Feinabstimmung veränderte die Basisarchitektur nicht, sondern passte die Gewichte an, um sich auf das Befolgen von Anweisungen zu spezialisieren. Dieser Ansatz stand im Gegensatz zu größeren Modellen wie denen von OpenAI oder Anthropic, die oft massive Rechenressourcen und proprietäre Trainingsdaten erfordern.
Veröffentlichung und Auswirkungen
Dolly wurde unter der Apache-2.0-Lizenz veröffentlicht, was es frei für kommerzielle und Forschungszwecke nutzbar machte. Der begleitende Datensatz, genannt 'databricks-dolly-15k', wurde ebenfalls quelloffen gemacht, was zu dieser Zeit selten war. Diese Offenheit ermöglichte es der Maschinenlern-Gemeinschaft, die Auswirkungen von Instruction Tuning zu untersuchen und abgeleitete Modelle zu erstellen. Dollys Veröffentlichung löste Diskussionen über die Demokratisierung von KI aus, da sie zeigte, dass Organisationen ohne riesige Ressourcen fähige Assistenten bauen konnten.
Allerdings war Dollys Leistung nicht auf dem Niveau von modernsten Modellen wie GPT-3.5 oder Claude und zeigte Einschränkungen bei komplexem Denken und faktischer Genauigkeit. Dennoch diente es als Proof of Concept für effiziente Feinabstimmung und beeinflusste spätere quelloffene Bemühungen wie Alpaca und Vicuna. Databricks positionierte Dolly als Werkzeug für Unternehmen, um benutzerdefinierte KI-Assistenten mit ihren eigenen Daten zu erstellen, integriert in ihre Lakehouse-Architektur.
Rezeption und Vermächtnis
Dolly erhielt bei der Veröffentlichung erhebliche Medienaufmerksamkeit, wobei die Technologiepresse die niedrigen Trainingskosten (berichtet unter 30 US-Dollar für Rechenleistung) und die Herausforderung an die Erzählung hervorhob, dass nur Technologiegiganten LLMs entwickeln könnten. Das Modell wurde für seine Transparenz gelobt, aber einige Kritiker merkten an, dass seine Fähigkeiten im Vergleich zu kommerziellen Angeboten begrenzt waren. Im Laufe der Zeit wurde Dolly durch leistungsfähigere offene Modelle ersetzt, aber sein Datensatz und seine Methodik wurden weiterhin in der Forschung verwendet.
Databricks integrierte Dolly später in seine Plattform, sodass Kunden das Modell für spezifische Anwendungsfälle feinabstimmen und bereitstellen konnten. Das Projekt trug auch zum breiteren Trend der quelloffenen LLM-Entwicklung bei und förderte weitere Experimente mit Instruction Tuning an kleineren Modellen. Ab 2025 gilt Dolly als historischer Meilenstein in der Entwicklung zugänglicher KI, obwohl es nicht mehr aktiv weiterentwickelt wird.
Siehe auch
- Generative KI
- Deep Learning
- Neuronales Netzwerk
- Amazon Web Services (für cloudbasierte LLM-Bereitstellung)
Referenzen
(Hinweis: Dieser Artikel basiert auf öffentlich verfügbaren Informationen und zitiert keine externen Quellen.)