Robust Intelligence ist ein Technologieunternehmen, das sich auf die Sicherung von Systemen der künstlichen Intelligenz spezialisiert hat. Das 2019 von Yaron Singer und Kojin Oshiba gegründete Unternehmen bietet eine Plattform zur Validierung und zum Schutz von Machine-Learning-Modellen vor adversarischen Angriffen, Datenabweichungen und anderen Sicherheitslücken. Der Hauptsitz befindet sich in San Francisco, Kalifornien.
Das Unternehmen entstand aus Forschung an der Harvard University, wo Singer Professor für Informatik und angewandte Mathematik ist. Robust Intelligence zielt darauf ab, den wachsenden Bedarf an KI-Sicherheit in Unternehmensumgebungen zu decken, insbesondere da Organisationen zunehmend Machine-Learning-Modelle in kritischen Anwendungen wie Betrugserkennung, autonomen Fahrzeugen und medizinischer Diagnostik einsetzen.
Geschichte und Gründung
Robust Intelligence wurde 2019 von Yaron Singer und Kojin Oshiba mitgegründet. Singer, der als CEO fungiert, brachte akademische Expertise in Algorithmen und maschinellem Lernen ein, während Oshiba, der CTO, Erfahrung in Technik und Produktentwicklung beisteuerte. Das Unternehmen operierte zunächst im Stealth-Modus und entwickelte seine Kerntechnologie, bevor es 2021 öffentlich startete.
Im Jahr 2021 kündigte Robust Intelligence eine Series-A-Finanzierungsrunde in Höhe von 30 Millionen US-Dollar an, angeführt von Sequoia Capital, mit Beteiligung weiterer Investoren wie Harrison Metal und Y Combinator. Die Finanzierung sollte die Produktentwicklung beschleunigen und die Markteinführungsbemühungen des Unternehmens ausweiten. Bis 2023 hatte das Unternehmen zusätzliche Mittel eingeworben, wodurch sich die Gesamtsumme auf über 60 Millionen US-Dollar belief.
Plattform und Technologie
Das Kernangebot von Robust Intelligence ist die KI-Validierungs- und Schutzplattform. Die Plattform testet kontinuierlich Machine-Learning-Modelle auf Schwachstellen, einschließlich adversarischer Beispiele, Datenvergiftung und Eingaben außerhalb der Verteilung. Sie kombiniert automatisiertes Red-Teaming, Belastungstests und Überwachung, um potenzielle Fehlermodi zu identifizieren, bevor sie ausgenutzt werden können.
Die Plattform integriert sich in bestehende ML-Workflows und unterstützt gängige Frameworks wie TensorFlow, PyTorch und scikit-learn. Sie bietet ein Dashboard für Sicherheitsteams, um Risiken zu visualisieren, Warnungen zu erhalten und Compliance-Berichte zu erstellen. Das System bietet auch Minderungsstrategien wie adversarisches Training und Eingabebereinigung, um Modelle gegen identifizierte Bedrohungen zu härten.
Branchenkontext
Der Aufstieg von künstlicher Intelligenz und maschinellem Lernen hat neue Sicherheitsherausforderungen geschaffen. Traditionelle Cybersicherheit konzentriert sich auf den Schutz von Daten und Infrastruktur, aber KI-Modelle führen einzigartige Schwachstellen ein. Adversarische Angriffe können Eingaben manipulieren, um Fehlklassifikationen zu verursachen, während Datenabweichungen die Modellleistung im Laufe der Zeit verschlechtern können. Robust Intelligence operiert in dieser Nische und konkurriert mit anderen KI-Sicherheits-Startups und breiter aufgestellten Cybersicherheitsanbietern.
Wichtige verwandte Konzepte umfassen adversarisches maschinelles Lernen, Datenabweichungen und Modellvalidierung. Der Ansatz des Unternehmens wird oft mit Penetrationstests für KI verglichen, da es proaktiv nach Schwächen sucht, anstatt auf Vorfälle zu warten.
Führung und Team
Yaron Singer, der CEO, ist ein prominenter Forscher auf dem Gebiet der Algorithmen und des maschinellen Lernens. Er hat umfangreich publiziert und wurde mit Auszeichnungen wie dem NSF CAREER Award und dem Sloan Research Fellowship geehrt. Kojin Oshiba, der CTO, arbeitete zuvor bei Google und verfügt über Erfahrung in großen Systemen und Produktentwicklung.
Das Unternehmen hat Talente von führenden Technologieunternehmen und Forschungseinrichtungen angezogen, darunter ehemalige Mitarbeiter von Google, Microsoft und verschiedenen Universitäten. Das Team umfasst Experten für Sicherheit, ML-Forschung und Softwareentwicklung.
Finanzierung und Wachstum
Robust Intelligence hat erhebliches Risikokapital eingeworben. Auf die Series-A-Runde im Jahr 2021 folgte eine Series-B-Runde im Jahr 2023, die die Gesamtfinanzierung auf 60 Millionen US-Dollar brachte. Zu den Investoren gehören Sequoia Capital, Harrison Metal, Y Combinator und andere. Das Unternehmen hat die Mittel genutzt, um sein Vertriebsteam zu erweitern, sein Produkt zu verbessern und Partnerschaften mit Cloud-Anbietern wie Amazon Web Services und Google Cloud aufzubauen.
Stand 2023 bedient Robust Intelligence eine Reihe von Unternehmenskunden in den Bereichen Finanzen, Gesundheitswesen und Technologie. Das Unternehmen berichtet, dass seine Plattform zum Testen und Schützen Tausender Modelle eingesetzt wurde, obwohl spezifische Kundennamen oft vertraulich behandelt werden.
Zukünftige Entwicklungen
In der Zukunft strebt Robust Intelligence an, seine Plattform auf den gesamten KI-Lebenszyklus auszuweiten, von der Entwicklung bis zur Bereitstellung. Das Unternehmen erforscht außerdem Wege, um aufkommende Herausforderungen bei großen Sprachmodellen und generativer KI zu bewältigen, die neue Arten von Risiken wie Prompt-Injection und verzerrte Ausgaben mit sich bringen. Da die KI-Adoption weiter zunimmt, wird erwartet, dass die Nachfrage nach robuster Sicherheit und Validierung steigt, was das Unternehmen für weiteres Wachstum positioniert.
Siehe auch
- adversarisches maschinelles Lernen
- Datenabweichung
- Modellvalidierung
- KI-Sicherheit
- Yaron Singer