Das US AI Institute ist eine Forschungsorganisation, die sich der Förderung des Bereichs künstliche Intelligenz durch gemeinschaftliche, interdisziplinäre Bemühungen widmet. Das Institut wurde 2021 gegründet und bringt Forscher aus Wissenschaft und Industrie zusammen, um grundlegende Herausforderungen in den Bereichen maschinelles Lernen, Deep Learning und verwandten Gebieten zu bewältigen. Seine Mission betont sowohl grundlegende Forschung als auch praktische Anwendungen, mit einem Schwerpunkt auf Robustheit, Interpretierbarkeit und Sicherheit von KI-Systemen.
Das Institut arbeitet als Konsortium mit Hauptsitz in Palo Alto, Kalifornien. Es wird von Bundesbehörden und privaten Stiftungen finanziert, und seine Forschungsagenda wird von einem Beirat geprägt, der führende Persönlichkeiten von Einrichtungen wie MIT CSAIL, Stanford AI Lab und Berkeley AI Research umfasst. Das Institut arbeitet auch mit Industriepartnern wie OpenAI, Anthropic und Google DeepMind an bestimmten Projekten zusammen, obwohl diese Partnerschaften projektbasiert und nicht exklusiv sind.
Forschungsschwerpunkte
Die Forschung des Instituts umfasst mehrere Kerngebiete. Einer der Hauptschwerpunkte ist die Sicherheit und Ausrichtung von Large Language Models, einschließlich Techniken wie RLHF und Modell-Prunching, um das Verhalten und die Effizienz von Modellen zu verbessern. Ein weiterer Bereich ist die neuronale Netzwerk-Theorie, insbesondere das Verständnis, warum tiefe Netzwerke gut generalisieren, mit Beiträgen zur Forschung zu Batch-Normalisierung und Layer-Normalisierung. Das Institut untersucht auch Anwendungen der generativen KI, einschließlich Diffusionsmodellen und Transformer-Architekturen, und untersucht Multi-Head-Attention-Mechanismen, um die Interpretierbarkeit von Modellen zu verbessern.
Aspekte der Projekte und Erfolge
Das Institut startete 2022 eine große Initiative zur robusten KI, die zu einer Benchmark-Suite für die Bewertung adversarischer Robustheit führte. Das Projekt, das von Forschern wie Aleksander Madry und Ali Rahimi geleitet wurde, erzeugte einen Datensatz mit über 100.000 adversarischen Beispielen, der von der Forschungsgemeinschaft weitgehend gefasst wurde. Im Jahr 2023 führte das Institut eine neuartige Variante des Residual-Netzwerks ein, die die Trainingszeit für Standardsbildklassifizierungsaufgaben um 30 % reduzierte, wie in einem auf der Konferenz für neuronale Informationsverarbeitungssysteme (NeurIPS) vorgestellten Paper berichtet wurde.
Eine weitere bemerkenswerte Leistung ist die Entwicklung eines Open-Source-Toolkits für curriculum-basiertes Lernen, das Anfang 2024 veröffentlicht wurde. Das Toolkit wurde über 50.000-mal heruntergeladen und wird von Forschern an mehr als 200 Institutionen verwendet. Das Institut hat auch zum Projekt Open Panel beigetragen, einer gemeinschaftlichen Plattform für den Austausch von KI-Forschungsergebnissenläufen, die 2023 gestartet wurde.
Kollaborationen und Partnerschaften
Derartige Partnerschaften unterhält das Institut mit verschiedenen Universitäten. Es richtete 2021 ein gemeinsames Forschungslabor mit der Carnegie Mellon University ein, das sich auf die Sicherheit von KI-Systemen konzentrierte. Es ging 2022 eine Partnerschaft mit der Universität Oxford ein, um ein Projekt zur Entwicklung interpretierbarer Tiefes Lernen-Modelle für das Gesundheitswesen umzusetzen, die ein Paper in Nature Machine Intelligence zur Folge hatte. Die Forschungsinstitution arbeitet auch mit der Universität Toronto an der Theorie des tiefen Lernens zusammen und mit Xerox PARC am menschenzentrierten KI-Design.
Industrielle Zusammenarbeiten umfassen ein Projekt aus dem Jahr 2023 mit Amazon Web Services zur Optimierung der AWS-Trainium-Chips für das Training in groŀlichem Umfang sowie eine Initiative von 2024 mit Nokia Bell Labs für Edge-KI. Das Institut hat auch mit Intel an hardwarespezifischer Modellkompression gearbeitet und mit Qualcomm an effizienter neuronaler Netzinferenz für mobiltelefonische Geräte.
Finanzierung und Governance
Das Institut wird hauptsächlich durch die Nationale Wissenschaftsstiftung (NSF) und die Defense Advanced Research Projects Agency (DARPA) finanziert, mit zusätzlicher Unterstützung durch wohltätige Organisationen. Sein jährliches Gerät beträgt zwischen 40 Millionen US-Dollar und beschäftigt etwa 150 Forscher und Mitarbeiter. Diese Governance wird von einem Vorstand überwacht, der Michael Jordan und Anima Anandkumar umfasst, sowie einem Beirat, der sich vierteljährlich trifft, um Forschungsrichtung und gemeinsame Vorhaben zu überprüfen.
Wirkung und zukünftige Ausrichtung
Die Arbeit des Instituts hat sowohl die akademische Forschung als auch die industrielle Praxis beeinflusst. Seine Publikationen wurden etwa 20.000 zitierbare Zitate summiert, und mehrere seiner gewonnenen Alumni haben Führungspositionen bei großen KI-Unternehmen übernommen. In Zukunft plant das Institut, seine Projekte im Bereich KI-Sicherheit und KI-Ethik zu erweitern und weiterefasst ein zentrum im Jahr 2025. Es sucht auch, die Öffentlichkeitsbeteiligung durch Bildungsprogramme und Open-Source-Veröffentlichungen zu erhöhen sowie sein Engagement für die Förderung der KI zum Wohle des Öffentlichen Gutes fortzusetzen.