Partnerschaft für Künstliche Intelligenz zum Nutzen von Menschen und Gesellschaft, allgemein bekannt als Partnership on AI (PAI), ist eine gemeinnützige Koalition, die sich der verantwortungsvollen Nutzung künstlicher Intelligenz widmet. Die Organisation wurde 2016 gegründet und bringt Interessengruppen aus Wissenschaft, Zivilgesellschaft und Industrie zusammen, um Empfehlungen für bewährte Praktiken für die Technologiegemeinschaft zu entwickeln. Stand 2024 berichtet PAI von 126 Partnerorganisationen in 16 Ländern, die an Themen von algorithmischer Transparenz bis zu den gesellschaftlichen Auswirkungen der Automatisierung arbeiten.
Die Koalition arbeitet nach einem Multi-Stakeholder-Modell, das Perspektiven von Technologieunternehmen, Forschungseinrichtungen und Interessenvertretungen integriert. Ihre Arbeit konzentriert sich darauf, Prinzipien in handlungsorientierte Leitlinien für Entwickler, politische Entscheidungsträger und die Öffentlichkeit zu übersetzen, mit einem Schwerpunkt auf der Minderung von Risiken bei gleichzeitiger Förderung von Innovation in Bereichen wie maschinellem Lernen und generativer KI.
Geschichte
Die Partnership on AI wurde am 28. September 2016 öffentlich angekündigt, mit Gründungsmitgliedern wie Amazon, Facebook, Google, DeepMind, Microsoft und IBM. Interimistische Ko-Vorsitzende waren Eric Horvitz von Microsoft Research und Mustafa Suleyman von DeepMind. Im Januar 2017 trat Tom Gruber, Leiter der fortgeschrittenen Entwicklung für Siri bei Apple, dem Vorstand bei. Terah Lyons wurde im Oktober 2017 geschäftsführende Gründungsdirektorin und brachte Erfahrung aus ihrer Rolle als Politikberaterin der US-amerikanischen Cheftechnologiebeauftragten Megan Smith mit.
Baidu wurde im Oktober 2018 das erste in China ansässige Unternehmen, das beitrat. Im November 2020 startete PAI die AI Incident Database (AIID), ein öffentliches Werkzeug zur Identifizierung und Bewertung von KI-bezogenen Schäden. Rebecca Finlay, zuvor Vorstandsmitglied, wurde am 26. Oktober 2021 zur CEO ernannt, nachdem sie als interimistische geschäftsführende Direktorin gedient hatte. Im Februar 2023 führte PAI einen Rahmen für ethische synthetische Medien ein, unterstützt von Partnern wie Adobe, BBC, OpenAI und TikTok, nach einem einjährigen kollaborativen Prozess.
Mission und Prinzipien
PAI organisiert seine Arbeit in fünf Programmbereichen: KI und Medienintegrität; KI, Arbeit und Wirtschaft; Gerechtigkeit, Transparenz und Rechenschaftspflicht; inklusive Forschung und Gestaltung; und Sicherheit für KI. Jedes Programm produziert methodische Werkzeuge, Berichte und Leitlinien, die auf praktische Wirkung abzielen. Das Programm KI und Medienintegrität befasst sich mit dem Potenzial von KI, schädliche Inhalte zu verstärken, während das Programm KI, Arbeit und Wirtschaft Ökonomen und Arbeitnehmervertreter zusammenbringt, um inklusive Wirtschaftspolitik zu gestalten.
Das Programm Fairness, Transparenz und Rechenschaftspflicht entwickelt Standards für algorithmische Gerechtigkeit und Erklärbarkeit und ergänzt das Programm Inklusive Forschung und Gestaltung, das die Beteiligung der Gemeinschaft an der KI-Entwicklung fördert. Das Programm Sicherheitskritische KI konzentriert sich auf Hochrisikosektoren wie Medizin und Transport und überwacht Initiativen wie die AI Incident Database und die SafeLife-Lernumgebung. Die Organisation betont auch den sozialen Nutzen und untersucht KI-Anwendungen im öffentlichen Wohl, in der Bildung und in der Nachhaltigkeit.
Programme und Initiativen
Eine zentrale Initiative ist der Rahmen für den sicheren Einsatz von KI-Modellen, der Anbieter bei der Verwaltung sich entwickelnder Fähigkeiten und gesellschaftlicher Risiken leitet. PAI arbeitet auch mit Google DeepMind an Forschung zu Abwanderungsraten unter Frauen und minorisierten Personen in der Technologiebranche zusammen. Im Bereich der Erklärbarkeit hat die Organisation Workshops zum Einsatz erklärbarer KI (XAI) veranstaltet, die Branchenexperten zur Diskussion praktischer Herausforderungen zusammenbrachten.
In Partnerschaft mit First Draft untersuchte PAI Strategien zur Bekämpfung täuschender Online-Inhalte, was ihren methodischen Ansatz zur Informationsintegrität widerspiegelt. Die AI Incident Database bleibt eine zentrale Ressource, die reale Fälle katalogisiert, um Risikomanagementpraktiken zu informieren. PAIs Antwort an das National Institute of Standards and Technology (NIST) im August 2021 hob diese Bemühungen hervor, einschließlich des ABOUT-ML-Projekts zur Dokumentation von Lebenszyklen des maschinellen Lernens, als im Einklang mit dem KI-Risikomanagementrahmen des NIST.
Wirkung und Governance
PAIs Governance-Struktur umfasst einen Vorstand aus Partnerorganisationen, wobei Führungswechsel seit der Gründung dokumentiert sind. Das Wachstum der Koalition von sechs Gründungsunternehmen auf über 120 Partner verdeutlicht ihren wachsenden Einfluss über Sektoren hinweg. Ihre Empfehlungen wurden in politischen Diskussionen referenziert, insbesondere im Hinblick auf KI-Risikomanagement und Governance synthetischer Medien. Die Organisation passt ihre Prioritäten weiterhin an, während sich künstliche Intelligenz-Technologien entwickeln, und balanciert Innovation mit Rechenschaftspflicht aus.
Stand 2024 bleibt PAI aktiv in der Gestaltung globaler Gespräche über verantwortungsvolle KI, mit laufenden Projekten in Medienintegrität, Arbeit und Sicherheit. Ihr kollaboratives Modell unterscheidet sie von rein industriegeführten Bemühungen und zielt darauf ab, vielfältige Stimmen in technische und politische Entscheidungen einzubeziehen.