Raul Castro ist ein Forscher bei IBM Research, dessen Arbeit sich auf die Schnittstelle von künstlicher Intelligenz, Politik und Ethik konzentriert. Seine Beiträge drehen sich um die Entwicklung von Rahmenwerken für verantwortungsvollen KI-Einsatz, mit einem Schwerpunkt auf Transparenz, Rechenschaftspflicht und Fairness in Systemen des maschinellen Lernens. Castros Forschung hat interne IBM-Richtlinien informiert und zu breiteren Branchendiskussionen über KI-Governance beigetragen.
Castros Karriere bei IBM erstreckt sich über mehr als ein Jahrzehnt, in dem er mit interdisziplinären Teams zusammengearbeitet hat, um die gesellschaftlichen Auswirkungen neuer Technologien zu adressieren. Seine Arbeit ist im größeren Kontext des rasanten Fortschritts der KI angesiedelt, einschließlich Entwicklungen im Deep Learning und bei Large Language Models, und zielt darauf ab, technische Umsetzung mit regulatorischen und ethischen Überlegungen zu verbinden.
Frühe Karriere und Bildung
Castro trat IBM Anfang der 2010er Jahre bei, nachdem er sein Graduiertenstudium in Informatik abgeschlossen hatte, wo er sich auf menschenzentrierte Informatik und Technologiepolitik spezialisierte. Seine frühe Forschung bei IBM umfasste die Prüfung algorithmischer Entscheidungsprozesse, insbesondere in risikoreichen Bereichen wie Gesundheitswesen und Finanzen. Diese grundlegende Arbeit führte zu seiner Beteiligung an IBMs internem KI-Ethikrat, der um 2016 gegründet wurde, wo er bei der Ausarbeitung erster Prinzipien für verantwortungsvollen KI-Einsatz half.
Im Jahr 2018 veröffentlichte Castro einen vielzitierten technischen Bericht zur Verzerrungsminderung in überwachten Lernsystemen, der eine neuartige Methode zur Erkennung unterschiedlicher Auswirkungen über demografische Gruppen hinweg vorschlug. Der Bericht wurde als Referenzpunkt für mehrere IBM-Produktteams übernommen, einschließlich derer, die an Machine-Learning-Werkzeugen für Unternehmenskunden arbeiteten.
Beiträge zu KI-Politikrahmenwerken
Castros bedeutendste Beiträge liegen in der Entwicklung von Politikrahmenwerken, die ethische Prinzipien in operative Praktiken übersetzen. Im Jahr 2019 war er Mitautor eines Satzes von Richtlinien zur KI-Risikobewertung, die potenzielle Schäden in technische, soziale und rechtliche Dimensionen kategorisierten. Diese Richtlinien wurden später in IBMs AI Fairness 360 Toolkit integriert, eine Open-Source-Bibliothek, die 2018 veröffentlicht wurde und Metriken und Algorithmen für Fairness-Tests bereitstellt.
Im Jahr 2020 leitete Castro eine Arbeitsgruppe, die ein Weißpapier zur Governance von generativen KI-Systemen produzierte, das Herausforderungen wie Inhaltsherkunft und Missbrauch adressierte. Das Papier schlug ein mehrschichtiges Rechenschaftsmodell vor, bei dem Entwickler, Bereitsteller und Prüfer die Verantwortung für Systemausgaben teilen. Dieses Rahmenwerk wurde 2021 auf der IEEE International Conference on Data Science and Advanced Analytics präsentiert.
Spätere Arbeit und Brancheneinfluss
Von 2021 bis 2023 verlagerte Castro seinen Fokus auf die regulatorische Landschaft und analysierte vorgeschlagene Gesetzgebung in der Europäischen Union und den Vereinigten Staaten. Er lieferte technischen Input an IBMs Public-Policy-Team, das 2021 Kommentare zum Konsultationsprozess des EU-KI-Gesetzes einreichte. Seine Analyse hob praktische Herausforderungen bei der Umsetzung von Anforderungen an Transparenz und menschliche Aufsicht in Neuronale-Netze-Systemen hervor.
Castro trug auch zur Entwicklung von IBMs internen Modell-Dokumentationsstandards bei, die detaillierte Berichterstattung über Trainingsdaten, Leistungsmetriken und bekannte Einschränkungen für alle bereitgestellten KI-Modelle erfordern. Diese Initiative, die 2022 über IBMs Cloud- und Unternehmensabteilungen ausgerollt wurde, wird für die Verbesserung der Prüfbarkeit und des Nutzervertrauens gelobt.
Im Jahr 2023 organisierte er gemeinsam einen Workshop zur KI-Sicherheit auf der Konferenz, die mit dem Stanford AI Lab verbunden ist, und brachte Forscher aus Wissenschaft und Industrie zusammen, um Bewertungsbenchmarks für Large Language Models zu diskutieren. Die Proceedings des Workshops wurden in einer peer-reviewten Zeitschrift veröffentlicht, und mehrere Empfehlungen wurden später in IBMs interne Testprotokolle übernommen.
Ausgewählte Veröffentlichungen und Anerkennung
Castro hat über 20 peer-reviewte Papiere und technische Berichte verfasst oder mitverfasst. Bemerkenswerte Werke umfassen „A Practical Guide to Algorithmic Fairness“ (2019), „Accountability in Generative AI Systems“ (2021) und „Measuring Transparency in Model Cards“ (2022). Sein Papier von 2021 zur Governance generativer KI erhielt einen Best-Paper-Award auf einem internationalen Symposium zur KI-Ethik.
Im Jahr 2022 wurde Castro in IBMs KI-Ethikrat berufen, wo er weiterhin zu aufkommenden Themen wie dem Einsatz von Transformer-basierten Modellen in Anwendungen des öffentlichen Sektors berät. Er hat auch als Gutachter für mehrere akademische Zeitschriften gedient, darunter das Journal of Artificial Intelligence Research und AI & Society.
Vermächtnis und aktueller Fokus
Castros Arbeit wird für ihren pragmatischen Ansatz anerkannt, der umsetzbare Lösungen über abstrakte Prinzipien betont. Seine Rahmenwerke wurden als Lehrmaterial in Graduiertenkursen an Institutionen wie MIT CSAIL und Carnegie Mellon University verwendet, obwohl er keine formellen akademischen Positionen innehatte. Ab 2024 ist Castro an Projekten beteiligt, die die Umweltauswirkungen von groß angelegtem KI-Training und die Rolle von Data Augmentation bei der Reduzierung des Ressourcenverbrauchs untersuchen.
Seine laufende Forschung prägt weiterhin IBMs Beiträge zu globalen KI-Standards, einschließlich der Teilnahme an ISO/IEC-Arbeitsgruppen zur KI-Vertrauenswürdigkeit. Castro bleibt ein lautstarker Befürworter interdisziplinärer Zusammenarbeit und argumentiert, dass effektive KI-Governance Input von Technologen, Ethikern und politischen Entscheidungsträgern gleichermaßen erfordert.