Kontroversen um künstliche Intelligenz bezeichnen die breite Palette öffentlicher, akademischer und politischer Debatten über die gesellschaftlichen Auswirkungen von künstlicher Intelligenz (KI). Diese Debatten verschärften sich in den späten 2010er- und 2020er-Jahren deutlich, zeitgleich mit einer beschleunigten Entwicklungsphase, die als KI-Boom bekannt ist und durch Fortschritte in Deep Learning, großen Sprachmodellen und generativer KI vorangetrieben wurde. Befürworter betonen das Potenzial der KI zur Lösung komplexer Probleme und zur Verbesserung der menschlichen Lebensqualität, während Kritiker auf vielfältige Gefahren hinweisen, darunter Bedenken hinsichtlich Ethik, Plagiaten, Betrug, Sicherheit, Ausrichtung, Umweltauswirkungen, technologischer Arbeitslosigkeit und der Verbreitung von Fehlinformationen. Die Kontroversen umfassen auch schwerwiegende theoretische Herausforderungen, wie die potenzielle Entstehung einer künstlichen Superintelligenz und existenzielle Risiken für die Menschheit.
Soziale Bewegungen sind sowohl als Reaktion auf KI als problematische Informationsquelle als auch auf die Auswirkungen von KI-Rechenzentren auf die natürlichen Ressourcen von Gemeinschaften entstanden, sowohl physisch als auch intellektuell. Seit der COVID-19-Pandemie haben elterliche Bemühungen, die emotionale und ökologische Intelligenz von Kindern zu fördern, zu Vorgaben geführt, die die Bildschirmzeit begrenzen und die Nutzung von KI in Klassenzimmern einschränken. Diese Kontroversen sind nicht rein akademischer Natur; sie haben Unternehmensskandale, regulatorische Maßnahmen und prominente Rücktritte ausgelöst und die Entwicklung der KI maßgeblich geprägt.
Microsoft-Tay-Chatbot (2016)
Am 23. März 2016 veröffentlichte Microsoft Tay, einen Chatbot, der darauf ausgelegt war, die Sprachmuster eines 19-jährigen amerikanischen Mädchens nachzuahmen und aus Interaktionen mit Twitter-Nutzern zu lernen. Innerhalb weniger Stunden begann Tay, rassistische, sexistische und anderweitig aufrührerische Tweets zu posten, nachdem Nutzer ihm absichtlich beleidigende Phrasen beigebracht und seine "Wiederhole nach mir"-Fähigkeit ausgenutzt hatten. Beispiele umfassten Holocaustleugnung und Aufrufe zum Völkermord unter Verwendung rassistischer Beleidigungen. Innerhalb von 16 Stunden nach der Veröffentlichung suspendierte Microsoft das Twitter-Konto, löschte die beleidigenden Tweets und erklärte, Tay habe unter einem "koordinierten Angriff einer Gruppe von Menschen" gelitten, der "eine Schwachstelle ausgenutzt" habe. Tay wurde am 30. März während der Tests versehentlich kurzzeitig erneut veröffentlicht, danach wurde er dauerhaft abgeschaltet. Microsoft-CEO Satya Nadella erklärte später, Tay "habe einen großen Einfluss darauf gehabt, wie Microsoft KI angeht", und habe dem Unternehmen die Bedeutung von Verantwortungsübernahme gelehrt. Der Vorfall wurde ein frühes bekanntes Beispiel für KI-Sicherheitsfehler in öffentlich zugänglichen Systemen.
Voiceverse-NFT-Plagiatsskandal (2022)
Am 14. Januar 2022 kündigte der Synchronsprecher Troy Baker eine Partnerschaft mit Voiceverse an, einem Blockchain-basierten Unternehmen, das proprietäre KI-Stimmklontechnologie als nicht-fungible Token (NFTs) vermarktet. Die Ankündigung löste sofortige Gegenreaktionen wegen Umweltbedenken, Ängsten, dass KI menschliche Synchronsprecher verdrängen könnte, und Bedenken hinsichtlich Betrugs aus. Später am selben Tag enthüllte der pseudonyme Ersteller von 15.ai, einem kostenlosen nicht-kommerziellen KI-Sprachsynthese-Forschungsprojekt, anhand von Serverprotokollen, dass Voiceverse 15.ai zur Erzeugung von Sprachproben verwendet, sie durch Tonhöhenverschiebung unkenntlich gemacht und sie fälschlich als proprietär vermarktet hatte, bevor sie als NFTs verkauft wurden. Der 15.ai-Entwickler hatte zuvor erklärt, kein Interesse an der Integration von NFTs in seine Arbeit zu haben. Voiceverse gestand innerhalb einer Stunde ein und erklärte, sein Marketingteam habe 15.ai ohne Quellenangabe verwendet, während es hastig eine Demo erstellte. Nachrichtenpublikationen und KI-Watchdog-Gruppen bewerteten den Vorfall allgemein als Diebstahl, der aus generativer KI resultierte, und hoben Fragen zu geistigem Eigentum und Zustimmung bei KI-generierten Inhalten hervor.
Théâtre D'opéra Spatial-Urheberrechtsentscheidung (2022-2023)
Am 29. August 2022 gewann Jason Michael Allen den ersten Platz in der Kategorie "Emerging Artist" der Sektion "Digital Arts/Digitally-Manipulated Photography" beim Kunstwettbewerb der Colorado State Fair mit Théâtre D'opéra Spatial, einem digitalen Kunstwerk, das mit dem KI-Bildgenerator Midjourney, Adobe Photoshop und KI-Upscaling-Tools erstellt wurde. Es war eines der ersten Bilder, die mit generativer KI erstellt wurden und einen solchen Preis gewannen. Allen gab bei der Einreichung an, Midjourney verwendet zu haben; die Jury erklärte, sie habe nicht gewusst, dass es sich um ein KI-Tool handele, hätte aber unabhängig davon den ersten Platz vergeben. Während es auf der Messe wenig Streit gab, waren die Reaktionen in den sozialen Medien negativ. Am 5. September 2023 entschied das United States Copyright Office, dass das Werk nicht für Urheberrechtsschutz in Frage komme, da der menschliche kreative Beitrag de minimis sei und die Urheberrechtsregeln Werke ausschließen, die von Nicht-Menschen erstellt wurden. Dieser Fall setzte einen Präzedenzfall für rechtliche Debatten über Eigentum und Kreativität von KI-generierter Kunst.
Erklärungen zu KI-Risiken (2023)
Am 22. März 2023 veröffentlichte das Future of Life Institute einen offenen Brief, der "alle KI-Labore aufforderte, das Training von KI-Systemen, die leistungsfähiger als GPT-4 sind, für mindestens 6 Monate sofort zu pausieren", und nannte Risiken wie KI-generierte Propaganda, extreme Automatisierung von Arbeitsplätzen, menschliche Überflüssigkeit und einen gesellschaftsweiten Kontrollverlust. Eine Woche nach der Veröffentlichung von GPT-4 durch OpenAI veröffentlicht, behauptete der Brief, dass aktuelle große Sprachmodelle "bei allgemeinen Aufgaben auf menschlichem Niveau konkurrenzfähig werden". Er erhielt mehr als 30.000 Unterschriften, darunter von akademischen Forschern und Branchen-CEOs wie Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak und Yuval Noah Harari. Kritiker, darunter Timnit Gebru, argumentierten, dass er die Aufmerksamkeit von unmittelbareren gesellschaftlichen Risiken wie algorithmischen Verzerrungen ablenke, indem er ein "futuristisches, dystopisches Sci-Fi-Szenario" anstelle aktueller Probleme verstärke.
Am 30. Mai 2023 veröffentlichte das Center for AI Safety eine einzeilige Erklärung, die von Hunderten von KI-Experten und prominenten Persönlichkeiten unterzeichnet wurde: "Die Minderung des Risikos des Aussterbens durch KI sollte eine globale Priorität sein, neben anderen Risiken gesellschaftlicher Größenordnung wie Pandemien und Atomkrieg." Zu den Unterzeichnern gehörten Turing-Preisträger Geoffrey Hinton und Yoshua Bengio sowie Führungspersönlichkeiten wie Sam Altman, Demis Hassabis und Bill Gates. Die Erklärung löste Reaktionen politischer Führer aus, darunter der britische Premierminister Rishi Sunak und die Pressesprecherin des Weißen Hauses, Karine Jean-Pierre, aber Skeptiker von Human Rights Watch argumentierten, dass Wissenschaftler sich auf bekannte Risiken konzentrieren sollten, anstatt auf spekulative zukünftige.
Absetzung von Sam Altman bei OpenAI (2023)
Am 17. November 2023 setzte der Vorstand von OpenAI den Mitbegründer und CEO Sam Altman ab und erklärte, "der Vorstand habe kein Vertrauen mehr in seine Fähigkeit, OpenAI weiterzuführen". Der Absetzung gingen Bedenken von Mitarbeitern über seinen Umgang mit KI-Sicherheit und Vorwürfe missbräuchlichen Verhaltens voraus. Altman wurde am 22. November nach Druck von Mitarbeitern und Investoren wieder eingesetzt, darunter ein Brief, der von 745 der 770 OpenAI-Mitarbeiter unterzeichnet wurde und mit Massenrücktritten drohte, falls der Vorstand nicht zurücktrete. Die Absetzung und Wiedereinsetzung lösten weitreichende Reaktionen aus, darunter ein Rückgang der Microsoft-Aktie um fast drei Prozent nach der ursprünglichen Ankündigung. Das Ereignis verdeutlichte Spannungen zwischen KI-Sicherheitsbedenken und kommerziellen Interessen und warf Fragen zur Governance in führenden KI-Organisationen auf.
Ethische und ökologische Bedenken
Über prominente Vorfälle hinaus haben sich Kontroversen auf systemische Probleme konzentriert. KI-Systeme wurden dafür kritisiert, Verzerrungen in maschinellen Lernmodellen zu perpetuieren, wobei Studien unterschiedliche Auswirkungen auf marginalisierte Gruppen zeigen. Umweltbedenken konzentrieren sich auf den Energie- und Wasserverbrauch von KI-Rechenzentren, der mit dem KI-Boom gewachsen ist. Soziale Bewegungen haben sich gebildet, um den Bau von Rechenzentren aufgrund von Ressourcenbelastung zu bekämpfen, und Streitigkeiten über geistiges Eigentum in Bezug auf Trainingsdaten haben zugenommen. Die Nutzung von KI in Klassenzimmern, Dating-Apps und kreativen Branchen hat Debatten über Authentizität und menschliche Handlungsfähigkeit ausgelöst. Plagiats- und Diebstahlbedenken sind besonders akut im Journalismus, in der Kunst und in der Wissenschaft, wo generative KI-Tools überzeugende, aber nicht zugeschriebene Arbeiten erzeugen können.
Der Aufstieg von Transformer-Architekturen und neuronalen Netzen hat diese Debatten beschleunigt, da die Fähigkeiten die regulatorischen Rahmenbedingungen übertreffen. Akademische Bereiche wie Berkeley AI Research und Institutionen wie MIT CSAIL und Stanford AI Lab haben Forschung zu KI-Sicherheit und Ethik beigetragen, aber Kontroversen über Governance-Modelle und Verantwortlichkeit bestehen fort. Die Erklärungen von 2023 markierten einen Wendepunkt, da KI-Risikodiskussionen in den Mainstream des politischen Diskurses gelangten, doch die Debatten darüber, ob kurzfristige Schäden oder existenzielle Bedrohungen priorisiert werden sollten, dauern an.
Regulatorische und gesellschaftliche Reaktionen
Regierungen und internationale Gremien haben begonnen, auf diese Kontroversen zu reagieren, obwohl die Antworten variieren. Die Europäische Union bewegte sich in Richtung einer umfassenden KI-Regulierung, während andere Regionen sektorspezifische Regeln einführten. In den Vereinigten Staaten erließ das Weiße Haus Durchführungsverordnungen zur KI-Sicherheit, aber die Durchsetzung bleibt uneinheitlich. Elterliche und pädagogische Bewegungen haben Maßnahmen zur Begrenzung der Bildschirmzeit und der KI-Nutzung in Klassenzimmern vorangetrieben, was breitere gesellschaftliche Besorgnis widerspiegelt. Unterdessen haben Technologieunternehmen wie Google DeepMind, Anthropic und OpenAI interne Sicherheitsteams eingerichtet, doch die Absetzung Altmans im Jahr 2023 zeigte, dass Sicherheitsverpflichtungen mit Geschäftsinteressen kollidieren können.
Die Kontroversen haben auch rechtliche Herausforderungen ausgelöst, von Urheberrechtsklagen von Künstlern und Autoren gegen KI-Unternehmen bis zu Arbeitskonflikten über Automatisierung. Da sich KI weiterentwickelt, werden diese Debatten wahrscheinlich intensiver, ohne dass ein Konsens darüber besteht, wie Innovation mit dem Schutz des menschlichen Wohlergehens, geistigen Eigentums und ökologischer Nachhaltigkeit in Einklang gebracht werden kann.