Gary Marcus ist ein amerikanischer Kognitionswissenschaftler, Unternehmer und Autor sowie einer der prominentesten öffentlichen Kritiker der Behauptung, dass allein die Skalierung von Deep Learning und großen Sprachmodellen zu menschenähnlicher oder allgemeiner Intelligenz führen werde.
Marcus ist emeritierter Professor für Psychologie und Neurowissenschaften an der New York University, wo seine frühe Forschung sich auf Spracherwerb und kognitive Entwicklung bei Kindern konzentrierte - Arbeiten, die seine späteren Argumente prägten, dass menschliche Intelligenz auf angeborener Struktur und kompositionellem Denken beruht, das mustererkennenden neuronalen Netzen fehlt. Er gründete 2014 Geometric Intelligence, ein Start-up für maschinelles Lernen; das Unternehmen wurde 2016 von Uber übernommen, um das KI-Forschungslabor von Uber mitzugründen. Später gründete er Robust.AI, das sich darauf konzentrierte, strukturiertere, regelbasierte Ansätze auf Robotik und KI anzuwenden.
Einsatz für hybride KI
Marcus hat durchgängig argumentiert, auch in seinen Büchern „Rebooting AI" (2019, mit Ernest Davis) und „Taming Silicon Valley" (2024), dass rein auf Deep Learning basierende Systeme wie große Sprachmodelle anfällig für charakteristische Fehler sind, darunter Halluzination, spröde Verallgemeinerung außerhalb ihrer Trainingsverteilung und ein Mangel an verankertem Alltagsverständnis, und dass die Kombination neuronaler Netze mit expliziten symbolischen Darstellungen und Denkweisen, ein Ansatz, der oft als hybride oder neuro-symbolische KI bezeichnet wird, für zuverlässigere Systeme notwendig ist. Seine Kritiken gehen der aktuellen generativen KI-Welle voraus und reichen bis zu Skepsis zurück, die er während des Wiederauflebens von Deep Learning in den frühen 2010er Jahren äußerte, und er hat denselben Rahmen weiterhin auf Systeme wie GPT-3, GPT-4 und aufeinanderfolgende ChatGPT-Versionen angewendet.
Öffentliche Rolle und Aussagen
Marcus sagte im Mai 2023 vor dem Justizausschuss des US-Senats zusammen mit Sam Altman und dem Datenschutzbeauftragten von IBM aus und argumentierte für die Schaffung einer eigenen Regulierungsbehörde zur Überwachung fortschrittlicher KI-Systeme, als Teil eines breiteren Vorstoßes für stärkere KI-Governance. Er war ein aktiver öffentlicher Kommentator zu KI und führte häufig öffentliche Debatten mit optimistischeren Branchenvertretern über das Tempo des Fortschritts hin zu allgemeiner künstlicher Intelligenz, die Zuverlässigkeit von KI-Benchmarks und die Risiken einer Überhöhung kurzfristiger KI-Fähigkeiten.
Rezeption
Befürworter schreiben Marcus zu, dass er spezifische Fehlermodi großer Sprachmodelle korrekt vorhergesagt hat, darunter ihre Schwierigkeiten mit zuverlässiger Arithmetik und faktischer Konsistenz, lange bevor diese zu Mainstream-Anliegen wurden. Kritiker entgegnen, dass seine Vorhersagen über die Grenzen der Skalierung wiederholt von nachfolgenden Modellveröffentlichungen überholt wurden und dass sein öffentlicher Stil, geprägt von häufigen, stark sichtbaren Wetten und Vorhersagen, manchmal die gemessenere forschungsbezogene Version seines Arguments für hybride KI überschattet hat.