Gary Marcus é um cientista cognitivo, empresário e autor americano, e um dos críticos públicos mais proeminentes da afirmação de que apenas o escalonamento de aprendizado profundo e grandes modelos de linguagem levará à inteligência humana ou geral.
Marcus é professor emérito de psicologia e ciência neural na Universidade de Nova York, onde suas primeiras pesquisas focaram na aquisição de linguagem e no desenvolvimento cognitivo de crianças, trabalho que moldou seus argumentos posteriores de que a inteligência humana depende de estrutura inata e raciocínio composicional que as redes neurais baseadas em correspondência de padrões não possuem. Ele fundou a Geometric Intelligence, uma startup de aprendizado de máquina, em 2014; a empresa foi adquirida pela Uber em 2016 para ajudar a fundar o laboratório de pesquisa de IA da Uber. Mais tarde, ele fundou a Robust.AI, focada em aplicar abordagens mais estruturadas e informadas por regras à robótica e à IA.
Defesa da IA híbrida
Marcus argumentou consistentemente, inclusive em seus livros "Rebooting AI" (2019, com Ernest Davis) e "Taming Silicon Valley" (2024), que sistemas puramente baseados em aprendizado profundo, como grandes modelos de linguagem, são propensos a falhas características, incluindo alucinação, generalização frágil fora de sua distribuição de treinamento e falta de raciocínio de senso comum fundamentado, e que combinar redes neurais com representações e raciocínio simbólicos explícitos, uma abordagem frequentemente chamada de IA híbrida ou neuro-simbólica, é necessária para sistemas mais confiáveis. Suas críticas antecedem a atual onda de IA generativa, remontando ao ceticismo expresso durante o ressurgimento do aprendizado profundo no início dos anos 2010, e ele continuou a aplicar o mesmo quadro a sistemas incluindo GPT-3, GPT-4 e lançamentos sucessivos do ChatGPT.
Papel público e testemunho
Marcus testemunhou perante o Comitê Judiciário do Senado dos Estados Unidos em maio de 2023, ao lado de Sam Altman e do diretor de privacidade da IBM, defendendo a criação de um órgão regulador dedicado para supervisionar sistemas avançados de IA, parte de um esforço mais amplo em direção a uma governança de IA mais forte. Ele tem sido um comentarista público ativo sobre IA, frequentemente engajando-se em debates públicos com figuras da indústria mais otimistas sobre o ritmo do progresso em direção à inteligência artificial geral, a confiabilidade dos benchmarks de IA e os riscos de exagerar nas capacidades de IA em curto prazo.
Recepção
Os apoiadores creditam a Marcus ter antecipado corretamente modos de falha específicos dos grandes modelos de linguagem, incluindo suas dificuldades com aritmética confiável e consistência factual, muito antes de essas se tornarem preocupações mainstream. Os críticos contrapõem que suas previsões sobre os limites do escalonamento foram repetidamente superadas por lançamentos subsequentes de modelos, e que seu estilo público, marcado por apostas e previsões frequentes e de alta visibilidade, às vezes ofuscou a versão mais ponderada, em nível de pesquisa, de seu argumento sobre IA híbrida.