Gary Marcus es un científico cognitivo estadounidense, emprendedor y autor, y uno de los críticos públicos más destacados de la afirmación de que escalar el aprendizaje profundo y los grandes modelos de lenguaje por sí solos conducirá a una inteligencia humana o general.
Marcus es profesor emérito de psicología y ciencia neuronal en la Universidad de Nueva York, donde su investigación temprana se centró en la adquisición del lenguaje y el desarrollo cognitivo en niños, trabajo que moldeó sus argumentos posteriores de que la inteligencia humana depende de una estructura innata y un razonamiento composicional que las redes neuronales de coincidencia de patrones carecen. Fundó Geometric Intelligence, una startup de aprendizaje automático, en 2014; la empresa fue adquirida por Uber en 2016 para ayudar a fundar el laboratorio de investigación de IA de Uber. Más tarde fundó Robust.AI, centrada en aplicar enfoques más estructurados y basados en reglas a la robótica y la IA.
Defensa de la IA híbrida
Marcus ha argumentado de manera consistente, incluso en sus libros "Rebooting AI" (2019, con Ernest Davis) y "Taming Silicon Valley" (2024), que los sistemas puramente basados en aprendizaje profundo, como los grandes modelos de lenguaje, son propensos a fallos característicos, incluida la alucinación, la generalización frágil fuera de su distribución de entrenamiento y la falta de razonamiento de sentido común fundamentado, y que combinar redes neuronales con representaciones y razonamiento simbólicos explícitos, un enfoque a menudo llamado IA híbrida o neuro-simbólica, es necesario para sistemas más fiables. Sus críticas preceden a la actual ola de IA generativa, remontándose al escepticismo expresado durante el resurgimiento del aprendizaje profundo a principios de la década de 2010, y ha continuado aplicando el mismo marco a sistemas como GPT-3, GPT-4 y las sucesivas versiones de ChatGPT.
Papel público y testimonio
Marcus testificó ante el Comité Judicial del Senado de los Estados Unidos en mayo de 2023 junto a Sam Altman y el director de privacidad de IBM, abogando por la creación de un organismo regulador dedicado a supervisar los sistemas de IA avanzados, parte de un impulso más amplio hacia una gobernanza de la IA más sólida. Ha sido un comentarista público activo sobre la IA, participando con frecuencia en debates públicos con figuras de la industria más optimistas sobre el ritmo de progreso hacia la inteligencia general artificial, la fiabilidad de los puntos de referencia de IA y los riesgos de sobrepromocionar las capacidades de IA a corto plazo.
Recepción
Los partidarios atribuyen a Marcus el haber anticipado correctamente modos de fallo específicos de los grandes modelos de lenguaje, incluidos sus problemas con la aritmética fiable y la consistencia factual, mucho antes de que esos se convirtieran en preocupaciones generalizadas. Los críticos contraargumentan que sus predicciones sobre los límites del escalado han sido superadas repetidamente por los lanzamientos posteriores de modelos, y que su estilo público, marcado por apuestas y predicciones frecuentes y de alta visibilidad, a veces ha eclipsado la versión más mesurada a nivel de investigación de su argumento de IA híbrida.