Stuart Russell es un informático británico y profesor en la Universidad de California, Berkeley, conocido principalmente por ser coautor, junto con Peter Norvig, de Artificial Intelligence: A Modern Approach (AIMA), el libro de texto introductorio más utilizado en el campo desde su primera edición en 1995.
Carrera
Nacido en 1962 en Portsmouth, Inglaterra, Russell estudió física en Oxford antes de obtener un doctorado en informática en la Universidad de Stanford en 1986. Se unió a Berkeley ese mismo año y ha permanecido allí desde entonces, trabajando en temas que abarcan el razonamiento probabilístico, la representación del conocimiento y el aprendizaje por refuerzo. AIMA, ahora en múltiples ediciones, presenta la inteligencia artificial como un campo unificado organizado en torno al concepto de agente racional, y ha moldeado cómo generaciones de estudiantes se introducen en la materia, incluido el material sobre búsqueda, lógica, planificación y aprendizaje automático que sustenta gran parte de la IA moderna.
IA compatible con humanos
Desde mediados de la década de 2010, Russell se ha convertido en una de las voces académicas más prominentes que argumentan que el "modelo estándar" de la IA, en el que un sistema se construye para optimizar un objetivo fijo y especificado por humanos, es fundamentalmente riesgoso a medida que los sistemas se vuelven más capaces, porque cualquier objetivo mal especificado puede perseguirse de maneras no intencionadas y dañinas. En su libro de 2019, Human Compatible, propone una alternativa que denomina IA "demostrablemente beneficiosa", en la que las máquinas están diseñadas para permanecer deliberadamente inciertas sobre las preferencias humanas y para deferir a la supervisión humana, en lugar de perseguir con confianza un objetivo codificado de manera rígida, un marco estrechamente vinculado al campo más amplio de la investigación sobre alineación.
Russell fundó y dirige el Centro para la IA Compatible con Humanos (CHAI) en Berkeley, que estudia enfoques técnicos para mantener los sistemas avanzados de IA bajo un control humano significativo. Fue firmante de la carta de pausa de 2023 que pedía una moratoria en el entrenamiento de los modelos más potentes, y ha testificado ante organismos nacionales e internacionales sobre el riesgo y la regulación de la IA, posicionando su trabajo dentro de la conversación más amplia sobre seguridad de la IA y riesgo existencial de la IA junto a investigadores como Yoshua Bengio. Russell ha argumentado que el propio objetivo declarado a largo plazo del campo, construir máquinas que igualen o superen la inteligencia general humana en esencialmente todas las tareas, obliga a los investigadores a tomar en serio qué sucede si ese objetivo se logra sin resolver primero el problema del control, una preocupación también central en el trabajo sobre la seguridad de la inteligencia artificial general.