Dan Roth (en hebreo: דן רוט) es el Profesor Distinguido Eduardo D. Glandt de Ciencias de la Computación y la Información en la Universidad de Pensilvania y el Científico Jefe de IA en Oracle. Hasta junio de 2024, fue Vicepresidente y científico distinguido en AWS AI, donde lideró el esfuerzo científico detrás de los productos de IA generativa de primera generación, incluidos Titan Models, Amazon Q y Bedrock, desde su concepción hasta su disponibilidad general. Su investigación se centra en los fundamentos computacionales del comportamiento inteligente, particularmente en la integración de aprendizaje automático y métodos de inferencia para comprensión del lenguaje natural.
Roth recibió su licenciatura en matemáticas con summa cum laude del Technion en Israel y su doctorado en ciencias de la computación de la Universidad de Harvard en 1995. Enseñó en la Universidad de Illinois en Urbana-Champaign de 1998 a 2017 antes de mudarse a la Universidad de Pensilvania.
Carrera académica y honores
Roth es miembro de la Asociación Estadounidense para el Avance de la Ciencia (AAAS), la Asociación de Maquinaria Computacional (ACM), la Asociación para el Avance de la Inteligencia Artificial (AAAI) y la Asociación de Lingüística Computacional (ACL). Su trabajo ha sido reconocido con múltiples premios al mejor artículo y ha formado parte de los consejos editoriales de las principales revistas en inteligencia artificial y PLN. También ha asesorado a numerosos estudiantes de doctorado que han pasado a ocupar puestos académicos e industriales.
Contribuciones de investigación
La investigación de Roth se centra en la idea de que el aprendizaje juega un papel central en la inteligencia. Ha realizado contribuciones fundamentales a la fusión del aprendizaje y el razonamiento, particularmente a través de los Modelos Condicionales Restringidos, que formulan problemas de PLN como tareas de programación lineal entera (ILP). También fue pionero en el trabajo sobre aprendizaje automático con supervisión débil e incidental, permitiendo que los modelos aprendan de etiquetas ruidosas o indirectas.
En 2008, Roth coescribió el primer artículo sobre aprendizaje de cero disparos en PLN, introduciendo el concepto de clasificación sin datos, donde los modelos clasifican texto sin ejemplos etiquetados utilizando conocimiento externo. También ha trabajado en razonamiento probabilístico, incluyendo su complejidad computacional e inferencia elevada probabilística, así como en métodos basados en partes (constelación) para el reconocimiento de objetos y el aprendizaje basado en respuestas.
Sus herramientas desarrolladas para la extracción de información, incluido el reconocimiento de entidades nombradas (NER), la resolución de correferencias, la wikificación, el etiquetado de roles semánticos (SRL) y la corrección de texto en ESL, se utilizan ampliamente tanto en la investigación académica como en aplicaciones comerciales. Estas herramientas han influido en trabajos posteriores en aprendizaje profundo y grandes modelos de lenguaje.
Liderazgo industrial
En AWS AI, Roth supervisó la dirección científica de las iniciativas de IA generativa de la empresa, ayudando a llevar al mercado los modelos fundacionales Titan, el asistente Amazon Q y la plataforma Bedrock. Su liderazgo unió la investigación académica y la implementación práctica, asegurando que los avances en arquitecturas transformador y redes neuronales se tradujeran en servicios en la nube escalables.
En 2024, se unió a Oracle como Científico Jefe de IA, donde asesora sobre la estrategia de IA y la agenda de investigación de la empresa. También cofundó NexLP, Inc., una startup que aplica PLN y aprendizaje automático a los dominios legal y de cumplimiento; NexLP fue adquirida por Reveal, Inc., una empresa de software de descubrimiento electrónico, en 2020.
Roles actuales y trabajo de asesoría
Roth forma parte del consejo asesor científico del Instituto Allen para la IA, contribuyendo a la investigación sobre IA y PLN. Continúa publicando activamente y colaborando con investigadores de diversas instituciones, centrándose en temas como aprendizaje curricular, poda de modelos y métodos de inferencia robusta. Su trabajo en curso tiene como objetivo desarrollar metodologías unificadas para el comportamiento inteligente, integrando aprendizaje, razonamiento y comprensión del lenguaje.
Publicaciones seleccionadas e impacto
Roth ha escrito más de 300 artículos revisados por pares, muchos en foros de primer nivel como ACL, NeurIPS y AAAI. Su artículo de 2008 sobre clasificación sin datos ha sido muy influyente, anticipando desarrollos posteriores en aprendizaje de cero y pocos disparos. Su investigación sobre aprendizaje e inferencia también ha informado sistemas prácticos en extracción de información y respuesta a preguntas, contribuyendo al campo más amplio del procesamiento del lenguaje natural. Ha dado conferencias magistrales en conferencias importantes y ha sido una fuerza impulsora en la conexión del aprendizaje estadístico con el razonamiento simbólico.
Referencias
- Datos de origen proporcionados por Wikipedia (CC BY-SA).