Carl Shulman es un investigador de inteligencia artificial y experto en políticas. Es cofundador de Open Philanthropy, una organización de concesión de subvenciones que asesora a donantes sobre donaciones de alto impacto, y ha sido una figura clave en el desarrollo del movimiento de altruismo eficaz. Su trabajo se centra en los riesgos y oportunidades a largo plazo de la IA avanzada, incluidos el riesgo existencial y la gobernanza de la IA.
Las contribuciones de investigación y políticas de Shulman se han centrado en la intersección de la seguridad de la IA, la previsión y la filantropía. Ha sido una voz prominente en los debates sobre el potencial de la IA para plantear riesgos catastróficos, y ha trabajado para dirigir financiación y atención hacia la mitigación de estos riesgos. También ha participado en el estudio académico de estos temas, contribuyendo al campo de la alineación de la IA y al discurso más amplio sobre el futuro de la tecnología.
Vida temprana y educación
Los antecedentes académicos tempranos de Shulman se encuentran en derecho y filosofía. Obtuvo un título en derecho y posteriormente se interesó por las implicaciones éticas de las tecnologías emergentes, particularmente la IA. Este interés lo llevó a la Universidad de Oxford, donde se involucró con el Future of Humanity Institute (FHI), un centro de investigación interdisciplinario centrado en cuestiones de gran alcance sobre el futuro a largo plazo de la humanidad. En el FHI, trabajó junto a investigadores como Nick Bostrom y Toby Ord, contribuyendo a la investigación del instituto sobre riesgo existencial y filosofía de la IA.
Carrera en Open Philanthropy
Shulman es cofundador de Open Philanthropy, una organización que surgió de la comunidad de altruismo eficaz. Open Philanthropy se estableció para realizar investigaciones en profundidad y otorgar grandes subvenciones para abordar algunos de los problemas más apremiantes del mundo, con un enfoque significativo en el riesgo y las políticas de IA. Shulman ha servido como asesor senior e investigador en la organización, ayudando a dar forma a su estrategia de concesión de subvenciones en el campo de la IA. Su trabajo ha implicado identificar direcciones de investigación prometedoras, evaluar el impacto potencial de diversas iniciativas de seguridad de la IA y apoyar a organizaciones que trabajan en gobernanza de la IA y alineación técnica.
Contribuciones al riesgo y las políticas de IA
Shulman ha sido un escritor y orador prolífico sobre el riesgo de la IA. Ha argumentado que el desarrollo de la inteligencia artificial podría conducir a resultados que van desde beneficios enormes hasta catástrofes existenciales, y que las decisiones tomadas por investigadores, formuladores de políticas y financiadores hoy son cruciales. Ha enfatizado la importancia de la investigación técnica sobre la alineación de la IA, así como la necesidad de mecanismos de gobernanza sólidos para garantizar que el desarrollo de la IA avance de manera segura. Su trabajo ha influido en las prioridades de los principales esfuerzos filantrópicos en el espacio de la IA, incluidos los de Open Philanthropy y el Future of Life Institute.
Opiniones sobre la alineación y la gobernanza de la IA
La perspectiva de Shulman sobre la alineación de la IA se caracteriza por un enfoque en acciones prácticas y a corto plazo que pueden reducir los riesgos a largo plazo. Ha abogado por una mayor inversión en investigación técnica sobre temas como la interpretabilidad del aprendizaje automático, la robustez y el desarrollo de redes neuronales seguras. También ha destacado la importancia de la investigación de políticas, incluido el diseño de acuerdos internacionales y el papel de organizaciones como OpenAI y Anthropic en la configuración de las normas de la industria. Ha sido un defensor de enfoques "precautorios" que priorizan la seguridad sobre la velocidad, al tiempo que reconoce los beneficios potenciales de la IA para resolver problemas globales.
Papel en el altruismo eficaz
Shulman es una figura central en la comunidad de altruismo eficaz, que busca utilizar la evidencia y la razón para hacer el mayor bien posible. Su trabajo en Open Philanthropy ha sido un modelo de cómo aplicar estos principios al campo de la IA. Ha escrito extensamente sobre la importancia moral del futuro lejano, argumentando que la trayectoria a largo plazo de la humanidad es una consideración clave para la toma de decisiones éticas. Esta perspectiva lo ha llevado a centrarse en los riesgos existenciales, que considera el problema más apremiante de nuestro tiempo.
Publicaciones y charlas seleccionadas
Shulman ha sido autor o coautor de numerosos artículos y ensayos sobre riesgo de IA, previsión y filantropía. Ha dado charlas en importantes conferencias y talleres de IA, incluidos los organizados por el laboratorio Berkeley AI Research y el Stanford AI Lab. Su trabajo escrito aparece a menudo en lugares como el Foro de Altruismo Eficaz y revistas académicas. También ha sido colaborador en la producción de investigación del Future of Humanity Institute, incluido el trabajo sobre la paradoja de Fermi y el argumento de la simulación.
Impacto y legado
La influencia de Shulman se extiende más allá de su propia investigación. A través de su papel en Open Philanthropy, ha ayudado a canalizar cientos de millones de dólares hacia la investigación de seguridad de la IA e iniciativas de políticas. Esta financiación ha apoyado el crecimiento de organizaciones como Anthropic y el Machine Intelligence Research Institute, así como grupos académicos en instituciones como Oxford y Carnegie Mellon University. Sus ideas han dado forma al pensamiento estratégico de muchos en el campo de la IA, y es ampliamente considerado un pensador clave sobre los riesgos a largo plazo de la IA.
Vida personal
Shulman es conocido por su rigor intelectual y su compromiso de usar sus habilidades para abordar los problemas más importantes que enfrenta la humanidad. Tiene su sede en los Estados Unidos y continúa trabajando en políticas de IA y filantropía. También es un colaborador frecuente con otros investigadores en las comunidades de altruismo eficaz y seguridad de la IA, incluidos Nick Bostrom y Toby Ord.
Véase también
- Future of Humanity Institute
- Open Philanthropy
- Riesgo existencial
- Alineación de la IA
Referencias
- Open Philanthropy. "Carl Shulman." Accedido en 2023.
- Future of Humanity Institute. "People." Universidad de Oxford.
- Shulman, Carl. "AI and the Far Future." Foro de Altruismo Eficaz, 2019.