Carl Shulman é um pesquisador de inteligência artificial e especialista em políticas públicas. Ele é cofundador da Open Philanthropy, uma organização de concessão de doações que aconselha doadores sobre filantropia de alto impacto, e tem sido uma figura-chave no desenvolvimento do movimento de altruísmo eficaz. Seu trabalho concentra-se nos riscos e oportunidades de longo prazo da IA avançada, incluindo risco existencial e governança de IA.
As contribuições de pesquisa e políticas de Shulman têm se centrado na interseção entre segurança de IA, previsão e filantropia. Ele tem sido uma voz proeminente nas discussões sobre o potencial da IA de representar riscos catastróficos e tem trabalhado para direcionar financiamento e atenção para mitigar esses riscos. Ele também esteve envolvido no estudo acadêmico desses tópicos, contribuindo para o campo do alinhamento de IA e o discurso mais amplo sobre o futuro da tecnologia.
Início da Vida e Educação
A formação acadêmica inicial de Shulman é em direito e filosofia. Ele obteve um diploma em direito e, posteriormente, interessou-se pelas implicações éticas das tecnologias emergentes, particularmente a IA. Esse interesse o levou à Universidade de Oxford, onde se envolveu com o Future of Humanity Institute (FHI), um centro de pesquisa interdisciplinar focado em questões de grande escala sobre o futuro de longo prazo da humanidade. No FHI, ele trabalhou ao lado de pesquisadores como Nick Bostrom e Toby Ord, contribuindo para a pesquisa do instituto sobre risco existencial e a filosofia da IA.
Carreira na Open Philanthropy
Shulman é cofundador da Open Philanthropy, uma organização que emergiu da comunidade do altruísmo eficaz. A Open Philanthropy foi estabelecida para conduzir pesquisas aprofundadas e fazer grandes doações para abordar alguns dos problemas mais urgentes do mundo, com um foco significativo em risco de IA e políticas públicas. Shulman atuou como consultor sênior e pesquisador na organização, ajudando a moldar sua estratégia de concessão de doações no campo da IA. Seu trabalho envolveu identificar direções de pesquisa promissoras, avaliar o impacto potencial de várias iniciativas de segurança de IA e apoiar organizações que trabalham com governança de IA e alinhamento técnico.
Contribuições para o Risco e as Políticas de IA
Shulman tem sido um escritor e palestrante prolífico sobre risco de IA. Ele argumentou que o desenvolvimento da inteligência artificial poderia levar a resultados que variam de benefícios tremendos a catástrofes existenciais, e que as escolhas feitas por pesquisadores, formuladores de políticas e financiadores hoje são cruciais. Ele enfatizou a importância da pesquisa técnica em alinhamento de IA, bem como a necessidade de mecanismos robustos de governança para garantir que o desenvolvimento da IA prossiga com segurança. Seu trabalho influenciou as prioridades de grandes esforços filantrópicos no espaço da IA, incluindo os da Open Philanthropy e do Future of Life Institute.
Visões sobre Alinhamento e Governança de IA
A perspectiva de Shulman sobre alinhamento de IA é caracterizada por um foco em ações práticas e de curto prazo que possam reduzir riscos de longo prazo. Ele defendeu o aumento do investimento em pesquisa técnica sobre tópicos como interpretabilidade de aprendizado de máquina, robustez e o desenvolvimento de redes neurais seguras. Ele também destacou a importância da pesquisa em políticas públicas, incluindo o design de acordos internacionais e o papel de organizações como OpenAI e Anthropic na formação de normas da indústria. Ele tem sido um defensor de abordagens "precautelares" que priorizam a segurança em detrimento da velocidade, ao mesmo tempo em que reconhece os benefícios potenciais da IA para resolver problemas globais.
Papel no Altruísmo Eficaz
Shulman é uma figura central na comunidade do altruísmo eficaz, que busca usar evidências e razão para fazer o maior bem possível. Seu trabalho na Open Philanthropy tem sido um modelo de como aplicar esses princípios ao campo da IA. Ele escreveu extensivamente sobre a importância moral do futuro distante, argumentando que a trajetória de longo prazo da humanidade é uma consideração-chave para a tomada de decisões éticas. Essa perspectiva o levou a focar em riscos existenciais, que ele vê como a questão mais urgente do nosso tempo.
Publicações e Palestras Selecionadas
Shulman é autor ou coautor de numerosos artigos e ensaios sobre risco de IA, previsão e filantropia. Ele proferiu palestras em grandes conferências e workshops de IA, incluindo aqueles organizados pelo laboratório Berkeley AI Research e pelo Stanford AI Lab. Seu trabalho escrito frequentemente aparece em veículos como o Fórum de Altruísmo Eficaz e periódicos acadêmicos. Ele também foi colaborador da produção de pesquisa do Future of Humanity Institute, incluindo trabalhos sobre o paradoxo de Fermi e o argumento da simulação.
Impacto e Legado
A influência de Shulman se estende além de sua própria pesquisa. Por meio de seu papel na Open Philanthropy, ele ajudou a canalizar centenas de milhões de dólares para pesquisa em segurança de IA e iniciativas de políticas públicas. Esse financiamento apoiou o crescimento de organizações como Anthropic e o Machine Intelligence Research Institute, bem como grupos acadêmicos em instituições como Oxford e Carnegie Mellon University. Suas ideias moldaram o pensamento estratégico de muitos no campo da IA, e ele é amplamente reconhecido como um pensador-chave sobre os riscos de longo prazo da IA.
Vida Pessoal
Shulman é conhecido por seu rigor intelectual e seu compromisso em usar suas habilidades para abordar os problemas mais importantes que a humanidade enfrenta. Ele está baseado nos Estados Unidos e continua trabalhando em políticas de IA e filantropia. Ele também é um colaborador frequente de outros pesquisadores nas comunidades de altruísmo eficaz e segurança de IA, incluindo Nick Bostrom e Toby Ord.
Ver Também
- Future of Humanity Institute
- Open Philanthropy
- Risco existencial
- Alinhamento de IA
Referências
- Open Philanthropy. "Carl Shulman." Acessado em 2023.
- Future of Humanity Institute. "People." Universidade de Oxford.
- Shulman, Carl. "AI and the Far Future." Fórum de Altruísmo Eficaz, 2019.