Vontade extrapolada coerente (CEV, do inglês coherent extrapolated volition) é um quadro teórico no campo do alinhamento de IA que descreve uma abordagem pela qual uma superinteligência artificial (ASI) agiria com base em uma suposição benevolente do que os humanos poderiam querer se fossem mais conhecedores, mais racionais, tivessem mais tempo para pensar e tivessem amadurecido juntos como sociedade, em oposição às preferências individuais ou coletivas atuais da humanidade. Foi proposta por Eliezer Yudkowsky em 2004 como parte de seu trabalho sobre IA amigável.
O conceito aborda o desafio de especificar objetivos para sistemas avançados de IA que possam superar a inteligência humana. Em vez de codificar um conjunto fixo de regras ou valores, a CEV sugere que uma ASI deve derivar seus objetivos extrapolando a vontade da humanidade, visando refletir o que as pessoas poderiam desejar sob condições epistêmicas e morais ideais.
Conceito
A CEV propõe que um sistema avançado de IA deve derivar seus objetivos extrapolando a vontade da humanidade. Isso significa agregar e projetar as preferências humanas em um processo que reflita o que as pessoas poderiam desejar sob condições epistêmicas e morais ideais. O objetivo é garantir que os sistemas de IA não transgridam os verdadeiros interesses da humanidade; não sigam preferências transitórias ou mal informadas, nem decidam questões sobre as quais a vontade da humanidade ainda é imprevisível.
Em termos poéticos, nossa vontade extrapolada coerente é o nosso desejo se soubéssemos mais, pensássemos mais rápido, fôssemos mais as pessoas que desejávamos ser, tivéssemos crescido juntos mais longe; onde a extrapolação converge em vez de divergir, onde nossos desejos se coadunam em vez de interferir; extrapolada como desejamos que fosse extrapolada, interpretada como desejamos que fosse interpretada.
O quadro é projetado para ser humano e autocorretivo, capturando a fonte dos valores humanos em vez de tentar listá-los. Evita a dificuldade de estabelecer uma lista explícita e fixa de regras. Encapsula o crescimento moral, impedindo que crenças morais atuais falhas sejam travadas. Limita a influência que um pequeno grupo de programadores pode ter sobre o que a ASI valorizaria, reduzindo assim também os incentivos para construir a ASI primeiro. E mantém a humanidade no comando de seu destino.
Debate
Yudkowsky e Nick Bostrom observam que a CEV tem várias propriedades interessantes, mas também enfrenta desafios teóricos e práticos significativos. Bostrom observa que a CEV tem "uma série de parâmetros livres que poderiam ser especificados de várias maneiras, gerando diferentes versões da proposta". Um desses parâmetros é a base de extrapolação (cuja vontade extrapolada é levada em consideração). Por exemplo, se ela deveria incluir pessoas com demência grave, pacientes em estado vegetativo, fetos ou embriões. Ele também observa que, se a base de extrapolação da CEV incluir apenas humanos, há o risco de que o resultado seja pouco generoso em relação a outros animais e mentes digitais. Uma possível solução seria incluir um mecanismo para expandir a base de extrapolação da CEV.
Esses debates fazem parte do discurso mais amplo sobre alinhamento de IA e segurança de IA, que examina como garantir que sistemas avançados de IA ajam de acordo com os valores e interesses humanos.
Variantes e alternativas
Uma alternativa teórica proposta à CEV é confiar nas capacidades cognitivas superiores de uma superinteligência artificial para descobrir o que é moralmente correto e deixá-la agir de acordo. Também é possível combinar ambas as técnicas, por exemplo, com a ASI seguindo a CEV, exceto quando isso for moralmente impermissível.
Em outra revisão, uma análise filosófica explora a CEV através das lentes da confiança social em sistemas autônomos. Baseando-se no conceito de "confiança ativa" de Anthony Giddens, o autor propõe uma evolução da CEV para "Vontade Coerente, Extrapolada e Agrupada" (CECV). Essa formulação visa refletir melhor as preferências morais de diversos grupos culturais, oferecendo assim um quadro ético mais pragmático para projetar sistemas de IA que conquistem a confiança pública enquanto acomodam a diversidade societal.
Relação com outros conceitos de IA
A CEV está situada dentro do campo mais amplo da pesquisa em inteligência artificial, particularmente nas discussões sobre como projetar sistemas benéficos para a humanidade. Ela contrasta com abordagens que dependem de sistemas explícitos baseados em regras ou de aprendizado a partir de feedback humano, como o RLHF (aprendizado por reforço a partir de feedback humano), usado em grandes modelos de linguagem modernos. Enquanto o RLHF visa alinhar modelos com as preferências humanas atuais por meio de feedback iterativo, a CEV propõe uma extrapolação mais ambiciosa dessas preferências.
O quadro também se relaciona a questões sobre racionalidade e tomada de decisão em sistemas de IA. Ele pressupõe que existe um conjunto coerente de preferências para o qual os humanos convergiriam sob condições ideais, o que é uma suposição filosófica contestada.