Grounding, em inteligência artificial, refere-se a conectar símbolos, palavras ou representações usadas por um sistema a referentes do mundo real, experiência sensorial ou fatos externos verificáveis, em vez de permitir que eles se refiram apenas a outros símbolos dentro do próprio sistema. O problema foi formalizado pelo cientista cognitivo Stevan Harnad em um artigo de 1990 sobre o "problema do ancoramento de símbolos", que questionou como um sistema puramente manipulador de símbolos poderia fazer com que seus símbolos significassem algo, em vez de meramente embaralhar tokens sem sentido de acordo com regras sintáticas.
A questão tornou-se novamente urgente com o surgimento dos grandes modelos de linguagem, que são treinados apenas em padrões de texto e não têm contato sensorial direto com o mundo que descrevem, uma preocupação intimamente relacionada à crítica do papagaio estocástico a modelos que produzem saída fluente, mas potencialmente sem sentido.
Grounding como um problema de engenharia
Na prática, "ancorar" a saída de um modelo tornou-se um termo da indústria para restringir suas respostas a fontes externas verificáveis, em vez de depender puramente da memória paramétrica, mais comumente por meio da geração aumentada por recuperação, onde documentos recuperados são citados ou referenciados para reduzir a alucinação. Assistentes aumentados por busca e chatbots empresariais são frequentemente descritos como produzindo respostas "ancoradas" quando suas saídas são rastreáveis a uma passagem recuperada específica, em contraste com a geração não restrita derivada puramente dos dados de treinamento do modelo.
Grounding por meio de corporificação e modalidade
Uma tradição de pesquisa separada argumenta que o grounding verdadeiro requer interação sensório-motora com o mundo físico, motivando trabalho em IA corporificada e robótica, onde as representações de um sistema são moldadas por agir sobre e perceber seu ambiente, em vez de ler texto sobre ele. Modelos multimodais e visão-linguagem abordam parcialmente o problema ao vincular linguagem a imagens, áudio ou vídeo, dando às representações pelo menos uma âncora perceptual, e pesquisas relacionadas sobre modelos de mundo tentam dar aos sistemas uma simulação preditiva interna de causa e efeito físico.
Debate em andamento
Se a atual tecnologia de linguagem pode alcançar grounding genuíno apenas por meio de texto e dados multimodais, ou se ela necessariamente permanece uma forma sofisticada de conclusão de padrões, não está resolvido. Alguns pesquisadores argumentam que o grounding é uma questão de grau, com recuperação, uso de ferramentas e percepção multimodal cada um adicionando grounding parcial em vez de resolver o problema por completo, enquanto outros mantêm que o grounding no sentido filosófico requer experiência corporificada que nenhum sistema atual possui. O debate está próximo, mas é distinto, das questões levantadas pela crítica do papagaio estocástico, uma vez que um sistema poderia, em princípio, ser bem ancorado em fatos recuperados enquanto ainda carece de qualquer compreensão conceitual mais profunda deles.