A singularidade tecnológica é um ponto futuro hipotético no qual o crescimento tecnológico, impulsionado principalmente pela inteligência artificial avançada, torna-se tão rápido e autorreforçador que produz uma transformação imprevisível da civilização humana. O termo faz uma analogia com a singularidade matemática, um ponto onde as regras normais se quebram e a previsão além dele se torna impossível.
Origens
O matemático e físico Stanislaw Ulam, relembrando uma conversa com John von Neumann na década de 1950, descreveu von Neumann comentando sobre "o progresso sempre acelerado da tecnologia" se aproximando de "alguma singularidade essencial na história da raça, além da qual os assuntos humanos, como os conhecemos, não poderiam continuar". O conceito foi substancialmente desenvolvido pelo cientista da computação e autor de ficção científica Vernor Vinge, cujo influente ensaio de 1993, "A Singularidade que se Aproxima", argumentou que a criação de inteligência super-humana marcaria um horizonte de eventos após o qual o futuro se tornaria fundamentalmente incognoscível para humanos não aprimorados, e previu que isso poderia ocorrer dentro de décadas.
Kurzweil e a lei dos retornos acelerados
O futurista Ray Kurzweil popularizou a ideia para o público em geral, principalmente em seu livro de 2005, "A Singularidade está Próxima". Kurzweil argumenta que tendências exponenciais em computação, biotecnologia e outros campos, formalizadas como uma "lei dos retornos acelerados", levarão a uma fusão entre inteligência humana e de máquina, e tem repetidamente previsto que a singularidade chegará por volta de 2045. Seu histórico de previsões específicas atraiu tanto elogios pela precisão direcional quanto críticas por datas perdidas e excessos.
Explosão de inteligência
O mecanismo mais frequentemente invocado para explicar como uma singularidade poderia ocorrer é a "explosão de inteligência" descrita pelo matemático I. J. Good em 1965 e posteriormente elaborada por Nick Bostrom: um sistema de IA capaz de melhorar seu próprio design poderia produzir versões sucessivamente mais capazes em um ciclo de feedback que se acelera rapidamente, culminando em Superintelligence muito além da compreensão humana, um cenário que alguns consideram um caminho rápido de Artificial general intelligence para algo muito além dele. Esse enquadramento liga o conceito de singularidade diretamente aos debates contemporâneos sobre Existential risk from AI, já que um salto súbito e descontrolado de capacidade deixaria pouco tempo para correção de curso.
Críticas e ceticismo
Críticos argumentam que o conceito de singularidade se baseia em extrapolações questionáveis de curvas exponenciais que, na prática, tendem a seguir curvas em forma de S com retornos decrescentes, e que "inteligência" não é uma quantidade escalar única que possa simplesmente ser ampliada indefinidamente. Restrições físicas, incluindo disponibilidade de energia, capacidade de fabricação de chips e disponibilidade de dados, são citadas como gargalos prováveis. Pesquisadores como Yann LeCun e Gary Marcus descartaram cenários de singularidade em curto prazo como especulativos e insuficientemente fundamentados em como os sistemas atuais realmente funcionam, embora reconheçam que o progresso da IA permanece rápido pelos padrões históricos.
Relevância contemporânea
Embora "singularidade" como um evento datado específico seja agora usado com mais cautela por pesquisadores do que por comentaristas populares, a questão subjacente - se o progresso da IA poderia atingir um ponto de inflexão de autoaperfeiçoamento rápido e difícil de controlar - continua a informar a pesquisa em AI safety e AI alignment, incluindo debates sobre Scaling laws e o ritmo de ganhos de capacidade de sistemas de Reasoning model que usam computação adicional em tempo de inferência.