Redes neurais de disparo (SNNs) são uma classe de redes neurais artificiais que imitam o comportamento de neurônios biológicos de forma mais próxima do que as redes convencionais. Diferentemente dos neurônios artificiais tradicionais, que transmitem um valor contínuo a cada ciclo de propagação, os neurônios de SNN se comunicam por meio de disparos discretos, ou potenciais de ação, que ocorrem em momentos específicos no tempo. O tempo preciso desses disparos serve como o principal portador de informação, permitindo que a rede incorpore dinâmicas temporais em seus cálculos.
Em uma SNN, cada neurônio mantém um potencial de membrana, um estado interno que sobe e desce conforme recebe disparos de entrada de neurônios conectados. Quando esse potencial atinge um limiar definido, o neurônio dispara, enviando um pulso para neurônios a jusante. Após o disparo, o potencial é redefinido para um valor mais baixo. Esse comportamento orientado a eventos contrasta com as funções de ativação contínuas usadas em modelos padrão de Deep learning, tornando as SNNs um paradigma distinto dentro do Machine learning.
O modelo de neurônio de disparo mais amplamente utilizado é o modelo integrate-and-fire com vazamento, que descreve o potencial como uma equação diferencial: disparos de entrada empurram o potencial para cima ou para baixo, enquanto um termo de vazamento faz com que ele decaia ao longo do tempo. Se o limiar for atingido, o neurônio dispara e o potencial é redefinido. Esse modelo equilibra plausibilidade biológica com eficiência computacional, tornando-o uma escolha comum na pesquisa de SNNs.
Desenvolvimento Histórico
As bases biológicas dos neurônios de disparo datam de 1952, quando Alan Hodgkin e Andrew Huxley publicaram seu modelo de iniciação e propagação de potenciais de ação, trabalho que mais tarde lhes rendeu um Prêmio Nobel. Modelos subsequentes, como o modelo FitzHugh-Nagumo (1961-1962) e o modelo Hindmarsh-Rose (1984), refinaram a descrição da dinâmica neuronal. O modelo integrate-and-fire com vazamento, derivado desses esforços, tornou-se popular por ser mais fácil de calcular do que as equações de Hodgkin-Huxley.
Embora o conceito de redes artificiais de disparo tenha ganhado destaque no século XXI, trabalhos teóricos iniciais apareceram na década de 1970, e estudos entre 1980 e 1995 apoiaram a viabilidade da computação baseada em disparos. Esses primeiros esforços visavam simular processamento de informação não algorítmico e inspirado biologicamente. Em 2019, as SNNs ficavam atrás das ANNs convencionais em precisão em muitas tarefas, mas a lacuna estava diminuindo e havia desaparecido em alguns benchmarks.
Codificação de Informação e Computação
Uma questão central na neurociência é se os neurônios se comunicam por meio de taxas de disparo ou pelo tempo preciso dos disparos. A codificação baseada em taxa, onde a saída é a frequência média dos disparos, é análoga à saída contínua das ANNs tradicionais. No entanto, evidências neurobiológicas sugerem que esquemas baseados em taxa não podem explicar processamento muito rápido. Por exemplo, humanos podem realizar reconhecimento de imagem em apenas 10 milissegundos por neurônio em camadas sucessivas, da retina ao lobo temporal, uma janela de tempo curta demais para codificação baseada em taxa. A codificação temporal, que usa tempos precisos de disparo, oferece maior capacidade de informação e suporta computação rápida.
As SNNs operam no domínio do tempo contínuo, processando entradas como sequências de disparos em vez de valores discretos. Isso as torna bem adequadas para dados espaço-temporais, como sinais sensoriais do mundo real. Elas frequentemente conectam neurônios apenas a neurônios próximos, semelhante a filtros convolucionais, e evitam a complexidade de redes recorrentes codificando o tempo diretamente no tempo de disparo. Vários métodos de decodificação convertem sequências de disparos em saídas de valor real, incluindo códigos de taxa, tempo até o primeiro disparo e intervalos entre disparos.
Desafios de Treinamento e Abordagens
Treinar SNNs apresenta desafios significativos porque o processo de geração de disparos não é diferenciável. A natureza de tudo ou nada dos disparos significa que a derivada da função de ativação é zero em quase todos os lugares, interrompendo métodos de otimização baseados em gradiente, como a retropropagação. Isso limitou a aplicação de técnicas padrão de Deep learning às SNNs.
Pesquisadores desenvolveram várias estratégias para superar esse obstáculo. Uma abordagem é usar regras de aprendizado local inspiradas biologicamente, como aprendizado hebbiano e plasticidade dependente do tempo de disparo (STDP), que não requerem gradientes globais. Outro método envolve treinar uma rede convencional baseada em taxa e depois convertê-la em uma SNN. Uma terceira abordagem suaviza o modelo de rede para torná-lo continuamente diferenciável, enquanto uma quarta define gradientes substitutos, que são relaxações contínuas dos gradientes verdadeiros, permitindo retropropagação aproximada. Essas técnicas melhoraram o desempenho das SNNs, embora o treinamento supervisionado ainda fique atrás das redes de segunda geração em algumas aplicações.
Hardware e Aplicações
As SNNs são teoricamente mais poderosas do que as ANNs tradicionais em termos de capacidade computacional, mas seu uso prático é limitado por altos custos computacionais e requisitos de hardware especializado. Simular modelos neurais realistas é mais caro do que executar redes convencionais, e a computação baseada em disparos frequentemente exige chips neuromórficos que suportam processamento orientado a eventos. Apesar desses obstáculos, as SNNs estão sendo exploradas para inferência energeticamente eficiente em dispositivos de borda, processamento sensorial em tempo real e computação inspirada no cérebro. Conforme a pesquisa avança, a lacuna entre SNNs e ANNs convencionais continua a diminuir, tornando-as uma área ativa de investigação em Artificial intelligence.