Uma rede neural capsular (CapsNet) é um tipo de rede neural artificial usada em aprendizado de máquina para modelar melhor relações hierárquicas em dados, particularmente no reconhecimento de imagens. A abordagem tenta imitar mais de perto a organização neural biológica ao introduzir estruturas chamadas cápsulas, que são grupos de neurônios que codificam coletivamente tanto a probabilidade da presença de uma entidade quanto sua pose (como posição, tamanho e orientação). As CapsNets foram desenvolvidas para abordar limitações das redes neurais convolucionais (CNNs) tradicionais, especialmente sua dependência de camadas de pooling e sua dificuldade em lidar com relações espaciais entre partes de objetos.
As CapsNets exploram o fato de que, embora mudanças de ponto de vista tenham efeitos não lineares no nível de pixel, elas têm efeitos lineares no nível de parte/objeto. Essa propriedade permite que a rede reconheça objetos independentemente de sua pose, semelhante a inverter a renderização de um objeto composto por múltiplas partes. Entre outros benefícios, as CapsNets abordam o "problema de Picasso" no reconhecimento de imagens, onde as imagens contêm todas as partes corretas, mas em relações espaciais incorretas (por exemplo, um rosto com olho e boca trocados).
História
O conceito de redes capsulares remonta a 2000, quando Geoffrey Hinton e colegas descreveram um sistema de imagem que combinava segmentação e reconhecimento em um único processo de inferência usando árvores de análise. Esse sistema, chamado redes de credibilidade, modelava a distribuição conjunta sobre variáveis latentes e possíveis árvores de análise e se mostrou útil no banco de dados de dígitos manuscritos MNIST. Na ideia original de Hinton, uma minicoluna representaria e detectaria uma entidade multidimensional.
Um mecanismo de roteamento dinâmico para redes capsulares foi introduzido por Hinton e sua equipe em 2017. Essa abordagem foi alegada para reduzir as taxas de erro no MNIST e reduzir os tamanhos dos conjuntos de treinamento, com resultados consideravelmente melhores do que uma CNN em dígitos altamente sobrepostos. Desde então, as CapsNets têm sido estudadas para várias aplicações, embora não tenham sido tão amplamente adotadas quanto outras arquiteturas, como transformers.
Transformações
Na visão computacional, entender transformações é crucial. Um invariante é uma propriedade de objeto que não muda sob uma transformação, como a área de um círculo quando deslocado. Um equivariante é uma propriedade que muda de forma previsível, como o centro de um círculo que se move com o círculo. Um não equivariante é uma propriedade que não muda de forma previsível, como o perímetro de um círculo quando transformado em uma elipse.
Para o reconhecimento de objetos, a classe de um objeto é tipicamente invariante sob muitas transformações (um gato permanece um gato quando deslocado ou escalado), mas outras propriedades são equivariantes, como o volume de um gato quando escalado. Propriedades equivariantes, incluindo relações espaciais, são capturadas em uma pose, que descreve translação, rotação, escala e reflexão.
CapsNets não supervisionadas aprendem um manifold linear global entre um objeto e sua pose como uma matriz de pesos. Isso permite que a rede identifique um objeto independentemente de sua pose, em vez de aprender a reconhecer o objeto com relações espaciais incluídas. A pose também pode incorporar propriedades não espaciais, como cor. Multiplicar o objeto pelo manifold posiciona o objeto no espaço.
Pooling
As CapsNets rejeitam a estratégia de camada de pooling das CNNs convencionais, que reduz a quantidade de detalhes processados em camadas superiores. O pooling fornece invariância translacional e permite mais tipos de características, mas os proponentes das CapsNets argumentam que o pooling tem várias desvantagens: viola a percepção de forma biológica por falta de um quadro de coordenadas intrínseco; fornece invariância (descartando informações posicionais) em vez de equivariância (desembaraçando essas informações); ignora o manifold linear subjacente às variações de imagem; roteia estaticamente em vez de comunicar possíveis "descobertas" a características que podem apreciá-las; e danifica detectores de características próximos ao deletar informações das quais eles dependem.
Em vez de pooling, as CapsNets usam roteamento por acordo para direcionar dinamicamente informações entre camadas, preservando informações espaciais detalhadas.
Cápsulas
Uma cápsula é um conjunto de neurônios que individualmente ativam para várias propriedades de um tipo de objeto, como posição, tamanho e matiz. Formalmente, uma cápsula produz um vetor de atividade com um elemento por neurônio, contendo o valor de instanciação desse neurônio (por exemplo, matiz). Programas gráficos usam valores de instanciação para desenhar objetos, e as CapsNets tentam derivar esses valores da entrada. A probabilidade da presença de uma entidade é o comprimento do vetor, enquanto a orientação do vetor quantifica as propriedades da cápsula.
Neurônios artificiais tradicionais produzem uma ativação escalar, mas as CapsNets substituem detectores de características com saída escalar por cápsulas com saída vetorial e max-pooling por roteamento por acordo. Como as cápsulas são independentes, quando múltiplas cápsulas concordam, a probabilidade de detecção correta é muito maior. Por exemplo, um cluster mínimo de duas cápsulas considerando uma entidade de seis dimensões concordaria dentro de 10% por acaso apenas uma vez em um milhão de tentativas; a probabilidade de concordância por acaso diminui exponencialmente com mais dimensões.
Cápsulas de camadas superiores recebem saídas de cápsulas de camadas inferiores e aceitam aquelas cujas saídas se agrupam. Um cluster faz com que a cápsula superior produza uma alta probabilidade de presença da entidade e uma pose de alta dimensão (20-50+). Cápsulas de nível superior ignoram outliers, concentrando-se em clusters, semelhante à transformada de Hough, RHT e RANSAC do processamento clássico de imagem digital.
Roteamento por acordo
Roteamento por acordo é o mecanismo pelo qual saídas de uma cápsula (filha) são roteadas para cápsulas na próxima camada (pai) com base na capacidade da filha de prever as saídas dos pais. Ao longo de algumas iterações, a saída de cada pai pode convergir com previsões de algumas filhas e divergir de outras, indicando se esse pai está presente ou ausente.
Para cada pai possível, cada filha calcula um vetor de previsão multiplicando sua saída por uma matriz de pesos treinada por retropropagação. A saída do pai é então calculada como uma soma ponderada das previsões, onde os pesos representam a probabilidade de que uma filha pertença àquele pai. Uma filha cujas previsões estão próximas da saída resultante aumenta seu coeficiente de acoplamento com aquele pai, enquanto o diminui para outros. Esse processo iterativo permite que a rede aloque recursos dinamicamente e melhore a precisão do reconhecimento.