Uma função sigmoide é qualquer função matemática cujo gráfico possui uma curva característica em forma de S ou curva sigmoide. Em matemática, uma função sigmoide é limitada, diferenciável e definida para todos os valores reais de entrada, com uma derivada positiva em cada ponto. O termo é mais frequentemente associado à função logística, que mapeia qualquer número real para um valor entre 0 e 1, mas também abrange uma família mais ampla de curvas usadas em estatística, engenharia e aprendizado de máquina.
No contexto de modelos de inteligência artificial e redes neurais, o termo "função sigmoide" é frequentemente usado como sinônimo da função logística. Essa função desempenhou um papel fundamental nas primeiras arquiteturas de aprendizado profundo como função de ativação, embora tenha sido amplamente substituída por alternativas como a unidade linear retificada em muitos sistemas modernos. Curvas sigmoides também aparecem naturalmente como funções de distribuição acumulada em estatística, incluindo aquelas derivadas das distribuições normal e t de Student.
Definição e Propriedades
Uma função sigmoide é uma função real, limitada, diferenciável e definida para todas as entradas reais, com uma derivada positiva em cada ponto. Seu gráfico é restringido por um par de assíntotas horizontais conforme a entrada se aproxima do infinito positivo ou negativo. A função é monotônica, tipicamente crescente, e sua primeira derivada tem forma de sino. Inversamente, a integral de qualquer função contínua, não negativa, em forma de sino, com um único máximo local, produz uma curva sigmoide.
Funções sigmoides são convexas para valores abaixo de um ponto de inflexão específico e côncavas para valores acima dele; em muitos exemplos comuns, esse ponto está em zero. A função logística, por exemplo, tem seu ponto de inflexão em x = 0, onde seu valor é 0,5. A função tangente hiperbólica, outra sigmoide amplamente usada, varia de -1 a 1 e é simétrica em relação à origem.
Exemplos e Variantes
Funções sigmoides comuns incluem a função logística, a tangente hiperbólica (tanh), a arcotangente e a função erro. A função logística é definida como f(x) = 1 / (1 + e^(-x)), produzindo saídas no intervalo aberto (0, 1). A tangente hiperbólica, tanh(x) = (e^x - e^(-x)) / (e^x + e^(-x)), mapeia entradas para (-1, 1) e é frequentemente preferida em aprendizado profundo porque suas saídas são centradas em zero, o que pode melhorar a convergência durante o treinamento.
Casos especiais incluem a curva de Gompertz, usada na modelagem de sistemas que saturam em grandes valores de x, e a curva ogee, aplicada no projeto de vertedouros de algumas barragens. A função degrau de Heaviside, que transita instantaneamente entre 0 e 1, é um caso limite do comportamento sigmoide. Em estatística, curvas sigmoides servem como funções de distribuição acumulada, como as integrais da densidade logística, da densidade normal e das funções de densidade de probabilidade t de Student.
Papel em Redes Neurais
Funções sigmoides, particularmente as variantes logística e tangente hiperbólica, têm sido usadas como funções de ativação para neurônios artificiais desde os primeiros dias do aprendizado de máquina. Uma função de ativação introduz não linearidade em uma rede neural, permitindo que ela aprenda padrões complexos. A faixa de saída da sigmoide logística de (0, 1) a tornou natural para interpretações probabilísticas, como prever a probabilidade de um resultado binário.
No entanto, a sigmoide logística sofre do problema do gradiente desaparecente: para entradas positivas ou negativas grandes, sua derivada se aproxima de zero, o que pode desacelerar ou interromper o treinamento em redes profundas. Essa limitação motivou o desenvolvimento de alternativas como a unidade linear retificada (ReLU) e suas variantes, que agora são padrão na maioria das arquiteturas baseadas em transformadores, incluindo aquelas usadas em sistemas de modelos de linguagem de grande escala. Apesar dessa mudança, funções sigmoides permanecem importantes em contextos específicos, como na camada de saída de classificadores binários e em mecanismos de portão dentro de redes recorrentes.
A sigmoide logística é invertível, e sua inversa é a função logit, que mapeia probabilidades de volta à linha dos números reais. Essa propriedade sustenta a regressão logística, uma técnica estatística fundamental que conecta aprendizado de máquina e estatística clássica.
Classificação Teórica
Uma teoria matemática, proposta pelo pesquisador Grebenc, classifica funções sigmoides unitárias em três tipos com base em seu comportamento assintótico e oscilação perto das assíntotas. Uma função sigmoide unitária é normalizada para a faixa unitária, tipicamente com assíntotas inferior e superior em 0 e 1, e pode ser expressa na forma geral y = A * S(f(x)) + B, onde S é uma função sigmoide crescente, f(x) é uma transformação da variável independente, e A e B controlam escala e translação.
Funções do primeiro tipo se aproximam de suas assíntotas monotonicamente sem oscilação, incluindo a função logística e generalizações relacionadas. O segundo tipo oscila perto da assíntota superior enquanto preserva uma transição sigmoide geral. O terceiro tipo oscila perto das assíntotas inferior e superior. A teoria também lista 30 métodos de construção para gerar funções sigmoides, variando de transformações algébricas e integração de funções em forma de sino a soluções de equações diferenciais, esquemas recursivos e sistemas caóticos. Esses métodos fornecem uma estrutura sistemática para projetar curvas sigmoides com propriedades adaptadas para aplicações específicas em inteligência artificial e outros campos.
Aplicações Além da IA
Funções sigmoides se estendem além da ativação em redes neurais. Em teoria de controle e engenharia, elas modelam efeitos de saturação em sistemas físicos. Em biologia, a curva de Gompertz descreve processos de crescimento, como crescimento de tumores ou dinâmica populacional. Em economia, curvas sigmoides representam a adoção de novas tecnologias ao longo do tempo. A versatilidade da curva em forma de S, com sua transição suave entre dois estados, a torna uma ferramenta fundamental em diversas disciplinas, desde a pesquisa computacional da era Xerox PARC até a infraestrutura de nuvem moderna da Amazon Web Services que hospeda cargas de trabalho de aprendizado profundo.