Una red neuronal es un modelo computacional compuesto por capas interconectadas de unidades de procesamiento simples, inspiradas de manera aproximada en las neuronas biológicas, cuyas intensidades de conexión, o pesos, se ajustan mediante el entrenamiento para aproximar una función deseada. Las redes neuronales son la estructura computacional central detrás del aprendizaje profundo moderno y, por extensión, de la mayoría de los sistemas contemporáneos de inteligencia artificial.
Historia
El primer modelo neuronal entrenable fue el perceptrón, introducido en 1958, que podía aprender a clasificar patrones simples usando una sola capa de pesos ajustables. Sus limitaciones, documentadas en una crítica de 1969, contribuyeron a una pérdida más amplia de financiación de la investigación conocida como invierno de la IA. El interés en las redes multicapa resurgió en la década de 1980 con la popularización de la retropropagación, un algoritmo para calcular de manera eficiente cómo debería cambiar cada peso en una red para reducir el error, lo que permitió que las redes con capas ocultas se entrenaran en la práctica. Las redes neuronales pasaron de ser una técnica de nicho al enfoque dominante en la IA tras el éxito de AlexNet en 2012, que demostró que las redes con muchas capas, entrenadas en grandes conjuntos de datos mediante unidades de procesamiento gráfico, podían superar drásticamente a los métodos anteriores en tareas del mundo real.
Estructura
Una red neuronal se organiza en capas de unidades, o neuronas, cada una de las cuales calcula una suma ponderada de sus entradas y pasa el resultado a través de una función de activación no lineal antes de enviarlo a la siguiente capa. Las redes con muchas capas de este tipo entre la entrada y la salida se describen como "profundas", lo que da nombre al aprendizaje profundo. Durante el entrenamiento, una función de pérdida mide la brecha entre la salida de la red y el resultado deseado, y el descenso de gradiente ajusta iterativamente los pesos para reducir esa brecha, con la retropropagación proporcionando los gradientes necesarios de manera eficiente en todas las capas a la vez.
Familias arquitectónicas
Diferentes arquitecturas de red se adaptan a diferentes tipos de datos. Las redes neuronales convolucionales utilizan filtros compartidos y espacialmente locales y son adecuadas para imágenes. Las redes neuronales recurrentes, incluida la variante LSTM, procesan secuencias paso a paso y se usaron históricamente para texto y habla antes de ser desplazadas por la arquitectura transformador, que procesa secuencias completas en paralelo mediante atención. Las arquitecturas generativas, como la red generativa adversarial y el modelo de difusión, aplican redes neuronales a la tarea de producir nuevos datos en lugar de solo clasificarlos o predecirlos.
Limitaciones e interpretabilidad
Las redes neuronales a menudo se critican como "cajas negras": sus representaciones internas son difíciles de inspeccionar o explicar para los humanos, incluso cuando sus salidas son precisas. Esto ha motivado un subcampo de investigación a veces llamado interpretabilidad, que intenta ingeniería inversa de lo que representan los componentes individuales de una red entrenada. A pesar de esta opacidad, las redes neuronales siguen siendo la herramienta dominante en visión, lenguaje, audio y cada vez más en robótica y aplicaciones científicas, en gran parte porque su rendimiento continúa mejorando de manera predecible con más datos, más parámetros y más cómputo.
Desarrollos recientes
En la década de 2020, las redes neuronales han seguido escalando en tamaño y capacidad, particularmente en el dominio de la IA generativa. Los grandes modelos de lenguaje, construidos sobre la arquitectura del transformador, han demostrado habilidades emergentes en razonamiento, traducción y generación de código, mientras que los modelos de difusión se han convertido en el estándar para la síntesis de imágenes y video de alta calidad. La investigación sobre la interpretabilidad de las redes neuronales también ha avanzado, con técnicas como la interpretabilidad mecanicista que buscan aplicar ingeniería inversa a los cálculos internos de las redes entrenadas. Estos desarrollos han consolidado las redes neuronales como una tecnología fundamental en numerosos campos, incluidos el descubrimiento científico y los sistemas autónomos.