Las redes neuronales electrónicas, uno de los conceptos clave en la investigación de la inteligencia artificial, se han inspirado en las neuronas biológicas desde sus inicios, como demuestra su nombre. Ahora, una nueva investigación ha revelado que la influyente arquitectura de los transformadores de IA también comparte inesperados paralelismos con la neurobiología humana.
En un estudio realizado en colaboración, los científicos proponen que las redes biológicas de astrocitos y neuronas podrían imitar los cálculos básicos de los transformadores. O viceversa. Los resultados, publicados conjuntamente por el MIT, el Laboratorio de Inteligencia Artificial MIT-IBM Watson y la Facultad de Medicina de Harvard, se publican esta semana en la revista Proceedings of the National Academy of Sciences.
Las redes de astrocitos y neuronas son redes de células cerebrales formadas por dos tipos de células: astrocitos y neuronas. Los astrocitos son células que sostienen y regulan las neuronas, que son células cerebrales que envían y reciben impulsos eléctricos. Su actividad consiste básicamente en pensar. Los astrocitos y las neuronas se comunican entre sí mediante sustancias químicas, electricidad y el tacto.
Por otro lado, los transformadores de IA -presentados por primera vez en 2017- son una de las tecnologías base detrás de sistemas generativos como ChatGPT. –De hecho, de ahí viene la «T» de GPT. A diferencia de las redes neuronales que procesan las entradas secuencialmente, los transformadores pueden acceder directamente a todas las entradas mediante un mecanismo llamado autoatención. Esto les permite aprender dependencias complejas en datos como el texto.
Los investigadores se centraron en las sinapsis tripartitas, que son uniones en las que los astrocitos forman conexiones entre una neurona que envía señales (neurona presináptica) y una neurona que las recibe (neurona postsináptica).
Utilizando modelos matemáticos, demostraron cómo la integración de señales por parte de los astrocitos a lo largo del tiempo podría proporcionar la memoria espacial y temporal necesaria para la autoatención. Sus modelos también muestran que podría construirse un transformador biológico utilizando la señalización de calcio entre astrocitos y neuronas. TL;DR, este estudio explica cómo construir un transformador biológico.
«Tras haber permanecido en silencio eléctrico durante más de un siglo de grabaciones cerebrales, los astrocitos son una de las células más abundantes, aunque menos exploradas, del cerebro», explica al MIT Konstantinos Michmizos, profesor asociado de informática en la Universidad de Rutgers. «El potencial de liberar el poder computacional de la otra mitad de nuestro cerebro es enorme».
Vista general de alto nivel de la red neuronal-astrocítica propuesta.
La hipótesis aprovecha la evidencia emergente de que los astrocitos desempeñan un papel activo en el procesamiento de la información, a diferencia de lo que se suponía hasta ahora de sus funciones domésticas. También esboza una base biológica para los transformadores, que pueden superar a las redes neuronales tradicionales a la hora de facilitar tareas como la generación de textos coherentes.
Los transformadores biológicos propuestos podrían aportar nuevos conocimientos sobre la cognición humana si se validaran experimentalmente. Sin embargo, siguen existiendo importantes diferencias entre los humanos y los modelos de transformadores, que requieren muchos datos. Mientras que los transformadores requieren enormes conjuntos de datos de entrenamiento, los cerebros humanos transforman orgánicamente la experiencia en lenguaje con un modesto presupuesto de energía.
Aunque los vínculos entre la neurociencia y la inteligencia artificial ofrecen nuevas perspectivas, comprender la enorme complejidad de nuestras mentes sigue siendo un reto inmenso. Las conexiones biológicas no son más que una pieza del rompecabezas: desentrañar los entresijos de la inteligencia humana exige un esfuerzo sostenido de todas las disciplinas. Cómo la biología neuronal logra casi magia sigue siendo el misterio más profundo de la ciencia.
