Elektroniczne sieci neuronowe, jedna z kluczowych koncepcji w badaniach nad sztuczną inteligencją, od samego początku czerpały inspirację z biologicznych neuronów – o czym świadczy ich nazwa. Nowe badania ujawniły, że wpływowa architektura transformatora sztucznej inteligencji ma również nieoczekiwane podobieństwa z ludzką neurobiologią.
W badaniu przeprowadzonym we współpracy naukowcy sugerują, że biologiczne sieci astrocytów i neuronów mogą naśladować podstawowe obliczenia transformatorów. Lub odwrotnie. Odkrycia – zgłoszone wspólnie przez MIT, MIT-IBM Watson AI Lab i Harvard Medical School – zostały opublikowane w tym tygodniu w czasopiśmie Proceedings of the National Academy of Sciences.
Sieci astrocytów i neuronów to sieci komórek w mózgu, które składają się z dwóch rodzajów komórek: astrocytów i neuronów. Astrocyty to komórki, które wspierają i regulują neurony, które są komórkami mózgu wysyłającymi i odbierającymi impulsy elektryczne. Ich aktywność polega na myśleniu. Astrocyty i neurony komunikują się ze sobą za pomocą substancji chemicznych, elektryczności i dotyku.
Z drugiej strony, transformatory AI – po raz pierwszy wprowadzone w 2017 roku – są jedną z podstawowych technologii stojących za systemami generatywnymi, takimi jak ChatGPT. –W rzeczywistości to właśnie od nich pochodzi „T” w GPT. W przeciwieństwie do sieci neuronowych, które przetwarzają dane wejściowe sekwencyjnie, transformatory mogą uzyskać bezpośredni dostęp do wszystkich danych wejściowych za pośrednictwem mechanizmu zwanego samoobserwacją. Pozwala im to uczyć się złożonych zależności w danych, takich jak tekst.
Badacze skupili się na synapsach trójdzielnych, czyli połączeniach, w których astrocyty tworzą połączenia między neuronem wysyłającym sygnały (neuron presynaptyczny) a neuronem odbierającym sygnały (neuron postsynaptyczny).
Korzystając z modelowania matematycznego, wykazali, w jaki sposób integracja sygnałów przez astrocyty w czasie może zapewnić wymaganą pamięć przestrzenną i czasową do samoobserwacji. Ich modele pokazują również, że biologiczny transformator można zbudować za pomocą sygnalizacji wapniowej między astrocytami i neuronami. TL;DR, to badanie wyjaśnia, jak zbudować organiczny transformator.
„Pozostając elektrycznie cichymi przez ponad sto lat nagrań mózgu, astrocyty są jednymi z najliczniejszych, ale mniej zbadanych komórek w mózgu” – powiedział MIT Konstantinos Michmizos, profesor nadzwyczajny informatyki na Uniwersytecie Rutgersa. „Potencjał uwolnienia mocy obliczeniowej drugiej połowy naszego mózgu jest ogromny.”
A high-level overview of the proposed neuron-astrocyte network.
Hipoteza wykorzystuje pojawiające się dowody na to, że astrocyty odgrywają aktywną rolę w przetwarzaniu informacji, w przeciwieństwie do ich wcześniej zakładanych funkcji porządkowych. Przedstawia również biologiczne podstawy transformatorów, które mogą przewyższać tradycyjne sieci neuronowe w ułatwianiu zadań, takich jak generowanie spójnego tekstu.
Proponowane biologiczne transformatory mogą zapewnić nowy wgląd w ludzkie poznanie, jeśli zostaną zweryfikowane eksperymentalnie. Pozostają jednak znaczące luki między ludźmi a wymagającymi dużej ilości danych modelami transformatorów. Podczas gdy transformatory wymagają ogromnych zbiorów danych treningowych, ludzkie mózgi organicznie przekształcają doświadczenie w język przy skromnym budżecie energetycznym.
Chociaż powiązania między neuronauką a sztuczną inteligencją oferują wgląd, zrozumienie samej złożoności naszych umysłów pozostaje ogromnym wyzwaniem. Połączenia biologiczne stanowią tylko jeden element układanki – odblokowanie zawiłości ludzkiej inteligencji wymaga ciągłych wysiłków z różnych dyscyplin. To, w jaki sposób biologia neuronalna osiąga niemal magiczne efekty, pozostaje najgłębszą tajemnicą nauki.
