Elektronické neuronové sítě, jeden z klíčových konceptů ve výzkumu umělé inteligence, čerpají inspiraci z biologických neuronů již od svého vzniku – o čemž svědčí i jejich název. Nový výzkum nyní odhalil, že vlivná architektura transformátorů umělé inteligence má také nečekané paralely s lidskou neurobiologií.
Ve společné studii vědci navrhují, že biologické sítě astrocytů a neuronů by mohly napodobovat základní výpočty transformátorů. Nebo naopak. Zjištění – o nichž společně informovaly MIT, laboratoř MIT-IBM Watson AI Lab a Harvard Medical School – byla tento týden zveřejněna v časopise Proceedings of the National Academy of Sciences.
Astrocyto-neuronové sítě jsou sítě buněk v mozku, které se skládají ze dvou typů buněk: astrocytů a neuronů. Astrocyty jsou buňky, které podporují a regulují neurony, což jsou mozkové buňky, které vysílají a přijímají elektrické impulsy. Jejich činnost je v podstatě myšlení. Astrocyty a neurony spolu komunikují pomocí chemických látek, elektřiny a dotyku.
Na druhou stranu transformátory umělé inteligence – poprvé představené v roce 2017 – jsou jednou ze základních technologií, které stojí za generativními systémy, jako je ChatGPT. –Ve skutečnosti právě odtud pochází písmeno „T“ ve slově GPT. Na rozdíl od neuronových sítí, které zpracovávají vstupy sekvenčně, mohou transformátory přistupovat ke všem vstupům přímo prostřednictvím mechanismu zvaného sebepozorování. To jim umožňuje učit se složité závislosti v datech, jako je text.
Výzkumníci se zaměřili na tripartitní synapse, což jsou spoje, kde astrocyty vytvářejí spojení mezi neuronem, který vysílá signály (presynaptický neuron), a neuronem, který signály přijímá (postsynaptický neuron).
Pomocí matematického modelování prokázali, jak může integrace signálů astrocyty v průběhu času zajistit potřebnou prostorovou a časovou paměť pro vlastní pozornost. Jejich modely také ukazují, že biologický transformátor by mohl být vybudován pomocí vápníkové signalizace mezi astrocyty a neurony. TL;DR, tato studie vysvětluje, jak vytvořit organický transformátor.
„Astrocyty, které zůstaly elektricky němé po více než sto let záznamů mozku, jsou jednou z nejhojnějších, ale méně prozkoumaných buněk v mozku,“ řekl Konstantinos Michmizos, docent informatiky na Rutgersově univerzitě v MIT. „Potenciál uvolnění výpočetního výkonu druhé poloviny našeho mozku je obrovský.“
Vysokoúrovňový přehled navrhované sítě neuronů a astrocytů.
Hypotéza využívá nových důkazů, že astrocyty hrají aktivní roli při zpracování informací, na rozdíl od jejich dříve předpokládaných úklidových funkcí. Rovněž nastiňuje biologický základ transformátorů, které mohou překonat tradiční neuronové sítě při usnadňování úkolů, jako je generování souvislého textu.
Navrhované biologické transformátory by mohly poskytnout nové poznatky o lidském poznávání, pokud budou experimentálně ověřeny. Mezi lidmi a modely transformátorů náročnými na data však stále zůstávají značné mezery. Zatímco transformátory vyžadují obrovské soubory trénovacích dat, lidský mozek transformuje zkušenosti do jazyka organicky se skromným energetickým rozpočtem.
Ačkoli propojení mezi neurovědou a umělou inteligencí nabízí vhled do problematiky, pochopení samotné složitosti naší mysli zůstává obrovskou výzvou. Biologické souvislosti představují pouze jeden dílek skládačky – rozluštění složitostí lidské inteligence vyžaduje trvalé úsilí napříč obory. To, jak neurobiologie dosahuje téměř magických výsledků, zůstává nejhlubší záhadou vědy.
