Elon Musk, Steve Wozniak i ponad 1000 innych przedsiębiorców, naukowców i profesorów podpisało petycję Future of Life Institute, aby tymczasowo wstrzymać rozwój SI, takich jak chatbot GPT-4. Co stoi za takimi obawami
Czy Elon Musk chce powstrzymać rozwój sztucznej inteligencji (AI)?
Elon Musk, Steve Wozniak i inni przedsiębiorcy, naukowcy i profesorowie podpisali petycję zaproponowaną przez Future of Life Institute, która wzywa do tymczasowego wstrzymania rozwoju AI:
Wzywamy laboratoria AI do tymczasowego wstrzymania szkolenia potężnych modeli!
Dołącz do apelu FLI wraz z Yoshua Bengio, @stevewoz, @harari_yuval, @elonmusk, @GaryMarcus & ponad 1000 innych osób, które podpisały się pod apelem: https://t.co/3rJBjDXapc
Krótki on why we’re calling for this – (1/8)
– Future of Life Institute (@FLIxrisk) March 29, 2023
W chwili pisania tego listu zebrano łącznie 1 377 podpisów. Celem listu jest wstrzymanie na co najmniej sześć miesięcy szkolenia systemów takich jak GPT-4, czyli nowej wersji słynnego chatbota z OpenAI, firmy współzałożonej przez Elona Muska.
Głównym problemem jest miejsce człowieka w stosunku do tych osiągnięć. W tym sensie porusza się kilka kwestii, takich jak algorytmy, które mogą decydować o tym, co widzimy na różnych portalach społecznościowych, automatyzacja różnych operacji i rozwój umysłów, które są bardziej inteligentne niż człowiek:
Takie decyzje nie powinny być delegowane do niewybieralnych liderów technologicznych. Potężne systemy AI powinny być rozwijane dopiero wtedy, gdy będziemy pewni, że ich efekty będą pozytywne, a ryzyko możliwe do opanowania. Ta pewność musi być dobrze uzasadniona i rosnąć wraz ze skalą potencjalnych efektów systemu. „
Z drugiej strony petycja wzywa do ponownego skupienia rozwoju AI na obszarach technologii, które są „bezpieczne, interpretowalne, przejrzyste, solidne, wyrównane, godne zaufania i sprawiedliwe”.
Czy AI jest prawdziwym zagrożeniem?
Jak każda innowacja technologiczna, AI rodzi pytania. Już w dobie rewolucji przemysłowej ludzie kwestionowali swoje potencjalne zastąpienie przez maszyny, a dzieła fikcji takie jak Terminator rozpętały namiętności dotyczące możliwego scenariusza zagłady, ale czy rzeczywiście jesteśmy na skraju Singularity? To pytanie jest podzielone.
Te pytania nie czekały na niedawny wzrost popularności AI w sieciach społecznościowych, aby się pojawić.
Jednak rzeczywiście należy zwrócić uwagę na kwestie etyczne, szczególnie w odniesieniu do sposobu uczenia tych systemów. Jak wszystkie nasze działania w sieci, każda interakcja ze sztuczną inteligencją daje jej informacje o nas, a my za darmo karmimy algorytmy prywatnych firm.
Ciekawe jest więc pytanie, jak te dane są i będą wykorzystywane przez te firmy, co może stanowić w tej chwili bardziej racjonalne zagrożenie niż fantazja o w pełni autonomicznej super AI.
Jeśli chodzi o zastąpienie człowieka, to podobnie jak w innych obszarach technologii, choć AI rzeczywiście może wyeliminować niektóre miejsca pracy, to równolegle stworzy inne. Krótko mówiąc, jest to narzędzie moralnie neutralne, którego zagrożenia lub korzyści zależą od tego, jak zostanie użyte.
