Elon Musk, Steve Wozniak en meer dan 1000 andere ondernemers, wetenschappers en professoren hebben een petitie ondertekend van het Future of Life Institute om de ontwikkeling van AI’s zoals de GPT-4 chatbot tijdelijk op te schorten. Wat zit er achter deze bezorgdheid?
Wil Elon Musk de ontwikkeling van kunstmatige intelligentie (AI) stoppen?
Elon Musk, Steve Wozniak en andere ondernemers, wetenschappers en professoren hebben een petitie ondertekend die is voorgesteld door het Future of Life Institute en die oproept tot een tijdelijke stop op de ontwikkeling van AI:
We roepen AI-laboratoria op om het trainen van krachtige modellen tijdelijk stop te zetten!
Doe mee aan de oproep van FLI samen met Yoshua Bengio, @stevewoz, @harari_yuval, @elonmusk, @GaryMarcus & meer dan 1000 anderen die getekend hebben: https://t.co/3rJBjDXapc
Een korte over waarom we hiertoe oproepen – (1/8)
– Future of Life Institute (@FLIxrisk) Maart 29, 2023
Op het moment van schrijven zijn in totaal 1.377 handtekeningen verzameld. Het doel van deze brief is om de opleiding van systemen zoals GPT-4, de nieuwe versie van de beroemde chatbot van OpenAI, een bedrijf dat mede is opgericht door Elon Musk, voor minstens zes maanden op te schorten.
De grootste zorg is de plaats van de mens in relatie tot deze ontwikkelingen. In die zin worden verschillende kwesties aan de orde gesteld, zoals algoritmen die kunnen bepalen wat we zien op de verschillende sociale netwerken, de automatisering van verschillende handelingen en de ontwikkeling van geesten die intelligenter zijn dan de mens:
Dergelijke beslissingen mogen niet worden gedelegeerd aan ongekozen technologieleiders. Krachtige AI-systemen mogen pas worden ontwikkeld als we ervan overtuigd zijn dat hun effecten positief zullen zijn en hun risico’s beheersbaar. Dit vertrouwen moet goed onderbouwd zijn en toenemen met de omvang van de potentiële effecten van een systeem.”
Anderzijds roept de petitie op om de ontwikkeling van AI opnieuw te richten op technologiegebieden die “veilig, interpreteerbaar, transparant, robuust, afgestemd, betrouwbaar en eerlijk” zijn.
Is AI een echt gevaar?
Zoals elke technologische innovatie roept ook AI vragen op. Al in het tijdperk van de industriële revolutie stelde de mens zich vragen over zijn mogelijke vervanging door machines, en fictie zoals de Terminator heeft passies losgemaakt over een mogelijk doemscenario, maar staan we echt aan de rand van de Singulariteit? De vraag is verdeeld.
Deze vragen hebben niet gewacht op de recente golf van populariteit van AI op sociale netwerken.
Toch zijn er wel degelijk ethische kwesties te belichten, vooral met betrekking tot de manier waarop deze systemen worden aangeleerd. Zoals al onze activiteiten op het web geeft elke interactie met een kunstmatige intelligentie haar informatie over ons, en voeden wij de algoritmen van particuliere bedrijven gratis.
Het is dus interessant om ons af te vragen hoe deze gegevens door deze bedrijven worden en zullen worden gebruikt, wat wellicht een rationeler gevaar vormt dan de fantasie van een volledig autonome super-AI op dit moment.
Wat betreft de vervanging van mensen, net als op andere gebieden van de technologie, kan AI weliswaar sommige banen elimineren, maar zal het tegelijkertijd andere banen creëren. Kortom, het is een moreel neutraal instrument, waarvan de gevaren of voordelen afhangen van hoe het wordt gebruikt.
