Několik světových vlád je stále nervóznějších z Pandořiny skříňky pokročilé umělé inteligence, která byla otevřena dokořán veřejným zveřejněním ChatGPT od OpenAI. I když přemýšlejí o možných regulacích, není jasné, zda lze džina vůbec přinutit, aby se vrátil zpět do láhve.
V úterý kanadský komisař pro ochranu osobních údajů uvedl, že vyšetřuje ChatGPT, a připojil se tak ke kolegům z rostoucího seznamu zemí – včetně Německa, Francie a Švédska -, které vyjádřily obavy z populárního chatbota poté, co jej Itálie v neděli zcela zakázala.
„Technologie umělé inteligence a její dopady na soukromí jsou pro můj úřad prioritou,“ uvedl v prohlášení kanadský komisař pro ochranu soukromí Philippe Dufresne. „Musíme držet krok s rychle se vyvíjejícím technologickým pokrokem – a být před ním – a to je jedna z mých klíčových oblastí, na které se jako komisař zaměřuji.“
Zákaz Itálie vyplynul z incidentu z 20. března, kdy společnost OpenAI přiznala chybu v systému, která odhalila platební údaje a historii chatu uživatelů. Společnost OpenAI krátce odstavila ChatGPT, aby chybu opravila.
V pondělí jsme odstavili ChatGPT, abychom opravili chybu v otevřené knihovně, která umožňovala některým uživatelům vidět tituly z historie chatu jiných uživatelů. Naším šetřením jsme také zjistili, že 1,2 % uživatelů služby ChatGPT Plus mohlo odhalit osobní údaje jiného uživatele. 1/2
– OpenAI (@OpenAI) 24. března 2023
„Nepotřebujeme zákaz aplikací umělé inteligence, ale spíše způsoby, jak zajistit hodnoty, jako je demokracie a transparentnost,“ řekl v pondělí mluvčí německého ministerstva vnitra listu Handelsblatt.
Je však vůbec možné zakázat software a umělou inteligenci ve světě, kde existují virtuální privátní sítě (VPN)?“
VPN je služba, která uživatelům umožňuje bezpečný a soukromý přístup k internetu vytvořením šifrovaného spojení mezi jejich zařízením a vzdáleným serverem. Toto spojení maskuje domovskou IP adresu uživatele, takže to vypadá, že uživatel přistupuje k internetu z místa vzdáleného serveru, a nikoli ze své skutečné polohy.
Kromě toho „zákaz A.I. nemusí být reálný, protože již existuje mnoho používaných modelů A.I. a další se vyvíjejí,“ řekl TCN Jake Maymar, viceprezident pro inovace v poradenské společnosti Glimpse Group, která se zabývá A.I. Poradenstvím. „Jediný způsob, jak prosadit zákaz A.I., by byl zákaz přístupu k počítačům a cloudovým technologiím, což není praktické řešení.“
Italský pokus o zákaz ChatGPT přichází v souvislosti s rostoucími obavami z dopadu umělé inteligence na soukromí a bezpečnost dat a z jejího možného zneužití.
Myslivecký tank pro umělou inteligenci, Centrum pro umělou inteligenci a digitální politiku, podal minulý měsíc formální stížnost u americké Federální obchodní komise a obvinil společnost OpenAI z klamavých a nekalých praktik poté, co se objevil otevřený dopis podepsaný několika vysoce postavenými členy technologické komunity, který vyzýval ke zpomalení vývoje umělé inteligence.
Společnost OpenAI se pokusila tyto obavy vyvrátit v příspěvku na blogu o bezpečnosti umělé inteligence z 5. dubna, v němž nastínila svůj závazek k dlouhodobému výzkumu bezpečnosti a spolupráci s komunitou umělé inteligence.
OpenAI uvedla, že jejím cílem je zlepšit faktickou přesnost, snížit pravděpodobnost „halucinací“ a zároveň chránit soukromí uživatelů a dětí, včetně zkoumání možností ověření věku. „Uvědomujeme si také, že jako každá technologie, i tyto nástroje s sebou nesou reálná rizika – proto pracujeme na tom, aby byla bezpečnost do našeho systému zabudována na všech úrovních,“ napsala společnost.
Sdělení společnosti OpenAI se nelíbilo některým, kteří jej označili za PR výkladní skříň, která neřeší existenční riziko, jež umělá inteligence představuje.“
Zatímco někteří bijí na poplach v souvislosti s ChatGPT, jiní tvrdí, že problémem není chatbot, ale spíše širší otázka jeho zamýšleného využití společností.
„Tento okamžik poskytuje příležitost zamyslet se nad tím, jakou společností chceme být – jaká pravidla chceme uplatňovat pro všechny stejně, ať už jsou poháněni umělou inteligencí, nebo ne – a jaká ekonomická pravidla společnosti nejlépe poslouží,“ řekl TCN Barath Raghavan, docent informatiky na USC Viterbi. „Nejlepší politická řešení nebudou ta, která se zaměří na konkrétní technologické mechanismy dnešní umělé inteligence (které rychle zastarají), ale na chování a pravidla, která bychom chtěli, aby platila univerzálně.“
