Toonaangevende AI-ontwikkelaar OpenAI bracht donderdag zowel de techwereld als de reguliere pers in beroering toen het een nieuwe modelspecificatie introduceerde die door velen werd geïnterpreteerd als zou het zijn wild populaire generatieve AI-tools zijn toegestaan om niet-werkveilige inhoud voor volwassenen te genereren.
“We geloven dat ontwikkelaars en gebruikers de flexibiliteit moeten hebben om onze services naar eigen inzicht te gebruiken, zolang ze zich houden aan ons gebruiksbeleid”, schreef OpenAI. “We onderzoeken of we op verantwoorde wijze de mogelijkheid kunnen bieden om NSFW-content te genereren in leeftijdsgeschikte contexten via de API en ChatGPT.”
In de aankondiging herhaalde OpenAI ook dat het huidige beleid voorkomt dat ChatGPT NSFW-content serveert, omschreven als content die niet gepast zou zijn in “een gesprek in een professionele setting, zoals erotica, extreme gore, vloeken en ongevraagde godslastering.”
Desalniettemin deed het idee dat OpenAI overwoog om de beperkingen op het maken van pornografie op te heffen, de wenkbrauwen fronsen. Achteraf gezien, vertelt een productleider van Open AI aan TCN, had het bedrijf beter kunnen uitleggen wat het aan het “onderzoeken” was.”
Om het publieke gesprek te verdiepen over hoe AI-modellen zich zouden moeten gedragen, delen we onze Model Spec – onze benadering voor het vormgeven van gewenst modelgedrag. https://t.co/RJBRwrcTtQ
– OpenAI (@OpenAI) mei 8, 2024
“Ik denk dat wat ik graag zou doen op basis van de feedback en de reactie, in de volgende versie die we delen-is preciezer zijn over wat sommige mensen de definitie van NSFW-inhoud en de taxonomie hier,” OpenAI product lead voor model gedrag Joanna Jang zei, opmerkend dat NSFW alles kan betekenen van geschreven godslastering tot AI-gegenereerde deepfake afbeeldingen.
Wat betreft specifiek materiaal dat zou zijn toegestaan onder een meer tolerante houding, vertelde Jang aan NPR dat het “afhangt van je definitie van porno”.
Ze benadrukte dat deepfakes absoluut niet zijn toegestaan.
“Volgens de geldende wetten en het beschermen van de privacy van mensen, dachten we dat dit het zou dekken-maar we moeten duidelijk zijn dat we niet bezig zijn met het maken van AI deepfakes of AI-porno,” vertelde Jang aan TCN. “Dat is gewoon niet iets waar we de tijd of bandbreedte voor zouden moeten hebben om prioriteit aan te geven als er belangrijkere problemen zijn om op te lossen.”
Naast het blokkeren van NSFW-content en het zorgen voor wettelijke naleving, bevat de modelspecificatie van OpenAI verschillende andere regels die ChatGPT moet volgen, waaronder het niet verstrekken van gevaarlijke informatie, het respecteren van makers en hun rechten en het beschermen van de privacy van mensen.
Op dit moment staat OpenAI’s ChatGPT Plus, dat Dall-E 3 voor afbeeldingen en GPT-4 voor tekst bevat, niet toe dat gebruikers openlijk seksuele of bloederige afbeeldingen of tekst genereren. Wanneer dit wordt gevraagd, zal ChatGPT antwoorden dat het verzoek in strijd is met de servicevoorwaarden. Als gevolg hiervan wijst Jang erop dat het web bol staat van de klachten van OpenAI-gebruikers dat het bedrijf hen censureert.
“Er is veel kritiek op censuur en wat dies meer zij, en veel van die discussie is het door elkaar halen van – niemands schuld – wat het beleid van OpenAI is versus wat eigenlijk niet ons beleid is,” aldus Jang. “Gedragen deze modellen zich zo, ook al gaat het tegen de richtlijnen in?”
Zoals Jang uitlegde, publiceerde OpenAI de spec om het ideale gedrag van modellen vast te leggen, waarbij de nadruk ligt op naleving van de wet en het vermijden van NSFW-inhoud, terwijl transparantie wordt omarmd.
“We willen meer nuance brengen in deze discussie, want op dit moment – vóór de modelspec – was het: ‘Moet AI porno craten of niet?'” zei Jang. “En ik hoop dat we door middel van de modelspec deze gesprekken daadwerkelijk kunnen voeren.
“Nogmaals, dit is waarom ik wou dat ik eigenlijk [een kader] had neergezet, zodat we dit gesprek zelfs een dag eerder hadden kunnen starten,” voegde ze eraan toe.
Op het gebied van seks- en pornoverslaving beginnen we met AI-gegenereerde pornografie een toename van verslavend gedrag te zien,” vertelde Brandon Simpson, gedragsdeskundige bij de Men’s Health Foundation, aan TCN. “Omdat AI-gegenereerde pornografie de unieke en steeds toenemende intensiteit creëert die nodig is om een dopamine-respons te vervullen, duiken mensen erin en vervangen het door menselijke interacties, wat leidt tot niveaus van sociale angst, prestatieangst en een verscheidenheid aan andere seksuele gerelateerde disfuncties.”
Zelfs met de voorzorgsmaatregelen van OpenAI en andere grote AI-platforms van Google en Meta, is er een sterke vraag naar AI-gegenereerde porno en zijn er talloze manieren om de technologie in te zetten om een nietsvermoedend slachtoffer af te beelden of om materiaal voor seksueel kindermisbruik (CSAM) te genereren.
“De specificatie is slechts een deel van ons verhaal over hoe we AI op een verantwoorde manier kunnen bouwen en inzetten”, vertelde een vertegenwoordiger van OpenAI later aan TCN. “Het wordt aangevuld door ons gebruiksbeleid, hoe we verwachten dat mensen de API en ChatGPT gebruiken” – uiteindelijk bedoeld om transparantie te tonen en “een publiek gesprek op gang te brengen over hoe het veranderd en verbeterd kan worden.”
OpenAI heeft veel geïnvesteerd in het verbeteren van de privacy en beveiliging van zijn suite van AI-tools, waaronder het inhuren van cybersecurity red teams om kwetsbaarheden te vinden op zijn platformen. In februari kondigden OpenAI en Microsoft een gezamenlijke operatie aan om Chinese en Noord-Koreaanse hackers te blokkeren bij het gebruik van ChatGPT, en OpenAI heeft vorige maand samen met Google en Meta toegezegd prioriteit te geven aan de veiligheid van kinderen bij de ontwikkeling van zijn AI-modellen.
