Giovedì OpenAI, azienda leader nello sviluppo di AI, ha fatto arrabbiare il mondo della tecnologia e la stampa tradizionale quando ha introdotto una nuova specifica di modello che molti hanno interpretato nel senso che i suoi popolarissimi strumenti di AI generativa saranno autorizzati a generare contenuti per adulti non sicuri per il lavoro.
“Crediamo che gli sviluppatori e gli utenti debbano avere la flessibilità di utilizzare i nostri servizi come meglio credono, purché rispettino le nostre politiche di utilizzo”, ha scritto OpenAI. “Stiamo valutando se sia possibile fornire in modo responsabile la possibilità di generare contenuti NSFW in contesti adatti all’età attraverso le API e ChatGPT”.
Nel suo annuncio, OpenAI ha anche ribadito che la sua politica attuale impedisce a ChatGPT di fornire contenuti NSFW, descritti come contenuti che non sarebbero appropriati in “una conversazione in un ambiente professionale, come erotismo, gore estremo, insulti e bestemmie non richieste”.
Ciononostante, l’idea che OpenAI stesse pensando di eliminare le restrizioni sulla creazione di materiale pornografico ha fatto sollevare delle sopracciglia. A posteriori, un responsabile di prodotto di Open AI ha dichiarato a TCN che l’azienda avrebbe potuto spiegare meglio ciò che stava “esplorando”.
Per approfondire la conversazione pubblica sul comportamento dei modelli di intelligenza artificiale, stiamo condividendo il nostro Model Spec, il nostro approccio per definire il comportamento desiderato dei modelli. https://t.co/RJBRwrcTtQ
– OpenAI (@OpenAI) 8 maggio 2024
“Credo che quello che mi piacerebbe fare, in base ai feedback e alle reazioni, nella prossima versione che condivideremo, è essere più precisi sulla definizione di contenuti NSFW e sulla tassonomia”, ha detto Joanna Jang, product lead di OpenAI per il comportamento dei modelli, sottolineando che NSFW può significare qualsiasi cosa, dalle bestemmie scritte alle immagini deepfake generate dall’intelligenza artificiale.
Per quanto riguarda il materiale specifico che sarebbe consentito in una posizione più permissiva, Jang ha detto a NPR che “dipende dalla vostra definizione di porno”.
Ha sottolineato che i deepfake sono assolutamente fuori discussione.
Jang ha dichiarato a TCN: “Seguendo le leggi in vigore e proteggendo la privacy delle persone, abbiamo pensato che questo avrebbe coperto il problema, ma dobbiamo essere chiari sul fatto che non siamo qui per creare deepfakes o porno AI”. “Non è una cosa a cui dovremmo dare la priorità in termini di tempo o di larghezza di banda, quando ci sono problemi più importanti da risolvere. “
Oltre a bloccare i contenuti NSFW e a garantire la conformità legale, le specifiche del modello OpenAI includono diverse altre regole che ChatGPT è progettato per seguire, tra cui non fornire informazioni pericolose, rispettare i creatori e i loro diritti e proteggere la privacy delle persone.
Attualmente, ChatGPT Plus di OpenAI – che include Dall-E 3 per le immagini e GPT-4 per il testo – non consente agli utenti di generare immagini o testi apertamente sessuali o cruenti. Quando gli viene chiesto di farlo, ChatGPT risponde che la richiesta viola i suoi termini di servizio. Di conseguenza, Jang fa notare che il web è pieno di lamentele da parte degli utenti di OpenAI, secondo i quali l’azienda li sta censurando.
“Ci sono molte critiche di censura e quant’altro, e molte di queste discussioni confondono, senza che nessuno ne abbia colpa, ciò che è la politica di OpenAI con ciò che in realtà non è la nostra politica”, ha detto Jang. “Questi modelli si comportano in questo modo, anche se vanno contro le linee guida?”.
Come ha spiegato Jang, OpenAI ha pubblicato le specifiche per definire i comportamenti ideali dei modelli, concentrandosi sulla conformità legale e sull’evitare contenuti NSFW, abbracciando al contempo la trasparenza.
Vogliamo dare più sfumature a questa discussione, perché prima delle specifiche del modello si parlava di “l’IA deve o non deve cestinare il porno?””. Ha detto Jang. E spero che attraverso il modello di speculazione potremo effettivamente avere queste conversazioni”.
“Anche in questo caso, vorrei aver presentato [un quadro di riferimento] in modo da poter avviare questa conversazione anche un giorno prima”, ha aggiunto.
Per gli esperti di salute mentale, la prospettiva che le piattaforme di IA più popolari si spostino nel regno della pornografia e dei contenuti per adulti è preoccupante.
“Nel campo della dipendenza da sesso e porno, con la pornografia generata dall’IA, stiamo iniziando a vedere un aumento dei comportamenti di dipendenza”, ha dichiarato a TCN Brandon Simpson, specialista di salute comportamentale presso la Men’s Health Foundation. “Poiché la pornografia generata dall’intelligenza artificiale crea l’intensità unica e crescente necessaria per soddisfare una risposta di dopamina, le persone si immergono e la sostituiscono alle interazioni umane, il che porta a livelli di ansia sociale, ansia da prestazione e una serie di altre disfunzioni legate alla sessualità”.
Anche se OpenAI e le altre principali piattaforme di IA generativa di Google e Meta hanno messo dei paletti, c’è una forte domanda di porno generato dall’IA e una miriade di modi per sfruttare la tecnologia per ritrarre una vittima ignara o per generare materiale pedopornografico (CSAM).
“La specifica è solo una parte della nostra storia su come costruire e utilizzare l’IA in modo responsabile”, ha dichiarato in seguito un rappresentante di OpenAI a TCN. “È integrata dalle nostre politiche d’uso, da come ci aspettiamo che le persone utilizzino le API e la ChatGPT”, con l’obiettivo ultimo di dimostrare trasparenza e “avviare una conversazione pubblica su come potrebbe essere cambiata e migliorata”.
OpenAI ha investito molto per migliorare la privacy e la sicurezza della sua suite di strumenti di intelligenza artificiale, assumendo anche team di cybersecurity per trovare le vulnerabilità sulle sue piattaforme. A febbraio, OpenAI e Microsoft hanno annunciato un’operazione congiunta per bloccare l’utilizzo di ChatGPT da parte di hacker cinesi e nordcoreani, e il mese scorso OpenAI si è unita a Google e Meta nell’impegno di dare priorità alla sicurezza dei bambini nello sviluppo dei suoi modelli di IA.
