Le développeur d’IA OpenAI a mis en émoi le monde de la technologie et la presse grand public jeudi lorsqu’il a présenté un nouveau modèle de spécification que beaucoup ont interprété comme signifiant que ses outils d’IA générative très populaires seraient autorisés à générer du contenu pour adultes qui n’est pas sûr pour le travail.
« Nous pensons que les développeurs et les utilisateurs devraient avoir la possibilité d’utiliser nos services comme ils l’entendent, tant qu’ils respectent nos politiques d’utilisation », a écrit OpenAI. « Nous étudions la possibilité de fournir de manière responsable la capacité de générer du contenu NSFW dans des contextes adaptés à l’âge par le biais de l’API et de ChatGPT.
Dans son annonce, OpenAI a également réitéré que sa politique actuelle empêche ChatGPT de servir des contenus NSFW, décrits comme des contenus qui ne seraient pas appropriés dans « une conversation dans un cadre professionnel, comme l’érotisme, le gore extrême, les insultes et les blasphèmes non sollicités ».
Néanmoins, l’idée qu’OpenAI envisage de lever les restrictions sur la création de pornographie a fait froncer les sourcils. Rétrospectivement, un responsable produit d’Open AI explique à TCN que l’entreprise aurait pu mieux expliquer ce qu’elle « explorait ».
Pour approfondir la conversation publique sur la façon dont les modèles d’IA devraient se comporter, nous partageons notre Model Spec – notre approche pour façonner le comportement désiré du modèle. https://t.co/RJBRwrcTtQ
– OpenAI (@OpenAI) May 8, 2024
« Je pense que ce que j’aimerais faire, sur la base des commentaires et des réactions, dans la prochaine version que nous partagerons, c’est être plus précis sur la définition du contenu NSFW et la taxonomie ici », a déclaré Joanna Jang, chef de produit d’OpenAI pour le comportement du modèle, notant que NSFW peut signifier n’importe quoi, du blasphème écrit aux fausses images générées par l’intelligence artificielle.
En ce qui concerne le matériel spécifique qui serait autorisé dans le cadre d’une position plus permissive, Joanna Jang a déclaré à NPR que cela « dépendait de votre définition du porno ».
Elle a insisté sur le fait que les deepfakes n’étaient absolument pas concernés.
« Nous avons pensé que le respect des lois en vigueur et la protection de la vie privée des gens suffiraient, mais nous devons être clairs : nous ne cherchons pas à créer des deepfakes ou du porno par IA », a déclaré Jang à TCN. « Ce n’est tout simplement pas quelque chose que nous devrions avoir le temps ou la bande passante de prioriser alors qu’il y a des problèmes plus importants à résoudre. «
En plus de bloquer les contenus NSFW et de garantir la conformité légale, la spécification du modèle OpenAI comprend plusieurs autres règles que ChatGPT est conçu pour suivre, notamment ne pas fournir d’informations dangereuses, respecter les créateurs et leurs droits, et protéger la vie privée des personnes.
Actuellement, ChatGPT Plus d’OpenAI – qui inclut Dall-E 3 pour les images et GPT-4 pour le texte – ne permet pas aux utilisateurs de générer des images ou des textes ouvertement sexuels ou sanglants. Lorsqu’on lui demande de le faire, ChatGPT répond que la demande viole ses conditions d’utilisation. En conséquence, M. Jang souligne que le web est truffé de plaintes d’utilisateurs d’OpenAI qui estiment que l’entreprise les censure.
« Il y a beaucoup de critiques sur la censure et tout ce qui s’ensuit, et une grande partie de cette discussion confond – sans que ce soit la faute de personne – ce qui est la politique d’OpenAI et ce qui n’est pas notre politique », a déclaré M. Jang. « Ces modèles se comportent-ils de cette manière, même si cela va à l’encontre des lignes directrices ?
Comme l’a expliqué Jang, OpenAI a publié la spécification pour définir les comportements idéaux des modèles, en se concentrant sur la conformité légale et en évitant le contenu NSFW tout en adoptant la transparence.
« Nous voulons apporter plus de nuances à cette discussion parce que pour l’instant, avant la spécification du modèle, il s’agissait de savoir si l’IA devait créer des contenus pornographiques ou non. a déclaré M. Jang. « J’espère que les spécifications du modèle nous permettront d’avoir ces conversations.
« Encore une fois, c’est la raison pour laquelle j’aurais aimé mettre en place [un cadre] afin que nous puissions lancer cette conversation un jour plus tôt », a-t-elle ajouté.
Pour les experts en santé mentale, la perspective de voir des plateformes d’IA populaires entrer dans le domaine de la pornographie et des contenus pour adultes est troublante.
« Dans le domaine de la dépendance au sexe et au porno, avec la pornographie générée par l’IA, nous commençons à voir une augmentation des comportements addictifs », a déclaré à TCN Brandon Simpson, spécialiste de la santé comportementale à la Men’s Health Foundation. « Étant donné que la pornographie générée par l’IA crée l’intensité unique et croissante nécessaire pour satisfaire une réponse dopaminergique, les gens s’y plongent et la remplacent par des interactions humaines, ce qui entraîne des niveaux d’anxiété sociale, d’anxiété de performance et toute une série d’autres dysfonctionnements liés à la sexualité. »
Malgré les garde-fous mis en place par OpenAI et d’autres grandes plateformes d’IA générative de Google et Meta, il existe une forte demande pour le porno généré par l’IA et une myriade de façons d’exploiter la technologie pour représenter une victime sans méfiance – ou pour générer du matériel d’abus sexuel d’enfants (CSAM).
« La spécification n’est qu’une partie de notre histoire sur la façon de construire et de déployer l’IA de manière responsable », a déclaré plus tard un représentant d’OpenAI à TCN. « Elle est complétée par nos politiques d’utilisation, la manière dont nous attendons des gens qu’ils utilisent l’API et le ChatGPT, dans le but ultime de faire preuve de transparence et « d’entamer une conversation publique sur la manière dont elle pourrait être modifiée et améliorée ».
OpenAI a beaucoup investi dans l’amélioration de la confidentialité et de la sécurité de sa suite d’outils d’IA, notamment en engageant des équipes rouges de cybersécurité pour trouver les vulnérabilités de ses plateformes. En février, OpenAI et Microsoft ont annoncé une opération conjointe visant à empêcher les pirates chinois et nord-coréens d’utiliser ChatGPT, et OpenAI s’est jointe à Google et Meta le mois dernier pour s’engager à donner la priorité à la sécurité des enfants dans le développement de ses modèles d’IA.
