A OpenAI, empresa líder no desenvolvimento de IA, agitou o mundo tecnológico e a imprensa na quinta-feira, quando introduziu uma nova especificação de modelo que muitos interpretaram como significando que as suas ferramentas de IA generativas, muito populares, poderiam gerar conteúdo adulto não seguro para o trabalho.
“Acreditamos que os programadores e os utilizadores devem ter a flexibilidade de utilizar os nossos serviços como entenderem, desde que cumpram as nossas políticas de utilização”, escreveu a OpenAI. “Estamos a explorar se podemos fornecer de forma responsável a capacidade de gerar conteúdo NSFW em contextos adequados à idade através da API e do ChatGPT.”
Em seu anúncio, a OpenAI também reiterou que sua política atual impede que o ChatGPT forneça conteúdo NSFW, descrito como conteúdo que não seria apropriado em “uma conversa em um ambiente profissional, como erotismo, sangue extremo, calúnias e palavrões não solicitados”.
No entanto, a ideia de que a OpenAI estava a contemplar a possibilidade de levantar as restrições à criação de pornografia levantou suspeitas. Em retrospetiva, diz um líder de produto da Open AI ao TCN, a empresa poderia ter explicado melhor o que estava a “explorar”.
Para aprofundar a conversa pública sobre como os modelos de IA se devem comportar, estamos a partilhar o nosso Model Spec – a nossa abordagem para moldar o comportamento desejado do modelo. https://t.co/RJBRwrcTtQ
– OpenAI (@OpenAI) 8 de maio de 2024
“Acho que o que eu adoraria fazer – com base no feedback e na reação, na próxima versão que compartilharmos – é ser mais preciso sobre a definição de conteúdo NSFW de algumas pessoas e a taxonomia aqui”, disse Joanna Jang, líder de produto da OpenAI para comportamento de modelo, observando que NSFW pode significar qualquer coisa, desde palavrões escritos até imagens deepfake geradas por IA.
Quanto ao material específico que seria permitido sob uma postura mais permissiva, Jang disse à NPR que “depende da sua definição de pornografia”.
Ela sublinhou que os deepfakes estão absolutamente fora de questão.
“Seguindo as leis aplicáveis e protegendo a privacidade das pessoas, pensamos que isso cobriria isso – mas devemos deixar claro que não estamos nisso para criar deepfakes de IA ou pornografia de IA”, disse Jang ao TCN. “Isso simplesmente não é algo que deveríamos ter tempo ou largura de banda para priorizar quando há problemas mais importantes a serem resolvidos. “
Para além de bloquear conteúdos NSFW e garantir a conformidade legal, a especificação do modelo da OpenAI inclui várias outras regras que o ChatGPT foi concebido para seguir, incluindo não fornecer informações perigosas, respeitar os criadores e os seus direitos e proteger a privacidade das pessoas.
Atualmente, o ChatGPT Plus da OpenAI – que inclui o Dall-E 3 para imagens e o GPT-4 para texto – não permite que os utilizadores gerem imagens ou textos abertamente sexuais ou sangrentos. Quando solicitado a fazê-lo, o ChatGPT responderá que o pedido viola os seus termos de serviço. Como resultado, Jang salienta que a Web está repleta de queixas dos utilizadores da OpenAI de que a empresa os está a censurar.
“Há muitas críticas à censura e outras coisas do género, e grande parte dessa discussão está a confundir – sem culpa de ninguém – o que é a política da OpenAI com o que não é a nossa política”, disse Jang. “Esses modelos estão se comportando dessa maneira, mesmo que isso vá contra as diretrizes?”
Como Jang explicou, a OpenAI publicou a especificação para definir os comportamentos ideais do modelo, com foco na conformidade legal e evitando conteúdo NSFW enquanto abraça a transparência.
“Queremos trazer mais nuances para essa discussão porque agora – antes da especificação do modelo – era: ‘A IA deve criar pornografia ou não?'” disse Jang. “E espero que, por meio da especificação do modelo, possamos realmente ter essas conversas.
“Mais uma vez, é por isso que eu gostaria de ter apresentado [uma estrutura] para que pudéssemos ter iniciado esta conversa um dia antes”, acrescentou.
Para os especialistas em saúde mental, a perspetiva de as populares plataformas de IA entrarem no domínio da pornografia e dos conteúdos para adultos é preocupante.
“No campo do vício em sexo e pornografia, com a pornografia gerada por IA, estamos começando a ver um aumento nos comportamentos viciantes”, disse Brandon Simpson, especialista em saúde comportamental da Men’s Health Foundation, ao TCN. “Uma vez que a pornografia gerada por IA cria a intensidade única e crescente necessária para cumprir uma resposta de dopamina, as pessoas estão mergulhando e substituindo-a por interações humanas, o que leva a níveis de ansiedade social, ansiedade de desempenho e uma variedade de outras disfunções relacionadas ao sexo.”
Mesmo com as proteções postas em prática pela OpenAI e outras grandes plataformas de IA generativa do Google e Meta, há uma forte demanda por pornografia gerada por IA e inúmeras maneiras de aproveitar a tecnologia para retratar uma vítima inocente – ou gerar material de abuso sexual infantil (CSAM).
“A especificação é apenas parte da nossa história sobre como construir e implantar IA de forma responsável”, disse um representante da OpenAI mais tarde ao TCN. “É complementado por nossas políticas de uso, como esperamos que as pessoas usem a API e o ChatGPT” – com o objetivo final de demonstrar transparência e “iniciar uma conversa pública sobre como isso poderia ser alterado e melhorado”.
A OpenAI investiu fortemente na melhoria da privacidade e segurança de seu conjunto de ferramentas de IA, incluindo a contratação de equipes vermelhas de segurança cibernética para encontrar vulnerabilidades em suas plataformas. Em fevereiro, a OpenAI e a Microsoft anunciaram uma operação conjunta que impediu os hackers chineses e norte-coreanos de utilizarem o ChatGPT, e a OpenAI juntou-se à Google e à Meta no mês passado num compromisso de dar prioridade à segurança infantil no desenvolvimento dos seus modelos de IA.
