La IA generativa ha facilitado a cualquier persona la creación de obras de arte y otros contenidos. También ha facilitado mucho la creación de cosas realmente salvajes y controvertidas, como imágenes generadas por IA de Bob Esponja o Kirby, de Nintendo, estrellándose contra el World Trade Center.
Aunque los generadores de imágenes de IA se han utilizado para crear material sexual deepfake, estas herramientas también se emplean para crear escenas violentas o subidas de tono, incluso con políticos, figuras históricas y queridos personajes de ficción.
Las redes sociales se están llenando de imágenes de pegatinas supuestamente creadas con el generador de pegatinas de inteligencia artificial de Facebook. Entre ellas hay imágenes de Elmo blandiendo un cuchillo, Mickey Mouse en un retrete, Wario y Luigi de la franquicia Super Mario sosteniendo rifles, e incluso una representación del Primer Ministro canadiense Justin Trudeau con poca ropa.
«Vivimos en el futuro más estúpido que se pueda imaginar», escribió el artista de videojuegos Pier-Olivier Desbiens en un tuit viral que contenía algunas de las supuestas pegatinas de IA.
Yo no esperaría a una señal clara de que el mercado alcista ha vuelto para tomar posiciones en Bitcoin o Ethereum.
Cuando se compara la distribución de los rendimientos mensuales en los mercados alcistas y bajistas, la diferencia no es sorprendente.
Puedes tener grandes meses durante los mercados bajistas.
Puedes tener… pic.twitter.com/7qCCPM3PYa
– ecoinometrics (@ecoinometrics) 5 de octubre de 2023
Cuando TCN se puso en contacto con Meta y preguntó por las pegatinas de IA, un portavoz señaló una entrada del blog de la empresa que decía en parte: «Al igual que con todos los sistemas de IA generativa, los modelos podrían devolver resultados inexactos o inapropiados. Seguiremos mejorando estas funciones a medida que evolucionen y más personas compartan sus comentarios».
Meta, la empresa matriz de Facebook, se ha lanzado de cabeza a las herramientas de IA generativa en 2023, invirtiendo hasta 39.000 millones de dólares solo este año. En julio, Meta se unió a OpenAI, Google, Microsoft y otras empresas para comprometerse a desarrollar la IA de forma responsable. Este compromiso se produjo tras las reuniones mantenidas con la Administración Biden en relación con la IA generativa.
Además de las pegatinas de IA que utilizan Llama 2 y Emu de Meta, Meta anunció durante su evento Meta Connect el mes pasado el lanzamiento de una serie de herramientas generadas por IA, incluidos asistentes conversacionales de IA para WhatsApp, Messenger e Instagram, y reclutó a varias celebridades de alto perfil, como Snoop Dogg, Tom Brady, Kendall Jenner y Naomi Osaka, para que prestaran sus voces y semejanzas a la línea de IA de Meta.
Meta afirma que está utilizando la inteligencia artificial para identificar contenidos nocivos de forma más rápida y precisa, entrenando sus grandes modelos lingüísticos en las «Normas comunitarias» de la empresa, y añade que la empresa es optimista de que la IA generativa pueda ayudarla a hacer cumplir sus políticas en el futuro.
Las pegatinas de Facebook no son el único arte surrealista generado por IA que ha causado sensación esta semana. Además de Bob Esponja y Kirby «haciendo el 11-S», como se señala en un informe de 404 Media, otros usuarios de Twitter han utilizado supuestamente el generador de imágenes Bing AI de Microsoft para crear sus propios riffs polémicos de la cultura pop, como una imagen de personajes de anime de «Neon Genesis Evangelion» pilotando un avión de pasajeros hacia el World Trade Center.
Gracias, Microsoft Bing pic.twitter.com/6XWxpum655
– Rachel (@tolstoybb) 3 de octubre de 2023
Aunque podría decirse que el genio de la IA ya está fuera de la botella, las empresas están intentando frenar el uso indebido de sus plataformas, incluso instituyendo políticas de KYC para los usuarios, como sugirió en septiembre el presidente de Microsoft, Brad Smith.
A principios de este año, Midjourney puso fin a su versión de prueba gratuita después de que se utilizara para crear deepfakes generados por IA. El mes pasado, OpenAI, creador de ChatGPT, lanzó la última versión de su generador de imágenes por IA Dall-E 3, que incluía nuevos controles y funciones en un intento de reprimir los contenidos violentos, para adultos o que inciten al odio. Ese mismo mes, Getty Images lanzó una herramienta generativa de imágenes de IA entrenada en su vasta biblioteca de imágenes.
El miércoles, la empresa de creación de contenidos Canva presentó su paquete Magic Studio de herramientas de IA generativa que incluye barreras de seguridad que permitirían a la herramienta generar imágenes de famosos o cualquier cosa relacionada con la medicina o la política.
«Como parte de nuestras políticas de confianza y seguridad, no permitimos que nuestra IA genere imágenes de personajes públicos o populares o de personas conocidas, así como de propiedad intelectual de terceros», dijo a TCN Danny Wu, jefe de productos de IA de Canva.
