Elon Musk, Steve Wozniak y más de 1.000 empresarios, científicos y profesores han firmado una petición del Future of Life Institute para suspender temporalmente el desarrollo de IAs como el chatbot GPT-4. ¿Qué hay detrás de tanta preocupación?
¿Quiere Elon Musk detener el desarrollo de la inteligencia artificial (IA)?
Elon Musk, Steve Wozniak y otros empresarios, científicos y profesores han firmado una petición propuesta por el Future of Life Institute, que aboga por detener temporalmente el desarrollo de la IA:
¡Hacemos un llamamiento a los laboratorios de IA para que pausen temporalmente el entrenamiento de modelos potentes!
Únete al llamamiento de FLI junto a Yoshua Bengio, @stevewoz, @harari_yuval, @elonmusk, @GaryMarcus & más de 1000 otros que han firmado: https://t.co/3rJBjDXapc
Un breve sobre por qué pedimos esto – (1/8)
– Future of Life Institute (@FLIxrisk) 29 de marzo de 2023
En el momento de redactar esta carta se han recogido un total de 1.377 firmas. El objetivo de esta carta es dejar en suspenso durante al menos seis meses la formación de sistemas como GPT-4, la nueva versión del famoso chatbot de OpenAI, empresa cofundada por Elon Musk.
La principal preocupación es el lugar que ocupa el ser humano en relación con estos avances. En este sentido, se plantean varias cuestiones, como los algoritmos que pueden decidir lo que vemos en las distintas redes sociales, la automatización de diversas operaciones y el desarrollo de mentes más inteligentes que el ser humano:
Estas decisiones no deberían delegarse en líderes tecnológicos no elegidos. Los potentes sistemas de IA sólo deben desarrollarse cuando tengamos la certeza de que sus efectos serán positivos y sus riesgos controlables. Esta confianza debe estar bien justificada y aumentar con la escala de los efectos potenciales de un sistema. «
Por otro lado, la petición pide que el desarrollo de la IA se vuelva a centrar en áreas tecnológicas que sean «seguras, interpretables, transparentes, robustas, alineadas, dignas de confianza y justas».
¿Es la IA un peligro real?
Como cualquier innovación tecnológica, la IA plantea interrogantes. Ya en la era de la Revolución Industrial, los humanos se cuestionaban su posible sustitución por máquinas, y obras de ficción como Terminator han desatado pasiones sobre un posible escenario catastrófico, pero ¿estamos realmente al borde de la Singularidad? La cuestión es divisiva.
Estas preguntas no han esperado al reciente aumento de popularidad de la IA en las redes sociales para plantearse.
Sin embargo, sí que hay cuestiones éticas que destacar, sobre todo en lo que respecta a la forma en que se enseñan estos sistemas. Como todas nuestras actividades en la red, cada interacción con una inteligencia artificial le proporciona información sobre nosotros, y alimentamos gratuitamente los algoritmos de empresas privadas.
Así, es interesante preguntarse cómo estos datos son y serán utilizados por estas empresas, lo que puede representar un peligro más racional que la fantasía de una super IA totalmente autónoma por el momento.
En cuanto a la sustitución de los humanos, como en otras áreas de la tecnología, si bien es cierto que la IA puede eliminar algunos puestos de trabajo, creará otros en paralelo. En resumen, se trata de una herramienta moralmente neutra, cuyos peligros o beneficios dependen de cómo se utilice.
