Elon Musk, Steve Wozniak e mais de 1.000 outros empresários, cientistas e professores assinaram uma petição do Future of Life Institute para suspender temporariamente o desenvolvimento de IAs como o chatbot GPT-4. O que é que está por detrás destas preocupações?
Elon Musk quer travar o desenvolvimento da inteligência artificial (IA)?
Elon Musk, Steve Wozniak e outros empresários, cientistas e professores assinaram uma petição proposta pelo Future of Life Institute, que apela a uma paragem temporária do desenvolvimento da IA:
Estamos a apelar aos laboratórios de IA para que façam uma pausa temporária no treino de modelos poderosos!
Junte-se à chamada do FLI ao lado de Yoshua Bengio, @stevewoz, @harari_yuval, @elonmusk, @GaryMarcus & mais de 1000 outros que assinaram: https://t.co/3rJBjDXapc
Uma breve explicação sobre o porquê de estarmos a pedir isto – (1/8)
– Instituto Futuro da Vida (@FLIxrisk) 29 de Março de 2023
Até ao momento da redacção desta carta, foram recolhidas 1.377 assinaturas. O objectivo desta carta é suspender, durante pelo menos seis meses, a formação de sistemas como o GPT-4, a nova versão do famoso chatbot da OpenAI, uma empresa co-fundada por Elon Musk.
A principal preocupação é o lugar do ser humano em relação a estes desenvolvimentos. Neste sentido, são levantadas várias questões, como os algoritmos que podem decidir o que vemos nas várias redes sociais, a automatização de várias operações e o desenvolvimento de mentes mais inteligentes do que os seres humanos:
Estas decisões não devem ser delegadas a líderes tecnológicos não eleitos. Os sistemas de IA poderosos só devem ser desenvolvidos quando estivermos confiantes de que os seus efeitos serão positivos e os seus riscos controláveis. Esta confiança deve ser bem justificada e aumentar com a escala dos potenciais efeitos de um sistema. “
Por outro lado, a petição apela a que o desenvolvimento da IA seja reorientado para áreas tecnológicas que sejam “seguras, interpretáveis, transparentes, robustas, alinhadas, fiáveis e justas”.
A IA é um perigo real?
Como qualquer inovação tecnológica, a IA levanta questões. Já na era da Revolução Industrial, os seres humanos se questionavam sobre a sua potencial substituição por máquinas, e obras de ficção como o Exterminador do Futuro desencadearam paixões sobre um possível cenário de fim do mundo, mas será que estamos realmente à beira da Singularidade? A questão é polémica.
Estas questões não esperaram pelo recente aumento da popularidade da IA nas redes sociais para surgirem.
No entanto, há de facto questões éticas a salientar, nomeadamente no que diz respeito à forma como estes sistemas são ensinados. Tal como todas as nossas actividades na Internet, cada interacção com uma inteligência artificial fornece-lhe informações sobre nós e alimentamos gratuitamente os algoritmos de empresas privadas.
Assim, é interessante questionar a forma como estes dados são e serão utilizados por estas empresas, o que pode representar um perigo mais racional do que a fantasia de uma super IA totalmente autónoma neste momento.
Quanto à substituição de humanos, tal como noutras áreas da tecnologia, embora a IA possa efectivamente eliminar alguns empregos, criará outros em paralelo. Em suma, trata-se de uma ferramenta moralmente neutra, cujos perigos ou benefícios dependem da forma como é utilizada.
