De Verenigde Naties hebben alarm geslagen over door AI gegenereerde deepfakes die worden gebruikt om haat en verkeerde informatie te verspreiden op sociale media. In een rapport dat maandag is uitgebracht, “Information Integrity on Digital Platforms”, onderstreept de wereldwijde organisatie de noodzaak van verantwoord AI-gebruik.
“Hoewel het bijna onvoorstelbare mogelijkheden biedt om wereldwijde uitdagingen aan te pakken, zijn er ernstige en dringende zorgen over het even krachtige potentieel van recente ontwikkelingen op het gebied van kunstmatige intelligentie – waaronder beeldgeneratoren en deepfakes van video – om de integriteit van informatie te bedreigen”, aldus het VN-rapport.
Informatie-integriteit verwijst naar de nauwkeurigheid, consistentie en betrouwbaarheid van informatie, die volgens de Verenigde Naties wordt bedreigd door desinformatie, verkeerde informatie en haatzaaiende taal.
“Deze risico’s zijn nog groter geworden door de snelle vooruitgang in technologie, zoals generatieve kunstmatige intelligentie”, schreef secretaris-generaal Guterres van de Verenigde Naties in de inleiding van het rapport. “Het is duidelijk geworden dat business as usual geen optie is.”
Generatieve AI is een type programma, meestal in de vorm van een chatbot, dat tekst, afbeeldingen of andere media kan genereren als reactie op vragen.
In het rapport van de Verenigde Naties wordt bezorgdheid geuit over het effect van deepfakes en AI-gegenereerde desinformatie in conflictgebieden.
Het gebruik van haatzaaiende taal is vaak gezien als een voorloper van gruwelijke misdaden zoals genocide, merkt de VN op. Het rapport benadrukt ook dat het Verdrag inzake de voorkoming en de bestraffing van genocide van 1948 elke directe of openbare aansporing verbiedt die kan leiden tot genocide.
De proliferatie van haat & leugens in de digitale ruimte veroorzaakt ernstige wereldwijde schade.
Deze duidelijke & huidige wereldwijde dreiging vraagt om duidelijke & gecoördineerde wereldwijde actie.
– @antonioguterres lancering van zijn nieuwe rapport over informatie-integriteit op digitale platforms. https://t.co/atXRvwOwXv pic.twitter.com/i5MjAkWSNy
– Verenigde Naties (@UN) Juni 12, 2023
Alle belanghebbenden moeten dringend en onmiddellijk maatregelen nemen om te zorgen voor een veilig, beveiligd, verantwoordelijk, ethisch en mensenrechtenconform gebruik van kunstmatige intelligentie en om de implicaties van recente ontwikkelingen op dit gebied voor de verspreiding van mis- en desinformatie en haatzaaiende taal aan te pakken”, aldus de VN.
Het rapport riep de eigenaars van digitale platforms op om te investeren in content moderatie systemen die gebruik maken van zowel menselijke als kunstmatige intelligentie voor alle talen die gebruikt worden in de landen waar ze actief zijn – en om content rapportage transparant te maken.
Het internationale orgaan zei dat er een einde moet komen aan het tijdperk van Silicon Valley’s “move fast and break things” filosofie, en zei dat privacy, veiligheid en transparantie van gebruikers essentieel zijn en vanaf het begin moeten worden ingebouwd in nieuwe technologie.
Guterres wees op de komende Top van de Toekomst in 2024 als een kans om multilaterale oplossingen overeen te komen.
“De uitdagingen waar we voor staan kunnen alleen worden aangepakt door sterkere internationale samenwerking,” zei secretaris-generaal Guterres.
