Met het Amerikaanse verkiezingsseizoen in volle gang maakt China volgens Microsoft steeds meer gebruik van kunstmatige intelligentie als onderdeel van bredere pogingen om zich te mengen in de Amerikaanse politiek – en ondertussen te leren wat burgers verdeelt om zo tweedracht te zaaien.
“Aan de CCP gelieerde actoren zijn begonnen met het stellen van controversiële vragen over controversiële binnenlandse kwesties in de VS om beter te begrijpen wat de belangrijkste kwesties zijn die de Amerikaanse kiezers verdelen”, waarschuwt Microsoft. Het rapport suggereert dat China sociale media ook gebruikt om de VS in een “ongunstig daglicht” te stellen.
Het rapport bevat verschillende screenshots van social media accounts die vragen om meningen over controversiële onderwerpen, inclusief door AI gegenereerde of gemanipuleerde afbeeldingen en tactieken om bereik en betrokkenheid te genereren op verschillende platforms.
Bron: Microsoft
“In de afgelopen maanden is er steeds meer gebruik gemaakt van Chinese AI-gegenereerde inhoud, in een poging om invloed uit te oefenen en verdeeldheid te zaaien in de VS en elders over een reeks onderwerpen”, aldus het rapport. Deze tactieken omvatten zowel geschreven inhoud als deepfakes van afbeeldingen en video.
China mengt zich ook in de lokale politiek. Microsoft noemt berichten over een treinontsporing in Kentucky, de bosbranden in Maui en immigratiekwesties langs de zuidelijke grens van de VS. De accounts, die mensen aanmoedigen om te reageren met hun mening over belangrijke nieuwsgebeurtenissen, zijn “Chinese sockpuppets”, legt het rapport uit.
Hoewel Microsoft erkent dat “er weinig bewijs is dat deze pogingen succesvol zijn geweest in het beïnvloeden van de opinie”, waarschuwt Microsoft dat China zijn AI-gestuurde propaganda-operaties in de loop der tijd waarschijnlijk aan het verbeteren is.
“China’s toenemende experimenten met het augmenteren van memes, video’s en audio zullen waarschijnlijk doorgaan en kunnen later effectiever blijken”, concludeert het rapport.
Naast China vroeg Microsoft ook aandacht voor online acties van Noord-Korea.
“Noord-Korea bleef prioriteit geven aan de diefstal van cryptocurrency-fondsen, het uitvoeren van aanvallen op de toeleveringsketen van software en het richten op hun vermeende tegenstanders op het gebied van nationale veiligheid”, aldus het rapport.
AI als geopolitiek wapen
De groeiende rol van big data en AI bij verkiezingen heeft geleid tot bezorgdheid over de privacy van kiezers, verkiezingsintegriteit en de mogelijkheid van ongepaste beïnvloeding door middel van gerichte en gepersonaliseerde berichtgeving, aangezien politieke campagnes zelf steeds meer gebruik maken van data-analyse om kiezers te microtargeten met op maat gemaakte reclame en outreach op basis van gedetailleerde kiezersprofielen.
De Obama-campagne van 2012 werd bijvoorbeeld geprezen om zijn geavanceerde gegevensoperaties voor het identificeren en mobiliseren van aanhangers. Ook de Trump-campagne van 2016 maakte gebruik van gegevens over 1,6 miljoen vrijwilligers om de achterban te mobiliseren.
Er zijn ook controverses geweest over het misbruik van kiezersgegevens voor AI-gestuurd politiek onderzoek, zoals de inbraak in 2015 waardoor de campagne van senator Bernie Sanders toegang kreeg tot campagnegegevens van Hillary Clinton en Cambridge Analytica’s ongeoorloofde verzameling van gebruikersgegevens van Facebook voor gerichte politieke advertenties.
Regelgevers haasten zich nu om regels en toezicht op te stellen voor het gebruik van AI bij verkiezingen. Verschillende Amerikaanse staten hebben wetsvoorstellen ingediend om deepfakes en misleidende AI-inhoud te reguleren, waaronder pogingen om openbaarmaking en etikettering verplicht te stellen, naast een aansporing van president Biden om dit probleem aan te pakken. De Europese Unie is ook bezig met de implementatie van haar Artificial Intelligence Act, die wordt omschreven als ’s werelds eerste alomvattende AI-wet die regels zal bevatten voor het gebruik van AI bij verkiezingen.
De meest opvallende en polariserende inspanning is waarschijnlijk echter de “Protecting Americans from Foreign Adversary Controlled Applications Act”, die TikTok in de VS wil verbieden.
“De reden waarom TikTok zo succesvol is, de reden waarom het zo aantrekkelijk is, is omdat het je beter kent dan je jezelf kent, en hoe meer je het gebruikt, hoe meer het leert,” zei senator Marco Rubio tijdens een jaarlijkse hoorzitting over de beoordeling van wereldwijde bedreigingen. “Ze hebben toevallig een bedrijf in handen dat een van ’s werelds beste algoritmen voor kunstmatige intelligentie bezit. Het is het algoritme dat in dit land wordt gebruikt door TikTok en het gebruikt de gegevens van Amerikanen om in feite je gedachten te lezen en te voorspellen welke video’s je wilt zien.”
Sommigen beweren echter dat de meest urgente bedreigingen komen van de verspreiding van valse en schadelijke inhoud op sociale mediaplatforms, in plaats van het puur creëren van AI-content. Technologiebedrijven hebben een akkoord ondertekend om maatregelen te nemen tegen AI-misbruik, maar als het aankomt op het indammen van verkeerde informatie en het bepalen wie verantwoordelijk is voor het plaatsen ervan, lijkt de regelgeving voor sociale media minder duidelijk – zelfs in vergelijking met de AI-ruimte.
