Sociale mediagigant Twitter zegt dat een nieuw systeem om de verspreiding van materiaal over seksueel misbruik van kinderen (CSAM) op zijn platform te voorkomen “naadloos is geïmplementeerd”, waarbij technologie is getest die is ontwikkeld door de non-profit groep Thorn.
Het Twitter-veiligheidsaccount kondigde dinsdag aan dat het deelnam aan een bètatest van de AI-gebaseerde Safer-oplossing van de groep om proactief tekstgebaseerd materiaal dat seksueel kindermisbruik bevat te detecteren, verwijderen en rapporteren.
Door onze voortdurende samenwerking met @thorn doen we meer om een veilig platform te creëren. X was betrokken bij het testen van de oplossing van Thorn tijdens de bètafase om proactief op tekst gebaseerde seksuele uitbuiting van kinderen te detecteren. Dit werk bouwt voort op onze niet aflatende inspanningen om seksuele uitbuiting van kinderen te bestrijden…
– Veiligheid (@Safety) Mei 7, 2024
“Door onze voortdurende samenwerking met Thorn doen we meer om een veilig platform te creëren,” schreef het Twitter Safety-account. “Dit werk bouwt voort op onze niet aflatende inspanningen om seksuele uitbuiting van kinderen online te bestrijden, met het specifieke doel om onze mogelijkheden uit te breiden in het bestrijden van content met veel schade waarbij een kind een dreigend risico loopt.”
“Deze zelf gehoste oplossing werd naadloos in onze detectiemechanismen geïmplementeerd, waardoor we ons kunnen richten op accounts met een hoog risico,” ging het verder.
Hoewel Portnoff niet kon onthullen welke andere sociale mediaplatforms deelnamen aan de bètatest van de Safer-productsuite, zei ze dat de reacties van andere bedrijven positief waren.
“Sommige partners deelden dat het model vooral nuttig is voor het identificeren van schadelijke seksuele kindermisbruikactiviteiten, het prioriteren van gerapporteerde berichten en het ondersteunen van onderzoeken naar bekende slechte actoren,” zei Portnoff.
Door de proliferatie van generatieve AI-tools sinds de lancering van ChatGPT in 2022, hebben internetwaakhondgroepen zoals de Britse Internet Watch Foundation alarm geslagen over een vloedgolf van AI-gegenereerde kinderporno die circuleert op dark web fora, en gezegd dat het illegale materiaal het internet zou kunnen overweldigen.
De aankondiging van het Twitter Safety-team kwam enkele uren voordat de Europese Unie van het bedrijf uitleg eiste over rapporten over “afnemende middelen voor inhoudsmoderatie”.
In het laatste transparantierapport dat Twitter heeft ingediend bij de regelgevende instanties van de EU staat dat Elon Musk’s kostenbesparende maatregelen de omvang van het content moderatieteam van het platform sinds oktober 2023 met bijna 20% hebben teruggebracht en het aantal talen dat wordt gecontroleerd van 11 naar 7 hebben teruggebracht.
“De commissie wil ook meer details over de risicobeoordelingen en risicobeperkende maatregelen in verband met de impact van generatieve AI-tools op verkiezingsprocessen, de verspreiding van illegale inhoud en de bescherming van grondrechten”, voegt de eis toe.
De EU startte in december 2023 een formele procedure tegen Twitter omdat het bedrijf de Digital Services Act op verschillende gebieden zou hebben overtreden, waaronder risicobeheer, content moderatie, “dark patterns” en toegang tot gegevens voor onderzoekers.
De commissie zei dat Twitter de gevraagde informatie voor 17 mei moet verstrekken, en aanvullende vragen voor 27 mei moet beantwoorden.
