Sociální mediální gigant Twitter tvrdí, že nový systém, který má zabránit šíření materiálů se sexuálním zneužíváním dětí (CSAM) na jeho platformě, byl „nasazen bez problémů“ a testuje technologii vyvinutou neziskovou skupinou Thorn.
Účet Twitter Safety v úterý oznámil, že se zúčastnil beta testu řešení Safer, které skupina poháněla umělou inteligencí a které proaktivně odhaluje, maže a hlásí textové materiály obsahující sexuální zneužívání dětí.
Díky pokračujícímu partnerství s @thorn děláme více pro vytvoření bezpečné platformy. X se podílela na testování řešení Thorn během jeho beta fáze, které má proaktivně odhalovat sexuální zneužívání dětí na základě textových zpráv. Tato práce navazuje na naše vytrvalé úsilí v boji proti sexuálnímu zneužívání dětí…
– Bezpečnost (@Safety) 7. května 2024
„Díky pokračující spolupráci se společností Thorn děláme více pro vytvoření bezpečné platformy,“ píše se na účtu Twitter Safety. „Tato práce navazuje na naše neúnavné úsilí v boji proti sexuálnímu zneužívání dětí na internetu, přičemž konkrétním cílem je rozšířit naše možnosti v boji proti obsahu s vysokou mírou poškození, kde je dítě bezprostředně ohroženo.“
„Toto samostatně hostované řešení bylo hladce nasazeno do našich detekčních mechanismů, což nám umožňuje zdokonalit se v odhalování vysoce rizikových účtů,“ pokračoval.
Společnost Thorn, kterou v roce 2012 založili herci Demi Moore a Ashton Kutcher, vyvíjí nástroje a zdroje zaměřené na ochranu dětí před sexuálním zneužíváním a vykořisťováním. V dubnu společnosti Google, Meta a OpenAI podepsaly závazek vydaný organizací Thorn a spřízněnou neziskovou organizací All Tech is Human, v němž se zavázaly, že budou prosazovat ochranná pravidla pro své modely umělé inteligence.
„Z našeho beta testování jsme se hodně naučili,“ řekla TCN Rebecca Portnoffová, viceprezidentka společnosti Thorn pro datovou vědu. „I když jsme věděli, že sexuální zneužívání dětí se projevuje ve všech typech obsahu, včetně textu, v tomto beta testování jsme konkrétně viděli, jak může mít strojové učení/I pro text reálný dopad ve velkém měřítku.“
Jak vysvětlil Portnoff, model Safer AI se skládá z jazykového modelu vycvičeného na textech týkajících se bezpečnosti dětí a klasifikačního systému, který generuje předpovědi textových sekvencí s více značkami. Skóre předpovědí se pohybuje v rozmezí od 0 do 1, což vyjadřuje důvěru modelu v relevanci textu k různým kategoriím bezpečnosti dětí.
Portnoffová sice nemohla prozradit, které další platformy sociálních médií se účastní beta testování sady produktů Safer, ale uvedla, že reakce ostatních společností jsou pozitivní.
„Někteří partneři se podělili o to, že model je obzvláště užitečný pro identifikaci škodlivých aktivit sexuálního zneužívání dětí, upřednostňování nahlášených zpráv a podporu vyšetřování známých špatných aktérů,“ uvedla Portnoffová.
Vzhledem k rozšíření generativních nástrojů umělé inteligence od spuštění ChatGPT v roce 2022 skupiny pro sledování internetu, jako je britská nadace Internet Watch Foundation, bijí na poplach před záplavou dětské pornografie generované umělou inteligencí, která koluje na fórech temného webu, a tvrdí, že tento nezákonný materiál by mohl zahltit internet.
Oznámení bezpečnostního týmu Twitteru přišlo několik hodin předtím, než Evropská unie požadovala, aby společnost vysvětlila zprávy o „snižování zdrojů pro moderování obsahu“.
V nejnovější zprávě o transparentnosti, kterou Twitter předložil regulačním orgánům EU, se uvádí, že opatření Elona Muska na snížení nákladů snížila od října 2023 velikost týmu pro moderování obsahu platformy o téměř 20 % a snížila počet monitorovaných jazyků z 11 na 7.
„Komise rovněž požaduje další podrobnosti o posouzení rizik a opatřeních k jejich zmírnění spojených s dopadem generativních nástrojů umělé inteligence na volební procesy, šíření nelegálního obsahu a ochranu základních práv,“ dodává se v požadavku.
EU zahájila formální řízení proti Twitteru v prosinci 2023 kvůli obavám, že společnost porušila zákon o digitálních službách v několika oblastech, včetně řízení rizik, moderování obsahu, „temných vzorů“ a přístupu výzkumných pracovníků k datům.
Komise uvedla, že společnost Twitter musí požadované informace poskytnout do 17. května a do 27. května zodpovědět další otázky.
