Po protestech hráčů společnost Epic Games podle zprávy serveru Kotaku odstraňuje rasistické obrázky generované umělou inteligencí, které uživatelé nahráli do populární battle royale hry Fortnite.
Jednou z funkcí, které z Fortnite udělaly takový hit, jakým dnes online hra je, je možnost uživatelů vytvářet vlastní mapy a sdílet s celým světem hratelné zážitky. Tento prostor pro kreativitu však znamená, že uživatelé mohou potenciálně nahrát problematický obsah, což se stalo i v tomto případě.
Nedávno si uživatelé začali všímat map ostrovů s hrubými obrázky generovanými umělou inteligencí, které se dopouštějí rasistických stereotypů. Jak uvedlo Kotaku, mezi příklady map patří ty s názvy jako „Arab Zonewars“, „Nigerian Zonewars“ a „China Zonewars“.
Mapy obsahovaly rasistické a zřejmě umělou inteligencí generované obrázky, které utvrzují stereotypy, včetně mužů z Blízkého východu držících bomby a černochů pojídajících smažené kuře. Zatímco většina těchto map měla malou populaci serverů, jedna mapa, „Jamaica Zonewars“, měla na začátku tohoto měsíce více než 35 000 aktivních hráčů.
Obrázek: Artwork from a banned island from the user
„Mnoho z odkazovaných ostrovů již bylo odstraněno a tvůrci přijali opatření,“ uvedla společnost Epic Games v prohlášení pro Kotaku. „Řešili jsme již více než 100 ostrovů s porušeným obsahem, které používají podobný formát miniatur, a budeme v tom pokračovat.“
Společnost Epic Games dodala, že diskriminační obsah nemá ve Fortnite místo a porušuje pravidla společnosti pro tvůrce ostrovů, a dodala, že uživatelům, kteří tato pravidla poruší, může být jejich účet trvale zablokován.
„Náš lidský moderátorský tým prověřuje veškerý obsah před jeho zveřejněním a aktivně aktualizujeme naše pravidla pro tvůrce ostrovů a programy školení moderátorů, abychom minimalizovali počet porušujících map, které se dostanou k hráčům,“ uvedla společnost Epic Games. „Vyzýváme hráče, aby nahlásili všechny ostrovy, které vidí a které mohou porušovat naše pravidla.“
V prohlášení poskytnutém TCN GG společnost Epic Games uvedla, že všechny ostrovy vytvořené uživateli jsou před zveřejněním zkontrolovány moderátory, ale uvedla, že tým postupuje lehce.
Obrázek: Artwork from a banned island from the user
„Žádáme náš moderátorský tým, aby v případě nejistoty ohledně porušení obsahu předpokládal dobrý úmysl tvůrce, abychom nepřeháněli s cenzurou,“ uvedla společnost Epic Games. „Někdy to znamená, že se zveřejní věci, které by se zveřejnit neměly, a my rychle pracujeme na tom, abychom veškerý porušující obsah stáhli a sepsali nové školicí materiály pro naše moderátory. Tvůrci, u kterých je zjištěno porušení našich pravidel pro tvůrce, čelí různým donucovacím opatřením, včetně trvalých zákazů publikování a zpeněžení.“
Vydavatel dodal, že pracuje na aktualizaci svých „pravidel pro tvůrce na ostrově a programů pro školení moderátorů“.
Obchod Epic Games Store se připojil k šílenství generativní umělé inteligence a v září začal povolovat hry a příspěvky, které obsahovaly umělou inteligenci a další prvky. Stalo se tak poté, co konkurenční herní trh pro PC Steam zpočátku zaujal postoj proti obsahu s umělou inteligencí, ale od té doby svá pravidla v souvislosti s nárůstem počtu takových příspěvků zmírnil.
„Nezakazujeme hry za používání nových technologií,“ napsal tehdy na Twitteru zakladatel a generální ředitel Epic Games Tim Sweeney s tím, že Epic Games začátkem roku otevřelo plné samovydávání.
Zatímco vývojáři umělé inteligence investovali velké prostředky do vyčištění svých modelů od urážlivých obrázků, uživatelé našli způsoby, jak modely „osvobodit“ pomocí specializovaných výzev. V říjnu se virálně rozšířily obrázky generované umělou inteligencí, na kterých SpongeBob SquarePants nebo Kirby od společnosti Nintendo letí s tryskáči do Světového obchodního centra.
