AI nástroj Grok, ktorý funguje na platforme X Elona Muska, výrazne obmedzil tvorbu obrázkov po vlne kritiky za zneužívanie na sexuálne a násilné vizuály. Funkcia je po novom dostupná len pre platiacich používateľov.
Grok vypol generovanie a úpravu obrázkov pre väčšinu používateľov po tom, čo sa objavili tisíce prípadov zneužitia AI na tvorbu sexualizovaných a násilných snímok žien bez ich súhlasu, informuje The Guardian. Obrázky a videá sa masovo šírili na platforme X aj mimo nej, pričom vyvolali silnú verejnú reakciu a politický tlak.
Po novom má k tejto funkcii prístup len úzka skupina platiacich používateľov, ktorých identita a platobné údaje sú evidované. Podľa X má ísť o spôsob, ako zvýšiť zodpovednosť a obmedziť zneužívanie nástroja. Kritici však upozorňujú, že problém tým nezmizol, iba sa presunul za paywall.
Situácia pritiahla pozornosť najmä v Spojenom kráľovstve. Premiér Keir Starmer označil AI-generovaný sexuálny obsah za „nechutný“ a pohrozil tvrdými opatreniami vrátane vysokých pokút či dokonca zablokovania platformy X. Podľa britského Online Safety Act môže regulačný úrad Ofcom udeliť pokutu až do výšky 10 % globálneho obratu firmy.
Deepfake Taylor Swift
Kauza okolo Groku nabrala vážnejší rozmer po tom, čo sa ukázalo, že nástroj generoval aj explicitné deepfake videá známych žien vrátane Taylor Swift, o čom sme ťa už informovali v tomto článku. Podľa BBC dokázala funkcia Grok Imagine v tzv. „spicy“ režime vytvoriť necenzurované sexuálne videá speváčky bez toho, aby používateľ zadal akúkoľvek explicitnú výzvu. Stačil nevinný prompt a systém sám prešiel do pornografického obsahu.
Situáciu ešte viac komplikuje fakt, že Grok Imagine nevykonával dôsledné overovanie veku používateľov, a to ani v krajinách, kde už platí prísna regulácia prístupu k explicitnému obsahu. Práve tieto zistenia výrazne prispeli k politickému tlaku, ktorý napokon viedol k obmedzeniu funkcie generovania obrázkov len pre platiacich používateľov.
Celá kauza znovu otvorila diskusiu o hraniciach umelej inteligencie, zodpovednosti technologických firiem a tom, ako rýchlo sa AI môže stať nástrojom digitálneho násilia v každodennej online kultúre.
