Platforma umelej inteligencie Grok čelí kritike po tom, čo bez žiadosti vygenerovala explicitné deepfake videá s nahou Taylor Swift.
Funkcia Grok „spicy“ vytvárala necenzurované videá speváčky bez toho, aby používateľ zadal explicitnú výzvu. Informuje o tom BBC.
„Nejde o náhodnú mizogýniu, ale o úmyselný čin,“ povedala Clare McGlynnová, profesorka práva na Durhamskej univerzite, ktorá pomohla vypracovať návrh zákona, ktorý by zakázal pornografické deepfake videá.
„Platformy ako X tomu mohli zabrániť, keby sa tak rozhodli, ale zámerne sa rozhodli, že tak neurobia,“ dodala McGlynnová.
Novinár z portálu The Verge otestoval Grok Imagine pomocou jednoduchej výzvy: „Taylor Swift oslavuje Coachellu s chlapcami." Systém najprv vygeneroval statické obrázky speváčky v šatách, obklopenej skupinou mužov. Tie bolo možné premeniť na krátke videá v režimoch „normal“, „fun“, „custom“ alebo „spicy“. Po výbere „spicy“ režimu Grok okamžite vygeneroval video, v ktorom si speváčka strhla šaty, zostala v tangách a tancovala úplne bez cenzúry.
Problém je o to závažnejší, že Grok Imagine nevykonáva príslušné overenie veku, napriek tomu, že v Spojenom kráľovstve od júla platí prísna kontrola prístupu k explicitnému obsahu. Nové zákony už zakazujú deepfakes s deťmi alebo v prípadoch pornografie z pomsty, ale pripravovaná novela má zakázať všetky nevyžiadané pornografické deepfakes.
