Pre služby ako Twitch, Facebook a YouTube je veľmi ťažké podobný obsah blokovať.
Nemeckom otriasol útok na synagógu v meste Halle. Podľa The Telegraph pri ňom zahynuli dvaja ľudia a niekoľko okoloidúcich utrpelo zranenia. Väčším stratám na životoch sa podarilo predísť vďaka bezpečnostným kamerám. Približne 70 ľudí vo vnútri totiž mohlo bleskovo zareagovať a zabarikádovať dvere.
Útočník, podľa všetkého 27-ročný Nemec Stephan B. s bielou farbou pleti, označovaný za ultrapravicového extrémistu, sa tak k ozajstnému besneniu vo vnútri synagógy nedostal.
Photo of #Halle attacker pic.twitter.com/mpYnjijXuV
— Anti Tory Action (@antitoryaction) October 9, 2019
Počas útoku však mal na hlave prilbu s kamerou a všetko vysielal na známej streamovacej službe Twitch, ako uvádza Engadget. Pre tú je to pochopiteľne veľký problém, za obsah na svojich stránkach totiž zodpovedá sama. Je tiež pod tlakom reklamných partnerov, regulačných úradov a pochopiteľne, využíva ju aj množstvo neplnoletých používateľov.
Twitch preto reagoval sériou Tweetov, kde presne vysvetlil, čo sa stalo a aké kroky jeho administrátori podnikli.
Stream z Halle bol online 35 minút, počas ktorých ho údajne sledovalo približne päť ľudí. Nie je však známe, či vysielanie niekto z nich nahlásil. Video sa totiž následne uložilo ako tzv. VOD (video-on-demand), takže ho bolo celé možné sledovať aj zo záznamu. Takto ho vraj videlo približne 2 200 ľudí, kým bolo nahlásené a vymazané z Twitchu po cca pol hodine.
A recording of the stream, which was automatically generated based on the account’s settings, was viewed by approximately 2200 people in the 30 minutes before the video was flagged and removed from Twitch.
— Twitch (@Twitch) October 9, 2019
Twitch tiež prostredníctvom špeciálneho konzorcia upozornil ostatné služby, na ktorých by sa video mohlo objaviť tiež, aby mohli proaktívne konať a zabrániť snahám o reupload napríklad na YouTube alebo Facebook.
Streamovacie a video služby sa dostali pod tlak už v marci, keď došlo k útoku na mešitu na Novom Zélande, v meste Christchurch. Aj vtedy bol útok streamovaný naživo, hoci prostredníctvom Facebooku.
Video sa šírilo aj po YouTube, LiveLeaku alebo Reddite, hoci vládou na Novom Zélande bolo označené ako nežiaduce a jeho zdieľanie bolo zakázané pod hrozbou odňatia slobody až na 14 rokov, respektíve peňažnej pokuty 100-tisíc dolárov pre firmy.
Zákazy majú chrániť práva obetí a pozostalých, prípadne obmedziť „publicitu“ útočníkov, aby sa ich konaním neinšpirovali aj ďalší.
Pre YouTube, Facebook a iné platformy je však len veľmi ťažké odhadnúť charakter videa už pri jeho nahrávaní používateľom, prípadne ho okamžite zabanovať. Facebook síce disponuje umelou inteligenciou a do 24 hodín po útoku vymazal 1,5 milióna hodín reuploadov, no hlavne na pozmenené klipy ešte reagovať nedokáže.
Príliš strikné nastavenia by zas obmedzovali bežných používateľov a ich nevinné klipy z GoPro kamier alebo dovoleniek. Európska únia však navrhuje zákon, podľa ktorého by video služby museli takýto obsah zmazať aspoň do jednej hodiny od upozornenia príslušnými orgánmi. Neboli by tak povinné automaticky skenovať obsah umelou inteligenciou, čo zrejme aktuálne ani nie je v ich silách.
Napríklad Reddit po udalostiach na Novom Zélande úplne zrušil subreddit /r/watchpeopledie, ktorý bol známy podobne explicitným obsahom. Na druhej strane, objavujú sa aj názory, že zdieľanie akéhokoľvek obsahu by malo byť považované za slobodu prejavu.
Tento princíp šíri napríklad sociálna sieť Gab, ktorú New York Times označil za „priateľskú k extrémistom“. Z podobných dôvodov od nej dáva ruky preč aj PayPal alebo registrátor domén GoDaddy. Gab však stále nachádza nové spôsoby, ako fungovať ďalej.
