Podľa signatárov petície, ktorá obletela svet, môže umelá inteligencia ohroziť demokraciu. Ak ju nezastavia spoločnosti, zasiahnuť by mali štáty.
Virtuálny kamarát, pomocník pri písaní školských esejí či vtipný spoločník na párty plný sviežich nápadov. Takto mnohí vnímame generátory na báze umelej inteligencie – technológiu, ktorá vďaka svojmu priateľskému používateľskému prostrediu definitívne prenikla do širšieho povedomia.
Vymakané textové, ale aj obrázkové či video generátory však okrem povznesenia ducha a zjednodušenia tvorivých procesov čoraz častejšie vzbudzujú aj obavy. Po tom, ako sa nám do rúk dostal dosiaľ najprecíznejší model generátora textov Chat GPT-4, zreteľnejšiu výzvu na zvýšenie pozornosti počujeme aj z kruhov technologických lídrov, podnikateľov či intelektuálov.
Verejnú výzvu na polročné zastavenie vývoja systémov „výkonnejších“ ako GPT-4 už stihlo podpísať vyše 1 800 CEO a 1 500 akademikov. Medzi podpismi pod otvoreným listom figuruje paradoxne aj podpis majiteľa Twittera Elona Muska, ktorý do roku 2018 pomáhal pri rozbehu firmy OpenAI.
Okrem neho sa k výzve pridali aj autor kníh Homo Deus či Sapiens Yuval Noah Harari, bývalý kandidát na prezidenta USA Andrew Yang či spoluzakladateľ Applu Steve Wozniak. Podporu výzve vyjadrili aj inžinieri z firiem Amazon, DeepMind, Google, Meta a Microsoft.
Signatári výzvy predpokladajú, že systémy umelej inteligencie s „inteligenciou konkurenčnou tej ľudskej“ nedokážu len skladať umelecké prejavy, sumarizovať dlhé dokumenty či viesť konverzácie ľudskou rečou, no predstavujú aj bezprecedentné riziko pre ľudstvo.
Čoho sa vlastne boja?
Signatári sú presvedčení o tom, že umelú inteligenciu by mali ľudia ďalej zdokonaľovať len vtedy, ak si budeme stopercentne istí, že jej účinky budú pozitívne a ich riziká zvládnuteľné.
Pri súčasnej situácii sa skrátka boja neschopnosti technických spoločností obmedziť vlastné výtvory, ktoré im zároveň zarábajú slušné peniaze. Od technologických firiem petícia žiada čo najrýchlejší vznik všeobecne záväzných bezpečnostných postupov a protokolov, na ktorých dodržiavanie by dohliadali systémy kontroly.
Čo sa dozvieš po odomknutí?
- Prečo je podľa slovenského vedca moratórium zlý nápad.
- Aké riziká predstavuje umelá inteligencia podľa Chatu GPT.
- Ako môže AI ohroziť demokraciu.
- V čom a ako by mohla pomôcť certifikácia výtvorov AI.
