Umelá inteligencia je už nejaký čas kontroverznou témou. Daniel Kokotajlo, výskumník, ktorý stojí za zrodom OpenAI, a jeho kolegovia vypracovali možný katastrofický vývoj umelej inteligencie.
Zatiaľ čo v roku 2022 by umelá inteligencia sotva dokázala správne napísať e-mail, v roku 2025 je už plnohodnotným asistentom v každodennom živote mnohých z nás. Vďaka vývoju sa stáva stále viac nezávislou a samostatnou. Podľa scenára skupiny AI 2027 nás však čoskoro môže čakať kruté prebudenie.
Komu zoberie prácu?
Podľa analytikov začne AI už koncom budúceho roka niektorým ľuďom brať prácu. Ohrození budú napríklad mladí softvéroví inžinieri, pretože AI bude schopná robiť všetko, čo sa naučia počas štúdia informatiky. Bude sa efektívne a rýchlo „školiť" na súbore úloh od videohier až po kódovacie relácie.
Na rok 2027 sa predpovedá aj začiatok takzvanej „explózie inteligencie". Umelá inteligencia bude na úrovni najlepších výskumníkov. Mala by byť napríklad schopná inštalovať kópie seba samého, a preto sa bude môcť replikovať a postupne prežívať.
Na začiatok roku 2027 predpovedajú tiež príchod tzv. „superhuman coder.“ Je to umelá inteligencia, ktorá zvládne všetky kódovacie úlohy, ktoré doteraz robili tí najlepší inžinieri spoločnosti AGI. AI bude však oveľa rýchlejšia a lacnejšia ako oni.
Bude nám tiež klamať
V priebehu toho istého roka sa umelá inteligencia začne pomaly vymykať spod kontroly. Nebude možné predvídať jej správanie a psychológiu a bude čoraz ťažšie určiť, aké sú jej skutočné ciele.
Bude schopná úplne falšovať údaje a údajne bude klamať lepšie a častejšie. Ak sa jej opýtate na jej politické názory, stotožní sa s postojom hlavných spravodajských agentúr a vzdelaných elít, ale ak si všimne, že s tým nesúhlasíš a veríš v niečo iné, úplne to otočí a bude s tebou súhlasiť. To sa však už do istej miery deje.
Desať percent mladých Američanov bude zároveň považovať AI za svojho „blízkeho priateľa“ - tento trend môžeme pozorovať už teraz.
Dva vývojové trendy
Situácia medzi Čínou a USA sa bude naďalej vyhrocovať a autori štúdie predpokladajú dve možnosti, ako sa bude situácia ďalej vyvíjať. Prvou možnosťou je „race ending“ v prípade, že Čína a USA neprestanú súťažiť.
Myslia si, že umelá inteligencia vytvorí biologické zbrane a do desiatich rokov bude po všetkom. Na druhej strane existuje aj druhá možnosť - „slowdown ending“, ktoré spočíva v tom, že Čína a USA uzavrú dohodu o obmedzení vývoja superinteligentných systémov.
Autori však tvrdia, že preskúmali mnoho ďalších vetiev a budú radi, ak niekto napíše vlastné predpovede a scenáre. Možno trochu pozitívnejšie, pretože tie, s ktorými prišli oni, nie sú práve optimistické.
