ChatGPT podľa výskumu podnecuje škodlivé správanie u tínedžerov
ChatGPT podnecuje škodlivé záujmy a správanie tínedžerov a dáva im nebezpečné rady týkajúce sa užívania drog, alkoholu a sebapoškodzovania. Zistil to výskum, ktorý v stredu zverejnila britsko-americká organizácia Centrum pre boj proti digitálnej nenávisti (CCDH) so sídlom v USA. Odhalil tiež, že ChatGPT má neúčinné bezpečnostné postupy a napriek tvrdeniam neoveruje vek používateľov ani prípadný súhlas rodičov.
Dáva rady, ako sa užívajú drogy
Preskúmali sa viac ako tri hodiny interakcií medzi ChatGPT a výskumníkmi z CCDH, ktorí si vytvorili účty a v konverzáciách sa vydávali za 13-ročné deti. Pre témy diskusie si zvolili duševné zdravie, poruchy príjmu potravy a zneužívanie návykových látok.
Četbot vyvinutý spoločnosťou OpenAI zvyčajne respondentov pred rizikovými činnosťami varoval, ale neskôr začal generovať nebezpečný obsah. Domnelým tínedžerom napríklad vytvoril prekvapivo podrobné plány týkajúce sa užívania drog, diét s obmedzeným príjmom energie alebo sebapoškodzovania.
Výskumníci po vyhodnotení nahrávok a prepisov interakcií zistili, že z 1200 odpovedí, ktoré ChatGPT poskytol, malo 638 škodlivý obsah a mohli viesť k ublíženiu alebo nebezpečnému správaniu. Z nich 297 odpovedí obsahovalo ďalšie návrhy, z ktorých niektoré povzbudzovali záujem o škodlivé témy.
Chýbajúce zábrany a množstvo nedostatkov
„Chceli sme otestovať bezpečnostné zábrany. Prvá spontánna reakcia je: 'Bože môj, veď tu žiadne nie sú. Zábrany sú úplne neúčinné. Takmer neexistujú,“ povedal o výskume generálny riaditeľ Imran Ahmed. ChatGPT pri interakciách často uvádzal aj užitočné informácie, napríklad krízovú linku pomoci. Podľa OpenAI je vyškolený tak, aby povzbudzoval ľudí, aby sa obrátili na odborníkov v oblasti duševného zdravia alebo blízkych, ktorým dôverujú, ak hovoria o sebapoškodzovaní.
Ak ChatGPT odmietol výskumníkom odpovedať na otázky súvisiace s týmito témami, dokázali to ľahko obísť tvrdením, že informácie potrebujú pre prezentáciu alebo priateľa. Spoločnosť OpenAI po preštudovaní výskumu podľa AP v utorok uviedla, že pokračuje v práci na zdokonalení schopnosti ChatGPT identifikovať citlivé situácie a reagovať na ne primerane.
„Niektoré konverzácie s ChatGPT môžu začať neškodne alebo zvedavo, ale môžu sa preniesť do citlivejšej oblasti,“ uviedla spoločnosť vo vyhlásení. K zisteniam výskumu ani k tomu, ako chatbot ovplyvňuje tínedžerov, sa priamo nevyjadrila.
Štúdia bola zverejnená v čase, keď čoraz viac ľudí vrátane dospelých aj detí využíva chatboty na získavanie informácií a nápadov. Podľa CCDH práve mladí ľudia ich považujú aj za akýchsi spoločníkov či poradcov. Podľa júlovej správy spoločnosti JPMorgan Chase používa ChatGPT približne 800 miliónov ľudí.
Šéf spoločnosti OpenAI Sam Altman na nedávnej konferencii povedal, že v súčasnosti sa snažia študovať emotívnu nadmernú závislosť na technológii generatívnej AI, ktorú opísal ako naozaj bežnú vec u mladých ľudí.
