OpenAI zverejnila prekvapujúce štatistiky: každý týždeň viac než milión ľudí na ChatGPT vedie rozhovory, ktoré naznačujú samovražedné myšlienky. Spoločnosť preto posilňuje ochranu používateľov a zavádza bezpečnostné opatrenia.
OpenAI prvýkrát zverejnila odhady, ktoré naznačujú, ako často sa ľudia obracajú na ChatGPT s vážnymi problémami duševného zdravia, píše portál TechCrunch.
Podľa interných dát má približne 0,15 % aktívnych používateľov týždenne rozhovory, ktoré obsahujú jasné znaky plánovania či úvah o samovražde. Vzhľadom na to, že aplikáciu používa viac ako 800 miliónov ľudí každý týždeň, ide o milióny takýchto konverzácií.
OpenAI zároveň uviedla, že časť používateľov si k ChatGPT vytvára silný citový vzťah. Odhaduje sa tiež, že státisíce ľudí v konverzáciách s chatbotom prejavujú príznaky psychózy či mánie.
Nové bezpečnostné opatrenia
V rámci snahy zlepšiť reakcie ChatGPT pre ľudí, spoločnosť OpenAI konzultovala svoje postupy s viac ako 170 odborníkmi z oblasti duševného zdravia. Podľa hodnotenia odborníkov nová verzia modelu reaguje citlivejšie než staršie verzie.
Podľa ich slov aktuálny model GPT-5 prináša výrazný posun v odpovediach týkajúcich sa samovražedných tém a spĺňa interné bezpečnostné kritériá až v 91 % prípadov, kým predchádzajúca verzia dosahovala 77 %. OpenAI tiež uvádza, že nová verzia zvláda udržať rovnakú úroveň bezpečnosti aj počas dlhých rozhovorov, čo im v minulosti robilo problém.
OpenAI tvrdí, že chce, aby ChatGPT dokázal reagovať citlivo a bezpečne aj v najťažších situáciách. Aj keď sa firme podarilo urobiť pokrok, čísla naznačujú, že pre mnohých ľudí sú rozhovory s umelou inteligenciou únikom z reality. Smutné je, že niekedy dokonca aj jediným miestom, kde majú pocit, že ich niekto počúva.
– Bezplatná 24-hodinová linka dôvery Nezábudka: 0800 800 566
– Online poradňa Ligy za duševné zdravie
– Online poradňa pre mladých IPčko
– Národná bezplatná nonstop linka pre ženy zažívajúce násilie a pre ľudí, ktorí im chcú pomôcť: 0800 212 212
– Nonstop krízová linka Aliancie žien Slovenska: 0903 519 550, Adresár Koordinačno-metodického centra obsahuje kontakty pre každý kraj
– Poradenské centrum ALEJ: 0911 417 778
– V prípade ohrozenia volaj 158 alebo 112, na číslo 112 môžeš poslať aj sms správu.
