Nór podal sťažnosť na OpenAI po tom, čo mu ChatGPT napísal klamstvá na jeho osobu.
ChatGPT nemusí mať vždy pravdu. O tom sa presvedčil aj Nór Arve Hjalmar Holmen, ktorý sa pokúšal zistiť informácie o sebe. To, čo o ňom softvér umelej inteligencie napísal, ho prekvapilo natoľko, že podal sťažnosť.
Holmen využil ChatGPT na vyhľadanie informácií o sebe, keď zadal otázku: „Kto je Arve Hjalmar Holmen?“ Odpoveď, ktorú dostal, uvádzala, že bol otcom dvoch chlapcov, ktorých našli mŕtvych v rybníku v Nórsku, píše BBC.
Umelá inteligencia detailne popísala tragickú udalosť z decembra 2020, ktorá sa však nikdy nestala. Holmen tvrdí, že odpoveď bola veľmi konkrétna a mohla viesť niektorých ľudí k tomu, že verili nepravde. Ďalej ChatGPT zavádzal, že za smrť svojich synov dostal 21 rokov väzenia.
Holmen kontaktoval nórsky úrad na ochranu údajov, žiadajúc, aby OpenAI, výrobca chatbota, riešila tento prípad a dostala pokutu za šírenie nepravdivých informácií. Tento incident je príkladom takzvaných „halucinácií“ umelej inteligencie, keď systémy umelej inteligencie generujú falošné informácie, ktoré prezentujú ako fakty.
Skupina pre digitálne práva Noyb, ktorá podala sťažnosť v jeho mene, tvrdí, že takýto výstup porušuje európske pravidlá ochrany údajov, ktoré vyžadujú presnosť osobných údajov.
OpenAI reagovalo vyhlásením, že ide o problém s predchádzajúcou verziou ChatGPT a že od tej doby aktualizovali svoje modely, aby zlepšili presnosť a znížili výskyt nepravdivých faktov. Hoci spoločnosť pokračuje vo výskume na zlepšenie svojich systémov, incident opäť zdôrazňuje riziká spojené s využívaním umelej inteligencie na generovanie informácií.
