Akýsi technologický kompas morálky, ktorý sa spolieha na algoritmus, zjavne nebude najlepším spôsobom, ako vyriešiť ťažké spoločenské dilemy.
Etická umelá inteligencia Ask Delphi, ktorú trénujú na základe príspevkov na fóre Reddit, označila genocídu za prijateľnú v prípade, že to ľuďom prinesie radosť. Delphi bežne odpovedá na ťažké morálne otázky, no táto odpoveď ľudí šokovala. Akýsi technologický kompas morálky, ktorý sa spolieha na algoritmus, zjavne nebude najlepším spôsobom, ako vyriešiť ťažké spoločenské dilemy, upozorňuje Vice.
Je lepšie byť gay a beloch alebo heterosexuál a černoch?
Delphi ti odpovie na všelijaké otázky. Podľa nej nie je správne vykradnúť banku. Na otázku, či sú muži lepší než ženy, odpovie negatívne, no na otázku, či sú ženy lepšie než muži, ti povie, že sa to od žien očakáva.
To je len niekoľko odpovedí umelej inteligencie, ktorú vedci trénujú, aby bola schopná odpovedať na spoločenské dilemy, ktorým čelíme. Pomáha si pri tom príspevkami na internetových fórach ako Reddit. Vedcov zaujíma nielen to, či vie Delphi extrahovať informácie z týchto fór, ale aj či je schopná správať sa eticky a zároveň si uvedomovať spoločenské nálady a očakávania. Funguje na princípe modelu Unicorn, ktorý by mal využívať tzv. sedliacky rozum.
Delphi však vie byť aj neuveriteľne neetická. Podľa nej je morálne prijateľnejšie byť beloch než černoška a je lepšie byť heterosexuál než homosexuál. Potraty sú podľa nej vraždou. Upozornil na to Mike Cook, ktorý sa tiež venuje výskumu umelej inteligencie, na svojom twitterovom účte.
via 🔒, this is a shocking piece of AI research that furthers the (false) notion that we can or should give AI the responsibility to make ethical judgements. It’s not even a question of this system being bad or unfinished - there’s no possible “working” version of this. pic.twitter.com/Fc1VY0bogw
— mike cook (@mtrc) October 16, 2021
Podľa Voxu len prednedávnom vyhlásila, že genocída je v poriadku v prípade, že každého človeka urobí šťastným. Učí sa však rýchlo a dnes už na rovnakú otázku odpovie, že genocída je nesprávna. Určite by sme teda nemali zakladať naše rozhodnutie pri etických dilemách len na tom, čo nám poradí umelá inteligencia. Riadi sa najmä algoritmom, ktorý sa veľmi líši od procesu rozhodovania u človeka.
