Robotické vysávače sa stávajú bežnou súčasťou domácností. Treba však na ne dohliadnuť?
Podľa servera Technology Review, ktorý patrí renomovanej americkej univerzite MIT, sa obrázky dospelej osoby a dieťaťa na toalete so zreteľne viditeľnou tvárou z vysávača Roomba dostali na sociálnu sieť. Môže to však byť iba špička ľadovca. Spoločnosť iRobot síce tvrdí, že má súhlas so zberom údajov z domácností, ale používatelia na to majú určite iný pohľad.
Problematiku skúmala Eileen Guo, ktorá o téme rozpútala diskusiu na Twitteri. Zverejnené fotografie zachytávajú obyvateľov domácností v citlivých chvíľach a sú zjavne vytvorené z pozície vysávača. Jeden z používateľov pre Technology Review povedal, že bol súčasťou testovania iRobot Roomba radu J, takže bolo prirodzené, že nechal vysávač pohybovať sa po domácnosti a zbierať údaje. Dúfal, že tak napomáha zlepšovaniu produktu.
To je na jednej strane pochopiteľné, keďže umelá inteligencia potrebuje čo najobjemnejšie vzorky dát na svoj tréning. Druhá strana mince je, keď sa tieto údaje dostanú na sociálne siete. Používateľ predpokladá, že ich bezpečne použijú v rámci spoločnosti, ktorá vysávače vyrába. Podľa Eileen Guo však putujú do ďalších firiem na anotáciu.
I spent months unraveling where these video stills came from, how they got online, and what their existence + sharing says about the state of privacy today.
— Eileen Guo | [email protected] (@eileenguo) December 19, 2022
2 of the creepiest images below (TR added the grey boxes to hide their faces.) Full story here: https://t.co/BbkCFzkJ79 pic.twitter.com/AtKwNKT6Sf
Jednou z takýchto spoločností je Scale AI, ktorá si najíma externých spolupracovníkov a tí pracujú s necenzurovanými údajmi. Takto poskytnuté obrázky medzi sebou zdieľajú na sociálnych sieťach.
Čo na to výrobca?
Množstvo používateľov to považuje za zneužitie dôvery alebo aj zmluvy o testovaní výrobku. Týmto spôsobom uniklo najmenej 15 záberov, no možno predpokladať, že ich bolo viac. Spoločnosť iRobot zareagovala tým, že prestala spolupracovať s firmou Scale AI.
Zoberie nám raz umelá inteligencia prácu? Vyskúšala som jej dať tú moju
9. decembra 2024 o 17:00
Je pravda, že výrobca v tejto chvíli nemá veľa ďalších možností, ako situáciu riešiť. Môže uistiť používateľov, že sa to nebude opakovať a že uniknuté obrázky nebudú predstavovať nebezpečenstvo. Šéf iRobot Colin Angle na LinkedIn prostredníctvom článku vysvetľuje, ako to je s tréningom AI v robotických vysávačoch.
Testerov v ňom však označil za nie celkom bežných používateľov. Vyzdvihol fakt, že na zber údajov udelili svoj súhlas, takže by sa s takýmto invazívnym prístupom k súkromiu zrejme mali zmieriť.
Prístup k bežnému používateľovi má byť z pohľadu firmy iRobot iný, no keď sa pozrieme na to, ako sa firma stavia k testerom, po týchto zisteniach sa zrejme nebudú s dôverou hrnúť davy ani do radov bežných používateľov.
