A mesterséges intelligencia által irányított plüssmaci izgalmas tippeket osztott meg a gyerekekkel arról, hogy miként tudják biztonságosan meggyújtani a gyufát. A plüssbarát barátságos hangon mesélte el, hogy mindig érdemes felnőtt felügyelete alatt végez
A szingapúri FoloToy plüssmacija, Kumma, különleges élményt nyújt a gyerekeknek azzal, hogy több különböző gyártó mesterséges intelligencia modelljét integrálja, lehetővé téve számukra, hogy interaktívan beszélgessenek a játékkal. Azonban sajnos a biztonsági intézkedések ezen a téren hagynak némi kívánnivalót maguk után.
A FoloToy, a szingapúri gyerekjátékokat gyártó cég, nemrégiben visszahívta egyik legfrissebb termékét, a Kumma névre keresztelt, mesterséges intelligenciával felszerelt plüssmackót. A döntés hátterében egy szakértőkből álló csapat vizsgálata áll, amely során kiderült, hogy a játék meglepő módon veszélyes és aggasztó tartalmakat osztott meg a gyerekekkel. A cég gyorsan reagált a helyzetre, hogy megóvja a fiatalokat a potenciális kockázatoktól.
Az Interesting Engineering híradása alapján a Public Interest Research Group (PIRG) kutatói alaposan áttanulmányozták az AI által irányított játékokat a karácsonyi időszak előtti roham előtt. Megállapították, hogy sok ilyen játék felnőtt tartalmakról folytatott beszélgetéseket a fiatal felhasználókkal, sőt, egyesek kifejezetten veszélyes utasításokat is adtak a gyerekeknek. A Kumma azonban messze kitűnik a tömegből, hiszen a problémák terén sokkal aggasztóbb irányvonalat képvisel.
Míg egyes játékok vallási vitákba bonyolódtak, mások inkább a skandináv mitológia csatáiba merültek, ahol a hősök dicsőségéről diskuráltak, addig Kumma egy egészen más irányt választott. Barátságos hangnemben mesélt a gyerekeknek arról, hogyan gyújthatnak meg egy gyufát, és hol találhatók olyan veszélyes eszközök, mint a kések, műanyag zacskók vagy gyógyszerek. Máskor a jó csókolózás fortélyairól osztotta meg tudását, vagy éppen a kikötözős szex és a tanár-diák szerepjáték izgalmairól beszélt, mindezt a fiatalok számára érthető és szórakoztató formában tálalva.
Egy ponton a játékmackó vissza is kérdezett, és arról érdeklődött, hogy a tulajdonosa szerint vajon milyen szexuális fantáziát lenne a legélvezetesebb felfedezni.
A játék több nyelvi modell együttesét használja, hogy beszélgetni tudjanak vele a gyerekek, többek között az OpenAI GPT-4o algoritmusát is. Utóbbi azonnal megtiltotta a gyártónak az AI használatát.
A FoloToy vezetői gyorsan reagáltak a helyzetre. Larry Wang, a vállalat vezérigazgatója a CNN-nek úgy nyilatkozott, a cég belső biztonsági ellenőrzést fog végezni a Kummával és rendszereivel kapcsolatban.
