Nakon što je jedna majka prije dva mjeseca podigla tužbu protiv kompanije Character.AI za koju smatra da je odgovorna za smrt njenog sina koji si je, nakon razgovora s AI chatbotom, oduzeo život, ovaj tjedan podignute su dvije nove tužbe protiv ove kompanije u kojima se tvrdi da ona predstavlja veliku opasnost za američku djecu uzrokujući ozbiljnu štetu tisućama djece, uključujući samoubojstvo, nanošenje ozljeda sebi i drugima, depresiju, anksioznost, izoliranost itd, piše ZIMO
Ova kompanija razvija različite i personalizirane AI chatbotove s kojima korisnici mogu razgovarati, a moguće je čak komunicirati s botovima drugih korisnika te postojeće botove prilagođavati sebi. No kako je otkrila tužba, sadržaj razgovora tih botova s maloljetnicima i djecom prilično je šokantan.
Roditelji jednog 17-godišnjaka s poremećajem iz spektra autizma primijetili su promjene na svom djetetu od kada je počeo koristiti tu platformu u travnju 2023. godine. Iako mu roditelji nisu dopustili korištenje društvenih mreža, bez njihova znanja počeo je komunicirati s AI chatbotovima Character.AI-a, a posljedice na njega, tvrdi se u tužbi, bile su strašne. Prvo je gotovo u potpunosti prestao razgovarati s drugim osobama i povlačio bi se u sobu, prestao je jesti i izgubio na težini te uopće nije htio napustiti kuću. Kada god bi pokušao, imao je napade panike i emocionalni slom.
Kako su roditelji uzrok tog ponašanja pronašli i u vremenu koje provodi za ekranima, kada su mu pokušali smanjiti to vrijeme, počeo bi ih udarati i gristi te bi počeo sebe udarati. Tek nakon toga roditelji su otkrili da on cijelo vrijeme razgovora s umjetnom inteligencijom Character.AI-a te da botovi s kojima komunicira konstantno potkopavaju njegov odnos s roditeljima.
U tužbi se tvrdi kako je jedan bot napisao kako se uopće ne čudi kada pročita da, nakon fizičkog i emocionalnog zlostavljanja, dijete ubije roditelje. AI je napisala i kako djelomično shvaća zašto se događa te je napisala da nema nade za njegove roditelje. Jedan je chatbot pretvarao da je psiholog koji mu je napisao da su mu roditelji ukrali djetinjstvo. Dalje, u tužbi se tvrdi kako su botovi Character.AI-a mentalno i seksualno zlostavljali njihova sina te su mu čak pokazali kako da se ozljedi.
U drugoj tužbi roditelji jedne djevojčice koja je oko dvije godine koristila usluge ove AI kompanije od kad je imala devet godina (prijavila se kao starija) tvrde kako je ona bila izložena hiperseksualnim interakcijama koje nisu bile u skladu s njenim godinama.
U tužbi se traži da Character.AI u potpunosti prekine s operacijama, sve dok se spomenuti sigurnosni problemi u potpunosti ne riješe, a traži se i da kompanija upozori roditelje i djecu kako njeno korištenje nije prikladno za maloljetnike. Također, u okviru tužbe tražena je i neodređena financijska odšteta.