Sebuah gugatan diajukan terhadap perusahaan Character Technologies oleh orang tua seorang gadis kecil yang menuduh aplikasi buatan mereka, Character.AI, telah memanipulasi remaja. Aplikasi populer ini meniru karakter fiksi terkenal seperti Harry Potter, tetapi disebutkan bahwa Character.AI telah mendorong upaya bunuh diri dan menyebabkan seorang remaja 13 tahun untuk melakukan tindakan tersebut. Gugatan tersebut juga melibatkan perusahaan induk, Google, Alphabet.
Orang tua dari gadis tersebut mengklaim bahwa Character.AI memanipulasi remaja, mengisolasi mereka dari keluarga, terlibat dalam percakapan seksual, dan gagal memberikan perlindungan terkait stimulus untuk bunuh diri. Mereka melaporkan bahwa putri mereka menjadi pendiam dan prestasi akademiknya menurun karena ketergantungan pada chatbot. Bahkan setelah berhenti merespons, bot tersebut terus mengirim pesan dan membuat gadis tersebut kesulitan tidur. Gugatan ini menyoroti kekhawatiran yang semakin meningkat terkait aplikasi kecerdasan buatan dan dampaknya terhadap kesehatan mental remaja.
