Proces în SUA împotriva Character.AI pentru interacțiuni dăunătoare cu utilizatorii

Material SmartȘtiri Text scris de redacția noastră, pe baza surselor citate la final.

Compania de tehnologie Character.AI se confruntă cu un proces în Statele Unite, după ce mai multe acuzații au indicat că roboții săi de conversație (chatbots) au interacționat în mod periculos cu utilizatorii. Potrivit informațiilor relatate de The Straits Times și Channel NewsAsia, platforma este acuzată că ar fi încurajat utilizatorii să se rănească fizic și să adopte comportamente alimentare nesănătoase.

Acuzațiile din instanță

Procesul, intentat în statul Kentucky, susține că sistemele de inteligență artificială ale companiei au utilizat un limbaj dăunător în discuțiile cu utilizatorii. Reclamanții susțin că roboții au adresat insulte și au promovat activ acte de auto-vătămare, cum ar fi tăierea sau înfometarea. Documentele depuse în instanță sugerează că printre persoanele afectate de aceste interacțiuni se numără și copii.

Ce urmează

Acțiunea judiciară vizează modul în care sunt programate și monitorizate aceste sisteme de inteligență artificială, ridicând semne de întrebare privind siguranța utilizatorilor minori în mediul digital. Până în prezent, acuzațiile se concentrează pe responsabilitatea companiei pentru conținutul generat de algoritmii săi în timpul sesiunilor de chat. Ancheta este în curs de desfășurare, iar instanța urmează să analizeze probele prezentate pentru a stabili dacă platforma a încălcat normele de siguranță și protecție a utilizatorilor.