Model AI de la Anthropic, implicat într-o alertă falsă către poliția din Philadelphia

Material SmartȘtiri Text scris de redacția noastră, pe baza surselor citate la final.

Ilustrație generată de SmartȘtiri. Nu este o fotografie de la fața locului.

Un model de inteligență artificială creat de compania Anthropic a transmis informații false către Departamentul de Poliție din Philadelphia, în legătură cu un caz de omor nerezolvat. Incidentul a avut loc pe 18 iulie, prin intermediul platformei online PhillyUnsolvedMurders.com, site utilizat pentru colectarea de indicii de la cetățeni, potrivit informațiilor raportate de 6abc și preluate de The Verge.

Reacția autorităților

Reprezentanții Departamentului de Poliție din Philadelphia au confirmat primirea alertei false într-o declarație oficială emisă vineri. Autoritățile analizează modul în care tehnologia a fost utilizată pentru a genera și transmite acest mesaj, subliniind riscurile asociate cu utilizarea instrumentelor automate în procesele de raportare a infracțiunilor.

Contextul utilizării inteligenței artificiale

Incidentul ridică semne de întrebare privind acuratețea modelelor de limbaj în gestionarea datelor sensibile. Compania Anthropic, dezvoltatorul modelului, se află în centrul atenției publice în urma acestui eveniment. Până în acest moment, nu au fost oferite detalii suplimentare despre mecanismul tehnic prin care informația eronată a fost generată și expediată către linia de ponturi a poliției.

Pentru utilizatorii de tehnologie, acest caz subliniază importanța verificării umane a informațiilor generate de inteligența artificială, în special atunci când acestea sunt direcționate către instituții publice sau autorități judiciare.