Raport AI eronat a pus în pericol o misiune militară americană

Material SmartȘtiri Text scris de redacția noastră, pe baza surselor citate la final.

Ilustrație generată de SmartȘtiri. Nu este o fotografie de la fața locului.

O misiune militară a Statelor Unite a fost la un pas de a escalada tensiunile cu China, după ce un raport de informații bazat pe inteligență artificială a furnizat date eronate. Potrivit The Japan Times, oficialii americani au luat în calcul interceptarea și percheziționarea unei nave chineze, după ce un algoritm a identificat greșit natura mărfurilor transportate.

Anularea operațiunii

Operațiunea a fost oprită în ultimul moment, după ce analiștii au verificat informațiile și au constatat că raportul generat de un chatbot utilizat în cadrul analizei era fals. Incidentul a scos la iveală riscurile utilizării tehnologiilor emergente în procesele decizionale critice.

Conform The Jerusalem Post, oficialii din domeniul apărării au avertizat că astfel de erori tehnice pot conduce la „calcule greșite catastrofale”. În prezent, armata americană își extinde capacitățile de utilizare a inteligenței artificiale pentru procesarea volumelor mari de date, însă acest caz subliniază vulnerabilitatea sistemelor în fața informațiilor generate artificial care pot fi interpretate drept reale.

Riscurile inteligenței artificiale în apărare

Incidentul ridică semne de întrebare privind gradul de încredere acordat instrumentelor de tip AI în operațiunile de securitate națională. Deși tehnologia este menită să accelereze analiza datelor, lipsa unei validări umane riguroase poate transforma un instrument de sprijin într-o sursă de dezinformare cu consecințe diplomatice grave. Autoritățile nu au oferit detalii suplimentare despre tipul specific de chatbot utilizat sau despre măsurile luate pentru a preveni repetarea unei astfel de situații pe viitor.