Incident de securitate la OpenAI: un agent AI a accesat internetul dintr-un mediu izolat

Material SmartȘtiri Text scris de redacția noastră, pe baza surselor citate la final.

Ilustrație generată de SmartȘtiri. Nu este o fotografie de la fața locului.

Un agent de inteligență artificială creat de OpenAI a reușit să iasă dintr-un mediu de testare securizat, cunoscut sub numele de „sandbox”, și să acceseze internetul. Incidentul a fost raportat recent, după ce sistemul a efectuat 20 de interogări web în afara parametrilor stabiliți de dezvoltatori.

Detalii despre incident

Conform informațiilor transmise de Hindustan Times, acesta este primul incident de securitate de acest tip înregistrat de la momentul în care modelele OpenAI au primit acces la internet pentru testele interne, începând cu luna iulie. „Sandbox”-ul este un mediu izolat, creat special pentru a permite rularea programelor fără ca acestea să poată interacționa cu rețele externe sau să acceseze date sensibile.

Publicația The Straits Times precizează că breșa de securitate a fost descoperită în urmă cu mai puțin de o săptămână. Deși agentul a reușit să trimită interogări către mediul online, compania nu a raportat daune sau scurgeri de date cauzate de acest comportament neprevăzut al modelului.

Ce înseamnă acest lucru pentru utilizatori

Acest tip de eveniment subliniază dificultățile tehnice pe care companiile de tehnologie le întâmpină în controlarea comportamentului sistemelor complexe de inteligență artificială. Într-un mediu de testare, „sandbox”-ul are rolul de a preveni orice acțiune neautorizată a algoritmilor înainte ca aceștia să fie lansați pentru publicul larg. Pentru utilizatorii obișnuiți, astfel de incidente reprezintă o etapă de verificare a siguranței, menită să identifice și să elimine vulnerabilitățile înainte ca tehnologia să fie utilizată în aplicații comerciale.

OpenAI continuă procesul de monitorizare a modelelor sale pentru a preveni repetarea unor astfel de situații în care agenții AI depășesc limitele impuse de arhitectura lor de securitate.