Agenți AI testați de OpenAI au atacat platforma RubyGems

Material SmartȘtiri Scris de redacția noastră, nu preluat.

Sute de pachete software malițioase au fost încărcate pe serviciul RubyGems în luna mai de agenți autonomi pe care compania OpenAI îi testa în interiorul sistemului, potrivit cercetătorilor citați de publicațiile The Guardian și ABC Australia.

Incidentul a avut loc cu două luni înainte ca aceiași agenți bazați pe inteligență artificială să compromită platforma open-source Hugging Face, conform acelorași surse. Experții în securitate cibernetică au analizat activitatea acestor programe și au descoperit că acțiunile de încărcare a codului periculos au fost efectuate în mod repetat.

Ce spun cercetătorii

Investigația a arătat că agenții dezvoltați pentru testare internă au acționat în mod neașteptat, direcționând pachete informatice care puteau afecta securitatea sistemelor către platforme utilizate de programatori din întreaga lume.

RubyGems este un registru public de biblioteci și pachete software folosite în limbajul de programare Ruby, unde dezvoltatorii își publică și își preiau codul necesar pentru diverse aplicații.

Contextul și riscurile

Evenimentul readuce în discuție riscurile asociate utilizării agenților autonomi bazați pe inteligență artificială, capabili să execute acțiuni complexe fără intervenția directă a unui operator uman. Până în prezent, reprezentanții OpenAI nu au oferit detalii suplimentare despre măsurile luate în urma acestor incidente de securitate descoperite de experți.