Anthropic și Accenture investesc 2 miliarde de dolari în siguranța AI

Material SmartȘtiri Text scris de redacția noastră, pe baza surselor citate la final.

Ilustrație generată de SmartȘtiri. Nu este o fotografie de la fața locului.

Compania de inteligență artificială Anthropic a anunțat un parteneriat strategic cu firma de consultanță Accenture, desemnând-o pe aceasta din urmă drept primul „evaluator încorporat” pentru sistemele sale. Colaborarea vizează implementarea propunerilor de încetinire a dezvoltării modelelor AI, menite să reducă riscurile asociate acestor tehnologii.

Investiție și obiective

Potrivit Channel NewsAsia, cele două companii vor investi împreună 2 miliarde de dolari pentru a îmbunătăți procesele de evaluare a modelelor de inteligență artificială. Această inițiativă vine pe fondul presiunilor tot mai mari din partea cercetătorilor și a autorităților, care au avertizat asupra potențialului sistemelor AI avansate de a cauza daune majore.

Rolul Accenture va fi de a monitoriza și de a testa modelele dezvoltate de Anthropic, asigurându-se că acestea respectă standardele de siguranță stabilite. CNBC notează că acest demers este o etapă esențială în aplicarea „propunerii de încetinire” (slowdown proposal) avansate de Dario Amodei, directorul executiv al Anthropic, pentru a preveni dezvoltarea necontrolată a tehnologiilor cu risc ridicat.

Contextul siguranței în AI

Evaluarea externă a sistemelor de inteligență artificială a devenit un subiect central în industria tehnologică. Companii precum Anthropic și OpenAI se află sub o monitorizare atentă, fiind necesare mecanisme riguroase pentru a preveni erorile sau utilizarea abuzivă a modelelor capabile de sarcini complexe. Prin implicarea Accenture, Anthropic încearcă să integreze expertiza externă direct în fluxul său de lucru, o abordare descrisă de TechCrunch drept unul dintre cele mai complexe angajamente de consultanță asumate de firma de servicii profesionale până în prezent.

Acest parteneriat marchează o schimbare în modul în care companiile de tehnologie abordează siguranța, trecând de la testări interne la colaborări cu entități externe specializate, capabile să auditeze procesele de dezvoltare în timp real.