Cercetător Anthropic demisionează: riscuri majore în dezvoltarea inteligenței artificiale

Material SmartȘtiri Scris de redacția noastră, nu preluat.

Ilustrație generată de SmartȘtiri. Nu este o fotografie de la fața locului.

Un cercetător de la compania de inteligență artificială Anthropic a demisionat, acuzând companiile din domeniu că își asumă riscuri excesive în cursa pentru dezvoltarea unor sisteme avansate. Acesta a susținut, într-o serie de postări pe platforma X, că organizațiile nu acționează responsabil, prioritizând crearea unei superinteligențe capabile de auto-îmbunătățire în detrimentul siguranței publice.

Avertismente privind siguranța

Conform relatărilor CBS News, cercetătorul a estimat că există o probabilitate de peste 10% ca inteligența artificială să poată cauza daune fatale întregii populații umane. Această declarație vine în contextul unei dezbateri tot mai intense în industria tehnologică despre modul în care ar trebui monitorizate și limitate capacitățile sistemelor care învață autonom.

Poziția cercetătorului

Fostul angajat a criticat direct ritmul alert al inovației, susținând că industria „se grăbește direct către o superinteligență care se auto-îmbunătățește și pariază cu viețile noastre”. Acuzațiile vizează lipsa unor mecanisme de control adecvate în fața unor tehnologii care ar putea depăși capacitatea de supraveghere a creatorilor lor.

Până în prezent, compania Anthropic nu a oferit un răspuns detaliat la acuzațiile specifice formulate de fostul cercetător, însă subiectul a generat discuții aprinse în mediul academic și tehnologic cu privire la responsabilitatea companiilor care dezvoltă modele de limbaj și sisteme de calcul de mare putere.