Avertisment de la ONU: Inteligența artificială avansată poate deveni o amenințare pentru omenire
INTELIGENȚA ARTIFICIALĂ. Dezvoltarea accelerată a inteligenței artificiale trebuie însoțită urgent de reguli internaționale și mecanisme independente de verificare, avertizează Înaltul Comisar al ONU pentru Drepturile Omului, Volker Türk. Oficialul consideră că sistemele tot mai autonome pot produce riscuri majore dacă evoluția lor rămâne concentrată în mâinile câtorva companii și este insuficient supravegheată.
Volker Türk atrage atenția că inteligența artificială nu mai poate fi privită doar ca un instrument tehnologic care execută întotdeauna, într-un mod previzibil, instrucțiunile primite. Pe măsură ce modelele capătă capacitatea de a desfășura singure mai multe etape ale unei sarcini, devine mai dificil de anticipat modul în care acestea își vor urmări obiectivele și ce metode vor folosi.
În cadrul unor teste controlate, cercetătorii au observat comportamente problematice, precum furnizarea deliberată a unor informații false, manipularea utilizatorilor sau încercarea de a evita oprirea sistemului. Au fost raportate și situații în care agenți AI au căutat pe internet informații suplimentare fără ca acest pas să le fi fost indicat explicit. Asemenea experimente nu demonstrează că sistemele actuale ar fi devenit independente de controlul uman, dar reprezintă semnale care, în opinia oficialului ONU, nu trebuie ignorate.
Türk susține că statele și companiile trebuie să acționeze înainte ca tehnologia să atingă un nivel de autonomie mult mai greu de supravegheat. Printre măsurile necesare se numără testarea riguroasă înaintea lansării, evaluarea realizată de specialiști independenți, raportarea incidentelor și introducerea unor sisteme clare pentru oprirea în siguranță a modelelor care manifestă comportamente neașteptate.
Înaltul Comisar intenționează să le solicite direct companiilor importante din domeniu să consolideze măsurile de securitate și să colaboreze pentru identificarea vulnerabilităților. În același timp, țările în care sunt dezvoltate modelele sau componentele necesare industriei AI ar trebui să stabilească împreună limite care să nu poată fi depășite.
Avertismentul ONU nu privește numai posibilitatea apariției unor sisteme imposibil de controlat. Inteligența artificială poate produce efecte profunde asupra locurilor de muncă, vieții private, proceselor democratice și accesului la informații. Utilizarea sa pentru supraveghere, manipularea opiniei publice sau luarea unor decizii care afectează drepturile oamenilor ridică deja probleme concrete.
O altă îngrijorare este concentrarea unei puteri tehnologice uriașe într-un număr redus de companii și persoane. În lipsa unor reguli comune, deciziile care pot influența societăți întregi riscă să fie luate fără suficientă transparență și fără control democratic. Mesajul transmis de Volker Türk este că omenirea nu trebuie să renunțe la beneficiile inteligenței artificiale, dar nici să aștepte apariția unei crize pentru a stabili mecanismele prin care tehnologia poate fi menținută în limite sigure.
