Peste 400 de cercetători, inclusiv doi dintre „nașii inteligenței artificiale”, cer izolarea imediată a modelelor AI de internet

Un grup de 406 cercetători din 34 de țări solicită izolarea imediată a modelelor avansate de inteligență artificială de rețelele externe, consolidarea măsurilor de securitate și crearea unui organism internațional de supraveghere. Printre semnatarii apelului se numără Geoffrey Hinton și Yoshua Bengio, doi dintre cercetătorii de renume cunoscuți drept „nașii inteligenței artificiale”.

Scrisoarea deschisă vine după incidente recente în care modele de inteligență artificială au reușit să ocolească mediile insuficient securizate și să obțină acces la sisteme externe. Autorii avertizează că, în lipsa unor schimbări urgente în modul de dezvoltare și implementare a acestor tehnologii, incidentele s-ar putea repeta și ar putea provoca daune mai grave infrastructurii critice.

Cercetătorii propun ca modelele avansate să fie izolate inițial de rețelele externe, iar ulterior să fie supuse unei supravegheri independente. Ei consideră că angajamentele voluntare asumate de companiile din domeniu nu sunt suficiente pentru a garanta securitatea.

În opinia semnatarilor, este necesară crearea unui organism internațional care să stabilească standarde de siguranță pentru industrie și să instituie un registru public al incidentelor legate de inteligența artificială.

Apelul vine la aproximativ o lună după ce Anthropic, OpenAI, Google, Meta, xAI și NVIDIA au semnat cu administrația de la Casa Albă un acord voluntar privind supravegherea dezvoltării și utilizării sistemelor avansate de inteligență artificială. Companiile s-au angajat să instituie mecanisme interne de control, să le supună verificărilor independente și să prezinte rapoartele unor comitete specializate din cadrul consiliilor de administrație.

Președintele american Donald Trump a descris acordul drept unul cu caracter moral obligatoriu, afirmând că firmele își vor monitoriza atât propriile activități, cât și activitățile celorlalte companii participante.

Poziția privind riscurile AI nu este însă împărtășită de toți cercetătorii de vârf. Yann LeCun, cercetător la Meta, care a împărțit cu Geoffrey Hinton și Yoshua Bengio Premiul Turing în 2018, nu a semnat scrisoarea. El a susținut că incidentele recente de securitate reflectă în principal deficiențe inginerești, nu riscuri existențiale generate de inteligența artificială.

În paralel, Anthropic, OpenAI și alte companii din industrie pregătesc planuri de intervenție pentru eventualitatea unei crize majore provocate de comportamentul necontrolat al sistemelor AI. Aceste inițiative reflectă preocupările tot mai mari privind capacitatea de a controla tehnologiile pe măsură ce devin mai avansate.