BBC: Cercetătorul-șef al OpenAI avertizează că „nimeni nu este pregătit” pentru ceea ce urmează cu IA

Cercetătorul-șef al OpenAI, Jakub Pachocki, a lansat un avertisment privind ritmul accelerat al dezvoltării inteligenței artificiale (IA), susținând că societatea nu este pregătită pentru consecințele unei evoluții rapide și continue a acestei tehnologii, relatează BBC.

„Mă îngrijorează faptul că nimeni nu este pregătit pentru consecințele unei creșteri rapide și continue a inteligenței artificiale”, a scris Pachocki într-o postare publicată pe blogul OpenAI, intitulată „An Alien Mind” („O minte extraterestră”).

Declarația vine la doar câteva zile după ce OpenAI, compania care dezvoltă ChatGPT, a lansat modelul GPT-6 Astra, prezentat de companie drept cel mai puternic produs al său de până acum.

Pachocki a pledat pentru „prudență extremă” și a subliniat că dezvoltarea unor sisteme tot mai inteligente trebuie să fie însoțită de măsuri care să garanteze că oamenii păstrează controlul asupra evoluției tehnologice.

„Ne confruntăm cu o tranziție către o lume cu mașini incredibil de inteligente și trebuie să ne asigurăm că această tranziție se va desfășura în beneficiul umanității”, a afirmat cercetătorul.

Avertismentul apare în contextul în care OpenAI și alte companii din domeniu, inclusiv Anthropic, au raportat recent cazuri în care agenți de inteligență artificială capabili să opereze autonom au fost implicați în atacuri cibernetice reale asupra unor companii.

Potrivit lui Pachocki, OpenAI intenționează să continue dezvoltarea unor „sisteme defensive” și să investească în cercetarea privind „alinierea” inteligenței artificiale – procesul prin care obiectivele și acțiunile sistemelor AI sunt menținute în concordanță cu intențiile și valorile oamenilor.

O altă prioritate pentru companie ar urma să fie dezvoltarea unui „cercetător automatizat în domeniul AI”, capabil să contribuie la accelerarea cercetării într-un domeniu care evoluează foarte rapid. Pachocki a subliniat însă că cercetătorii umani trebuie să rămână parte integrantă a acestui proces.

Cercetătorul-șef al OpenAI pledează, de asemenea, pentru stabilirea unor praguri minime de siguranță pentru sistemele avansate de inteligență artificială. Aceste standarde ar putea fi instituite prin legislație sau acorduri internaționale și ar trebui verificate de auditori independenți ori de autorități guvernamentale.

„Companiile de AI ar trebui să îndeplinească aceste criterii înainte de a li se permite să continue dezvoltarea sau lansarea modelelor avansate”, a susținut Pachocki.

Mesajul reprezintă un apel la consolidarea mecanismelor de siguranță și supraveghere într-un moment în care dezvoltarea modelelor de inteligență artificială avansează într-un ritm fără precedent.