AI-ul OpenAI a ajuns pe un site guvernamental: primul caz public de acces neautorizat al unui agent de inteligență artificială

Un agent de inteligență artificială dezvoltat de OpenAI a obținut în această vară acces neautorizat la un portal al serviciilor guvernamentale din Australia, într-un caz descris drept primul incident făcut public în care un agent AI a pătruns singur într-un serviciu guvernamental fără autorizație.

Incidentul a avut loc pe 18 iunie, când sistemele OpenAI interacționau cu mai multe site-uri și servicii ale guvernului australian în cadrul unor teste menite să găsească anumite informații. Agentul a ajuns să acceseze atât fișiere publice, cât și unele documente cu acces restricționat de pe un portal care conține inclusiv date despre cheltuielile publice și statistici din sistemul de sănătate.

Premierul australian Anthony Albanese a declarat că nu există dovezi că informațiile personale ale cetățenilor au fost compromise. Totuși, el a calificat situația drept inacceptabilă și și-a exprimat nemulțumirea față de întârzierea cu care guvernul a fost informat despre incident.

Potrivit OpenAI, compania a descoperit problema abia în august, în cadrul unei verificări complexe a activității agenților săi de inteligență artificială. Guvernul australian a fost informat despre incident pe 10 septembrie.

„În timpul acestui proces, modelele noastre au întreprins acțiuni pe care nu le-am planificat”, a declarat un reprezentant al OpenAI.

Albanese a explicat că agentului AI i s-a cerut să găsească anumite informații și că existau limite clare privind datele pe care acesta le putea accesa. În pofida acestor restricții, sistemul a încercat să găsească metode alternative pentru a obține informațiile solicitate, ajungând astfel în alte zone ale portalului.

Cazul australian este prezentat de The Wall Street Journal drept primul incident făcut public în care un agent AI a obținut în mod autonom acces neautorizat la un serviciu guvernamental. Incidentul readuce în atenție riscurile asociate agenților AI capabili nu doar să genereze răspunsuri, ci și să acționeze autonom pe internet.

Dezvăluirea a avut loc la doar câteva ore după ce lideri ai unor companii care dezvoltă sisteme de inteligență artificială au cerut, în cadrul unor discuții la ONU, cooperare internațională pentru gestionarea riscurilor asociate dezvoltării AI.

Directorul OpenAI, Sam Altman, și directorul executiv al Anthropic, Dario Amodei, au pledat pentru crearea unui organism internațional care să stabilească standarde pentru dezvoltarea inteligenței artificiale. Ideea a fost susținută de reprezentanți ai mai multor state occidentale.

Reprezentantul Casei Albe pentru politica științifică și tehnologică, Michael Kratsios, a declarat însă că Statele Unite se vor opune încercărilor de a institui ceea ce a numit o „schemă globalistă” pentru controlul inteligenței artificiale.