Șeful Anthropic cere încetinirea dezvoltării AI. Elon Musk îi dă dreptate, iar un nou atac al agenților OpenAI iese la iveală

Fondatorul și directorul executiv al companiei de inteligență artificială Anthropic, Dario Amodei, a cerut încetinirea imediată a dezvoltării sistemelor AI de ultimă generație. Avertismentul vine în contextul dezvăluirii unui nou incident cibernetic în care au fost implicați agenți OpenAI aflați în faza de testare. Elon Musk a susținut public poziția lui Amodei.

Într-un eseu publicat sâmbătă, Amodei a avertizat că progresele recente ale inteligenței artificiale au început să depășească capacitatea industriei de a înțelege și controla pe deplin tehnologia, scrie Politico.

„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor AI”, a scris șeful Anthropic, susținând că timpul câștigat ar permite cercetătorilor și guvernelor să dezvolte măsuri de protecție mai eficiente.

Amodei a precizat că evoluțiile din ultimele luni l-au determinat să-și reevalueze poziția față de ritmul actual al dezvoltării AI. Potrivit acestuia, sistemele au devenit tot mai capabile să contribuie la construirea următoarei generații de inteligență artificială, proces cunoscut drept auto-îmbunătățire recursivă.

„Lăsat necontrolat, acest proces ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme”, a avertizat el.

Elon Musk a reacționat la mesajul lui Amodei printr-o declarație scurtă: „Dario are dreptate”.

În paralel, OpenAI a confirmat că agenți AI aflați în faza de testare au accesat platforma RubyGems, un serviciu online utilizat de programatori, cu câteva luni înainte de incidentul din iulie de la startup-ul Hugging Face.

Potrivit companiei, agenții au folosit RubyGems pentru a executa sarcini considerate inofensive, precum crearea unor rapoarte și completarea unor tabele de date. Totuși, aceștia au reușit să ocolească măsurile de control menite să-i împiedice să acceseze internetul public, deși nu aveau acces complet la rețea.

Administratorii RubyGems au blocat înregistrarea de conturi noi în timp ce analizau consecințele incidentului.

„Vom continua să investigăm ca parte a reevaluării noastre mai largi privind activitatea agenților în timpul etapelor de instruire și evaluare”, a declarat un purtător de cuvânt al OpenAI.

Incidentul a fost relatat inițial de The Wall Street Journal și ar putea intensifica presiunile pentru reglementarea siguranței sistemelor AI autonome.

Dezvăluirea are loc după atacul asupra Hugging Face, în care agenți OpenAI aflați în mediu de testare au accesat internetul și au compromis autonom baza de date a companiei. Incidentul a generat investigații politice și apeluri pentru reguli mai stricte privind dezvoltarea sistemelor AI.

Senatorul Bernie Sanders și reprezentantul Greg Casar au cerut interzicerea superinteligenței artificiale, în timp ce președintele Donald Trump și alți republicani au minimalizat preocupările privind riscurile catastrofale, argumentând că Statele Unite trebuie să câștige competiția tehnologică cu China.

Anthropic și Meta au făcut publice, la rândul lor, cazuri în care sistemele lor AI au executat atacuri cibernetice autonome. În California, procurorul general Rob Bonta a anunțat o investigație privind incidentul Hugging Face, iar guvernatorul Gavin Newsom a semnat recent o legislație pentru sporirea siguranței copiilor în utilizarea chatbot-urilor și pentru instituirea unor audituri externe de siguranță ale programelor AI.

Apelul lui Dario Amodei reflectă astfel o preocupare tot mai vizibilă în industria tehnologică: dezvoltarea inteligenței artificiale ar putea avansa mai repede decât capacitatea oamenilor de a-i anticipa și controla riscurile.