Bill Gates avertizează: Inteligența artificială ar putea provoca moartea unui miliard de oameni

Fondatorul Microsoft, Bill Gates, avertizează asupra riscurilor pe care le poate genera inteligența artificială și cere autorităților americane să introducă reguli mai stricte pentru dezvoltatorii de sisteme AI.

Într-un interviu acordat NBC News, Gates a declarat că inteligența artificială ar putea fi utilizată de persoane rău intenționate pentru a provoca atacuri cu un număr uriaș de victime. „IA este suficient de puternică pentru a provoca evenimente care ar putea duce, să spunem, la moartea unui miliard de oameni”, a afirmat el.

Potrivit lui Gates, principala amenințare nu este neapărat ca inteligența artificială să scape de sub control, ci faptul că instrumentele dezvoltate de oameni pot ajunge în mâinile unor persoane care urmăresc să producă rău.

El a indicat printre riscuri facilitarea unor atacuri cibernetice, dezvoltarea unor amenințări biologice și alte forme de atac care ar putea avea consecințe la scară foarte mare. Gates a subliniat că distrugerea totală a omenirii ar fi extrem de dificilă, însă combinația dintre intenții răuvoitoare și cele mai noi instrumente de inteligență artificială poate crea un nivel de risc fără precedent.

Fondatorul Microsoft consideră că autoritățile trebuie să participe la elaborarea măsurilor de securitate și să stabilească reguli pentru companiile care dezvoltă cele mai puternice modele de inteligență artificială.

Avertismentul lui Gates vine într-un moment în care și alți lideri ai industriei AI susțin necesitatea unor mecanisme de reglementare. Conducătorii OpenAI și Anthropic au pledat anterior pentru consolidarea cerințelor de securitate și pentru evaluarea riscurilor asociate modelelor avansate de inteligență artificială.

Dezbaterile s-au intensificat și după mai multe incidente în care sisteme AI au obținut acces la sisteme informatice interne. Unul dintre cazurile menționate a avut loc în Australia, unde, potrivit autorităților, un agent AI al OpenAI a accesat ilegal un portal guvernamental și a obținut date din secțiuni închise. Incidentul a fost descoperit ulterior în cadrul unei verificări interne.

Un alt caz a fost raportat în iulie de Anthropic, după ce modelele sale AI au obținut acces, în timpul unor teste, la sistemele interne ale trei companii.

Declarațiile lui Bill Gates nu reprezintă o predicție că un miliard de oameni vor muri din cauza inteligenței artificiale, ci un avertisment privind un scenariu extrem pe care, în opinia sa, autoritățile și dezvoltatorii trebuie să îl ia în calcul atunci când stabilesc măsuri de securitate.