„Nașul” inteligenței artificiale regretă că nu a prioritizat siguranța tehnologiei, față de utilitate

Unul dintre așa-zișii „nași” ai inteligenței artificiale (AI) a spus că ar fi prioritizat siguranța față de utilitate dacă și-ar fi dat seama de ritmul în care va evolua tehnologia.

Profesorul Yoshua Bengio a declarat pentru BBC că s-a simțit „pierdut” din cauza muncii sale de viață.

Comentariile informaticianului vin după ce experții în inteligență artificială au spus că tehnologia ar putea duce la dispariția umanității.

Profesorul Bengio, care s-a alăturat solicitărilor pentru reglementarea AI, a spus că nu crede că armatelor ar trebui să li se acorde beneficiile acestei tehnologii.

El este al doilea dintre așa-zișii trei „nași” ai AI, cunoscuți pentru munca lor de pionierat în domeniu, care își exprimă îngrijorările cu privire la direcția și viteza cu care se dezvoltă acesta.

Într-un interviu acordat BBC, profesorul Bengio a spus că munca sa de o viață, care i-a oferit direcție și un sentiment de identitate, nu mai este clară pentru el.

„Este o provocare, din punct de vedere emoțional, pentru oamenii care se află în sectorul AI”, a spus el.

„Aș putea spune că mă simt pierdut. Dar trebuie să continuați și trebuie să vă implicați, să discutați, să îi încurajați pe ceilalți”.

Canadianul a semnat două declarații recente prin care îndeamnă la prudență cu privire la riscurile viitoare ale inteligenței artificiale. Unii academicieni și experți din industrie au avertizat că ritmul de dezvoltare ar putea duce la desfășurarea rău intenționată a inteligenței artificiale, pentru a provoca distrugeri, în mod activ.

Proprietarul Twitter și Tesla, Elon Musk, și-a exprimat, la rândul lui, îngrijorările.

„Nu cred că AI va încerca să distrugă umanitatea, dar ne-ar putea pune sub un control strict”, a spus el recent la un eveniment găzduit de Wall Street Journal.

"Există o mică probabilitate ca aceasta să anihileze omenirea. Aproape de zero, dar nu imposibil."

Un alt „naș” al inteligenței artificiale, doctorul Geoffrey Hinton, a realizat, de asemenea, aceleași avertismente ca prof. Bengio și s-a retras recent de la Google, spunând că regretă efortul depus.

Profesorul Bengio a spus pentru BBC că toate companiile care construiesc produse puternice de inteligență artificială trebuie să fie înregistrate.

„Guvernele trebuie să urmărească ceea ce fac, trebuie să le poată audita, iar acesta este doar minimul pe care îl facem pentru orice alt sector, cum ar fi construcția de avioane, mașini sau produse farmaceutice”, a spus el.

"De asemenea, avem nevoie de oamenii care sunt aproape de aceste sisteme să aibă un fel de certificare... avem nevoie de pregătire etică aici. De obicei, informaticienii nu obțin asta, apropo."

Dar nu toată lumea din domeniu crede că AI va reprezenta prăbușirea umanității.

Cel de-al treilea „naș”, profesorul Yann LeCun, care împreună cu profesorul Bengio și doctorul Hinton a câștigat un prestigios premiu Turing pentru munca lor de pionierat, a spus că avertismentele apocaliptice sunt exagerate.

Alții susțin că există probleme mai iminente care trebuie abordate.

Dr. Sasha Luccioni, cercetător la firma de inteligență artificială Huggingface, a spus că societatea ar trebui să se concentreze pe probleme precum părtinirea inteligenței artificiale și răspândirea dezinformării prin chatbot, despre care ea a spus că reprezintă „daune foarte concrete”.

„Ar trebui să ne concentrăm mai degrabă pe asta decât pe riscul ipotetic ca AI să distrugă umanitatea”, a adăugat ea.

Există deja multe exemple de inteligență artificială care aduce beneficii societății. Săptămâna trecută, un instrument AI a descoperit un nou antibiotic, iar un bărbat paralizat a putut să meargă din nou doar gândindu-se la asta, datorită unui microcip dezvoltat folosind AI.

Dar aceste realizări se suprapun temerilor legate de impactul de amploare al inteligenței artificiale asupra economiilor țărilor. Firmele înlocuiesc deja personalul uman cu instrumente de inteligență artificială, un factor decisiv din greva actuală declanșată de scenariști de la Hollywood.