Istoricul si futurologul israelian Yuval Noah Harari avertizeaza ca inteligenta artificiala ar putea ajunge, in urmatorii zece ani, sa depaseasca semnificativ capacitatile intelectuale ale oamenilor si sa dobandeasca o influenta tot mai mare asupra societatii. Intr-un interviu acordat publicatiei The Economist, Harari a sustinut insa ca acest scenariu nu este inevitabil si ca deciziile luate in 2026 de guverne, companii si institutii pot influenta decisiv directia in care va evolua tehnologia.
Harari crede ca AI ar putea depasi inteligenta umana
Autorul volumelor „Sapiens”, „Homo Deus” si „Nexus” priveste dezvoltarea inteligentei artificiale drept un proces care ar putea modifica profund relatiile sociale, institutiile si modul in care sunt luate deciziile.
Harari a comentat inclusiv previziunile formulate de Elon Musk. Miliardarul american a anticipat ca, intr-un interval de aproximativ un deceniu, sistemele AI ar putea deveni mult mai inteligente decat oamenii si ar putea contribui la aparitia unei lumi cu un nivel ridicat de abundenta.
In acelasi timp, Musk s-a declarat sceptic in privinta capacitatii oamenilor de a pastra controlul asupra unei inteligente artificiale mult mai avansate.
Harari considera plauzibila o mare parte a acestei perspective. El estimeaza ca tendintele actuale ar putea conduce, in aproximativ zece ani, la sisteme care sa depaseasca oamenii din punct de vedere intelectual.
Diferenta importanta apare insa atunci cand este discutata inevitabilitatea pierderii controlului. Harari respinge ideea ca oamenii sunt condamnati sa devina spectatori ai unei evolutii tehnologice pe care nu o mai pot influenta.
Pierderea controlului nu este considerata inevitabila
In viziunea istoricului israelian, modul in care este prezentata evolutia inteligentei artificiale are implicatii directe asupra responsabilitatii companiilor care construiesc aceste sisteme.
Harari atrage atentia ca mesajul potrivit caruia AI va deveni imposibil de controlat poate avea si un efect convenabil pentru dezvoltatorii tehnologiei: daca evolutia este prezentata ca inevitabila, responsabilitatea pentru eventualele consecinte poate parea mai redusa.
El descrie actuala etapa drept un moment in care omenirea inca are posibilitatea de a stabili reguli, limite si mecanisme de supraveghere. In opinia sa, tocmai aceasta perioada este critica, deoarece tehnologia nu a ajuns inca intr-un punct in care oamenii sa nu mai poata interveni asupra directiei sale.
Harari a caracterizat dezvoltarea inteligentei artificiale si drept cel mai amplu experiment psihologic si social desfasurat pana acum de omenire, tocmai prin efectele pe care integrarea sistemelor AI le poate avea asupra comportamentului individual si a organizarii societatii.
Marile companii AI cer masuri suplimentare de securitate
Preocuparile legate de inteligenta artificiala nu se limiteaza la scenariile privind sisteme care ar deveni mai inteligente decat oamenii.
La inceputul lunii iunie, directori ai mai multor companii tehnologice importante au solicitat Congresului Statelor Unite consolidarea mecanismelor de control pentru comenzile de ADN si ARN sintetice. Una dintre temeri este ca sisteme AI foarte performante ar putea fi folosite pentru dezvoltarea unor agenti patogeni periculosi.
Apelul a fost sustinut de Dario Amodei, directorul Anthropic, Sam Altman, CEO-ul OpenAI, Demis Hassabis, seful Google DeepMind, Mustafa Suleyman, responsabil pentru divizia AI a Microsoft, si Alexandr Wang, directorul pentru inteligenta artificiala al Meta.
Ulterior, peste 100 de companii din domeniul tehnologiei, inclusiv OpenAI, Anthropic, Google, Microsoft si Amazon, au cerut masuri urgente pentru intarirea securitatii digitale.
Una dintre propuneri presupune ca expertii in securitate cibernetica sa poata testa in mod controlat cele mai avansate sisteme AI inainte de lansarea lor publica. Obiectivul este identificarea vulnerabilitatilor si reducerea riscului ca aceste instrumente sa fie utilizate pentru atacuri informatice.
Adevarata miza este puterea pe care o pot primi algoritmii
Pentru Harari, simplul fapt ca un sistem AI poate deveni mai performant decat un om intr-o anumita activitate nu reprezinta singura problema. Intrebarea esentiala este ce se intampla atunci cand aceasta superioritate se transforma in putere economica, administrativa sau politica.
El avertizeaza ca transferul unui numar tot mai mare de decizii catre algoritmi ar putea schimba treptat modul de functionare al institutiilor.
Un asemenea proces nu ar trebui sa semene cu scenariile spectaculoase din filmele SF pentru a avea efecte importante. Influenta AI s-ar putea extinde gradual, prin integrarea sistemelor automate in banci, instante, administratie si alte structuri care gestioneaza cantitati mari de informatii.
Harari considera birocratia un mediu deosebit de potrivit pentru algoritmi, deoarece presupune procesarea informatiilor, aplicarea unor reguli si luarea repetata a unor decizii.
Riscul apare daca oamenii ajung sa depinda de retele de sisteme AI ale caror procese nu le mai pot intelege sau controla suficient. Intr-un astfel de scenariu, pierderea puterii nu s-ar produce brusc, ci prin delegarea treptata a unor atributii importante.
Mesajul central al lui Harari ramane insa ca viitorul nu este deja decis. Chiar daca sistemele AI ar putea deveni mult mai puternice intr-un deceniu, modul in care sunt construite, reglementate si integrate in societate depinde inca de alegerile facute astazi.
Sursa foto: Facebook / Yuval Noah Harari