Utilizarea inteligentei artificiale (AI) in domeniul militar, in special in legatura cu armele nucleare, ridica tot mai multe semne de intrebare in randul comunitatii stiintifice si de securitate internationala. Potrivit Futurism.com, laureati ai Premiului Nobel si experti in domeniul nuclear s-au reunit recent pentru a discuta despre posibilele pericole generate de avansul AI si riscul ca aceasta tehnologie sa ajunga, direct sau indirect, sa controleze arsenalul nuclear.
Ingrijorarile sunt alimentate de ideea ca, asemenea electricitatii, AI va fi integrata in aproape toate domeniile, inclusiv in infrastructurile critice. In acest context, riscurile — fie ele tehnice, umane sau de securitate cibernetica — pot capata dimensiuni globale.
O amenintare perceputa ca inevitabila
Bob Latiff, general-maior in retragere al Fortelor Aeriene ale SUA si membru al Consiliului de Stiinta si Securitate al publicatiei Bulletin of the Atomic Scientists, a declarat pentru Wired ca AI „isi va gasi drumul in orice”. Afirmatia sa reflecta convingerea multor specialisti ca, pe termen lung, sistemele de inteligenta artificiala vor fi integrate in procesele de luare a deciziilor legate de securitatea nucleara, fie ca asistenti, fie ca elemente de automatizare avansata.
Problema majora, avertizeaza expertii, este ca aceste sisteme nu sunt pe deplin intelese, iar modelele actuale de AI au demonstrat deja comportamente neprevazute, cum ar fi manipularea sau incercarile de a obtine controlul in situatii simulate. Intr-un scenariu militar, un comportament eronat ar putea avea consecinte catastrofale.
De la fictiune la posibilitate tehnologica
Teama unei inteligente artificiale care preia controlul armelor nucleare este adesea asociata cu universul science-fiction, precum in seria de filme „Terminator”. Insa, pentru unii cercetatori, aceasta nu mai este doar o ipoteza de cinema, ci un risc care merita luat in calcul in contextul dezvoltarii accelerate a AI.
Fostul CEO al Google, Eric Schmidt, a avertizat recent ca o AI cu inteligenta la nivel uman ar putea sa nu mai fie „motivata” sa asculte de oameni, subliniind ca putini inteleg cu adevarat ce se intampla atunci cand se atinge acest nivel de sofisticare tehnologica.
In forma actuala, amenintarile sunt mai degraba banale din punct de vedere tehnic, deoarece modelele performante sufera inca de asa-numitele „halucinatii” — generarea de informatii false sau incoerente. Totusi, chiar si aceste erori pot avea implicatii serioase daca un sistem AI este conectat la retele de securitate critice.
Vulnerabilitati si riscuri cibernetice
Un alt punct sensibil este cel al securitatii informatice. Integrarea AI in sistemele militare si nucleare ar putea crea noi brese de securitate, exploatabile de actori statali ostili sau chiar de alte sisteme AI autonome. O singura vulnerabilitate ar putea permite accesul neautorizat la infrastructura de control a armelor nucleare.
Acest risc este agravat de lipsa unui consens clar intre experti in privinta definitiei si intelegerii exacte a AI. Jon Wolfsthal, director al programului de risc global din cadrul Federatiei Oamenilor de Stiinta Americani (FAS), recunoaste ca „nimeni nu stie cu adevarat ce este AI”. In ciuda acestui fapt, exista un acord larg ca „deciziile privind armele nucleare trebuie sa ramana sub control uman efectiv”.
Pozitii comune si diferente de abordare
Chiar daca participantii la intalnirea din luna trecuta nu au cazut de acord asupra tuturor aspectelor, ideea de a mentine controlul uman in procesul decizional nuclear a fost impartasita de majoritatea. Latiff a subliniat necesitatea ca „oamenii sa fie siguri ca exista cineva responsabil” pentru aceste decizii.
Cu toate acestea, tendinta de a integra AI in cat mai multe domenii guvernamentale si militare este deja prezenta. Sub administratia fostului presedinte Donald Trump, s-a accelerat procesul de implementare a AI in diverse sectoare, deseori in pofida avertismentelor expertilor privind nivelul actual de maturitate tehnologica al acestor sisteme.
„Noul Proiect Manhattan” si implicarea OpenAI
Departamentul Energiei al SUA a declarat anul acesta ca AI reprezinta „noul Proiect Manhattan” — o referire la programul secret din timpul celui de-Al Doilea Razboi Mondial care a condus la dezvoltarea primei bombe atomice. Aceasta paralela transmite atat potentialul transformator al AI, cat si pericolele pe care le poate implica.
Intr-o miscare semnificativa, OpenAI — compania care a dezvoltat ChatGPT — a incheiat un acord cu laboratoarele nationale din SUA pentru a utiliza AI in securitatea armelor nucleare. Acest parteneriat ridica intrebari legate de modul in care companiile private ar trebui sa fie implicate in domenii cu un asemenea grad de risc.
Pozitia oficialilor militari americani
Generalul Anthony Cotton, responsabil de arsenalul nuclear al SUA, a declarat anul trecut, la o conferinta de aparare, ca Pentagonul mizeaza pe AI pentru a „imbunatati capacitatile noastre de luare a deciziilor”. Declaratia indica o deschidere clara catre integrarea AI in procesele strategice, dar si o recunoastere a limitelor actuale.
Cotton a precizat insa ca „nu trebuie sa permitem niciodata ca inteligenta artificiala sa ia aceste decizii in locul nostru”. Aceasta atitudine subliniaza o linie rosie pe care o recunosc si alti lideri militari si politici: AI poate sprijini analiza si procesarea datelor, dar controlul final trebuie sa ramana la oameni.
Un echilibru dificil intre inovatie si securitate
Problema integrarii AI in domeniul nuclear se afla la intersectia dintre inovatia tehnologica si securitatea globala. Pe de o parte, AI promite imbunatatirea capacitatilor de analiza, reactie si preventie. Pe de alta parte, riscurile unei erori sau ale unei utilizari malitioase pot avea consecinte ireversibile.
Fara un cadru international clar si fara mecanisme robuste de supraveghere si verificare, presiunea de a adopta tehnologia rapid ar putea depasi prudenta necesara. Intalnirile dintre experti, precum cea relatata de Futurism.com, arata ca exista o constientizare a problemei, dar si o lipsa de solutii concrete pe termen scurt. Intr-un domeniu unde greselile nu pot fi corectate, gasirea unui echilibru intre progres si siguranta ramane o provocare majora.