Roboți de luptă controlați de AI? Companiile de tehnologie sunt forțate să-i dezvolte

În SUA se întâmplă (încă) ceva foarte interesant în aceste zile: Pentagonul se ceartă deschis cu compania Anthropic, care momentan refuză să permită accesul deplin la modelul Claude pentru ca acesta să fie utilizat în roboți de luptă și alte aplicații militare. Guvernul american amenință compania cu măsuri ce ar putea să o falimenteze.

În primul rând, am scris acum aproape 10 ani despre riscul roboților de luptă și de ce nu ar trebui aceștia să existe. Pe scurt, ar fi război fără oprire între două state care utilizează așa ceva. Realist vorbind, unele războaie se încheie pentru că sunt pierderi atât de mari în rândul soldaților care le poartă încât conflictul nu mai poate continua, iar părțile se văd forțate să cadă la pace.

Închipuiți-vă însă două țări care se luptă folosind în principal arme robotizate. Drone, avioane fără piloți, roboți șenilați cu mitraliere pe ei etc. Aceștia se pot produce cu sutele pe zi în fabrici. A doua zi pot fi aruncați unul împotriva altuia, distrugându-se reciproc. Rezultă o linie a frontului care poate fi nemodificată cu lunile, în care singurele victime vor fi civilii care trăiesc în acele zone și care, din diverse motive, nu se pot refugia de acolo.

Am scria asta înainte de invenția AI-urilor moderne, care doar vor face roboții de luptă mai letali. Și asta este miza celor care doresc roboți de luptă: arme mai letale, mai performante, mai puternice.

Întorcându-ne la scandalul din SUA, Anthropic face un AI foarte bun, numit Claude, iar CEO-ul companiei a declarat că nu va permite utilizarea capacităților sale complete în aplicații militare sau care pun în pericol vieți omenești sau care fac supraveghere în masă.

Pentagonul vrea însă astfel de utilizări. În cea mai recentă rundă de întâlnire între Secretarul Apărării Pete Hegseth și CEO-ul Anthropic, Dario Amodei (nume care pare luat direct din Game of Thrones, nu?), Pentagonul a dat companiei americane termen până vineri să vină cu un răspuns la cerința armatei, altfel le va rupe contractul.

Anthropic are un contract mare cu statul american, 200 de milioane de dolari, dar, după cum am spus, cu anumite clauze ce limitează utilizarea software-ului Anthropic la anumite domenii, nu arme și supraveghere în masă.

OK, compania ar putea pierde contratul. Pentagonul a amenințat însă public compania Anthropic cu o măsură mult mai dură: desemnarea companiei ca un risc de securitate, ceea ce ar putea chiar să o falimenteze.

O companie aflată pe această listă de “supply chain risk”, cum se numește ea, are interdicție totală din întreg lanțul logistic. Altor companii terțe, dacă vor contracte sau au deja unele cu statul american, le este interzis să folosească sau să contracteze produse de la companii din lista de risc.

Altfel spus, Boeing, Microsoft, Northrop, Raytheon, General Motors și orice altă companie cât de mare sau mică, indiferent dacă livrează Pentagonului submarine și tancuri sau imprimante și bidoane de apă, nu ar avea voie să utilizeze software Anthropic în munca lor. Având în vedere că probabil lanțul de aprovizionare al Pentagonului este foarte lung, asta ar echivala cu un faliment pentru Anthropic dacă dintr-o dată ar pierde dreptul de lucra cu multe alte companii private.

Și ca să vedeți cât de mult s-a schimbat politica americană și felul în care SUA pune problema (în caz că problema Groenlanda n-ar fi fost deja edificatoare), mai rețineți următoarele:

• lista aceasta de companii cu grad de risc include de obicei companii străine, deținute de țări adversare, precum companii chinezești sau rusești. Anthropic este o companie americană, fondată de americani, foști angajați ai OpenAI.
• numele companiilor incluse pe acea listă nu este făcut public. Este o treabă secretă între Pentagon și furnizorii săi. Faptul că Anthropic este amenințată public acum cu asta este o premieră.
• nu există un risc, de fapt. Anthropic pur și simplu refuză să vândă Pentagonului anumite produse software de-ale sale. Includerea pe acea listă ar fi pur și simplu o răzbunare, nu o consecință a unui risc real, iar autoritățile americane, de fapt, recunosc acest lucru.

Vremuri ciudate. Mai merită spus că, până acum, Claude era singurul AI disponibil pentru utilizare în aplicații secrete. Recent xAI a dat Pentagonului permisiunea să folosească AI-ul Grok după cum vrea în acest scop, iar surse din Pentagon spun că Google și OpenAI sunt aproape de a obține aceleași certificări sau ce-o fi acolo. Sunt sigur că și banii sunt foarte buni, probabil miliarde de dolari la mijloc.

De ce refuză Anthropic? CEO-ul Amodei a declarat că acestea sunt principiile pe care au întemeiat compania. Se cam dovedește, însă, că principiile unei companii private nu contează așa mult dacă armata, statul în sine, are toate pârghiile necesare pentru a-i obliga să facă ce vrea.

Treaba asta ar putea declanșa o nouă cursă a înarmării. Ați văzut deja tot felul de drone de luptă pe la parade, precum cea chinezească. Dacă vor fi și controlate de AI-uri, nu de operatori umani, pot fi lansate în număr practic nelimitat.

Citiți mai multe: CNN, Politico, The Verge.