un blog de Radu Dumitru

►► canalele mele de YouTube: youtube.com/RaduDumitru (personal) și youtube.com/NwraduBlog (tech) ◄◄

Am ajuns la momentul când se cere o interzicere a roboților de luptă

30 Jul 2015  ·

TEHNOLOGIE  ·

11 comentarii

Dacă n-ar fi în The Guardian, aș zice că e glumă, dar bănuiesc că nu este. Mai mulți oameni de știință, ingineri și antreprenori, peste 1000 la număr, au semnat o scrisoare deschisă prin care cer interzicerea cercetării și dezvoltării de sisteme autonome de luptă, altfel spus roboți înarmați, și au avertizat privind riscurile dezvoltării de inteligențe artificiale.

Partea cu roboții de luptă, mașinării autonome de război, o înțeleg pe deplin. Atenție, aici nu se referă la inteligență artificială, ci doar la tehnică de luptă complet robotizată, iar termenul autonom presupune o programare elaborată, un software capabil să ia decizii în funcție de situația de la fața locului, așa cum și un computer ce joacă șah se poate adapta la modificările de pe tabla de joc fără a fi, în practică, un AI.

Și eu sunt convins că eliminarea soldaților umani de pe câmpul de luptă va duce la scăderea victimelor, dar la distrugeri mult mai mari și la războaie de lungă durată. E un paradox aici, dar pierderea de vieți omenești în luptă duce, de fapt, la căutarea unor soluții de pace care să termine conflictul.

Gândiți-vă la războiul din Vietnam sau la cele recente din Afganistan și Irak. Americanii s-au retras din ele după ce numărul tot mai mare de victime și atrocitățile de ambele părți am schimbat complet percepția publicului. Fotografii precum aceasta au făcut oamenii să iasă în stradă și să ceară stoparea luptelor.

Acum imaginați-vă că războaiele ar fi fost duse de roboți cu mitraliere pe braț, de drone, de tancuri fără echipaj uman. Luptele ar fi durat la nesfârșit; roboții nu obosesc, nu au moral, nu cer mâncare, nu pot fi răniți fără a fi înlocuiți sau reparați a doua zi. Civilii vor fugi din zonă, iar în lipsa lor armatele robotice ar utiliza arme grele, distrugând orice le stă în cale pentru că factorul uman, cel care înseamnă milă, compasiune, grija de a nu înregistra victime în rândul soldaților tăi sau al civililor din teren, ar fi eliminat.

Ar fi ani în șir în care armate robotice s-ar înfrunta, iar tot ce-am aflat noi ar fi știri reci despre cine ce-a mai cucerit și distrus. Nu ne-ar păsa prea mult, nu mor oameni reali, ci roboți. Lupta de cine ar fi câștigată, de cei care pot produce mai mulți roboți, de cei care-i pot înlocui mai rapid pe cei distruși cu o zi înainte? Astfel de conflicte de durată ar fi o posibilitate continuă de a testa noi tehnologii și o bucurie pentru producătorii de armament și roboți. Oamenii nu pot fi înlocuiți ușor, dar roboții da.

Asta în luptă deschisă, unde ar deveni acceptabil să distrugi orice, pierzând doar tablă și procesoare, și mai ales în luptă de la egal la egal, între țări mari, cu tehnologie și fabrici de amploare.

Când e vorba de conflicte disproporționate și intrând în orașe sau zone cu civili, lucrurile devin și mai dezavantajoase. N-ai mai avea soldați care să cerceteze cu atenție, cu precauție, fiecare metru de teren, ci roboți care ar intra în forță, fără teamă, iar civilii de la fața locului, mai ales în tot felul de țări de lumea a treia, nu sunt așa importanți. E o realitate crudă, dar o realitate, dovadă zecile de mii de morți din conflictele recente. Pune un robot într-un oraș și inamicul va descoperi că nu-l poate elimina cu un glonț, ci trebuie o rachetă, iar cât distruge aceasta în jur devine o pierdere colaterală și gata.

Sigur, ideea este pe total proastă oricum, în lipsa unor roboți cu adevărat inteligenți. Poți face mașini de luptă, le poți face autonome, dar la final tot cu soldați umani trebuie să ocupi o țară. Numai aceștia pot ține populația sub control, îi pot câștiga încrederea, pot impune o schimbare de conducere sau de mentalitate. Un robot nu va sugera niciodată încredere, ci doar teama să nu interpreteze greșit gesturi sau informații de la senzorii săi. Or, după cum au demonstrat tot americanii, ei sunt capabili de a cuceri o țară aproape fără victime și în timp scurt, dar să menții acolo o forță de ocupație înseamnă mii de morți în lupte de gherilă și atentate.

Iată un tabel cu număru de victime din rândul coaliției în Afganistan. În 2001 și 2002 numerele sunt mici, țara a fost cucerită rapid. Haosul a început ulterior.

coalition_deaths_afganistan

Irak-ul a căzut la fel de rapid, dar uitați câte victime au fost în anii următori.

coalition_deaths_irak

Și vorbim doar de soldați din rândul coaliției. Când e vorba de civili, asta nu pare să fie de interes pentru nimeni, deși până în prezent, doar în Irak, vorbim de între 140.000 și 160.000 de civili morți din 2003 încoace, în funcție de cum îi numeri. Închipuiți-vă ce-ar fi cu roboți aproape invulnerabili pe acolo și ce arme ar fi necesare pentru a-i distruge.

civili_irak

Deci avem două dezavantaje mari pentru armate robotizate: conflicte de durată și distrugeri foarte mari, ambele posibile pentru că nu mai sunt implicați așa mulți oameni, ba chiar totul devine o afacere cu consumabile în cantități mari. Semnatarii scrisorii consideră că suntem la doar câțiva ani distanță de posibila implementare a unor astfel de mașini de luptă, că doar tehnologia există.

Cât despre inteligență artificială în adevăratul sens al cuvântului, eu cred că mai avem mult până acolo. AI înseamnă mai mult decât o programare bună, exhaustivă, ce acoperă toate situațiile posibile, înseamnă tocmai capacitatea de a învăța și a se adapta la noi situații, de a înțelege nuanțe fine ale exprimării și comportamentului șamd.

Asta mi se pare greu de făcut. Când se va face, dacă se va face, vedem atunci cum o fi. Da, există o posibilitate ca un computer să se considere amenințat de faptul că un om l-ar putea scoate din priză și deci ar putea să-și asigure propria securitate eliminând oamenii, ca Skynet. Da, poate că vom avea cele trei legi ale roboticii și totul va fi roz și bine, deși roboți care să ne facă treaba ar însemna o distrugerea a economiei și nu știu din ce-am mai trăi fiecare și ce motivație am avea să progresăm mai departe, mai mult, dacă toți am avea casă, piscină, viață bună și tot ce ne dorim. Cei din Star Trek n-au reușit niciodată să explice asta.

AI-ul va fi precum un copil. Depinde cum îl crești și cum îl faci să înțeleagă lumea din jurul său. Poate ajunge bun sau rău, în funcție de asta.

    11 comentarii

  1. The rise of skynet….

      (Citează)

  2. Motivația din Star Trek ține de progresul societății, nu de progresul tău ca individ. Atunci când nevoile materiale nu mai sunt o problemă, setea de cunoaștere și de înțelegere a ceea ce te înconjoară sunt motivații mai puternice decât orice altceva. Sper doar ca în drumul până la viitorul ăla să nu fim nevoiți să trecem prin WW3, cum s-a întâmplat în Star Trek.

      (Citează)

  3. Odata cu expansiunea robotilor si a inteligentei artificiale cred ca ar trebui sa ne ingrijoram mai mult de faptul ca locurile de munca disponibile (oamenilor) vor fi din ce in ce mai putine.

    Uber intentioneaza ca din anul 2020 sa lanseze pe strazile din New York 500.000 de taxiurile fara sofer! https://www.youtube.com/watch?v=c5TNuJCEMn0

    “In May 2014, Uber’s chief executive, Travis Kalanick, told Code conference that “the reason Uber could be expensive is because you’re not just paying for the car — you’re paying for the other dude in the car.

    “When there’s no other dude in the car, the cost of taking an Uber anywhere becomes cheaper than owning a vehicle. So the magic there is, you basically bring the cost below the cost of ownership for everybody, and then car ownership goes away.””

      (Citează)

  4. Uber intentioneaza ca din anul 2020 sa lanseze pe strazile din New York 500.000 de taxiurile fara sofer!

    Err. Rectific: Uber intentioneaza sa cumpere 500.000 de masini autonome pe care probabil ca le vor distribui prin toata lumea.

      (Citează)

  5. “Cât despre inteligență artificială în adevăratul sens al cuvântului, eu cred că mai avem mult până acolo.”

    Foarte mult nu mai este.. http://www.waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html

      (Citează)

  6. Eu sunt de parere ca un conflict intre roboti va dura foarte putin si un invingator va fi declarat foarte repede – vezi Robot Wars de pe Discovery. In realitate robotii nu vor fi identici si echilibrati, una din parti va avea mai multi bani si va face un robot net superior care se va impune foarte repede.

    Cursa nu mai poate fi oprita, cine va avea primul robotii de asalt va castiga lumea iar ceilalti vor avea mari pierderi de oameni si echipament si nu vor mai avea resursele sa isi faca proprii lor roboti.

    SUA au castigat al doilea razboi mondial pentru ca au avut tancuri si avioane usor superioare fata de cele nemtesti si japoneze si au avut resursele sa le produca si sa le tina functionale. Tancurile germane proiectate la sfarsit de razboi erau mai bune decat cele americane si britanice cu mult, dar nu au mai apucat sa le produca in masa. Germanii nu mai aveau nici motorina sau benzina necesara sa tina in miscare tancurile deja produse.

      (Citează)

  7. Gaelex: eparați a doua zi. Civilii vor fugi din zonă, iar în lipsa lor armatele robotice ar utiliza arme grele, distrugând orice le stă în cale pentru că factorul uman, cel care înseamnă milă, compasiune, grija de

    Voi vorbiti cu nonsalanta de razboi fulger cu armate robotice. In extremis orice stat aflat pe punctul de a fi infrant poate utiliza bomba atomica. Urmeaza o reactie in lant, evident..

      (Citează)

  8. Roboti care sa faca tot ce spui sunt posibil de creeat chiar si cu tehnologiile actuale (deci cel mai probabil au fost deja creeati). Principala lor problema este timpul in care pot sta in picioare .

      (Citează)

  9. “nu pot fi răniți fără a fi înlocuiți sau reparați a doua zi”

    ma, da-i dracu de roboti…sunt invincibili si/sau ieftini si usor de produs?

      (Citează)

  10. Presupun ca pierderile acelea sunt ale armatelor regulare, ori participarea in razboaie se face si cu armate private.
    Outsourcingul e de fapt o evitare a responsabilitatii. In 2013 in Irak erau cam 50/50 participantii armatei regulare alaturi de armate private.

    Cei din armatele private nu respecta aceelasi reguli ca cei din armatele regulare, ceea ce e un subiect discutat prin presa americana.

      (Citează)

    Alătură-te discuției, lasă un mesaj

    E-mail-ul nu va fi publicat. Fără înjurături și cuvinte grele, că vorbim prietenește aici. Gândiți-vă de două ori înainte de a publica. Nu o luați pe arătură doar pentru că aveți un monitor în față și nu o persoană reală.

    Apăsați pe Citează pentru a cita întreg comentariul cuiva sau selectați întâi anumite cuvinte și apăsați apoi pe Citează pentru a le prelua doar pe acelea. Link-urile către alte site-uri, dar care au legătură cu subiectul discuției, sunt ok.


    Prin trimiterea comentariului acceptați politica de confidențialitate a site-ului.



    Vreți un avatar în comentarii? Mergeți pe gravatar.com (un serviciu Wordpress) și asociați o imagine cu adresa de email cu care comentați.

    Dacă ați bifat să fiți anunțați prin email de noi comentarii sau posturi, veți primi inițial un email de confirmare. Dacă nu validați acolo alegerea, nu se va activa sistemul și după un timp nu veți mai primi nici alte emailuri

    Comentariile nu se pot edita ulterior, așa că verificați ce ați scris. Dacă vreți să mai adăugați ceva, lăsați un nou comentariu.

sus