un blog de Radu Dumitru

►► canalele mele de YouTube: youtube.com/RaduDumitru (personal) și youtube.com/NwraduBlog (tech) ◄◄

Producătorii mașinilor autonome vor fi responsabili pentru accidentele acestora, nu șoferii lor

31 Jan 2022  ·

AUTO, TEHNOLOGIE  ·

22 comentarii

Sunt două probleme filosofice legate de mașinile autonome și felul în care se vor comporta pe străzi. Prima problemă este legată de responsabilitatea în caz de accident: dacă mașina autonomă lovește ceva, un pieton, un alt autovehicul, cine va fi de vină: producătorul mașinii, care nu a făcut software bun de conducere autonomă, sau omul dinăuntrul mașinii, care poate se uita pe Instagram la femei sărind în piscină în loc să fie pe fază pentru a prelua controlul manual?

Și acum, în premieră, niște experți legali din Marea Britanie și-au dat cu părerea despre această situație. Specialiștii unei comisii care gândește legile pentru viitoare mașini autonome au concluzionat că șoferul nu va fi responsabil pentru cum conduce mașina, iar întreaga responsabilitate pentru orice incident aparține producătorului tehnologiei de condus autonome. Altfel spus, producătorul mașinii autonome va fi de vină.

Șoferul rămâne responsabil doar pentru alte aspecte: să aibă asigurările necesare, să fie mașina cu verificările la zi, să poarte ceilalți pasageri centura șamd.

Este o primă opinie, nici măcar o lege aprobată în parlament. Dar multe alte țări ar putea copia acest model legal, părerea fiind probabil similară și în alte țări.

Personal mi se pare că asta pune o opreliște mare în dezvoltarea mașinilor autonome. Dacă producătorii de automobile vor fi dați în judecată pe bani mulți pentru orice accident mai grav, nu mai rentează să producă astfel de automobile. Sau poate îți vor vinde chiar ei asigurarea auto, dar la un preț mult mai mare, sau își vor face singuri asigurări RCA, per companie, ca să facă față.

Și totuși, acesta este principalul motiv pentru care ai cumpăra o mașină autonomă: ca tu să stai în fotoliu, relaxat în ea, fără a mai fi atent la trafic. Câștigi acel timp, scapi de grija șofatului.

În plus, eu am gândit mereu că mașinile autonome ar putea reduce accidentele prin comunicație machine-to-machine și coordonare automată între ele. Adică n-ar trebui să detecteze cu senzorii proprii că în intersecție intră o altă mașină, ci și-ar raporta între ele pozițiile unui server și ar ști dinainte la ce să se aștepte.

Pentru asta, însă, este nevoie doar de mașini autonome pe șosea. În primele decenii, când vor fi alături de cele manuale, vor fi probabil mai multe accidente decât înainte când șoferii mașinilor clasice vor lua prin surprindere senzorii și algoritmii celor autonome. Și atunci producătorilor nu le va conveni să plătească despăgubiri mari pentru tot felul de erori software cu consecințe gravă.

A doua problemă filosofică este următoarea: dacă un accident nu poate fi evitat, pe cine alege mașina autonomă să accidenteze. De exemplu, dacă are de ales între a lovi un om care-i sare brusc în față și “a trage de volan”, ieșind în afara drumului și rănindu-și proprii pasageri, ce ar trebui să aleagă? Dar între a lovi 3 copii și a intra într-o zid, cu risc doar pentru șofer? Să zicem că îi taie brusc calea un alt autovehicul sau detectează o mare groapă în carosabil, iar mașina autonomă are de ales între a trage stânga de volan, lovind niște copii de pe trotuar, sau a trage dreapta de volan, lovind un zid cu viteză mare și risc pentru pasagerii săi. Ce ar trebui să aleagă?

Intuiția îmi spune că normal ar fi să aleagă bunăstarea proprietarului, că omul a dat bani pe mașină pentru a fi în primul rând el în siguranță. Dpdv etic, însă, se poate dezbate multă vreme această problemă.

sursa: Jalopnik.

    22 comentarii

  1. Masina trebuie sa aibe grija de ocupantii ei si sa ii tina cat mai in siguranta.

    Problemele astea filosofice cu cat valoreaza o viata se intalnesc cu realitatea, si realitatea castiga.

    Uite un exmplu care ar putea fi o
    realitate in cativa ani: Musk e intr-o Tesla complet autonoma si ca sa evite un accident, masina are de ales intre a-si rani ocupantul serios spre fatal, sau sa omoare sigur 20 de cersetori. Ce ar trebui masina sa faca?

      (Citează)

    • 20 de oameni? Tesla e tanc?

        (Citează)

    • Gouranga.

      E ca în bancul cu bărbați care vor să joace poker pe propriile neveste ca miză și unul din ei zice să pună și niște bani ca să fie jocul serios. O fractură la Musk = 20 oameni morți. Asta ca să știm unde suntem.

      Până și Radu a pus “copii” acolo că doar unul bănuiesc că e deja acceptat să omori decât să iei o groapă în plin (dacă poliția are voie 2 copii noi restul măcar unul).

      @Radu: Serios? Tu mai și citești ce scrii? O mașină scumpă sau cocalarul din ea e mai importantă decât un copil nevinovat pe stradă? Pardon, copii. Sau poate nu sunt copii, poate e o familie. Mamă, tată, copil. Așa ca voi.

        (Citează)

  2. Mașinile autonome sunt încă doar marketing și așa vor rămâne probabil

    https://youtu.be/z-ht58R37S4

      (Citează)

  3. Cum ar fi ca nici în aviație să nu mai fie producătorul vinovat pentru erorile de design ale pilotului automat?

    Probabil o să se ajungă la ceva asemănător ca în aviație unde și piloții și sistemele de automatizare sunt vinovate în mod coroborat.

      (Citează)

  4. Eu cred ca problema are o solutie: gradul de autonomie a mașinii. De la un anumit nivel în sus șoferul nu mai poate fi făcut răspunzător, iar de la un anumit nivel în jos mașina nu mai poate fi răspunzătoare. Adevărata problema pe care o vad eu este cea a împărțirii responsabilității între mașina și stat:daca drumul nu e marcat corespunzător, dacă hărțile nu sunt actualizate, dacă lucrarile erau nesemnalizate…. Închipuiți-vă statul roman lucrând în interesul cetățeanului din perspectiva asta!

      (Citează)

  5. Am vrut sa intru la zoso si am fost convins ca am intrat si nu-mi venea sa cred ce articol interesant a scris. :-)

    Eu cred ca pana nu dispar toate masinile manuale, nu este posibil ca responsabilitatea sa fie la companie, ea va fi la proprietar. Cand cainele tau dresat musca pe cineva, nu poti sa dai vina pe dresor.

    Iar in viitorul indepartat cad nu vor exista decat masini autonome, probabil nu va mai fi nimeni proprietar, ci vom inchiria toti masini.

    Oricum, mie mi se pare periculos sa fie raspunderea la companie. Tu zici ca saracele vor fi intimidate sa mai dezvolte tehnologii etc dar eu cred ca e fix invers: exista pericolul ca sa musamalizeze cazurile astea. Cam care crezi ca sunt sansele de castig in instanta ale unui individ vs Tesla etc?

      (Citează)

  6. Am scris un comm lungut si a intrat in moderare. Poate il vezi, merci

      (Citează)

  7. Moderarea unor astfel de incidente ar trebui sa se faca in functie de corectitudinea situatiei si nicidecum dintr-o privinta etica. Pentru ca nu ai cum sa masuri moralitatea pentru un vehicul autonom.

    A sarit un pasager in fata masinii? E calcat. Ocupantii nu sunt de vina, masina a respectat regulile de circulatie.

    Masina a suferit o problema tehnica, a incercat sa evite un accident, a urcat pe trotuar? De vina sunt cei care au produs accidentul pe care masina a incercat sa-l evite.

    Nu vad situatii in care masina trebuie sa aleaga intre 2 copii si o pisica sau 2 batrani. Nu alege intre nimeni. Frana pe traiectoria pe care era daca nu se poate evita si daca se opreste bine, daca nu asta e.

    Momentan mi se pare ca problema se pune din puncte de vedere precum ca masina autonoma ar circula pe strazi in alegere constanta de pe cine sa loveasca, nu sa evite ceva.

      (Citează)

  8. Deja Mercedes a anuntat ca masinile lor autonome vor fi programate sa protejeze soferul si pasagerii, in defavoarea pietonilor sau altor participanti la trafic.

    Legat de responsabilitatea in caz de accident, este normal ca cada in sarcina producatorului. Folosesti o masina autonoma ca sa stai mai relaxat in timpul calatoriei, ar fi aberant sa fii tras la raspunedere pentru o manevra gresita facuta de computer.
    De exemplu sa spunem ca masina se deplaseaza pe un drum national cu viteza maxima legala de 100 km/h si se apropie o curba stransa unde tu ca sofer ai avea tendinta de a incetini. Insa computerul stie ca masina poate naviga acea curba fara probleme si continua cu aceeasi viteza. Poate pe drum este o pata de ulei, derapezi si intri in masina de pe contrasens.
    In aceasta situatie soferul nu are nici cea mai mica vina pentru decizia computerului.

    Singura problema este ca vom duce accidentele cu victime din zona penala in zona economica. Nu va mai exista riscul ca cineva sa fie condamnat la inchisoare, se vor stabili doar niste valori ale despagubirilor. Se va pune un pret fix pe viata umana.

    O problema etica va fi: cum te asiguri ca toti producatorii vor pune acelasi accent pe prevenirea accidentelor cu victime colaterale?
    Poate producatorii de masini de lux decid ca ei isi permit sa plateasca de 2-3 ori mai multe daune si pun niste limite de siguranta mai mici pe masinile lor.

      (Citează)

  9. Mi se pare o problema minora in calea dezvoltarii tehnologiei. Teoretic, tehnologia va duce la reducerea numarului de accidente. Daca fabricantul devine responsabil, atunci pe el l-ar costa mai putin asigurarea impotriva riscului. Si clasele de riscuri vor fi atribuite fiecarui producator, nu soferului, ca teoretic, toate masinile se vor comporta similar.

    Pentru tarile in care RCA-ul este pentru sofer, nu pentru masina (WTF noi!), nu se schimba nimic.

      (Citează)

  10. Daimler au raspuns acum 6 ani care e pozitia lor:
    https://fortune.com/2016/10/15/mercedes-self-driving-car-ethics/

      (Citează)

  11. Si din aceste cauze, nu cred ca vom avea niciodata masini complet autonome.

      (Citează)

  12. 1. masina “dumb”, condusa manual. dai peste un pieton => ucidere din culpa. chiar daca e vina sau nu a soferului
    2. masina “smart”, autonoma, prin diverse imprejurari ajunge sa omoare un pieton. cine e de vina ? soferul in nici un caz ca nu a condus. legal va fi un cosmar

      (Citează)

  13. Daca va fi asa atunci producatorii nu vor spune niciodata ca masina e full autonoma. Sau vor spune doar pentru marketing, in contract scriind altceva.

    Si vis-a-vis de interconectarea masinilor, mi se pare mai viabil sa optimizeze la maxim softul pentru orice fel de situatii in trafic decat sa se puna la o intelegere pentru un soft comun. Avem experienta telefoanelor, unde in afara de apple simbioza intre device-uri e cel mult mediocra. Sa faci asta cu zeci de marci si in situatii diverse (internet de mare viteza permanent/conditii meteo/etc) mi se pare imposibil.

      (Citează)

    • Exista si acum o oarecare simbioza prin softurile de navigare precum Google Maps sau Waze. Acestea se bazeaza pe informatii primite de la ceilalti participanti la trafic pentru a te indruma pe traseul cel mai rapid.

        (Citează)

    • Google a cumparat Waze, aplicatiile celor 2 companii fac schimb de informatii intre ele, nu e nici o simbioza.

      Folosirea informatiilor de la ceilalti participanti la trafic se cheama crowd intelligence cred.

        (Citează)

    • @Gaelex, ma refeream la faptul ca Google Maps/Waze functioneaza in simbioza pe telefoane si sisteme de operare diferite (Android/iOS). Poate si pentru masinile autonome se va face un soft care sa fie instalat pe toate modelele si sa transmita anumite informatii de atentionare in retea.
      Exemple:
      – pe autostrada are loc un accident, urmatoarele 100 de masini primesc atentionare de la masinile din fata si franeaza din timp, evitand un carambol;
      – masina X vrea sa vireze la dreapta in urmatoarea intersectie si semnalizeaza masinilor din fata sa ii lase libera prima banda cand se opresc la semnafor;
      – camionul de pe banda 1 vede ca un pieton se angajeaza in traversare si semnalizeaza masinii de pe banda 2 sa incetineasca si sa se pregateasca de franare;
      – pe un drum cu 1 singura banda, masina ta vrea sa depaseasca tir-ul din fata; acesta analizeaza drumul (fiindca are vizibilitate mai buna) si semnaleaza cand este in siguranta sa inceapa depasirea;

        (Citează)

  14. Producatorul este de vina atata timp cat nu livreaza masina cu condusul in mod manual si cu ceva obstacole de trecut pentru activarea condusului automat.

    Este o prostie sa fie responsabil producatorul pentru modul in care ii este folosit un produs de catre cumparator. Ar intra in puscarie toti producatorii de cutite de bucatarie pentru crimele in care au fost folosite produsele lor.

      (Citează)

  15. Sincer, cred ca nu se va ajunge acolo.

    Va fi ca acum, in care in orice licenta de software scrie cu vorbe frumoasa ca il folosesti complet pe barba ta. Ar fi si imposibil sa fie altfel pentru cei ce vand software pe o piate orizontala larga.

    Daca situatia devine prea albastra (prea multe incidente/prea multi morti) se va proceda la blocarea comercializarii sau, si/sau, a circulatiei unor anumite modele. De abia atunci utilizatorii vor avea poate parghii sa ceara ceva companiei producatoare (banii inapoi, de exemplu) si de aici incolo se poate intampla orice.

    O sa fie complicat, cel putin la inceput.

      (Citează)

    • Eu sper ca exact asa sa se intample. Compania care a produs masina sa fie direct responsabila pentru orice accident ce a avut loc in timpul deplasarii autonome. Si sa existe niste limite foarte bine puse la punct pe care daca nu le ating sa piarda licentele de constructori. De exemplu daca in cazul masinilor clasice avem un numar de 10 accidente pe X km, in cazul masinilor autonome targetul ar trebui sa fie undeva pe la maxim 5 accidente pe aceiasi X km.

        (Citează)

  16. World’s First “Driver Out” Fully Autonomous Semi-Truck Operating on Open Public Roads | TuSimple

    https://m.youtube.com/watch?v=dGglN4J9zZ0&feature=youtu.be

      (Citează)

    Alătură-te discuției, lasă un mesaj

    E-mail-ul nu va fi publicat. Fără înjurături și cuvinte grele, că vorbim prietenește aici. Gândiți-vă de două ori înainte de a publica. Nu o luați pe arătură doar pentru că aveți un monitor în față și nu o persoană reală.

    Apăsați pe Citează pentru a cita întreg comentariul cuiva sau selectați întâi anumite cuvinte și apăsați apoi pe Citează pentru a le prelua doar pe acelea. Link-urile către alte site-uri, dar care au legătură cu subiectul discuției, sunt ok.


    Prin trimiterea comentariului acceptați politica de confidențialitate a site-ului.



    Vreți un avatar în comentarii? Mergeți pe gravatar.com (un serviciu Wordpress) și asociați o imagine cu adresa de email cu care comentați.

    Dacă ați bifat să fiți anunțați prin email de noi comentarii sau posturi, veți primi inițial un email de confirmare. Dacă nu validați acolo alegerea, nu se va activa sistemul și după un timp nu veți mai primi nici alte emailuri

    Comentariile nu se pot edita ulterior, așa că verificați ce ați scris. Dacă vreți să mai adăugați ceva, lăsați un nou comentariu.

sus