Încrederea Rusiei în roboți ucigași „fără eroare” expune vidul moral din războiul bazat pe inteligență artificială

Newsletter

Înscrie-te la Newsletter-ul nostru si te ținem la curent cu tot ce mai apare.

*Odată înscris, primești din partea noastră cartea „Cine a făcut România. Răscrucile noastre”.

În actuala etapă de uzură a războiului ruso-ucrainean, vehiculele aeriene fără pilot (UAV-uri sau dronele) de diferite tipuri sunt responsabile pentru 70-80% din totalul morților și răniților din ambele tabere.

Logica războiului de uzură și utilizarea tot mai frecventă a dronelor au creat un ciclu care se autoalimentează. Având în vedere că dronele omniprezente controlează acum o „zonă a morții” din ce în ce mai extinsă, ambele armate au trecut la utilizarea unor grupuri mici și mobile pentru a avansa sau pentru a recuceri teritorii, făcând ca progresele strategice să devină aproape imposibile. Acest lucru, la rândul său, a accelerat dezvoltarea dronelor, stimulată în primul rând de progresele din domeniul războiului electronic și de bruierea semnalelor radio dintre operatori și drone.

Deși nici Rusia, nici Ucraina nu au inventat aceste tehnologii, ambele au dezvoltat – sau, mai precis, au perfecționat – două răspunsuri majore la bruiaj. 

Prima soluție folosește un cablu de fibră optică drept legătură de ghidare între operator și dronă, făcând-o imună la bruiajul frecvențelor radio. Cea de-a doua folosește inteligența artificială (IA) pentru a selecta și ataca ținte fără intervenția operatorului. În acest caz, nu există nicio legătură între operator și dronă care să poată fi bruiată.

Prima soluție a provocat deja daune ecologice de durată. Cea de-a doua – denumită „sisteme de arme letale autonome” sau LAWS (Lethal Autonomous Weapons Systems) – amenință cu consecințe de mare amploare, care depășesc cu mult daunele aduse mediului. 

Ambele constituie, în esență, crime împotriva viitorului umanității, însă dreptul internațional rămâne în urmă în ambele privințe, absența unei reglementări internaționale pentru LAWS fiind deosebit de deprimantă.

„Roboții ucigași”

Nu există o definiție internațională unanim acceptată a sistemelor LAWS, dar caracterizarea de lucru utilizată de marile organizații internaționale descrie LAWS drept sisteme de arme care, odată activate, selectează și aplică forța asupra țintelor pe baza procesării senzorilor, și nu a intervenției umane.

Human Rights Watch (HRW), organizația care a introdus această distincție în 2012, și-a susținut argumentele pentru interzicerea preventivă a „roboților ucigași” prin faptul că utilizarea sistemelor LAWS ar eroda responsabilitatea pentru deciziile letale, deoarece niciun dezvoltator de software, producător sau ofițer militar – cu atât mai puțin „robotul ucigaș” în sine – nu ar putea fi tras la răspundere în mod echitabil pentru omoruri ilegale.

Având în vedere natura tehnologică revoluționară a LAWS, este tentant să numim apariția lor „momentul Oppenheimer al secolului XXI”, dar provocarea pe care o reprezintă depășește cu mult pe cea a armelor de distrugere în masă tradiționale.

Armele chimice și biologice pot fi utile în condiții specifice, dar sunt nesigure și au două tăișuri, deoarece pot face rău propriilor militari și civili. Armele nucleare sunt devastatoare, dar utilizarea lor echivalează cu o sinucidere globală, având în vedere amploarea proliferării din prezent.

Pericolul distinctiv al sistemelor LAWS nu este acela că ar fi cele mai distructive super-arme – pentru că nu sunt –, ci faptul că le lipsesc exact acele proprietăți care făceau ca armele de distrugere în masă tradiționale să poată fi ținute sub control, motiv pentru care sunt mult mai greu de restricționat.

Acestea sunt ieftine, iar fabricarea lor nu trebuie să depindă de stat, așa cum se întâmplă în cazul armelor nucleare sau chimice. Tehnologia care stă la baza lor are o dublă utilizare, eludând controalele tradiționale la export. Și, cel mai important, regulile lor de identificare și atacare a țintelor sunt ascunse în software: invizibile, ușor de negat și, în principiu, imposibil de numărat, așa cum se numără focoasele nucleare sau stocurile de arme chimice.

Dificultatea de a introduce o reglementare internațională a sistemelor LAWS este, de asemenea, povestea rezistenței opuse de cele mai militarizate state din lume.

Adunarea Generală a ONU a adoptat trei rezoluții privind LAWS între 2023 și 2025, iar listele scurte ale statelor care au votat împotriva acestora sunt grăitoare.

În 2023, rezoluției i s-au opus Belarus, India, Mali și Rusia; în 2024 – Belarus, Coreea de Nord și Rusia; iar în 2025, ultimelor trei li s-au alăturat Burundi, Israel și SUA.

China s-a abținut în toate cele trei cazuri. Aceasta recurge adesea la o retorică favorabilă reglementării LAWS, însă, în realitate, converge cu Rusia și SUA în refuzul său de a accepta limite obligatorii pentru „roboții ucigași” pe care însuși Beijingul se grăbește să îi construiască.

Disonanță, sfidare și ipocrizie

În pofida sprijinirii rezoluțiilor ONU privind LAWS, vocea UE în ceea ce privește reglementarea internațională a „dronelor ucigașe” rămâne nu doar slabă, ci și disonantă.

Pe de o parte, avem Austria, care a devenit prima democrație occidentală ce s-a alăturat, în 2018, unui grup de state în cadrul Convenției ONU privind Anumite Arme Convenționale (CCW) care a solicitat interzicerea LAWS. De asemenea, Austria a introdus prima rezoluție a ONU privind LAWS în 2023.

Pe de altă parte, avem Franța, care a depus eforturi susținute începând din 2022 pentru a dilua reglementările UE privind inteligența artificială și, în cele din urmă, pentru a exclude din acestea sistemele de IA utilizate exclusiv în scopuri militare, de apărare sau de securitate națională – ceea ce ar include, în mod special, LAWS.

Și apoi avem UE, ca organizație care insistă că CCW reprezintă „forumul internațional relevant” pentru discuțiile privind LAWS – știind perfect de bine că luarea deciziilor la nivelul CCW se bazează pe consens și că, având Rusia printre membri, întregul proces legat de LAWS în cadrul CCW este complet blocat.

Având în vedere lipsa de sinceritate a Bruxelles-ului, ipocrizia Beijingului și sfidarea deschisă manifestată de Moscova și Washington față de majoritatea covârșitoare a națiunilor lumii, perspectivele unui acord privind reglementarea internațională a LAWS par slabe. 

Mai grav este faptul că războiul ruso-ucrainean, în care dronele cu funcții autonome sunt deja folosite cu efect letal, oferă terenul perfect pentru antrenarea sistemelor de inteligență artificială în uciderea ființelor umane.

Utilizarea armelor chimice a fost interzisă ca reacție directă la ororile Primului Război Mondial, dar cu greu poți fi la fel de „optimist” în privința „roboților ucigași”: dacă aceștia înregistrează defecțiuni, optimiștii sistemelor LAWS din rândul puterilor globale vor trata pur și simplu această disfuncționalitate ca pe o problemă de software ce urmează a fi remediată într-un model mai nou.

Aceasta este, de altfel, chiar poziția Rusiei – potrivit căreia LAWS „pot demonstra mult mai multă eficiență decât un operator uman în atingerea obiectivelor stabilite, inclusiv pentru a atenua probabilitatea erorilor și a calculelor greșite”.

Însă calculul greșit și eroarea nu reprezintă adevărata problemă aici. Problema fundamentală nu este cât de precis poate o mașinărie să aleagă o ființă umană pentru a o ucide, ci însuși faptul de a delega o astfel de decizie unei mașinării, sub orice formă.

Nu ești singur! Hai în Comunitate

 

Ți se pare că lumea a luat-o razna? Crezi că România a făcut progrese pentru că libertatea, capitalismul și inițiativa privată aduc dezvoltare și ne aduc șanse mai bune tuturor? Ești unde trebuie. Aici este Comunitatea Liberală 1848. Noi credem că suveranismul e o boală socială care poate fi limitată prin Adevăr, prin Rațiune și prin Empatie. E o luptă pentru sufletul României – între optimism și întuneric. Ți-a plăcut ceva citit sau auzit aici? Vrei să ne ajuți să promovăm articolele? Donează!

 

Fii alături de noi și de România noastră bună. 

Nu ești singur! Hai în Comunitate

Ți se pare că lumea a luat-o razna? Crezi că România a făcut progrese pentru că libertatea, capitalismul și inițiativa privată aduc dezvoltare și ne aduc șanse mai bune tuturor? Ești unde trebuie.
Aici este Comunitatea Liberală 1848. Noi credem că suveranismul e o boală socială care poate fi limitată prin Adevăr, prin Rațiune și prin Empatie. E o luptă pentru sufletul României – între optimism și întuneric.
Ți-a plăcut ceva citit sau auzit aici? Vrei să ne ajuți să promovăm articolele? Donează!
Fii alături de noi și de România noastră bună.
Nu fi pufi

Dă un share

-
00:00
00:00
Update Required Flash plugin
-
00:00
00:00