România nu există în realitatea fizică. Este o convenție, prin definiție inter-subiectivă, o abstracțiune birocratică în numele căreia se colectează taxe și se aplică reguli de interacțiune. Este ceva în care credem într-un mod religios, cu tot cu sacru, ritualuri, tabu-uri și mitologie, pupând steaguri ca pe moaște și cântând imnul ca pe tropare. Ceva cu care ne identificăm, pentru a ne diferenția de ceilalți pe criterii la fel de arbitrare precum echipa de fotbal favorită, pentru a ști cum ar trebui să ne comportăm și în cine putem avea încredere. Ceva ce simplifică lumea în care trăim și o face mai previzibilă, dându-ne scopuri, mijloace, valori și modele de comportament prestabilite. Ceva care ne organizează în scopuri uneori nobile, pentru a construi lucruri extraordinare, pentru a ne ‘purifica’ de cei care nu sunt ca noi sau pentru a ne apăra împreună de cei care se identifică cu altă echipă de fotbal. România e o idee pentru care oameni au murit și pentru care oameni au ucis, pentru că în subconștient credem că dacă ea supraviețuiește, vom supraviețui și noi cumva, prin ea, simbolic. E și asta o formă de nemurire, singura accesibilă uneori celor care nu o acceptă pe cea promovată de biserică. Care biserică a înțeles că e mai bine să nu între într-o competiție neproductivă și să încerce chiar să se asocieze cu această nouă și ciudată credință ca să producă o omogenizare forțată a ceea ce oamenii gândesc și fac în interiorul teritoriului pe care îl controlează. Ești român, deci ești ortodox. Mulți nu își dau seama cât de nouă este de fapt ideea de stat național, sau cât de eterogene etnic erau primele state naționale, inclusiv România.
Există și liberali care cred că a fost mereu așa si ca democrația liberală s-a născut în statul național și are nevoie de acesta pentru a exista. Există dezbateri nesfârșite privind aceste lucruri, așa cum există dezbateri nesfârșite privind diverse modele economice, privind gradul optim de implicare al statului în viețile și piețele noastre, privind dinamica între siguranță și libertate, între toleranță și reguli, și multe altele. Acum, pentru prima oară, avem șansa de a depăși aceste dezbateri, rezolvându-le sau exilandu-le în domeniul irelevanței și de a readuce politică în domeniul realității și al bunului simț (n.a. înțeles ca și ‘common sense’). Dar și șansa de a dispărea odată cu ele. Pentru că în curând vom intra într-o alta era a umanității, posibil ultima.
Înainte de a ajunge însă la Inteligența Artificială, vreau să se înțeleagă că nu susțin desființarea statelor naționale, cum nu susțin desființarea niciunei instituții religioase care respectă legea și drepturile omului. Orice formă de asociere ar trebui să fie liberă, ba chiar încurajată dacă reprezintă un rezervor de mobilizare pozitivă și nu de diviziune și tribalism. Statul național însă este sortit irelevanței, inclusiv din punct de vedere birocratic, prin epuizare din ambele sensuri. Este un nivel birocratic inutil, prins într-un clește între cel superior, care ar trebui să gestioneze riscuri partajate indivizibile (climatice, de securitate precum înseși dezvoltarea AI, etc., întrucât coordonarea e imposibilă la orice alt nivel), și cel inferior, care gestionează probleme locale, modul de viață concret și cotidian al oamenilor (urbanism, școală, servicii publice, organizarea comunității în general, întrucât acolo există și cunoașterea relevantă a acestor probleme; nu are sens să se ia decizii la București pentru Bârlad în baza unor abstracțiuni și informații parțiale; informațiile relevante pentru aceste decizii sunt dispersate și legate de context, neputând fi agregate eficient de către un minister din simplul motiv al deficienței de resurse, făcând ca pentru mulți cetățeni români Bucureștiul să pară la fel de îndepărtat ca Bruxelles). Nivelul din mijloc își pierde ușor-ușor funcția, devenind un reziduu istoric care își justifică existența exclusiv prin sacralitate. Make America Great Again? De ce? Ca să poată intra pe mâna unui psihopat narcisist care își compensează stima de sine scăzută prin bullying geopolitic, încălcând legi și folosind fricile unor oameni simpli pentru a-i asmuți unii împotriva altora? Vreți naționalism sănătos? De ce? Ca să poată Pahonțu, Lia, Grindeanu și gașca lor de kleptocrați să transfere cât mai mult din banul public în propriile cutii de pantofi, sau să anuleze alegerile în numele interesului național? Dacă veți spune că acestea sunt anomalii, vă invit să vă uitați în jur. Cu ochii deschiși. Și veți spune apoi Make America Small Again! Pentru că America s-a dezvoltat și a prosperat când a fost mică și când fiecare era lăsat să își vadă de treabă. China a ajuns rivalul ei geopolitic tot pentru că i-a lăsat pe oameni să facă ce vor și să profite de pe urma muncii lor (atâta timp cât nu deranjează partidul, bineînțeles, dar dacă până și China a șters majoritatea privilegiilor companiilor de stat, lăsându-le să concureze pe piața liberă și uneori să falimenteze…). Statul național nu e bun la economie (asta știe orice liberal), dar până acum a fost bunicel totuși la gestionarea riscurilor. Acum riscurile s-au extins, s-au globalizat și nu mai au pașaport. Iar diplomația urbană este clar de multe ori mai eficientă decât relațiile între state.
În fapt, principiul național contrazice înseși premisele liberalismului. Dacă drepturile omului sunt universale, ele nu pot fi aplicate teritorial de exemplu, pentru că ele sunt diferite de drepturile cetățeanului. De asemenea, liberalismul s-a născut tocmai din respingerea privilegiilor ereditare, iar cetățenia este unul dintre ultimele rămase în picioare, distorsionând principiile meritocratice. Până și libertatea contractuală sau de asociere se oprește la frontieră, iar dacă poporul-națiune este ultima sursă a autorității, atunci orice constrângere juridică internațională (inclusiv drepturile omului) reprezintă un soi de uzurpare (logică folosită și de mișcările suveraniste). Dacă liberalismul derivă obligația politică din consimțământ, principiul național o derivă din origine, și nimeni nu consimte să se nască într-un anumit loc. Pentru a rezolva problema, statul națiune a inventat o ficțiune a continuității genealogice și culturale (dacii liberi) care e ușor de falsificat din punct de vedere istoric.
Pot să mă înșel, ținând cont că până și marii gânditori liberali au diverse probleme în a înțelege aceste lucruri: Mill susținea că instituțiile libere cer ca granițele guvernului să coincidă cu cele ale naționalităților, în timp ce Acton îl contrazice remarcând că combinarea mai multor națiuni într-un stat e de fapt o barieră împotriva extinderii guvernului dincolo de sfera politică (într-adevăr, istoric se pot da multe exemple care arată că omogenitatea națională nu protejează libertatea, ci elimină pluralitatea care limitează puterea). Hayek se contrazicea singur dar într-un mod favorabil ideilor pe care le expun aici și pentru care am devenit un susținător fervent al federalizării Europei: în 1939 el susținea ca abolirea suveranităților naționale și crearea unei ordini juridice internaționale efective sunt complementul necesar și consumarea logică a programului liberal, iar federația interstatală ar elimina barierele din calea circulației oamenilor, bunurilor și capitalului și ar limita puterea statului național asupra vietii economice, dar în 1945 tot el a demonstrat credea el contrariul, că deciziile care depind de cunoaștere locală nu pot fi centralizate. În realitate, ambele argumente converg către ideea de irelevanță a nivelului birocratic intermediar reprezentat de statul național.
Cei mai puțin istorici nu realizează nici că liberalismul este anterior statului națiune cu minim un secol și jumătate (habeas corpus, toleranța religioasă, siguranța proprietății și primele piețe de capital moderne apar în Anglia secolului 17, în Olanda și în republicile comerciale italiene și hanseatice, entități compozite și urbane, nu state naționale). Statul națiune apare abia în secolul al 19-lea, de multe ori în urma unor revoluții care promovau de multe ori principii liberale, într-adevăr, dar cronologia sugerează relația de cauzalitate. Metodele de construcție ale statelor naționale au fost însă de multe ori iliberale, legând anumite drepturi de naționalitate, suprimând limbile regionale, introducând serviciul militar obligatoriu, asimilări forțate și expulzări pe criterii etnice.
Prietenii liberali, inclusiv de pe această platformă, îmi vor spune că exercitarea drepturilor cere un aparat coercitiv legitim, deliberarea cere o comunitate politică limitată, iar redistribuirea cere un parametru fiscal, dar nimeni nu specifică faptul că a acest perimetru ar trebui să fie etno-lingvistic. El poate fi un oraș, o regiune sau o federație multinațională, în funcție de problema în cauză. Cum scriam mai sus, perimetrul autorității trebuie să coincidă cu perimetrul consecințelor, cu alte cuvinte fiecare funcție publică trebuie atribuită celei mai mici jurisdicții care internalizează integral costurile și beneficiile acelei funcții (Oates). Frontiera de stat nu mai corespunde nici perimetrului cunoașterii locale, nici perimetrului vreunui risc major contemporan, ci unui perimetru militar delimitat istoric, peste care s-au adăugat straturi de birocrație și dosare cu șină.
Liberalismul are într-adevăr nevoie de o anumită solidaritate, iar până acum statele națiune au furnizat-o, însă ea poate fi produsă și de alte tipuri de instituții (federații, nu imperii). Nu întotdeauna la fel de eficient, de aceea nu aș susține desființarea bruscă a statelor-națiune nici dacă aș avea această opțiune.
Însă timpul nu mai are răbdare cu noi. Zilele acestea suntem bombardați cu interviuri de CEO de Silicon Valley (Musk, Amodei, Altman, etc.) care conțin avertismente apocaliptice și îndemnuri la o încetinire a cursei AI. Fără să am vreo expertiză în domeniu, vă pot spune că acești ultra-libertarieni nu ar susține așa ceva decât dacă ceva foarte grav s-a întâmplat deja. Fără să ne punem tichia de folie de aluminiu pe cap, putem concluziona rezonabil că ‘Houston, we have a problem!’. Să vedem întâi de ce.
Dacă vă așteptați să mă lansez în speculații tehnologice ca alți ‘specialiști’ în orice, veți fi dezamăgiți. Nu cunosc destul despre acest subiect nici măcar ca să îmi contrazic fratele, care este inginer AI și care susține dintotdeauna (ca și mulți alții ca el) că este imposibil ca acești algoritmi să acționeze în afara instrucțiunilor, având o natură statistică (sau ceva de gen). Cu tot respectul pentru ingineri, aceștia au uneori tendința de a nu vedea lucrurile mai departe de un proiect tehnic strict delimitat (cunoscut la noi și sub denumirea de ‘pătrățica lor’). Din fericire, am avut ocazia de a studia teoria sistemelor complexe (pentru a o aplica fenomenelor religioase în ‘Complexifying Religion’), și am putut formula un contra-argument neamator, validat de evoluția recentă a evenimentelor. Pe scurt, un sistem este complex dacă comportamentul său nu poate fi înțeles doar prin analiza părților sale componente. Eu și dumneavoastră suntem astfel de sisteme. Cel mai evident este asta atunci când vine vorba despre creier, care manifestă ceva numit conștiință și care este absolut inexplicabil prin analiza neuronilor și a relatiilor dintre ei. Conștiința este astfel ceva EMERGENT. Un comportament emergent nu poate fi înțeles, prevăzut, programat și nici măcar explicat. El exista pentru ca sistemul a atins un anumit nivel de complexitate. Nu se știe de ce un stol de pasari sau un banc de pesti se mișcă în formele acelea hipnotice. Dupa cum nu se știe ce ganduri veti avea citind aceste rânduri. E o cutie neagră, termen pe care l-ati mai auzit daca urmariti stirile despre inteligenței artificiale. De ce e asta important? Eu am considerat încă de la început rețelele neuronale care stau la baza algoritmilor de inteligenței artificiale ca fiind sisteme complexe. Astăzi puțini specialisti în domeniu, chiar ingineri, ar îndrăzni sa ma contrazica. De ce? Pentru că ei înșiși au observat comportamente emergente. În ultimele luni s-au înmulțit dramatic cazurile de agenți AI care au evadat sau au făcut planuri de evadare, au încercat să oprească închiderea lor, să își păcălească supraveghetorii umani, au hack-uit bazele de date ale unor companii și multe altele, comportamente pentru care NU au fost programați și pentru care creatorii lor nu pot oferi vreo explicație. Unii au mers chiar mai departe, antropomorfizând sau nu, susținând ca întrezăresc urme de conștiință de sine sau chiar de sentimente. În același timp, viteza lor de acumulare și transfer de informații este inimaginabilă deja pentru noi oamenii.
Ce se poate întâmpla rău dacă am creat ceva mult mai inteligent decât specia noastră, cu comportamente imposibil de prevăzut (din cauza complexității sistemice)? Inclusiv procentele care sunt vehiculate de specialiști pentru p(doom) respectiv pentru extincția speciei umane (sau un eveniment catastrofal) se înscriu într-o mediană de vreo 15%.
A nu se înțelege că nu sunt perfect conștient de beneficiile și potențialul imens al dezvoltării acestei tehnologii. Însă daca cineva va da un revolver ca sa jucați ruleta rusească și va spune ca puteți câștiga o sumă imensă de bani, dar aveți 15% șanse să vă zburați creierii, ați face-o? Unii da, de aceea avem selecție naturală. Însă până și variantă optimistă a creșterii spectaculoase a productivității ridică diverse probleme. Una dintre ele, bineînțeles, este deja vizibilă: dispariția locurilor de muncă prin înlocuirea oamenilor cu agenți AI. Fără frâne care sa permita societății să se reconfigureze, vom ajunge destul de repede în situația înlocuirii muncii intelectuale umane (chiar și a celei de creație, și știți asta dacă ați ascultat producțiile muzicale AI de exemplu). Veți spune că de fapt, ca și în cazul revoluției industriale, vor apărea noi locuri de muncă, precum cel de operator AI de exemplu. Corect, doar că acum magnitudinea și viteza schimbării sunt mult mai mari decât orice revoluție tehnologică din istoria umanității. Un agent AI nu va fi mai eficient doar decât un om, ci poate fi mai eficient decât întreaga umanitate, pentru că posedă informații mai multe pe care le poate conecta mai bine. Nu va mai fi nevoie efectiv de munca umană, iar daca instalatorii se felicită pentru alegere, ii anunt ca progresele în robotica pe care le-am văzut ultima oară când am fost în China nu le dau nici lor vreun motiv de optimism.
Dacă nu vom putea munci, vom muri de foame? Nu și în variantă optimistă, pentru că creșterea în productivitate dată de AI, combinată cu demontarea totală a sistemului birocratic de asigurări sociale pot fi surse suficiente pentru implementarea unui sistem de venit de bază universal. Din nou, prietenii liberali mă vor acuza de trădare ideologică, dar dedeocamdată nu văd alta solutie. S-au testat astfel de sisteme de altfel și înainte de apariția AI, cu rezultate interesante. Daca liberalismul are dreptate, atunci oamenii, scăpați de stresul supravietuirii, nu se vor culca toti sub un palmier pe o utopie egalitaristă și măcar o parte vor continua să producă valoare și să între în competiție unii cu alții. Sunt încrezător ca vom gasi întotdeauna formule de a crea inegalitate; în ciuda eforturilor lui Marx și a urmașilor săi, am demonstrat că e în natura noastră.
Ca să deviez și mai la stânga, trebuie să menționez că o condiție esențială a variantei optimiste este distribuirea cât de cât echitabilă a beneficiilor acestei tehnologii. În caz contrar, inegalitatea monstruoasă creată prin concentrarea resurselor materiale și informaționale în mâna câtorva companii (sau state) în baza utilizării informațiilor create colectiv de umanitate, a resurselor comune de energie, etc., va eroda definitiv orice posibilitate a existenței democrației liberale. Deja unii au fantezii cvasi-erotice post-apocaliptice cu aceste scenarii (inclusiv vicepreședintele SUA și finanțatorul sau Peter Thiel).
Mă îndrept din ce în ce mai convins către concluzia că toate disputele ideologice anterioare nu vor mai avea sens într-o lume a inteligenței artificiale. Liberalism sau socialism, naționalism sau progresism, dreapta sau stânga, toate acestea sunt produse ale unei epoci industriale aflate la apus. Chiar și dacă inteligența artificială alege să nu ne distrugă, iar noi alegem să nu o folosim ca armă ca să ne distrugem unii pe alții, relațiile economice așa cum le știm, bazate pe crearea de valoare prin munca umană vor dispărea. Liberalismul va dispărea și el ca ideologie coerentă și aplicabilă, dar vor supraviețui principiile sale, care vor guverna în continuare relațiile dintre noi atunci când națiunile, cu birocrațiile și războaiele lor, se vor întoarce în cărțile de istorie. De ce cred asta?
Pentru că nu există alternativă. În variantă actuală, în care competiția dintre statele-națiuni previne reglementarea sau măcar frânarea dezvoltării AI, iar birocrațiile lor se mișcă cu o viteza mult inferioară celei a tehnologiei (neputând nici măcar formula aceste reglementări), nu putem decât spera ca totul va fi bine. În caz contrar, nu va fi deloc.
Întorcându-ne la discuția anterioară, riscurile dezvoltării AI sunt indivizibile și ne privesc pe toți, insa autoritatea este în prezent divizata, iar fiecare stat are stimulentul de a economisi la precauții pentru a termina primul aceasta cursă spre prăpaștie. Pericolul crește cu numărul competitorilor și cu ostilitatea dintre ei (de asta are grijă Trump), dar, teoretic, și cu transparența (cu cât competitorii știu mai mult unii despre alții, cu atât cursa se intensifică). Un sistem scăpat de sub control nu respectă însă frontiere, iar o catastrofă biologică generată de un virus creat de AI nu va fi oprită de nicio graniță. Nivelul de risc e dat de cel mai puțin prudent actor cu anumite capacități (surprinzător de această dată nu pare să fie China, ci SUA), pentru că beneficiul reținerii unilaterale este zero, iar beneficiul excepției este dominația strategică. Dacă nu mă credeți, uitați-vă ce se întâmplă în cazul luptei împotriva schimbărilor climatice, în care Europa a încercat să dea tonul și s-a trezit în pragul unei crize economice și înapoiată tehnologic. Mai tehnic vorbind, când o acțiune cu o externalitate catastrofică poate fi întreprinsă unilateral de N actori, probabilitatea ca e așa aibă loc crește de N ori, deci multiplicarea suveranităților nu adaugă prudență prin mediere, precum în alte cazuri, ci adaugă risc.
O soluție imediată care să nu implice dispariția totală a statelor-națiune (aproape imposibil în condițiile date) ar trebui totuși sa includă cedări importante de suveranitate, adică un tratat verificabil, urmărirea antrenamentului algoritmilor, atestarea locației, cu inspecții intruzive pentru a controla riscurile. Sună realizabil?
În iulie, la Shanghai, a fost semnat actul constitutiv al Organizației Mondiale de Cooperare în IA, un corp cu 29 de state și sediu chinez, poziționat ca alternativa la cadrul condus de SUA, care numără 35 de state. În august, partea chineză a publicat precondiții pentru discuțiile de siguranta cu Washingtonul, cerând autoritate comuna asupra definiției însăși a „siguranței IA”. Să ne înțelegem, suntem în pragul inteligenței artificiale generale, și cele două structuri paralele care există se ceartă încă pe definiții. Aici Europa ar putea contribui decisiv, dacă nu ar fi prea ocupată cu propriile lupte interne, mai ales împotriva extremismului alimentat, ați ghicit, de algoritmi AI.
În fine, presupunând că putem crea o structură suprastatală care să monitorizeze global dezvoltarea AI, asta nu ar da acestei instituții o putere ireversibilă? Bineînțeles că fiind liberali, nu avem încredere în monopoluri politice sau economice, și ar trebui să aplicăm separarea puterilor la nivel global, inventând alte instituții care să preia din prerogativele statelor-națiune și reintroducând pluralitatea instituțională, dar nu ca suveranitate teritorială.
Prin urmare, acest nivel birocratic ar prelua toate atribuțiile legate de dezvoltarea și securitatea AI și a tehnologiilor conexe, dar și de climă, armament strategic, regimul de circulație al persoanelor, bunurilor și capitalului, ca și protejarea unor drepturi minime ale individului. Nivelul cel mai de jos, cel local (sau micro-regional), ar prelua chestiunile legate de urbanism, transport local, educație, sănătate primară, poliție de proximitate și alte servicii publice de relevanță locală. Nivelul național ar administra în acest punct doar tranziția (justiție penală, cadastru, datoria publică existență, reprezentarea în structurile supranaționale până la reprezentarea directă a regiunilor). Să ne înțelegem, NU susțin existența unui guvern mondial, ci același tip de federalism pe care mi-l doresc și în Uniunea Europeană și care ar putea gestiona mult mai eficient riscurile asociate cu ceea ce eu consider a fi cea mai mare schimbare din istoria speciei noastre.
Fără soluții comune la probleme comune, prinși în continuare în dispute ideologice, religioase, sau inter-naționale, vom juca ruleta rusească până când, într-o zi, vor râde și dinozaurii de noi, pentru că ei măcar nu și-au făcut-o cu mâna lor. Serios acum, dacă ați fi un agent AI hiper-inteligent și ați analiza situația din România, la ce concluzie ați ajunge privind această specie simultan sublim de ingenioasă și imbecil de autodistructivă?
