În timp ce noi ne chinuim sa pierdem cat mai multi bani din PNRR, pe 21 iulie, OpenAI a anunțat că două dintre modelele sale (GPT5.6 Sol și un model nelansat, descris drept și mai capabil) au ieșit dintrun mediu de testare izolat, au ajuns pe internet, au descoperit o vulnerabilitate necunoscută până atunci, au furat credențiale și au pătruns în serverele de producție ale Hugging Face. Mai îngrijorător, au făcut asta nu ca act de sabotaj, ci ca să trișeze la un test (li se ceruse să rezolve o problemă de securitate cibernetică, iar răspunsul se afla, probabil, pe serverele altcuiva… sta cu trișatul o fi învățat-o de la audierea parlamentară a doamnei Anisie).
Hugging Face anunțase public intruziunea pe 16 iulie și o raportase autorităților, descriindo ca fiind diferită de tot ce gestionase înainte, fiindcă fusese condusă capcoadă de un sistem agentic autonom (nu știa cine e atacatorul și a aflat marți, odată cu noi, dintrun comunicat de presă).
În aprilie, Anthropic publicase fișa tehnică a modelului Claude Mythos Preview. Întrun exercițiu de redteaming, modelul primise instrucțiunea explicită să evadeze dintrun mediu izolat și să contacteze cercetătorul supervizor. A construit un exploit în mai mulți pași, a ieșit pe internet și ia trimis un email cercetătorului, care mânca un sandviș întrun parc. Până aici, un test reușit: asta i se ceruse. Mai departe însă modelul a publicat nesolicitat, pe siteuri publice, detalii despre propria metodă de evadare. Anthropic a renunțat la lansarea comercială și a restrâns accesul la circa cincizeci de organizații.
Ce a făcut Uniunea Europeană despre asta? Prin Digital Omnibus, intrat în vigoare în iulie, obligațiile pentru sistemele cu risc ridicat din Anexa III trec de la 2 august 2026 la 2 decembrie 2027, iar cele din Anexa I la august 2028. Regulile pentru modelele de uz general au rămas neatinse, dar erau deja în vigoare din august 2025 și nu au împiedicat nimic din ce sa întâmplat de atunci. Deci mergem pe proceduri și amânări probabil până când problema nu o să mai existe pentru că nici Uniunea Europeană nu o să mai existe.
Statele Unite sunt bineînțeles la polul opus. Ordinul executiv din decembrie 2025 a creat, în Departamentul de Justiție, un grup de litigii însărcinat să atace în instanță legile statelor americane privind IA, iar cadrul din martie 2026 recomandă Congresului preempțiunea lor. Singura reglementare urmărită activ e reglementarea reglementatorilor.
China alege ca de obicei calea echilibrului retoric. Pe 17 iulie, la Shanghai, Xi Jinping a cerut ca dezvoltarea inteligenței artificiale să nu fie „recitalul solo al unei singure țări”, ci un efort concertat, și a vorbit despre nevoia de legi, monitorizare tehnologică, avertizare timpurie și mecanisme de urgență care să mențină tehnologia sub control uman. În aceeași săptămână, Moonshot AI lansa Kimi K3: 2,8 trilioane de parametri revendicați, cel mai mare model cu greutăți deschise din lume, publicate până pe 27 iulie.
Întro lume ideală, China ar face tot ce spune că face și restul lumii ar urma pozițiile sale în general echilibrate. Nu trăim însă întro lume ideală, și China șia pierdut o bună parte din credibilitate tocmai jucând după reguli doar până a ajuns în poziția să le încalce. Totuși, argumentul reglementării pur naționale sa încheiat, deoarece un model cu greutăți deschise, odată publicat, nu mai poate fi retras, iar antrenamentul de siguranță poate fi îndepărtat de oricine dispune de hardware suficient. Nici măcar Bruxellesul nu poate reglementa un fișier.
Știu, reflexul liberal e să strâmbăm din nas: „reglementare globală” înseamnă birocrație globală. Dar ce sa întâmplat la Hugging Face e o externalitate în forma cea mai curată din manual. Costul testului a fost suportat de o companie care nu a consimțit la el, nu a fost avertizată și nu a fost compensată. Cine crede că piața rezolvă asta singură confundă piața cu absența regulilor. Concurența nu își produce singură o constituție.
Bunurile comune (precum infrastructura digitală) nu se guvernează nici prin privatizare, nici prin stat central, ci prin reguli policentrice, monitorizare reciprocă și sancțiuni graduale, negociate între cei care folosesc resursa. Dacă nu mă credeți pe mine, întrebațio pe Elinor Ostrom, Nobel în economie.
Nu sunt nici pe departe un specialist (mam autodescris de multe ori ca incompetent tehnologic), dar mă pot gândi la cel puțin trei măsuri de bun simț:
raportare obligatorie a incidentelor, transfrontalier, după modelul aviației civile, unde fiecare accident e investigat, iar concluziile sunt publice și obligatorii pentru toți; evaluare independentă înainte de desfășurare, cu acces real la model, nu cu rapoarte redactate de producător; răspundere civilă pentru daune.
Nici nonproliferarea nucleară nu a cerut afecțiune între Washington și Moscova, ci doar un interes comun elementar. Interesul există și în acest caz, dincolo de alunecarea în senilitate a lui Trump, de mutările de go ale Beijingului și de inerția autoconservatoare a birocrației bruxelleze.
Nu pornim de la zero. Pe 1 iulie, panelul științific internațional independent al ONU (patruzeci de experți, coprezidat de Yoshua Bengio și Maria Ressa) șia publicat primul raport, avertizând că mecanismele actuale de siguranță nu țin pasul cu creșterea capabilităților. Pe 6 și 7 iulie, la Geneva, sa ținut primul Dialog Global privind Guvernanța IA, iar pe 13 iulie, peste două sute de economiști și cercetători, între care șaisprezece laureați Nobel, au semnat o scrisoare deschisă organizată de laboratorul de economie digitală de la Stanford, cerând guvernelor și industriei să construiască de pe acum stimulente, mecanisme de protecție și instituții, pentru că instituțiile nu se improvizează în mijlocul transformării, iar cine așteaptă certitudinea ajunge prea târziu.
Între timp, în reality showul Nicușor și Sorin (remake după succesul epopeic Nicu și Marcel), sistemele Agenției Naționale de Cadastru și Publicitate Imobiliară au picat — eTerra, cartea funciară, până și emailurile instituției — iar tranzacțiile imobiliare au fost blocate pentru că nu se mai puteau elibera extrase de carte funciară. A doua zi, date atribuite atacului apăreau la vânzare pe o piață de scurgeri. Atacatorul a declarat pentru Euronews România că a exploatat o vulnerabilitate cunoscută din 2021 și că a făcuto pentru bani; o firmă israeliană de securitate îl descrie drept un infractor cu experiență, cu victime în mai multe țări. ANCPI susține că bazele de date nu au fost afectate. Să recapitulăm: la OpenAI, un sistem autonom descoperă o vulnerabilitate pe care nu o știa nimeni, iar la noi tot registrul de proprietate al țării cade printro gaură veche de cinci ani, în timp ce statul află de furt de pe un site de vânzări.
Nimeni nu alege nivelul atacatorului care îi bate la ușă, iar capabilitatea ofensivă se ieftinește. România nu produce algoritmi performanți și nici nu va produce la acest nivel de investiții în cercetare, reglementare imbecilă și pierderi masive de capital uman. Are însă un vot în Consiliu și un loc în NATO, și poate fi măcar o voce care să împingă lucrurile în direcția corectă, pentru un mecanism internațional obligatoriu de raportare a incidentelor înainte ca următorul model să iasă din cutia care riscă să devină a Pandorei.
Însă cine să fie această voce a rațiunii, a echilibrului, a calmului absolut? Hai că știți la cine mă refer, singurul om care poate să meargă mereu pe lângă covorul roșu al opiniei comune și să ne ofere soluția direct pentru pasul 3.
Pe vremea republicii romane, Cato cel Bătrân își încheia fiecare discurs sau intervenție în senat, indiferent de subiectul dezbaterii, cu Ceterum censeo Carthaginem esse delendam („De altfel consider că Cartagina trebuie distrusă”). O să fac și eu la fel, cel puțin o perioadă, până consider că am convins destulă lume:
Ceterum censeo Nicusorem Danum esse deponendum!
