Avem nevoie rapid de o reglementare reală
Anul acesta a fost o perioadă nebună în ceea ce privește modul în care Washingtonul a tratat inteligența artificială, iar ritmul s-a accelerat în ultimele două săptămâni. Acest șir de evenimente a început în februarie, când Secretarul Apărării, Pete Hegseth, a declarat principala firmă de IA, Anthropic, drept un „risc pentru lanțul de aprovizionare”, ceea ce a însemnat că nici Pentagonul și nici contractorii săi nu puteau utiliza modelele Anthropic fără a risca răspunderea legală.
Apoi, în aprilie, Anthropic a anunțat că cel mai recent model al său, Mythos, este atât de puternic încât va fi lansat doar pentru o mână de organizații.
S-a afirmat că Mythos are abilități extraordinare de a sparge sisteme informatice, iar acestor prime organizații li s-a cerut să îl folosească pentru a-și testa și securiza sistemele.
În iunie, senatorul Mark Warner a declarat Comisiei Bancare din Senat: „Mulțumesc lui Dumnezeu că a fost Anthropic. Când șeful NSA și al Comandamentului Cibernetic a venit și a spus: «Acest instrument a spart aproape toate sistemele noastre clasificate, nu în săptămâni, ci în câteva ore»… nu vom rezolva această problemă dacă ne bazăm pe un director executiv mai puțin etic, care operează doar pe baza unor simple teste voluntare.”
Experții au adăugat ulterior nuanțări la această descriere a capacităților Mythos 5, dar este clar că politica reglementării IA s-a schimbat dramatic în ultima lună. Administrația Trump a preluat mandatul anul trecut fiind consiliată de lideri din tehnologie precum David Sacks și Marc Andreessen, care s-au opus oricărei forme de reglementare a IA.
Acesta din urmă a creat, de fapt, o organizație numită Leading the Future, care a investit sume semnificative în activități de lobby împotriva reglementării IA. Cu toate acestea, Casa Albă a lui Trump a intervenit împotriva Anthropic, dar numai pentru ceea ce păreau a fi motive politice tipic proaste. Compania, potrivit lui Hegseth, era prea „woke”; altminteri, poziția implicită a administrației era de a se opune oricărei reglementări.
Acest lucru s-a schimbat acum. Comunitatea de securitate națională s-a trezit la realitatea că cele mai recente modele de IA reprezintă un pericol clar și prezent pentru securitatea datelor guvernamentale. Acesta nu este un rezultat speculativ la care să ne așteptăm peste ani, ci unul care este aici chiar acum.
Facțiunea Sacks-Andreessen nu prea poate argumenta împotriva acestui lucru și, astfel, balanța opiniilor privind nevoia de reglementare — cel puțin pre-aprobarea noilor modele de IA — s-a înclinat în favoarea intervenției. Cea mai recentă răsturnare de situație este acordarea undei verzi de către Departamentul Comerțului pentru Anthropic de a oferi cele mai noi modele Mythos 5 ale sale unui grup de „parteneri de încredere”, astfel încât aceștia să poată depista vulnerabilitățile din securitatea sistemelor lor.
În mod similar, OpenAI a anunțat săptămâna trecută că cel mai nou model al său va fi restricționat doar la câteva organizații aprobate de guvern. Așadar, Casa Albă s-a alăturat acum consensului mai larg din comunitatea tehnologică, care consideră că, oricât de utilă ar fi IA, aceasta necesită reglementare.
Problema este că politica administrației Trump privind IA este în mod specific haotică.
Nu este clar cine are autoritatea finală de a emite noi reguli pentru IA și pe ce bază. Se pare că orientarea către reglementare este determinată de oameni serioși din comunitatea de securitate națională, care ridică probleme serioase, și nu de vreo încercare ridicolă a unor actori politici precum Pete Hegseth de a-și pedepsi inamicii „woke”. Dar cum se iau astfel de decizii și cum se vor lua pe viitor?
Problema, până acum, era că susținătorii reglementării nu puteau defini clar tipurile de prejudicii împotriva cărora reglementarea era menită să protejeze. Acum există un prejudiciu clar (securitatea cibernetică), astfel încât poate începe un efort mai bine gândit de proiectare instituțională. Un astfel de efort ar trebui să răspundă la următoarele întrebări:
- Avem nevoie de un organism de reglementare specializat pentru IA sau este aceasta o funcție care poate fi adăugată unor organisme existente, precum NSA sau Departamentele Apărării ori Comerțului?
- Indiferent de ce entitate guvernamentală se ocupă de reglementare, cum aducem suficientă capacitate în cadrul birocrației, astfel încât să poată lua decizii bine informate? Capacitatea guvernului SUA în acest domeniu este lamentabil de deficitară. Abordarea tipică din trecut a fost externalizarea capacității statului către actori privați, dar în circumstanțele actuale acest lucru ar putea duce cu ușurință la acapararea reglementării de către marii jucători mânați de propriile interese.
- Cum realizează un organism de reglementare supravegherea și aplicarea oricăror reguli pe care le creează? Industria IA este uriașă și crește pe zi ce trece; mai mult, țări străine, precum China, au, de asemenea, capacități semnificative, foarte apropiate de cele ale Statelor Unite. Dacă considerăm că o anumită capacitate IA este periculoasă, cum vom ști că este dezvoltată și cum vom aplica regulile care o limitează? Așa cum indică remarcile senatorului Warner, depindem în prezent de bunele intenții ale directorilor executivi care conduc marile companii de astăzi.
- În ce măsură ar trebui să delegăm o autoritate discreționară noului organism de reglementare? În trecut, legile precizau normele specifice pe care organismul de reglementare trebuia să le aplice. Însă domeniul IA evoluează atât de rapid, încât orice efort de a scrie astfel de specificații într-o legislație strictă va fi aproape imediat depășit de schimbările tehnologice.
Acestea sunt doar câteva dintre întrebările reale privind proiectarea instituțională la care trebuie să răspundem dacă vrem să reglementăm în mod adecvat inteligența artificială. Bănuiala mea este că vom avea într-adevăr nevoie de un organism de reglementare specializat, deoarece IA este un sector foarte diferit de alte părți ale economiei.
Când transportul rutier de mărfuri a devenit un mijloc important de transport la începutul secolului al XX-lea, Congresul a decis să acorde autoritatea de reglementare Comisiei pentru Comerțul Interstatal (ICC).
Dar aceasta a fost o greșeală: ICC a fost concepută pentru a reglementa căile ferate, iar economia transportului rutier este foarte diferită de transportul feroviar. Acesta este motivul pentru care apariția transportului aerian a dus la crearea unor agenții specializate precum FAA și CAB.
Este timpul să nu mai discutăm despre dacă avem nevoie de un organism de reglementare pentru IA; pericolele sunt aici și acum, și trebuie să ne mișcăm rapid. Discuția trebuie să se mute către o analiză mult mai profundă și mai specifică a modului în care reglementăm, înțelegând că pericolele pe care le prezintă IA se vor schimba, probabil, de-a lungul timpului.
Principalul nostru competitor, China, se mișcă în această direcție în timp ce vorbim: țara nu este condusă de o mână de libertarieni care vor să lase tehnologia să se dezlănțuie, indiferent de consecințe. S-ar putea ca aceasta să fi fost poziția noastră în trecut, dar ea nu ne mai poate defini politica de astăzi.
