Sistemele AI întâmpină dificultăți în implementarea soluțiilor în lumea reală.
Am ascultat recent o prezentare a unui inginer de la OpenAI despre transformările incredibile ce vor avea loc odată ce vom atinge stadiul inteligenței artificiale generale (AGI) sau chiar al superinteligenței.
Acesta afirma că AGI va rezolva rapid multe dintre problemele lumii: ratele de creștere ale PIB-ului ar putea ajunge la 10, 15 sau chiar 20 la sută pe an, bolile vor fi vindecate, educația va fi revoluționată, iar orașele din lumea în curs de dezvoltare vor fi transformate, având apă potabilă pentru toți locuitorii.
Se întâmplă să știu câte ceva despre această ultimă problemă. În ultimul deceniu, am predat studii de caz referitoare la motivele pentru care orașe sud-asiatice, precum Hyderabad și Dhaka, întâmpină dificultăți în furnizarea apei la nivel municipal. Motivul nu este acela că nu știm cum arată un sistem de apă eficient sau că ne lipsește tehnologia pentru a-l construi. Și nu este vorba nici de o simplă lipsă de resurse: instituțiile de dezvoltare multilaterală sunt dispuse de ani de zile să finanțeze proiecte de alimentare cu apă.
Obstacolele sunt de altă natură și sunt în întregime de ordin politic, social și cultural. Rezidenții acestor orașe au capacitatea de a plăti mai mult pentru apă, dar nu au încredere în propriile guverne că nu vor irosi resursele pe corupție sau printr-un management incompetent.
Companiile nu își doresc perturbările provocate de construcția extinsă a infrastructurii, iar multe orașe găzduiesc „mafii ale apei” care cumpără apă ieftină și o revând la prețuri exorbitante oamenilor săraci. Aceste mafii sunt înarmate și pregătite să folosească violența împotriva oricui le contestă monopolul. Statul este prea slab pentru a le controla sau pentru a aplica legile care există deja.
Este greu de imaginat cum chiar și cea mai superinteligentă IA va ajuta la rezolvarea acestor probleme. Iar acest lucru indică o iluzie centrală care afectează întregul domeniu al IA: o supraestimare majoră a valorii inteligenței pentru rezolvarea problemelor.
În cadrul cursurilor pe care le-am predat în ultimele două decenii și în programul de Masterat în Politici Internaționale pe care îl conduc la Stanford, am contribuit la dezvoltarea unui cadru de rezolvare a problemelor publice pe care acum îl predăm tuturor studenților noștri. (Meritul îi revine și fostului meu coleg, Jeremy Weinstein, care acum este Decan al Harvard Kennedy School of Government.) Cadrul este simplu și constă din trei cercuri:
Există o problemă care se extinde mult dincolo de IA și se aplică modului în care gândim, în general, rezolvarea problemelor publice.
Cea mai mare parte a efortului, precum și ceea ce majoritatea programelor academice de politici publice se concentrează pe primele două din cele trei cercuri: Identificarea Problemei și Dezvoltarea Soluțiilor.
Într-adevăr, multe programe se concentrează exclusiv pe Dezvoltarea Soluțiilor: îi învață pe aspiranții la funcții de decizie cum să colecteze date și să folosească un arsenal de instrumente econometrice puternice pentru a le analiza. Acest lucru generează un set de soluții optime pe care un analist de politici publice le poate înmâna decidenttului.
Ceea ce lipsește din această abordare este ceea ce se află în al treilea cerc: implementarea. Analistul nostru de politici aflat la început de drum descoperă, de obicei, că, după ce a predat șefului un memorandum strălucit cu opțiuni, nu se întâmplă nimic.
Nu se întâmplă nimic deoarece există prea multe obstacole – politice, sociale, culturale – în calea punerii în aplicare a acelei politici preferate, la fel ca în exemplul cu apa municipală.
Așadar, să ne întoarcem la modul în care IA va acționa în acest spațiu. AGI va ajuta cu siguranță în primul cerc: identificarea părților interesate, cartografierea unui spațiu cauzal și definirea problemei.
Va fi de cel mai mare ajutor în al doilea cerc: colectarea datelor și analizarea lor pentru a găsi soluții optime. Însă inteligența te duce doar până la sfârșitul celui de-al doilea cerc și este de un ajutor limitat în al treilea.
Un LLM (Large Language Model) nu poate interacționa direct cu părțile interesate, nu le poate trimite mesaje sau nu poate genera resurse. În special, un LLM nu va fi capabil să se angajeze în tipul de schimb iterativ de idei între factorii de decizie și cetățeni, care este necesar pentru implementarea eficientă a politicilor. Cel mai probabil se va confrunta cu mari provocări în generarea nivelului de încredere necesar pentru ca politicile să fie acceptate și adoptate.
Un IA are probleme nu doar cu obstacolele politice și sociale. Modelele LLM au o capacitate limitată de a folosi direct obiecte fizice. IA interacționează cu lumea fizică în principal prin intermediul roboticii, dar aceasta din urmă este un domeniu care a rămas considerabil în urma dezvoltării LLM-urilor.
Roboții s-au înmulțit enorm în ultimele decenii și sunt omniprezenți în producție, agricultură și în multe alte domenii. Însă marea majoritate a roboților de astăzi sunt programați de ființe umane pentru a efectua o serie limitată de sarcini foarte specifice. Lumea a fost uimită recent de roboții umanoizi chinezești care executau mișcări de kung-fu, dar roboții nu s-au învățat singuri să acționeze în acest fel.
Modelele LLM integrate în roboți nu au capacitatea de a rezolva nici măcar probleme fizice simple care sunt noi sau care se află în afara setului lor de antrenament.
Colegul meu Alex Stamos, un expert recunoscut în securitate cibernetică, o formulează astfel: „Câinele meu știe mai multă fizică decât un LLM”. Un LLM ar fi capabil să enunțe legile mișcării ale lui Newton, dar nu ar fi capabil să direcționeze un robot să prindă un minge așa cum o poate face câinele lui Alex, deoarece acel set specific de mișcări nu se află în setul său de antrenament. Ar putea fi programat să facă acest lucru, dar acesta este produsul inteligenței umane și nu al IA.
Iată un exemplu al limitărilor actuale ale IA. Recent, am apelat la un instalator pentru a înlocui centrala termică din casa mea. Instalatorul a fotografiat și a măsurat configurația casei; a trebuit să direcționeze noile conducte și cabluri în moduri specifice designului casei mele. S-a dovedit că noua centrală nu încăpea prin ușa de la mansardă; a trebuit să taie o deschidere mai mare cu un fierăstrău și apoi să repare tocul ușii după ce noua unitate a fost introdusă.
Nu există niciun robot pe lume care ar putea face ceea ce a făcut instalatorul meu și este foarte greu de imaginat că un robot va dobândi astfel de abilități în viitorul apropiat, cu sau fără AGI. Roboții ar putea ajunge acolo la un moment dat, dar acel nivel de capacitate umană rămâne un obiectiv îndepărtat.
Mulți dintre entuziaștii care exagerează capacitățile IA privesc problemele de politici publice ca și cum ar fi probleme matematice vechi pe care oamenii au avut mari dificultăți în a le rezolva, cum ar fi teorema celor patru culori sau problema Cap Set (problema mulțimilor „capac”). Dar problemele de matematică sunt de natură exclusiv cognitivă și nu este surprinzător faptul că IA ar putea face progrese în acel domeniu. Oamenii care construiesc sisteme AI sunt ei înșiși foarte inteligenți din punct de vedere matematic și tind să supraevalueze importanța acestui tip de inteligență pură.
Problemele de politici publice sunt diferite. Ele necesită o conexiune cu lumea reală, fie că este vorba despre obiecte fizice sau despre părți interesate puternic ancorate, care nu își doresc neapărat să aibă loc schimbări.
După cum a demonstrat istoricul economic Joel Mokyr, a fost nevoie de ani și decenii pentru ca revoluțiile tehnologice anterioare să se materializeze după realizarea descoperirilor științifice și inginerești inițiale, deoarece acele idei abstracte au trebuit să fie implementate pe scară largă în condiții din lumea reală.
S-ar putea ca IA să se miște mai repede la nivel cognitiv, dar s-ar putea să nu fie capabilă să rezolve problemele de implementare mai rapid decât în perioadele istorice anterioare.
Acest lucru nu înseamnă deloc că IA nu va fi o sursă de transformări majore. Însă tipul de progrese explozive ale IA, care se auto-susțin, și pe care unii observatori prevăd că sunt pe drum, vor trebui totuși să rezolve probleme de implementare pentru care mașinile nu sunt bine adaptate.
O rată de creștere anuală de zece la sută va dubla PIB-ul în șapte ani. Cu toate acestea, planeta Pământ nu va furniza nici pe departe materialele – apă, pământ, minerale, energie sau oameni – pentru ca acest lucru să se întâmple, indiferent cât de inteligente devin mașinile noastre.
Nota redacției – Articolul profesorului Francis Fukuyama a fost publicat pe site-ul Persuasion și este tradus cu acordul editorului.
