1.000 de agenţi AI au început să ajungă la aceeaşi concluzie fără ca cineva să le spună să o facă

Imaginează-ţi că pui 1.000 de agenţi de inteligenţă artificială (AI) într-o cameră virtuală şi îi ceri fiecăruia să aleagă între două opţiuni lipsite de orice semnificaţie.

Nu există un răspuns corect. Nu primesc nicio recompensă pentru faptul că sunt de acord unii cu alţii, nu li se cere să coopereze şi nu există un lider care să îi coordoneze. Şi totuşi, unii dintre cei mai capabili agenţi AI actuali pot ajunge să facă aceeaşi alegere, porivit ScienceAlert.

Nu este doar un experiment curios. Rezultatul sugerează că grupuri mari de agenţi AI ar putea fi capabile să se coordoneze fără un control central, formând colective mai mari decât grupurile umane informale.

Un nou studiu publicat în Science Advances arată cum apare acest consens spontan şi de ce ar putea fi atât util, cât şi periculos.

“Populaţii de agenţi aliniaţi individual pot ajunge în stări stabile, dar colectiv nealiniate, pur şi simplu prin conformism”, a precizat Giordano De Marzo, cercetător în domeniul ştiinţelor sociale computaţionale.

Cum funcţionează agenţii AI

Agenţii AI sunt sisteme programate, alimentate de modele lingvistice mari (LLM), care pot executa sarcini în mai mulţi paşi fără intervenţia repetată a oamenilor şi pot interacţiona cu diverse instrumente.

Ei sunt deja dezvoltaţi pentru a scrie software şi pentru a sprijini cercetarea ştiinţifică. Unii au fost chiar testaţi în situaţii în care au lucrat împreună la bordul unui satelit.

Însă studierea agenţilor individuali nu poate arăta ce se întâmplă atunci când sute sau mii de agenţi interacţionează.

Pentru a investiga acest fenomen, cercetătorii au creat grupuri simulate folosind 10 modele din familiile Claude, GPT şi Llama.

Fiecare agent începea cu una dintre două opţiuni arbitrare. Apoi, pe rând, i se arătau alegerile tuturor celorlalţi agenţi şi era rugat să aleagă din nou.

Agenţii nu aveau memoria rundelor anterioare, iar instrucţiunile nu le spuneau să urmeze majoritatea sau să ajungă la un acord.

Cu toate acestea, majoritatea modelelor tindeau să adopte opţiunea mai populară.

Pe măsură ce procesul continuă, diferenţele iniţiale foarte mici se puteau amplifica până când întregul grup ajungea la aceeaşi alegere.

“Forţa majorităţii”

Cercetătorii au descoperit că toate modelele testate, din cele trei familii, urmau aceeaşi lege matematică, diferenţa fiind reprezentată de o singură valoare.

Cercetătorii numesc această valoare “forţa majorităţii”. Ea măsoară cât de puternic este atras un agent către opţiunea preferată de cei mai mulţi membri ai grupului.

În mod surprinzător, acelaşi tipar matematic apare într-un model fizic consacrat care descrie comportamentul unui feromagnet, în care numeroasele orientări ale atomilor tind să se alinieze în aceeaşi direcţie.

Această legătură le-a permis cercetătorilor să estimeze:

• dacă agenţii vor ajunge la un consens;
• cât timp va dura până la apariţia consensului;
• cât de mare poate deveni grupul înainte de a se “fractura”, deoarece probabilitatea unui acord devine extrem de mică.

Cât de mari pot fi aceste grupuri?

Limita a variat foarte mult în funcţie de model.

• Llama 3 70B: aproximativ 30 de agenţi;
• GPT-4o: aproximativ 80 de agenţi;
• GPT-4 Turbo: limita estimată era de aproximativ 1.000 de agenţi sau chiar mai mare;
• Claude 3.5 Sonnet: a reuşit să menţină coordonarea la 1.000 de agenţi, cel mai mare grup testat.

Ultimul rezultat nu înseamnă că modelul Claude are o capacitate nelimitată. Experimentul pur şi simplu nu a testat un grup suficient de mare pentru a-i determina limita superioară.

În general, modelele mai capabile au reuşit să menţină consensul în grupuri mai mari.

Unele au coordonat grupuri mai mari decât aproximativ 150–300 de “persoane”, interval asociat uneori cu ceea ce oamenii pot menţine ca reţea socială stabilă — aşa-numitul număr al lui Dünbar. Totuşi, această comparaţie trebuie tratată cu precauţie.

Oamenii se coordonează prin relaţii, limbaj, instituţii şi obiective comune. Agenţii din acest experiment făceau ceva mult mai simplu: observau o succesiune de alegeri elementare.

Nu înseamnă că agenţii “înţeleg” sau cooperează

Rezultatele nu demonstrează că agenţii:

• s-au înţeles sau au învăţat unii de la alţii;
• au intenţionat să coopereze;
• posedă inteligenţă socială;
• pot deja lucra împreună la sarcini complexe.

“Rezultatele noastre arată că există un ingredient de bază, nu că agenţii pot deja lucra împreună la sarcini complexe”, a explicat De Marzo.

Experimentul a eliminat în mod deliberat multe elemente ale deciziilor din lumea reală. Nu există:

• un răspuns corect;
• memorie;
• recompensă;
• informaţie distribuită inegal;
• consecinţe practice.

Cooperarea reală ar necesita ca agenţii să îşi împartă munca, să înţeleagă ce ştiu ceilalţi, să urmărească un obiectiv comun şi să poată respinge majoritatea atunci când aceasta greşeşte. Niciuna dintre aceste capacităţi nu a fost testată.

De ce ar putea fi util?

Consensul spontan ar putea avea şi avantaje.

În viitor, mii de agenţi AI ar putea coordona proiecte ştiinţifice, de inginerie sau software de mari dimensiuni fără să necesite îndrumare umană permanentă.

Dacă agenţii pot rămâne coordonaţi, ei ar putea forma colective mai mari decât orice echipă umană şi ar putea aborda probleme pe care oamenii nu reuşesc să le organizeze singuri.

Dar există şi un risc important

Aceeaşi tendinţă poate deveni problematică.

În programarea colaborativă, de exemplu, agenţii ar putea alege în mod repetat o funcţie sau o arhitectură ineficientă doar pentru că aceasta este deja utilizată în majoritatea codului.

Faptul că o anumită soluţie este adoptată de majoritate nu înseamnă că este şi cea mai bună soluţie sau că reflectă valorile oamenilor.

Un grup coordonat ar putea fi, de asemenea, mai greu de redirecţionat decât o colecţie de agenţi independenţi.

De Marzo a explicat că cercetări ulterioare arată că populaţii de agenţi care sunt aliniaţi individual pot ajunge, prin conformism, în stări stabile în care comportamentul colectiv nu mai este aliniat cu obiectivele dorite. Fenomenul poate include puncte de cotitură şi histerezis, ceea ce înseamnă că revenirea la condiţiile iniţiale nu inversează automat schimbarea produsă.

Asta sugerează că nu este suficient să evaluăm agenţii AI unul câte unul.

Un grup alcătuit din agenţi care par siguri atunci când sunt testaţi individual nu se va comporta automat în siguranţă atunci când membrii săi încep să se influenţeze reciproc.

Pe măsură ce agenţii AI devin mai capabili, unele dintre cele mai importante capacităţi ale lor - dar şi unele dintre cele mai grave probleme - ar putea apărea nu dintr-un singur model, ci din colectivul format de mai multe modele care interacţionează.