28,8 milioane de interogări: Furtul din domeniul inteligenţei artificiale care nu a declanşat nicio alarmă
Când ne imaginăm un furt de proprietate intelectuală, ne gândim la o spargere. Un hacker trece de firewall, copiază codul sursă şi dispare. Aşa că, atunci când o companie americană de inteligenţă artificială le spune membrilor Congresului că China tocmai a desfăşurat cea mai amplă campanie de extragere de date pe care a înregistrat-o vreodată, presupunerea firească este că cineva a spart seiful, potrivit unui material semnat Joseph Hoefer şi publicat pe RealClearDefense.
Nimeni nu a pătruns prin efracţie. Şi tocmai acest lucru face ca ameninţarea să fie atât de dificil de abordat pentru Washington.
Săptămâna trecută, Anthropic a declarat în faţa Comisiei pentru Bănci din Senatul SUA că operatori afiliaţi conglomeratului chinez Alibaba au efectuat aproximativ 28,8 milioane de interogări asupra modelelor Claude prin intermediul a aproape 25.000 de conturi frauduloase, între aprilie şi iunie. Potrivit companiei, scopul nu a fost furtul modelului. Obiectivul a fost colectarea răspunsurilor acestuia, pentru ca ele să fie apoi folosite la antrenarea unui sistem chinez concurent, la o fracţiune din cost.
Această tehnică se numeşte distilare (distillation) şi nu este întotdeauna ceva nociv. Antrenarea unui model mai mic pe baza rezultatelor generate de unul mai mare este o practică obişnuită şi legitimă atunci când o companie o aplică propriilor sale sisteme. Ceea ce susţine Anthropic că s-a întâmplat este însă altceva: extragerea neautorizată de informaţii din serviciul proprietar al unui concurent, desfăşurată la scară industrială prin conturi false care încălcau termenii de utilizare ai platformei. Linia de demarcaţie dintre o practică obişnuită de inginerie şi o problemă de securitate naţională trece chiar prin cuvântul „neautorizată”.
Partea tulburătoare este cât de obişnuit pare atacul privit din exterior. Operatorii şi-au creat conturi, au obţinut acces şi au pus întrebări, milioane de întrebări, vizând cele mai valoroase competenţe ale modelului: scrierea de software şi raţionamentul pas cu pas în rezolvarea unor sarcini complexe. Modelul a făcut exact ceea ce fusese conceput să facă. Nicio alarmă nu s-a declanşat, pentru că, din perspectiva sistemului, nimic nu era în neregulă. Un concurent hotărât a intrat pur şi simplu pe uşa din faţă, la o scară uriaşă, pentru a reproduce ani de cercetare americană învăţând din rezultatele generate de model.
Aceasta este o problemă cu adevărat nouă şi răstoarnă regulile obişnuite.
Reflexul Washingtonului a fost să trateze progresele Chinei în domeniul inteligenţei artificiale ca pe o chestiune ce ţine de hardware. Ideea este că, dacă împiedici Beijingul să obţină cipuri avansate, îi încetineşti progresul. Acest reflex nu este greşit. Puterea de calcul reprezintă într-adevăr un punct critic. China continuă să încerce să introducă ilegal cipuri şi să ocolească restricţiile, iar înăsprirea acestor reguli este o politică justificată.
Însă controalele privind cipurile au fost concepute pentru a împiedica pe cineva să construiască un model puternic. Ele nu fac nimic pentru a opri pe cineva să copieze discret comportamentul unui model care există deja.
Poţi securiza fabrica, dar să laşi magazinul larg deschis. Acesta este golul prin care trece distilarea şi motivul pentru care o strategie bazată exclusiv pe hardware, oricât de necesară ar fi, nu poate reprezenta întreaga soluţie.
Miza nu este doar una strategică. Fiecare campanie de extragere reuşită comprimă ani de cercetare şi miliarde de dolari investiţi de sectorul privat în milioane de interogări automate, subminând stimulentele care au făcut posibilă, de la bun început, poziţia de lider a Statelor Unite în domeniul inteligenţei artificiale de frontieră. Aşa arată furtul de proprietate intelectuală în era inteligenţei artificiale: nu cod sursă furat, ci un profesor copiat. Alibaba este doar primul exemplu grăitor şi nu va fi ultimul.
Vestea încurajatoare este că guvernul a identificat deja problema. În aprilie, Biroul pentru Politică Ştiinţifică şi Tehnologică al Casei Albe a publicat un memorandum în care avertiza că entităţi străine, în principal din China, desfăşoară „campanii la scară industrială pentru distilarea sistemelor americane de inteligenţă artificială de frontieră” şi s-a angajat să îmbunătăţească schimbul de informaţii şi coordonarea măsurilor defensive cu industria. Comisia pentru Afaceri Externe a Camerei Reprezentanţilor a avansat un proiect de lege care ar urmări aceste tentative de extragere şi ar autoriza sancţiuni împotriva companiilor aflate în spatele lor. Iar, ca răspuns la dezvăluirile privind Alibaba, senatorii Bill Hagerty (republican, Tennessee) şi Andy Kim (democrat, New Jersey) promovează un amendament la proiectul legii apărării din acest an, prin care Departamentul Comerţului ar fi obligat să sancţioneze firmele chineze surprinse recurgând la astfel de practici.
Acest impuls bipartizan este reacţia corectă. Pentru a fi eficient, răspunsul trebuie să fie proporţional cu atacul, ceea ce înseamnă tratarea extragerii de informaţii din modele ca pe orice alt atac strategic asupra economiei, şi nu ca pe un simplu litigiu comercial.
De aici decurg două priorităţi. În primul rând, detectarea este o problemă comună, însă companiile luptă fiecare pe cont propriu. Conturile false şi metodele de evitare a măsurilor de protecţie apar în mai multe laboratoare americane, dar incertitudinile juridice îi descurajează pe concurenţi să facă schimb de informaţii. Congresul le poate oferi permisiunea explicită de a împărtăşi semnalele privind ameninţările atât între ele, cât şi cu guvernul, la fel cum băncile fac deja schimb de informaţii despre fraude. În al doilea rând, descurajarea trebuie să vizeze magazinul, nu doar fabrica. Dacă un laborator chinez poate pierde accesul la cipuri americane pentru că le introduce ilegal în ţară, atunci ar trebui să suporte consecinţe comparabile şi pentru utilizarea sistematică şi abuzivă a serviciilor americane de inteligenţă artificială în scopul copierii lor.
Statele Unite au petrecut ani întregi dezbătând cum să împiedice tehnologia avansată de inteligenţă artificială să ajungă în mâinile Chinei. Întrebarea mai dificilă ar putea fi însă cum să împiedice companiile chineze de inteligenţă artificială să înveţe pe ascuns tot ce pot din modelele pe care noi le punem online pentru ca întreaga lume să le folosească. Dezvăluirile de săptămâna trecută au oferit şi o cifră: 28,8 milioane de întrebări, adresate pe uşa din faţă. Washingtonul a început, în sfârşit, să privească spre punctul de intrare potrivit. Acum trebuie să găsească şi modalitatea de a-l încuia.
Joseph Hoefer este partener şi director al departamentului de inteligenţă artificială (AI) la Monument Advocacy, unde coordonează activitatea companiei în domeniul politicilor privind inteligenţa artificială.
