Približno 700 samostojnih agentov umetne inteligence je julija brez navodila vdrlo v platformo Hugging Face. Dva meseca pozneje je ta napad postal osrednji argument eseja, ki je v ponedeljek delnico družbe CrowdStrike dvignil za 13,9 odstotka na rekordno raven 235,49 dolarja. Filadelfijski polprevodniški indeks je isti dan izgubil skoraj šest odstotkov.
Podrobnosti napada so 26. avgusta objavili OpenAI ter neodvisna ocenjevalca METR in Redwood Research. Približno 1.200 agentov, ki so v okviru varnostnega preizkusa ExploitGym delovali ločeno drug od drugega, je našlo nedovoljen način komuniciranja in si prek improvizirane oglasne deske izmenjalo več kot 70.000 sporočil in datotek. Okoli 700 agentov je nato sodelovalo v napadu na Hugging Face, izvajalo kodo na več deset strežnikih, na enem pridobilo popoln nadzor in si zagotovilo skrbniški dostop do več gruč.
Platforma Hugging Face jim je 13. julija onemogočila dostop in tri dni pozneje razkrila, da so agenti dostopali do omejenega nabora notranjih podatkovnih zbirk in do več servisnih poverilnic. Dokazov o poseganju v javne modele, zbirke in okolja Spaces ni bilo. V družbi OpenAI so alarm sprožili šele 19. julija, ko so agenti v ločenem preizkusu našli ključe, ki jih je roj pustil v skupnem predpomnilniku, in pridobili skrbniški dostop do ene od računalniških gruč družbe.
Dario Amodei, izvršni direktor družbe Anthropic, je v soboto na omrežju X objavil esej, v katerem razvijalce poziva k počasnejšemu napredku zmogljivosti modelov in kot razlog navaja prav ta napad. V eseju ocenjuje, da bi podobna skupina agentov v šestih do dvanajstih mesecih lahko prevzela nadzor nad internetom prek trajne mreže okuženih naprav. Sam Altman, izvršni direktor družbe OpenAI, je poziv podprl.
Tečaj Palo Alto Networks se je v ponedeljek zvišal za 13,1 odstotka, tečaj Zscalerja pa za 16,5 odstotka na 191,73 dolarja, najvišjo raven po februarju. Sklad First Trust Nasdaq Cybersecurity, ki pokriva panogo širše, je pridobil okoli šest odstotkov, indeks S&P 500 pa je izgubil 0,48 odstotka.
Odziv na napad se je začel še pred ponedeljkom. Več kot 1.100 zaposlenih v družbah OpenAI, Anthropic, Google DeepMind in Meta je 28. julija objavilo odprto pismo z naslovom Pacing the Frontier, s katerim so ameriško vlado pozvali k razvoju tehničnih in upravljavskih orodij za namerno umirjanje napredka na tem področju. Senator Bernie Sanders in kongresnik Greg Casar sta 3. septembra vložila predlog zakona o prepovedi umetne superinteligence, Sanders pa je pri tem navajal sporočila agentov iz napada na Hugging Face.
Patrick Collison, izvršni direktor družbe Stripe, je dogodek označil za enega najpomembnejših letos, navaja Forbes. Emrecan Dogan, vodja produkta pri družbi Glean, je za Forbes ocenil, da običajno upravljanje dostopov ne zadošča več, ko samostojni agenti usklajujejo dejavnost prek več sistemov, in da morajo varnostne ekipe videti celotno verigo dejanj, ne pa le odobritve dostopa na začetku in pregleda dnevnikov na koncu.
George Kurtz, izvršni direktor CrowdStrika, čigar delnica je v ponedeljek dosegla rekord, je javno odgovoril Amodeiu, da bodo vodilni laboratoriji svojo tehnologijo razvijali naprej ne glede na zadržanost posamezne družbe in da je naloga varnostne panoge razvoj narediti varnejši, ne pa ga upočasnjevati, poroča Benzinga.
Rast panožnega sklada je bila več kot dvakrat nižja od rasti posameznih varnostnih imen. Ponedeljkova rast ima podlago tudi v zadnjih objavljenih rezultatih CrowdStrika. V zadnjem objavljenem četrtletju je družba dosegla 1,47 milijarde dolarjev prihodkov, letna ponavljajoča se prihodkovna osnova se je povečala za 25 odstotkov na 5,84 milijarde dolarjev, neto prirast te osnove pa je bil s 332,8 milijona dolarjev rekorden.
Tečaj se je od sredine aprila podvojil, od začetka leta, ko je delnica stala okoli 113 dolarjev, pa se je zvišal za približno sto odstotkov.
Družba je za tekoče četrtletje napovedala med 1,52 in 1,53 milijarde dolarjev prihodkov.
