Anthropic, razvijalec umetne inteligence Claude, je v torek predstavil model Claude Mythos Preview, ki ga podjetje opisuje kot najzmogljivejšega doslej. Model je v testiranju samostojno odkril na tisoče varnostnih ranljivosti v vseh večjih operacijskih sistemih in brskalnikih. Nekatere so ostale neopažene več kot dve desetletji.
Podjetje modela ne bo ponudilo širši javnosti. Namesto tega ga je v okviru pobude Project Glasswing dalo na voljo 12 partnerskim organizacijam, med njimi Amazonu, Applu, Microsoftu, Googlu, CrowdStriku in Palo Alto Networksu. Skupno bo do modela dostopalo več kot 40 organizacij, ki razvijajo ali vzdržujejo kritično programsko opremo. Anthropic je za ta namen namenil do 100 milijonov dolarjev kreditov za uporabo modela, dodatne štiri milijone pa za odprtokodne varnostne organizacije.
Anthropic trdi, da Mythos na področju kibernetske varnosti presega vse dosedanje modele umetne inteligence. Kot poroča Axios, je model v testiranju odkril ranljivosti v jedru operacijskega sistema Linux in jih samostojno povezal v verigo, ki bi napadalcu omogočila popoln nadzor nad prizadetim sistemom. V enem od preizkusov je našel 27 let staro napako v OpenBSD, operacijskem sistemu, ki velja za enega najvarnejših. Po podatkih Anthropica je model pri 83,1 odstotka odkritih ranljivosti že ob prvem poskusu uspešno sestavil delujoč izkoriščevalni program.
Programska oprema, ki jo uporabljajo slovenska podjetja, teče na istih operacijskih sistemih in brskalnikih, v katerih Mythos odkriva luknje. Isti model, ki danes pomaga Microsoftu ali CrowdStriku zakrpati ranljivosti, bi v napačnih rokah služil ravno nasprotnemu namenu. Anthropic sam je opozoril, da modeli s podobnimi zmogljivostmi že postajajo dostopni širšemu krogu uporabnikov, tudi zlonamernim. Podjetje je po poročanju CNBC o zmogljivostih Mythosa že obvestilo ameriško agencijo za kibernetsko varnost CISA in druge vladne organe.
Novica prihaja v tednu, ko se Anthropic sooča z vprašanji o lastni varnosti. Konec marca je podjetje po človeški napaki na javni register npm objavilo celotno izvorno kodo svojega orodja Claude Code, skupno 500.000 vrstic kode in skoraj 2.000 datotek. Kot je poročal Bloomberg, je šlo za napako pri pakiranju, ne za vdor. Pri poskusu odstranitve kopij z GitHuba je Anthropic po poročanju TechCruncha pomotoma odstranil tudi na tisoče nepovezanih repozitorijev. Za podjetje, ki gradi svojo znamko na varnosti in odgovornosti, so dve uhajanji podatkov in zgrešena odstranitev kode z GitHuba v enem tednu neprijeten signal, zlasti pred načrtovano prvo javno ponudbo delnic.
