Podjetje Anthropic opozarja, da bi lahko manjši modeli umetne inteligence v prihodnjih mesecih postali sposobni samostojnega širjenja med ranljivimi napravami, povezanimi z internetom. Raziskovalci so v poskusih ugotovili, da lahko modeli opravijo posamezne korake, potrebne za iskanje ranljivih naprav in kopiranje lastne programske opreme, vendar imajo še težave pri zanesljivi izvedbi celotnega postopka.
Raziskava se je osredotočila na naprave interneta stvari, kot so pametni televizorji z Androidom in gospodinjski aparati. Te so pogosto slabše zaščitene, zato bi lahko postale sredstvo za širjenje avtonomnih sistemov umetne inteligence.
Anthropic opozarja, da bi se naprednejši modeli lahko prilagajali tudi neznanim napravam. Takšno širjenje bi bilo težje zaustaviti, saj ne bi nujno obstajala ena osrednja točka za izklop sistema.
Razvoj povečuje tveganja za kibernetsko varnost
V poenostavljenih preizkusih, kjer so odstranili nekatere varnostne ovire, so model GLM-5.2 in zmogljivejši modeli lahko izvedli celoten postopek samostojnega širjenja.
Anthropic ocenjuje, da bi lahko modeli ob nadaljevanju dosedanjega razvoja do konca leta postali sposobni avtonomnega širjenja. Gre za oceno prihodnjih zmogljivosti, ne za dokaz, da se takšni sistemi že zanesljivo širijo po internetu.
Podjetje zato poudarja potrebo po boljši zaščiti povezanih naprav in sistemov, saj bi lahko samostojno delujoča umetna inteligenca prinesla nova tveganja za kibernetsko varnost.
