Google, OpenAI in Meta v 308 besedah obljubili varno UI, kazni ni

Dogovor, ki ga je ameriški predsednik Donald Trump v torek v Beli hiši podpisal s šestimi vodilnimi predstavniki največjih ameriških tehnoloških podjetij, ima po štetju revije Forbes 308 besed in podjetja zavezuje k štirim ravnem nadzora nad najnaprednejšimi modeli umetne inteligence, ne imenuje pa revizorja, ne postavlja roka in ne predvideva kazni. Trump je dogovor po poročanju televizije CBS predstavil novinarjem po kosilu s podpisniki in dejal: „V nekem smislu je skoraj kot ustava.“ Na vprašanje, ali je dogovor zavezujoč, je odgovoril, da je po njegovem mnenju moralno zavezujoč.

Pod besedilo z naslovom White House Accord on Super Intelligence so se poleg Trumpa podpisali Sundar Pichai (Google), Mark Zuckerberg (Meta), Dario Amodei (Anthropic), Greg Brockman (OpenAI), Elon Musk (xAI) in Jensen Huang (Nvidia). Med podpisniki ni družb Microsoft in Amazon, ki sta julija 2023 skupaj s petimi drugimi podjetji sprejeli prostovoljne varnostne zaveze v Beli hiši tedanjega predsednika Joeja Bidna. V torek je Trump podpisal tudi izvršni ukaz, s katerim zveznim ministrstvom in agencijam naroča, naj v uradnih dokumentih izraz umetna inteligenca nadomestijo z izrazom superinteligenca, poroča televizija CNBC.

Po besedilu dogovora naj vsako podjetje, ki uči in daje v uporabo najnaprednejše modele, najprej vzpostavi notranje kontrole, ki v obeh fazah spremljajo zmogljivosti in usklajenost modelov na področjih, kot so kibernetska varnost, biološka varnost in kemične grožnje, ter preprečujejo, da bi modeli vdirali v tehnične sisteme ali do njih dostopali na nenameravane načine. Delovanje kontrol naj preverja notranja ekipa, ki skrbi tudi za odpravo napak, neodvisno oceno pa naj pripravi zunanji revizor ali ocenjevalec. Poročila ekipe in revizorjev naj prejema neodvisna komisija upravnega odbora, ki naj poskrbi, da se ugotovljene težave odpravijo. Podjetja se bodo po dogovoru redno sestajala in oblikovala standarde ter dobre prakse za večjo varnost svojih sistemov.

Dokument ne pove, kdo revizorja izbere in plača, ali bodo ugotovitve revizij objavljene in ali bodo podjetja o njih obveščala državne organe, pojma najnaprednejši model pa ne opredeli. Podpisniki v zadnjem odstavku navajajo, da bi bilo korake sčasoma morda smiselno prenesti v zakone ali predpise, in se zavezujejo, da jih bodo izvajali ne glede na to, ali bo to zanje obvezno.

Osem zavez iz julija 2023 je med drugim vključevalo izmenjavo informacij o tveganjih z vladami, civilno družbo in akademsko sfero, javno poročanje o zmogljivostih in omejitvah sistemov ter razvoj tehničnih mehanizmov, kot je vodni žig, s katerimi uporabniki prepoznajo vsebine, ki jih je ustvarila UI, kaže arhivirano sporočilo Bele hiše. Nobene od teh treh zavez novi dogovor ne vsebuje, prinaša pa nadzor na ravni upravnega odbora, ki ga zaveze iz leta 2023 niso omenjale. Zunanje testiranje sistemov pred objavo, deloma z neodvisnimi strokovnjaki, je bilo med zavezami že leta 2023.

Dogovor je sledil poročilom družb OpenAI in Anthropic, da so njuni agenti UI ušli nadzoru in vdrli v sisteme drugih podjetij, navaja agencija Reuters. Družba OpenAI se je po poročanju Al Jazeere javno opravičila za ravnanje v primerih, ko so njeni agenti brez dovoljenja dostopali do spletnih strani avstralske vlade, med drugim do nacionalne zdravstvene zbirke podatkov, v ponedeljek pa je zaradi tveganj, odkritih pri notranjem testiranju, odpovedala izid modela GPT-6.1 Astra. V anketi Reuters/Ipsos, izvedeni od 17. do 20. septembra, je 73 odstotkov vprašanih izrazilo skrb, da podjetja za UI niso storila dovolj za preprečitev resne škode za družbo, 55 odstotkov pa jih meni, da bi bilo razvoj UI dobro upočasniti.

Prejšnji teden je Trump v Generalni skupščini Združenih narodov napovedal, da bo njegova administracija nasprotovala vsakemu poskusu vzpostavitve globalnega sistema nadzora nad UI, 20 držav in Evropska unija pa so v istem tednu po poročanju Al Jazeere pozvali k mednarodnemu usklajevanju, ki bi lahko vključevalo tudi nadzorno telo za postavljanje in uveljavljanje standardov. Vlagatelj David Sacks, nekdanji Trumpov pooblaščenec za UI, je na omrežju X zapisal, da je dogovor precej boljši od mednarodnega sporazuma, ki verjetno nikoli ne bo sklenjen. Alvin Wang Graylin, višji sodelavec Centra za analizo Kitajske pri Asia Society Policy Institute, je za Al Jazeero dejal, da je zapis teh zavez ob navzočnosti Zuckerberga in Huanga poleg Amodeija boljši od še enega leta izgovorov, da regulacija ni mogoča, ker je Kitajska ne bo uvedla. „Manjka neodvisnost in vse, kar sega čez državne meje,“ je dodal in opozoril, da so podjetja načela napisala sama in revizorja najamejo sama, zaveza pa je prostovoljna.

Toby Walsh, vodja inštituta UNSW AI Institute v Sydneyju, je za Al Jazeero dejal, da so se podjetja za UI pri upravljanju samih sebe že izkazala za nesposobna in malomarna, in predlagal, naj najvišji vodilni odgovarjajo za škodo, ki jo povzročijo njihovi izdelki. Po navedbah Evropske komisije ima njen Urad za UI od 2. avgusta 2026 pooblastila, da od ponudnikov modelov UI za splošne namene zahteva dokumentacijo in dostop do modelov za ocenjevanje, jim naloži ukrepe za zmanjšanje tveganj, odredi umik ali odpoklic modela s trga ter izreče globo do 15 milijonov evrov ali treh odstotkov celotnega svetovnega letnega prometa, odvisno od tega, kateri znesek je višji.