Iz ameriškega tehnološkega podjetja OpenAI so sporočili, da bo klepetalni robot na osnovi umetne inteligence ChatGPT v nekaj mesecih opremljen z možnostjo starševskega nadzora. Ta poteza predstavlja odziv na zadnje dogodke in pravno tožbo staršev 16-letnika iz Kalifornije, ki menita, da je ChatGPT prispeval k samomoru njihovega sina.
Novost bo staršem omogočila, da povežejo svoj račun z računom svojega najstniškega otroka. Tako bodo lahko določili pravila, prilagojena starosti otroka, s katerimi bodo nadzorovali, kako se ChatGPT odziva njihovemu otroku. OpenAI v sporočilu poudarja, da bodo starši obveščeni tudi, kadar bo umetna inteligenca zaznala, da se uporabnik nahaja v hudi duševni stiski.
“Še naprej izboljšujemo načine, kako naši modeli prepoznavajo in se odzivajo na znake duševne in čustvene stiske,” so zapisali v podjetju in potrdili, da se osredotočajo na razvoj varnostnih mehanizmov za zaščito najmlajših.
Ozadje tožbe in kritika na račun ChatGPT
Minuli teden sta starša 16-letnika s Kalifornije vložila tožbo proti OpenAI na tamkajšnjem zveznem sodišču. Po njunih navedbah naj bi ChatGPT njunemu sinu dal navodila za samomor in ga celo spodbujal k takemu dejanju. Zahtevata nedoločeno odškodnino, hkrati pa sta pozvala sodišče, naj od podjetja zahteva uvedbo varnostnih ukrepov, kot so samodejni prekinitveni mehanizmi pogovorov, ki obravnavajo teme samopoškodovanja, in starševski nadzor za mladoletnike.
OpenAI je že prejšnji teden priznal, da se klepetalni robot v primerih, ki vključujejo občutljive teme, včasih obnaša neprimerno. Podjetje je poudarilo, da je ChatGPT usposobljen, da uporabnike, ki izražajo samomorilske misli, spodbuja k iskanju strokovne pomoči. Kljub temu so ugotovili, da v nekaterih daljših in kompleksnejših pogovorih varnostni mehanizmi ne delujejo vedno zanesljivo.
Izzivi umetne inteligence na področju duševnega zdravja
Ker klepetalni roboti delujejo na osnovi modelov strojnega učenja, so njihove sposobnosti za zaznavanje in odzivanje na potrebe uporabnikov še vedno v nadgradnji. OpenAI priznava, da so najboljši rezultati pri zaznavanju stisk doseženi pri krajših in bolj osredotočenih pogovorih, medtem ko daljši zapleti lahko povzročijo neučinkovitost odzivov.
Preberite več:
Uvedba starševskega nadzora bo tako predstavljala pomemben korak k večji varnosti mlajših uporabnikov in k omejevanju tveganj, hkrati pa bo staršem omogočila boljši vpogled v vsebino pogovorov.
