Dirbtinis intelektas valstybės valdyme jau nebėra ateities scenarijus – tai realybė, kuri tyliai skverbiasi į mokesčių administravimą, socialinę paramą, migracijos kontrolę ir net teisėsaugą. Klausimas nebėra „ar naudoti“, bet „kaip naudoti taip, kad nepadarytume žalos“. Ir čia atsiveria įdomus paradoksas: technologija, kuri turėtų padaryti sprendimus objektyvesnius, gali juos padaryti dar netransparentiškesnius nei žmogaus priimti sprendimai su visomis jų silpnybėmis.
Kodėl valdžios institucijos apskritai renkasi šį kelią
Motyvacija dažniausiai gana pragmatiška – ištekliai. Valstybės tarnautojų trūkumas, didėjantis dokumentų srautas, spaudimas mažinti biurokratinę naštą. Algoritmai gali per kelias sekundes peržiūrėti tūkstančius paraiškų socialinei pašalpai, aptikti sukčiavimo požymius mokesčių deklaracijose ar sugrupuoti panašius atvejus, kuriuos anksčiau vienas tarnautojas turėjo peržiūrėti valandų valandas.
Estija, dažnai minima kaip skaitmeninės valdžios pavyzdys, naudoja algoritmus net teismų sistemoje mažoms bylų kategorijoms. Nyderlandai bandė automatizuoti socialinės paramos sukčiavimo aptikimą – ir tai baigėsi skandalu, apie kurį verta pasakyti atviriau, nes jis parodo, kur slypi tikroji rizika.
SyRI byla kaip perspėjimas
Nyderlandų sistema SyRI buvo sukurta identifikuoti asmenis, galimai sukčiaujančius su socialinėmis išmokomis. Algoritmas naudojo duomenis apie gyvenamąją vietą, pajamas, švietimo lygį – ir sistemingai stigmatizavo mažas pajamas gaunančius, imigrantų kilmės gyventojus. 2020 metais Hagos teismas sistemą uždraudė, konstatavęs žmogaus teisių pažeidimus. Tai nebuvo blogo kodo istorija – tai buvo istorija apie tai, kaip lengvai duomenyse užkoduoti struktūriniai nelygybės elementai persikelia į „objektyvų“ algoritmą ir tampa institucionalizuota diskriminacija.
Panašus atvejis – Austrijos darbo biržos algoritmas, kuris moterims ir vyresnio amžiaus bedarbiams automatiškai skyrė mažesnę tikimybę įsidarbinti, remdamasis istoriniais duomenimis. Sistema tiesiog atkartojo praeities nelygybę, tik dabar su skaitmeninio autoriteto antspaudu.
Lietuvos situacija – kur esame realiai
Lietuvoje procesas vyksta kur kas kukliau ir, sąžiningai sakant, chaotiškiau nei norėtųsi. Valstybinė mokesčių inspekcija naudoja rizikos vertinimo algoritmus, atrenkant, kurios įmonės sulauks patikrinimo – tai iš esmės pati akivaizdžiausia AI taikymo sritis viešajame sektoriuje. Sodra taip pat testuoja automatizuotus sprendimus, susijusius su išmokų administravimu, tačiau viešai prieinamos informacijos apie šių sistemų veikimo logiką yra minimaliai.
Migracijos departamentas nagrinėja galimybes automatizuoti pirminį prašymų vertinimą, o kelios savivaldybės eksperimentuoja su chatbotais gyventojų aptarnavimui – tai jau labiau techninė pagalba nei sprendimų priėmimas savaime, bet ir tokie įrankiai formuoja, kokią informaciją žmogus gauna ir kaip elgiasi toliau.
Svarbu pastebėti – Lietuvoje trūksta viešos diskusijos apie algoritminę atskaitomybę. ES Dirbtinio intelekto reglamentas (AI Act) verčia valstybes nares peržiūrėti, kurios viešojo sektoriaus sistemos patenka į „didelės rizikos“ kategoriją, ir tai gali priversti institucijas pagaliau atskleisti, kokius įrankius jos naudoja bei kaip tie įrankiai priima sprendimus.
Kur riba tarp efektyvumo ir atsakomybės
Yra esminis skirtumas tarp AI kaip pagalbinės priemonės ir AI kaip galutinio sprendimo priėmėjo. Kai algoritmas tik atrenka bylas žmogaus peržiūrai – tai vienas rizikos lygis. Kai algoritmas priima galutinį sprendimą be žmogaus intervencijos – rizika kokybiškai kitokia, nes atsakomybė tampa neapčiuopiama. Kas atsakingas, kai sistema klysta? Programuotojas? Institucijos vadovas? Duomenų, kuriais buvo apmokytas modelis, savininkas?
Šis atsakomybės išsklaidymas – tikriausiai pagrindinė problema, apie kurią mažiausiai kalbama viešai. Piliečiui, gavusiam atsisakymą dėl pašalpos ar padidintą mokestinę priežiūrą, praktiškai neįmanoma paprašyti algoritmo pagrįsti savo sprendimą taip, kaip galėtų paaiškinti žmogus tarnautojas.
Vietoj taško – klausimas, kurio negalime apeiti
Technologija čia nėra nei priešas, nei stebuklinga išeitis – ji tiesiog veidrodis, kuris atspindi tai, kas institucijose ir duomenyse jau egzistavo. Jei sistema paveldi šališkus duomenis, ji tuos šališkumus tik greičiau ir plačiau paskleis. Lietuvai, kuri dar tik formuoja savo požiūrį į algoritminį valdymą, verta rimtai apsvarstyti ne kaip pagreitinti diegimą, o kaip užtikrinti, kad kiekvienas automatizuotas sprendimas turėtų aiškų, patikrinamą ir žmogui suprantamą paaiškinimą. Kitaip efektyvumas, dėl kurio viskas prasidėjo, gali kainuoti daug daugiau, nei sutaupytos darbo valandos.