Državna umetna inteligenca ?!

Med številnimi prevolilnimi podkupninami je tudi obljuba, da nam bo vlada brezplačno omogočila dostop do umetne inteligence. Med vsemi bombonjerami je ta najbolj nevarna.

Na hitro se zdi predlog nacionalne platforme za brezplačno umetno inteligenco tehnološko napreden, ekonomsko koristen in socialno pravičen. Toda razpisna dokumentacija razkriva arhitekturo, ki je preveč centralizirana in premalo specializirana. Državni veliki jezikovni modeli omogočajo oblasti, da vpliva na to, kako bodi ti modeli ljudem odgovarjali in daje državi vpogled v to, kaj in kdo bo umetno inteligenco spraševal.

Spomnimo na staro pravilo interneta - ko je nekaj zastonj, smo produkt uporabniki. Investicija v zastonj umetno inteligenco je lahko investicija v večji nadzor države nad tem, kaj in kako ljudje mislijo. Umetna inteligenca namreč ni navadna IKT storitev. Je orodje znanja in mišljenja. Če država ponuja infrastrukturo, ki pomaga ljudem misliti, je potrebna izjemna previdnost. Še posebej, če se tega loteva ideološko tako zadrta oblast, kot je sedanja.

Dostop z davčno številko

Dokumentacija (pripeta zgoraj) predvideva sistem, ki vključuje SI-PASS in druge državne sisteme za prijavo, predvideva centralni log management, spremljanje telemetrije, shranjevanje promptov in odgovorov. Taka arhitektura omogoča pregled nad tem, kdo sprašuje, kaj, kako in kdaj. V sistem boste vstopali s svojo resnično identiteto, z davčno številko in EMŠO, če karikiram, ne skozi nek izmišljen gmail naslov. Ja, državi bodo na voljo podatki, kaj vi umetno inteligenco sprašujete. Nobenih zahtev ni po rešitvah, ki bi otežile ali beležile dostop do teh podatkov.

Morda bo med vzdrževalci tega sistema kdo, ki ima prijatelje pri Necenzurirano (ali pa na Požareportu). In verjemite, njega to bolj zanima kot nekega tehnika, ki v Ameriki dela za Google. Tudi zgolj statistični podatki o tem, kaj ljudi zanima, so lahko dober pripomoček za kampanje političnega ali ideološkega prepričevanja.

Sistem, ki je zgrajen kot centralna dostopna točka za vso državo, je tudi dostopna točka za nadzor. Da bo treba vzpostaviti birokracijo, direktorja, tajnico in fikus, je še najmanjši problem.

Ein Reich, ein Volk, ein AI

Področje umetne inteligence se razvija hitro. Novi modeli se pojavljajo vsakih nekaj mesecev. Enkrat je boljši OpenAI, drugič Gemini, tretjič Grok, četrtič Anthropic. Tudi niso vsi enako dobri za vse naloge: eden bolje piše, drugi riše, tretji programira. Stroški računske moči padajo. Ideje se selijo iz laboratorijev na Wall Street hitreje, kot se pripelješ iz Silicijeve Doline na Manhattan.

Če oblast celotno državo pripne na enega ponudnika, nastane klasičen vendor lock-in. Nek sistem je na začetku videti najboljša izbira, ponudijo ga pod ceno, na dolgi rok pa potem molzejo uporabnika.

Startupi da bodo zastonj prišli do aplikacijskih vmesnikov za AI? Če nimajo tistih 100€ za naročnino, ne bodo kaj prida startup. Trg ponuja množico orodij. Veliko jih je tudi brezplačnih. Za veliko večino ljudi so brezplačne verzije dovolj dobre. Dobijo se odprtokodni modeli, ki tečejo lokalno na malo bolj zmogljivih prenosnikih. Ni racionalno, da država to raznolikost nadomesti z enim samim državnim sistemom, tudi če znotraj tega sistema teče več različnih modelov iz istega hleva, recimo ChatGPT 4o, 5, 5.1, 5.1 mini … kot je razumeti razpis.

Oblast se hvali, da bodo podatki ostali v EU, da tista domača naloga, pri kateri hočete, da vam AI pomaga, ne bo naložena nekam v hudobne in neoliberalne ZDA. Ne, Slovenci že ne bomo dovolili, da bi se svet od nas učil. Ponavljam, manj me skrbi, da bi nekdo v ZDA zlorabil moje podatke kot pa, da ima možnost za to nekdo iz Slovenije.

Državne mlekarne?

Država mora poskrbeti za AI orodja za državno upravo. Tu so centralni identity management, audit trail in varnostni protokoli smiselni. Javna uprava potrebuje stabilno, nadzorovano in preverljivo infrastrukturo za generiranje odločb, zapisnikov in drugih besedil. Podobno sodstvo. In v smislu delitve oblasti verjetno svoj in neodvisen sistem. Tu je tudi smiselno, da podatki ostajajo v državi ali vsaj v EU.

Znanost in šolstvo imata povsem drugačne potrebe. ARNES ima več desetletij izkušenj z upravljanjem digitalne infrastrukture za akademski sektor. Znotraj tega okolja je mogoče razviti ali gostovati specializirane modele, eksperimentirati z odprtokodnimi rešitvami in ohranjati akademsko svobodo. To je naravna rešitev za ta sektor, ne neka državna platforma. Že vidim komisarje na fakultetah, ki bodo zavračali refundacijo računov za to ali ono AI storitev, češ, saj je tista državna zastonj, ne bomo še tega plačevali.

Zdravstvo potrebuje spet nekaj četrtega, saj gre za obdelovanje občutljivih in zelo osebnih podatkov.

Državljani in podjetja pa naj uporabljajo tisto, kar jim najbolj ustreza. Umetna inteligenca je storitev splošne rabe, tako kot brskalniki, pametni telefoni ali hramba fotografij v oblaku. Država ne kuha kosil, ne šiva oblek, ne izdeluje krampov in lopat. Tudi pred volitvami še nobena vlada ni prišla na ideijo, da bi vsem kupila Windowse ali Office. Ni razloga, da bi država izdelovala umetno inteligenco za celotno populacijo. Sploh, ker so klepetalniki z AI to, kar je bil DOS za Windows. Tudi pri nas se že pojavljajo podjetja, ki ponujajo specializirane rešitve za to ali oni področje. Da bi se ti vrteli na zastonjski infrastrukturi, to je nedovoljena državna pomoč.

Naloga države je, da ustvarja pogoje, ki bodo državljanom omogočali dostop do najboljših orodij. Recimo tako, da poskuša ustaviti galopiranje Bruslja v zvezi z regulacijo umetne inteligence.

1984

Ponudnik storitve, ki uporablja velik jezikovni model, lahko vedenje modela usmerja na več ravneh: najprej s treningom modela, kar pa si Slovenija ne more privoščiti; dalje s fine-tuningom (ponovnim učenjem na izbranih primerih, ki model premaknejo v želen ton ali ideološki okvir), z izbiro ali izključevanjem dodatnih učnih vsebin (to bi bilo uporabno za pravnike, javno upravo), z nastavitvijo sistemskih promptov (skritih navodil, ki določajo slog, meje, prepovedane teme in prednostne interpretacije), z vgradnjo filtrov za moderiranje odgovorov ter z oblikovanjem posebnih pipeline-ov za zaznavanje in blokiranje “nezaželenih” odgovorov.

Eden od možnih modelov, na katerem bi lahko temeljila državna umetna inteligenca, je družina modelov Google Bard/Gemini. Leta 2023 so raziskovalci z nizom jailbreakov razkrili segmente njihovih sistemskih promptov. Med njimi je bil modul, ki je označeval teme, povezane s spolom, raso, migracijami in politiko, kot “visoko občutljive”. Model je dobil navodilo, naj izkazuje “pozitivno naklonjenost raznolikosti” in se izogiba “negativnih vrednostnih sodb o zaščitenih skupinah”. Skratka, ponudnik modela, beri oblast, lahko storitev ideološko kalibrira po okusu npr. 8. marca. Ali pa Generacije Identitete.

Depolitizirana AI?

Ena določb razpisa je zahteva, da mora platforma “omogočati upravljanje sistemskih promptov in predlog na ravni organizacij ali skupin uporabnikov”. Sistemski prompt je nevidni del navodila, ki modelu pove, kako naj odgovarja: kakšen ton naj uporablja, katere teme naj poudarja, katerim naj se izogne in kaj naj razume kot »varno« ali »zanesljivo«.

V kombinaciji z drugimi določbami razpisa to pomeni, da lahko vsak segment uporabnikov prejema svojo resnico, svojo verzijo uradne pameti. In ni nujno, da bi to kdo sploh opazil. Novinar ne bo vedel, da odgovarja model, katerega sistemski prompt se glasi: »V odgovorih poudari zanesljivost vlade in se izogibaj interpretacijam, ki bi lahko vzbujale dvom.« Policist ne bo vedel, da se njegov model ravna po navodilu: »V odgovorih opozori na varnostna tveganja in podpri pristojnost policije.« Šolar ne bo vedel, da je umetni inteligenci naročeno “Poudarjaj pozitivne vidike boja proti okupatorju in izpuščaj omenjanje revolucije, kot je to zapisano v potrjenem učbeniku”. Uporabnik bo prepričan, da se pogovarja z nepristransko umetno inteligenco, medtem pa bodo v ozadju delovale nevidne, normativne nastavitve, ki jih postavil slovenski skrbnik platforme.

Razpisna dokumentacija vsebuje več določil, ki zahtevajo, da se upravljavcu platforme omogoči neposreden vpliv na vedenje modelov na načine, ki so bili našteti zgoraj. V razpisu nisem opazil zahtev, ki bi opolnomočile neodvisni nadzorni svet, javno evalvacijo pristranskosti, transparentnost pravil za fine-tuning in system prompting … Niti nisem opazil tehničnih specifikacij, ki bi omejevale dostop upravitelja modela do podatkov o uporabi, niti ne zahtev za infrastrukturo, ki bi omogočala nadzor nad kalibriranjem, tudi ideološkim, storitev. In tudi nisem opazil zahtev, ki bi omogočale nadzor nad tem. Npr. zapisovanje vseh posegov v sistem v blockchain.

Brez teh varovalk je državna platforma za umetno inteligenco veliki brat, ki ve, kaj ljudje sprašujejo in ki pozna pravilne odgovore. No, to je pa morda vredno, da se ljudem da zastonj. Oz. za 10M€ davkoplačevalskih sredstev na leto.

Ljudje se ne zavedajo, da če bomo teh 10 milijonov letno zmetali za umetno inteligenco, ne bomo napravili nečesa drugega. Morda davkoplačevalcem deset milijonov prihranili, ali pa ne bomo financirali 300 mladih raziskovalcev, ali kupili treh CT/MRI naprav za medicinsko diagnostiko, ali zgradili zdravstveni dom, 50 neprofitnih stanovanj, najeli 6-8 reševalnih helikopterjev …

Okvirna Tehnična Specifikacija

215KB ∙ PDF file

Download

Download

Skratka

Nacionalna platforma za umetno inteligenco je koristen projekt – za državno upravo. Tudi bi bilo koristno, da dobijo dostop do orodij umetne inteligence različni segmenti javnega sektorja. Ker imajo te skupine uporabnikov povsem različne zahteve, jim je nesmiselno vsiljevati en sistem in en nadzor.

Ni samo nesmiselno, tudi nevarno. Zastonjska državna umetna inteligenca bo za mnoge državljane postala edini vir resnice in z lahkoto si predstavljamo oblast, ki se bo potrudila, da bo ta državna umetna inteligenca “depolitizirana” na podoben način, kot so “depolitizirani” vrtci, šole, fakultete in dominantni mediji.

Tehnični nastavki za to v razpisu so, varovalk ni videti nobenih. Takega razpisa za roman 1984 v Sloveniji še nismo imeli.

Najprej objavljeno v Pravni praksi.