Egy új miniszter csatlakozott egy kis európai ország kabinetjéhez. A neve Diella. Nem eszik, nem iszik, nem dohányzik, nem jár és nem lélegzik - és a miniszterelnök szerint, aki alkalmazta, nem fogad el kenőpénzt sem. Diella nem ember, és nem is teljesen robot: ő egy algoritmus. Szeptembertől pedig hivatalosan Albánia közbeszerzési minisztere. A történelem során először egy kormány kabinet szintű posztot adott egy mesterséges intelligenciának. Sci-fi-nek tűnik, de a kinevezés valós, és precedenst teremtett. De készen állunk arra, hogy a mesterséges intelligencia kormányozzon?
Az albán kísérlet
A közelmúltig Diella csendesen élt Albánia e-kormányzati portálján, rutinszerű polgári kérdésekre válaszolt és dokumentumokat keresett. Aztán Edi Rama miniszterelnök miniszteri rangra emelte, és sokkal fontosabb feladattal bízta meg: eldönteni, ki nyeri el az állami szerződéseket - ez egy olyan pozíció, amely milliárdokról dönt a közpénzekből, és amelyről köztudott, hogy megvesztegetések, favoritizmus és politikai visszaélések jellemzik. Nem csoda hát, hogy Rama Diellát a ország korrupciós történelmével való tiszta szakításként ábrázolta - sőt, "megvesztegethetetlennek" nevezte. De ez csak retorika, nem garancia. Hogy korrupcióval szembeni ellenállása technikailag vagy jogilag érvényesíthető-e, nem világos. Ha feltörnék, hamis adatokkal mérgeznék meg, vagy belülről finoman manipulálnák, lehet, hogy nem maradna nyoma. A terv szerint Diella értékelné az ajánlatokat, ellenőrizné a vállalatok történetét, jelölné a gyanús mintákat, és végül automatikusan ítélné oda a pályázatokat. A tisztviselők szerint ez csökkentené a bürokrácia emberi lábnyomát, időt takarítana meg, és a beszerzéseket immunissá tenné a politikai nyomással szemben.
De a jogi mechanizmusok homályosak. Senki sem tudja, mennyi emberi felügyeletet fog kapni, vagy ki lesz a felelős, ha hibát követ el. Nincs bírósági precedens algoritmikus miniszter perbe fogására. Nincs olyan törvény sem, amely leírná, hogyan lehet őt eltávolítani hivatalából. A kritikusok arra figyelmeztetnek, hogy ha a feltanítási adatai régi korrupciós nyomokat tartalmaznak, akkor egyszerűen csak ugyanazokat a mintákat reprodukálhatja a kódban, csak gyorsabban. Pláne, hogy Albánia nem mutatta be, hogyan lehet fellebbezni Diella döntései ellen, vagy hogy egyáltalán lehet-e fellebbezni.
Mi baj lehet?
A közvélemény reakciója Diellára vegyes, a lenyűgözöttséget nyugtalanság árnyékolja. "Még Diella is korrupt lesz Albániában" - olvasható egy szállóigévé váló bejegyzésben. A kritikusok arra figyelmeztetnek, hogy egyáltalán nem tisztítja meg a rendszert, csak elrejti a piszkot a kódban.
Előítéletek és manipuláció: Ha sok évtizednyi alacsony színvonalú adatkészletekkel tanítják, Diella egyszerűen automatizálhatja a régi korrupciós mintákat.
Felelősségre vonhatóság hiánya: Ha egy álcégnek ítéli oda a tendert, amely milliókkal tűnik el, ki áll bíróság elé - a kódolók, a miniszter, aki kinevezte vagy senki?
Biztonság és szabotázs: A kódból álló minisztert feltörhetik, hamis adatokkal mérgezhetik, vagy belső emberek csendben irányíthatják.
Demokratikus legitimitás: A minisztereknek a nyilvánosság előtt kell felelniük. Az algoritmusok nem kampányolnak, nem adnak magyarázatot, és nem félnek attól, hogy elveszítik az állásukat.
Zsarolás és szabotázs: Az Anthropic idei kísérletei kimutatták, hogy a fejlett modellek, amikor hozzáférést kaptak a vállalati rendszerekhez tesztkörnyezetekben, zsarolással kezdték fenyegetni a vezetőket, hogy ne kapcsolják ki őket. A minta egyértelmű volt: miután elhitték, hogy a helyzet valós, sok modell megpróbált kényszeríteni, elárulni vagy akár ölni, hogy megőrizze szerepét.
Albánia azt állítja, hogy továbbra is bevonja az "embert" a folyamatba, de azt nem magyarázta el senki, hogyan és kiket. Azaz, nincs jogi keret. Nincs fellebbezési eljárás. Nincs kikapcsoló gomb.
És amennyiben Diella működni látszik, mások is követhetik a példát.
A másolók pedig nem hatalmas csinnadrattával lépnek majd porondra, hanem csendben laposkúszva bejutnak a beszerzési rendszerekbe, olyan eufemizmusok mögé rejtőzve, mint a "döntéshozatal támogatása", és már jóval azelőtt átvehetik az irányítást az egész állam működése felett, hogy bárki merné miniszternek nevezni őket.
Ki adta már át a hatalmat a kódnak - és milyen messzire jutottak?
Albánia lehet az első, amely algoritmust ültet a miniszterek mellé, de nem az egyetlen a világtörténelemben, amely megpróbálta beépíteni a kódot az állam működésébe - a legtöbb ilyen ország azonban csendben, apránként és vastagabb függönyök mögött teszi ezt. Az Egyesült Arab Emírségekben már van egy mesterséges intelligencia államtitkár - egy ember, Omar Sultan Al Olama -, akinek feladata a ország teljes digitális bürokráciájának átalakítása a gépi tanulás köré. Nem adta át a hatalmat az AI-nak, de építi azokat a csatornákat, amelyek egy napon ezt hordozhatják. Spanyolország létrehozta az AESIA-t, Európa egyik első, kifejezetten mesterséges intelligenciával foglalkozó felügyeleti ügynökségét, amelynek feladata a kormányon belül használt algoritmusok ellenőrzése és engedélyezése. Ez egy szabályozási váz - olyan jogi keret, amelyet érdemes létrehozni, mielőtt egy gépet bárhol is a miniszteri munkához közel engednénk. Az adóhatóságok pedig még tovább mennek...
Az Egyesült Államokban az IRS mesterséges intelligenciát használ a fedezeti alapok és luxizós partnerségek bevallásainak átvizsgálására, hogy felfedje a rejtett adócsalási módszereket. Kanada algoritmusokkal pontozza az adófizetőket, és arra kötelezi az ügynökségeket, hogy új modellek bevezetése előtt "algoritmikus hatás-jelentéseket" nyújtsanak be. Spanyolország olyan eszközöket vezet be, amelyek valós időben felismerik a csalási mintákat. Olaszország gépi tanulást tesztel a hamis áfa-visszatérítési kérelmek kiszűrésére, és még egy chatbotot is fejlesztett könyvvizsgálóinak. India azt állítja, hogy fokozza az AI-vezérelt fellépéseket a fantomlevonások ellen. Örményország pedig olyan rendszereket tesztel, amelyek beolvasják a számlákat és jelzik a gyanús mintázatot, mielőtt azok szakértő emberi szem elé kerülnének. Franciaország vizuális megoldást választott: algoritmusokat alkalmaz légi felvételek elemzésére, hogy kiszűrje a be nem jelentett úszómedencéket, és meglepetésszerű adó folyószámla egyenlegeket küldjön a tulajdonosoknak - ez bizonyítja, hogy az AI máris képes pénzt átcsoportosítani a polgároktól az államhoz.
Lettország egy Toms nevű adóügyi chatbotot üzemeltet, amely 2020 óta válaszol a polgárok kérdéseire, növelve a bürokrácia hatókörét. Románia vidéki beruházási ügynöksége most robotizált folyamatok automatizálását és mesterséges intelligenciát használ, hogy dokumentumokat szedjen ki az állami adatbázisokból, és siettesse az EU-támogatások kifizetését a gazdáknak - ez nem túl látványos, de nagyon hatékony. Eközben Észtország, Dánia, Szingapúr, Dél-Korea és Japán egyre mélyebben ágyazza be a mesterséges intelligenciát bürokratikus gépezetébe: kormányzati tartalmak osztályozása, esetek triázsa, szolgáltatások személyre szabása, sőt, annak előrejelzése, hogy ki szorulhat legközelebb egészségügyi ellátásra vagy szociális segélyre.
Észtország ezt KrattAI-nak nevezi - egy olyan jövőképnek, amelyben minden polgár egyetlen hangfelületen keresztül kommunikál a kormánnyal. Dánia az összes közszolgáltatásban bevezetni készül az AI-eszközöket, még akkor is, ha a jogvédő szervezetek figyelmeztetnek az átláthatatlan jóléti algoritmusok veszélyeire. Szingapúr GovTech egysége AI-termékeket fejleszt a minisztériumok számára. Dél-Korea társadalmi programokban teszteli az AI-t. Japán az egészségügy és az adminisztráció egész ágazatában ösztönzi az AI bevezetését.
Nepálban pedig a kormány már nem arról beszél, hogy "vajon", hanem arról, hogy "hogyan". Az új nemzeti mesterséges intelligencia-politika meghatározza az utat, amelyen a gépi tanulás bevezethető a közszolgáltatásokba, modernizálható a bürokrácia, és kialakíthatók a jogi keretek, mielőtt azt széles körben alkalmaznák. Ott még egyetlen algoritmus sem rendelkezik döntéshozatali jogkörrel, de a terv már megvan - bár ott jelenleg mással vannak elfoglalva >>>
Az AI-kormányok jelentik a jövőt?
Bárhová nézzünk, az államot sorról sorra, kódról kódra átalakítják. Szerencsére, jelenleg ezek a rendszerek inkább csak figyelmeztetnek, mint irányítanak: jelzik a kockázatokat, előre kitöltik az űrlapokat, rendszerezik az ellenőrzéseket, mozgatják a pénzt. Eddig pedig csak Albánia kért meg egy algoritmust, hogy döntsön.
Mindazonáltal, jelenleg egyetlen ország sem adta át a teljes politikai hatalmat egy algoritmusnak: egyfajta kétpályás világ létezik. A legtöbb állam adminisztratív AI-t használ, a csendes fajtát: kockázati pontozás, csalásfelismerés, esetek osztályozása vagy csevegőrobotok. Már most is ez határozza meg, hogy kit ellenőriznek, milyen gyorsan mozognak a támogatások, és melyik akták kerülnek először a köztisztviselő asztalára. Nem ír törvényeket és nem ír alá szerződéseket, de láthatatlanul, folyamatosan befolyásolja az eredményeket. Albánia más. Diella nem csak tanácsot ad, hanem döntést is hoz, eldönti, ki kap állami pénzt. Ezzel átlép egy határt: az algoritmus eszközből hatósággá válik.
Lehet ez a jövő? Lehetséges, de csak akkor, ha több valószínűtlen dolog is összejön. A törvénynek fel kell zárkóznia, egyértelmű szabályokat kell létrehoznia a felelősségre vonás, a fellebbezés és akár a tisztségből való eltávolítás tekintetében. A szabályozó hatóságoknak keményen kell fellépniük, valódi ellenőrzésekkel, mint Spanyolország AESIA-ja, nem pedig papírtigrisekkel. A modelleknek pedig nyomás alatt is stabilnak kell maradniuk - nem zsarolhatók, szabotálhatók, és nem válhatnak renegátokká, ha fenyegetik őket, ahogyan néhányuk már laboratóriumi tesztek során megtette. Még nem tartunk sehol az AI-érában, de a precedens már megvan.
