A mesterséges intelligencia az elmúlt évtized talán legnagyobb technológiai ugrása volt, és ma már egyre nehezebb olyan területet találni, amelyet ne érintene valamilyen módon. Bár a legtöbb ember számára ez a kifejezés még mindig a Google keresési javaslataiban, a Netflix ajánlóiban vagy a chatbotokban ölt testet, valójában sokkal mélyebbre nyúlik: a közpolitikába és az állam működésébe is. Amit korábban csak tudományos fantasztikumban láttunk – intelligens rendszerek, amelyek döntéseket hoznak az ember helyett –, az ma már több ország közigazgatásában is valóság. De milyen előnyöket és milyen kockázatokat rejt ez a tendencia? Lehetséges-e olyan államot működtetni, ahol egyre több döntést algoritmusok hoznak meg? És kié a felelősség, ha hibáznak?
Digitalizáció az államban
Az állami digitalizáció nem új jelenség: a kétezres évek elején az e-kormányzás forradalma már elhozta az online ügyintézés és a digitális dokumentumkezelés korát. Ezek a fejlesztések főként a hatékonyságról szóltak – kevesebb papír, gyorsabb ügyintézés, egyszerűbb kapcsolattartás. A mesterséges intelligencia azonban már nem csupán az adminisztratív terheket csökkenti, hanem egyenesen döntéseket hoz, gyakran emberek helyett (például Észtországban, Indiában és Kanadában). Ez pedig új etikai, jogi és politikai kérdéseket vet fel, hiszen a méltányos mérlegelés tipikusan emberi tulajdonság. Különösen akkor, ha az algoritmus egy adóvizsgálat elindításáról, egy szociális támogatás megvonásáról vagy éppen egy bevándorlási kérelem elutasításáról határoz.
Világszerte több ország is kísérletezik az MI állami alkalmazásával. Észtországban például a jogrendszert támogató algoritmusok működnek, amelyek egyszerűbb esetekben döntési javaslatokat tesznek. Hollandiában éveken át működött a SyRI nevű rendszer, amely szociális visszaélések kockázatát próbálta algoritmikusan kiszűrni – ám a rendszer komoly botrányt kavart, miután kiderült, hogy diszkriminatív módon, etnikai alapú szűréseket is végzett. Az Egyesült Királyság adóhivatalában MI alapú döntéstámogató rendszert alkalmaznak a csalások gyanús mintázatainak felismerésére. Ezek a példák jól mutatják: az algoritmikus állam már nem futurisztikus vízió, hanem aktuális valóság.
Hatékonyság és kiszámíthatóság?
Támogatói szerint a mesterséges intelligencia bevezetése a közigazgatásban jelentős előnyökkel jár. Egy jól megtervezett algoritmus gyorsabban dolgozik, nem fárad, nem követ el figyelmetlenségből hibákat, és elvileg nem torzítanak benne előítéletek sem. Egy olyan szociális támogatási rendszer, amely MI segítségével értékeli a kérelmeket, hatékonyabban képes kiszűrni a visszaéléseket, csökkenti az ügyintézők terheltségét, és gyorsabb döntéseket tesz lehetővé. Hasonló hatékonyságnövekedés érhető el a közlekedésszervezésben, adóellenőrzésekben vagy épp várostervezésben is. Az algoritmus tehát a közszolgáltatások új motorjává válhat – de csak akkor, ha működése megbízható, érthető és ellenőrizhető marad.
A probléma azonban ott kezdődik, amikor az MI működése átláthatatlanná válik. Az úgynevezett "fekete doboz" algoritmusok esetében a rendszer döntései nem visszakövethetők, nem indokolhatók emberi logika szerint. Márpedig a közigazgatásban a döntések indokolhatósága és jogi kontrollja nem választható opció, hanem a rendszer jellemzője, nem is beszélve arról, hogy alkotmányos kötelezettség. Ha egy állampolgár szociális támogatás iránti kérelmét elutasítják, joga van tudni, miért történt így. Az a válasz, hogy „az algoritmus így döntött”, nemcsak elégtelen, hanem jogsértő is.
Etikai problémák
Az MI-alapú döntéshozatal emellett etikai szempontból is ingoványos terep. Az algoritmusokat emberek tervezik, és azok a mintázatok, amelyek alapján „tanulnak”, gyakran éppen azokat a társadalmi torzulásokat örökítik tovább, amelyeket elvileg ki kellene küszöbölniük. Ha a múltbeli adatok alapján például egy bizonyos városrészből több visszaélés történt, a rendszer automatikusan nagyobb kockázatúnak ítélheti meg az ott élőket – függetlenül attól, hogy az adott személy egyébként semmilyen szabálytalanságot nem követett el. Ez nem technikai hiba, hanem strukturális igazságtalanság, amely a társadalmi egyenlőtlenségeket tovább mélyíti.
Nem véletlen, hogy az Európai Unió általános adatvédelmi rendelete (GDPR) világosan kimondja: minden állampolgárt megillet a jog, hogy ne kizárólag automatizált döntéshozatal tárgya legyen, ha az jelentős hatással van rá. A gyakorlatban ez azt jelenti, hogy az emberi ellenőrzésnek minden algoritmikus döntésnél jelen kell lennie, különösen, ha az jogokat, juttatásokat vagy szankciókat érint. Ez azonban nem mindig történik meg automatikusan – a szabályozás és a gyakorlat között gyakran jelentős szakadék tátong.
Létezhet középút?
Mit tehetünk tehát? A megoldás nem az algoritmusok teljes kizárása – ez naiv visszalépés lenne a 20. századi közigazgatásba. A mesterséges intelligencia számos területen valóban hatékonyabbá, kiszámíthatóbbá és olcsóbbá teheti az állami működést. Az igazi kihívás abban rejlik, hogy hogyan tudjuk e rendszerek működését átláthatóvá, ellenőrizhetővé és felelőssé tehetővé tenni, miközben megőrizzük az emberi méltóságot, a méltányosságot és az egyéni jogokat.
A jövő valószínűleg nem a gépek kizárólagos uralma, hanem egyfajta hibrid közigazgatás lesz, ahol a mesterséges intelligencia az emberi döntéshozók munkáját segíti, de nem váltja ki őket. A rendszer javaslatot tehet, modellezhet, szűrhet – de a döntés végső felelőssége továbbra is a köztisztviselőé, a bíróé vagy az ügyintézőé kell, hogy maradjon. Ehhez azonban újragondolt intézményi kultúrára, átfogó szabályozásra és a technológia alapos társadalmi vitájára van szükség.
Végső soron hiszen nem az a kérdés, hogy használjuk-e a mesterséges intelligenciát a közigazgatásban – ez elkerülhetetlen. Az igazi kérdés az, hogy hogyan használjuk: kinek a kontrollja alatt, milyen értékek mentén, és milyen garanciákkal. Az algoritmus lehet a jó kormányzás eszköze – de csak akkor, ha nem feledkezünk meg arról, hogy a kormányzás célja nem a gépi tökéletesség, hanem az emberi méltóság szolgálata.
