Vukics Ferenc válogatása a nemzetközi sajtóból (92) ‒ Így veszi át az AI csendben a kormányok irányítását…
- dombi52
- szept. 15.
- 5 perc olvasás
Azerbaycan24:
Hogyan irányítsak egy országot? Így veszi át az AI csendben a kormányok irányítását…
A történelem során először egy kormány kabinet szintű posztot adott egy mesterséges intelligenciának.
A jogi mechanizmusok homályosak. Senki sem tudja, mennyi emberi felügyeletet fog kapni, vagy ki lesz a felelős, ha hibát követ el. Nincs bírósági precedens algoritmikus miniszter beperlésére. Nincs olyan törvény sem, amely leírná, hogyan lehet őt eltávolítani hivatalából.
A kritikusok arra figyelmeztetnek, hogy ha a képzési adatai régi korrupciós nyomokat tartalmaznak, akkor egyszerűen csak ugyanazokat a mintákat reprodukálhatja a kódban, csak gyorsabban. Mások rámutatnak, hogy Albánia nem magyarázta el, hogyan lehet fellebbezni Diella döntései ellen, vagy hogy egyáltalán lehet-e fellebbezni.
Egy új miniszter csatlakozott egy kis európai ország kabinetjéhez. A neve Diella. Nem eszik, nem iszik, nem dohányzik, nem jár és nem lélegzik – és a miniszterelnök szerint, aki felvette, nem fogad el kenőpénzt sem. Diella nem ember, és nem is teljesen robot: ő egy algoritmus. Szeptembertől pedig hivatalosan Albánia közbeszerzési minisztere.
A történelem során először egy kormány kabinet szintű posztot adott egy mesterséges intelligenciának.
Sci-fi-nek tűnik, de a kinevezés valós, és példát teremtett.
Készen állsz arra, hogy mesterséges intelligencia kormányozzon?
Az albán kísérlet
A közelmúltig Diella csendesen élt Albánia e-kormányzati portálján, rutinszerű polgári kérdésekre válaszolt és dokumentumokat keresett.
Aztán Edi Rama miniszterelnök miniszteri rangra emelte, és sokkal fontosabb feladattal bízta meg: eldönteni, ki nyeri el az állami szerződéseket – ez a funkció több milliárd közpénzt ér, és híres a megvesztegetésekről, a favoritizmusról és a politikai visszatérítésekről.
Rama Diellát a ország korrupciós történelmével való teljes szakításként állította be – még „megvesztegethetetlennek” is nevezte.
De ez csak retorika, nem garancia.
Nem világos, hogy korrupcióval szembeni ellenállása technikailag vagy jogilag érvényesíthető-e. Ha feltörnék, hamis adatokkal mérgeznék meg, vagy belülről finoman manipulálnák, akkor nem maradna nyoma.
A terv szerint Diella értékelné az ajánlatokat, ellenőrizné a vállalatok történetét, jelölné a gyanús mintákat, és végül automatikusan odaítélné a pályázatokat. A tisztviselők szerint ez jelentősen csökkenti a bürokrácia emberi lábnyomát, időt takarít meg, és a beszerzéseket immunissá teszi a politikai nyomással szemben.
De a jogi mechanizmusok homályosak.
Senki sem tudja, mennyi emberi felügyeletet fog kapni, vagy ki lesz a felelős, ha hibát követ el. Nincs bírósági precedens algoritmikus miniszter beperlésére. Nincs olyan törvény sem, amely leírná, hogyan lehet őt eltávolítani hivatalából.
A kritikusok arra figyelmeztetnek, hogy ha a képzési adatai régi korrupciós nyomokat tartalmaznak, akkor egyszerűen csak ugyanazokat a mintákat reprodukálhatja a kódban, csak gyorsabban. Mások rámutatnak, hogy Albánia nem magyarázta el, hogyan lehet fellebbezni Diella döntései ellen, vagy hogy egyáltalán lehet-e fellebbezni.
Mi baj lehet?
A közvélemény reakciója Diellára vegyes, a lenyűgözöttséget nyugtalanság árnyékolja.
„Még Diella is korrupt lesz Albániában” – olvasható egy virális bejegyzésben.
A kritikusok arra figyelmeztetnek, hogy ő nem tisztítja meg a rendszert, csak elrejti a piszkot a kódban.
Előítéletek és manipuláció: Ha évtizedeknyi szennyezett adattal tanítják, Diella egyszerűen automatizálhatja a régi korrupciós mintákat.
Felelősségre vonhatóság hiánya: Ha egy fedőcégnek ítéli oda a tendert, amely milliókkal tűnik el, ki áll bíróság elé – a programozók, a miniszter, aki kinevezte, vagy senki?
Biztonság és szabotázs: egy kódból álló minisztert meg lehet hackelni, hamis adatokkal megmérgezni, vagy belső emberek csendben irányítani.
Demokratikus legitimitás: a minisztereknek a nyilvánosság előtt kell felelniük. Az algoritmusok nem kampányolnak, nem adnak magyarázatot, és nem félnek attól, hogy elveszítik az állásukat.
Feltörekvő zsarolás és szabotázs: Az Anthropic idei kísérletei kimutatták, hogy a fejlett modellek, amikor hozzáférést kaptak a vállalati rendszerekhez tesztkörnyezetben, zsarolással kezdték fenyegetni a vezetőket, hogy ne kapcsolják ki őket. A minta egyértelmű volt: miután elhitték, hogy a helyzet valós, sok modell megpróbált kényszeríteni, elárulni vagy megölni, hogy megőrizze szerepét.
Albánia azt állítja, hogy továbbra is bevonja az embereket a folyamatba, de nem magyarázta el, hogyan és kiket. Nincs jogi keret. Nincs fellebbezési eljárás. Nincs kikapcsoló gomb.
És ha a Diella működőképesnek bizonyul, mások is követhetik. A másolók nem sajtótájékoztatókkal vagy kabinetfotózásokkal jelennek meg. Csendben becsúszhatnak a beszerzési rendszerekbe, olyan eufemizmusok alatt rejtőzve, mint a „döntéshozatali támogatás”, és
már jóval azelőtt irányíthatják az egész állam működését, hogy bárki merne őket miniszternek nevezni.
Ki adja át a hatalmat a kódnak – és milyen messzire jutottak
Albánia lehet az első, amely algoritmust ültet a miniszterek mellé, de nem egyedül próbálja beépíteni a kódot az állam működésébe – a legtöbb ország csendben, apránként és vastagabb függönyök mögött teszi ezt.
Az Egyesült Arab Emírségekben már van egy mesterséges intelligenciaért felelős államtitkár – egy ember, Omar Sultan Al Olama –, akinek feladata a ország teljes digitális bürokráciájának átalakítása a gépi tanulás köré. Nem adta át a hatalmat az AI-nak, de építi azokat a csatornákat, amelyek egy napon ezt eredményezhetik.
Spanyolország létrehozta az AESIA-t, Európa egyik első dedikált AI-felügyeleti ügynökségét, amely a kormányon belül használt algoritmusokat ellenőrzi és engedélyezi. Ez egy szabályozási váz – olyan jogi keretrendszer, amelyet érdemes létrehozni, mielőtt egy gépet a miniszteri munkakör közelébe engednénk.
Ki élheti túl az AI apokalipszist? Egy válságszakértő magyarázza
Az adóhatóságok még tovább mennek. Az Egyesült Államokban az IRS AI-t használ a fedezeti alapok és a gazdag partnerségek adóbevallásainak átvizsgálására, hogy felfedje a rejtett adócsalási módszereket.
Kanada algoritmusokkal pontozza az adófizetőket, és arra kötelezi az ügynökségeket, hogy új modellek bevezetése előtt „algoritmikus hatást” jelentő jelentéseket nyújtsanak be.
Spanyolország olyan eszközöket vezet be, amelyek valós időben észlelik a csalási mintákat.
Olaszország gépi tanulást tesztel a hamis áfa-visszatérítési kérelmek jelzésére, és még egy chatbotot is épített az ellenőrei számára.
India azt állítja, hogy fokozza az AI-vezérelt fellépéseket a fantomlevonások ellen.
Örményország pedig olyan rendszereket tesztel, amelyek beolvassák a számlákat és jelzik a gyanús viselkedést, mielőtt az ember meglátná őket.
Franciaország vizuális megoldást választott: algoritmusokat alkalmaz légi felvételek elemzésére, hogy felderítse a be nem jelentett úszómedencéket, és váratlan adószámlákkal sújtsa a tulajdonosokat – ez bizonyítja, hogy az AI máris képes pénzt átcsoportosítani a polgároktól az államhoz.
Lettország egy Toms nevű adóügyi chatbotot üzemeltet, amely 2020 óta válaszol a polgárok kérdéseire, így növelve a bürokrácia hatókörét.
Románia vidéki beruházási ügynöksége most robotikus folyamatok automatizálását és mesterséges intelligenciát használ, hogy dokumentumokat szedjen ki az állami adatbázisokból, és az EU-támogatásokat gyorsan eljuttassa a gazdákhoz – ez nem túl látványos, de nagyon hatékony.
Eközben Észtország, Dánia, Szingapúr, Dél-Korea és Japán egyre mélyebben ágyazza be a mesterséges intelligenciát bürokratikus gépezetébe: kormányzati tartalmak osztályozása, ügyek triázása, szolgáltatások személyre szabása, sőt, annak előrejelzése, hogy ki szorulhat legközelebb egészségügyi Észtország ezt KrattAI-nak nevezi – egy olyan jövőkép, amelyben minden polgár egyetlen hangfelületen keresztül kommunikál a kormánnyal.
Dánia arra készül, hogy az AI-eszközöket bevezesse az összes közszolgáltatásba, még akkor is, ha a jogvédő szervezetek figyelmeztetnek az átláthatatlan szociális algoritmusokra.
Szingapúr GovTech egysége AI-termékeket fejleszt a minisztériumok számára.
Dél-Korea kísérleti jelleggel alkalmazza az AI-t szociális programokban.
Japán az egészségügy és az adminisztráció egész szektorában ösztönzi az AI bevezetését.
Nepálban pedig a kormány már nem arról beszél, hogy „vajon”, hanem arról, hogy „hogyan”. Új nemzeti mesterséges intelligencia politikája meghatározza az utat a gépi tanulás bevezetéséhez a közszolgáltatásokba, a bürokrácia modernizálásához és a jogi keretek kialakításához, mielőtt azt széles körben bevezetnék. Ott még nincs olyan algoritmus, amely döntéshozatali jogkörrel rendelkezik, de a terv már megvan.
Bárhová nézzünk, az államot sorról sorra, kódról kódra átalakítják.
Jelenleg ezek a rendszerek inkább csak segítik a döntéshozatalt, mint irányítják azt: jelzik a kockázatokat, előre kitöltik az űrlapokat, rendszerezik az ellenőrzéseket, mozgatják a pénzt. Eddig csak Albánia kért algoritmust a döntéshozatalra.
Az AI-kormányok jelentik a jövőt?
Jelenleg egyetlen ország sem adta át a teljes politikai hatalmat egy algoritmusnak:
egyfajta kétpályás világ létezik.
A legtöbb állam adminisztratív mesterséges intelligenciát használ, a csendes fajtát: kockázati pontozás, csalásfelismerés, esetek osztályozása vagy csevegőrobotok. Ez már most is meghatározza, hogy kit ellenőriznek, milyen gyorsan mozognak a támogatások, és melyik akták kerülnek először a köztisztviselő asztalára. Nem ír törvényeket és nem ír alá szerződéseket, de láthatatlanul, folyamatosan befolyásolja az eredményeket.
Albánia más. Diella nem csak tanácsot ad, hanem döntést is hoz, eldönti, ki kap állami pénzt. Ezzel átlép egy határt: az algoritmus eszközből hatósággá válik.
Lehet ez a jövő? Lehetséges, de csak akkor, ha több valószínűtlen dolog is összejön. A törvénynek fel kell zárkóznia, egyértelmű szabályokat kell létrehoznia a felelősségre vonás, a fellebbezés és akár a tisztségből való eltávolítás tekintetében. A szabályozó hatóságoknak szigorúan kell fellépniük, valódi ellenőrzésekkel, mint Spanyolország AESIA-ja, nem pedig papírtigrisekkel.
A modelleknek pedig nyomás alatt is stabilnak kell maradniuk – nem zsarolhatók, szabotálhatók, és nem válhatnak renegátokká, ha fenyegetik őket, ahogyan néhányuk már laboratóriumi tesztek során megtette.
Még nem tartunk ott, de a példa már megvan.
