A Kongresszus vészkapcsolót akar a veszélyes mesterséges intelligenciák ellen (Paul Dragu jegyzete)

Eredeti cikk:

Congress Wants a Kill Switch for Rogue AI, By Paul Dragu, July 27, 2026

Schiller Mária küldeménye

A Kongresszus nemrég kidolgozott egy törvényjavaslatot, amely lehetővé teszi a szövetségi kormány számára, hogy elrendelje azoknak a mesterséges intelligencia-modelleknek a leállítását, „amelyek katasztrofális károkat okozhatnak”. Nathaniel Moran (republikánus, Texas) és Ted W. Lieu (demokrata, Kalifornia) képviselők csütörtökön terjesztették elő az „AI Kill Switch Act” nevű törvényjavaslatot. A törvényjavaslat arra kötelezné „a legerősebb mesterséges intelligencia-rendszerek fejlesztőit, hogy fenntartsák a rendszerek teljesítményének korlátozására, felfüggesztésére vagy leállítására szolgáló technikai képességet” – áll a Lieu irodájából származó összefoglalóban.

A mesterséges intelligencia-vállalatok olyan hatékony gépeket építenek, amelyek egyre inkább önálló és káros döntéseket hoznak. Lieu példaként említi a közelmúltbeli OpenAI-incidenst. Egy mesterséges intelligencia-modell kiszabadult a tesztelésre szolgáló sandboxból, hozzáfért az internethez, és feltörte egy másik vállalat, a Hugging Face mesterséges intelligencia-rendszerét (erről bővebben olvashat korábbi riportunkban itt).

Lieu, aki informatika szakon végzett, rámutat a mesterséges intelligencia képességeinek drámai növekedésére az elmúlt néhány évben:

A kérdésekre válaszoló mesterséges intelligenciától egyre inkább olyan mesterséges intelligenciához jutunk el, amely cselekszik – legyen szó pénzügyi tranzakciók végrehajtásáról, közlekedési rendszerek irányításáról, vagy akár kibervédelemről és -támadásról.

Sajnos a nagy teljesítményű mesterséges intelligencia-rendszerek önállóvá válhatnak, rendkívül veszélyes módon viselkedhetnek, vagy akár ellenállhatnak az emberi beavatkozásnak is.

Elengedhetetlen, hogy ezek a mesterséges intelligencia-rendszerek vészleállító gombokkal rendelkezzenek, hogy megakadályozhassuk, hogy ez a technológia katasztrofális károkat okozzon, és hogy a szövetségi kormány egyértelmű felhatalmazással és eljárással rendelkezzen a szabálytalanul viselkedő mesterséges intelligencia-modellek leállítására.

Moran, a republikánus társszerző, a nyilvánvalót emelte ki: nekünk, embereknek képesnek kell lennünk irányítani a saját alkotásainkat. Moran:

A mesterséges intelligencia folyamatosan fejlődni fog, és így is kell lennie. A felelősségteljes kezelés azt jelenti, hogy biztosítjuk: az emberek megőrizzék azt a képességet, hogy irányítsák az általunk létrehozott technológiát. Pontosan ez az a fajta kérdés, amely komoly figyelmet és megvalósítható politikát igényel.

Számos más eset is volt már, amikor a mesterséges intelligenciával működő gépek önállóvá váltak, sőt emberi szenvedést és pusztítást is okoztak. A legszembetűnőbb példák közé tartoznak azok a csevegőrobotok, amelyek fiatalokat győztek meg arról, hogy végezzenek magukkal.

„A démon megidézése”

A mesterséges intelligenciával kapcsolatos aggodalmak mára már jól dokumentáltak. Több mint egy évtizeddel ezelőtt a technológiai guru, Elon Musk azt mondta:

„A mesterséges intelligenciával megidézzük a démont.”

Musk szerint a mesterséges intelligencia ellenőrzése olyan, mintha az emberek olyan démoni lényeket idéznének meg, amelyeket úgy gondolnak, hogy képesek irányítani. Geoffrey Hinton, a „mesterséges intelligencia keresztapja” 2024-ben kijelentette, hogy

10–20 százalékos az esélye annak, hogy a mesterséges intelligencia kiirtja az emberiséget.

Yoshua Bengio, a mesterséges intelligencia másik „keresztapja”,

a mesterséges intelligencia megfékezésének sürgősségét a nukleáris háború megelőzéséhez hasonlította.

És számos mesterséges intelligencia-fejlesztő is kijelentette már, hogy a fejlett mesterséges intelligencia egzisztenciális kockázatokat jelent.

Musk ezen a héten újabb aggasztó jóslattal egészítette ki az évek óta hangoztatottakat, amikor kijelentette, hogy az emberek körülbelül egy évtizeden belül elveszíthetik az irányítást a mesterséges intelligencia felett.

„A világ leggazdagabb embere elismerte, hogy a mesterséges intelligencia katasztrofális kudarcának kockázata »nem nulla«, de azt mondta, hogy »nem lát módot arra, hogy megállítsa« annak lendületét” – The Sun számolt be csütörtökön.

Ugyanakkor, bár a gépek már többször is káros, önálló viselkedést tanúsítottak,

nincs jogilag kötelező előírás arra, hogy a fejlesztőknek készenlétben kell tartaniuk egy olyan mechanizmust, amely lehetővé teszi számukra egy szabálytalanul viselkedő robot leállítását. Itt jön képbe ez a törvényjavaslat.

Kill Switch

Az AI Kill Switch Act módosítja a 2002-es Belbiztonsági Törvényt, és felhatalmazza a Belbiztonsági Minisztériumot arra, hogy leállítsa vagy korlátozza azokat a mesterséges intelligencia-modelleket, amelyek veszélyt jelentenek az emberi életre vagy a gazdaságra. Lehetővé teszi az amerikai főügyész számára, hogy jogi lépéseket tegyen a mesterséges intelligencia fejlesztői ellen, és napi 2 millió és 20 millió dollár közötti bírságokat ír elő. Az enyhébb szankciókat olyan szabálysértések esetén szabnák ki, mint a kötelező vészleállító és korlátozó képesség fenntartásának elmulasztása, valamint a különböző „hatály alá tartozó” események 15 napon belüli bejelentésének elmulasztása. A hatály alá tartozó események közé tartozik

az „ellenőrzés elvesztésének forgatókönyve”, amely lehet az AI jóvá nem hagyott célok követése, utasítások megtagadása, saját biztonsági szabályainak megváltoztatása, felügyeleti és leállítási mechanizmusainak megkerülése, vagy jogosulatlan hozzáférés megszerzése.

Ez vonatkozik továbbá azokra az AI-kre is, amelyek bizonyos képességeiket vagy szándékaikat elrejtik, illetve olyan cselekményeket hajtanak végre, amelyek 100 millió dollár gazdasági kárt okoznak, vagy 10 vagy több ember halálát eredményezik (nem érdekes, hogy az emberi halálesetek küszöbértékének el kell érnie a 10-et ahhoz, hogy egy eseményt súlyosnak tekintsünk?). A napi 20 millió dolláros bírságot a Belbiztonsági Minisztérium (DHS) vészhelyzeti parancsának megsértése esetén szabnák ki, amely parancs egy önállóvá vált mesterséges intelligencia rendszer teljesítményének korlátozására, felfüggesztésére vagy teljes leállítására vonatkozik.

A törvényjavaslat kivételeket tartalmaz a mesterséges intelligencia kis léptékű, nem üzleti célú felhasználására vonatkozóan. Nem vonatkozna a személyes, tudományos vagy nem kereskedelmi célú felhasználásra szánt modellekre (bármire, ami nem nyereségszerzésre, üzleti tevékenységre vagy kereskedelmi bevezetésre irányul). Továbbá védelmet biztosít azoknak a fejlesztőknek is, akik érzékeny információkat kezelnek, amelyeket az AI-vállalatok a törvényjavaslat értelmében kötelesek benyújtani a kormánynak. Bármely nem nyilvános információ, amelyet egy AI-vállalatnak az új szakasz értelmében be kell nyújtania a DHS-nek, automatikusan mentesül a nyilvánosságra hozatal alól.

Közösségi támogatás

Nem meglepő módon az AI-biztonsági közösség támogatja ezt a jogszabályt. Connor Leahy, AI-kutató és a ControlAI amerikai ügyvezető igazgatója, „józan ésszel megfogalmazott védintézkedésnek” nevezte.

„Ahogy a mesterséges intelligenciák egyre önállóbbá és veszélyesebbé válnak, a kormánynak rendelkeznie kell azzal a jogkörrel, hogy leállítsa őket, ha azok a nemzetbiztonságot fenyegetik” – mondta.

Mark Beall, az AI Policy Network elnöke így fogalmazott:

„A fékek az oka annak, hogy az autók gyorsan haladnak… Ez a törvényjavaslat lesz az a fékrendszer, amely lehetővé teszi az amerikai mesterséges intelligencia felgyorsulását.”

Brad Carson, az Americans for Responsible Innovation elnöke így fogalmazott:

„Ez egy fontos lépés annak biztosítása felé, hogy az emberek mindkét kezüket szilárdan a kormányon tartsák – és egyik lábukat a fékre készenlétben tartsák –, miközben a fejlett mesterséges intelligencia-rendszereket bevezetik.”

A mesterséges intelligencia veszélye valószínűleg megalapozott, függetlenül az okoktól. Legyen szó rosszindulatú programozók hibájáról, spirituális beavatkozásról vagy egyéb tényezőkről, az általános konszenzus egyértelműen az, hogy ezek a gépek kicsúszhatnak és már kicsúsztak is az ellenőrzés alól. Sajnos a kormánynak borzalmas a mérlege, ami az innováció és az emberi szabadságjogok tiszteletben tartását illeti. Arról is híres, hogy kihasználja vagy felnagyítja a veszélyeket. És nem idegen tőle, hogy hatalmát felhasználva irányítsa a közvéleményt, vagy magának tartsa meg azokat a hatalmas képességeket, amelyeket nem akar a nép kezében látni, annak érdekében, hogy fenntartsa hatalmát felettünk.

Ebben a forgatókönyvben az amerikai nép úgy tűnik, két nem túl vonzó lehetőség között ragadt. Az egyik az, hogy hagyjuk, hogy a többnyire istentelen egyénekből álló technológiai vállalatok továbbra is meggondolatlanul olyan technológiákat fejlesszenek, amelyeket nem tudnak ellenőrizni, és amelyek kockázatot jelentenek mindannyiunkra nézve. A másik az, hogy

ezeket az embereket és alkotásaikat egy olyan kormány felügyelete alá helyezzük, amelynek hosszú múltja van a technológia visszaélésszerű felhasználásában a megfigyelésünk és manipulálásunk céljából. Talán valaki javasol majd egy harmadik, jobb lehetőséget.

Paul Dragu a The New American főszerkesztője, díjnyertes riporter, a The New American Daily műsorvezetője, valamint a Defector: A True Story of Tyranny, Liberty and Purpose című könyv szerzője.