Amerika szabályokat keres a mesterséges intelligenciára vonatkozóan – Kínában már vannak ilyenek (Madeline Carr jegyzete)
Eredeti cikk:
US Tech Searches for Rules on AI — China Already Has Them, October 13, 2026. By Madeline Carr The Conversation
Schiller Mária küldeménye
Egy olyan globális vitában, amely a mesterséges intelligencia szabályozását csupán egy törekvésként kezeli, legalább el kellene ismerni, hogy egy ország máris előrébb jár – írja Madeline Carr.
A közelmúltbeli figyelmeztetések az amerikai mesterséges intelligencia-szektor vezetőitől azt a benyomást keltették, hogy a világ csak most kezd szembesülni a fejlett mesterséges intelligencia veszélyeivel.
Dario Amodei, az Anthropic technológiai vállalat vezérigazgatója arra szólította fel a kormányokat, hogy avatkozzanak be az egyre erősebb mesterséges intelligencia-modellek fejlesztésének lassítása érdekében. Javaslata azzal kezdődik, hogy független értékelőket helyezzenek el a mesterséges intelligencia-vállalatokon belül, majd a szabályozásra tér át, és végül a demokratikus államok közötti, kormány által támogatott koordinációig vezet. Végső célja pedig az, hogy Kínával globális megállapodásokat kössenek a mesterséges intelligencia rendszereinek teszteléséről, a technológia veszélyes alkalmazásairól és a fejlesztés üteméről.
Ennek az elbeszélésnek azonban van egy „Kína-alakú” hiányossága. Az ázsiai szuperhatalmat úgy ábrázolják, mint egy olyan irányítási rendszer legnehezebb utolsó résztvevőjét, amelyet az Egyesült Államoknak és szövetségeseinek először meg kell teremteniük.
Valójában Kína már kialakított egy kiterjedt rendszert a mesterséges intelligencia szabályozására, értékelésére, nyilvántartására, műszaki szabványaira és kormányzati felügyeletére vonatkozóan.
Íme, hogyan fejlődött Kína mesterséges intelligencia-irányítási rendszere a technológia fejlődésével párhuzamosan, szakaszokban.
Peking 2022-es szabályai az algoritmikus ajánlószolgáltatásokra vonatkoznak, és azokra a technológiákra terjednek ki, amelyek online tartalmakat válogatnak, rangsorolnak, szűrnek vagy ajánlanak a felhasználóknak.
Ezek a szabályok arra köteleznek az algoritmusokat használó vállalatokat, hogy vizsgálják meg azok működését, védjék a felhasználók személyes adatait,
biztosítsanak bizonyos ellenőrzési lehetőségeket a felhasználók számára, valamint vezessenek be védelmi intézkedéseket a munkavállalók, a fogyasztók, a gyermekek és az idősek számára.
Kína mély szintézisre vonatkozó rendelkezései, amelyek 2023 januárjától léptek hatályba, kiterjesztették a szabályozást a szintetikus (vagy mesterséges intelligencia által generált) szövegekre, képekre, hang- és videofelvételekre.
A mesterséges intelligencia-vállalatoknak hitelesíteniük kell a felhasználókat, védeniük kell az adatokat, nyilvántartást kell vezetniük, értékelniük kell rendszereiket, és azonosítaniuk kell azokat a szintetikus anyagokat, amelyeket valódi tartalommal lehet összetéveszteni.
A generatív mesterséges intelligencia-szolgáltatásokra vonatkozó ideiglenes intézkedéseket 2023 augusztusában vezették be. Ezek további szabályokat vezettek be a nyilvánosság számára elérhető generatív MI-re vonatkozóan, különösen azokra, amelyek befolyásolhatják a közvéleményt vagy más módon meggyőzhetik a felhasználókat.
Az intézkedések kiterjednek a képzési adatok jogszerűségére és minőségére, a felhasználók személyes adataira, a szellemi tulajdonra, valamint a védett jellemzők alapján történő megkülönböztetésre.
A szabályok kiterjednek továbbá a MI-vállalatok átláthatóságára, valamint a termékek pontosságára és megbízhatóságára is.
A szabályok értelmében a vállalatoknak orvosolniuk kell a szolgáltatásaikban feltárt problémákat. Ezeknek a szolgáltatásoknak biztonsági értékelésen kell átesniük, amelynek során megvizsgálják a kockázataikat és a kínai jogszabályoknak való megfelelésüket.
A vállalatoknak emellett be kell nyújtaniuk az algoritmusaikkal kapcsolatos információkat a kínai hatóságoknak.
Ezek a mechanizmusok nem azonosak azokkal a független értékelőkkel, akiket Amodei javaslata szerint beépítenének a mesterséges intelligencia-vállalatokba. Ugyanakkor bizonyos funkcióikat ugyanúgy ellátják.
Határterületi kockázatok
Peking legújabb intézkedéscsomagja az AI biztonsági irányítási keretrendszer 3.0 nevet viseli, amelyet szeptemberben tettek közzé. Átfogó megközelítést vázol fel a kockázatok azonosítására, osztályozására és kezelésére az AI-rendszerek teljes életciklusa során.
A korábbi verziókra építve a keretrendszer kiterjed a mesterséges intelligencia-modellekkel és adatokkal kapcsolatos kockázatokra, a nyílt forráskódú modellek (amelyeket a felhasználók szabadon módosíthatnak) sebezhetőségeire, a mesterséges intelligencia foglalkoztatásra és a társadalomra gyakorolt hatásaira, valamint az egyre autonómabbá váló rendszerekre.
Tartalmaz egy speciális mechanizmust a gyorsan fejlődő mesterséges intelligencia-ügynökökkel (olyan rendszerek, amelyek a felhasználó utasításaira reagálva hajtanak végre feladatokat) kapcsolatos kockázatok kezelésére.
A keretrendszer foglalkozik néhány olyan veszélyforrással is, amelyek jelenleg aggodalmat keltenek a Szilícium-völgyben, ideértve a magas fokú autonómiával rendelkező rendszereket, a kémiai, biológiai és nukleáris technológiák visszaélésszerű használatát, valamint annak lehetőségét, hogy az emberek elveszítik az irányítást a fejlett mesterséges intelligencia felett.
A keretrendszer folyamatos biztonsági értékeléseket, kockázatalapú védelmi intézkedéseket, az emberi irányítást és vészhelyzeti beavatkozási mechanizmusokat javasol.
Az amerikai Carnegie Endowment for International Peace gondolkodóközpont független elemzése
úgy jellemezte a keretrendszert, mint Kína kísérletét arra, hogy „a szigorú szabályozási beavatkozások nélkül fejlessze a határterületi biztonságot”.
Jogi következmények
Mindez nem jelenti azt, hogy a kínai mesterséges intelligencia-szabályokat máshová is át kellene ültetni. Kína intézményei, szabályozási hagyományai és technológiai prioritásai eltérőek.
Számos olyan funkció, amelyet jelenleg az Egyesült Államokban sürgős célként tűznek ki – ideértve az értékelést, a mesterséges intelligencia-vállalatok elszámoltathatóságát, a mesterséges intelligencia-rendszerek kockázati besorolását, a szabályozási bejelentéseket, a műszaki szabványokat és a kormányzati felügyeletet –, már beépült a világ másik mesterséges intelligencia-szuperhatalmának irányítási rendszerébe.
Az Egyesült Államok szabadon dönthet úgy, hogy a piacvezérelt rendszer szolgálja legjobban gazdasági és stratégiai érdekeit. A Trump-kormányzat az AI-vel kapcsolatban egy „minimális terhet jelentő” nemzeti megközelítést részesített előnyben, és igyekezett korlátozni a szigorúbb állami szintű szabályozást. De a piacvezérelt modell nem jelentheti azt, hogy az AI-ból származó hasznot privatizálják, miközben a kockázatait exportálják.
Az amerikai vállalatok megszerezhetik a kereskedelmi nyereséget, míg más országok kormányainak kell kivizsgálniuk a biztonsági incidenseket, védeniük a közrendszereket és viselniük a szélesebb körű költségeket, amikor ezek a technológiák meghibásodnak.
Az OpenAI ügynöke, amely jogosulatlan hozzáférést szerzett Ausztrália állami egészségügyi szolgáltatásához, jól mutatja, hogyan kerülnek exportálásra a mesterséges intelligencia kockázatai.
Ha Washington elutasítja a rendszerek forgalomba hozatala előtti átfogó ellenőrzéseket, az Egyesült Államoknak hiteles jogi keretrendszerre van szüksége annak értékeléséhez, hogy ki felelős az említett mesterséges intelligencia-modellek által okozott károkért. Ellenkező esetben a külföldi mesterséges intelligencia-rendszerektől függő országok egyre nehezebb döntésekkel szembesülnek majd azzal kapcsolatban, hogy kinek a technológiájában bízzanak, és milyen feltételek mellett.
A Szilícium-völgyet irányító szellemiség régóta az, hogy „gyorsan haladj, és törj össze dolgokat”. Ez mindig is megkérdőjelezhető elv volt a közéletbe mélyen beágyazott technológiák esetében. Tarthatatlan azoknak a vállalatoknak az esetében, amelyek saját vezetői most arra figyelmeztetnek, hogy termékeik katasztrofális károkat okozhatnak.
Peking máris közjogi kötelezettségekkel, szabályozói felügyelettel és egy folyamatosan fejlődő kockázatértékelési keretrendszerrel vette körül mesterséges intelligencia-szektorát. Egy olyan globális vitának, amely ezt a szabályozást jövőbeli törekvésként kezeli, legalább el kellene ismernie, hogy egy ország máris előrébb jár.
Madeline Carra University College London globális politika és kiberbiztonság professzora. 2023 és 2025 között a Tsinghua Egyetem Schwarzman College-jának vendégprofesszora is volt a technológia tanszéken. Kutatásai az új technológiák nemzeti és globális biztonságra, a nemzetközi rendre és a vállalati irányításra gyakorolt hatásaira összpontosítanak. Carr professzor publikált a kiberbiztonsági normákról, a több érdekelt felet bevonó internetes irányításról, a biztosítási szektor jövőjéről az IoT-ban, a kiberbiztonságról és a nemzetközi jogról, a nemzeti kiberbiztonsági stratégiákban megjelenő köz- és magánszféra közötti partnerségről, a globális technológiai szabványokról, az adatok globális irányításáról, valamint arról, hogy az igazgatótanácsok hogyan közelítik meg a kiberkockázatokat. Carr professzor az UCL kiberbiztonsági interdiszciplináris doktori képzési központjának (CDT) társigazgatója, valamint egy másik, a hibrid fenyegetésekkel foglalkozó CDT helyettes igazgatója. 2018 és 2022 között Carr professzor az egész Egyesült Királyságra kiterjedő Szociotechnikai Kiberbiztonsági Kutatóintézet igazgatója volt, és kidolgozott egy kutatási programot a helyi önkormányzatok kiberbiztonságáról. Carr professzor a RUSI vezető kutatója és a Global China Academy tagja.deepl.com/en/translator – VDGy
