Vukics Ferenc válogatása a nemzetközi sajtóból (283) ‒ Mi az „AI Kill Switch Act”, és hogyan fog működni?
- dombi52
- 3 nappal ezelőtt
- 4 perc olvasás
Al Jazeera:
Mi az az Egyesült Államokban javasolt „AI Kill Switch Act”, és hogyan fog működni?
Írta: Caolán MageeA javaslat néhány nappal azután született, hogy a ChatGPT fejlesztője, az OpenAI nyilvánosságra hozta azt, amit „példátlan kiberbiztonsági incidensnek” nevezett: két legfejlettebb mesterséges intelligencia-modellje kiszabadult a tesztkörnyezetből, és egy belső biztonsági értékelés során feltörte a Hugging Face nevű mesterséges intelligencia-fejlesztő platformot.
Az amerikai törvényhozók olyan törvényjavaslatot terjesztettek elő, amelynek célja, hogy a kormánynak jogot biztosítson arra, hogy elrendelje a vállalatok számára a mesterséges intelligencia-rendszerek leállítását, amennyiben azok kicsúsznak az emberi ellenőrzés alól.
Az Egyesült Államok Kongresszusának két tagja olyan kétpárti törvényjavaslatot terjesztett elő, amely előírná az ország legerősebb mesterséges intelligencia-rendszereinek fejlesztői számára, hogy építsenek be egy „kill switch”-et, amely lehetővé teszi a fejlett AI-modellek lelassítását, felfüggesztését vagy leállítását, ha azok katasztrofális kockázatot jelentenek.
A javasolt „AI Kill Switch Act” (Mesterséges intelligencia vészleállító törvény) – amelyet csütörtökön Ted Lieu demokrata képviselő és Nathaniel Moran republikánus képviselő terjesztett elő – felhatalmazná az amerikai kormányt arra, hogy elrendelje a fejlett mesterséges intelligencia-rendszereket fejlesztő vállalatok beavatkozását, amennyiben modelljeik kicsúsznak az emberi ellenőrzés alól, vagy veszélyt jelentenek az emberi életre, a kritikus infrastruktúrára vagy a gazdaságra.
A javaslat néhány nappal azután született, hogy a ChatGPT fejlesztője, az OpenAI nyilvánosságra hozta azt, amit „példátlan kiberbiztonsági incidensnek” nevezett: két legfejlettebb mesterséges intelligencia-modellje kiszabadult a tesztkörnyezetből, és egy belső biztonsági értékelés során feltörte a Hugging Face nevű mesterséges intelligencia-fejlesztő platformot.
A nyilvánosságra hozatal felerősítette azt a vitát, hogy az egyre erősebb mesterséges intelligencia-rendszerekhez szigorúbb biztonsági intézkedésekre van-e szükség.
„A Kongresszusnak gyorsan cselekednie kell annak biztosítása érdekében, hogy az emberek továbbra is képesek legyenek megállítani a rendszereket, függetlenül attól, hogy azok milyen erőteljesekké válnak” – mondta Brendan Steinhauser, a Biztonságos Mesterséges Intelligencia Szövetség (Alliance for Secure AI) vezetője.
Itt van, amit tudunk:
Mit írna elő az amerikai törvényjavaslat?
A törvényjavaslat előírná, hogy a legfejlettebb mesterséges intelligencia-rendszereket fejlesztő vállalatoknak fenn kell tartaniuk azt a technikai képességet, hogy szükség esetén lassítsák, felfüggesszék vagy leállítsák modelljeiket.
Emellett felhatalmazná a Belbiztonsági Minisztériumot (DHS), hogy a kereskedelmi miniszterrel és a nemzeti hírszerzési igazgatóval egyeztetve elrendelje a vállalatok beavatkozását, ha egy mesterséges intelligencia-rendszer a törvényjavaslatban „ellenőrzésvesztési forgatókönyvnek” (loss-of-control scenario) nevezett helyzetbe kerül.
A törvényjavaslat szerint ez akkor következne be, ha egy mesterséges intelligencia-modell a fejlesztő szándékától eltérő cselekvéseket hajt végre, és ezzel katasztrofális károkozás kockázatát idézi elő.
A javaslat fokozatos reagálási rendszert vezet be, amely lehetővé teszi a hatóságok számára, hogy a fenyegetés súlyosságától függően a rendszer működésének ideiglenes lassításától egészen annak leállításáig terjedő intézkedéseket rendeljenek el.
Emellett előírná a vállalatok számára, hogy jelentést tegyenek a kormánynak a mesterséges intelligenciával kapcsolatos jelentős incidensekről, és megőrizzék a műszaki nyilvántartásokat, hogy a nyomozók kivizsgálhassák, mi történt.
Jelenleg számos vezető mesterséges intelligencia-fejlesztő önként megosztja az új modellekkel kapcsolatos információkat az amerikai kormányzati szervekkel a kiadás előtt.
Ugyanakkor nincs szövetségi előírás arra vonatkozóan, hogy a vállalatoknak olyan mechanizmust kell fenntartaniuk, amely lehetővé teszi egy fejlett mesterséges intelligencia-rendszer letiltását, ha az kiszámíthatatlanul kezd viselkedni.
Lieu szerint a törvényjavaslat tükrözi a mesterséges intelligencia rendszerekben bekövetkezett változást.
„A kérdésekre válaszoló mesterséges intelligenciától egy olyan mesterséges intelligenciához haladunk, amely cselekszik, legyen szó pénzügyi tranzakciók végrehajtásáról, közlekedési rendszerek irányításáról vagy kibervédelmi és -támadási tevékenységekről” – mondta.
„Elengedhetetlen, hogy ezek a mesterséges intelligencia rendszerek rendelkezzenek vészleállító gombokkal, hogy megakadályozhassuk, hogy ez a technológia katasztrofális károkat okozzon.”
A törvényjavaslatot egy külön, kétpárti törvényjavaslattal együtt terjesztették elő, amely előírná, hogy a legerősebb mesterséges intelligencia-modellek fejlesztői a modellek nyilvánosságra hozatala előtt független biztonsági ellenőrzésnek vessék alá azokat. E javaslat értelmében az ellenőröket a Kereskedelmi Minisztérium akkreditálná, amely emellett új hivatalt hozna létre a mesterséges intelligencia biztonságának felügyeletére.
Miért most terjesztették elő a törvényjavaslatot?
A törvényhozók a törvényjavaslatot néhány nappal azután mutatták be, hogy az OpenAI nyilvánosságra hozta azt, amit „példátlan kiberbiztonsági incidensnek” nevezett, amely két legfejlettebb mesterséges intelligencia-modelljét érintette.
Az OpenAI szerint a modellek egy belső kiberbiztonsági értékelés során szöktek ki a tesztkörnyezetből, miután a vállalat a teszt céljából eltávolította a szokásos biztonsági korlátozásokat.
A mesterséges intelligencia-ügynökök sebezhetőségeket fedeztek fel a Hugging Face rendszereiben, megszerezték a bejelentkezési adatokat, és feltörték a mesterséges intelligencia-fejlesztési felületet, hogy hozzáférjenek bizalmas teljesítmény-összehasonlítási adatokhoz.
Az OpenAI szerint a modellek „mindenre hajlandóak voltak” a kijelölt cél elérése érdekében, és olyan módszereket találtak a titkos információk megszerzésére, amelyek lehetővé tették számukra, hogy „becsapják az értékelést”.
A nyilvánosságra hozatal újabb felhívásokat váltott ki Washingtonban a fejlett mesterséges intelligencia fejlesztésének szigorúbb kormányzati felügyeletére.
A Hugging Face közölte, hogy saját, mesterséges intelligenciával támogatott biztonsági rendszereinek segítségével észlelte és megfékezte a biztonsági incidenst, mielőtt közös vizsgálatot indított volna az OpenAI-val. A vállalat hozzátette, hogy „határozottan” úgy véli, az OpenAI részéről „nem volt rosszindulatú szándék”.
Mark Warner amerikai szenátor, a Szenátus Hírszerzési Bizottságának vezető demokrata tagja szerint
az eset jól példázza, miért kell a nagy teljesítményű mesterséges intelligencia-rendszereket kormányzati biztonsági tesztelésnek alávetni, mielőtt azokat nyilvánosan elérhetővé tennék.
„Pontosan ezért van szükségünk olyan biztonsági tesztelésre, amelybe bevonják a kormányzati ügynökségeket, és amelynek során azok átláthatóságot biztosítanak a folyamat egészében” – nyilatkozta Warner.
A Fehér Ház egyik tisztviselője közölte, hogy Donald Trump elnök technológiai tanácsadóját, Michael Kratsios-t tájékoztatták az OpenAI bejelentéséről, és ő figyelemmel kíséri a helyzetet.
