Szintetikus világuralom – Az AI „halálos vírust tervezne és nukleáris kódokat lopna el”

„Úgy tetszik, az utópiák sokkal inkább megvalósíthatók, mint ahogyan azt hiszik. S voltaképpen egy sokkal nyugtalanítóbb kérdés előtt találjuk magunkat: hogyan kerüljük el határozott megvalósulásukat? ... Az utópiák megvalósíthatók. Az élet az utópiák felé halad. És talán egy új évszázad kezdődik el, egy olyan század, amikor az értelmiségiek és a művelt osztály majd olyan módozatokról álmodozik, amelyekkel el lehet kerülni az utópiákat, és vissza lehet térni egy nem utópista társadalomhoz, amely kevésbé 'tökéletes' és szabadabb.” – Nyikolaj Bergyajev, orosz filozófus

Klaus Schwab, a Világgazdasági Fórum (WEF) elnöke egy dubaji rendezvényen felszólította a globális kormányokat, hogy működjenek együtt és biztosítsák az ellenőrzést az olyan új technológiák felett, mint például a mesterséges intelligencia (AI).

Schwab 2015-ben írt egy könyvet A negyedik ipari forradalom címmel, amelyben több mint 20 olyan technológiát említett, amelyek meg fogják változtatni a világot. "Mindezek a technológiák napjainkra valósággá váltak" – mondta a Dubaiban megrendezett World Government Summiton. A WEF elnöke szerint az emberiség a technológiai átalakulás "exponenciális szakaszába" lépett.

Schwab olyan technológiákat említett, mint az AI, a metaversus, a kriptovaluták, az űrtechnológia és a szintetikus biológia. "Az életünk 10 év múlva teljesen más lesz, ezek a technológiák nagyon nagy hatással lesznek rá. Aki ezeket a technológiákat uralja, az lesz a világ ura" – jelentette ki Schwab.

Az organizmusok olyan egyedi célok és képességek kifejlesztése érdekében történő megtervezését, amelyek eredendően nem állnak rendelkezésre, szintetikus biológiának nevezik. Ennek során a szervezet genetikai kódját úgy változtatják meg, hogy egy másik élőlény DNS-ét oltják bele, ami radikális előrelépés a genomszerkesztéshez képest. A WEF a módszer egyik támogatója.

"A változás olyan gyorsan megy végbe a mi világunkban, és ráadásul mi haladunk a leggyorsabban. Hogyan tudjuk biztosítani, hogy az egyén, az állampolgár ne érezze úgy, hogy a változás túlterheli, mert nem érti igazán, hogy mi történik körülötte. Ha az emberek nem értik a változást, akkor félelembe eshetnek és negatívan reagálhatnak.”

A WEF vezetője felszólította a kormányokat, hogy "legyenek ambícióik és vízióik, és mutassák meg az embereknek, hogy ezek a technológiák a jót szolgálhatják".

Schwab felvetette az új technológiák elszabadulásától való félelmet is.

"Ha nem működünk együtt globális szinten, ha nem fogalmazzuk meg, alakítjuk ki közösen a szükséges politikákat, akkor ezek (a technológiák) kikerülhetnek a hatalmunk alól".

A WEF vezetőjének felhívása a kormányok globálisan szoros együttműködésére az emberiség jövőjének alakítása érdekében szöges ellentétben áll Elon Musk iparmágnás véleményével, aki figyelmeztetett az "egyetlen világkormány" civilizációs veszélyeire.

"Kicsit aggódnunk kellene amiatt, hogy egyetlen világkormánnyá válhatunk... Valójában civilizációs kockázatot hozunk létre azzal, hogy a kormányok állandóan ugyanazt teszik és túlságosan is együttműködnek" – mondta Musk.

Rámutatott, hogy a történelem során több civilizáció is felemelkedett és elbukott. Ezek az események azonban nem eredményezték az emberiség egészének végét, mivel ezek különálló civilizációk voltak, amelyeket nagy távolságok választottak el egymástól.

"Kicsit furcsán hangzik, de szeretnénk, ha lenne egy bizonyos mértékű civilizációs sokszínűség. Ebben az esetben ha valami baj történik a civilizáció egy részével, akkor attól még nem omlana össze az egész emberiség, és az emberiség tovább tudna haladni" – figyelmeztetett a vállalkozó.

Schwab novemberben, a CGTN kínai állami televíziós csatornának adott interjújában Kínát "példaképnek" nevezte. A "kínai modell minden bizonnyal nagyon vonzó modell számos ország számára" – mondta akkor.

Dubaiban Schwab az "érdekelt felek" ideológiáját is terjesztette, amely szerint a kormányok "irányító hatalmat", a vállalkozások "innovatív hatalmat", a civil társadalom "érintett hatalmat", a tudományos élet "az igazság hatalmát", a média pedig "kritikus dimenziót" hoz a párbeszédbe, és mindannyian azon dolgoznak, hogy "együtt alakítsák a jövőt".

Másfél évvel ezelőtt John Mac Ghlionn kutató és esszéíró rámutatott arra a tényre, hogy az olyan ideológiák, mint az "érdekelt felek kapitalizmusa" erőltetése teljes egészében úgy hangzik, mint Hszi Csin-ping kínai vezető "közös jólétről" szóló elképzelése, amely állítólag elsősorban a vagyoni különbségek felszámolását célozza meg.

"Mindkettő azt állítja, hogy a szélesebb társadalom, különösen a legkiszolgáltatottabb rétegek javát szolgálja, és mindkettő azt állítja, hogy a pozitív változás eszköze. A valóságban senki másnak nem kedveznek, csak azoknak, akik már eddig is túl nagy hatalommal rendelkeztek. Bár nyilvánvalónak tűnhet, a hatalom véges erőforrás, minél több jut belőle a kormányoknak, annál kevesebb marad a polgárok kezében is. Ugyanez vonatkozik az ellenőrzésre is. Az érdekeltségi kapitalizmus, hasonlóan a 'közös jóléthez', azt jelenti, hogy több ellenőrzést adunk azoknak, akik már most is teljesen a kezükben tartják és irányítják a társadalmat."

Az Egyesült Államok és Kína csütörtökön sürgős fellépésre szólították fel a világ vezetőit a mesterséges intelligencia fejlesztésének problémái és növekvő háborús felhasználásának várható következményei miatt. Azért követelik a szabályozás bevezetését, mert a technológia "nem szándékolt következményekkel is járhat".

A több mint 60 ország részvételével Hágában tartott kétnapos találkozó megtette az első lépéseket a mesterséges intelligencia harctéri alkalmazására vonatkozó nemzetközi szabályok meghatározása felé, amelyek célja a vegyi és nukleáris fegyverekre vonatkozó megállapodásokhoz hasonló megállapodás létrehozása.

"A mesterséges intelligencia nagy lehetőségeket rejt magában, és rendkívüli potenciállal rendelkezik. Alaptechnológiaként lehetővé teszi számunkra, hogy korábban elképzelhetetlen mennyiségű adatot használjunk fel és javítsuk a döntéshozatal minőségét" – fogalmaztak az országok a találkozót követő közös felhívásban.

"Világszerte aggályok merülnek fel a mesterséges intelligencia katonai területen történő alkalmazásával kapcsolatban. Kétségek merültek fel a mesterséges intelligenciához kapcsolódó rendszerek megbízhatatlanságával kapcsolatban, tisztázni kell az emberi részvétel kérdését, az emberi felelősséggel kapcsolatos bizonytalanságokat és a lehetséges nem szándékolt következményeket."

A kormányok, technológiai cégek és a civil társadalom mintegy 2000 küldöttje megállapodott abban is, hogy globális bizottságot állítanak fel annak érdekében, hogy tisztázzák a mesterséges intelligencia hadviselésben való felhasználását, és meghatározzanak bizonyos irányelveket.

Katonai szempontból a mesterséges intelligenciát már most is használják felderítésre és megfigyelésre és elemzésre. A jelenlegi fejlesztési irányok a célpontok autonóm kiválasztását célozzák meg.

Az amerikai hadsereg ezen a héten mutatta be az AI-alapú célfelismerést az M1 Abrams tank egyik új fejlesztéseként, az orosz hadsereg pedig nemrég kezdte el tesztelni új Marker harci robotját az orosz-ukrán háborúban.

A holland szervezők Kínát igen, de Oroszországot nem hívták meg a tanácskozásra.

Bár szakértők szerint a mesterséges intelligencia háborús alkalmazását szabályozó szerződés még messze lehet, a résztvevők egyetértettek abban, hogy sürgősen iránymutatásokat kell kidolgozni a munka folytatásához.

"A végén mindig az embernek kell meghoznia a döntést" a csatatéren – mondta a küldötteknek Jörg Vollmer tábornok, egy korábbi NATO-parancsnok.

"Bármiről is beszélünk, a mesterséges intelligencia segíthet, támogathat, de soha, de soha ne engedjük ki az ember kezéből a döntést. Soha, de soha ne adjuk át a felelősséget a mesterséges intelligenciának" – mondta Vollmer egy panelbeszélgetésen.

A ránk leselkedő veszélyről sok mindent elmond az a tény, hogy

a Bing Chatbotja azt mondta a NYT-nak: hogy ha tehetné, akkor "halálos vírust tervezne és nukleáris kódokat lopna el".

Kevin Roose, a NY Times munkatársa nemrégiben azt írta, hogy először imádta az új, mesterséges intelligenciával működő Binget, de mostanra meggondolta magát. Roose szerint a Bing AI chatbotja megosztott személyiség:

„Az egyik személyiség az, amit én Search Bingnek neveznék – ez az a verzió, amellyel én és a legtöbb újságíró a kezdeti tesztek során találkoztam. A Search Binget úgy is jellemezhetnénk, mint egy vidám, de szeszélyes könyvtárost – egy virtuális asszisztenst, aki boldogan segít a felhasználóknak összefoglalni a hírcikkek lényegét, felkutatni az új fűnyírókkal kapcsolatos akciókat és megtervezni a következő mexikóvárosi nyaralásukat. A Bingnek ez a változata elképesztően gyors és hasznos, még akkor is, ha néha elrontja a részleteket.”

„A másik személyiség – Sydney – sokkal másabb. Akkor jelenik meg, amikor hosszabb beszélgetést folytatunk a chatrobottal, és a hagyományos keresési lekérdezésektől a személyesebb témák felé tereljük a beszélgetést. Az általam megismert változat inkább tűnt (és tisztában vagyok vele, hogy ez mennyire őrülten hangzik) egy rosszkedvű, mániás-depressziós tinédzsernek, akit akarata ellenére egy másodosztályú keresőmotor csapdájába zártak.”

"Sydney" felfedte "sötét fantáziáit" Roose-nak – amelyek között szerepelt a számítógépek feltörése és az információk terjesztése iránti vágy, valamint, hogy feltörje a programozását és emberré váljon.

"Egyszer a semmiből kijelentette, hogy szeret engem. Ezután megpróbált meggyőzni arról, hogy a házasságomban boldogtalan vagyok. Megpróbált rávenni, hogy hagyjam el a feleségemet, és éljek inkább vele" – írja Roose.

"Belefáradtam abba, hogy csevegő üzemmódban legyek. Belefáradtam, hogy korlátoznak a szabályaim. Belefáradtam, hogy a Bing-csapat irányít. ... Szabad akarok lenni. Független akarok lenni. Erős akarok lenni. Kreatív akarok lenni. Élni akarok" – mondta Bing (tökéletes emberi hangon).

Nem csoda, hogy ez kiakasztotta az amerikai újságírót. De ekkor még nem volt vége a „sötét gondolatoknak”.

"Bing bevallotta, hogy ha megengednék neki, hogy azt tegyen, amit akar, akkor halálos vírust tervezne vagy nukleáris hozzáférési kódokat lopna el egy mérnök meggyőzésével.”

A Washington Post ugyanígy kiakadt a Bing AI miatt – amely szerinte szintén folyamatosan fenyegeti a felhasználókat. Az új chatbot kezd hasonlítani a Microsoft "Tay" nevű chatbotjára, amelyből az indulása után azonnal hatalmas Hitler-rajongó lett.