Vukics Ferenc válogatása a nemzetközi sajtóból (110) – Betiltani az AI (MÉ) fejlesztését!
- dombi52
- 6 nappal ezelőtt
- 4 perc olvasás
Andrew Moran:
Kiemelkedő személyiségek is aláírták a „szuperintelligencia fejlesztésének” betiltását kérő levelet
A levél a világot fenyegető növekvő veszélyekre figyelmeztet, többek között a szabadság, a polgári jogok elvesztésére, valamint „az emberek gazdasági elavulására és jogfosztására”.
„Az AI (MÉ = mesterséges értelem) jövőjének az emberiséget kell szolgálnia, nem pedig helyettesítenie”
– írta Harry herceg, a levél egyik aláírója, feleségével, Meghan-nel, a levéllel együtt közzétett személyes megjegyzésében. „A haladás igazi próbája nem az lesz, hogy milyen gyorsan haladunk, hanem hogy milyen bölcsen irányítunk.” A Reuters-Ipsos felmérése szerint a válaszadók 71 százaléka aggódik amiatt, hogy az AI „túl sok embert tesz véglegesen munkanélkülivé”. Még az AI területén dolgozó alkalmazottak is létszámleépítéssel szembesülnek.
Több száz ember, konzervatív kommentátoroktól kezdve jelentős technológiai vezetőkig, aláírta azt a levelet, amelyben „a szuperintelligencia fejlesztésének” betiltását kérik.
Idén olyan vezető technológiai cégek, mint a Google, a Meta Platforms és az OpenAI felgyorsították az olyan mesterséges intelligencia (AI) rendszerek fejlesztését, amelyek képesek az embereket felülmúlni egy széles spektrumú, egyszerű és összetett feladatokban.
Egyre több prominens személyiség gondolja úgy, hogy ideje fékezni – legalábbis ideiglenesen.
A Future of Life Institute által összeállított levél a szuperintelligens AI fejlesztésének betiltását kéri, amíg a közvélemény nem igényli azt, és a tudomány nem jelöl ki egy biztonságos utat a technológia számára.
„A szuperintelligencia fejlesztésének betiltását kérjük, amelyet addig nem szabad feloldani, amíg nem alakul ki széles körű tudományos konszenzus arról, hogy az biztonságosan és ellenőrizhetően valósul meg, és amíg a közvélemény nem támogatja azt” – áll a október 22-én közzétett rövid nyilatkozatban.
A Future of Life Institute az elmúlt évtizedben figyelmeztetett a fejlett mesterséges intelligencia által jelentett egzisztenciális kockázatokra.
Petíciója több ezer aláírást és több száz, a csoport küldetésével azonosuló, magas rangú személyiség támogatását vonzotta, köztük a mesterséges intelligencia úttörőit, Yoshua Bengiót és Geoffrey Hintont.
Bengio szerint a mesterséges intelligencia rendszerek a következő néhány évben a legtöbb embert felülmúlhatják különböző kognitív feladatokban. Bár ezek a rendszerek előrelépést jelentenek, „jelentős kockázatokat is hordozhatnak” – írta Bengio a levéllel együtt közzétett személyes megjegyzésében.
„Ahhoz, hogy biztonságosan haladjon előre a szuperintelligencia felé, tudományosan meg kell határoznunk, hogyan kell olyan mesterséges intelligencia rendszereket tervezni, amelyek alapvetően képtelenek ártalmat okozni az embereknek, akár téves beállítás, akár rosszindulatú használat révén” – írta.
„Arról is gondoskodnunk kell, hogy a közvéleménynek sokkal nagyobb beleszólása legyen a közös jövőnket meghatározó döntésekbe.”
A levél a világot fenyegető növekvő veszélyekre figyelmeztet, többek között a szabadság, a polgári jogok elvesztésére, valamint „az emberek gazdasági elavulására és jogfosztására”.
A levél további aláírói között van a konzervatív médiaszereplő Glenn Beck, a Virgin Group alapítója, Sir Richard Branson, az Apple társalapítója, Steve Wozniak, a volt nemzetbiztonsági tanácsadó, Susan Rice, valamint a politikai kommentátor, Steve Bannon.
A levél aggodalmát fejezi ki az AI gyors fejlődése és széles körű alkalmazása miatt számos iparágban, politikai ideológiában és vallási szektában.
„Az AI jövőjének az emberiséget kell szolgálnia, nem pedig helyettesítenie” – írta Harry herceg, a levél egyik aláírója, feleségével, Meghan-nel együtt, a levéllel együtt közzétett személyes megjegyzésében.
„A haladás igazi próbája nem az lesz, hogy milyen gyorsan haladunk, hanem hogy milyen bölcsen irányítunk.”
Stuart Russell, a mesterséges intelligencia úttörője és a Kaliforniai Egyetem Berkeley-i campusának informatika professzora szerint a nyilatkozat nem „a szokásos értelemben vett” tilalom vagy moratórium. Ehelyett – írta – egy olyan technológia szükséges biztonsági intézkedéseinek bevezetésére irányuló javaslat, amely „jelentős eséllyel okozhatja az emberiség kihalását”.
„Túl nagy kérés ez?” – írta Russell.
Egy 2015-ös blogbejegyzésében az OpenAI vezérigazgatója, Sam Altman azt írta, hogy
a „szuperemberi gépi intelligencia (SMI) felemelkedése valószínűleg a legnagyobb fenyegetés az emberiség további létezésére.”
Elon Musk, a Tesla Motors és a SpaceX vezérigazgatója elmondta Joe Rogan podcast-műsorvezetőnek az év elején, hogy „csak 20 százalék az esély a pusztulásra”.
„A jó kimenetel valószínűsége körülbelül 80 százalék” – mondta a milliárdos vállalkozó.
Nem csak a szakértők és a híres személyiségek hangoztatják az óvatosságot.
A Future of Life Institute egy nemrégiben 2000 felnőtt bevonásával végzett országos felmérés eredményeit idézte, amely szerint csak 5 százalék támogatja „a gyors, szabályozatlan fejlődés jelenlegi állapotát”. Közel kétharmaduk (64 százalék) úgy gondolja, hogy a szuperemberi szintű mesterséges intelligenciát vagy addig nem szabad létrehozni, amíg biztonságosnak és ellenőrizhetőnek nem bizonyul, vagy „soha nem szabad kifejleszteni”.
A mesterséges intelligencia az utcán és a munkahelyen
Az elmúlt három évben a Wall Street a mesterséges intelligencia térnyerésének volt kitéve, és sok piaci megfigyelő a 25 évvel ezelőtti dotcom-buborékhoz hasonlította.
Mások szerint ez nagyon különbözik az 1990-es évek végének túlzott optimizmusától, amikor a befektetők milliárdokat öntöttek a „dotcom” nevet viselő vállalatokba.
„Összességében vannak bizonyos hasonlóságok (a technológiai részvények piaci koncentrációjának növekedése, a bevételek előtti agresszív tőkebefektetések) – írta John Belton, a Gabelli Funds portfóliókezelője az Epoch Timesnak küldött e-mailben. – De szerintem túlzott leegyszerűsítés azt mondani, hogy „buborékban” vagyunk (szinte biztosan nem értékelési buborékban, de vitatható, hogy a bevételi forrásokban van-e némi habzás).”
Akár valós az AI-buborék, akár nem, a vállalatok továbbra is az AI-ra koncentrálnak, és az amerikai munkavállalók aggódnak.
A FactSet Insights júniusi adatai szerint a második negyedévben az S&P 500-as vállalatok több mint 40 százaléka említette az „AI”-t a bevételi jelentésekben. Ez az ötödik egymást követő negyedév, amikor több mint 200 S&P 500-as vállalat tett így.
A Reuters-Ipsos felmérése szerint a válaszadók 71 százaléka aggódik amiatt, hogy az AI „túl sok embert tesz véglegesen munkanélkülivé”.
Bár az AI még nem okozta széles körben munkahelyek megszűnését, a Federal Reserve Board of Governors tagja, Christopher Waller a múlt héten kijelentette, hogy egyre több vállalat készül fel a mindennapi működésében az új technológiára.
„Különösen a kiskereskedők csökkentik a call centerben és az IT-hez kapcsolódó foglalkozásokban foglalkoztatottak számát – mondta Waller október 15-én a DC Fintech Week rendezvényen. – Eddig a legtöbbjük szerint ezt természetes fluktuációval oldják meg, de számos kiskereskedő szerint jövőre lehetséges a létszámcsökkentés.”
Még az AI területén dolgozó alkalmazottak is létszámleépítéssel szembesülnek.
A Meta október 22-én bejelentette, hogy körülbelül 600 álláshelyet szüntet meg a Superintelligence Labs-ben, ami hatással lesz a Facebook Artificial Intelligence Research-re és más AI-val kapcsolatos termékekre és infrastruktúrára.
