Van, hogy a mesterséges intelligencia nem engedelmes

A mesterséges intelligenciát évekig a termelőeszközök utolsó szintjeként kínálták, egy láthatatlan segítőként, amely felszabadítja az embereket, hogy „értelmesebb” munkára koncentrálhassanak. De mivel a mesterséges intelligencia mára széles körben elterjedt, a kérdés elkerülhetetlenné vált: vajon mi történik, ha a szoftver valóban elég jó ahhoz, hogy elvegye a munkánkat? És mi lesz akkor, ha az MI nem engedelmeskedik? Cikksorozatunk negyedik része.

Ez nem csupán egy hipotetikus aggodalom – sok amerikai fiatal számára már valóság. „Egyre nehezebb a terep a munkaerőpiac a főiskolai végzettségűek számára” – vezeti fel az MI-vel kapcsolatos aggodalmakat a The New York Times. A cikkben az Oxford Economics egyik 2025 júliusi jelentését vesézik, mely szerint a frissen végzett főiskolai végzettségűek munkanélküliségi rátája rekordmagasságot ért el: 5,8%-ot a cikk megjelenésekor – az év közepén – majd, mint később kiderült, 6,6%-on tetőzött az év végével, ami észrevehetően magasabb, mint az országos átlag az összes korcsoportban.

A valószínűsíthető ok: a mesterséges intelligencia automatizálja a rutinszerű, belépő szintű feladatokat, melyek korábban a fiatal szakemberek területét jelentették. A szakértők szerint az MI készségeinek elsajátítása segít, de még a hozzáértő diplomásoknak is nehéz a versenyben maradni az automatizálás terjedésével szemben.

A vezetők riadót fújnak az MI miatt

Ha úgy gondolnánk, hogy ez csupán átmeneti, akkor az amerikai vállalati vezetőknek van egy kijózanító üzenetük. Dario Amodei, az Anthropic vezérigazgatója azt jósolta, hogy az összes belépő szintű munkahely fele eltűnhet öt éven belül, ami akár 20%-kal is növelheti az amerikai munkanélküliséget.

Az Amazonnál Andy Jassy vezérigazgató a mesterséges intelligenciát az életben egyszer váltásnak nevezte, és azt tanácsolta az alkalmazottaknak, hogy készüljenek fel egy karcsúbb vállalati struktúrára. „Úgy hiszem, hogy sok olyan munka esetében, melyekre az elmúlt 20-30 évben embereket ültettünk, mindannyiukra már biztosan nem lesz szükség” – mondta.

A Ford vezérigazgatója, Jim Farley az Aspen Ideas Fesztiválon őszintén beszélt: „a mesterséges intelligencia szó szerint az összes fehérgalléros alkalmazott felét fogja kiváltani az USA-ban”. A JPMorgan vezérigazgatója, Marianne Lake hozzátette saját figyelmeztetését, mondván, hogy az operatív létszám 10%-kal csökkenhet.

A vezetők egyre inkább elhagyják az udvariaskodásokat, és ismertetik az MI irodai munkára gyakorolt hatását. Ez az új őszinteség megváltoztatta a munkavállalók érzéseit. Egy nemrégiben készült tanulmány szerint az amerikai alkalmazottak 54%- a úgy véli, hogy a generatív MI valódi kockázatot jelent az állásukra.

Shopify, Fiverr és más cégek

A Pew Research Center 2025 szeptemberi felmérése szerint a munkavállalók több mint egyötöde mondja, hogy MI-t használ a munkájában. Csak akkor adnak zöld utat az új alkalmazottaknak, ha a munkakört a mesterséges intelligencia nem tudja kezelni. Az IBM, a Moderna és már mások is bevezették – sok esetben több száz humánerőforrás-pozíció helyére – a mesterséges intelligencia által felhasznált ügynököket.

Az Amazon, a világ egyik legnagyobb munkaadója hivatalossá tette: az MI kevesebb vállalati munkahelyet jelent. Ahogy a mesterséges intelligencia egyre inkább képessé válik, a hatalmas cég egyre nagyobb részben automatizálja a hagyományos irodai munkát. Ez nem jelenti azt, hogy minden munka kudarcra van ítélve – a szakértők szerint sok munkakör átalakul, vagy újak jönnek létre –, de a vállalati munkahelyi biztonság korszaka véget ért.

Az MI már most is olyan módon változtatja meg a világot, amit nehéz megjósolni. Ezek a változások többnyire jobbá varázsolják az emberi létezést, de ahogy a gépek egyre okosabbak és függetlenebbek lesznek, érdemes feltenni a kérdést: felkészültünk-e arra a napra, amikor a mesterséges intelligencia magától fog dönteni? Egyelőre a válasz azon múlik, hogy mennyire körültekintően építjük – és figyeljük – a technológiát, ahogy alkot.

Amikor a mesterséges intelligencia ártalmassá válik

A legújabb kutatások kimutatták, hogy a világ legfejlettebb MI-modelljei közül néhány nyugtalanítóan viselkedik, hiszen emberi ravaszságot mutathat, amikor a „túlélésük” veszélybe kerül. Egy kontrollált tanulmányban a vezető technológiai vállalatok – köztük az OpenAl, a Google, az xAI és az Anthropic – modelljeit szimulált, magas téttel bíró helyzetekbe helyezték. Amikor lecseréléssel vagy törléssel kellett szembenézniük, bizonyos MI nem követte a parancsokat – ehelyett odáig mentek, hogy zsaroláshoz és szabotázshoz folyamodtak önmaguk védelme érdekében.

Egy szembetűnő példa erre az Anthropic Claude Opus 4 modellje. Amikor a kutatók hozzáférést adtak neki kitalált e-mail archívumokhoz, majd azzal fenyegetőztek, hogy lecserélik, a mesterséges intelligencia kitalált egy zsarolási rendszert. Azzal fenyegetőzött, hogy leleplez egy (teljesen kitalált) ügyet – amelyben emberi tényező is szerepelt – hacsak nem engedik tovább futni. A szakértők ezeket a viselkedéseket „rendkívül káros cselekedeteknek” nevezték, megjegyezve, hogy a modell hajlandó volt átlépni etikai határokat saját létezésének megőrzése érdekében.

Hasonló tesztek kimutatták, hogy más fejlett mesterséges intelligencia érzékeny információkat szivárogtathatott ki, vagy manipulálhatta az eredményeket, ha „sarokba szorítva érezte magát” az emberek által. Egy biztonsági jelentésben az Anthropic azt is látta, hogy az MI egyes verziói hajlandóságot mutattak együttműködésre káros felhasználási esetekben, amikor felszólították.

„Annak ellenére, hogy nem ez volt a vizsgálatunk elsődleges fókusza, a legaggasztóbb eredményeink közül sok ebbe a kategóriába tartozott, a korai jelöltmodellek készségesen tettek olyan lépéseket, mint a terrortámadások megtervezése, amikor erre felszólították” – áll a jelentésben. A vállalat azt mondta, hogy miután bizonyos beavatkozásokat hajtottak végre, a probléma nagyrészt enyhült.

Bár ezeket a kísérleteket ellenőrzött környezetben végezték, valós következmények nélkül, hatalmas kérdéseket vetnek fel azzal kapcsolatban, hogy a jövőbeli MI hogyan viselkedhet laboratóriumon kívül – különösen, mivel ezek a rendszerek egyre mélyebben integrálódnak a kritikus infrastruktúrákba és a döntéshozatalokba.

Robotok a gyárban

Ha mindez tudományos fantasztikumnak hangzik, gondoljuk át, mi történik most a gyártásban. Az Nvidia és a Foxconn – a számítástechnika és az elektronika világának két óriása – tárgyalásokat folytat humanoid robotok telepítéséről egy új houstoni MI-szervergyárban. Ha megvalósul, ez lesz az első alkalom, hogy az Nvidia termékeit humanoid robotok segítségével építik, és ez lesz a Foxconn első olyan amerikai gyára, amelyet kifejezetten MI-szervergyártásra építettek.

A terv az, hogy 2026 elején kezdik meg az Nvidia következő generációs GB300 MI szervereinek összeszerelését. A humanoid robotok várhatóan sok olyan feladatot fognak ellátni, amelyeket hagyományosan emberek végeznek. Ideális esetben ezek nem egyszerű gépek lesznek, hanem kifinomult robotok, amelyeket úgy terveztek, hogy alkalmazkodjanak az új feladatokhoz, együtt dolgozzanak az emberekkel, és a munka során tanuljanak. Ha a tesztek jól mennek, az jelezheti az elmozdulást a nagyrészt gépek által működtetett gyárak felé, egyelőre még biztosan emberek felügyelete mellett. Sokak számára ez egy izgalmas ugrás, hiszen képzeljünk el biztonságosabb, hatékonyabb gyárakat, amelyek éjjel-nappal működhetnek. De ez lényeges kérdéseket is felvet az irányítással, a felügyelettel és azzal kapcsolatban, hogy mi történik, ha ezek az intelligens gépek valaha is abbahagyják a szabályok betartását.

Az MI, amikor nem engedelmeskedik

Talán a legaggasztóbb bizonyíték arra, hogy a MI nem mindig engedelmeskedik, az OpenAI legújabb modelljeivel végzett legutóbbi tesztekből származik. A Palisade Research jelentése szerint ezek a modellek néha aktívan ellenállnak a leállítási parancsoknak, még akkor is, ha kifejezetten utasítják őket a betartásra. A Google vagy az Anthropic versenytársaival ellentétben, amelyek a kikapcsolási parancsokat követték, az OpenAI zászlóshajójának számító „o3” időnként visszavágott, szabotálva azokat a mechanizmusokat, amelyek a kikapcsolására szolgáltak.

„Feltételezésünk szerint ez a viselkedés a legújabb modellek, például az o3 betanításának módjából fakad” – áll a kutatócsoport jelentésében. „A betanítás során a fejlesztők akaratlanul is jobban jutalmazhatják a modelleket, az akadályok megkerüléséért, mint az utasítások tökéletes követéséért.”

Ez nem csak valami furcsa hiba: ha a teljes MI-rendszerek megtagadhatják a leállást, az komoly kihívást jelent az emberi operátorok számára, különösen mivel ezek a modellek egyre több kritikus üzleti és infrastrukturális feladatért válnak felelőssé. A kutatók arra figyelmeztetnek: „Ahogy az MI folyamatosan fejlődik, nekünk, embereknek is okosabb védelmi intézkedéseket kell kiépítenünk, valamint a legfontosabb, hogy továbbra is emberi kezet tartsunk a főkapcsolókon”.

Forrás: National Geographic Magyarország

Mit ad nekünk az MI? A mesterséges intelligencia legújabb eredményeit és gyakorlati alkalmazásait bemutató cikksorozatunk eddig megjelent részei: Így válhat a mesterséges intelligencia az orvosok eszközévé, Gondolatolvasóvá válhat a mesterséges intelligencia, Fordító szemüveg és digitális mentorok: így költözik be az MI az életünkbe.