Amikor az MI-álom igazi rémálommá válik

Nem mindennapi könyv került a látóterünkbe, a mai mesterséges intelligencia, azaz a nagy nyelvi modelleket de facto megalkotó OpenAI nevű vállalkozás története. A téma olyannyira a levegőben van, hogy nem is csoda, hogy a 2025 májusában megjelent kötet azonnal a The New York Times bestsellerlistájára került, hiszen igen alapos munka. Több mint háromszáz interjú alapján készült, sőt nem kíméli sem az OpenAI-t, sem a vezetőjét, Sam Altmant, ahogy magát az amerikai MI-ipart sem. Mindazonáltal Hao nem holmi összeesküvés-elméletek terjesztője – munkája egy józan, kritikus, ugyanakkor tényszerű elemzés arról, hogy a mesterséges intelligencia jelenlegi fejlődési pályája milyen rejtett költségekkel jár. 

Az álom, amely birodalommá vált 

Ahogyan a könyv ois részletesen feltárja, az OpenAI története 2015-ben kezdődött, amikor Sam Altman, Elon Musk és társaik nonprofit szervezetet alapítottak azzal a céllal, hogy biztonságos, az emberiség javát szolgáló, rendkívül okos, „mindenekfelett álló” mesterséges általános intelligenciát (AGI) fejlesszenek. Az alapítók narratívája egyértelmű volt: ők a civilizáció védelmezői, akik megakadályozzák, hogy az MI veszélyes fegyverré váljon a nagy techóriások kezében.  

Hao azonban már az első részben rámutat erre az alapvető paradoxonra:  

Ez az ideológiai csúsztatás az egész könyv vörös fonala. Az AGI egy olyan homályos, megfoghatatlan cél, amely bármit igazolhat. Ha a tét az emberiség jövője, akkor a cél szentesíti az eszközt, nem igaz? Hao pontosan ezzel a gondolkodással száll szembe. Bemutatja, hogyan vált az OpenAI önigazoló gépezetté, ahol a nemes célok mögé lehet rejteni a kétes üzleti döntéseket, a környezeti pusztítást és a munkaerő kizsákmányolását. 

A nonprofit cél kereskedelmi valósága 

A könyv egyik legerősebb része az OpenAI üzleti modelljének átalakulását követi nyomon. Ez az a pont, amikor 2019-ben Altman radikális lépésre szánta el magát: a nonprofit céget átalakította egy úgynevezett „capped-profit” modellre, amely lehetővé tette a külső befektetések fogadását. Ez vezetett a Microsofttal kötött milliárdos partnerséghez, amely Hao szerint a tudomány „fogságba ejtése” volt. 

Itt érdemes megállni egy pillanatra. Senki sem vitatja, hogy az MI-modellek fejlesztése óriási erőforrásokat igényel – számítási kapacitást, adatokat, tehetséges kutatókat. A kérdés nem az, hogy szükség van-e üzleti modellre, hanem az, hogy milyen áron. Hao meggyőzően érvel amellett, hogy az OpenAI eredeti küldetését – a biztonságos, nyílt MI fejlesztését – feláldozták a gyors növekedés oltárán.  

Rejtett költségek, környezeti károk 

A könyv talán legmegrázóbb fejezetei azok, amelyek az MI fejlesztésének óriási energiaigényére és emberi „költségeire” mutatnak rá. Hao nem elvont statisztikákkal operál, hanem konkrét történeteket mesél el. Például  

ugyanakkor egy-egy ilyen bányában mindennapos a gyermekbántalmazás, az erőszak és kiugrók az öngyilkossági útmutatók. Ezek az emberek pszichés traumákat szenvednek el, a családjaik szétesnek azért, hogy a fejlett világban élők jobb chatbotokat használhassanak. 

A szerző kiemeli: ez nem szenzációhajhászás, hanem a mindennapi valóság. Szerinte az MI-ágazat, akárcsak a történelem korábbi birodalmai, a globális kizsákmányolásra épül. A globális észak fogyasztja a szolgáltatásokat, míg a globális dél nyújtja az olcsó munkaerőt és az erőforrásokat.  

Hao kiemeli a chilei és uruguayi data centereket, amelyek  

Megszűnik a zöldtechnológia varázsa 

A „zöldtech” mítosza tehát szép lassan szertefoszlik, amikor látjuk az általa okozott környezeti lábnyomot. Természetesen az MI-fejlesztő óriásvállalatok válasza rögtön megvan: azt mondják, hogy ezek a költségek átmenetiek, és hogy hosszú távon az MI megoldja ezeket a problémákat is. De Hao jogosan kérdezi: kinek a hosszú távjáról beszélünk? A kenyai munkás hosszabb távú terveiről, aki elvesztette a családját vagy a szilícium-völgyi milliárdoséról? 

Sam Altman: álmodozó vagy manipulátor? 

A könyv középpontjában nem kizárólag egy vállalat története, sokkal inkább az alapító-vízionárius Sam Altman figurája áll, akiről Hao közel sem fest hízelgő képet. A cégvezért ambiciózus, karizmatikus, de manipulatív vezetőként mutatja be, aki „sok kis hazugsággal és néhány naggyal” operál. Ilya Sutskever, az OpenAI egykori vezető tudósa, technológiai első embere, aki elősegítette Altman 2023-as menesztését, nemes egyszerűséggel „pszichológiai bántalmazásnak” nevezte a vezetési stílusát. 

Igaz, más források, mint Keach Hagey The Optimist című könyve, pozitívabb képet festenek Altmanról. Hao elismeri, hogy a cégvezér sötétebb oldalát igyekezett bemutatni, ami jogos kritikára adhat okot: vajon túlzottan egyoldalú lett a portré? Ugyanakkor ne feledjük: Hao több mint háromszáz emberrel beszélt, köztük jelenlegi és egykori OpenAI-alkalmazottakkal, így állításai aligha légből kapottak. 

Nem volt őszinte 

A szerző a 2023. novemberi drámát is részletesen leírja. Ez volt az a pont, amikor az igazgatótanács váratlanul menesztette Altmant, aki napokkal később látványosan visszatért. A szakítás oka a nyilvános indoklás szerint az volt, hogy Altman „nem volt következetesen őszinte” a tanáccsal való kommunikációban. Hao megmutatja a háttérben zajló intrikákat: a cégvezér titkos befektetéseit, ellentmondásos nyilatkozatait, végül a Microsoft támogatásával, valamint az alkalmazottak lázadásával együtt járó visszatérését. Ez a történet csupán egy belső, vállalati dráma, ám látványos szimbóluma annak, hogyan működik a manipulatív hatalom az MI-iparban. 

Az AGI mint modern mítosz 

A szerző egyik legérdekesebb gondolata, hogy a már „emberszerűen gondolkodó” AGI tulajdonképpen egy modern mítosz, azaz nem más, mint egy megfoghatatlan cél, amely igazolja a jelenben hozott kétes döntéseket.  

Ez nem azt jelenti, hogy elképzelhetetlen vagy értelmetlen cél, csupán azt, hogy amíg nem világos, mit is értünk alatta, és hogyan érjük el biztonságosan, addig könnyen visszaélhetnek vele. Hiszen  

Hao nem utasítja el az MI-technológiát, ő nem egy gépromboló, inkább azt kérdezi, hogy kinek a mesterséges intelligenciájáról beszélünk. Ki profitál belőle és ki fizeti az árát? Szerinte ezek azok az alapvető kérdések, amelyeket nem szabad megkerülni a technológiai fejlődés nevében. 

Hao értelmezésében tehát az AGI mint látványos „szent grál” egy olyan ígéret, amely a meghatározatlansága miatt könnyen válik hatalmi eszközzé. Az AGI-re hivatkozó nagy MI-cégek – köztük az OpenAI – egy olyan hitrendszert építettek ki és erősítenek a mai napig, ahol a kételyek, a problémák és a kihívások nem képezthetik normális, nyílt szakmai vita részét. Ehelyett lojalitási kérdéssé silányul a dolog. Hao alapkérdése, hogy  

A birodalom építése és összeomlása 

A szerző, ahogy utaltunk rá, történelmi párhuzamokat von: az MI-ipar ugyanazt a mintát követi, mint a korábbi birodalmak: erőforrásrablás egy ideológia nevében. A gyarmati időszak során az európai hatalmak civilizációs missziót hirdettek, de egyúttal kizsákmányolták a gyarmatokat, míg ma az MI-vállalatok az emberiség javát hirdetik, ám felhasználják a globális dél erőforrásait. 

Tegyük azonban hozzá, hogy ez a párhuzam persze nem teljesen fair, hiszen az MI-fejlesztés, és annak néhány korai vadhajtása, közel sem azonos a gyarmati hódítással, de rávilágít a haszon és a költségek igazságtalan elosztására.  Azaz lehet, hogy ezen a ponton kissé érdemes árnyalni Karen Hao „szabadságharcos” megközelítését. Ám azzal egyet kell értsünk, hogy az óriásvállalatok mai működése egyfajta „vadnyugati” mintát követ, különösen azokban a szegény, elmaradottabb országokban, ahol a központi hatalom és/vagy a civil társadalom ellenőrző szerepe nem kellően erős. 

Az epilógusban Hao persze „nagyot akar mondani”, így azt a reményét fogalmazza meg, hogy a birodalmak összeomlanak, ha ellenállnak nekik, és hogy a globális mozgalmak, a szabályozások és a közvélemény megváltoztathatja az MI fejlődésének irányát. 

Nézzük kritikusan 

Ahogyan az előbb is utaltunk rá, Hao nem elfogulatlan, és közel sem használ egyenlő mércét. Bevallottan sötétebb képet fest Altmanról és az OpenAI-ról, ami nem feltétlenül probléma, de a teljesebb kép érdekében érdemes más nézőpontokat is figyelembe venni. Az is igaz, hogy bár meggyőzően azonosítja a problémákat, kevés konkrét megoldást kínál. Mit kellene máshogy csinálni? Milyen szabályozásra van szükség? Hogyan lehet etikusabb MI-t fejleszteni? 

Emellett időnként úgy tűnik, mintha túlzottan szkeptikus lenne az MI-technológiával szemben. Bár jogosan kritizálja a kizsákmányolást és a túlzott hype-ot, a mesterséges intelligencia előnyeit, amelyeket már látunk az orvoslásban, az oktatásban, a kutatásban, alig hangsúlyozza.  

Igaz, a könyv nem arról szól, hogy az MI általánosan rossz vagy jó lenne, inkább arról, hogy – a szerző szerint –  

Azt Hao is elismeri, hogy az MI potenciálja óriási, viszont ha azt akarjuk, hogy ez a látványosan fejlődő technológiai potenciál  

A könyv legerősebb üzenete az, hogy az MI nem elkerülhetetlen sors, hanem hosszú évek „választásainak” sorozata. Választhatjuk a gyors profitot vagy a hosszú távú fenntarthatóságot, választhatjuk a titoktartást vagy az átláthatóságot, választhatjuk a kizsákmányolást vagy az igazságosságot. Hao azt kéri tőlünk, hogy ne csak a technológiai csodákat lássuk, hanem a mögötte lévő valódi emberi és környezeti költségeket is. 

Kapcsolódó: 

    
További cikkeinket, elemzéseinket megtalálják a makronom.eu oldalon.    

Nyitókép: Kirill KUDRYAVTSEV / AFP