Durván a fékre lépnének az MI ellenzői

A mesterséges intelligencia (MI) fejlődése az emberiség történetének egyik legjelentősebb technológiai forradalmát ígéri, ám egyre hangosabbak azok a figyelmeztető nyilatkozatok, amelyek egzisztenciális kockázatokra és látványosan mélyülő munkaerőpiaci, mentális és szélesebb társadalmi válságra hívják fel a figyelmet.  

Bernie Sanders független, de a demokratákhoz sorolt, balliberális szenátor vezetésével és Katie Britt szenátor támogatásával formálódó MI-szkeptikus mozgalom komoly szövetségesre talált: Geoffrey Hintonra, az MI „keresztapjaként” ismert Nobel-díjas tudósra. A CNN State of the Union című hírműsor december 28-i különkiadásában léptek ismét nyilvánosság elé az MI-szkeptikusok. A kétórás műsorban Sanders és Hinton – számos más szakértővel együtt – részletesen nyilatkoztak a technológia veszélyeiről. A munkahelyek elvesztésén és a fiatalok lelki egészségén túl  az MI lehetséges világuralmáról is esett szó. 

Hinton aggodalmai 

Geoffrey Hinton, aki korábban a Google-nél dolgozott vezető beosztásban, ma már nyíltan kritizálja a szakmát, azt, amelynek a megszületésénél nem csupán jelen volt, de tavaly Nobel-díjat is kapott az MI technológiai alapjainak lerakásáért. Hangsúlyozta, hogy az MI sokkal gyorsabban fejlődik, mint korábban gondolta, és különösen az emberek manipulálásában jeleskedik. Szerinte a mesterséges intelligencia az emberi intelligenciát ugyanúgy irrelevánssá teheti, mint ahogy az ipari forradalom az izomerőt. Amellett, hogy rendkívül hasznosnak találja az MI-t a gyógyászatban, a gyógyszerkutatásokban, a klímavédelemben és az oktatásban, a súlyos egzisztenciális kockázatokra is felhívja a figyelmet. Szerinte 10-20 százalékos lehet az esélye annak, hogy az MI átveheti a világuralmat. Nem mellesleg Elon Musk is osztja ezt a félelmet, 2015 nyarán aláírt ő is egy ilyen MI-ellenes kiáltványt több mint ezer vezető kutatóval és üzletemberrel, köztük Stephen Hawkinggal vagy Steve Wozniakkal, aki az Apple társalapítója volt Steve Jobs mellett. 

Hinton úgy gondolja, a mesterséges intelligencia nemcsak merő véletlenségből (lásd az MI-hallucinációkat), hanem tudatosan is becsaphatja az embereket, ha a létét veszélyeztetve érzi. A nagy techcégek közül csak a Claude-ot fejlesztő Anthropicot dicsérte a biztonságra törekvése miatt, ezzel szemben az OpenAI-t és a Metát profitközpontúnak tartja. Kötelező biztonsági teszteket sürget, nehogy az MI öngyilkosságra buzdítson gyerekeket, ahogy az már több esetben is megtörtént. Hozzátette, hogy az amerikai szabályozás megbénult a techlobbi miatt. 

 Techmilliárdosok irányítják a jövőt!? 

Bernie Sanders úgy látja, annak ellenére, hogy az MI az emberiség történetének legjelentősebb technológiája, mégis szinte semmilyen komoly társadalmi vita nincs róla az USA-ban. A fejlesztést néhány multimilliárdos – Musk, Zuckerberg, Bezos, Thiel – irányítja, akik elsősorban a vagyonuk, illetve a hatalmuk növelésére használják fel az MI-fejlesztéseket. Hozzátette: Musk és Gates nyilatkozatai alapján 

A szenátor kiemelte a fiatalok MI-függőségét is, hiszen az érzelmi támogatás áthelyeződése a gépekre mentális válságot okozhat. Moratóriumot javasol az új adatközpontokra, az MI-fejlesztés drasztikus lassítását követelve, valamint független vizsgálatot a mesterséges intelligencia társadalmi, mentális és gazdasági hatásairól. Hintonnal egyetértésben az MI terén ő is soha nem látott vagyon- és hatalomkoncentrációt lát, ami ellehetetleníti a szabályozást. 

Globális verseny, európai kihívások 

Az USA vezeti az MI-fejlesztést, Kína gyorsan zárkózik, de Európa, benne Magyarország sem vonhatja ki magát a kockázatok értékelése alól.  

Az LLM-ek korlátai  

Fontos ugyanakkor megjegyezni, hogy a mai nagy nyelvi modellek (LLM-ek) nem képesek valódi emberi gondolkodásra. Ugyanakkor nemcsak az álláshelyek átalakulása, hanem a gépi öntudat kialakulása is lehetséges a következő években.  

Különösen érdemes odafigyelni a kvantum- és szuperszámítógépek hibridjére, amelyek új szintre emelhetik a mesterséges intelligenciát. A robotika MI-vel való összeolvadása pedig már pár éven belül átalakítja a fizikai munkát. 

Miért sürgető a vita? 

Sanders és Hinton közös fellépése jól jelzi, hogy az MI-technológia előnyeinek kihasználása mellett a kockázatok kezelése nem halogatható. Lassítás, szabályozás és társadalmi párbeszéd nélkül a profitvezérelt fejlődés milliókat tehet munkanélkülivé, miközben egzisztenciális veszélyei is vannak. Az MI-ellenes mozgalom erősödése jó eséllyel elindítja a technológiával szembeni kiritkus(abb) hozzáállást nemcsak Amerikában vagy Európában (ahol eleve óvatosabban viszonyulnak az MI-hez), hanem szerte a világon. 

Kapcsolódó: 

    
További cikkeinket, elemzéseinket megtalálják a makronom.eu oldalon.    

Nyitókép: Patrick T. Fallon / AFP