Levelet írt Zuckerberg a főügyésznek, gondja akadt a mesterséges intelligenciával
A Meta arra kéri az Egyesült Államok kormányát, hogy akadályozza meg az OpenAI átállását profitorientált működésre.
John Casti matematikus szerint a modern világ katasztrófái az egyszerű és a bonyolult rendszerek közötti konfliktusokból fakadnak. Ahogy az emberi közösségekben egyre nő a komplexitás, úgy szaporodnak a kártyavár összeomlásával fenyegető események. Megelőzhetünk-e mindent, amit mi magunk okozunk?
Az oregoni születésű John Casti sokszorosan díjazott matematikus, a káoszelmélet szaktekintélye. Korábban neves kutatóintézetek, köztük a védelempolitikára szakosodott RAND Corporation, illetve a természet- és társadalomtudomány határterületeit vizsgáló Santa Fe Institute vezető munkatársa volt, ezenkívül szerkesztette az Applied Mathematics & Computation című New York-i folyóiratot is. Szerzőnk ma a bécsi székhelyű X-Center alapítója. A műhely az ember által okozott szélsőséges események előrejelzésével foglalkozik a komplex rendszerek fizikájának tanulmányozásával. Casti 2012-es műve, az X-Events világszerte tizenöt nyelven jelent meg, köztük németül, japánul, koreaiul és oroszul.
Könyvében a szerző tizenegy konkrét forgatókönyvet vázol fel, amely kifejezetten emberi figyelmetlenség, félreértés, hiba, hülyeség vagy rosszakarat miatt valósulhat meg, ám folyamataink összetettsége okán hamar monumentálissá s az ember számára rövid úton irányíthatatlanná válhat. Ilyen lehet az élelmiszer-ellátási lánc, a nemzetközi pénzpiacok, az elektromos hálózat, a vízellátás összeomlása, esetleg egy világjárvány kitörése…
Vagyis bármilyen ritka történés, amelyet magunk idézünk elő, megtörténtekor mégis meglepetésként hat ránk. Belegondoltak például, hogy az internet működése máig egy jórészt az 1970-es években épült infrastruktúrán alapszik, miközben a hálózat terheltsége és bonyolultsága másodpercről másodpercre nő? Casti szándékosan hanyagolja az aszteroida-becsapódáshoz hasonló lehetőségeket, és tisztán arra fókuszál, amit az embernek hatalmában áll megelőzni – vagy okos felkészüléssel enyhíteni a hatásait. Az ilyen események előrejelzése és menedzselése persze épp ritkaságuk okán rendkívül nehéz: sem elég tapasztalattal, sem elég adattal nem rendelkezünk a kialakulásuk és hatásuk megértését segítő pontos modellek felállításához.
„Az első lépés a realizmus felé, hogy kukába dobjuk az utópiákat”
Szerzőnk meggyőződése szerint az emberi világ fatális forgatókönyvei – ahogy ő nevezi őket, az „x események” – legtöbbször az eltérő összetettségű rendszerek összeütközéséből fakadnak. A 2008-as gazdasági válság esetében például az egyre komplexebb pénzügyi eszközök és az azok bonyolultságát immár szabályozni képtelen kormányzat konfliktusából. Az x események jelentette kockázat csökkentéséhez a bonyolult rendszerek komplexitását szükséges csökkenteni, s nem a másik oldalt bonyolítani (ebben az esetben inkább kivezetni a piacról az egyre egzotikusabb pénzügyi termékeket, mint komplikálni az állami szabályozást).
Casti nem győzi eléggé hangsúlyozni, az emberi agyműködés mennyire hajlamossá tesz minket a „szándékos vakságra”. Szerinte „bár a történelem technológiailag legfejlettebb civilizációjában élünk, folyamatosan ültetjük el magunk körül az összeomlás esélyét növelő magvakat”. Szerzőnk önként vállalt küldetése ezért a kijózanítás, a szellemi detoxikáció. „Sokakat fogva tart egy téves meggyőződés, miszerint velünk született jogunk boldogan és kockázatmentesen élni, s minden komolyabb szerencsétlenség csak valaki mással történhet meg. Az első lépés a realizmus felé vezető úton, hogy kukába dobjuk az utópiákat” – fogalmaz Casti, amivel magyarként csak egyetérthetünk.