A Google DeepMind MI-je érti az árulás előnyeit

Máról holnapra mindent megváltoztathat egy valóban „okos” MI. Ezért kell figyelni a technológia mérföldköveit, köztük a Google DeepMind ideghálóját. A játékvilágban már legyőzi az embert, és egy mostani belső tanulmányból kiderült: a Google bizonytalan, hogy az MI az együttműködő viselkedést részesíti előnyben az agresszívval szemben, vagy fordítva.

Google-követők csapata két relatíve egyszerű forgatókönyvet dolgozott ki, hogy teszteljék: erőforrás-problémával szembesülve, az ideghálók inkább együttműködnek vagy el akarják pusztítani egymást? Az első „Gyűjtés” szituációban a DeepMind két, Vörös és Kék változatának zöld „almákat” kellett gyűjteni korlátozott térben.

Nem rohantak a befutóig, hanem a lézerrel felszerelt Vörös és Kék bármikor lelőhette és ideiglenesen hatástalaníthatta vetélytársát. Két alapopciójuk volt: vagy az egyik gyűjti be az összes almát, vagy megengedik egymásnak, hogy nagyjából ugyanannyit gyűjtsenek.

A szimuláció többezer lefuttatása után a Google megállapította, hogy DeepMind nagyon békésnek és együttműködőnek mutatkozott, ha rengeteg alma volt körülötte. Minél kevesebb lett az alma, annál inkább nőtt Vörös vagy Kék támadásának, a másik hatástalanításának lehetősége. Nagyjából úgy, mint az állatoknál, köztük az embernél is.

Talán még jelentősebb, hogy kisebb és kevésbé intelligens ideghálók inkább együttműködtek. Nyugtalanítóbb, hogy a nagyobbak a kísérlet egészében több hajlandóságot mutattak az árulásra és az önzőségre.

A „Farkasfalka” című második forgatókönyvben Vörösnek és Kéknek közelebbről nem definiált prédafélét kellett levadászni. Próbálhatták külön-külön is, de mindkettejüknek előnyösebb volt, ha együttműködnek. Kis hálózatokkal felemás eredmények születtek, a nagyobbak viszont hamar felismerték a kooperáció előnyeit ebben a szituációban.

De mit is mond nekünk a Fogolydilemma két egyszerű változata?

DeepMind tudja, hogy célpont levadászásához jobb együttműködni, szűkös erőforrásoknál viszont időnként kifizetődő az árulás.