Félelmetes dolgot művelt a mesterséges intelligencia

2023. április 18. 12:12

A Google által fejlesztett AI olyan nyelven „beszélt”, amilyenre sosem tanították meg.

2023. április 18. 12:12
null

A CBS 60 Minutes interjút készített a Google technológiai vezetőjével, amelyben döbbenetes dolgok is kiderültek – szúrta ki a Portfolio.

A Google kutatói nemrég észrevették, hogy az általuk fejlesztett mesterséges intelligencia olyan dolgokat tud, amelyeket a kiképzése alapján, hivatalosan nem kellene neki, ugyanis

James Manyika, a Google technológiai vezetője a műsorban közölte, hogy egyik mesterséges intelligenciájuk most már annak ellenére fordít bengáli nyelvre, hogy erre nem tanították meg, mindössze annyi történt, hogy adtak neki pár utasítást ezen a nyelven. 

Ezt követően a műsorvezető megkérdezte Sundar Pichai-t, valóban jó ötletnek tartja-e, hogy a Google egy olyan technológiát szabadít rá a társadalomra, amelyet még a saját mérnökei sem értenek igazán. A Google vezérigazgatója a felvetésre úgy válaszolt, hogy szerinte még az emberi elme működését sem sikerült megértenünk.

***

Nyitókép: JONATHAN RAA / NURPHOTO / NURPHOTO VIA AFP

 

Összesen 44 komment

A kommentek nem szerkesztett tartalmak, tartalmuk a szerzőjük álláspontját tükrözi. Mielőtt hozzászólna, kérjük, olvassa el a kommentszabályzatot.
Sorrend:
Akitlosz
2023. április 18. 20:41
"Félelmetes dolgot művelt a mesterséges intelligencia" kiröhögte a Mandiner szerkesztőségét.
Haramia
2023. április 18. 18:38
Mi ebben a meglepő? A robotok kora könyv, de más mű is leírta már ezt. Egyszerűsítsünk, így érthető lesz. A matematika nyelvén. Mindenki kapott már iskolás korában olyan feladatot, hogy egy adott függvény esetében adja meg az összes lehetséges gyököt. Azaz, megoldását. Egy öntanulásra képes, bonyolult algoritmusok komplexitása is ezt teszi. Amikor felteszel egy kérdést, az azonnal matematikailag értelmezni fogja. És elindul megkeresni a legoptimálisabb megoldást, avagy megoldásokat. A nyelv is ez, ebben a formában csak az embernek tűnik érdekesnek, mivel "nyelvről" beszél. A MI esetében ez feladat, matematikai. És az ember holisztikusan próbálja meg megközelíteni azt, amit a MI pedig strukturáltan. Más könyvek pont erről szólnak, mint potenciális veszélyről: hiszen matematikai értelemben az optimális az a maximálást is jelentheti. És jelenti is. Ameddig van bemenő érték és van mit kiszámolni, azt ki is fogja számolni. Ebből vezették le az MI öntudatra ébredését mint lehetőséget, de hozzátéve, hogy öntudatra ébredés nélkül is veszélyes lehet emberre. Mert az ember tényleg nem tudja lekövetni, hogy mi történik a programok önmódosítása során. Ti. a programok is fejlesztik magukat, ha találnak az addigiakhoz képest még hatékonyabb eljárást, azaz algoritmusokat.
Mandinka
2023. április 18. 17:35
Mi nem létezik. ADATBÁZISKEZELŐ. Eredmény atól függ mivel töltik fel s a keresőmotort éppen mire érzékenyítik, hogyan mintavételeztetik. A tudatipar beépülő kerneljét farigcsálják a bolsevik világbékéért. Meghozza majd az árát mint a szerverparkok. Már várom a nyilvános könyvégetéseket a generációk összeugrasztásával fűszerezve. Vajh miért találtak az egyik oprendszer forráskódjában 37000 értelmetlennek tűnő sort?
zuriktodor
2023. április 18. 16:53
Rábaszunk.
Jelenleg csak a hozzászólások egy kis részét látja. Hozzászóláshoz és a további kommentek megtekintéséhez lépjen be, vagy regisztráljon!