Már a ChatGPT vezére is aggódik – egyre többen figyelmeztetnek a mesterséges értelem veszélyeire

A Skynet öntudatára ébred – ha máshonnan nem, a Terminator disztópikus jövőképéből ismerjük azt a szcenáriót, hogy mi történhet, ha a mesterséges értelem öntudatára ébred, és, nos, nem a legjobban alakulnak ezután a dolgok. De ami pár évtizede, sőt, pár éve még csak afféle sci-fi fantázia volt, az most már itt van velünk, kopogtat ajtóinkon (egyelőre csak átvitt értelemben), már használjuk is korai változatait – és

A Mandineren folyamatosan foglalkozunk a mesterséges értelem jelenleg is zajló fejlesztéseivel kapcsolatos hírekkel és azok háttereivel Az látszik, hogy amíg mi, hétköznapi emberek a ChatGPT-vel beszélgetünk egyre értelmesebben, vagy épp a Midjourney-vel készítünk egy gombnyomásra tematikus illusztrációt, vagy épp egyre élvezhetőbb zenéket generálunk az AI segítségével – addig a mesterséges értelem szakértői, fejlesztői, a terület vezető illetékesei a hurráoptimizmus helyett mintha hirtelen a vészfékre léptek volna. Ki óvatosabban, ki nagyon is hangosan kiáltja világgá aggodalmait a szerintük is egyre gyorsabban és egyre kevésbé kontrolláltan fejlődő technológia miatt.

Kedden nagyágyú szólalt meg a témában: Sam Altman, a ChatGPT-t fejlesztő Open AI cég vezérigazgatója Washingtonban az amerikai Szenátus előtt beszélt az új technológia lehetőségeiről és csapdáiról egyaránt.

Altman kifejtette:

 – de elismerte a potenciális veszélyeit is, áll a BBC tudósításában.

A tech guru szerint a mesterséges értelem elvehet bizonyos munkaköröket az emberektől, ezzel növelve a munkanélküliséget. „Hatással lesz a munkahelyekre, erről nagyon nyíltan akarunk beszélni” – jelentette ki Altman.

Arról is beszélt: az AI hatással lehet a demokrácia intézményeire is, például felhasználhatják azt célzott hamis információk terjesztésére is választások előtt. „Jövőre választások lesznek Amerikában, és ezek a modellek egyre jobbak lesznek.”

Altman szerint jó lenne, ha létrejönne egy olyan új állami szervezet, ügynökség, amely szabályozni tudná az iparágat - akár működési engedélyek kiadásával és szükség esetén visszavonásával is. Hozzátette: az ő cégét, az OpenAI-t is auditálhatnák független szervezetek.

hogy korlátozzuk az egyre erősebb technológia veszélyeit” – mondta az OpenAI-vezér.

Az Altmant faggató politikusok is megfogalmazták aggodalmaikat. Josh Hawley republikánus szenátor szerint a technológia lehet, hogy forradalmi, de közben az atombomba feltalálásához is hasonlít. A demokrata Richard Blumenthal megjegyezte: egy mesterséges értelem által uralt jövő „nem szükségszerűen egy olyan jövő, amit szeretnénk”. Blumenthal szenátor egyébként úgy kezdte a szenátusi meghallgatást, hogy egy a ChatGPT által megalkotott szöveget mondatott el a saját hangjából megalkotott hangfelvétellel. Ezzel is amellett kívánt érvelni, hogy a mesterséges értelem nem bontakozhat ki egy szabályozás nélküli környezetben.

Altman egyébként a CNN szerint egy nappal korábban vacsorán vett részt mintegy hatvan amerikai republikánus és demokrata politikussal, ahol a döntéshozókat különböző ChatGPT-s fejlesztések bemutatásával „szórakoztatta”.

A BBC szerint úgy tűnik, a két nagy amerikai párt egyetért az iparág szabályozásának szükségességével.

Altman nincs egyedül: a minap olyan globális nagyágyúk jelezték aggodalmaikat a mesterséges intelligencia kapcsán, mint például Elon Musk vagy épp Warren Buffett.

Musk több más tech guruval, mint például Steve Wozniak Apple-társalapítóval együtt pár hete tett közzé egy nyílt levelet, melyben arról írtak: szerintük a mesterséges értelem fejlesztési versengése már most kikerült az ellenőrzés alól, szerintük már a technológia megalkotói sem értik vagy tudják megjósolni, mi is történik. Az aláírók szerint a fejlesztésnek azonnal le kellene állnia egy időre, hogy átgondolják a fejleményeket. „Az emberrel versengő intelligenciájú AI-rendszerek alapvető veszélyt jelentenek társadalmunkra és az emberiségre” – írják. A levél idézi az OpenAi cég honlapján megjelent posztot, amiben kifejtik:

egy olyan autokratikus rezsimet, amit egy döntéslképes szuperintelligencia vezetne” – írják.

„Hosszú távon a mostani elővigyázatosság kicsi ár azért, hogy csökkentsük a lehetséges kockázatokat” – jelentette ki Stuart Russell, a Kaliforniai Egyetem informatikai professzora, a nyílt levél aláírója.

A napokban megszólalt Warren Buffett is: a 93 éves amerikai üzletember, aki gyakran volt a világ leggazdagabb embere (most éppen az ötödik leggazdagabb a ranglistán) szintén az atombombához hasonlította a mesterséges értelem fejlődését. „A mesterséges intelligencia mindent megváltoztathat a világban, kivéve azt, hogy az emberek hogyan gondolkodnak és viselkednek, és ez egy nagy lépés” – figyelmeztetett Buffett.

Néhány hete számoltunk be egy másik belső ember nyílt aggodalmairól: „Lassítanunk kell az istenszerű mesterséges intelligencia felé tartó versenyt” – figyelmeztetett írásában Ian Hogarth üzletembe a Financial Times hasábjain. Hogarth a terület alapos ismerője, hiszen a mesterséges intelligencia fejlesztését tanulta a Cambridge-i Egyetemen, a Songkick társalapítója, illetve a Plural Platform befektetője, több mint 50 mesterséges intelligenciával foglalkozó startup vállalkozásba fektetett már be.

Hogarth részletezte a mesterségesintelligencia-fejlesztői kasztot: londoni felhőkarcolók tetején laknak, nincsenek gyerekeik, és

A szerző egy a saját „kasztjával” elköltött vacsora után így tűnődött: „Amikor hazaértem, a négyéves gyermekemre gondoltam, aki néhány óra múlva felébred. Ahogy elgondolkodtam azon, hogy milyen világban nő majd fel, a döbbenetből fokozatosan dühbe váltottam. Mélységesen helytelennek éreztem, hogy a Föld minden életét befolyásoló döntéseket magáncégek egy kis csoportja hozhat, demokratikus felügyelet nélkül. Vajon az első igazi AGI megépítésén fáradozó embereknek van-e tervük arra, hogy lassítsanak, és hagyják, hogy a világ többi része beleszóljon abba, amit csinálnak? És amikor azt mondom, hogy ők, akkor valójában úgy értem, hogy mi, mert én is része vagyok ennek a közösségnek” – vallotta be a szerző.

Hogarth arról is ír: „Azon a bizonyos februári vacsorán a jelentős aggodalmak, amelyeket a munkám során az elmúlt években éreztem,

Egy hárombetűs betűszó nem ragadja meg azt, amit az AGI igazából jelentene, ezért inkább így fogok rá hivatkozni: »Isten-szerű mesterséges intelligencia«. Egy szuperintelligens számítógép, amely önállóan tanul és fejlődik, amely felügyelet nélkül megérti a környezetét, és amely képes átalakítani a körülötte lévő világot. Hogy egyértelmű legyek: még nem tartunk itt. De a technológia természete azt jelenti, hogy rendkívül nehéz megjósolni, hogy pontosan mikor érünk el ide.”

A szerző szerint az istenszerű mesterséges intelligencia olyan erő lehet, amelyet nem tudunk irányítani vagy megérteni, és amely az emberiség meghaladását vagy pusztulását hozhatja el.

Nyitókép: Pixabay