A mesterséges értelem fejlesztésének egyre több szakértője és illetékese fejezi ki aggodalmait az egyre gyorsabb és átláthatatlanabb fejlődés miatt – most már a ChatGPT vezetője is megszólalt.
A Skynet öntudatára ébred – ha máshonnan nem, a Terminator disztópikus jövőképéből ismerjük azt a szcenáriót, hogy mi történhet, ha a mesterséges értelem öntudatára ébred, és, nos, nem a legjobban alakulnak ezután a dolgok. De ami pár évtizede, sőt, pár éve még csak afféle sci-fi fantázia volt, az most már itt van velünk, kopogtat ajtóinkon (egyelőre csak átvitt értelemben), már használjuk is korai változatait – és
A Mandineren folyamatosan foglalkozunk a mesterséges értelem jelenleg is zajló fejlesztéseivel kapcsolatos hírekkel és azok háttereivel Az látszik, hogy amíg mi, hétköznapi emberek a ChatGPT-vel beszélgetünk egyre értelmesebben, vagy épp a Midjourney-vel készítünk egy gombnyomásra tematikus illusztrációt, vagy épp egyre élvezhetőbb zenéket generálunk az AI segítségével – addig a mesterséges értelem szakértői, fejlesztői, a terület vezető illetékesei a hurráoptimizmus helyett mintha hirtelen a vészfékre léptek volna. Ki óvatosabban, ki nagyon is hangosan kiáltja világgá aggodalmait a szerintük is egyre gyorsabban és egyre kevésbé kontrolláltan fejlődő technológia miatt.
Kedden nagyágyú szólalt meg a témában: Sam Altman, a ChatGPT-t fejlesztő Open AI cég vezérigazgatója Washingtonban az amerikai Szenátus előtt beszélt az új technológia lehetőségeiről és csapdáiról egyaránt.
Altman kifejtette:
– de elismerte a potenciális veszélyeit is, áll a BBC tudósításában.
A tech guru szerint a mesterséges értelem elvehet bizonyos munkaköröket az emberektől, ezzel növelve a munkanélküliséget. „Hatással lesz a munkahelyekre, erről nagyon nyíltan akarunk beszélni” – jelentette ki Altman.
Arról is beszélt: az AI hatással lehet a demokrácia intézményeire is, például felhasználhatják azt célzott hamis információk terjesztésére is választások előtt. „Jövőre választások lesznek Amerikában, és ezek a modellek egyre jobbak lesznek.”
Altman szerint jó lenne, ha létrejönne egy olyan új állami szervezet, ügynökség, amely szabályozni tudná az iparágat - akár működési engedélyek kiadásával és szükség esetén visszavonásával is. Hozzátette: az ő cégét, az OpenAI-t is auditálhatnák független szervezetek.
„Azt gondoljuk, hogy a kormányok szabályozó beavatkozása kritikus fontosságú lenne,
hogy korlátozzuk az egyre erősebb technológia veszélyeit” – mondta az OpenAI-vezér.
Az Altmant faggató politikusok is megfogalmazták aggodalmaikat. Josh Hawley republikánus szenátor szerint a technológia lehet, hogy forradalmi, de közben az atombomba feltalálásához is hasonlít. A demokrata Richard Blumenthal megjegyezte: egy mesterséges értelem által uralt jövő „nem szükségszerűen egy olyan jövő, amit szeretnénk”. Blumenthal szenátor egyébként úgy kezdte a szenátusi meghallgatást, hogy egy a ChatGPT által megalkotott szöveget mondatott el a saját hangjából megalkotott hangfelvétellel. Ezzel is amellett kívánt érvelni, hogy a mesterséges értelem nem bontakozhat ki egy szabályozás nélküli környezetben.
Altman egyébként a CNN szerint egy nappal korábban vacsorán vett részt mintegy hatvan amerikai republikánus és demokrata politikussal, ahol a döntéshozókat különböző ChatGPT-s fejlesztések bemutatásával „szórakoztatta”.
A BBC szerint úgy tűnik, a két nagy amerikai párt egyetért az iparág szabályozásának szükségességével.
Altman nincs egyedül: a minap olyan globális nagyágyúk jelezték aggodalmaikat a mesterséges intelligencia kapcsán, mint például Elon Musk vagy épp Warren Buffett.
Musk több más tech guruval, mint például Steve Wozniak Apple-társalapítóval együtt pár hete tett közzé egy nyílt levelet, melyben arról írtak: szerintük a mesterséges értelem fejlesztési versengése már most kikerült az ellenőrzés alól, szerintük már a technológia megalkotói sem értik vagy tudják megjósolni, mi is történik. Az aláírók szerint a fejlesztésnek azonnal le kellene állnia egy időre, hogy átgondolják a fejleményeket. „Az emberrel versengő intelligenciájú AI-rendszerek alapvető veszélyt jelentenek társadalmunkra és az emberiségre” – írják. A levél idézi az OpenAi cég honlapján megjelent posztot, amiben kifejtik:
„Egy félrekalibrált, szuperintelligens mesterséges értelem súlyos ártalmat hozhat a világra,
egy olyan autokratikus rezsimet, amit egy döntéslképes szuperintelligencia vezetne” – írják.
„Hosszú távon a mostani elővigyázatosság kicsi ár azért, hogy csökkentsük a lehetséges kockázatokat” – jelentette ki Stuart Russell, a Kaliforniai Egyetem informatikai professzora, a nyílt levél aláírója.
A napokban megszólalt Warren Buffett is: a 93 éves amerikai üzletember, aki gyakran volt a világ leggazdagabb embere (most éppen az ötödik leggazdagabb a ranglistán) szintén az atombombához hasonlította a mesterséges értelem fejlődését. „A mesterséges intelligencia mindent megváltoztathat a világban, kivéve azt, hogy az emberek hogyan gondolkodnak és viselkednek, és ez egy nagy lépés” – figyelmeztetett Buffett.
Néhány hete számoltunk be egy másik belső ember nyílt aggodalmairól: „Lassítanunk kell az istenszerű mesterséges intelligencia felé tartó versenyt” – figyelmeztetett írásában Ian Hogarth üzletembe a Financial Times hasábjain. Hogarth a terület alapos ismerője, hiszen a mesterséges intelligencia fejlesztését tanulta a Cambridge-i Egyetemen, a Songkick társalapítója, illetve a Plural Platform befektetője, több mint 50 mesterséges intelligenciával foglalkozó startup vállalkozásba fektetett már be.
Hogarth részletezte a mesterségesintelligencia-fejlesztői kasztot: londoni felhőkarcolók tetején laknak, nincsenek gyerekeik, és
A szerző egy a saját „kasztjával” elköltött vacsora után így tűnődött: „Amikor hazaértem, a négyéves gyermekemre gondoltam, aki néhány óra múlva felébred. Ahogy elgondolkodtam azon, hogy milyen világban nő majd fel, a döbbenetből fokozatosan dühbe váltottam. Mélységesen helytelennek éreztem, hogy a Föld minden életét befolyásoló döntéseket magáncégek egy kis csoportja hozhat, demokratikus felügyelet nélkül. Vajon az első igazi AGI megépítésén fáradozó embereknek van-e tervük arra, hogy lassítsanak, és hagyják, hogy a világ többi része beleszóljon abba, amit csinálnak? És amikor azt mondom, hogy ők, akkor valójában úgy értem, hogy mi, mert én is része vagyok ennek a közösségnek” – vallotta be a szerző.
Hogarth arról is ír: „Azon a bizonyos februári vacsorán a jelentős aggodalmak, amelyeket a munkám során az elmúlt években éreztem,
váratlanul mélységes félelemmé alakultak.
Egy hárombetűs betűszó nem ragadja meg azt, amit az AGI igazából jelentene, ezért inkább így fogok rá hivatkozni: »Isten-szerű mesterséges intelligencia«. Egy szuperintelligens számítógép, amely önállóan tanul és fejlődik, amely felügyelet nélkül megérti a környezetét, és amely képes átalakítani a körülötte lévő világot. Hogy egyértelmű legyek: még nem tartunk itt. De a technológia természete azt jelenti, hogy rendkívül nehéz megjósolni, hogy pontosan mikor érünk el ide.”
A szerző szerint az istenszerű mesterséges intelligencia olyan erő lehet, amelyet nem tudunk irányítani vagy megérteni, és amely az emberiség meghaladását vagy pusztulását hozhatja el.
Nyitókép: Pixabay
Rendhagyó kémia órát tartott a sajtó képviselőinek a Mol a százhalombattai finomítójában. Bemutatták, hogy milyen lépéseket tett azért, hogy az orosz mellett más kőolajfajtákból is képes legyen üzemanyagot gyártani. Elárulták, mi a különbség az egyes kőolajfajták között, és milyen kockázatokkal jár a különböző nyersanyagok felhasználása.
Az összes maszlagot, amit az ellenzékiek gondolnak a magyar miniszterelnökről, azt mind Orbán Viktor szájába adta.
Szürreális jelenetek zajlottak le a fővárosi közgyűlésen, amikor a nyugdíj adóztatási tervükről kérdeztük a Tisza Párt képviselőit. Riportunk.
Fenyegetőzik, vádaskodik, perel – fogalmazott Orbán Balázs.
Folyamatosan terjed az „AI-pszichózis".
Ha a Fidesz nyer, a kampányfőnöke mennybe megy ezen videó miatt is. Ha veszít, akkor majd azt mondhatjuk utólag, hogy ez a videó ugyan nagyon nézett lett, de erősen túllőtt a célon.
Mindenhol bizonyít.
A modellt megkeresték egy karácsonyi adománygyűjtéssel kapcsolatban, majd rövidesen egy mondvacsinált indokkal kihátráltak a megkeresés alól.
