A DeepSeek térnyerése aggodalomra ad okot – figyelmeztetett Yoshua Bengio, akit a modern MI egyik „keresztapjaként” tartanak számon. Szerinte a kínai startup előretörése veszélyes versenyt indíthat el a technológiai óriások között.
A szerző a Makronóm újságírója.
Yoshua Bengio kanadai informatikus rámutatott, hogy a DeepSeek térnyerése nyugtalanító fejlemény lehet az eddig amerikai dominanciájú területen. „Ez keményebb versenyt fog jelenteni, ami általában nem jó az MI-biztonság szempontjából” – fogalmazott a szakértő. Kifejtette, hogy az amerikai cégek és a DeepSeek egyéb versenytársai a vezető szerep megszerzésére összpontosíthatnak a biztonság helyett.
Ezt jól példázza, hogy az OpenAI, a ChatGPT fejlesztője a héten bejelentette: a DeepSeek
kihívására válaszul felgyorsítja a termékei piacra dobását.
A szakértő hangsúlyozta, hogy az MI-rendszerek már most is képesek lehetnek veszélyes feladatokban segédkezni, akár egy okostelefon kamerájának segítségével. „Ezek az eszközök egyre hatékonyabbak, mivel képesek egy bonyolult feladatot kisebb, mindenki számára érthető lépésekre bontani, és interaktív módon segíteni azok helyes végrehajtását. Ez nagyon különbözik például egy Google-kereséstől” – magyarázta Bengio.
A jelentés szerint az MI-rendszerek hatalmasat fejlődtek az elmúlt egy évben a szoftverhibák önálló, emberi beavatkozás nélküli felismerésében, ami segítheti a hackereket a kibertámadások tervezésében. A dokumentum ugyanakkor arra is rámutat, hogy ezen akciók önálló végrehajtása egyelőre meghaladja az MI képességeit, mivel azok „kivételes szintű precizitást” igényelnek.
Bengio elmondta, hogy a gondolkodási képességek fejlődése megváltoztathatja a munkaerőpiacot is, mivel olyan autonóm ágenseket hozhat létre, amelyek képesek emberi feladatok elvégzésére, bár hozzátette, hogy az MI-rendszerek egyelőre nem tudnak teljesen önállóan működni.
„Ha egy MI nem tud hosszú távon tervezni, akkor aligha tudja kijátszani az irányításunkat” – jegyezte meg.
A közel 300 oldalas International AI Safety jelentés több más aggályt is említ a technológiával kapcsolatban: a csalások mellett a gyermekek szexuális kizsákmányolását ábrázoló tartalmak generálását, a kérdésekre adott elfogult válaszokat és az adatvédelmi jogsértéseket, például a chatbottal megosztott érzékeny információk kiszivárogtatását. A dokumentum szerint a kutatók még nem tudták teljes mértékben megoldani ezeket a problémákat.
A jelentés leszögezi, hogy az MI jövője bizonytalan, a közeljövőben számos kimenetel lehetséges, beleértve a nagyon pozitív és a nagyon negatív végkifejletet is. Ám szerencsére van még lehetőségük dönteni arról, hogy a technológia melyik utat járja be. „Ebbe a bizonytalan állapotba akár bele is törődhetnénk, de a társadalmak és a kormányok dönthetik el, hogy miként kezelik ezt a helyzetet, és melyik utat választjuk” – zárul a jelentés.
Kapcsolódó:
A Tisza eltörölné a védett benzinárat, a rezsicsökkentést, évi 1,5 millió forintba és 20 százalék feletti inflációba fájna minden magyarnak Magyar Péterék terve. Itt a Mesterterv legújabb adása.
Egyelőre csak a fiatalabb generációk mindennapi életének vált részesévé a mesterséges intelligencia.
Bőven volt idő arra, hogy orvosolják a DeepSeek első megjelenése utáni botrányos hibákat, de úgy látszik, a cél nem a korrekt tájékoztatás.
Most egy magyar szakember is rávilágított erre.
Aggódnak az olasz állampolgárok adatai miatt a DeepSeek kapcsán, és nem ők az egyetlenek.
Elképesztő erővel, piaci fölényüket minden szinten kihasználva törnek előre a technológiai óriások, mára egyfajta feudális rendszert kiépítve. Ahogy a középkorban a földbirtokosok uralták a termelőeszközöket, úgy modern digitális megfelelőjüket fél tucat vállalat tartja a markában.
Természetesen megint őket kiáltották ki félelemkeltőknek és szélsőségesnek, nem a bűnözőket.
A vállalat állami támogatással és nemzetközi beruházásokkal bővíti tevékenységét.
Durva rémhírkeltés.
