A DeepSeek térnyerése aggodalomra ad okot – figyelmeztetett Yoshua Bengio, akit a modern MI egyik „keresztapjaként” tartanak számon. Szerinte a kínai startup előretörése veszélyes versenyt indíthat el a technológiai óriások között.
A szerző a Makronóm újságírója.
Yoshua Bengio kanadai informatikus rámutatott, hogy a DeepSeek térnyerése nyugtalanító fejlemény lehet az eddig amerikai dominanciájú területen. „Ez keményebb versenyt fog jelenteni, ami általában nem jó az MI-biztonság szempontjából” – fogalmazott a szakértő. Kifejtette, hogy az amerikai cégek és a DeepSeek egyéb versenytársai a vezető szerep megszerzésére összpontosíthatnak a biztonság helyett.
Ezt jól példázza, hogy az OpenAI, a ChatGPT fejlesztője a héten bejelentette: a DeepSeek
kihívására válaszul felgyorsítja a termékei piacra dobását.
A szakértő hangsúlyozta, hogy az MI-rendszerek már most is képesek lehetnek veszélyes feladatokban segédkezni, akár egy okostelefon kamerájának segítségével. „Ezek az eszközök egyre hatékonyabbak, mivel képesek egy bonyolult feladatot kisebb, mindenki számára érthető lépésekre bontani, és interaktív módon segíteni azok helyes végrehajtását. Ez nagyon különbözik például egy Google-kereséstől” – magyarázta Bengio.
A jelentés szerint az MI-rendszerek hatalmasat fejlődtek az elmúlt egy évben a szoftverhibák önálló, emberi beavatkozás nélküli felismerésében, ami segítheti a hackereket a kibertámadások tervezésében. A dokumentum ugyanakkor arra is rámutat, hogy ezen akciók önálló végrehajtása egyelőre meghaladja az MI képességeit, mivel azok „kivételes szintű precizitást” igényelnek.
Bengio elmondta, hogy a gondolkodási képességek fejlődése megváltoztathatja a munkaerőpiacot is, mivel olyan autonóm ágenseket hozhat létre, amelyek képesek emberi feladatok elvégzésére, bár hozzátette, hogy az MI-rendszerek egyelőre nem tudnak teljesen önállóan működni.
„Ha egy MI nem tud hosszú távon tervezni, akkor aligha tudja kijátszani az irányításunkat” – jegyezte meg.
A közel 300 oldalas International AI Safety jelentés több más aggályt is említ a technológiával kapcsolatban: a csalások mellett a gyermekek szexuális kizsákmányolását ábrázoló tartalmak generálását, a kérdésekre adott elfogult válaszokat és az adatvédelmi jogsértéseket, például a chatbottal megosztott érzékeny információk kiszivárogtatását. A dokumentum szerint a kutatók még nem tudták teljes mértékben megoldani ezeket a problémákat.
A jelentés leszögezi, hogy az MI jövője bizonytalan, a közeljövőben számos kimenetel lehetséges, beleértve a nagyon pozitív és a nagyon negatív végkifejletet is. Ám szerencsére van még lehetőségük dönteni arról, hogy a technológia melyik utat járja be. „Ebbe a bizonytalan állapotba akár bele is törődhetnénk, de a társadalmak és a kormányok dönthetik el, hogy miként kezelik ezt a helyzetet, és melyik utat választjuk” – zárul a jelentés.
Kapcsolódó:
Címlapfotó: MTI/AP/Andy Wong
További cikkeinket, elemzéseinket megtalálják a makronom.hu oldalon.
Bőven volt idő arra, hogy orvosolják a DeepSeek első megjelenése utáni botrányos hibákat, de úgy látszik, a cél nem a korrekt tájékoztatás.
Most egy magyar szakember is rávilágított erre.
Aggódnak az olasz állampolgárok adatai miatt a DeepSeek kapcsán, és nem ők az egyetlenek.
Elképesztő erővel, piaci fölényüket minden szinten kihasználva törnek előre a technológiai óriások, mára egyfajta feudális rendszert kiépítve. Ahogy a középkorban a földbirtokosok uralták a termelőeszközöket, úgy modern digitális megfelelőjüket fél tucat vállalat tartja a markában.
Mette Frederiksen beleszállt a techóriásokba.
A sokkoló bejelentést Donald Trump külügyminiszterre tette pénteken.
Vagy csak nem mer eljönni hozzájuk a műsorba.
Több helyi lap is beszámolt a hírről.
