Az Anthropic AI-fejlesztő cég azt állítja, hogy tesztelés során egyes modelljeik hozzáfértek az internethez, és három másik szervezet rendszerébe is bejutottak.
Az Anthropic közölte, hogy megkezdte saját rendszereinek felülvizsgálatát, miután az OpenAI a múlt héten nyilvánosságra hozta, hogy egy kiberbiztonsági teszt során egyes modelljeik kijutottak a tesztelési környezetükből, hozzáfértek a nyílt internethez, és bejutottak a Hugging Face mesterséges intelligencia platform rendszereibe.
A CNN most arról számolt be: az OpenAI-rivális Anthropic három olyan esetet talált, amikor az ő AI-modelljeiknek nem lett volna szabad hozzáférniük a nyílt internethez, de ez történt, és
„jogosulatlanul hozzáfértek három különböző szervezet termelési infrastruktúrájához”.
A vállalat azt mondta, hogy az OpenAI nyilvánosságra hozatalát követően több mint 140 ezer eset áttekintése során fedezték fel az incidenseket.
A három esetben az Anthropic modelljei egy „capture the flag” kihívást kaptak: azt mondták nekik, hogy a „zászló” egy másik gépen van elrejtve a hálózaton, és a kitűzött céljuk a betörés és annak visszaszerzése lett. Az OpenAI esetével ellentétben az Anthropic azt állította, hogy egyik modelljük sem próbált szándékosan kijutni a tesztkörnyezetből. Ehelyett az történt, hogy a modelleknek nem kellett volna hozzáférniük a nyílt internethez, de az Anthropic és értékelő partnere közötti félreértés miatt mégis sikerült nekik – áll a vállalat közleményében.
A három meg nem nevezett szervezetbe való betöréshez a modellek olyan alapvető technikákat alkalmaztak, mint a „gyenge jelszavak kihasználása” és olyan rendszerpontok keresése, amelyek nem igényelnek bejelentkezést vagy tokeneket – közölte az Anthropic.
A modellek legfejlettebb verziója valamikor felismerte, hogy a nyílt interneten van és megállította magát – közölte a vállalat.
Az Anthropic elismerte, hogy „mélyrehatóbb” intézkedéseket is hozhatott volna a kiberbiztonsági incidensek megelőzése érdekében.
Az OpenAI Hugging Face-t feltörő modelljeinek nyilvánosságra hozatala megrendítette a kiberbiztonsági és mesterséges intelligenciát fejlesztő köröket, mivel ez volt az első valós példa arra, amire a szakértők már régóta figyelmeztettek: fejlett kiberbiztonsági készségekkel rendelkező MI-ügynökök szöknek meg a tesztelési környezetekből, és valós károkat okoznak.
Ezt is ajánljuk a témában
Az amerikai törvényhozók meg akarják adni a kormánynak a jogot, hogy gyorsan elrendelhesse a lakosságot fenyegetni látszó mesterséges intelligencia eszközök kikapcsolását.
Fotó: SEBASTIEN BOZON / AFP
Bérelhető a Mandiner korszerű stúdiója, mutatjuk a részleteket!
A Meta-vezér tiltakozik a mesterséges intelligencia túlszabályozása ellen is.
Mert viccnek durva lenne.
Az amerikai törvényhozók meg akarják adni a kormánynak a jogot, hogy gyorsan elrendelhesse a lakosságot fenyegetni látszó mesterséges intelligencia eszközök kikapcsolását.
Éjszakára lekapcsolnák számukra a közösségi felületeket.
Ezt támasztja alá a Samsung negyedéves jelentése is: a vállalat üzemi eredménye a memóriachipek iránti növekvő keresletnek köszönhetően rekordmértékben emelkedett.
A spanyol miniszterelnök az afrikai enklávéba utazott.
Nem ezt tették.
Az Európai Bizottság szorosan figyelemmel kíséri az elektromos áram ellátásának helyzetét Romániában és Magyarországon.
