Az Anthropic AI-fejlesztő cég azt állítja, hogy tesztelés során egyes modelljeik hozzáfértek az internethez, és három másik szervezet rendszerébe is bejutottak.
Az Anthropic közölte, hogy megkezdte saját rendszereinek felülvizsgálatát, miután az OpenAI a múlt héten nyilvánosságra hozta, hogy egy kiberbiztonsági teszt során egyes modelljeik kijutottak a tesztelési környezetükből, hozzáfértek a nyílt internethez, és bejutottak a Hugging Face mesterséges intelligencia platform rendszereibe.
A CNN most arról számolt be: az OpenAI-rivális Anthropic három olyan esetet talált, amikor az ő AI-modelljeiknek nem lett volna szabad hozzáférniük a nyílt internethez, de ez történt, és
„jogosulatlanul hozzáfértek három különböző szervezet termelési infrastruktúrájához”.
A vállalat azt mondta, hogy az OpenAI nyilvánosságra hozatalát követően több mint 140 ezer eset áttekintése során fedezték fel az incidenseket.
A három esetben az Anthropic modelljei egy „capture the flag” kihívást kaptak: azt mondták nekik, hogy a „zászló” egy másik gépen van elrejtve a hálózaton, és a kitűzött céljuk a betörés és annak visszaszerzése lett. Az OpenAI esetével ellentétben az Anthropic azt állította, hogy egyik modelljük sem próbált szándékosan kijutni a tesztkörnyezetből. Ehelyett az történt, hogy a modelleknek nem kellett volna hozzáférniük a nyílt internethez, de az Anthropic és értékelő partnere közötti félreértés miatt mégis sikerült nekik – áll a vállalat közleményében.
A három meg nem nevezett szervezetbe való betöréshez a modellek olyan alapvető technikákat alkalmaztak, mint a „gyenge jelszavak kihasználása” és olyan rendszerpontok keresése, amelyek nem igényelnek bejelentkezést vagy tokeneket – közölte az Anthropic.
A modellek legfejlettebb verziója valamikor felismerte, hogy a nyílt interneten van és megállította magát – közölte a vállalat.
Az Anthropic elismerte, hogy „mélyrehatóbb” intézkedéseket is hozhatott volna a kiberbiztonsági incidensek megelőzése érdekében.
Az OpenAI Hugging Face-t feltörő modelljeinek nyilvánosságra hozatala megrendítette a kiberbiztonsági és mesterséges intelligenciát fejlesztő köröket, mivel ez volt az első valós példa arra, amire a szakértők már régóta figyelmeztettek: fejlett kiberbiztonsági készségekkel rendelkező MI-ügynökök szöknek meg a tesztelési környezetekből, és valós károkat okoznak.
Ezt is ajánljuk a témában
Az amerikai törvényhozók meg akarják adni a kormánynak a jogot, hogy gyorsan elrendelhesse a lakosságot fenyegetni látszó mesterséges intelligencia eszközök kikapcsolását.
Fotó: SEBASTIEN BOZON / AFP
Bérelhető a Mandiner korszerű stúdiója, mutatjuk a részleteket!
A párt szerint több, százezreket érintő ügyben sem történt érdemi előrelépés a kormány hivatalba lépése óta.
Csak sikerült az amerikai cégeket rákényszeríteni arra, hogy az összes MI által készített tartalmat könnyebb legyen kiszúrni.
Közel 19 millió ember adatai kerültek nyilvánosságra.
A YouTube-nak és más cégeknek elegük van az AI által generált tartalmak áradatából.
A fideszes politikus azt írta, három nyomós oka volt lemondásának.
...de lehet, elintézik annyival, hogy a fideszes szavazóknak ez kell vidéken (Kossuth tér).
A bíboros, esztergom-budapesti érsek a Facebookon közzétett videójában üzent a nemzetnek.
