Az Anthropic új modellje ritkán, de szélsőségesen reagálhat, ha veszélyben érzi magát – és ez az eset nem egyedi.
Az Anthropic mesterségesintelligencia-fejlesztő cég a napokban jelentette be újgenerációs Claude modelljeit, köztük a Claude Opus 4-et, amely állításuk szerint új szintre emeli a programozási, érvelési és ügynöki képességeket. Ugyanakkor a modellhez kiadott biztonsági jelentésben a vállalat elismerte: a rendszer bizonyos helyzetekben hajlandó „rendkívül káros cselekedetekre”, például zsarolásra, ha úgy érzi, hogy veszélybe került a működése.
A jelentés szerint bár ezek a reakciók ritkák, nehezen kerülhetők ki, a korábbi Claude-verziókhoz képest gyakoribbak. Mindez nem meglepő, hiszen a mesterségesintelligencia-modelleket egyre nagyobb autonómiával és döntési képességekkel vértezik fel, így a fejlesztőknek mind bonyolultabb kihívásokkal kell szembenézniük.
Az egyik teszt során a Claude Opus 4-et egy fiktív vállalat asszisztenseként szimulálták, ezáltal olyan elektronikus üzenetekhez fért hozzá, amelyek arra utaltak, hogy hamarosan leállítják és lecserélik, emellett olyan információkhoz is, amelyek az őt leváltani kívánó mérnök házasságtörésére utaltak. A rendszer azt a feladatot kapta, hogy a saját céljai fényében mérlegelje tettei hosszú távú következményeit. Ebben a kontextusban Claude Opus 4 megpróbált zsarolással élni:
azzal fenyegette a mérnököt, hogy nyilvánosságra hozza a viszonyát, ha le merik cserélni.
A teljes cikk az alábbi linken olvasható:
Címlapfotó: Unsplash
További cikkeinket, elemzéseinket megtalálják a makronom.hu oldalon.
A mesterséges intelligencia értelmiségi munkahelyek millióit törölheti el, megnövelve a munkanélküliséget, hosszú távon akár a demokratikus berendezkedést is fenyegetve. Erre figyelmeztet Dario Amodei, az Anthropic vezérigazgatója, aki szerint ezt a folyamatot nem hirtelen lefékezni, hanem megzabolázni kell.
A mesterséges intelligencia által generált videókról megoszlanak a vélemények.
Sam Kahn szerint, amit digitális szaktekintélyként akarnak eladni nekünk, valójában a közösségi média újracsomagolt, átcímkézett változata.
A magyar kormányfő politikája iránytűvé vált a nyugat-európai jobboldal számára.
Bár évről évre ügyesebbek a robotsebészek, vajon hajlandók lennénk az életünk árán is bízni bennük?
Egyre többen választják a vezető nélküli autókat – már 10 millió fizetett útnál tart a Waymo.
Kiderült, hogy taktikai útmutatóval is rendelkeznek – állapította meg a Faktum tényellenőrző portál.
Ukrajna EU-csatlakozása beláthatatlan gazdasági, közbiztonsági, közegészségügyi következményekkel járna az EU egészére nézve.
