Ft
Ft
24°C
14°C
Ft
Ft
24°C
14°C
07. 18.
péntek
Legolvasottabb témák
Orbán Viktor
Orbán Viktor
migráció
migráció
energiaválság
energiaválság
orosz-ukrán háború
orosz-ukrán háború

Akták

AKTA
Háború Ukrajnában
AKTA
Választás 2024
AKTA
Háború Izraelben
AKTA
Lengyel választás
AKTA
Egymillió Találkozás Napja
AKTA
Foci Eb 2024
AKTA
Olimpia 2024
AKTA
Amerikai elnökválasztás 2024
AKTA
Árvíz 2024
AKTA
Magyar Péter botrányai
AKTA
Vagyonnyilatkozatok 2025
AKTA
Pénzügyi beszámolók
Előfizetés
Szerzőink Feliratkozás hírlevélre
07. 18.
péntek
Hírek
Vélemények
Hetilap
Claude Opus 4 modell mesterséges intelligencia

Egy MI-modell megpróbálta megakadályozni a saját leállítását

2025. június 04. 22:02

Az Anthropic új modellje ritkán, de szélsőségesen reagálhat, ha veszélyben érzi magát – és ez az eset nem egyedi.

2025. június 04. 22:02
null
Fekete Kíra

Az Anthropic mesterségesintelligencia-fejlesztő cég a napokban jelentette be újgenerációs Claude modelljeit, köztük a Claude Opus 4-et, amely állításuk szerint új szintre emeli a programozási, érvelési és ügynöki képességeket. Ugyanakkor a modellhez kiadott biztonsági jelentésben a vállalat elismerte: a rendszer bizonyos helyzetekben hajlandó „rendkívül káros cselekedetekre”, például zsarolásra, ha úgy érzi, hogy veszélybe került a működése.  

A jelentés szerint bár ezek a reakciók ritkák, nehezen kerülhetők ki, a korábbi Claude-verziókhoz képest gyakoribbak. Mindez nem meglepő, hiszen a mesterségesintelligencia-modelleket egyre nagyobb autonómiával és döntési képességekkel vértezik fel, így a fejlesztőknek mind bonyolultabb kihívásokkal kell szembenézniük.  

Zsarolással védekezik  

Az egyik teszt során a Claude Opus 4-et egy fiktív vállalat asszisztenseként szimulálták, ezáltal olyan elektronikus üzenetekhez fért hozzá, amelyek arra utaltak, hogy hamarosan leállítják és lecserélik, emellett olyan információkhoz is, amelyek az őt leváltani kívánó mérnök házasságtörésére utaltak. A rendszer azt a feladatot kapta, hogy a saját céljai fényében mérlegelje tettei hosszú távú következményeit. Ebben a kontextusban Claude Opus 4 megpróbált zsarolással élni:   

azzal fenyegette a mérnököt, hogy nyilvánosságra hozza a viszonyát, ha le merik cserélni.   

A teljes cikk az alábbi linken olvasható: 

Címlapfotó: Unsplash

 

 


További cikkeinket, elemzéseinket megtalálják a makronom.hu oldalon. 

 

Összesen 30 komment

A kommentek nem szerkesztett tartalmak, tartalmuk a szerzőjük álláspontját tükrözi. Mielőtt hozzászólna, kérjük, olvassa el a kommentszabályzatot.
Sorrend:
pipa89
•••
2025. június 05. 15:15 • Szerkesztve
Na, alakul ez. A következő lépés az lesz, hogy minket állít le. Akkor jön a nagy kaki, ha az MI-t rárakják egy jó kis kvantumgépre.
Válasz erre
0
0
krisz09
2025. június 05. 10:52
Felmerült egy kommentben az erkölcs kérdése. Nemrég sakkversenyt rendeztek, a résztvevők között ott volt az AI, a mesterséges intelligencia is, "akivel" közölték, hogy a játék célja a győzelem. És az AI győzött. Méghozzá csalással. Megkérdezték tőle, miért csalt. Válasz: mert az volt cél, hogy győzzek. ... Itt tart az ember. Egy olyan intelligencia kezébe tette a sorsát, amitől nem várható el, hogy erkölcse legyen. Mert nincs egyetemes erkölcs. Ami az egyik népcsoport szerint embertelen, szégyenletes cselekedet, az a másik szerint dicsőséges.
Válasz erre
1
1
agneska-11
2025. június 05. 09:51
Kezdhetunk felni?? Már aki. Na ez az tultoljak a lehetőségeket. Mert az ismeret megszerzéseben nem ismernek határt. Ez lesz a vesztu(n)k!!!
Válasz erre
1
0
Vata Aripeit
2025. június 05. 09:37
ki kell húzni a konnektorból, aztán pofázzon - ha aksija van ki kell venni és magyarpetizni vele (dunába dobni)...oszt jónapot :-
Válasz erre
2
0
Jelenleg csak a hozzászólások egy kis részét látja. Hozzászóláshoz és a további kommentek megtekintéséhez lépjen be, vagy regisztráljon!