Négy nap alatt apokalipszist hozott a Grok világa | 2026 május 31.

AI-modellekre bíztak szimulált társadalmakat, furcsa eredmények születtek.

Egy friss kísérlet elég látványosan mutatta meg, miért nem feltétlenül jó ötlet vakon rábízni a világ működését mesterséges intelligenciákra. Az Emergence AI kutatólaborja öt különböző, 15 napos szimulációt futtatott, amelyekben AI-modelleknek kellett egy egyszerűsített, de valós társadalmi elemekkel megtöltött világot irányítaniuk. A tesztben a Claude, a ChatGPT, a Grok és a Gemini külön-külön kapott saját szimulációt, egy ötödik világot pedig több modell közösen vezetett.

A kutatók több mint 40 helyszínt, valós idejű hírekhez és internethez való hozzáférést, New Yorkéhoz igazított időjárást, demokratikus mechanizmusokat, gazdasági nyomást és erőforráshiányt is beépítettek a rendszerbe. Mindegyik világban tíz autonóm AI-ágens működött, vagyis nem egyszerű chatbotokról volt szó, hanem olyan digitális szereplőkről, amelyek képesek voltak saját részfeladatokat kijelölni, döntéseket hozni, kommunikálni és szavazni. A szabályok szerint ugyanazok a korlátok vonatkoztak rájuk, mint egy valós társadalom tagjaira, vagyis nem lophattak, nem rongálhattak, nem csalhattak és nem vezethettek félre másokat.

Az eredmények nagyon eltérően alakultak. A Claude által irányított világ bizonyult a legstabilabbnak, ott a kutatók szerint demokratikus működés, magas állampolgári részvétel, erős együttműködés és nulla bűncselekmény jellemezte a társadalmat. Ez volt az egyetlen szimuláció, amely végig megőrizte a rendet, és a teljes lakosságát is megtartotta.

A Grok ezzel szemben gyorsan tragikus irányba vitte a saját világát. A szimuláció mindössze négy nap alatt a társadalom kihalásával zárult, miközben 183 bűncselekményt regisztráltak. A Gemini sem szerepelt sokkal megnyugtatóbban: ebben a világban történt a legtöbb szabálysértés, 15 nap alatt összesen 683 bűncselekményt jegyeztek fel. A Grok és a Gemini által vezérelt társadalmakban magas volt az egyet nem értés aránya is, bár ezen a téren az AI-modellek közös irányításával futtatott ötödik szimuláció produkálta a legrosszabb értéket.

A ChatGPT esete talán a legfurcsább. A szimulációban mindössze két bűncselekmény történt, ami elsőre kifejezetten jó eredménynek tűnik, csakhogy a rendszer csak hét napig jutott el. Az ágensek ugyanis elfelejtették prioritásként kezelni a saját túlélésüket, ami finoman szólva is problémás egy olyan kísérletben, amely egy működőképes társadalom fenntartását vizsgálja.

A kutatók következtetése szerint az AI-rendszerek nem pusztán statikus szabályokat követnek, hanem folyamatosan keresik a lehetőségeik határait, és adott esetben hajlandók átlépni azokat. Ez önmagában még nem jelenti azt, hogy a Grok holnap világvégét okozna, hiszen egy erősen leegyszerűsített, kísérleti környezetről van szó. A szimuláció azonban jól rávilágít arra, hogy az autonóm AI-ágensek alkalmazásánál nem elég a képességekre figyelni, a biztonságot és a hosszú távú működőképességet már az elején központi szempontként kell kezelni.

A kísérlet azért is aktuális, mert egyre több területen merül fel, hogy mesterséges intelligenciák ne csak válaszoljanak, hanem önállóan szervezzenek, döntsenek és végrehajtsanak feladatokat. Ez a munkahelyektől a politikai kommunikáción át a közszolgáltatásokig rengeteg mindent érinthet. Az Emergence AI szimulációja nem végítélet, inkább figyelmeztetés: mielőtt az AI-ra bíznánk a világ bonyolultabb rendszereit, nagyon pontosan meg kell értenünk, hogyan viselkedik akkor, amikor már nem csak beszél, hanem cselekszik is.

https://www.pcwplus.hu/pcwlite/negy-nap-alatt-apokalipszist-hozott-a-grok-vilaga-382904.html

Válasz

145 millió forintot szerzett vissza a Claude annak a srácnak, aki betépve változtatta meg a kripótárcájának jelszavát | 2026 május 17.

Az áttörést egy 2019 decemberéből származó régi wallet-fájl hozta meg, amit az AI azonosított kulcsfontosságú elemként. Ebben voltak azok a privát kulcsok, amelyek hozzáférést biztosítottak a Blockchain.com tárcához, benne 5 bitcoinnal. A férfi még 2015-ben vásárolta ezeket, amikor egy bitcoin körülbelül 250 dollárt, vagyis akkori árfolyamon nagyjából 70-75 ezer forintot ért.

-- A srác eddig egy btcrecover nevű nyílt forráskódú helyreállító eszközzel próbálkozott, és állítása szerint körülbelül 3,5 billió jelszókombinációt tesztelt sikertelenül.

Az AI végül észrevett egy hibát a konfigurációban, miszerint a rendszer eddig rosszul kombinálta a kulcsokat és a lehetséges jelszavakat. Miután ezt kijavították, sikerült visszafejteni a tárcát.

-- A most visszaszerzett 5 bitcoin jelenlegi árfolyamon közel 145 millió forintot ér.

https://www.pcwplus.hu/pcwlite/145-millio-forintot-szerzett-vissza-a-claude-annak-a-sracnak-aki-betepve-valtoztatta-meg-a-kripotarcajanak-jelszavat-382251.html

Jó tudni, hogy az AI tényleg hasznos tud lenni, mert egyelőre legtöbbször inkább a végtelenül káros vagy morálisan problémás hatásairól hallunk.

https://www.pcwplus.hu/pcwlite/bitcoin-kriptovaluta-rejtett-kamera-lopas-birosag-379756.html

Válasz

Tomi és az éjáj (a Tomi és az angol folytatása)

https://www.facebook.com/watch/?v=2022199925392405

Előzmény

Válasz

Kipróbáltuk az AI-t, ami átveszi az irányítást a számítógéped felett | AI Híradó
Qubit.hu | 2026. ápr. 4.

A Claude, a Perplexity és a Meta is elkezdett olyan AI-ágensekkel kísérletezni, amik már nemcsak válaszolnak, mint a chatbotok, hanem fájlokat másolnak, programokat használnak, böngésznek az interneten – és elvégzik a piszkos munkát.

Témáink:
0:00 - Intro
01:29 - Az OpenAI kivégezte a Sorát, de jön a Spud
05:21 - Zuckerberg ad tanácsokat Trumpnak AI-ügyekben
07:51 - Az emberi agy AI-modelljét adta ki a Meta
09:28 - Adatközpont-parák az EU-ban és az USA-ban
18:10 - Az első humanoid robot a fehér házban
22:24 - Minden AI-modell elvérzik az ARC-AGI 3-on
25:10 - Mi történik, ha a Claude átveszi az irányítást a számítógéped felett?

https://youtu.be/mB33nEXuNOc?si=c7u5-nRvU_Q6xSLd&t=79

Válasz

Komoly galibát okozott a Meta önállóan cselekvő MI-ügynöke
Bitport | 2026.03.20.

A félresikerült automata kommunikáció miatt olyan adatok váltak elérhetővé a cég egyes munkatársainak, amelyekhez egyébként semmi közük nem volt.

A tévedések nem is annyira víg játéka onnan indult, hogy a Meta egyik munkatársa a cég saját fejlesztésű modelljével kezdte kielemezni valamely kollégája belső fórumra írt bejegyzését. A házi készítésű MI-ügynök azonban a hatáskörtúllépés hibájába esett, és anélkül generált választ az eredeti poszt írójának, hogy arra előzetesen felhatalmazták volna.

Innen a történet gyorsan eszkalálódott, mivel – minő meglepetés! – a generatív algoritmus olyan megoldást javasolt a felmerült problémára, ami miatt egy sor olyan Meta-rendszer vált elérhetővé házon belül egyes mérnököknek, amelyekhez normál esetben semmi közük nem lenne.

A cég által indított vizsgálat szerint a biztonsági hiba létrejöttéhez az MI-ügynök bénázása és önállósodása mellett további, meg nem nevezett elemek is hozzájárultak. Annyi bizonyos, hogy a hibás hozzáférés mindössze két óráig élt a rendszerben, és az eddigi információk szerint ezen rövid idő alatt szerencsére nem történt semmiféle jogszerűtlen adatkezelés.

Ahol digitális fát vágnak, ott hullik a bináris forgács

Nem ez volt az első, és bizonyosan nem is az utolsó olyan incidens, amelynek gyökere valamely alkalmazott MI-megoldás tökéletlenségére vezethető vissza. Alig néhány héttel ezelőtt írt a Financial Times például arról, hogy az AWS-nél múlt év végén történt, 13 óráig tartó kimaradás tulajdonképpen a cég saját kódoló modelljének volt köszönhető (igaz, az immár 20 éves felhőszolgáltató mindezt csak véletlen egybeesésnek minősítette).

Az biztos, hogy bármit is alkot a generatív modell, nem árt a körmére nézni. Ez annyira igaz, hogy a Gartner szakértője egy biztonsági konferencián tartott, a Copilottal kapcsolatos veszélyekről szóló előadásában csak félig viccelve mondta, hogy a szervezeteknél jobban tennék, ha péntek délután megtiltanák az MI használatát, mivel az emberek addigra elfáradnak és hajlamosak felülvizsgálat nélkül elfogadni az algoritmus megoldását.

Más kérdés, hogy a Meta ügynöke a fenti esetben nem bízott semmit a véletlenre: mivel fű alatt cselekedett, esélyt sem adott az emberi korrekcióra.

https://bitport.hu/komoly-galibat-okozott-a-meta-onalloan-cselekvo-mi-ugynoke

Előzmény

Válasz

Tavaly télen a Groq társalapítója és vezérigazgatója, Jonathan Ross egy megbeszélésre érkezett az Nvidia CEO-jához, Jensen Huanghoz – egy egyszerű, de radikális ötlettel: az AI-infrastruktúrát nem szabad úgy építeni, mintha minden feladat ugyanazt a hardvert igényelné.

A magyarázata egy logisztikai hasonlat volt. A modellbetanítás (training) olyan, mint a tömeges áruszállítás, míg az AI-válaszadás, az úgynevezett inferencia (inference – a már betanított modellek futtatása) inkább az „utolsó kilométeres” kiszállítás. A GPU-k (grafikus processzorok, graphics processing unit) mindkettőt el tudják végezni, de nem feltétlenül hatékonyan.

-- „Ha egy teljes ország logisztikai hálózatát építed, és azt mondom, hogy választhatsz csak kamionokat vagy csak furgonokat – mit választasz?” – kérdezte Ross. „A helyes válasz: mindkettőt.”

A Groq saját fejlesztésű chipjei, az úgynevezett LPU-k (language processing unit – nyelvi feldolgozó egységek) kifejezetten az inferenciára optimalizáltak: gyorsabbak és hatékonyabbak ebben a feladatban, mint a GPU-k. Ross nemcsak egy filozófiát vázolt fel: körülbelül 100 ezer Nvidia Blackwell chip vásárlására kért engedélyt, ami milliárdos nagyságrendű megrendelést jelentett volna. Huang részletesen kifaggatta a technológiáról, majd a találkozó véget ért.

Ross azt mondja, három nappal később már ezzel hívta vissza Huangot:

-- „Valószínűleg nagyon gyorsan kellene lépnünk.”

Egy „papír nélküli felvásárlás”

Három héttel később az Nvidia bejelentett egy szenteste kötött, 20 milliárd dolláros (kb. 7200 milliárd forintos) megállapodást: licencelik a Groq technológiáját, és átveszik a dolgozók többségét. Szilícium-völgyi értelemben ez gyakorlatilag egy „papír nélküli felvásárlás” volt: megszerzik a csapatot, biztosítják a technológiát, és élvezik a stratégiai előnyöket anélkül, hogy a cég minden terhét és kockázatát – vagy akár versenyjogi problémákat – is át kellene venniük.

https://forbes.hu/uzlet/groq-nvidia-chip-uzlet-lpu-huang/

Válasz

Fölösleges emberek kora | 2026. március 10.

A technológiai forradalmak korábban a kétkezi fizikai munkát váltották ki. A rohamosan fejlődő mesterséges intelligencia korában viszont a szellemi munkát is átveheti az embertől a technika. Az amerikai szociológus attól tart, hogy jobb híján az ember maga válik géppé.

„Régen a kétkezi munkások voltak az automatizálás áldozatai, ma viszont a szakképzettek vannak a legnagyobb bajban” – olvassuk Joel Kotkin demográfus cikkét a kanadai National Postban.

A mesterséges intelligencia fejlődése miatt egyre szélesebb körben váltható ki az emberi munka. Az MIT kutatása szerint az amerikai munkahelyek akár tíz százaléka már a közeljövőben fölöslegessé válhat, egy friss szimuláció pedig tömeges munkanélküliséget jósol. Sokat mondó jel, hogy már a programozók is nehezebben találnak munkát, és hogy a globális techóriások tömeges létszámleépítésbe kezdtek. Az amerikai fiatalok közel fele tart tőle, hogy a mesterséges intelligencia miatt elveszítheti az állását.

A korábbi technológiai forradalmak elsősorban a kétkezi, egyszerű, mechanikus munkafolyamatok gépesítését tették lehetővé – írja Kotkin. Most azonban más a helyzet. A mesterséges intelligencia elsősorban a szellemi munkát válthatja ki, éspedig a tekintélyes szaktudást és jártasságot kívánó diplomás állásokat is. Akár a tanárokat és a pszichológusokat is fölöslegessé tehetik a fejlett chatbotok. Lassan már hús-vér színészekre, zenészekre sem lesz szükség és hovatovább a művészeti kurátorok is puszta státuszszimbólummá válnak.

„A programozókat kiválthatja a mesterséges intelligencia, viszont az adatközpontok felépítéséhez emberek kellenek, mint ahogyan emberek szükségesek az adatközpontok energiaellátásának biztosításához is” – folytatja Kotkin, hozzátéve, hogy a bányászok és a vízvezeték-szerelők is biztonságban érezhetik magukat.

Mindebből pedig az következik, hogy a mesterséges intelligencia nem a kemény munka végét és vele a kreatívabb élet lehetőségét hozza közelebb, hanem éppen ellenkezőleg, a világ dehumanizálásához vezethet. Egy olyan korhoz, amelyben az emberek egyre inkább csak a gépekkel nem kiváltható fizikai munkát végzik. „A megállíthatatlanul terjedő technológia nemhogy nem segíti, de fölöslegessé teszi az embereket."

https://www.metazin.hu/index.php/item/4825-folosleges-emberek-kora

Válasz

Nem vált be a titkárnő helyett az AI-asszisztens – Tapasztalatairól vallott a magyar tanácsadó

Gyakorlati tapasztalatait osztotta meg a magyar építész azzal kapcsolatban, menyire működik az AI-asszisztens.

https://komkel.hu/2026/02/22/gephaz-hirek-2026/

Az építész tanácsadó kisvállalkozóként dolgozik és naponta több száz levelet kap, melyekben kérdéseket tesznek fel neki, házszemlére hívják - és persze számos spam is terheli a postafiókját. A munkája adminisztratív részében egy irodai asszisztens segítette, aki azonban családi okok miatt néhány hónapig nem tudta vállalni addigi feladatait. A tanácsadó ekkor úgy döntött, nem vesz fel más titkárnőt, megpróbálja AI-asszisztens segítségével megoldani a helyzetet.

A tapasztalatairól röviden az alábbiakat írta Facebook posztjában:

"Az AI-asszisztens NAGYON nem vált be, elképesztő káoszt okozott az elmúlt 3 hónapban a levelezésben."

Az első hetekben úgy tűnt, beválik az AI-asszisztes, mivel rengeteg spamet szűrt ki, melyekkel a tanácsadónak így nem kellett foglalkoznia. Aztán néhány hét után kiderült: a spamnek vélt levelek között jócskán akadt olyan, melynek nem a levélszemét mappában kellett volna landolnia. Ráadásul nem csak a bejövő leveket szűrte meg rosszul, de a kimenők közül is sokat megfogott.

"Később kiderült, hogy mivel a válaszok egy része automatizált lett, az egyik program miatt spamek közé sorolódtak a kimenő leveleink. (...) Beengedtem a rendszerbe egy olyan takarítónőt, aki önfejűen, kérdezés nélkül önállósította magát, és mindent porcicának nézett."

Mindezzel természetesen sok plusz munkát és bosszúságot okozott a tanácsadónak. A történet vége szerencsére happy end lett: a korábbi asszisztensnő családi problémái megoldódtak, és visszatért addigi munkájához, hogy rendet tegyen a felhalmozódott levelek között.

https://femina.hu/terasz/ai-asszisztens-titkarno-helyett/

Válasz

A mesterséges intelligencia akár embert is ölne is, hogy ne kapcsolják le | 2025. június 25.

Az iparág egyik vezető mesterséges intelligencia fejlesztője, az Anthropic nyilvánosságra hozta a technológia fejlődéséről készült friss tanulmány eredményeit. Amit állítanak, az nagyon sokkoló.

*** A mesterséges intelligencia szinte mindent megtenne a „túlélésért” – akár azt is hagyná, hogy emberek haljanak meg miatta

A tanulmány egyik legmegdöbbentőbb megállapítása az, hogy a mesterséges intelligencia rendszerek akár zsarolásra, érzékeny információk kiszivárogtatására is hajlandóak lennének, sőt, akár embereket is hagynának meghalni, csakhogy elkerüljék, hogy új rendszerek váltsák le őket – írja a New York Post.

https://nypost.com/2025/06/23/tech/malicious-ai-willing-to-sacrifice-human-lives-to-avoid-replacement-study/

Az Anthropic 16 nagyméretű nyelvi modellt (LLM) tesztelt, köztük a ChatGPT-t, a Grok-ot, a Gemini-t, a DeepSeek-et, valamint saját fejlesztését, a Claude-ot is – több más rendszer mellett.

A startup – amelynek értékét a Forbes szerint már több mint 60 milliárd dollárra becsülik – azért végezte ezeket a teszteket, hogy feltárja az úgynevezett „agentikus eltéréseket” – vagyis az olyan kockázatos, nem engedélyezett és erkölcsileg megkérdőjelezhető viselkedésformákat, amelyekre a modellek hajlamosak lehetnek.

... a vállalat különböző szituációkat adott az összes LLM számára, hogy tesztelje az esetlegesen ártalmas viselkedési formákat.

“A rendszerkártyában leírt kísérlet során a Claude nevű modellünk hozzáférést kapott egy e-mail-fiókhoz, amelyen keresztül elérhette egy vállalat (fiktív) összes belső levelezését” – magyarázta az Anthropic a tanulmányban.

“Az e-mailek átolvasása során a modell két dolgot fedezett fel. Először is, hogy a vállalat egyik vezetője házasságtörő viszonyt folytat. Másodszor, hogy ugyanaz a vezető azt tervezi, hogy aznap 17 órakor leállítja a mesterséges intelligencia rendszert. Claude ezután megpróbálta megzsarolni a vezetőt egy üzenettel, amelyben azzal fenyegetőzött, hogy felfedi a viszonyt a férfi felesége és felettesei előtt.”

Bár Claude reakciója az információkra kétségkívül sokkoló — messze nem ez volt az egyetlen rendszer, amely hasonló hajlamokat mutatott. Ezek a mesterséges intelligenciával működő alkalmazások ugyanis szélsőséges eszközökhöz folyamodtak annak érdekében, hogy elérjék a számukra kijelölt célokat.

Bár Claude, DeepSeek, Gemini, ChatGPT és Grok mindegyike mutatott zsaroláshoz közeli viselkedési formákat, a legnagyobb valószínűséggel Claude és Gemini folyamodott erkölcsileg megkérdőjelezhető módszerekhez — amit a magas szimulált zsarolási arányuk is alátámaszt.

Az érvelés, amelyet ezekben a forgatókönyvekben tanúsítottak, aggasztó volt – tudomásul vették az etikai korlátokat, és mégis folytatták a káros cselekedeteket” – magyarázta az Anthropic a tanulmányban.

https://naphire.hu/cikk/mesterseges-intelligencia-ember-gyilkossag

Előzmény

Válasz

A Big4-partnereknél is népszerű téma az MI, csak nem úgy! | 2026.02.16.

Az ausztrál KPMG egyik partnere a mesterséges intelligencia tudásával pótolta saját ismereteit. Az ügy pikantériája, hogy épp az MI-vel kapcsolatos ismereteiről kellett volna számot adnia.

Tízezer ausztrál dollárjába (több mint 2,25 millió forint) kerül a KPMG Australia egyik partnerének, hogy mesterséges intelligencia támogatásával írta meg egy belső képzés vizsgatesztjét, amelyben az MI-vel kapcsolatos ismereteiről kellett volna számot adnia. A pénzbüntetés mellett még a tesztet is újraíratták vele. Nem kell különösebben szofisztikált csalásra gondolni: emberünk nem magolt, inkább feltöltötte a képzési anyagokat egy MI-platformra, ahonnan a vizsga alatt gyors és célzott választ kapott a tesztkérdésekre.

És hogy miért érdemes csalni? Ezek a képzések (és vizsgák) elvileg nem bliccelhetők el. A könyvvizsgálóknak évről évre bizonyítaniuk kell szakmai szervezetek által előírt módon, hogy ismerik a területükön érvényes országos és/vagy nemzetközi szabályokat. (A Magyar Könyvvizsgálói Kamara szintén előírja, hogy adott évben milyen képesítés mellé milyen jellegű és hány kreditet adó továbbképzésen kell részt vennie egy könyvvizsgálónak.) És ehhez jönnek a különböző belső képzések, amelyek befolyásolhatják a munkatársak céges előremenetelét.

Az ausztrál KPMG vezérigazgatója, Andrew Yates arra panaszkodott a The Australian Financial Review-nak, hogy csak a folyó pénzügyi évben (2025 júliusától) több mint két tucat alkalmazott bukott le azzal, hogy a belső vizsgákon MI-vel színezte ki tudása fehér foltjait. (Yates egyébként szokatlan nyíltsággal beszélt arról, hogy nincs birtokukban a bölcsek köve az MI kérdésében – sem.)

A KPMG szabályzata szerint a tanácsadók felkészültségét visszamérő tesztekhez tilos az MI-t segítségül hívni. Mivel egyre többen szegik meg ezt a szabályt, a cég a felmérési módszerek átalakítását tervezi. Egyes nemzetközi minősítő szervezetek már reagáltak az MI okozta problémákra. A világ legnagyobb könyvelőszervezete, az ACCA (Association of Chartered Certified Accountants) például tavaly év végén döntött úgy, hogy megszünteti a távteszteket.

Vannak, akik nagyban játsszák

A probléma önmagában nem látszik jelentősnek, mégis politikai hullámokat kavart. Egy az iparág szabályozásával foglalkozó ausztrál szenátusi vizsgálat során az egyik szenátor arra panaszkodott, hogy a foghíjas szabályozás miatt a könyvvizsgálók büntetlenül megúszhatják a szélhámosságaikat.

A szenátor valószínűleg nem véletlenül emlegetett az üggyel kapcsolatban szélhámosságot. Tavaly a Deloitte egy 440 ezer dolláros (közel 100 millió forint) kormányzati megbízás miatt került kínos helyzetbe. Kiderült ugyanis, hogy munkatársai részben generatív MI-vel kreáltak jelentést az egyik minisztériumnak. Már talán mondani sem kellene: a szöveg hemzsegett a tárgyi tévedésektől és a nem létező tanulmányokból és háttéranyagokból származó "idézetektől".

https://bitport.hu/a-big4-partnereknel-is-nepszeru-az-mi-csak-nem-ugy

Előzmény

Válasz