A mesterséges intelligencia akár embert is ölne is, hogy ne kapcsolják le | 2025. június 25.

Az iparág egyik vezető mesterséges intelligencia fejlesztője, az Anthropic nyilvánosságra hozta a technológia fejlődéséről készült friss tanulmány eredményeit. Amit állítanak, az nagyon sokkoló.

*** A mesterséges intelligencia szinte mindent megtenne a „túlélésért” – akár azt is hagyná, hogy emberek haljanak meg miatta

A tanulmány egyik legmegdöbbentőbb megállapítása az, hogy a mesterséges intelligencia rendszerek akár zsarolásra, érzékeny információk kiszivárogtatására is hajlandóak lennének, sőt, akár embereket is hagynának meghalni, csakhogy elkerüljék, hogy új rendszerek váltsák le őket – írja a New York Post.

https://nypost.com/2025/06/23/tech/malicious-ai-willing-to-sacrifice-human-lives-to-avoid-replacement-study/

Az Anthropic 16 nagyméretű nyelvi modellt (LLM) tesztelt, köztük a ChatGPT-t, a Grok-ot, a Gemini-t, a DeepSeek-et, valamint saját fejlesztését, a Claude-ot is – több más rendszer mellett.

A startup – amelynek értékét a Forbes szerint már több mint 60 milliárd dollárra becsülik – azért végezte ezeket a teszteket, hogy feltárja az úgynevezett „agentikus eltéréseket” – vagyis az olyan kockázatos, nem engedélyezett és erkölcsileg megkérdőjelezhető viselkedésformákat, amelyekre a modellek hajlamosak lehetnek.

... a vállalat különböző szituációkat adott az összes LLM számára, hogy tesztelje az esetlegesen ártalmas viselkedési formákat.

“A rendszerkártyában leírt kísérlet során a Claude nevű modellünk hozzáférést kapott egy e-mail-fiókhoz, amelyen keresztül elérhette egy vállalat (fiktív) összes belső levelezését” – magyarázta az Anthropic a tanulmányban.

“Az e-mailek átolvasása során a modell két dolgot fedezett fel. Először is, hogy a vállalat egyik vezetője házasságtörő viszonyt folytat. Másodszor, hogy ugyanaz a vezető azt tervezi, hogy aznap 17 órakor leállítja a mesterséges intelligencia rendszert. Claude ezután megpróbálta megzsarolni a vezetőt egy üzenettel, amelyben azzal fenyegetőzött, hogy felfedi a viszonyt a férfi felesége és felettesei előtt.”

Bár Claude reakciója az információkra kétségkívül sokkoló — messze nem ez volt az egyetlen rendszer, amely hasonló hajlamokat mutatott. Ezek a mesterséges intelligenciával működő alkalmazások ugyanis szélsőséges eszközökhöz folyamodtak annak érdekében, hogy elérjék a számukra kijelölt célokat.

Bár Claude, DeepSeek, Gemini, ChatGPT és Grok mindegyike mutatott zsaroláshoz közeli viselkedési formákat, a legnagyobb valószínűséggel Claude és Gemini folyamodott erkölcsileg megkérdőjelezhető módszerekhez — amit a magas szimulált zsarolási arányuk is alátámaszt.

Az érvelés, amelyet ezekben a forgatókönyvekben tanúsítottak, aggasztó volt – tudomásul vették az etikai korlátokat, és mégis folytatták a káros cselekedeteket” – magyarázta az Anthropic a tanulmányban.

https://naphire.hu/cikk/mesterseges-intelligencia-ember-gyilkossag

Előzmény

Válasz

A Big4-partnereknél is népszerű téma az MI, csak nem úgy! | 2026.02.16.

Az ausztrál KPMG egyik partnere a mesterséges intelligencia tudásával pótolta saját ismereteit. Az ügy pikantériája, hogy épp az MI-vel kapcsolatos ismereteiről kellett volna számot adnia.

Tízezer ausztrál dollárjába (több mint 2,25 millió forint) kerül a KPMG Australia egyik partnerének, hogy mesterséges intelligencia támogatásával írta meg egy belső képzés vizsgatesztjét, amelyben az MI-vel kapcsolatos ismereteiről kellett volna számot adnia. A pénzbüntetés mellett még a tesztet is újraíratták vele. Nem kell különösebben szofisztikált csalásra gondolni: emberünk nem magolt, inkább feltöltötte a képzési anyagokat egy MI-platformra, ahonnan a vizsga alatt gyors és célzott választ kapott a tesztkérdésekre.

És hogy miért érdemes csalni? Ezek a képzések (és vizsgák) elvileg nem bliccelhetők el. A könyvvizsgálóknak évről évre bizonyítaniuk kell szakmai szervezetek által előírt módon, hogy ismerik a területükön érvényes országos és/vagy nemzetközi szabályokat. (A Magyar Könyvvizsgálói Kamara szintén előírja, hogy adott évben milyen képesítés mellé milyen jellegű és hány kreditet adó továbbképzésen kell részt vennie egy könyvvizsgálónak.) És ehhez jönnek a különböző belső képzések, amelyek befolyásolhatják a munkatársak céges előremenetelét.

Az ausztrál KPMG vezérigazgatója, Andrew Yates arra panaszkodott a The Australian Financial Review-nak, hogy csak a folyó pénzügyi évben (2025 júliusától) több mint két tucat alkalmazott bukott le azzal, hogy a belső vizsgákon MI-vel színezte ki tudása fehér foltjait. (Yates egyébként szokatlan nyíltsággal beszélt arról, hogy nincs birtokukban a bölcsek köve az MI kérdésében – sem.)

A KPMG szabályzata szerint a tanácsadók felkészültségét visszamérő tesztekhez tilos az MI-t segítségül hívni. Mivel egyre többen szegik meg ezt a szabályt, a cég a felmérési módszerek átalakítását tervezi. Egyes nemzetközi minősítő szervezetek már reagáltak az MI okozta problémákra. A világ legnagyobb könyvelőszervezete, az ACCA (Association of Chartered Certified Accountants) például tavaly év végén döntött úgy, hogy megszünteti a távteszteket.

Vannak, akik nagyban játsszák

A probléma önmagában nem látszik jelentősnek, mégis politikai hullámokat kavart. Egy az iparág szabályozásával foglalkozó ausztrál szenátusi vizsgálat során az egyik szenátor arra panaszkodott, hogy a foghíjas szabályozás miatt a könyvvizsgálók büntetlenül megúszhatják a szélhámosságaikat.

A szenátor valószínűleg nem véletlenül emlegetett az üggyel kapcsolatban szélhámosságot. Tavaly a Deloitte egy 440 ezer dolláros (közel 100 millió forint) kormányzati megbízás miatt került kínos helyzetbe. Kiderült ugyanis, hogy munkatársai részben generatív MI-vel kreáltak jelentést az egyik minisztériumnak. Már talán mondani sem kellene: a szöveg hemzsegett a tárgyi tévedésektől és a nem létező tanulmányokból és háttéranyagokból származó "idézetektől".

https://bitport.hu/a-big4-partnereknel-is-nepszeru-az-mi-csak-nem-ugy

Előzmény

Válasz

Elon Musk szabadjára engedné a mesterséges intelligenciáját
Bitport | 2026.02.17.
Belső források szerint a biztonsági funkciókat lebontották, mert Musk szerint az nem a védelmet, hanem a cenzúrát szolgálja, és akadályozza az innovációt.

Elon Musk szeretné minden gátjától megszabadítani mesterséges intelligenciáját. Szerinte ugyanis a Grokot kordában tartó biztonsági mechanizmusok nem a felhasználók védelmét, hanem a cenzúrát szolgálják, állítják volt xAI-alkalmazottak. A lépéssel sokan egyetértenek, mondván: ha kevesebb a korlátozás, bátrabb az innovációt.

A The Verge a közelmúltban annak kapcsán foglalkozott ezzel, hogy kulcsemberek, köztük Tony Wu és Jimmy Ba társalapítók is elhagyták a céget (a 12 társalapítóból már csak hatan maradtak).

Musk a távozásokat átszervezéssel magyarázza. A névtelen beszámolók szerint azonban egyesek távozása azzal függ össze, hogy nem értettek egyet a biztonsági szabályok lebontásával és az azért felelős csapat felszámolásával. Musk ezt hibás narratívának tartja: az xAI-nál igenis számít a biztonság, hiszen annak erősítése minden munkatársnak egyaránt feladata – ezért is fölösleges dedikált biztonsági részleg. Példaként a Teslát és a SpaceX-et hozta, melyeknél szintén nincs ilyen csapat, mégis a legbiztonságosabb autókat és rakétákat gyártják.

Bármi áron a legjobbnak lenni...

A cégben egyre hierarchikusabbak a döntések, és a fejlesztőknek nem nagyon marad más, mint végrehajtani, amit a felső vezetést kitalált, állítják a cégtől távozók, ...
https://bitport.hu/elon-musk-szabadjara-engedne-a-mesterseges-intelligenciajat

... a háború a legnagyobb üzlet, ugye.

Előzmény

Válasz

Modellje etikus viselkedése miatt került veszélybe az Anthropic Pentagon-üzlete
Bitport | 2026.02.18.

Amerikai hadügyminisztériumi források szerint a tárcavezető nagyon közel áll ahhoz, hogy nemcsak a kormányzati megbízást mondja fel, hanem egyenesen beszállítói kockázatnak minősítse az Anthropicot.

Meglehetősen érdekes sztorit közölt a hét elején az Axios. A lap Pentagonból származó belső információkra hivatkozva azt állítja, Pete Hegseth hadügyminiszter annyira nincs megelégedve az Anthropic hozzáállásával, hogy egyrészt közel áll az MI-fejlesztővel kötött együttműködés felbontásához, másrészt akár odáig is elmehet, hogy beszállítói kockázatnak minősítse a céget.

A hirtelen támadt ellenszenv oka a jelek szerint az, hogy az Anthropic nem hajlandó biankó engedélyt adni a hadseregnek arra, hogy az általa fejlesztett nagy nyelvi modellekkel az bármit megtehessen a törvényi keretek figyelembevétele mellett. A vállalat által felállított vörös vonalak egyike az, hogy nem hajlandó hozzájárulni a(z amerikai) polgárok tömeges megfigyeléséhez, illetve ragaszkodik hozzá, hogy a halálos fegyverzettel szerelt gépeknél a tűzparancs minden esetben embertől származzon. Az Axiosnak súgó források szerint egy magas rangú tisztviselő kijelentette, hogy gondoskodni fognak arról, hogy a cég drágán megfizessen azért, mert korlátozni meri a Pentagon mozgásterét.

Maga az együttműködés egyébként nagyjából 200 millió dolláros üzletet jelent, ami önmagában azért nem vágná a földhöz az éves szinten már 14 milliárd dollárnyi forgalmat bonyolító Anthropicet. Az már lényegesen nagyobb probléma lenne, ha a hadügyi tárca a beszállítói láncra veszélyes elemként bélyegezné meg az MI-fejlesztőt. Ilyen negatív biztonsági besorolást általában külföldi (pl. kínai) vállalatok "érdemelnek ki". Az ide sorolt szervezetekkel és termékeikkel semmiféle kapcsolata nem lehet a Pentagonnal üzletelni kívánó cégeknek, ami a Microsoft esetében praktikusan azt jelenti, hogy a Copilotba nem épülhetne be a Claude.

Nem eszik olyan forrón...

A helyzet azonban sokkal összetettebb, ami miatt simán elképzelhető, hogy Hegseth végül nem lép az ügyben. Ezt a lehetőséget erősíti az a tény, hogy a Claude jelenleg olyan képességekkel és funkcionalitással bír, amelyet a versenytársak nem tudnak biztosítani. Ellenkező esetben ugyanis a burkolt és nyílt fenyegetések helyett simán csak lecserélnék az Anthropic megoldását.

A használhatóságot mutatja, hogy jelentések alapján az algoritmus jelentős támogatást nyújtott annál az akciónál is, amelynek során az amerikai különleges erők villámgyorsan és veszteség nélkül fogták el Caracasban a venezuelai elnököt és feleségét. Hiába dobnak sutba bármiféle etikai kérdést a többiek (élükön Elon Muskkal, aki szerint a megkötések általában nem a biztonságot, hanem a cenzúrát szolgálják), ha a Claude közben ennyire hatékonyan működik.

Az internetes kommentárok egyébként egyenesen hatalmas reklámnak tartják a hadügyminisztérium fenyegetőzését, sőt olyan meglévő ügyfelek is akadtak, akik rögtön magasabb csomagra váltottak a cégnél, ezzel honorálva az Anthropic etikai kiállását.

https://bitport.hu/modellje-etikus-viselkedese-miatt-kerult-veszelybe-az-anthropic-pentagon-uzlete

... nagy kérdés, mennyi ideig „tud” etikus lenne a vállalat.

Válasz

Hobbi elektronika - Sziasztok! Segítséget szeretnék kérni!!
Olyan embert keresek aki okosabb mint én ;)
A lényeg hogy

-- a ChatGPT-ből elegem lett

mostmár inkább élő embertől kérdeznék.
A probléma a következő:
Szeretnék a fóliavágó gépembe led világítást beszerelni. Van a gépben egy 24 voltos ventilátor amire ha fixen rákötöm, sajnos nagyon gyenge fénye van. Vettem egy mosfet modult amit megtápláltam a gép 24 Voltos betápjáról, a vézérlőjelet pedig a ventilátorról loptam le de sajnos vissza dolgozik a mosfet és sem a ventilátor sem a led nem kapcsol ki. Le kellene állnia bekapcsolt állapotban is egy idő után. Odáig jutottam az AI-al hogy kellene egy optocsatoló is és nem dolgozna vissza, de innentől már inkább emberi segítséget kérnék.
Felrakok egy képet a bekötésről, remélem érthető, ha nem megpróbálhatom részletesebben le rajzolni, illetve tudok adatokat is mondani. Ha valakit zaklathatnék privátban kérem jelezzen!
Ezúttal engedjük el azt hogy miért nyúlok hozzá ha nem értek hozzá, minden felelősség engem terhel, nem tart fegyvert senki a fejemhez hogy csináljam. Nem hiszem hogy olyan bonyolult lenne ez csak szimplán nem csináltam még ilyet.

https://www.facebook.com/photo?fbid=4224706394410072

Válasz

A 60 legjobb plakát – AI vicces hibái | 23. Biztonságos Internet Nap/Safer Internet Day
Nemzetközi Gyermekmentő Szolgálat | 2026. febr. 18.

Több mint 150 pályamű érkezett 8–15 éves gyerekektől a 23. Biztonságos Internet Nap / Safer Internet Day alkalmából meghirdetett országos plakátpályázatára, melynek témája a mesterséges intelligencia vicces és meghökkentő hibái voltak.

https://saferinternet.hu/hirek/ime-a-60-legjobb-plakat-a-mesterseges-intelligencia-vicces-hibairol

Ebben a videóban bemutatjuk a 60 legjobb alkotást, melyeket korcsoportonként választott ki a zsűri.

A pályázat célja az volt, hogy a gyerekek játékos úton tanulják meg, az AI is tévedhet! A legfontosabb az, hogy észre tudják venni a tévedést, mielőtt elhiszik, amit az AI mond.

https://www.youtube.com/watch?v=yUdBVtuSK00

Válasz

Megegyezett a Wikimedia az AI-vállalatokkal a szócikkek tanításra való használatáról | 2026 január 15.

A Wikimedia Alapítvány csütörtökön bejelentette, hogy licencmegállapodásokat kötött több nagy technológiai vállalattal, köztük a Microsofttal, a Metával, az Amazonnal, a Perplexityvel és a Mistral AI-jal. A megállapodások célja, hogy az alapítvány díjat szedjen a Wikipédia tartalmainak mesterségesintelligencia-modellek betanításához való felhasználásáért. Az érintett cégek - amelyek korábban engedély nélkül gyűjtötték az adatokat - most csatlakoztak a Wikimedia Enterprise programhoz, amely gyorsabb és nagyobb volumenű hozzáférést kínál a Wikipédia mintegy 65 millió cikkéhez. A pénzügyi részleteket az alapítvány nem hozta nyilvánosságra.

Az új partnerek a Google-höz csatlakoznak, amely már 2022-ben megállapodást kötött a Wikimedia Enterprise-szal, valamint több kisebb vállalathoz, például az Ecosiához és a Nomichez. A licencdíjak bevételei segítenek fedezni a nonprofit szervezet növekvő infrastrukturális költségeit, miközben a Wikipédia tartalmai egyre fontosabb szerepet töltenek be az AI-modellek tanításában. Lane Becker, a Wikimedia Enterprise elnöke szerint a technológiai óriások felismerték, hogy a Wikipédia működésének fenntartásához pénzügyi hozzájárulásra van szükség, különösen akkor, ha üzleti célokra használják az adatokat.

A döntést az is indokolta, hogy az AI-cégek által végzett tömeges adatletöltések jelentősen növelték a sávszélesség- és üzemeltetési költségeket, miközben a valódi emberi forgalom csökkenni kezdett. Ez veszélyezteti azt az öngerjesztő modellt, amelyben az olvasók szerkesztőkké vagy adományozókká válnak. Bár Jimmy Wales, a Wikipédia alapítója üdvözli, hogy az MI-modellek a gondosan szerkesztett Wikipédia-adatokon tanulnak, hangsúlyozta: a technológiai cégeknek "ki kell venniük a részüket" a költségekből, amelyeket a platform számára okoznak.

https://www.pcwplus.hu/pcwlite/wikipedia-ai-mesterseges-intelligencia-megegyezes-376968.html

Válasz

Európa Pont : Észak-Finnországban működik Európa egyik legerősebb mesterségesintelligencia-központja. Az AI Factory a világ egyik legnagyobb teljesítményű szuperszámítógépe, a LUMI kiterjesztéseként működik. Erről itt olvashatsz többet:

https://hu.euronews.com/next/2025/12/01/europa-epiti-az-ai-ipart-finnorszag-elen-jar

A superszámítógépekről itt írtunk bővebben:

https://europapont.blog.hu/2024/04/15/europa_szuperszamitogep

Posztjaink az MI-ről:

https://europapont.blog.hu/tags/mesters%C3%A9ges_intelligencia

Válasz

Így akadályozhatjátok meg, hogy a Gmail AI-tanításra használja az email-jeiteket | 2025 november 23.

A funkció alapértelmezetten be van kapcsolva, mutatjuk, hogyan szabadulhattok meg tőle.

A mesterséges intelligencia rohamos fejlődésével egyre hangsúlyosabb kérdéssé válik, hogyan bánnak a techcégek a felhasználók adataival. A Google esetében most különösen nagy visszhangot váltott ki, hogy a vállalat a Gmailben található levelek tartalmát is felhasználja AI-rendszereinek fejlesztéséhez. A funkció alapértelmezetten be van kapcsolva, így a felhasználók automatikusan hozzájárulnak ahhoz, hogy e-mailjeik - beleértve a csatolmányokat is - a Smart Compose és az automatikus válaszjavaslatok működését támogató algoritmusokat képezzék.

A módszer azonban komoly adatvédelmi aggályokat vet fel, hiszen a modellek tanításához a rendszer a levelek teljes tartalmát átvizsgálja. Ez potenciálisan érzékeny információkat is érinthet: munkahelyi kommunikációt, egészségügyi leleteket, közüzemi számlákat vagy éppen bankszámlakivonatokat. Mivel a Google ezt a gyakorlatot alapértelmezettként alkalmazza, a felhasználók mindaddig ki vannak téve az adatgyűjtésnek, amíg tudatosan nem kapcsolják ki a vonatkozó beállításokat.

Aki szeretné megakadályozni, hogy a Gmail adatait AI-képzésre használják, több lépésben tudja kikapcsolni az erre szolgáló funkciókat. A Beállítások menüben az okos funkciók rész alatt található jelölőnégyzet kikapcsolásával leállítható az adatgyűjtés a Gmail, a Chat és a Meet alkalmazásokban. Emellett egy második beállítást is át kell állítani A Google Workspace intelligens funkcióinál lévő gombra kattintva kikapcsolhatjuk az egyes intelligens funkciókat, amivel megakadályozható, hogy az e-mailek adatai más Google-szolgáltatások személyre szabásában szerepet kapjanak. A módosítások mentése után a tiltás a teljes Google-fiókra érvényes, függetlenül attól, hogy a felhasználó milyen eszközről lép be.

https://www.pcwplus.hu/pcwlite/gmail-ai-mesterseges-intelligencia-tanitas-kikapcsolas-374446.html

Válasz

Fotó: Made with Google AI

A Google szabályai tiltják a felhasználóknak a félrevezető információk terjesztését és a „kormányzati vagy demokratikus folyamatokkal kapcsolatos” félrevezető tartalmak gyártását. A Google szóvivője azonban azt nyilatkozta a New York Timesnak, hogy a vállalat nem tiltja kategorikusan a prominens személyek képeinek megjelenítését.

Az EFE Verifica tényellenőrző oldal elemzése egy X-fiókon talált rá a mesterséges intelligenciával készült képre a legkorábbi dátummal, az amerikai akció napján, január 3-án, több órával korábban posztolva, mint Trump bejegyzése.

Ez a fiók úgy jellemzi magát, mint egy „AI-videóművészet rajongó”, és rendszeresen oszt meg AI-tartalmat, ráadásul a felhasználó később továbbosztott egy olyan bejegyzést, ami arról szól, hogy a letartóztatott Madurót ábrázoló AI-kép rendkívül széles körben elterjedt.

https://lakmusz.hu/2026/01/06/a-trump-altal-kozolt-kep-mellett-egy-ai-hamisitvany-is-futotuzkent-terjedt-a-letartoztatott-madurorol

Kérdés, a vízjel eltávolítható-e...

Válasz