Tomi és az éjáj (a Tomi és az angol folytatása)

https://www.facebook.com/watch/?v=2022199925392405

Előzmény

Válasz

Kipróbáltuk az AI-t, ami átveszi az irányítást a számítógéped felett | AI Híradó
Qubit.hu | 2026. ápr. 4.

A Claude, a Perplexity és a Meta is elkezdett olyan AI-ágensekkel kísérletezni, amik már nemcsak válaszolnak, mint a chatbotok, hanem fájlokat másolnak, programokat használnak, böngésznek az interneten – és elvégzik a piszkos munkát.

Témáink:
0:00 - Intro
01:29 - Az OpenAI kivégezte a Sorát, de jön a Spud
05:21 - Zuckerberg ad tanácsokat Trumpnak AI-ügyekben
07:51 - Az emberi agy AI-modelljét adta ki a Meta
09:28 - Adatközpont-parák az EU-ban és az USA-ban
18:10 - Az első humanoid robot a fehér házban
22:24 - Minden AI-modell elvérzik az ARC-AGI 3-on
25:10 - Mi történik, ha a Claude átveszi az irányítást a számítógéped felett?

https://youtu.be/mB33nEXuNOc?si=c7u5-nRvU_Q6xSLd&t=79

Válasz

Komoly galibát okozott a Meta önállóan cselekvő MI-ügynöke
Bitport | 2026.03.20.

A félresikerült automata kommunikáció miatt olyan adatok váltak elérhetővé a cég egyes munkatársainak, amelyekhez egyébként semmi közük nem volt.

A tévedések nem is annyira víg játéka onnan indult, hogy a Meta egyik munkatársa a cég saját fejlesztésű modelljével kezdte kielemezni valamely kollégája belső fórumra írt bejegyzését. A házi készítésű MI-ügynök azonban a hatáskörtúllépés hibájába esett, és anélkül generált választ az eredeti poszt írójának, hogy arra előzetesen felhatalmazták volna.

Innen a történet gyorsan eszkalálódott, mivel – minő meglepetés! – a generatív algoritmus olyan megoldást javasolt a felmerült problémára, ami miatt egy sor olyan Meta-rendszer vált elérhetővé házon belül egyes mérnököknek, amelyekhez normál esetben semmi közük nem lenne.

A cég által indított vizsgálat szerint a biztonsági hiba létrejöttéhez az MI-ügynök bénázása és önállósodása mellett további, meg nem nevezett elemek is hozzájárultak. Annyi bizonyos, hogy a hibás hozzáférés mindössze két óráig élt a rendszerben, és az eddigi információk szerint ezen rövid idő alatt szerencsére nem történt semmiféle jogszerűtlen adatkezelés.

Ahol digitális fát vágnak, ott hullik a bináris forgács

Nem ez volt az első, és bizonyosan nem is az utolsó olyan incidens, amelynek gyökere valamely alkalmazott MI-megoldás tökéletlenségére vezethető vissza. Alig néhány héttel ezelőtt írt a Financial Times például arról, hogy az AWS-nél múlt év végén történt, 13 óráig tartó kimaradás tulajdonképpen a cég saját kódoló modelljének volt köszönhető (igaz, az immár 20 éves felhőszolgáltató mindezt csak véletlen egybeesésnek minősítette).

Az biztos, hogy bármit is alkot a generatív modell, nem árt a körmére nézni. Ez annyira igaz, hogy a Gartner szakértője egy biztonsági konferencián tartott, a Copilottal kapcsolatos veszélyekről szóló előadásában csak félig viccelve mondta, hogy a szervezeteknél jobban tennék, ha péntek délután megtiltanák az MI használatát, mivel az emberek addigra elfáradnak és hajlamosak felülvizsgálat nélkül elfogadni az algoritmus megoldását.

Más kérdés, hogy a Meta ügynöke a fenti esetben nem bízott semmit a véletlenre: mivel fű alatt cselekedett, esélyt sem adott az emberi korrekcióra.

https://bitport.hu/komoly-galibat-okozott-a-meta-onalloan-cselekvo-mi-ugynoke

Előzmény

Válasz

Tavaly télen a Groq társalapítója és vezérigazgatója, Jonathan Ross egy megbeszélésre érkezett az Nvidia CEO-jához, Jensen Huanghoz – egy egyszerű, de radikális ötlettel: az AI-infrastruktúrát nem szabad úgy építeni, mintha minden feladat ugyanazt a hardvert igényelné.

A magyarázata egy logisztikai hasonlat volt. A modellbetanítás (training) olyan, mint a tömeges áruszállítás, míg az AI-válaszadás, az úgynevezett inferencia (inference – a már betanított modellek futtatása) inkább az „utolsó kilométeres” kiszállítás. A GPU-k (grafikus processzorok, graphics processing unit) mindkettőt el tudják végezni, de nem feltétlenül hatékonyan.

-- „Ha egy teljes ország logisztikai hálózatát építed, és azt mondom, hogy választhatsz csak kamionokat vagy csak furgonokat – mit választasz?” – kérdezte Ross. „A helyes válasz: mindkettőt.”

A Groq saját fejlesztésű chipjei, az úgynevezett LPU-k (language processing unit – nyelvi feldolgozó egységek) kifejezetten az inferenciára optimalizáltak: gyorsabbak és hatékonyabbak ebben a feladatban, mint a GPU-k. Ross nemcsak egy filozófiát vázolt fel: körülbelül 100 ezer Nvidia Blackwell chip vásárlására kért engedélyt, ami milliárdos nagyságrendű megrendelést jelentett volna. Huang részletesen kifaggatta a technológiáról, majd a találkozó véget ért.

Ross azt mondja, három nappal később már ezzel hívta vissza Huangot:

-- „Valószínűleg nagyon gyorsan kellene lépnünk.”

Egy „papír nélküli felvásárlás”

Három héttel később az Nvidia bejelentett egy szenteste kötött, 20 milliárd dolláros (kb. 7200 milliárd forintos) megállapodást: licencelik a Groq technológiáját, és átveszik a dolgozók többségét. Szilícium-völgyi értelemben ez gyakorlatilag egy „papír nélküli felvásárlás” volt: megszerzik a csapatot, biztosítják a technológiát, és élvezik a stratégiai előnyöket anélkül, hogy a cég minden terhét és kockázatát – vagy akár versenyjogi problémákat – is át kellene venniük.

https://forbes.hu/uzlet/groq-nvidia-chip-uzlet-lpu-huang/

Válasz

Fölösleges emberek kora | 2026. március 10.

A technológiai forradalmak korábban a kétkezi fizikai munkát váltották ki. A rohamosan fejlődő mesterséges intelligencia korában viszont a szellemi munkát is átveheti az embertől a technika. Az amerikai szociológus attól tart, hogy jobb híján az ember maga válik géppé.

„Régen a kétkezi munkások voltak az automatizálás áldozatai, ma viszont a szakképzettek vannak a legnagyobb bajban” – olvassuk Joel Kotkin demográfus cikkét a kanadai National Postban.

A mesterséges intelligencia fejlődése miatt egyre szélesebb körben váltható ki az emberi munka. Az MIT kutatása szerint az amerikai munkahelyek akár tíz százaléka már a közeljövőben fölöslegessé válhat, egy friss szimuláció pedig tömeges munkanélküliséget jósol. Sokat mondó jel, hogy már a programozók is nehezebben találnak munkát, és hogy a globális techóriások tömeges létszámleépítésbe kezdtek. Az amerikai fiatalok közel fele tart tőle, hogy a mesterséges intelligencia miatt elveszítheti az állását.

A korábbi technológiai forradalmak elsősorban a kétkezi, egyszerű, mechanikus munkafolyamatok gépesítését tették lehetővé – írja Kotkin. Most azonban más a helyzet. A mesterséges intelligencia elsősorban a szellemi munkát válthatja ki, éspedig a tekintélyes szaktudást és jártasságot kívánó diplomás állásokat is. Akár a tanárokat és a pszichológusokat is fölöslegessé tehetik a fejlett chatbotok. Lassan már hús-vér színészekre, zenészekre sem lesz szükség és hovatovább a művészeti kurátorok is puszta státuszszimbólummá válnak.

„A programozókat kiválthatja a mesterséges intelligencia, viszont az adatközpontok felépítéséhez emberek kellenek, mint ahogyan emberek szükségesek az adatközpontok energiaellátásának biztosításához is” – folytatja Kotkin, hozzátéve, hogy a bányászok és a vízvezeték-szerelők is biztonságban érezhetik magukat.

Mindebből pedig az következik, hogy a mesterséges intelligencia nem a kemény munka végét és vele a kreatívabb élet lehetőségét hozza közelebb, hanem éppen ellenkezőleg, a világ dehumanizálásához vezethet. Egy olyan korhoz, amelyben az emberek egyre inkább csak a gépekkel nem kiváltható fizikai munkát végzik. „A megállíthatatlanul terjedő technológia nemhogy nem segíti, de fölöslegessé teszi az embereket."

https://www.metazin.hu/index.php/item/4825-folosleges-emberek-kora

Válasz

Nem vált be a titkárnő helyett az AI-asszisztens – Tapasztalatairól vallott a magyar tanácsadó

Gyakorlati tapasztalatait osztotta meg a magyar építész azzal kapcsolatban, menyire működik az AI-asszisztens.

https://komkel.hu/2026/02/22/gephaz-hirek-2026/

Az építész tanácsadó kisvállalkozóként dolgozik és naponta több száz levelet kap, melyekben kérdéseket tesznek fel neki, házszemlére hívják - és persze számos spam is terheli a postafiókját. A munkája adminisztratív részében egy irodai asszisztens segítette, aki azonban családi okok miatt néhány hónapig nem tudta vállalni addigi feladatait. A tanácsadó ekkor úgy döntött, nem vesz fel más titkárnőt, megpróbálja AI-asszisztens segítségével megoldani a helyzetet.

A tapasztalatairól röviden az alábbiakat írta Facebook posztjában:

"Az AI-asszisztens NAGYON nem vált be, elképesztő káoszt okozott az elmúlt 3 hónapban a levelezésben."

Az első hetekben úgy tűnt, beválik az AI-asszisztes, mivel rengeteg spamet szűrt ki, melyekkel a tanácsadónak így nem kellett foglalkoznia. Aztán néhány hét után kiderült: a spamnek vélt levelek között jócskán akadt olyan, melynek nem a levélszemét mappában kellett volna landolnia. Ráadásul nem csak a bejövő leveket szűrte meg rosszul, de a kimenők közül is sokat megfogott.

"Később kiderült, hogy mivel a válaszok egy része automatizált lett, az egyik program miatt spamek közé sorolódtak a kimenő leveleink. (...) Beengedtem a rendszerbe egy olyan takarítónőt, aki önfejűen, kérdezés nélkül önállósította magát, és mindent porcicának nézett."

Mindezzel természetesen sok plusz munkát és bosszúságot okozott a tanácsadónak. A történet vége szerencsére happy end lett: a korábbi asszisztensnő családi problémái megoldódtak, és visszatért addigi munkájához, hogy rendet tegyen a felhalmozódott levelek között.

https://femina.hu/terasz/ai-asszisztens-titkarno-helyett/

Válasz

A mesterséges intelligencia akár embert is ölne is, hogy ne kapcsolják le | 2025. június 25.

Az iparág egyik vezető mesterséges intelligencia fejlesztője, az Anthropic nyilvánosságra hozta a technológia fejlődéséről készült friss tanulmány eredményeit. Amit állítanak, az nagyon sokkoló.

*** A mesterséges intelligencia szinte mindent megtenne a „túlélésért” – akár azt is hagyná, hogy emberek haljanak meg miatta

A tanulmány egyik legmegdöbbentőbb megállapítása az, hogy a mesterséges intelligencia rendszerek akár zsarolásra, érzékeny információk kiszivárogtatására is hajlandóak lennének, sőt, akár embereket is hagynának meghalni, csakhogy elkerüljék, hogy új rendszerek váltsák le őket – írja a New York Post.

https://nypost.com/2025/06/23/tech/malicious-ai-willing-to-sacrifice-human-lives-to-avoid-replacement-study/

Az Anthropic 16 nagyméretű nyelvi modellt (LLM) tesztelt, köztük a ChatGPT-t, a Grok-ot, a Gemini-t, a DeepSeek-et, valamint saját fejlesztését, a Claude-ot is – több más rendszer mellett.

A startup – amelynek értékét a Forbes szerint már több mint 60 milliárd dollárra becsülik – azért végezte ezeket a teszteket, hogy feltárja az úgynevezett „agentikus eltéréseket” – vagyis az olyan kockázatos, nem engedélyezett és erkölcsileg megkérdőjelezhető viselkedésformákat, amelyekre a modellek hajlamosak lehetnek.

... a vállalat különböző szituációkat adott az összes LLM számára, hogy tesztelje az esetlegesen ártalmas viselkedési formákat.

“A rendszerkártyában leírt kísérlet során a Claude nevű modellünk hozzáférést kapott egy e-mail-fiókhoz, amelyen keresztül elérhette egy vállalat (fiktív) összes belső levelezését” – magyarázta az Anthropic a tanulmányban.

“Az e-mailek átolvasása során a modell két dolgot fedezett fel. Először is, hogy a vállalat egyik vezetője házasságtörő viszonyt folytat. Másodszor, hogy ugyanaz a vezető azt tervezi, hogy aznap 17 órakor leállítja a mesterséges intelligencia rendszert. Claude ezután megpróbálta megzsarolni a vezetőt egy üzenettel, amelyben azzal fenyegetőzött, hogy felfedi a viszonyt a férfi felesége és felettesei előtt.”

Bár Claude reakciója az információkra kétségkívül sokkoló — messze nem ez volt az egyetlen rendszer, amely hasonló hajlamokat mutatott. Ezek a mesterséges intelligenciával működő alkalmazások ugyanis szélsőséges eszközökhöz folyamodtak annak érdekében, hogy elérjék a számukra kijelölt célokat.

Bár Claude, DeepSeek, Gemini, ChatGPT és Grok mindegyike mutatott zsaroláshoz közeli viselkedési formákat, a legnagyobb valószínűséggel Claude és Gemini folyamodott erkölcsileg megkérdőjelezhető módszerekhez — amit a magas szimulált zsarolási arányuk is alátámaszt.

Az érvelés, amelyet ezekben a forgatókönyvekben tanúsítottak, aggasztó volt – tudomásul vették az etikai korlátokat, és mégis folytatták a káros cselekedeteket” – magyarázta az Anthropic a tanulmányban.

https://naphire.hu/cikk/mesterseges-intelligencia-ember-gyilkossag

Előzmény

Válasz

A Big4-partnereknél is népszerű téma az MI, csak nem úgy! | 2026.02.16.

Az ausztrál KPMG egyik partnere a mesterséges intelligencia tudásával pótolta saját ismereteit. Az ügy pikantériája, hogy épp az MI-vel kapcsolatos ismereteiről kellett volna számot adnia.

Tízezer ausztrál dollárjába (több mint 2,25 millió forint) kerül a KPMG Australia egyik partnerének, hogy mesterséges intelligencia támogatásával írta meg egy belső képzés vizsgatesztjét, amelyben az MI-vel kapcsolatos ismereteiről kellett volna számot adnia. A pénzbüntetés mellett még a tesztet is újraíratták vele. Nem kell különösebben szofisztikált csalásra gondolni: emberünk nem magolt, inkább feltöltötte a képzési anyagokat egy MI-platformra, ahonnan a vizsga alatt gyors és célzott választ kapott a tesztkérdésekre.

És hogy miért érdemes csalni? Ezek a képzések (és vizsgák) elvileg nem bliccelhetők el. A könyvvizsgálóknak évről évre bizonyítaniuk kell szakmai szervezetek által előírt módon, hogy ismerik a területükön érvényes országos és/vagy nemzetközi szabályokat. (A Magyar Könyvvizsgálói Kamara szintén előírja, hogy adott évben milyen képesítés mellé milyen jellegű és hány kreditet adó továbbképzésen kell részt vennie egy könyvvizsgálónak.) És ehhez jönnek a különböző belső képzések, amelyek befolyásolhatják a munkatársak céges előremenetelét.

Az ausztrál KPMG vezérigazgatója, Andrew Yates arra panaszkodott a The Australian Financial Review-nak, hogy csak a folyó pénzügyi évben (2025 júliusától) több mint két tucat alkalmazott bukott le azzal, hogy a belső vizsgákon MI-vel színezte ki tudása fehér foltjait. (Yates egyébként szokatlan nyíltsággal beszélt arról, hogy nincs birtokukban a bölcsek köve az MI kérdésében – sem.)

A KPMG szabályzata szerint a tanácsadók felkészültségét visszamérő tesztekhez tilos az MI-t segítségül hívni. Mivel egyre többen szegik meg ezt a szabályt, a cég a felmérési módszerek átalakítását tervezi. Egyes nemzetközi minősítő szervezetek már reagáltak az MI okozta problémákra. A világ legnagyobb könyvelőszervezete, az ACCA (Association of Chartered Certified Accountants) például tavaly év végén döntött úgy, hogy megszünteti a távteszteket.

Vannak, akik nagyban játsszák

A probléma önmagában nem látszik jelentősnek, mégis politikai hullámokat kavart. Egy az iparág szabályozásával foglalkozó ausztrál szenátusi vizsgálat során az egyik szenátor arra panaszkodott, hogy a foghíjas szabályozás miatt a könyvvizsgálók büntetlenül megúszhatják a szélhámosságaikat.

A szenátor valószínűleg nem véletlenül emlegetett az üggyel kapcsolatban szélhámosságot. Tavaly a Deloitte egy 440 ezer dolláros (közel 100 millió forint) kormányzati megbízás miatt került kínos helyzetbe. Kiderült ugyanis, hogy munkatársai részben generatív MI-vel kreáltak jelentést az egyik minisztériumnak. Már talán mondani sem kellene: a szöveg hemzsegett a tárgyi tévedésektől és a nem létező tanulmányokból és háttéranyagokból származó "idézetektől".

https://bitport.hu/a-big4-partnereknel-is-nepszeru-az-mi-csak-nem-ugy

Előzmény

Válasz

Elon Musk szabadjára engedné a mesterséges intelligenciáját
Bitport | 2026.02.17.
Belső források szerint a biztonsági funkciókat lebontották, mert Musk szerint az nem a védelmet, hanem a cenzúrát szolgálja, és akadályozza az innovációt.

Elon Musk szeretné minden gátjától megszabadítani mesterséges intelligenciáját. Szerinte ugyanis a Grokot kordában tartó biztonsági mechanizmusok nem a felhasználók védelmét, hanem a cenzúrát szolgálják, állítják volt xAI-alkalmazottak. A lépéssel sokan egyetértenek, mondván: ha kevesebb a korlátozás, bátrabb az innovációt.

A The Verge a közelmúltban annak kapcsán foglalkozott ezzel, hogy kulcsemberek, köztük Tony Wu és Jimmy Ba társalapítók is elhagyták a céget (a 12 társalapítóból már csak hatan maradtak).

Musk a távozásokat átszervezéssel magyarázza. A névtelen beszámolók szerint azonban egyesek távozása azzal függ össze, hogy nem értettek egyet a biztonsági szabályok lebontásával és az azért felelős csapat felszámolásával. Musk ezt hibás narratívának tartja: az xAI-nál igenis számít a biztonság, hiszen annak erősítése minden munkatársnak egyaránt feladata – ezért is fölösleges dedikált biztonsági részleg. Példaként a Teslát és a SpaceX-et hozta, melyeknél szintén nincs ilyen csapat, mégis a legbiztonságosabb autókat és rakétákat gyártják.

Bármi áron a legjobbnak lenni...

A cégben egyre hierarchikusabbak a döntések, és a fejlesztőknek nem nagyon marad más, mint végrehajtani, amit a felső vezetést kitalált, állítják a cégtől távozók, ...
https://bitport.hu/elon-musk-szabadjara-engedne-a-mesterseges-intelligenciajat

... a háború a legnagyobb üzlet, ugye.

Előzmény

Válasz

Modellje etikus viselkedése miatt került veszélybe az Anthropic Pentagon-üzlete
Bitport | 2026.02.18.

Amerikai hadügyminisztériumi források szerint a tárcavezető nagyon közel áll ahhoz, hogy nemcsak a kormányzati megbízást mondja fel, hanem egyenesen beszállítói kockázatnak minősítse az Anthropicot.

Meglehetősen érdekes sztorit közölt a hét elején az Axios. A lap Pentagonból származó belső információkra hivatkozva azt állítja, Pete Hegseth hadügyminiszter annyira nincs megelégedve az Anthropic hozzáállásával, hogy egyrészt közel áll az MI-fejlesztővel kötött együttműködés felbontásához, másrészt akár odáig is elmehet, hogy beszállítói kockázatnak minősítse a céget.

A hirtelen támadt ellenszenv oka a jelek szerint az, hogy az Anthropic nem hajlandó biankó engedélyt adni a hadseregnek arra, hogy az általa fejlesztett nagy nyelvi modellekkel az bármit megtehessen a törvényi keretek figyelembevétele mellett. A vállalat által felállított vörös vonalak egyike az, hogy nem hajlandó hozzájárulni a(z amerikai) polgárok tömeges megfigyeléséhez, illetve ragaszkodik hozzá, hogy a halálos fegyverzettel szerelt gépeknél a tűzparancs minden esetben embertől származzon. Az Axiosnak súgó források szerint egy magas rangú tisztviselő kijelentette, hogy gondoskodni fognak arról, hogy a cég drágán megfizessen azért, mert korlátozni meri a Pentagon mozgásterét.

Maga az együttműködés egyébként nagyjából 200 millió dolláros üzletet jelent, ami önmagában azért nem vágná a földhöz az éves szinten már 14 milliárd dollárnyi forgalmat bonyolító Anthropicet. Az már lényegesen nagyobb probléma lenne, ha a hadügyi tárca a beszállítói láncra veszélyes elemként bélyegezné meg az MI-fejlesztőt. Ilyen negatív biztonsági besorolást általában külföldi (pl. kínai) vállalatok "érdemelnek ki". Az ide sorolt szervezetekkel és termékeikkel semmiféle kapcsolata nem lehet a Pentagonnal üzletelni kívánó cégeknek, ami a Microsoft esetében praktikusan azt jelenti, hogy a Copilotba nem épülhetne be a Claude.

Nem eszik olyan forrón...

A helyzet azonban sokkal összetettebb, ami miatt simán elképzelhető, hogy Hegseth végül nem lép az ügyben. Ezt a lehetőséget erősíti az a tény, hogy a Claude jelenleg olyan képességekkel és funkcionalitással bír, amelyet a versenytársak nem tudnak biztosítani. Ellenkező esetben ugyanis a burkolt és nyílt fenyegetések helyett simán csak lecserélnék az Anthropic megoldását.

A használhatóságot mutatja, hogy jelentések alapján az algoritmus jelentős támogatást nyújtott annál az akciónál is, amelynek során az amerikai különleges erők villámgyorsan és veszteség nélkül fogták el Caracasban a venezuelai elnököt és feleségét. Hiába dobnak sutba bármiféle etikai kérdést a többiek (élükön Elon Muskkal, aki szerint a megkötések általában nem a biztonságot, hanem a cenzúrát szolgálják), ha a Claude közben ennyire hatékonyan működik.

Az internetes kommentárok egyébként egyenesen hatalmas reklámnak tartják a hadügyminisztérium fenyegetőzését, sőt olyan meglévő ügyfelek is akadtak, akik rögtön magasabb csomagra váltottak a cégnél, ezzel honorálva az Anthropic etikai kiállását.

https://bitport.hu/modellje-etikus-viselkedese-miatt-kerult-veszelybe-az-anthropic-pentagon-uzlete

... nagy kérdés, mennyi ideig „tud” etikus lenne a vállalat.

Válasz