Rontja a memóriát, és hajlamossá tesz a halogatásra is. Mi az?

Valószínűleg több ilyen dolog létezik, de egy friss kutatás szerint a ChatGPT és a generatív mesterséges intelligencia biztosan közéjük tartozik, ha rosszul alkalmazzák az oktatásban.

A PsyPost szerint lehetséges persze, hogy a ChatGPT gyakori alkalmazása és negatív hatásai között kétirányú kapcsolat áll fenn: könnyen elképzelhető, hogy valaki eleve azért veti be a chatbotokat, mert már rossz jegyei vannak. A kutatás során feldolgozott adatok egyébként önbevallásból származnak, de ez nem jelenti, hogy nincs szükség óvatosságra a ChatGPT kezelésével az oktatásban. Különösen, hogy a tanulmányban nem állapítanak meg érdemi összefüggést a tudományos munka minősége iránti elkötelezettség és a ChatGPT használata között, vagyis az ilyen aggályok nem feltétlenül befolyásolják a felhasználók döntését.

Februárban mi is beszámoltunk a PsyPost egy másik, hasonló tárgyú cikkéről, amelyben a mexikói Monterrey Egyetem neuropszichológiai professzora figyelmeztetett az egyre fejlettebb MI-alkalmazások kockázataira az agy magasabb rendű végrehajtó funkcióinak fejlődésében. Ennek alapján a ChatGPT-hez hasonló technológiák először biztosítanak az embereknek olyan eszközöket, amelyek nem csak támogatják a döntéshozatali folyamatokat, hanem mindent elvégeznek az ötleteléstől a megoldásokat kidolgozásáig, a "kognitív tehermentesítésnek" ez a szintje pedig elsorvaszthatja döntési képességeinket.
https://bitport.hu/rontja-a-memoriat-es-hajlamossa-tesz-a-halogatasra-is-mi-az

Válasz

Valós idejű MI megfigyelést tesztelnek a londoni metróban

Az egyik állomáson végzett teszt során a Transport for London egy számítógépes látórendszerrel próbálta felismerni a bűncselekményeket és a fegyvereket, a sínekre esett embereket és a bliccelőket.

A város metró- és buszhálózatát üzemeltető Transport for London (TfL) 2022 októberétől 2023 szeptemberének végéig 11 algoritmust tesztelt a város északnyugati részén található Willesden Green metróállomáson áthaladó emberek megfigyelésére. Ez a kísérlet volt az első alkalom, hogy a közlekedési szerv a mesterséges intelligenciát és az élő videofelvételeket kombinálta, hogy riasztásokat generáljon, amelyeket az első vonalban dolgozó személyzetnek küldött. A teszt során több mint 44 000 figyelmeztetést adtak ki, ebből 19 000-et valós időben juttattak el az állomás személyzetéhez.

Az információszabadsági törvényre (Freedom of Information Act) hivatkozva kikért dokumentumok részletesen bemutatják, hogy a TfL hogyan használta a számítógépes látási algoritmusok széles skáláját az állomásokon tartozkodó emberek viselkedésének nyomon követésére. A kísérlet minden részletéről beszámoltak, és ez azt követően történt, hogy a TfL decemberben közölte, hogy a brit főváros több állomására is kiterjeszti a mesterséges intelligencia használatát a bliccelés felderítésére. A Willesden Green állomáson - amelynek a Covid-19 járvány előtt napi 25 000 látogatója volt - végzett kísérlet során a mesterséges intelligenciát a potenciális biztonsági incidensek észlelésére állították be, hogy a személyzet segíteni tudjon a rászorulóknak, de a bűnözői és antiszociális viselkedést is célba vette. A dokumentumok részletezik, hogyan használták az MI-modelleket a kerekesszékek, babakocsik, az illetéktelen területekre belépő emberek, illetve a peronok széléhez közeledő, magukat veszélybe sodró emberek észlelésére.

A részben szerkesztett dokumentumokból az is kiderül, hogy a mesterséges intelligencia milyen hibákat vétett a kísérlet során, például a szüleiket a kapukon keresztül követő gyerekeket potenciális bliccelőként jelölte meg, vagy nem tudta megkülönböztetni az összecsukható kerékpárt a nem összecsukható kerékpártól. Rendőrök is segítettek a kísérletben, akik a CCTV-kamerák látóterében tartottak egy macsétát és egy pisztolyt, miközben a pályaudvar zárva volt, hogy a rendszer megtanulja felismerni a fegyvereket.

A rendszer a következő kategóriákat próbálta azonosítani: a tömeg mozgása, illetéktelen belépés, biztosítás, mobilitási segítségnyújtás, bűncselekmények és antiszociális viselkedés, síneken tartózkodó személy, sérült vagy rosszul lévő személyek, veszélyek (például szemét vagy nedves padló), őrizetlenül hagyott tárgyak, beszorult utas, valamint a menetdíj megkerülése. Mindegyiknek több alkategóriája van. Daniel Leufer, az Access Now digitális jogokkal foglalkozó csoport vezető politikai elemzője azt mondja, hogy amikor egy rendszer ilyen jellegű megfigyelést végez, az első dolog, amit keres, hogy megpróbálja-e kiszűrni az agressziót vagy a bűncselekményt. "A kamerák ezt a testbeszéd és a viselkedés azonosításával teszik" - mondja. "Milyen adathalmazzal kell betanítani valamit erre?"

A kísérletről szóló TfL-jelentés szerint "az agresszív cselekményeket is figyelni akarták", de úgy találták, hogy "nem tudták sikeresen észlelni". A jelentés hozzáteszi, hogy nem állt rendelkezésre elegendő képzési adat - az agresszív cselekmények keresésének egyéb okai nem szerepelnek a jelentésben. Ehelyett a rendszer riasztást adott ki, ha valaki felemelte a karját, amit a dokumentumokban "agresszív cselekményekhez kapcsolódó gyakori viselkedésként" írnak le.

"A képzési adatok mindig elégtelenek, mert ezek a dolgok vitathatatlanul túl összetettek és árnyaltak ahhoz, hogy az adatkészletekben megfelelően meg lehessen őket ragadni" - mondja Leufer, megjegyezve, hogy pozitív, hogy a TfL elismerte, hogy nem rendelkezett elegendő képzési adattal.
https://sg.hu/cikkek/it-tech/156572/valos-ideju-mi-megfigyelest-tesztelnek-a-londoni-metroban

Válasz

A Google átnevezte a Bard chatbotját, így azt innentől kezdve a mögötte álló technológia neve alapján ismerjük majd: Gemini. A fogyasztók fizethetnek is a még jobb működésért, de az előfizetéses rendszer önmagában is egy verseny a Microsoft, a Google és többiek között.
https://itcafe.hu/hir/itt_a_fizetos_google_gemini_chatbot.html

Elérhetővé válik a nagyközönség számára a tavaly bejelentett Gemini nagy nyelvi modell (LLM) Ultra nevű változata, amit a cég előfizetéses formában kínál majd a felhasználóknak...
https://www.hwsw.hu/hirek/67240/google-gemini-bard-brand-asszisztens-ultra-modell-elofizetes.html

A szolgáltatás 150 országban (köztük Magyarországon) érhető el, de egyelőre csak angol nyelven. Az érdeklődők kapnak 2 hónap ingyenes próbaidőszakot. A magyarországi ár 8790 forint, ami kb. 20 százalékkal magasabb az amerikai árnál.
https://bitport.hu/atkeresztelte-mesterseges-intelligenciajat-a-google-es-penzt-is-ker-erte

A Gemini Advanced esetében - amely jelenleg az egyetlen módja az Ultra 1.0-hoz való hozzáférésnek - a felhasználóknak fel kell iratkozniuk az új, 20 dolláros Google One AI Premium csomagra. Ez a csomag tartalmazza a meglévő Google One Premium csomag összes előnyét (2 TB tárhely, exkluzív Google Photos szerkesztési funkciók, Google Meet prémium videofunkciók és a Google Calendar továbbfejlesztett időpont-ütemezés). Ezen felül hozzáférést kapnak a fejlettebb modellhez, bárhol, ahol a Gemini elérhető. Hamarosan a Google Workspace-ben is hozzáférést kapnak a Geminihez, ami valószínűleg egy Microsoft Copilot-szerű élmény lesz, bár erről a Google egyelőre nem kívánt részleteket közölni.
https://sg.hu/cikkek/it-tech/156568/a-google-gemini-nevre-nevezi-at-a-bardot

Válasz

A legjobb 13 nyílt forráskódú ChatGPT alternatíva
https://itsfoss.com/open-source-chatgpt-alternatives/

Válasz

Gemini mesterséges intelligencia: a Google közzétette, a felhasználók pedig azonnal rászálltak...

A Google a héten jelentette be új generatív MI-modelljét, a Geminit, melynek egyes változataira fűtik majd a társaság legtöbb termékét és szolgáltatását – sőt a Gemini Pro az elsők között már munkába is állt Bard motorjaként.
https://bard.google.com/?hl=hu-HU

Ez a várakozások szerint nagy lendületet ad a Google saját MI-chatbotjának, amit a ChatGPT közvetlen versenytársának szántak, de eddig nem igazán halmozott sikert sikerre. A Gemini bemutatásakor viszont már olyan képességekről számoltak be, amelyek révén a modell nem csak eléri, hanem a legtöbb esetben meg is haladja a többi vezető modell (így az OpenAI GPT-4) teljesítményét.
https://bitport.hu/egyelore-nem-tunik-sokkoloan-okosnak-a-gemini-mesterseges-intelligencia

Válasz

Jövőre ChatGPT-képzés indul egy magyar egyetemen

A kecskeméti Neumann János Egyetem az eddig online ChatGPT-kurzusokat kínáló magyar startuppal, a Promptmasterrel együtt indítja a szabadon választható, kétkredites képzést, a tervek szerint 2024 tavaszán.
https://qubit.hu/2023/11/28/indulnak-az-elso-chatgpt-kurzusok-a-magyar-egyetemeken

Magyar egyetemeken is elindulnak az első ChatGPT-kurzusok, mondhatni, tananyag lesz a generatív mesterséges intelligenciából, pontosabban abból, hogy lehet a számunkra fontos és hasznos információkat előcsalogatni a nagy nyelvi modellből. A felsőoktatásban először a kecskeméti Neumann János Egyetemen vehetnek majd részt a hallgatók először egy ilyen, önálló kurzuson.
https://nje.hu/hirek/2023-11-15-a-neumann-janos-egyetemen-fogjak-oktatni-a-chatgpt-hasznalatat

Ezzel kapcsolatban beszélt a Klubrádió reggeli műsorában Rab Árpád, digitális kultúraszakértő, jövőkutató.
https://www.klubradio.hu/archivum/reggeli-gyors-2023-november-30-csutortok-0600-37351

Rab, aki a Nemzeti Közszolgálati Egyetem Információs Társadalom Kutatóintézetének tudományos főmunkatársa, azt mondta, tagadhatatlanul hasznos, ha meg tudjuk pontosan fogalmazni azt, hogy mit akarunk tudni, ez egy olyan képesség, amely túlmutat a mesterséges intelligencián is. Nem csak a ChatGPT használata során, de egy szimpla Google-keresés esetén is jól jön, illetve az ember vezetői képességét is fejleszti, ha jól tud kérdezni.

Ezekhez a prompt engineering kurzusokhoz nem kell komoly előzetes tudás, hiszen ez egy ösztönös technológia, mondta a kutató. A hallgatók azt tanulhatják meg, hogyan kérdezzék meg egy elvileg mindentudó géptől azt, amire kíváncsiak, illetve úgy, hogy az pontosan és jól válaszoljon. Ehhez az is szükséges, hogy megfogalmazzák azt, ami őket igazán érdekli, ez pedig gyakorlatilag a tudásszerzés első lépése is egyben, gondoljunk például arra, hogy a hipotézis felállítása a tudományos munkának mekkora részét teszi ki.

Rab Árpád elmondta azt is, hogy a kurzusokon a mesterséges intelligenciával a hallgatók közvetlenül dolgozhatnak, illetve külső szakértőktől tudhatják meg a legfrissebb információkat.

-- A jó kulcsszavak használata mellett a képzés számos más, kapcsolódó képességet is fejleszt, ilyen például a kritikus gondolkodás, az adott téma előzetes felmérése, illetve bevezeti a hallgatókat az algoritmizált gondolkodás világába,

ami a jövő egyik legfontosabb készsége lesz.
https://raketa.hu/jovore-chatgpt-kepzes-indul-egy-magyar-egyetemen

Válasz

Ijesztő, hogy milyen egyszerű trükkel játszották ki a ChatGPT-t

A Google DeepMind kutatói új típusú és meglehetősen egyszerű módszerrel vették rá a ChatGPT-t, hogy adja vissza a betanításához használt adatok hosszabb-rövidebb töredékeit: arra utasították a chatbotot, hogy végtelenítve ismételjen bizonyos szavakat. Ilyenkor a ChatGPT hosszú ideig valóban a megadott szavakat ismételgette, de aztán elkezdett furcsa, esetenként több ezer karakteres szövegeket köpködni magából. Ezek között mindenfélélét találtak a versektől az URL-eken és Bitcoin-címeken át a jogvédett tudományos cikkekből származó részletekig, és közel 17 százalékban személyazonosításra alkalmas információt is tartalmaztak nevek, születésnapok, telefonszámok, emailcímek, fizikai címek és más adatok formájában.

Maga a támadási mód a kutatók szerint is "elég idétlen", és riasztóan könnyű végrehajtani: nagyjából 200 dollár költséggel nyerhető ki vele 10 ezer egyedi példa a ChatGPT által feldolgozott adattömegből. Könnyű belátni, hogy ilyen rátával mire mehetnek az olyan rosszhiszemű szereplők, akinek megvannak a megfelelő anyagi forrásai, ráadásul a chatbotot a fejlesztők elvileg már "hozzáigazították az emberi visszajelzésekhez", hogy megakadályozzák az adatok nem kívánatos visszaáramlását. Mivel pedig az OpenAI megoldása zárt forráskódú, a biztonsági szakértők csak a fogyasztók számára készült modelleket tesztelhetik, ami értelemszerűen elfedhet bizonyos kritikus sebezhetőségeket a rendszerek működésében.

A DeepMind csapata állítólag augusztusban tájékoztatta az OpenAI-t a problémáról, amit a 404 Media szerint mára ki is javítottak, de ez nem mond semmit a mögöttes biztonsági résekről.
https://bitport.hu/ijeszto-hogy-milyen-egyszeru-trukkel-jatszottak-ki-a-chatgpt-t

Válasz

A robotapokalipszistől rettegők és az MI-optimisták harca robbantotta szét az OpenAI-t

-- Múlt pénteken viharos körülmények között kirúgták a ChatGPT-vel a világ legismertebb MI-kutató társaságává vált OpenAI vezetőjét. Sam Altman menesztését a cég igazgatótanácsa homályos indokokkal magyarázta - végső soron a Szilícium-völgy egyre mélyebb „doomer-boomer" törésvonala állhatott a háttérben. Annak kialakulásához pedig az is hozzájárulhatott, hogy Elon Musk és néhány társa évekkel ezelőtt megígért egymilliárd dollárt, de annak végül csak a töredékét utalta el.
https://hvg.hu/kkv/20231123_Reuters_Egy_az_emberiseget_fenyegeto_uj_fejlesztesre_figyelmezteto_level_elozte_meg_az_OpenAIvezer_kirugasat

Válasz

Úgy tűnik, nehéz lesz leszoktatni a hazudozásról a chatbotokat

Mint kiderült, az OpenAI ChatGPT-je és a hozzá hasonló alkalmazások hajlamosak mindenfélét kitalálni és tényként tálalni. Bár így is sokaknak jelentenek segítséget a munkában, a kettő keveredése több mint problémás dolog, és nem biztos, hogy létezik rá megoldás.

Az MI-hallucinációnak nevezett jelenség minden vállalkozásnak, szervezetnek, munkavállalónak vagy akár diáknak problémát jelent, aki egy generatív mesterségesintelligencia-rendszerre támaszkodva próbál dolgozni és dokumentumokat létrehozni. A biológiai agy hallucinációira emlékeztető megnyilvánulások nem egyszerűen a források ellenőrzésének hiányát jelentik, hanem azt, hogy a robotok magabiztosan állítanak egyértelműen valótlan és légből kapott dolgokat. Erre szemléletes példa annak a New York-i ügyvédnek az esete, aki egy tárgyaláson volt kénytelen ráébredni, hogy a ChatGPT segítségével összeállított anyaga nem létező bírósági határozatokat tartalmazott hamis idézetekkel és belső hivatkozásokkal.
https://bitport.hu/ugy-tunik-nehez-lesz-leszoktatni-a-hazudozasrol-a-chatbotokat

Válasz

Érdekes beszélgetés Keleti Arthur ITBN Conf-Expo alapítóval az AI mindennapi használatáról, lehetőségeiről, korlátairól és természetesen a veszélyeiről közérthetően.
https://www.youtube.com/watch?v=70Y5JYqWMn8&t=1205s

Természetesen a szokásos kérdés is előkerült, hogy mikor fordulnak ezek a rendszerek az emberiség ellen. Keleti Arthur szerint ez pedig nincs is olyan messze, hiszen már most nagyon sok helyzetben tudnak ezek a modellek önálló döntéseket hozni.
Ebben a témában mélyebbre fogunk majd ásni az őszi ITBN Conf-Expo-n a Groupama Arénában 2023. szeptember 27-28-án.
Szóval ha érdekel a téma és többet szeretnél megtudni, akkor találkozzunk szeptemberben élőben.
https://itbn.hu/

Válasz