Európai felmérések szerint a 13-18 évesek 96 százaléka használt már mesterséges intelligenciát az utóbbi egy évben (40 százalékuk napi rendszerességgel), a tinédzser fiúk 51 százaléka pedig érzelmi vagy „romantikus” beszélgetéseket is folytat ezekkel az eszközökkel. A felnőttek körében sem más a helyzet: az EU-ban dolgozóknak immár 30 százaléka alkalmaz AI-t a munkája során. A Médiaunió Alapítvány és a KiberPajzs friss kísérlete azt mutatta meg, hogy a magas arányszámok ellenére korántsem biztos, hogy jobban felismernénk, mi valós és mi mesterséges. Sőt, a legújabb pénzügyi elemzések szerint mára minden második pénzügyi csalási kísérletnek része valamilyen módon az MI…

Fiatalok, idősek – és az MI

Egy fiú ikerpárnak és nagymamájuknak, valamint két évvel idősebb nővérüknek és egy nagypapakorú férfinak mutattuk meg ugyanazokat a képeket és videókat, és mindannyiuknak arról kellett dönteniük, hogy valódi felvételeket látnak-e, vagy mesterséges intelligencia által generált tartalmakat. A kísérletben nem szerepeltek csalási szándékkal készült vagy érzelmileg megterhelő „unokás” videók: hétköznapinak tűnő jelenetek, tájképek, portrék kerültek a képernyőre. Volt köztük olyan is, amely első látásra reálisnak tűnt, de valójában abszurd részletet rejtett – például egy badacsonyi „karfiolültetvényt” –, és voltak olyan felvételek, amelyek minden pixele „hibátlan” volt.

A fiatalok magabiztosan keresték az MI tipikus jeleit: furcsa textúrákat, aránytalan színeket, kilógó árnyékokat, „videojátékos” bőrt, apró csúszásokat a szájmozgás és a hang között. Az idősebbek ezzel szemben azt nézték, mennyire életszerű, amit látnak: el tudják-e képzelni a helyszínt, „ilyenek-e” az emberek a valóságban. Bár a kontraszt látványos volt, a tévedések egyik generációnál sem maradtak el.

A kísérlethez kapcsolódóan Mezriczky Marcell deepfake- és MI-kutató részletesen elemezte, hogyan változtatja meg az MI a valóság érzékelésünket. Mint mondta, a fiatalok látszólag előnyben vannak, hiszen belenőttek az MI-eszközök használatába: természetes számukra, hogy a képek és videók lehetnek filterezettek, „megtuningoltak”, akár teljesen szintetikusak is. „Ez a rutin ugyanakkor könnyen túlzott magabiztossággá válik. A fiataloknak kisebb a forráskritikájuk, elbízzák magukat, és nem feltételezik, hogy a digitális módosítás olyan élethű lehet, hogy ők sem veszik észre.”

Az idősebb generáció másképp téved, ők elsősorban az érzelmi meggyőződésre építenek: ha a szereplő hangja, tekintete, gesztusai ismerősnek hatnak, könnyebben fogadják el valódiként a tartalmat. Ez a logika a hétköznapi életben gyakran jól működik, az MI korában viszont éppen ez válik kockázattá. „Az idősebb generáció érzelmi meggyőződés alapján hisz el egy tartalmat. Ez sebezhetővé teszi őket az MI-val felturbózott unokás csalásokkal és manipulált hívásokkal szemben.” Nem véletlen, hogy a pénzügyi szakemberek 56 százaléka a social engineeringet, vagyis a pszichológiai manipulációt tartja ma az egyik legerősebb, MI által támogatott csalási technikának.

A manipuláció új kora: brainrottól a politikai deepfake-ig

Mezriczky Marcell szerint fontos különbséget tenni az egyre többféle MI-tartalom között, mert míg a szintetikus, úgynevezett „brainrot” videók nyíltan vállalják mesterséges eredetüket – szándékosan túlzó, trash-jellegű, szórakoztató alkotások, amelyek nem akarnak valóságosnak tűnni –, a deepfake videók célja épp az, hogy megtévesszenek. Ez az ugrásszerű erősödés akkor vált igazán kézzelfoghatóvá, amikor a technológia „demokratizálódott”, és megjelentek azok a telefonos alkalmazások, amelyek egyetlen szelfiből is hiteles arccserés videót készítenek. A platformok ontják magukból ezeket a tartalmakat, a felhasználók pedig sokszor már nem is tudják, mi készült valósan és mi mesterségesen. A helyzetet tovább rontja, hogy a politikai kommunikációban is megjelent a deepfake, ami – a kutató szerint – „egyfajta legitimációt is ad a technológiának, ami kifejezetten káros példa”.

A deepfake-ek elterjedése nemcsak technikai, hanem társadalmi értelemben is komoly veszélyt jelent. Technikai oldalról nézve már most is egyre nehezebb felismerni a manipulált tartalmakat: a modellek ugyan néha még hibáznak a pislogásban, a bőrtónusban vagy a mozgás finomságaiban, de ezek a hibák gyorsan eltűnnek. A felismerhetetlenség pedig új típusú kockázatokat hoz magával. A beleegyezés nélküli „vetkőztetős” AI-képektől kezdve az unokázós csalásokon, hamis videóhívásokkal és kamu profilokkal pénzügyi kárt okozó átveréseken át egészen a testképzavart erősítő szintetikus képekig és a politikai manipuláció céljából készült deepfake-ekig, a technológia egyre több élethelyzetben válik veszélyforrássá. A pénzügyi szakemberek 44 százaléka már találkozott deepfake-alapú csalási technikákkal, ami jól mutatja, hogy a mesterségesen előállított arcok és hangok ma már valódi anyagi kockázatot is jelentenek.

Mit tehetünk? Lassítás, ellenőrzés, közös felelősség

A kérdés tehát nem az, meg tudjuk-e állítani a technológiai fejlődést, hanem az, hogyan alkalmazkodunk hozzá. Mert szabályozások elméletileg már most is vannak: az EU-s AI Act például előírja, hogy a mesterséges intelligenciával generált tartalmakat egyértelműen jelölni kellene, mégsem szerepel mindenhol ez a jelzés. A jogalkotás rendkívül lassú, a technológia pedig közben óriási léptekkel halad előre. A kutató szerint az oktatásra kellene sokkal nagyobb hangsúlyt fektetni, hiányzik ugyanis az MI-specifikus média- és digitális műveltség beépítése az iskolai tantervbe.

Mezriczky úgy gondolja a mindennapi biztonság egyik alapja egy egyszerű, de annál fontosabb reflex lenne: „Hiába kényelmetlen, inkább ellenőrizzünk mindent háromszor.” Ez a gyakorlatban azt jelenti, hogy egy erős érzelmi reakciót kiváltó videó vagy hangüzenet esetén nem azonnal cselekszünk, hanem más csatornán is ellenőrizzük az információt, és nem hozunk átgondolatlan pénzügyi vagy bizalmi döntést egyetlen impulzus alapján. Ez különösen fontos a pénzügyi manipulációk esetében, ahol a csalók gyakran banki ügyintézőnek, rendőrnek vagy a család egy tagjának adják ki magukat. Az ilyen rosszindulatú próbálkozások kivédésének legegyszerűbb módja, ha van egy „családi jelszó” – egy olyan szó, amit csak a valódi személyek ismerhetnek: így ha ezt nem mondják ki, biztosak lehetünk benne, hogy a hívás nem valódi. Fontos továbbá, hogy a bank sosem kér jóváhagyási kódot, belépési adatot, nem kér arra, hogy „tesztforgalmat” indítsunk vagy „biztonsági számlára” utaljunk. Ha ilyet látunk, az biztosan csalás.

Kardos Ferenc, a Médiaunió ügyvezetője szerint a kísérlet legfontosabb tanulsága az volt, hogy egyik generáció sem sebezhetetlen: „A kísérlet megmutatta, nem az számít, ki mennyi időt tölt a digitális térben – egyik generációnak sincs biztos kapaszkodója. A fiatalok technikai jelzésekre hagyatkoznak, az idősebbek a tapasztalataikra, de a mesterséges intelligencia mindkét logikát képes kijátszani.”

Másképp gondolkodunk, másképp hibázunk, mégis ugyanazokkal a kockázatokkal nézünk szembe. A mesterséges intelligencia nemcsak a technológiáról szól, hanem arról is, hogyan tanulunk együtt eligazodni egy olyan világban, ahol mindannyiunknak újra kell értelmezni a látottakat.

„A kulcs te vagy!” kampányról

Feltört bankszámla? Adatlopás? Online átverés? Ezek csak másokkal történhetnek meg – vagy mégsem? Két csoportja van azoknak, akik még nem voltak áldozatai mindennapjaink online visszaéléseinek: az egyik a tudatos és következetes felhasználók, a másik pedig a szerencsések. Az utóbbiak vannak többségben – és veszélyben. A Médiaunió Alapítvány 14. társadalmi célú kampánya a pénzügyi és az adatvédelmi kihívásaira fókuszál. Célja, hogy felhívja a figyelmet a terület veszélyeire, tudatosítsa, hogy gyakorlatilag mindenki érintett, valamint hogy edukálja a lakosságot a veszélyhelyzetek felismerésére, a helyes lépésekre. „A kulcs te vagy!” kampányban a Médiaunió szakmai partnere a KiberPajzs Program és a Magyar Bankszövetség.

A Magyar Nemzeti Bank adatai szerint 2024 harmadik negyedévében is közel 9 milliárd forintos kárt okoztak a bankkártyás, illetve elektronikus fizetési forgalomhoz kapcsolódó visszaélések. A csalók átutalásokon keresztül nagyjából 6 milliárd, bankkártyás csalásokkal pedig 2,8 milliárd forintot loptak el az áldozatoktól. Az alábbi esetek mindegyike egy valamire mutat rá: bármilyen fejlett biztonsági megoldások léteznek is a vírusvédelmi szoftverektől a tűzfalakig, a leggyengébb láncszem legtöbbször az ember.

Kiberbiztonsági szakértők szerint 2025-ben a nagyméretű nyelvi modellek és a deepfake technológiákban rejlő fenyegetések kerülnek majd előtérbe, soha nem látott mértékű kiberkockázati veszélyt jelentve a nagyvállalatokra és az egyéni felhasználókra egyaránt.

„ál-BKK” = Bedőlsz, Kegyetlenül Kifosztunk

Sajnos bőven válogathatunk hazai példákból! Tavaly augusztusban indult például egy hamis Facebook-oldal, amely úgy állította be magát, mintha a Budapesti Közlekedési Központhoz tartozna. Itt aztán az első 500 vásárlónak mindössze 950 forintért ígért Budapest-bérletet hat hónapra. Ehhez valóban csak ezt a kis összeget kellett kifizetni, és egy rövid űrlapot kitölteni – természetesen érzékeny adatokkal, aminek eredményeképp a „nyertesek” az ezer forintos álomár sokszorosát veszítették el.

Októberben a Fővárosi Állatkert nevében indult hasonló kampány: a csalók az intézmény 155. születésnapja alkalmából indítottak belépőjegyeket ígérő nyereményjátékot a Facebookon, ahol aztán a kommentelőket privát üzenetben ostromolták bankkártya adataikért, általában arra hivatkozva, hogy az állítólagos nyeremény eljuttatásához szükséges postaköltségre kérnek pénzt.

Apróhirdetés, nagy veszteség

2023-ban indult, de mind a mai napig virágzik az a csalássorozat, amelyben olyanokat céloznak meg, akik internetes apróhirdetési oldalakon próbálnak eladni valamit. A bűnözők vevőként jelentkeznek, majd egy átverős weboldalra mutató linket küldenek, amelyen a bankkártya adataik megadására kérik az eladót, hogy villámgyorsan kifizethessék a terméket. Ezután bediktáltatják az eladóhoz érkező hatjegyű kódot, de ez már nem az utaláshoz, hanem egy digitális e-pénztárca nyitásához kell, hogy aztán egy erre alkalmas bankautomatából a maximálisan elérhető összeget vehessék fel.

Csomagod érkezett! Vagy mégsem?

Az alábbi eset sem egyedi, de jól bemutat egy ma is gyakori csalási formát. Az áldozat SMS-t kapott az egyik ismert csomagküldő szolgálattól, amely azt állította, rosszul adta meg egy küldeménye címét, de azt egy kisebb összeg fejében, a jó cím megadásával újra kiszállítják. Az üzenetben található link a cég weboldalával egy az egyben megegyező felületre vitte, tökéletes logóval, grafikai felépítéssel, online fizetési felülettel. A többi már nem meglepő: aznap éjjel a bankjától érkezett egy – ezúttal valóban hiteles – üzenet, melyben értesítették, hogy letiltották a kártyáját, arról ugyanis gyors egymásutánban Aliexpress-rendeléseket fizettek ki, összesen 800 ezer forint értékben. Az összegnek azóta sem tudtak a nyomára bukkanni.

Rajongunk a csalókért: Taylor Swift és az olimpia esete

A helyzet világviszonylatban sem jobb, sőt! Napjaink egyik legnagyobb pop szenzációja Taylor Swift, akinek koncertjeire percek alatt elkapkodják a jegyeket. A tavalyi turnéjának brit szakasza előtt sem volt ez másképp, ezt használták ki a csalók, akik a valódi jegyárusító oldalakhoz megtévesztően hasonlító hamis oldalakat hoztak létre, ahova e-mailekkel csalogatták a rajongókat. A Lloyds Bank már áprilisban, az első koncertek előtt mintegy két hónappal bejelentette, hogy a jegyet vásárlók több mint egymillió fontot veszítettek óvatlanságukkal. A jelenség azonban nem csak a zeneiparra jellemző: 2024-ben az olimpiára fogytak nagy számban a hamis jegyek, amelyek csak arra voltak jók, hogy átverjék az óvatlan sportrajongókat.

Nem ki, hanem MI!

A hongkongi rendőrség tavaly februárban számolt be egy már tényleg ijesztő esetről: egy multinacionális cég pénzügyes kollégája részt vett egy többszereplős videó-konferencián, amelyen a főnöke megkérte, hogy utaljon át 25 millió dollárt egy számlaszámra. A kolléga ezt meg is tette. Nem sokat kellett várni, hogy kiderüljön a turpisság, a meetingen rajta kívül ugyanis minden egyes résztvevőt mesterséges intelligencia segítségével állítottak elő. A konferenciahívás résztvevőinek arca, hangja és mimikája annyira meggyőző volt, hogy az áldozat egy percig sem gyanakodott.

Az átvertek átverése

A következő esetet a szomszédunkból, Romániából jelentették, itt derült fény az egyik legpofátlanabb csalásra. Ismeretlenek ugyanis pont olyan áldozatokra utaztak, akiket már valamilyen formában kár ért egyéb átverések során. Az elkövetők közösségi médiában terjesztett linkekkel olyan weboldalakra vezették őket, amelyek jogi segítséget ígértek nekik, valamint azt állították, hogy visszaszerzik az elvesztett pénzösszegeket. Azonban a reménykedők itt olyan kérdőíveket töltöttek ki, amelyekkel ismét hozzáférést adtak a banki szolgáltatásaikhoz, hogy aztán a bűnözők még a maradék pénzüktől is megszabadítsák őket… másodszorra.

Tanulj és védd magad!

Amennyiben bárkit anyagi kár ér az online térben, azonnal értesítenie kell a bankját és a rendőrséget. A jogszabályok szerint a bank köteles minden tőle telhetőt megtenni a pénz visszaszerzése érdekében, de nem garantált, hogy sikerrel is jár.

Mint azt a példák is mutatják, az online térben elkövetett visszaélésekre egyelőre nincs tökéletesen megbízható védőháló, ami segítene talpra állni, ha egy rossz kattintásból, adatmegosztásból eredően kicsúszik a talaj a lábunk alól. Ugyanakkor a legtöbb esetben a megfelelő figyelem és az egészséges gyanakvás elegendő lenne, hogy megóvjuk az adatainkat és a megtakarításainkat – írják.

19-re lapot kérni? Ne engedjünk a 21-ből! Kitekintve a kutatások mélységeiből: merre tovább, hogyan lehet elősegíteni egy élhetőbb, biztonságosabb világ megteremtését? Egyebek mellett ezekre a kérdésekre keresi majd a választ a Neumann Társaság 2021-es Deep IT konferenciájának előadói. Az online közvetített konferencia 2021. november 10-én 14 órakor  kezdődik és 18 óráig tart.

Az eseményre előzetes regisztrációt követően bárki díjmentesen becsatlakozhat az interneten keresztül. A  szervezők azért választották a délutáni időpontot a rendezvénynek, hogy minél több érdeklődő diák, egyetemi hallgató is be tudjon kapcsolódni az előadásokba,  hiszen az interaktivitás jegyében a nézők kérdéseket is felhetnek majd az előadóknak.

Egyenesen a világ egyik legjelentősebb, 3D-nyomtatókat gyártó cége, a Formlabs  bostoni központjából jelentkezik majd be a Deep IT konferenciára Lakatos Dávid, a cég termékfejlesztési vezetője, aki a 3D-nyomtatás következő tíz évéről tart előadást, kitérve arra, hogy milyen jelentős változásokat hoz majd a technológia a fogászatban és az orvoslás egyéb területein. Előadásából az is ki fog derülni, hogy a nemrég 150 millió dolláros befektetést kapó, kétmilliárd dolláros értékűre taksált cég szerint miben jobb Budapest Berlinnél, vagyis miért budapesti irodájuk kibővítésével hozzák létre legnagyobb európai fejlesztési központjukat.

Dr. Horváth Zoltán, a Széchenyi István Egyetem professzora a valóság digitális leképezése, az úgynevezett digitális ikrek felhasználási lehetőségeibe avatja be a nagyérdeműt. Előadásából kiderül majd, hogy napjainkban miként alkalmazzák a hazai fejlesztésű fejlett digitális modelleket, szimulációkat, illetve gépi tanulási módszereket a mezőgazdaságtól az egészségügyig. A digitális leképezés jelentősége napjainkban hatalmas, hiszen a digitális modellek rengeteg valós idejű információt szolgáltathatnak egy-egy tervezett tárgyról, rendszerről anélkül, hogy abból fizikai próbapéldányokat kellene előállítani.

Dr. Veszelszki Ágnes nyelvész, újmédia-kutató, a Budapesti Corvinus Egyetem tanszékvezető egyetemi docense a vizuális manipuláció témakörével foglalkozik. Ezen belül is azt vizsgálja, hogy az új technológiák (mint például a deepfake) aláássák-e az interneten megjelenő információk hitelességét: kinek-minek hihetünk, ha már a szemünknek és fülünknek sem?

Prószéky Gábor matematikus, nyelvész, a MorphoLogic cég alapítója, a Nyelvtudományi Kutatóközpont főigazgatójának előadásából abba nyerhetnek betekintést a nézők, miként alakul majd a nyelvek gépi feldolgozásának a jövője, és a mesterséges intelligenciák hogyan befolyásolják a beszédfelismerő, gépi hanggal kommunikáló rendszerek működését.

Török Ákos informatikus, a Suppress19 tudóscsoport ötletgazdája arról fog beszélni, milyen lehetőségeket nyújthat a tömeges tesztelés a COVID-19 járvány visszaszorításában, és milyen algoritmusokkal lehet támogatni a folyamatot.

Az informatikai világa egészen másként alakult, mint ahogy azt húsz éve elképzeltük, és minden jel arra mutat, hogy a jövője is máshogy fog alakulni, mint ahogyan azt akár két-három éve is gondoltuk – Bakk József, az IDC tanácsadó cég country managere előadásában az információtechnológia világának jelenlegi helyzetéről ad majd precíz helyzetképet a hallgatóságnak.

A Neumann Társaság a Deep IT konferencián fogja átadni hagyományos éves díjait, az informatikai készségek széleskörű elterjesztéséhez tevékenyen hozzájáruló szakembereket elismerő Neumann-díjat, a számítástudományban, illetve a számítástechnika alkalmazása területén nagyot alkotóknak odaítélt Kalmár-díjat, valamint a társaság életműdíját is. (Utóbbival a hazai IKT-szektorban végzett több évtizedes munkáját ismerik el évente egy-egy szakembernek.)

Ugyancsak a konferencián fogják átadni a  35 év fiatalabb szakembereknek járó Kemény János-díjat, az oktatók, tanárok munkáját elismerő Tarján-emlékérmet, illetve az Infotér és az IVSZ – Szövetség a digitális gazdaságért iparági szervezetekkel közös “Az év informatikai újságírója” díjat is.

Fotó: Possessed Photography, Unsplash