A szabályozatlan AI növekvő kihívásai

A mesterséges intelligencia (AI) adaptációja az iparágak széles körében gyorsul, átalakítva a vállalatok működését, döntéshozatalát és ügyfélkapcsolatait. Globálisan az AI-ra fordított kiadások 2026-ra várhatóan meghaladják a 2 ezer milliárd dollárt, az IT-befektetések leggyorsabban növekvő szegmensévé válva. A generatív AI (GenAI) kiadások is jelentősen nőnek, és az AI már a teljes globális SaaS kiadások 6%-át teszi ki, példátlan tempóban.

Az AI üzleti folyamatokba való beágyazódásával fokozódik az ellenőrzés a szabályozók, ügyfelek és igazgatóságok részéről. A bizalom hiánya jelentős kihívás, például Kanadában, ahol a lakosság mindössze 31%-a bízik az AI-ban. A bizalom elnyeréséhez és fenntartásához a vállalatoknak az AI-innováció mellett a felelősségvállalást, átláthatóságot és ellenőrzést is demonstrálniuk kell. Ezt segíti elő az ISO/IEC 42001:2023 „Információtechnológia – Mesterséges intelligencia – Irányítási rendszer” (ISO 42001) szabvány.

„A megfelelő irányítási keretrendszer nélkül az AI-rendszerek óriási kockázatot jelenthetnek egy szervezet számára. Az ISO 42001 bevezetése nem csupán egy megfelelőségi feladat, hanem egy stratégiai befektetés a bizalom és a hosszú távú siker építésébe.” – mondta Dr. Barta Gergő, a Deloitte Magyarország Vezető AI szakértője.

ISO 42001: Az átfogó irányítás alapköve

Az ISO 42001 egy nemzetközileg elismert szabvány az AI-irányítás teljes életciklusának operacionalizálására, és követelményeket ír elő a mesterséges intelligencia irányítási rendszer (AIMS – Artificial Intelligence Management System) létrehozására, bevezetésére és fejlesztésére egy szervezeten belül.

Míg más szabványok a jó felügyeletet definiálják, az ISO 42001 a megvalósítás módszerét határozza meg. Nem szabályozási követelmény, de stratégiai referencia a megbízható AI-hoz, erősítve a kockázatkezelést, felkészítve a szabályozási elvárásokra, és bizonyítva a fegyelmezett gyakorlatokat.

Ahogy a Deloitte „Navigating AI Assurance: Spotlight on ISO/IEC 42001 Standard” című kiadványa részletezi, az ISO 42001 több kulcsfontosságú területet fed le:

• Szervezeti kontextus és hatókör: Az AI használatának és szerepének meghatározása, az AI-menedzsment hatókörének és határainak megállapítása.
• Vezetés és irányítás: Az AI-irányítási feladatok kijelölése a vezetőség számára, valamint az értékekkel és célkitűzésekkel összhangban lévő AI-politika kommunikálása.
• AI-kockázatkezelés és ellenőrzés: Az AI-kockázatok felmérése, beleértve az etikai hatásokat is, valamint ellenőrzések bevezetése a biztonságos és átlátható AI érdekében.
• Operatív gyakorlatok: Az AI-életciklus-folyamatainak kezelése, a kiszervezett AI-val kapcsolatos kockázatok kezelése és az incidensekre adott válaszok irányítása.
• Monitoring, értékelés és fejlesztés: Az AI hatékonyságának mérése és auditok végzése a fejlesztés érdekében.
• Támogatás és dokumentáció: Az AI-ban jártas munkatársak kompetenciájának biztosítása és a dokumentáció fenntartása az ellenőrzés és a nyomon követhetőség érdekében.

Az ISO 42001 világos és auditálható alapot kínál az AI üzleti folyamatokba történő beépítéséhez, ismételhető AI-irányítási rendszert biztosítva a teljes életciklusra. Ezáltal a vállalatok biztosítják, hogy az AI-rendszerek a tervek szerint működjenek, összhangban az üzleti célokkal, etikai elvárásokkal és kockázattűrő képességgel.

A felügyelet nélküli AI kockázatai

Az AI-befektetések gyorsulásával nő a szakadék a bevezetés és az irányítás között, ami fragmentált, rosszul dokumentált és nem megfelelően monitorozott AI-használathoz vezet. A gyenge felügyelet, nem kezelt modellek és elégtelen kontrollok növelik a szabályozási ellenőrzés, reputációs károk és pénzügyi kockázatok kitettségét, aláásva a bizalmat.

Milyen kockázatokkal jár a tétlenség?

Azok a szervezetek, amelyek robusztus irányítás nélkül telepítenek AI-t, kézzelfogható és egyre növekvő kockázatokkal néznek szembe:

• Pontatlan vagy torz AI-kimenetek által vezérelt rossz üzleti döntések.
• Audit-, megfelelőségi és szabályozási kitettség a hiányzó dokumentáció, monitoring vagy elszámoltathatóság miatt.
• Reputációs károk és bizalomvesztés a nem kezelt eredmények és a korlátozott átláthatóság miatt.
• „Shadow AI” (árnyék AI) használat, amely következetlen döntésekhez és nem kezelt kockázatokhoz vezet.
• Biztonsági és adatvesztési kockázatok a rosszul ellenőrzött modellekből, adatokból vagy adatcsatornákból.
• Elmaradó bevételi lehetőségek, ahol az ügyfelek igazolást várnak a felelős AI használatára.

„Például, egy pénzügyi audit során egy kritikus ellenőrzési folyamatba beépített AI-megoldás nem volt megfelelően dokumentálva. A technológia jól működött, de a tervezés és döntési logika hiányos dokumentációja súlyos auditálási problémákhoz vezethetett. Ez rávilágít, hogy a governance hiánya aláássa a bizalmat ott, ahol a legnagyobb szükség van rá.” – tette hozzá Dr. Barta Gergő.

A Deloitte megközelítése: bizalom és versenyelőny

A Deloitte AI Controls and Assurance szolgáltatásai segítenek az AI-irányítás operacionalizálásában, a megfelelőséget stratégiai eszközzé alakítva. A Deloitte négy úton támogatja a vállalatokat az ISO 42001-hez való igazodásban:

1. ISO 42001 Készenléti felmérések: Független értékelések az AI-gyakorlatokról az ISO 42001 követelményei szerint, az erősségek és hiányosságok azonosításával.
2. ISO-kompatibilis belső auditok: Tanácsadás a belső auditokhoz, a governance, kockázatkezelési és ellenőrzési keretrendszerek hatékonyságának felülvizsgálatával.
3. Harmadik fél általi assurance szolgáltatás (TPA – Third-Party Assurance): Független validáció az AI szolgáltatók kontrolljairól, az irányítás, biztonság és adatintegritás értékelésével.
4. Irányítási rendszer bevezetése: Támogatás az ISO 42001-nek megfelelő AI irányítási rendszer tervezésében és bevezetésében, beleértve a governance struktúrákat, politikákat, kontrollokat és monitoringot.

Az AI-megvalósítások gyakran elbuknak, ha a kockázati és auditálási követelményeket figyelmen kívül hagyják. Multidiszciplináris csapataink segítenek praktikus, auditálható irányítási struktúrák kialakításában, elkerülve a költséges utólagos módosításokat és lehetővé téve az AI magabiztos skálázását. Az IDC MarketScape által globális vezetőként elismert Deloitte egyedülállóan ötvözi az AI-, kockázat-, kontroll- és biztosítéknyújtási képességeit.

A felelős AI-irányítás stratégiai imperatívusz. Az ISO 42001 egy átfogó keretrendszer, amely lehetővé teszi a szervezetek számára, hogy innováljanak, miközben felelősségteljesen és fenntarthatóan minimalizálják a kockázatokat, az AI-t a bizalom és a versenyelőny forrásává alakítva.

A reel8 Digital & AI Production House a Positive Adamsky ügynökségi csoport részeként működik és a folyamatosan növekvő, technológia alapú audiovizuális tartalom igényekre reagál. Az új egység nemcsak gyártási szolgáltatást kínál, hanem stratégiai szemléletű tartalomfejlesztést, kreatív koncepcióalkotást és teljes körű projektmenedzsmentet is, a márkák üzleti céljaihoz illesztve.

Szántó Péter közel húszéves nemzetközi, digitális üzletfejlesztési és branding szakmai múlttal, több díjnyertes projekt tapasztalatával vezeti a reel8-et. Karrierje során alapítóként egy nemzetközi startup növekedését vezette, előtte pedig digitális ügynökségi és tanácsadói vállalkozásokat épített. Pályája során többek között a MasterCard, az OTP, a ProSiebenSat.1 és a T-Mobile projektjein dolgozott. Az OTP SmartBank fejlesztésében a customer development és UX területért felelt; a projekt elnyerte a MasterCard „Év applikációja” díját a mobilbanki versenyen.

„A videó ma már nem kiegészítő formátum, hanem a márkastratégia egyik alapvető eszköze. A generatív AI és az automatizáció exponenciális fejlődése alapjaiban alakítja át a tartalomgyártást: a korábban erőforrás-igényes folyamatok gyorsabbá, skálázhatóbbá és rugalmasabbá válnak. A reel8 célja, hogy ebben az új környezetben a vizuális tartalomgyártás ne kivitelezési feladat legyen, hanem tudatos, üzleti döntés. Olyan modellt építünk, ahol a kreatív koncepció és a technológia kézzelfogható, mérhető eredményben találkozik” – mondta Szántó Péter.

Hinora Ferenc hozzátette: „Azok a szereplők maradnak versenyben, akik stratégiai szinten építik be működésükbe az AI-alapú és technológiai megoldásokat. A reel8 létrehozásával ezt a szemléletet erősítjük az ügynökségi holdingunkon belül. Szántó Péter nemzetközi tapasztalata pedig fontos hozzáadott értéket jelent ebben az építkezésben, és nem csak a hazai, de a külföldi piacokon is versenyképessé teheti a csoportunkat.”

A reel8 megalapítása a Positive Adamsky (PDKY) tudatos üzletfejlesztési stratégiájának része: a cél, hogy az audiovizuális tartalomgyártás teljes stratégiai integrációban, magas kreatív és technológiai színvonalon valósuljon meg, és olyan üzleti eredményt nyújtson az ügyfelek számára, amely korábban nem volt elérhető.

A mesterséges intelligencia 2025-ben már nem csupán jövőkutatók kedvenc témája, hanem a mindennapi vállalkozói működés szerves része. A McKinsey legfrissebb elemzése szerint a generatív AI évente 2600 – 4400 milliárd dollárnyi termelékenységi potenciált rejthet világszinten. A kutatás 63 tipikus üzleti felhasználási esetet elemzett, és kimutatta, hogy a legnagyobb hatás három területen várható: marketing és értékesítés (bevételnövekedés 3-15 %, ROI-javulás 10-20 %), szoftverfejlesztés (20-45 % termelékenységnövekedés bizonyos tevékenységek esetén), valamint ügyfélszolgálat, ahol a generatív AI bevezetése a funkció jelenlegi költségeihez viszonyítva 30-45 %-kal növelheti a hatékonyságot.

A McKinsey szerint a generatív AI-alkalmazásokból származó érték mintegy 75%-a négy területen koncentrálódik: ügyfélkapcsolatok, marketing és értékesítés, szoftverfejlesztés, valamint kutatás-fejlesztés. Ilyen részterület lehet az ügyfélinterakciók támogatása, marketing- és sales-tartalmak előállítása, illetve kódírás felgyorsítása. A jelentés kiemeli: az AI akkor teremt valódi üzleti értéket, ha tudatosan a szervezeti stratégiához igazítva vezetik be, és nem önmagában vagy önmagáért.

Hol érdemes kezdeni?

Magyarországon az Európai Bizottság Digitális Évtized jelentése alapján a vállalkozások digitalizációs lemaradásban vannak. Ez egyben hátrány és lehetőség: aki időben lép, versenyelőnyhöz juthat a hazai piacon.

Egy kkv-nak nem érdemes azonnal komplex, drága AI-megoldásokba ugrania. A legtöbb érték gyorsan és költséghatékonyan érhető el olyan területeken, amelyek közvetlenül kapcsolódnak a mindennapi működéshez:

• Tartalomkészítés támogatása: blogcikkek, közösségi posztok vagy SEO-szövegek első verziójának elkészítése. Fontos: mindig kell emberi utószerkesztés, hiszen az AI sokszor „hallucinál”, több ponton ellenőrzés és javítás szükséges
• Ügyfélkommunikáció, sales: chatbotok, automatikus e-mailválaszok, automatizációk, sablonok – gyorsabb reakcióidő, kevesebb elveszett érdeklődő.
• Vizuális anyagok: egyszerű grafikák, illusztrációk generálása social media kampányokhoz.
• Adatkezelés és elemzés: Excel vagy CRM adatok kinyerése, összegzése AI-eszközökkel, gyorsabb döntés-előkészítéshez.

„Sok cégvezető úgy gondolja, hogy az AI majd teljesen kiváltja a marketingeseket vagy a szövegírókat. Sőt, a marketingesek, honlapkészítők, grafikusok közt is van, akik félnek, hogy elveszíthetik a munkájukat. A valóság inkább az, hogy az AI segíti, bizonyos feladatok esetén kiváltja a junior vagy medior szintű feladatokat megfelelő minőségű promptolás mellett – de a stratégia, a márkahang és a kreatív gondolkodás továbbra is emberi munka marad. Egy honlap vagy kampány akkor működik, ha személyes figyelem és üzleti cél is van mögötte.” – mondja Bende Kata, a ZK Design ügyvezetője.

Hol a kockázat?

Az AI-használat nem veszélytelen. Három tipikus buktató:

• Minőség: ha egy vállalkozás teljesen AI-ra bízza a szövegírást, az eredmény gyakran sablonos és általános.
• Márkahang: emberi kontroll nélkül eltűnik a cég saját stílusa, ami hosszú távon hitelességvesztéshez vezethet.
• Jogi és etikai kérdések: szerzői jogi problémák és adatvédelmi aggályok is felmerülhetnek – különösen, ha érzékeny ügyféladatokat adunk be a rendszereknek.

Merre tovább a kkv-knak az AI-korszakban?

Az AI ma már nem kérdés, hanem lehetőség – de csak akkor, ha tudatosan illesztjük be a vállalati folyamatokba. Egy kkv-nak az a feladata, hogy a technológiát a saját stratégiája szolgálatába állítsa, és semmiképpen se fordítva.

2023 egyik legizgalmasabb, ugyanakkor nagyon megosztó témája a mesterséges intelligencia volt. Novemberben a brit Collins szótár az év szavának választotta az AI-t.Az elmúlt 12 hónapban a ChatGPT az első helyen áll a Google keresőkifejezések listáján, de amennyire lenyűgözte, annyira meg is rémisztette a társadalmat hatalmas tudásával, gyorsaságával és olykor szinte emberi reakcióival. Bár még nagyon messze vagyunk intelligenciájának kiteljesedésétől, idén a generatív AI új szintre lép. Az új generációs modell multimodális lesz, vagyis képes lesz többféle tartalmat (szöveget, hangot, képet) feldolgozni vagy egyidőben létrehozni. Például megír egy cikket, miközben generál hozzá képet is. A foundation modellekre épülve már 2024-ben megjelenhetnek a személyes modellek, amelyek korábbi személyes használatot figyelembe véve generálnak eredményt.

A megerősítéses tanulás elterjedése

A Reinforcement Learning, azaz megerősítéses tanulás az egyik legdinamikusabban fejlődő területe az AI algoritmusoknak. Időről időre felbukkannak olyan sajtóhírek, melyekben a mesterséges intelligencia e-sport, go és sakk világbajnokokat győz le néhány nap tanulással. Az RL lényege, hogy az élőlények tanulási folyamatához hasonlóan, a gép a “cselekedeteire” kapott reakciók alapján fejlődik. Számos specifikus területen már jelentősen meghaladja az emberi képességeket. Várhatóan a közeljövőben a szélesebb közönség számára is hozzáférhetőek lesznek az ezen algoritmusra épülő megoldások.

Szélesedik a vállalati AI használat

Aki lemarad, az kimarad. Már a KKV szektorban is megindult az AI integrációja, leginkább hatékonyságnövelési céllal. Jövőre várhatóan emelkedni fog azoknak a vállalatoknak a száma, amelyek mesterséges intelligencia modelleket alkalmaznak a vállalati teljesítmény fokozására. A Deloitte Magyarország által készített Magyar MI Körkép 2023 kutatásból kiderül, hogy a megkérdezett cégek 88%-a már rendelkezik olyan vezetővel, akinek dedikált felelőssége a vállalaton belüli MI fejlesztések és adaptáció.

Fókuszban az etikai és jogi szabályozás

Az etikus AI 2024-ben kiemelt kérdés lesz, főleg a biztonságos és igazságos használat érdekében. A fejlesztők elsődleges feladata, hogy olyan modelleket hozzanak létre, amelyek társadalmi felelősséggel járulnak hozzá a fejlődéshez. Szorosan kapcsolódik a kérdéshez a jogi szabályozás, amely szintén nagy hangsúlyt fog kapni. Ebben a fő nehézséget az jelenti, hogy megtalálják azt a vékony határvonalat a törvény megalkotásában, ahol az adatok gyűjtése és elemzése nem sérti az emberek adatvédelmi jogait, ugyanakkor megfelelő és elegendő adat gyűjthető a fejlődéshez, például orvosi, tudományos, gazdasági, stb. területeken.

Fellendülnek az AI képzések

A folyamatos technikai fejlődés és az egyre növekvő iparági használat mind azt eredményezi, hogy az AI-val kapcsolatos tréningek, képzések szaporodni fognak. Már most rengeteg ChatGPT prompter tanfolyam elérhető, és ezen túl még számos olyan szakmai rétege van a mesterséges intelligenciának, amely további szakemberek kiképzését igényli.

Bár a jövőbeli eseményekre mindig a jelenlegi tapasztalati tudás alapján lehet prognózist állítani, az biztosan látható, hogy az ugrásszerű technikai fejlődés jó ideig nem fog megállni, és az AI egyre lenyűgözőbb képességekkel lesz része a mindennapjainknak. Ezzel a gyorsulással egy ütemben a szabályozások is nagyobb hangsúlyt fognak kapni, ami számos kihívást jelent majd mind a jogalkotói, mind a felhasználói rétegnek.

Photo by Lukas on Unsplash