A szabályozatlan AI növekvő kihívásai

A mesterséges intelligencia (AI) adaptációja az iparágak széles körében gyorsul, átalakítva a vállalatok működését, döntéshozatalát és ügyfélkapcsolatait. Globálisan az AI-ra fordított kiadások 2026-ra várhatóan meghaladják a 2 ezer milliárd dollárt, az IT-befektetések leggyorsabban növekvő szegmensévé válva. A generatív AI (GenAI) kiadások is jelentősen nőnek, és az AI már a teljes globális SaaS kiadások 6%-át teszi ki, példátlan tempóban.

Az AI üzleti folyamatokba való beágyazódásával fokozódik az ellenőrzés a szabályozók, ügyfelek és igazgatóságok részéről. A bizalom hiánya jelentős kihívás, például Kanadában, ahol a lakosság mindössze 31%-a bízik az AI-ban. A bizalom elnyeréséhez és fenntartásához a vállalatoknak az AI-innováció mellett a felelősségvállalást, átláthatóságot és ellenőrzést is demonstrálniuk kell. Ezt segíti elő az ISO/IEC 42001:2023 „Információtechnológia – Mesterséges intelligencia – Irányítási rendszer” (ISO 42001) szabvány.

„A megfelelő irányítási keretrendszer nélkül az AI-rendszerek óriási kockázatot jelenthetnek egy szervezet számára. Az ISO 42001 bevezetése nem csupán egy megfelelőségi feladat, hanem egy stratégiai befektetés a bizalom és a hosszú távú siker építésébe.” – mondta Dr. Barta Gergő, a Deloitte Magyarország Vezető AI szakértője.

ISO 42001: Az átfogó irányítás alapköve

Az ISO 42001 egy nemzetközileg elismert szabvány az AI-irányítás teljes életciklusának operacionalizálására, és követelményeket ír elő a mesterséges intelligencia irányítási rendszer (AIMS – Artificial Intelligence Management System) létrehozására, bevezetésére és fejlesztésére egy szervezeten belül.

Míg más szabványok a jó felügyeletet definiálják, az ISO 42001 a megvalósítás módszerét határozza meg. Nem szabályozási követelmény, de stratégiai referencia a megbízható AI-hoz, erősítve a kockázatkezelést, felkészítve a szabályozási elvárásokra, és bizonyítva a fegyelmezett gyakorlatokat.

Ahogy a Deloitte „Navigating AI Assurance: Spotlight on ISO/IEC 42001 Standard” című kiadványa részletezi, az ISO 42001 több kulcsfontosságú területet fed le:

• Szervezeti kontextus és hatókör: Az AI használatának és szerepének meghatározása, az AI-menedzsment hatókörének és határainak megállapítása.
• Vezetés és irányítás: Az AI-irányítási feladatok kijelölése a vezetőség számára, valamint az értékekkel és célkitűzésekkel összhangban lévő AI-politika kommunikálása.
• AI-kockázatkezelés és ellenőrzés: Az AI-kockázatok felmérése, beleértve az etikai hatásokat is, valamint ellenőrzések bevezetése a biztonságos és átlátható AI érdekében.
• Operatív gyakorlatok: Az AI-életciklus-folyamatainak kezelése, a kiszervezett AI-val kapcsolatos kockázatok kezelése és az incidensekre adott válaszok irányítása.
• Monitoring, értékelés és fejlesztés: Az AI hatékonyságának mérése és auditok végzése a fejlesztés érdekében.
• Támogatás és dokumentáció: Az AI-ban jártas munkatársak kompetenciájának biztosítása és a dokumentáció fenntartása az ellenőrzés és a nyomon követhetőség érdekében.

Az ISO 42001 világos és auditálható alapot kínál az AI üzleti folyamatokba történő beépítéséhez, ismételhető AI-irányítási rendszert biztosítva a teljes életciklusra. Ezáltal a vállalatok biztosítják, hogy az AI-rendszerek a tervek szerint működjenek, összhangban az üzleti célokkal, etikai elvárásokkal és kockázattűrő képességgel.

A felügyelet nélküli AI kockázatai

Az AI-befektetések gyorsulásával nő a szakadék a bevezetés és az irányítás között, ami fragmentált, rosszul dokumentált és nem megfelelően monitorozott AI-használathoz vezet. A gyenge felügyelet, nem kezelt modellek és elégtelen kontrollok növelik a szabályozási ellenőrzés, reputációs károk és pénzügyi kockázatok kitettségét, aláásva a bizalmat.

Milyen kockázatokkal jár a tétlenség?

Azok a szervezetek, amelyek robusztus irányítás nélkül telepítenek AI-t, kézzelfogható és egyre növekvő kockázatokkal néznek szembe:

• Pontatlan vagy torz AI-kimenetek által vezérelt rossz üzleti döntések.
• Audit-, megfelelőségi és szabályozási kitettség a hiányzó dokumentáció, monitoring vagy elszámoltathatóság miatt.
• Reputációs károk és bizalomvesztés a nem kezelt eredmények és a korlátozott átláthatóság miatt.
• „Shadow AI” (árnyék AI) használat, amely következetlen döntésekhez és nem kezelt kockázatokhoz vezet.
• Biztonsági és adatvesztési kockázatok a rosszul ellenőrzött modellekből, adatokból vagy adatcsatornákból.
• Elmaradó bevételi lehetőségek, ahol az ügyfelek igazolást várnak a felelős AI használatára.

„Például, egy pénzügyi audit során egy kritikus ellenőrzési folyamatba beépített AI-megoldás nem volt megfelelően dokumentálva. A technológia jól működött, de a tervezés és döntési logika hiányos dokumentációja súlyos auditálási problémákhoz vezethetett. Ez rávilágít, hogy a governance hiánya aláássa a bizalmat ott, ahol a legnagyobb szükség van rá.” – tette hozzá Dr. Barta Gergő.

A Deloitte megközelítése: bizalom és versenyelőny

A Deloitte AI Controls and Assurance szolgáltatásai segítenek az AI-irányítás operacionalizálásában, a megfelelőséget stratégiai eszközzé alakítva. A Deloitte négy úton támogatja a vállalatokat az ISO 42001-hez való igazodásban:

1. ISO 42001 Készenléti felmérések: Független értékelések az AI-gyakorlatokról az ISO 42001 követelményei szerint, az erősségek és hiányosságok azonosításával.
2. ISO-kompatibilis belső auditok: Tanácsadás a belső auditokhoz, a governance, kockázatkezelési és ellenőrzési keretrendszerek hatékonyságának felülvizsgálatával.
3. Harmadik fél általi assurance szolgáltatás (TPA – Third-Party Assurance): Független validáció az AI szolgáltatók kontrolljairól, az irányítás, biztonság és adatintegritás értékelésével.
4. Irányítási rendszer bevezetése: Támogatás az ISO 42001-nek megfelelő AI irányítási rendszer tervezésében és bevezetésében, beleértve a governance struktúrákat, politikákat, kontrollokat és monitoringot.

Az AI-megvalósítások gyakran elbuknak, ha a kockázati és auditálási követelményeket figyelmen kívül hagyják. Multidiszciplináris csapataink segítenek praktikus, auditálható irányítási struktúrák kialakításában, elkerülve a költséges utólagos módosításokat és lehetővé téve az AI magabiztos skálázását. Az IDC MarketScape által globális vezetőként elismert Deloitte egyedülállóan ötvözi az AI-, kockázat-, kontroll- és biztosítéknyújtási képességeit.

A felelős AI-irányítás stratégiai imperatívusz. Az ISO 42001 egy átfogó keretrendszer, amely lehetővé teszi a szervezetek számára, hogy innováljanak, miközben felelősségteljesen és fenntarthatóan minimalizálják a kockázatokat, az AI-t a bizalom és a versenyelőny forrásává alakítva.