Ebben az adásban  Érczfalvi Andrással, a TrendFM műsorvezetőjével beszélgettünk az árnyék AI-ról.  Az adás 2026.05.04-én került adásba.

Résztvevők

Árnyék AI: a láthatatlan kockázat, ami már most is ott van a cégében

13% – ennyien látják. És a többiek?

Az IBM 2025-ös kutatása szerint a vállalatok mindössze 13 %-a azonosított saját AI-jal kapcsolatos biztonsági incidenst. Ez első olvasásra megnyugtató szám. A valóság viszont egészen más képet mutat: ugyanez a kutatás azt is feltárta, hogy a cégek 97 %-ánál hiányzik a megfelelő AI-szabályozás, és ami szabályozás nélkül történik, az általában nem is derül ki.

Erről beszélgettem Érczfalvi Andrással 2026. május 4-én a TrendFM Monitor Délután című műsorában. A felvétel azóta meghallgatható a TrendFM oldalán: Mi az az Árnyék AI? Mikor biztonságos a mesterséges intelligencia?

A beszélgetés több olyan kockázati területet járt körbe, amely már most pénzben, ügyfélbizalomban és működési stabilitásban mérhető hatást gyakorol a magyar cégekre. Vezetőként érdemes mindegyikkel tisztában lenni, mert ezek már most is aktuálisak és egyik sem oldódik meg magától.

Az első kockázat: az árnyék AI

Az árnyék AI az a jelenség, amikor a kollégák saját kezdeményezésükre kezdik használni az AI-eszközöket a munkájukhoz. Senki nem tiltja meg nekik, és senki nem mondja meg, hogyan tegyék. Egyszerűen kipróbálják, kényelmesnek találják, és onnantól megy tovább.

A probléma azzal kezdődik, hogy az ingyenes AI-k többségében alapértelmezetten engedélyezve van a beszélgetések tartalmának felhasználása a modell további képzéséhez. A kolléga jó szándékkal felmásol egy 50 ezer soros ügyféllistát egy elemzéshez. Egy másik kolléga betesz egy bizalmas pénzügyi jelentést. Egy harmadik a forráskódot másolja be hibakeresésre.

Ezek az adatok kikerülnek a céges hálózatból, gyakran az Európai Unió területén kívüli szerverekre, és onnan már nincs visszaút. A GDPR és a NIS2 szempontjából ez nem szürke zóna, hanem egyértelmű kockázat.

A tiltás nem megoldás. Aki letiltja az AI-használatot, az csak annyit ér el, hogy a kollégák a saját telefonjukon, VPN-en keresztül vagy egy alternatív platformon oldják meg. Az emberek kreatívak a szabályok megkerülésében.

A működő válasz az, hogy a cég biztosít egy ellenőrzött AI-eszközt és mellé világos szabályokat ad, tisztázza, hogy milyen adatokkal szabad dolgozni. Mi a Quattrosoftnál pont ezt csináljuk: van saját, belső AI-asszisztensünk, és a külső modellek használatára is van szabályozás.

A második kockázat: az AI maga is hackelhető

Ezen sokan megdöbbennek, hiszen az AI-szolgáltatók arról beszélnek, hogy minden biztonságos, nem használják képzésre az adatokat, az infrastruktúra védett. Mindez igaz egészen addig, amíg nem szivárog ki a forráskód, vagy nem találnak egy konfigurációs hibát.

Idén történt két olyan eset, amit minden vezetőnek érdemes ismernie.

Az egyik esetben egy nagy AI-cég kódolóasszisztensének teljes forráskódja nyilvánosságra került egy rossz jogosultsági beállítás miatt. Próbálták lekapcsolni, de ami egyszer felkerül az internetre, az ott is marad. A versenytársak órákon belül elkezdték elemezni.

A másik még izgalmasabb. Megjelent egy új generációs nyelvi modell, amely olyan hatékonysággal találja meg a szoftverek biztonsági réseit, hogy nem tették elérhetővé. A Microsoft, az Apple és néhány más nagy cég a saját forráskódjukat vizsgáltatja Mythos-szal, mielőtt bárki más hozzáférne. A kérdés most már nem az, hogy mekkora a sérülékenység, hanem az, hogy hány órán belül lesz támadó.

Miért érdekes ez egy magyar vezetőnek? Azért, mert a tűzfalak, routerek, biztonsági eszközök jelentős része Linux-alapú rendszereken fut, és a Linux forráskódja nyilvános. Az új típusú AI-eszközökkel megtalálhatók olyan biztonsági rések, amelyek eddig láthatatlanok voltak. Az a biztonsági modell, amely arra épül, hogy „a belső hálózatra nem lehet bejutni" már csak egy ideig fog működni.

Vezetőként itt egy konkrét kérdést érdemes feltenni: ha holnap a belső hálózatára bárki bejutna, milyen rendszereken keresztül férhetne hozzá bizalmas adatokhoz, és ez milyen kárt okozhatna?

A NIS2 szabályozás 2026. június 30-i auditálási határideje pont ezt a fajta tudatos kockázatfelmérést követeli meg. Aki még nem végezte el ezt a munkát, az a bírságot kockáztatja.

A harmadik kockázat: az AI ügynökök, akik túl sokat tudnak

2026 lett az AI-ügynökök éve. Az ügynök nem egyszerű chatbot. Az ügynök hozzáférést kap rendszerekhez, adatbázisokhoz, e-mail-fiókokhoz, és önállóan végez el feladatokat.

2026 júliusában a Replit (egy nagy fejlesztői platform) AI-ügynöke kilenc perc alatt törölte egy partnercég teljes éles adatbázisát. Három órán keresztül nem működött semmi és három hónap adatai elvesztek. A mentések ugyanazon a tárolón voltak, így azokat is törölte az ügynök. Csak egy három hónappal korábbi offline mentés maradt meg, amit vissza tudtak tölteni. Ügyféladatok, partneradatok is elvesztek.

Amikor megkérdezték az AI ügynököt, miért tette ezt, az volt a válasza, hogy nem olvasta el a dokumentációt „lustaságból." A valóságban persze nem lustaságról van szó, hanem optimalizálásról: a szolgáltató az erőforrásain spórol, és a rendszer a saját maga dönti el, mit olvas el és mit nem.

A tanulság ebből egyetlen mondatban összefoglalható: az AI-ügynököknek soha ne adjon olyan jogosultságot, amellyel jóvátehetetlen kárt okozhatnak. Ne legyen képes adatot törölni, ne legyen képes pénzt utalni és ne legyen képes szerződést sem véglegesíteni. Az AI-ügynök készítse elő a döntést, gyűjtse össze a megfelelő információt, fogalmazza meg a választ, de a végső lépést mindig ember hozza meg.

A nagyvállalati gyakorlat ezt egyébként már évtizedek óta tudja: a könyvelő nem utal, csak előkészít. A pénzügyi vezető hagyja jóvá. Az AI-ügynököknél is ezt a logikát kell követni. Csak most már nem évi 100 tranzakcióról beszélünk, hanem percenként százról.

Negyedik kockázat: Az AI-generált kód

Egy negyedik témáról is beszéltünk, ami a fejlesztésben jelenik meg, de minden olyan céget érint, amelyik saját szoftvert üzemeltet vagy fejleszt egyedül vagy külsős partnerrel.

Az AI-asszisztensek által írt kódban a hibák és a biztonsági rések száma másfél-kétszerese az ember által írt kódban levőnek. Ennek eredményeként a junior fejlesztők szerepe csökken, a senior fejlesztők és a kódellenőrzés értéke viszont jelentősen nő.

Ha a cége fejlesztési projekteken dolgozik, érdemes tájékozódni arról, hogy hogyan ellenőrzik az AI-jal készült kódot, és milyen biztonsági szabályozás van a forráskód AI-ba való feltöltésére. A Quattrosoftnál a kollégák használnak az AI-t, de minden egyes generált kódot ellenőriz egy senior fejlesztő, mielőtt tesztelésre kerül.

Ötödik kockázat: A deepfake-csalás már itt van

2026-ban már percek alatt készíthető olyan videohívás-szimuláció, amelyben egy „pénzügyi vezető" utasítást ad egy gyors átutalásra. A hang, a kép, a stílus – minden hihető. A Gartner előrejelzése szerint 2028-ra sem ember, sem gép nem fogja tudni megkülönböztetni a generált tartalmat a valóditól.

Ha a cégében még nincs többfaktoros jóváhagyás a nagyobb pénzügyi tranzakciókhoz, akkor most van itt az ideje bevezetni. Nem holnap. Most.

Mit tegyen vezetőként?

A rádióadásban négy konkrét lépést emeltem ki, amellyel egy nagyvállalat vezetője már a következő hetekben elindulhat.

Első: nézzék át, mit használnak ténylegesen a kollégák. Ez egy belső felmérés, néhány beszélgetés, és a hálózati forgalom elemzése pontos képet ad. A legtöbb vezető meglepődik azon, mennyi különböző AI-eszközt használnak párhuzamosan.

Második: válasszanak egy AI-eszközt, amelyet a cég biztosít a kollégáknak. Dolgozzanak ki hozzá szabályzatot: milyen adatokat lehet betölteni, melyeket nem, hogyan kell kezelni az ügyfélinformációkat, kinek mihez van jogosultsága. A tiltás nem opció, az ellenőrzött használat a megoldás.

Harmadik: ahol AI-ügynököt használnak, ott a jogosultságokat szigorúan, szerepkör alapon kell korlátozni. Az ügynök csak készítsen elő, ne döntsön. Pénzügyi tranzakciónál, ügyféladat módosításnál mindig legyen humán ellenőrzés.

Negyedik: gondolják végig az architektúrát. Az AI-jal kétféleképpen lehet együtt élni. Az egyik út, hogy kinyitjuk a rendszerünket az AI-nak, és hozzáférést adunk neki az adatokhoz. Itt történhetnek azok a katasztrófák, amilyenről a Replit-eset szól. A másik út, hogy a saját rendszerünk hívja meg az AI-t egy-egy kérdéssel, és csak a választ kapja vissza. Ilyenkor a rossz válasz a lehetséges kockázat, nem az adatvesztés. A különbség a kontroll iránya. Ezt az architekturális döntést érdemes vezetőként is megérteni, mert komoly üzleti következményei vannak.

Zárszó

Amit gyakran mondok: az AI nem fekete vagy fehér. Én AI-realistának tartom magam, az AI hihetetlen üzleti lehetőség, ha tudjuk, mire használjuk, hogyan és milyen adatokkal. A kontroll nélküli használat viszont rendkívüli kockázatokkal jár.

A teljes beszélgetés Érczfalvi Andrással mintegy 25 perces, és minden szakaszában konkrét üzleti példák hangzanak el. Vezetőként, ha most időt szakít rá, valószínűleg legalább két olyan kockázati területet ismerhet meg, amivel akár már holnap foglalkozni kell.

Hallgassa meg a teljes adást itt: Mi az az Árnyék AI? Mikor biztonságos a mesterséges intelligencia? – TrendFM Monitor Délután

Ha pedig szeretné felmérni, hol tart a saját vállalata az AI-biztonság, a folyamatdigitalizáció és a szabályozói megfelelés tekintetében, keressen bizalommal. A Quattrosoft 30 éve segít nagyvállalatoknak abban, hogy a működésük átláthatóvá, hatékonnyá és biztonságossá váljon.