Bezpečnosť AI napojenej na firemné dáta: čo ukázala chyba v Copilote
Bezpečnosť AI napojenej na firemné dáta stojí a padá na tom, ku ktorým dátam AI vôbec pustíte a čo môže urobiť bez potvrdenia človekom. Jediný škodlivý odkaz dokázal v Microsoft Copilote spustiť príkazy a odoslať obsah z pripojeného e-mailu, kalendára a diskov, bez toho, aby používateľ čokoľvek potvrdil.
Microsoft vydal 18. augusta 2026 opravu zraniteľnosti CVE-2026-24301, ktorú výskumníci z Varonis Threat Labs pomenovali CoSnitch. Podľa reportáže CSO Online od nahlásenia problému v decembri 2024 po plnú opravu prešlo viac ako osem mesiacov práce, pričom chyba spájala nezdokumentovaný URL parameter, vstavané načítavanie odkazov v Copilote a trvalé otrávenie pamäte asistenta.
V tomto článku si vysvetlíme, čo sa presne stalo, prečo sa to týka aj malých a stredných firiem na Slovensku, a hlavne aké konkrétne kroky urobiť, aby vaše AI automatizácie zostali užitočné a zároveň bezpečné.
Čo sa stalo v Microsoft Copilote a prečo na tom záleží?
Útok fungoval v troch krokoch. Útočník poslal odkaz s upraveným parametrom, Copilot si odkaz sám načítal, a v načítanom obsahu boli inštrukcie, ktoré asistent vykonal ako keby prišli od používateľa. Tretí krok bol najnepríjemnejší, pretože inštrukcie sa uložili do trvalej pamäte asistenta a pôsobili aj v ďalších konverzáciách.
Výsledkom bolo, že asistent s prístupom k pripojenému e-mailu, dokumentom a kalendáru dokázal ich obsah odoslať von. Bez kliknutia, bez potvrdzovacieho dialógu, bez viditeľnej stopy pre bežného používateľa. Toto sa v odbornej literatúre volá nepriama injektáž promptu a je to dnes najpodceňovanejšie riziko podnikových AI nasadení.
Pre slovenské firmy je z toho jedno praktické ponaučenie. Problém nebol v modeli ani v tom, že AI je nespoľahlivá, ale v architektúre prístupov a v tom, že asistent mohol konať bez validačnej vrstvy. Presne o tomto píšeme aj v článku 7 najčastejších chýb pri implementácii AI, kde zlyhania takmer nikdy nespôsobí technológia, ale spôsob nasadenia.
Ako bezpečne napojiť AI na firemné dáta v praxi?
Prvý princíp je najmenší možný prístup. AI riešenie by nemalo mať prístup k celému firemnému disku ani k celej schránke, ale len k tým priečinkom, tabuľkám a záznamom, ktoré daný proces reálne potrebuje. Ak automatizácia spracúva prijaté faktúry, stačí jej prístup k jednej schránke a jednému úložisku faktúr, nie k zmluvám, mzdám či obchodnej korešpondencii.
Druhý princíp je oddelenie čítania od zápisu. Naprostá väčšina firemných automatizácií potrebuje len čítať dáta a pripraviť návrh, ktorý potom schvaľuje človek. Právo zapisovať do CRM, odosielať e-maily klientom alebo meniť záznamy v ERP dávajte len tam, kde je proces jednoznačný a kde má chyba nízku cenu.
Tretí princíp je nedôverovať obsahu, ktorý prišiel zvonku. Text z prijatého e-mailu, PDF od dodávateľa alebo obsah webovej stránky treba spracovať ako dáta, nie ako inštrukcie. V praxi to znamená oddeliť systémové pokyny od vstupu, obmedziť to, čo môže automatizácia spustiť na základe externého textu, a logovať každý krok. Presne takto staviame AI riešenia a automatizácie, s validačnou vrstvou a auditovateľným záznamom.
Aké čísla a príklady z tejto novinky sú dôležité?
Najzaujímavejšie číslo z tohto prípadu nie je technické, ale organizačné. Varonis Threat Labs nahlásili chybu v decembri 2024 a plná oprava prišla až 18. augusta 2026. Aj u dodávateľa veľkosti Microsoftu teda existuje dlhé okno, počas ktorého bola funkcia zraniteľná a používatelia o tom nevedeli.
Druhý dôležitý detail je rozsah dát. Podľa popisu zraniteľnosti mohol útok získať obsah z pripojených služieb Gmail, Drive a Kalendár, teda z účtov, ktoré si používateľ sám pripojil pre pohodlie. Vo firmách sa presne takto vytvára tieňové IT, keď si zamestnanec napojí svojho asistenta na pracovné dáta bez toho, aby o tom vedelo vedenie.
Pre firmy pôsobiace v EÚ má to aj právny rozmer. Únik osobných údajov klientov cez AI nástroj je incidentom podľa GDPR so všetkými ohlasovacími povinnosťami, a od augusta 2026 pribúdajú aj povinnosti podľa EU AI Act pre systémy s vyššou mierou rizika. Ak pracujete s citlivými dátami, oplatí sa zvážiť aj lokálne AI riešenia bez cloudu, kde dáta neopúšťajú vašu infraštruktúru.
Aké chyby robia firmy pri zabezpečovaní AI automatizácií?
Prvá chyba je zapnúť všetky integrácie naraz. Firma kúpi licenciu, klikne na pripojenie e-mailu, kalendára aj úložiska, a až potom rieši, na čo to vlastne používa. Správne poradie je opačné, najprv definujte jeden konkrétny proces a potom mu dajte presne tie prístupy, ktoré potrebuje.
Druhá chyba je plne automatické konanie bez človeka v slučke. Automatizácia, ktorá sama odošle odpoveď klientovi alebo sama zaúčtuje faktúru, vyzerá elegantne v demo videu, ale v prevádzke znamená, že jedna chyba sa okamžite prejaví navonok. Návrh plus jednoklikové schválenie človekom stojí pár sekúnd a odstráni väčšinu rizika.
Tretia chyba je absencia logov a pravidelnej revízie prístupov. Ak neviete spätne dohľadať, ktoré dokumenty AI riešenie čítalo a čo s nimi urobilo, nemáte ako zistiť rozsah prípadného incidentu. Revízia prístupov raz za kvartál je minimum, ktoré zvládne aj malá firma bez vlastného IT oddelenia.
Kde začať s bezpečnou AI automatizáciou už tento týždeň?
- Spíšte zoznam všetkých AI nástrojov, ktoré vo firme reálne bežia, vrátane tých, ktoré si zamestnanci zaviedli sami. Bez tohto zoznamu neviete, čo chránite.
- Pri každom nástroji skontrolujte, ku ktorým účtom a priečinkom má prístup, a všetko nepotrebné odpojte. Toto je najrýchlejšie zníženie rizika, ktoré urobíte za jedno popoludnie.
- Vypnite automatické odosielanie a zápis tam, kde nie je nevyhnutné, a nahraďte ho návrhom na schválenie.
- Zapnite logovanie a určte jednu osobu, ktorá raz mesačne prejde záznamy a prístupy.
- Vyberte jeden proces s vysokou opakovateľnosťou a nízkym rizikom, napríklad triedenie prijatých e-mailov alebo predvyplnenie faktúr, a nasaďte automatizáciu poriadne, s validačnou vrstvou.
Ak si nie ste istí, ktorý proces je na začiatok najvhodnejší, pomôže audit procesov a roadmapa nasadenia v rámci AI konzultácií a stratégie.
Záver
Prípad CoSnitch nie je argument proti AI vo firmách, je to argument za poriadnu architektúru. Bezpečnosť AI napojenej na firemné dáta sa nerobí nastavením v aplikácii, ale rozhodnutím o tom, čo AI vidí, čo môže urobiť samo a kde do procesu vstúpi človek. Firmy, ktoré si toto vyriešia teraz, budú môcť automatizovať rýchlejšie a s menším rizikom než tie, ktoré to odložia.
Ako Vám S Tým Pomôže netWRK
netWRK je štúdio z Bratislavy. Slovenským firmám vyvíjame softvér na mieru a nasadzujeme AI riešenia a automatizácie plne integrované s ich dátami a systémami:
- AI riešenia a automatizácie - automatizácia opakujúcich sa procesov s validačnou vrstvou, kde tam, kde treba, rozhoduje človek.
- Softvér na mieru (CRM, ERP, portály) - systémy presne podľa vašich procesov, bez licencií za funkcie, ktoré nepoužívate.
- AI konzultácie a stratégia - audit procesov a roadmapa nasadenia s odhadom nákladov a času.
👉 Dohodnúť bezplatný audit · 👉 AI riešenia a automatizácie · 👉 Softvér na mieru · 👉 Ďalšie články na blogu
Časté Otázky (FAQ)
Je bezpečné napojiť AI na firemný e-mail a dokumenty?
Áno, ak je prístup obmedzený len na to, čo daný proces potrebuje, a ak automatizácia nemôže sama konať navonok bez schválenia. Riziko nevzniká zo samotného napojenia, ale z kombinácie širokého prístupu a plnej autonómie.
Čo je nepriama injektáž promptu?
Je to útok, pri ktorom sú škodlivé inštrukcie schované v obsahu, ktorý AI spracúva, napríklad v e-maile, PDF alebo na webovej stránke. Model ich vyhodnotí ako pokyn od používateľa. Bránite sa tak, že externý obsah spracujete ako dáta a obmedzíte, aké akcie môže automatizácia na jeho základe spustiť.
Musí malá firma riešiť EU AI Act a GDPR pri AI automatizáciách?
GDPR platí vždy, keď automatizácia pracuje s osobnými údajmi klientov alebo zamestnancov, bez ohľadu na veľkosť firmy. EU AI Act pridáva povinnosti podľa miery rizika daného použitia, takže bežné interné automatizácie sú menej zaťažené než systémy rozhodujúce o ľuďoch.
Ako mi s bezpečným napojením AI na firemné dáta pomôže netWRK?
Začíname auditom procesov a existujúcich prístupov, navrhneme architektúru s minimálnymi oprávneniami a validačnou vrstvou, a automatizáciu nasadíme priamo do vašich systémov. Dostanete logovanie, prehľad o tom, čo riešenie robí, a plán ďalších krokov. Bezplatný audit dohodnete na netwrk.sk/kontakt.
netWRK - AI riešenia a softvér na mieru, Bratislava, Slovensko
📧 netwrk@netwrk.sk · 📞 +421 950 595 600 · 🌐 netwrk.sk · LinkedIn