Kontrola AI automatizácií: musí ju mať aj malá firma?
Áno. Kontrola AI automatizácií už nie je len záležitosť veľkých technologických firiem, pretože regulátori začínajú skúmať, kto zodpovedá za škody, ktoré AI nástroje spôsobia. Pre slovenskú firmu to prakticky znamená jednu vec: každá AI automatizácia, ktorá niečo posiela, schvaľuje alebo mení, musí mať jasného vlastníka, záznam o tom, čo urobila, a človeka, ktorý vie zasiahnuť.
Americký regulátor FTC 30. septembra 2026 potvrdil, že skúma možné bezpečnostné riziká produktov firiem OpenAI a Anthropic. Podľa Axios ide o vyšetrovanie, ktoré beží už niekoľko týždňov, a podľa správ sa pripravujú aj povinné žiadosti o dokumenty a výpovede. Prečo je to dôležité práve teraz? Pretože sa tým mení otázka z „Čo AI vie?“ na „Kto za to ručí?“.
Čo sa stalo a prečo na tom záleží aj mimo USA?
FTC je americký úrad na ochranu spotrebiteľov a hospodársku súťaž. Podľa Axios úrad potvrdil, že skúma potenciálne bezpečnostné riziká produktov OpenAI, Anthropic a ďalších AI firiem. Axios zároveň pripomína skoršiu správu, podľa ktorej obe firmy a bezpečnostní výskumníci preverovali „desaťtisíce“ možných bezpečnostných incidentov.
Slovenská firma nespadá pod FTC, ale spadá pod európske pravidlá a pod rovnaký princíp. Ak vaša automatizácia pošle zákazníkovi nesprávnu faktúru, zverejní dôverné údaje alebo omylom zmení záznam v systéme, zodpovednosť bude na vás, nie na dodávateľovi jazykového modelu. O tom, ako sa vyhnúť úniku firemných údajov cez AI, sme písali v článku Firemné dáta v AI: 5 pravidiel po kauze Project Lily.
Zdroje zároveň uvádzajú, že šéf FTC Andrew Ferguson naznačil možnú zodpovednosť vývojárov za škody spôsobené pri nesprávnom použití AI nástrojov. Ide o interpretáciu spravodajských zdrojov, nie o oficiálne rozhodnutie. Dôležitý je smer: regulátori chcú, aby za výstup AI niekto niesol zodpovednosť.
Ako vyzerá kontrola AI automatizácií v praxi?
Dobrá kontrola nie je byrokracia. Je to päť jednoduchých vrstiev, ktoré si môže nastaviť aj firma s desiatimi zamestnancami. Každá z nich je lacnejšia než jedna chyba, ktorá sa dostane k zákazníkovi.
Prvou vrstvou je rozsah oprávnení. AI automatizácia má mať prístup len k tým dátam a systémom, ktoré naozaj potrebuje, rovnako ako nový zamestnanec nedostane kľúče od celej firmy v prvý deň. Ak automatizácia spracúva faktúry, nepotrebuje prístup do mzdovej agendy.
Druhou vrstvou je záznam činnosti. Každý krok, ktorý automatizácia urobí, sa zapíše: čo dostala na vstupe, čo rozhodla, čo odoslala a kedy. Vďaka tomu viete spätne dohľadať príčinu chyby aj dokázať, ako sa postupovalo.
Treťou vrstvou je schvaľovanie citlivých krokov. Platby, zmeny cenníkov, hromadné e-maily a mazanie dát majú ísť cez človeka. Práve tento princíp, teda explicitný súhlas pri citlivých akciách, zdôrazňujú aj nové produkty veľkých dodávateľov, napríklad OpenAI pri nedávno spustených nepretržite bežiacich AI automatizáciách (pozri AI Update, 2. októbra 2026).
Štvrtou vrstvou je pravidelné testovanie na reálnych prípadoch. Praktický postup sme opísali v článku Testovanie AI automatizácií: 5 krokov. Piatou vrstvou je núdzový vypínač: jedno miesto, kde vie určená osoba automatizáciu okamžite zastaviť.
Aké čísla a príklady z novinky stoja za pozornosť?
Samotné vyšetrovanie FTC zatiaľ neprináša čísla o pokutách ani o rozsahu škôd, a preto ich nebudeme vymýšľať. Podľa Axios však ide o vyšetrovanie viacerých AI firiem naraz, nielen jednej.
Zaujímavé čísla ponúka širší kontext. Prieskum PwC, ktorý spomína týždenný prehľad MarketingProfs, zahŕňal 49 364 pracovníkov zo 48 krajín. Podiel ľudí, ktorí používajú AI, vzrástol z 54 % na 64 %, no prístup k vzdelávaniu v oblasti AI klesol z 59 % na 51 %. Inými slovami, AI používa čoraz viac zamestnancov, ale čoraz menej z nich dostáva školenie, ako ju používať bezpečne.
Pre slovenské SMB je to praktické varovanie. Zamestnanci už pravdepodobne používajú AI nástroje, aj keď im to nikto oficiálne nenastavil. Bez pravidiel a bez záznamov firma nevie, aké dáta a kam odchádzajú.
Aké chyby firmy robia najčastejšie?
Prvou chybou je nasadenie bez vlastníka. Automatizáciu postaví externý dodávateľ alebo nadšený kolega a potom o nej nikto nevie, kto za ňu zodpovedá. Určte pri každej automatizácii jedného človeka, ktorý ju pozná a rozhoduje o jej zmenách.
Druhou chybou je spoliehanie sa na „funguje to“. Automatizácia, ktorá bežala bez problémov mesiac, môže zlyhať po zmene vo formáte dokumentov alebo po aktualizácii modelu. Nastavte kontrolné vzorky, napríklad náhodných desať výstupov týždenne prejde človek.
Treťou chybou je zlyhanie bez stopy. Ak automatizácia nezapisuje, čo urobila, nemáte dôkaz ani pri reklamácii zákazníka, ani pri kontrole. Zapisovanie je lacné, dohľadávanie bez záznamov je drahé. Viac o tom, prečo firmy kontrolu podceňujú, nájdete v článku Kontrola AI automatizácií: 77 % firiem sa mýli.
Kde začať a čo urobiť už tento týždeň?
Začnite jednoduchým inventárom. Tieto kroky zvládne malá firma za pár dní:
- Spíšte všetky AI nástroje a automatizácie, ktoré vo firme bežia, vrátane tých, ktoré si zamestnanci spustili sami.
- Pri každej určte vlastníka a zapíšte, k akým dátam a systémom má prístup.
- Označte kroky, ktoré menia peniaze, zákaznícke údaje alebo komunikáciu navonok, a zaveďte pri nich schválenie človekom.
- Skontrolujte, či sa činnosť automatizácií zapisuje do záznamu, ktorý viete spätne prečítať.
- Dohodnite krátke školenie pre tím o tom, aké údaje sa do AI nástrojov nesmú vkladať.
Záver
Vyšetrovanie FTC nie je správa len pre americké laboratóriá. Je to signál, že zodpovednosť za AI sa presúva k tým, ktorí ju nasadzujú, a to platí aj pre slovenské firmy. Dobrá správa je, že kontrola AI automatizácií je lacná, ak sa nastaví hneď na začiatku, a že firma, ktorá ju má, môže automatizovať odvážnejšie než konkurencia.
Ako Vám S Tým Pomôže netWRK
netWRK je štúdio z Bratislavy. Slovenským firmám vyvíjame softvér na mieru a nasadzujeme AI riešenia a automatizácie plne integrované s ich dátami a systémami:
- AI riešenia a automatizácie - automatizácia opakujúcich sa procesov s validačnou vrstvou, kde tam, kde treba, rozhoduje človek.
- Softvér na mieru (CRM, ERP, portály) - systémy presne podľa vašich procesov, bez licencií za funkcie, ktoré nepoužívate.
- AI konzultácie a stratégia - audit procesov a roadmapa nasadenia s odhadom nákladov a času.
👉 Dohodnúť bezplatný audit · 👉 AI riešenia a automatizácie · 👉 Softvér na mieru · 👉 Ďalšie články na blogu
Časté Otázky (FAQ)
Čo vyšetruje FTC v prípade OpenAI a Anthropic?
Podľa Axios z 30. septembra 2026 FTC potvrdila, že skúma potenciálne bezpečnostné riziká produktov OpenAI, Anthropic a ďalších AI firiem. Vyšetrovanie beží už niekoľko týždňov.
Týka sa vyšetrovanie FTC aj slovenských firiem?
Priamo nie, FTC je americký úrad. Princíp zodpovednosti za výstupy AI však platí všade a slovenské firmy podliehajú európskym pravidlám, takže je rozumné nastaviť kontrolu už teraz.
Ako zistím, či je moja AI automatizácia dostatočne kontrolovaná?
Overte, či má vlastníka, obmedzený prístup k dátam, záznam činnosti a schvaľovanie citlivých krokov človekom. Ak niektorá z týchto vecí chýba, tam začnite.
Ako mi s kontrolou AI automatizácií pomôže netWRK?
Urobíme audit vašich procesov a existujúcich automatizácií, navrhneme validačnú vrstvu so schvaľovaním človekom a záznamom činnosti a nasadíme ju do vašich systémov. Viac nájdete v časti AI konzultácie a stratégia.
netWRK - AI riešenia a softvér na mieru, Bratislava, Slovensko
📧 netwrk@netwrk.sk · 📞 +421 950 595 600 · 🌐 netwrk.sk · LinkedIn