AI a ochrana dát: čo firma musí vyriešiť predtým, než nasadí AI

Umelá inteligencia dnes dokáže firme ušetriť hodiny práce — od sumarizácie zmlúv cez zákaznícku podporu až po analýzu dokumentov. Lenže každý z týchto scenárov má jednu spoločnú vlastnosť: model potrebuje vidieť vaše dáta. A práve tu sa z technologickej príležitosti stáva otázka práva, bezpečnosti a zodpovednosti. Skôr než firma podpíše prvý cloudový AI kontrakt alebo dovolí zamestnancom používať verejné nástroje, mala by mať jasno v niekoľkých veciach. Tento článok je praktickým sprievodcom — nie právnym poradenstvom (viac o tom na konci).

Čo sa reálne deje s dátami vloženými do cloudovej AI

Keď zamestnanec vloží text do verejného chatbota, dáta opúšťajú firemné prostredie a putujú na servery poskytovateľa — často mimo EÚ. Čo sa s nimi ďalej deje, závisí od konkrétnych podmienok služby, ktoré sa navyše menia. V praxi treba počítať s tromi rizikami:

• Uchovávanie a spracovanie na strane poskytovateľa — dáta môžu byť logované, kontrolované ľuďmi kvôli „bezpečnosti“ alebo dočasne uchovávané, aj keď model na nich priamo netrénuje.
• Použitie na tréning — pri bezplatných a spotrebiteľských verziách býva predvolené, že vstupy môžu slúžiť na zlepšovanie modelu, ak to používateľ aktívne nevypne.
• Prenos mimo EÚ — spracovanie na serveroch v tretích krajinách so sebou nesie povinnosti okolo medzinárodných prenosov dát a otázku, kto k nim má prístup.

Osobitným rizikom je „memorizácia“. Podľa stanoviska EDPB (Európskeho výboru pre ochranu údajov) č. 28/2024 z decembra 2024 nemožno automaticky predpokladať, že natrénovaný model je anonymný. Model je anonymný len vtedy, ak je zanedbateľná pravdepodobnosť, že z neho niekto priamo alebo cez dopyty získa osobné údaje osôb z tréningových dát. Inak povedané: aj samotný model môže byť z pohľadu GDPR nositeľom osobných údajov.

GDPR: čo musí firma vyriešiť pred nasadením

GDPR sa nevzťahuje na „AI“ ako takú, ale na spracovanie osobných údajov — a to sa pri AI deje takmer vždy. Tri veci treba mať pripravené:

• Právny základ — pre každé spracovanie musí existovať legitímny dôvod (súhlas, plnenie zmluvy, oprávnený záujem a pod.). EDPB pripúšťa oprávnený záujem ako možný základ pri AI, no vyžaduje trojstupňový test (existencia záujmu, nevyhnutnosť spracovania, vyváženie voči právam dotknutých osôb).
• Posúdenie vplyvu (DPIA) — podľa článku 35 GDPR je posúdenie vplyvu na ochranu údajov povinné pri spracovaní s vysokým rizikom, najmä pri rozsiahlom spracovaní osobitných kategórií údajov (zdravotné, biometrické), systematickom monitorovaní alebo pri nasadení nových technológií. AI zvyčajne spĺňa aspoň jedno z týchto kritérií.
• Spracovateľská zmluva — ak dáta spracúva externý poskytovateľ AI, článok 28 GDPR vyžaduje písomnú zmluvu (DPA), ktorá viaže spracovateľa na pokyny firmy. Poskytovateľ navyše nesmie zapojiť sub-spracovateľa bez povolenia a za jeho konanie zostáva zodpovedný.

Kľúčové je pochopiť rozdelenie rolí: firma je spravidla prevádzkovateľ (rozhoduje o účele) a AI poskytovateľ spracovateľ. Zodpovednosť za zákonnosť spracovania nesie prevádzkovateľ — teda vaša firma, nie dodávateľ nástroja.

EU AI Act v kocke a jeho časová os

Nariadenie o umelej inteligencii (EU AI Act) je prvý komplexný zákon o AI na svete. Funguje na princípe rizikových tried: zakázané praktiky, vysokorizikové systémy (napr. v nábore, úveroch, zdravotníctve), systémy s obmedzenými povinnosťami a minimálne riziko. Povinnosti sa nespúšťajú naraz, ale postupne:

• 1. august 2024 — nariadenie nadobudlo účinnosť, zatiaľ bez konkrétnych povinností.
• 2. február 2025 — začali platiť zákazy vybraných praktík a povinnosť „AI gramotnosti“ zamestnancov.
• 2. august 2025 — pravidlá pre modely na všeobecné účely (GPAI), správne štruktúry a sankčný režim.
• 2. august 2026 — plná aplikácia väčšiny povinností vrátane vysokorizikových systémov.
• 2. august 2027 — dobehnú zvyšné povinnosti a staršie GPAI modely uvedené na trh pred augustom 2025.

Dôležité: AI Act a GDPR sa nevylučujú — platia súčasne. Firma teda musí riešiť oba rámce naraz. A pozor, aj „len používateľ“ AI (tzv. nasadzujúci subjekt) má podľa AI Actu povinnosti, nielen výrobca modelu.

Shadow AI: tichý únik dát cez ChatGPT

Najväčšie riziko dnes nesedí v zmluve s dodávateľom, ale v prehliadači zamestnanca. „Shadow AI“ — používanie neschválených AI nástrojov bez vedomia IT — je masový jav a čísla sú znepokojujúce:

• Podľa štúdie Cisco 2024 Data Privacy Benchmark až 48 % organizácií priznalo, že do generatívnych AI nástrojov zamestnanci vložili neverejné firemné informácie, a 45 % vložilo údaje o zamestnancoch.
• Kvôli obavám o súkromie a bezpečnosť dát 27 % organizácií GenAI aspoň dočasne úplne zakázalo.
• Podľa správy IBM Cost of a Data Breach 2025 sa shadow AI podieľal na 20 % únikov dát a v priemere pridal 670 000 USD k nákladom na jeden incident.
• Tá istá správa uvádza, že 63 % postihnutých organizácií nemalo žiadnu politiku riadenia AI a 97 % tých s AI incidentom nemalo nastavené základné prístupové kontroly.

Zákaz „zhora“ pritom sám o sebe nefunguje — zamestnanci nástroje používajú tak či tak, lebo im šetria čas. Riešením je kombinácia jasnej politiky, vzdelávania a najmä poskytnutia bezpečnej alternatívy, do ktorej môžu dáta vkladať bez rizika.

Kedy dáva zmysel on-premise alebo lokálne nasadenie

On-premise (na vlastnej infraštruktúre) alebo privátne nasadenie AI znamená, že model beží vo firemnom prostredí a dáta ho neopúšťajú. Nie je to univerzálna odpoveď na všetko, ale v určitých situáciách je to najrozumnejšia — niekedy jediná prijateľná — cesta:

• Regulované odvetvia — banky, poisťovne, zdravotníctvo a štátna správa, kde dáta zo zákona alebo zo zmluvy nesmú opustiť definované prostredie.
• Osobitné kategórie údajov — zdravotné, biometrické či citlivé osobné údaje, pri ktorých je riziko úniku neprijateľné.
• Obchodné tajomstvo a duševné vlastníctvo — zdrojový kód, návrhy produktov, citlivé dokumenty, ktoré nesmú skončiť na cudzom serveri.
• Predvídateľnosť a kontrola — potreba presne vedieť, kde dáta sú, kto k nim má prístup a že sa nepoužijú na tréning cudzieho modelu.

Lokálne nasadenie zásadne zmenšuje plochu rizika: odpadá prenos dát tretej strane, mizne väčšina rizika shadow AI (ak má firma vlastný schválený nástroj) a zjednodušuje sa dôkaz o tom, kde dáta žijú. Presne v tomto priestore pôsobia riešenia typu Nabu Technologies — AI, ktorá beží v prostredí firmy tak, aby dáta nemuseli odísť von.

Self-hosting rieši veľa — ale nie všetko

Tu je dôležité byť úprimný. On-premise nasadenie odstraňuje celú vrstvu rizík spojených s prenosom dát tretej strane, no nezbavuje firmu zodpovednosti. Aj pri lokálnom modeli zostáva firma prevádzkovateľom podľa GDPR: stále potrebuje právny základ, stále môže potrebovať DPIA, stále musí riešiť prístupové práva, logovanie, retenciu a bezpečnosť. AI Act sa vzťahuje na systém podľa jeho účelu a rizikovej triedy — nie podľa toho, kde fyzicky beží. A ak model rozhoduje nesprávne alebo diskriminačne, zodpovednosť za výsledok nesie firma, nie infraštruktúra.

Inak povedané: self-hosting je mocný nástroj na zmenšenie rizika, no nie je „compliance na kľúč“. Je to základ, na ktorom treba postaviť správne procesy, roly a dokumentáciu.

Zhrnutie: krátky checklist pred nasadením

• Zmapujte, aké dáta do AI vstupujú a či medzi nimi sú osobné alebo citlivé údaje.
• Určite právny základ spracovania a posúďte, či potrebujete DPIA.
• Pri cloudových nástrojoch uzavrite spracovateľskú zmluvu (DPA) a preverte prenosy mimo EÚ.
• Zaraďte svoj scenár do rizikovej triedy podľa AI Actu a sledujte časovú os povinností.
• Riešte shadow AI politikou plus bezpečnou schválenou alternatívou.
• Pri citlivých dátach zvážte on-premise nasadenie — no zodpovednosť si nechajte pod kontrolou aj potom.

Tento článok má informatívny charakter a nenahrádza právne poradenstvo. Konkrétne povinnosti závisia od odvetvia, typu dát a nastavenia spracovania — pri nasadení AI odporúčame konzultáciu s odborníkom na ochranu údajov a právnikom.