AI v práve: prečo musí každá odpoveď mať zdroj

Rozdiel medzi dobrým a nebezpečným AI nástrojom v práve nie je v tom, ako často sa pomýli. Je v tom, ako rýchlo sa to dá zistiť. Odpoveď bez zdroja musíte overiť celú — teda urobiť presne tú prácu, ktorú vám mal nástroj ušetriť. Odpoveď, pri ktorej má každé tvrdenie odkaz na konkrétny paragraf alebo rozhodnutie, overíte za pár sekúnd: kliknete a pozriete sa. Z toho istého modelu sa tak stane raz asistent a raz riziko.

Nexana.ai je právny AI asistent a compliance vrstva pre malé a stredné firmy, advokátov a účtovníkov. Stojí na jednom pravidle: každá odpoveď má klikateľný zdroj, a ak podklad neexistuje, systém to povie namiesto toho, aby odpoveď dotvoril. Chybovosť držíme pod 2 %. Tento článok však nie je o technológii — je o tom, čo taký režim mení v každodennej práci a kde končí zodpovednosť nástroja a začína zodpovednosť človeka, ktorý výstup podpíše.

Koľko si jazykové modely v odborných doménach vymýšľajú a čo proti tomu technicky funguje, sme rozobrali v samostatnom článku o halucináciách; sem to nebudeme opakovať.

Overiteľnosť je vlastnosť odpovede, nie zoznam odkazov na konci

Väčšina nástrojov dnes „zdroje“ nejako ukazuje. Pod textom pribudne päť odkazov na predpisy a rozhodnutia a používateľ má pocit, že odpoveď je podložená. Lenže bibliografia nie je citácia. Ak neviete, ktorý z piatich odkazov podopiera práve tú vetu, na ktorej vám záleží, overovanie ste nezískali — len ste ho presunuli o úroveň nižšie. Overiteľná odpoveď má tri vlastnosti a všetky tri sa dajú na demo verzii otestovať za desať minút.

• Granularita: zdroj patrí k tvrdeniu, nie k celej odpovedi. Pri každej vete, ktorá niečo tvrdí o práve, musí byť zrejmé, z čoho presne vychádza.
• Adresnosť: odkaz má viesť na konkrétne ustanovenie v konkrétnom znení, nie na titulnú stranu zákona alebo na vyhľadávač. Rozdiel medzi jedným klikom a piatimi minútami hľadania rozhoduje o tom, či právnik overovanie reálne robí, alebo ho po týždni prestane robiť.
• Priznaná medzera: ak systém podklad nemá, musí to povedať. Veta „v dostupných prameňoch som k tomu nenašiel oporu“ je použiteľná informácia — hovorí, že tu treba človeka. Plynulý odsek bez opory je pasca, lebo vyzerá presne ako správna odpoveď.

Aktuálnosť: znenie k dátumu, nie znenie „vo všeobecnosti“

Druhá vec, ktorá v praxi rozhoduje, je čas. Zákon nie je jeden text, ale postupnosť znení, a otázka klienta sa takmer vždy viaže na konkrétny deň — kedy bola zmluva uzavretá, kedy vznikla povinnosť, kedy sa začalo konanie. Model, ktorý „vie“ právo z tréningových dát, pozná zmes znení bez dátumu. To je pre rešerš nepoužiteľné a pre compliance nebezpečné.

Slovenské právo je v tomto navyše presné až nemilosrdné. Podľa zákona č. 400/2015 Z. z. o tvorbe právnych predpisov a o Zbierke zákonov sa v elektronickej Zbierke vyhlasujú konsolidované znenia, pričom právne záväzné sú len tie, ktoré ministerstvo spravodlivosti ako právne záväzné označí; sprístupnené úplné znenia opatrení a ich konsolidované znenia majú výlučne informatívny charakter. Nástroj, ktorý tento rozdiel nevie ukázať, vám nedáva prameň — dáva vám pomôcku vydávanú za prameň. Praktický test na dodávateľa znie jednoducho: viem si vyžiadať odpoveď k stavu práva k určitému dňu a vidím pri každom odkaze, o ktoré znenie ide?

Zodpovednosť sa nedá delegovať na nástroj

Toto je bod, ktorý sa v diskusiách o AI v práve obchádza najčastejšie. Za podanie, stanovisko či daňové priznanie nezodpovedá dodávateľ softvéru. Profesijné usmernenia to už formulujú explicitne. Americká advokátska komora vydala 29. júla 2024 Formal Opinion 512 — prvé ucelené etické stanovisko k generatívnej AI. Prechádza šesť povinností: odbornú spôsobilosť, dôvernosť, komunikáciu s klientom, dohľad nad spolupracovníkmi, čestnosť voči súdu a primeranosť odmeny. Kľúčové je, že za rizikové označuje „nekritické spoliehanie sa“ na obsah vytvorený AI, pričom miera potrebnej kontroly závisí od kontextu — iná je pri brainstormingu, iná pri práci s dokumentmi.

Stanovisko má aj dve veľmi konkrétne konzekvencie, ktoré si kancelárie málokedy premyslia dopredu. Pri nástrojoch, ktoré sa učia zo vstupov, je pred vložením informácií týkajúcich sa zastupovania potrebný informovaný súhlas klienta — a paušálna doložka v zmluve nestačí. A pri účtovaní platí, že hodinovú odmenu možno vyúčtovať len za skutočne odpracovaný čas: ak AI skrátila prácu z troch hodín na dvadsať minút, klientovi sa účtuje dvadsať minút.

Európska strana hovorí to isté, len iným jazykom. CCBE, ktorá zastupuje advokátske komory v Európe, vydala 2. októbra 2025 sprievodcu k používaniu generatívnej AI advokátmi. Odborná spôsobilosť podľa nej nezahŕňa len právo, ale aj povinnosť poznať technický produkt, ktorý advokát pri výkone povolania používa — a advokáti majú overiť výstup generatívnej AI predtým, než ho použijú vo svojej práci. K dôvernosti pridáva jasné pravidlo nevkladať osobné, dôverné ani iné klientske údaje do rozhrania nástroja, ak nie sú zavedené primerané záruky. Upozorňuje aj na menej diskutované riziko: podlízavosť modelu, teda tendenciu prispôsobiť odpoveď tomu, čo si používateľ zjavne želá počuť — čo priamo naráža na povinnosť nezávislosti a nestranného poradenstva. A pomenúva následky: používanie AI obsahu bez náležitého overenia môže viesť k disciplinárnym sankciám či pohŕdaniu súdom, k žalobám za nesprávny výkon povolania a k poškodeniu dôvery klienta aj reputácie advokáta.

Že nejde o teóriu, ukazuje databáza AI Hallucination Cases, ktorú vedie Damien Charlotin. Zbiera rozhodnutia, v ktorých súdy riešili podania s vymyslenými citáciami, spolu s uloženými sankciami a pokutami; už v júli 2025 obsahovala vyše dvesto zdokumentovaných prípadov z USA, Spojeného kráľovstva, Kanady, Austrálie, Izraela či Brazílie a naprieč prakticky všetkými oblasťami praxe. Tlak na profesiu pritom rastie rýchlejšie než jej pravidlá: podľa prieskumu Thomson Reuters z apríla 2025 stúpol podiel právnych organizácií aktívne používajúcich generatívnu AI zo 14 % na 26 % za jediný rok, no 48 % respondentov z advokátskych kancelárií stále nemalo pre jej používanie žiadnu formálnu politiku.

Európsky rámec: latka je nastavená vysoko

Nariadenie o umelej inteligencii radí do kategórie vysokorizikových systémov aj tie, ktoré sú určené na použitie justičným orgánom alebo v jeho mene na pomoc pri skúmaní a výklade skutkových okolností a práva a pri aplikácii práva na konkrétny skutkový stav, prípadne na obdobné použitie v alternatívnom riešení sporov (príloha III, bod 8). Bežný nástroj pre advokátsku kanceláriu alebo účtovníka sem spravidla nespadá — nerozhoduje za súd. Ale je poučné vidieť, čo z toho zaradenia plynie: riadenie rizík, logovanie, transparentnosť a ľudský dohľad. Presne tie vlastnosti, ktoré zdrojovaná odpoveď robí uskutočniteľnými.

Jedna povinnosť sa navyše týka aj samotných používateľov. Článok 4 nariadenia ukladá poskytovateľom aj nasadzujúcim subjektom prijať opatrenia na zabezpečenie dostatočnej úrovne AI gramotnosti svojich zamestnancov a ďalších osôb, ktoré s AI systémami pracujú v ich mene; platí od 2. februára 2025. Kancelária, ktorá nástroj len používa, teda nie je mimo hry — a školenie, ktorého obsahom je „kliknite sem a skopírujte výstup“, tejto povinnosti nezodpovedá.

Najstaršia európska formulácia toho istého princípu je pritom z roku 2018: Európska etická charta CEPEJ o používaní AI v justičných systémoch stanovila päť zásad a jednu z nich nazvala „pod kontrolou používateľa“ — sudca má zostať informovaným aktérom a pánom svojich rozhodnutí, musí si vedieť preveriť podkladové údaje a odchýliť sa od odporúčania systému. Bez zdroja, na ktorý sa dá kliknúť, je táto zásada len zbožným želaním. So zdrojom je to bežná operácia.

Čo sa tým reálne mení v dennej práci

• Advokát dostane rešerš za minúty namiesto hodín — ale hlavne ju vie skontrolovať skôr, než ju použije, lebo pri každom tvrdení vidí, z čoho vychádza. Overovanie sa mení z revízie celého textu na cielené kliknutia.
• Účtovník pracuje so znením k dátumu, nie so zmesou znení spred dvoch noviel — a vie doložiť, o ktoré znenie sa opieral, keď sa naň o rok niekto spýta.
• Firma si nechá skontrolovať zmluvu skôr, než ju podpíše: systém upozorní na rizikové ustanovenia a k upozorneniu pridá oporu, s ktorou sa dá ísť za druhou stranou. Argument „takto to napísala AI“ pri rokovaní neobstojí, argument s paragrafom áno.
• Kancelária dokáže preukázať, ako výstup vznikol. To je rozdiel medzi obhájiteľným procesom a vysvetľovaním po tom, čo sa niečo pokazí.

Otázky, ktoré sa oplatí položiť dodávateľovi

• Je citácia naviazaná na jednotlivé tvrdenie, alebo je to zoznam odkazov pod odpoveďou?
• Vedie odkaz priamo na konkrétne ustanovenie a konkrétne znenie, alebo len na predpis ako celok?
• Čo systém urobí, keď podklad neexistuje — povie to, alebo odpovie aj tak?
• Ako je riešená aktuálnosť: viem si vyžiadať stav práva k určitému dňu a vidím, ktoré znenie je právne záväzné?
• Kde sa spracúvajú moje vstupy, kto k nim má prístup a používajú sa na trénovanie modelu?
• Existuje záznam o tom, kto sa čo pýtal a aké zdroje systém použil — a viem ho v prípade sporu vyexportovať?
• Má dodávateľ zmerané chybové čísla na vlastných dátach, alebo len tvrdenie „bez halucinácií“ v marketingu?

Poučenie, ktoré neplatí len v práve

Zdrojovanie nie je funkcia navyše, ktorú sa oplatí doplniť v druhej verzii produktu. Je to jediná vlastnosť, vďaka ktorej sa AI systém dá zaradiť do procesu, za ktorý niekto nesie zodpovednosť. Nástroj, pri ktorom viete každé tvrdenie overiť za pár sekúnd, je bezpečný aj vtedy, keď sa pomýli — chyba sa zachytí skôr, než opustí kanceláriu. Nástroj, ktorý dá plynulý odsek bez opory, je nebezpečný aj vtedy, keď má pravdu, lebo si na neho zvyknete presne v tom čase, keď ho prestanete kontrolovať. Platí to pre právo, pre dane, pre interné smernice aj pre technickú dokumentáciu. Preto je pri každom AI projekte, ktorý staviame, otázka zdrojov prvá na zozname — nie posledná.