Únik informácií ako prvé riziko
Umelá inteligencia zrýchľuje prácu, no každý prompt je vstup do cudzieho systému. Keď vložíte draft zmluvy, cenotvorbu alebo interné know how, dáta opúšťajú vaše prostredie a končia na infraštruktúre, ktorú nepoznáte. Aj pri tvrdení, že vaše vstupy sa nepoužijú na tréning, stále existuje spracovanie mimo váš dosah a tým aj riziko porušenia mlčanlivosti či povinnosti chrániť dôverné informácie. Jedna nepozorná otázka vie založiť zodpovednosť za škodu aj reputačný problém, ktorý sa napráva ťažko.
Súkromie a osobné údaje
Ak do AI zadáte mená, adresy, zdravotné alebo finančné údaje, vstupujete do režimu spracúvania osobných údajov cez externého spracovateľa. Potrebujete právny základ, určený účel, minimalizáciu, posúdenie rizík a najmä zmluvné nastavenie so spracovateľom vrátane prenosov do tretích krajín. Verejný chat bez dohody o spracúvaní osobných údajov nie je riešenie a v prostredí prísnych pravidiel ide o najrýchlejšiu cestu k porušeniu povinností voči klientom.
Autorské práva a vlastníctvo výstupov
Modely generujú texty, obrázky a kód podľa vzorov, ktoré nevidíte, takže výsledok môže byť príliš podobný cudziemu dielu alebo dokonca obsahovať jeho chránené časti. Ak takýto obsah použijete v kampani či produkte, nesiete riziko zásahu do práv tretích osôb. Zároveň pri výstupe bez primeranej ľudskej tvorivej voľby môže chýbať chránené autorstvo, čo komplikuje licencovanie a prevod práv. V praxi to znamená dvojité náklady, pretože treba nanovo vytvoriť legálne ošetrené dielo.
Halucinácie a odborná starostlivosť
AI vie presvedčivo tvrdiť nepravdy a tváriť sa pritom kompetentne. V právnych, medicínskych či finančných témach ide o zdroj skutočnej hrozby, nie o drobnú nepríjemnosť. Ak sa podľa takého výstupu rozhodnete alebo niečo odporúčite klientovi, ťažko obhájite, že si konal s odbornou starostlivosťou. Transparentnosť modelov je nízka, vysvetliteľnosť obmedzená a auditovateľnosť slabá, pričom zodpovednosť nakoniec zostáva na vás.
Jednostranné podmienky komerčných služieb
Zmluvné podmienky poskytovateľov AI bývajú výhodné najmä pre nich. Časté sú vylúčenia zodpovednosti, limity náhrady škody, možnosť meniť podmienky bez súhlasu a neurčité bezpečnostné záväzky. Ak chcete nástroj používať vo väčšom rozsahu, potrebujete upraviť SLA, dostupnosť, reakčné časy pri incidente, miesto spracúvania, logovanie, uchovávanie a výmaz, režim subdodávateľov aj právo na audit. Bez týchto parametrov sa len spoliehate, že problém nenastane.
Marketing a pravdivosť tvrdení
AI vie bleskovo vytvoriť promo texty, no často prekročí hranicu dovolených tvrdení, najmä pri potravinách, kozmetike a doplnkoch výživy. Skrytá reklama, chýbajúce označenie spolupráce a prehnané sľuby patria medzi najčastejšie dôvody zásahov dozorných orgánov. Ak model bez kontroly napíše, že produkt lieči alebo zaručene funguje, problém máte vy aj váš partner, keďže výhovorka, že to napísal nástroj, žiaľ neobstojí.
Bezpečnostné riziká integrácií
Pri prepájaní AI s internými systémami vznikajú nové vstupné brány. Prompt injection, úniky cez rozšírenia, neúmyselné spustenie akcií v napojených nástrojoch a kombinácia s verejnými rozhraniami otvárajú priestor pre útok z vonka. Rozumná implementácia vyžaduje sandbox, oddelené prostredia, politiku prístupov, šifrovanie v pokoji aj pri prenose, monitorovanie a plán reakcie na incident. Pri ad hoc používaní verejných chatbotov tieto zásady často zostanú bokom.
Regulačný rámec a dôkazné bremeno
Pravidlá sa sprísňujú a kladú dôraz na riadenie rizík, dokumentáciu a dohľad. Firmy, ktoré AI používajú bez pravidiel, si vyrábajú dodatočnú compliance záťaž a neskôr musia spätne dokazovať, že vedeli čo robia, hodnotili riziká a mali interné smernice. Doťahovať to spätne je náročnejšie, než nastaviť systém správne hneď na začiatku.
Rozumný prístup namiesto slepej viery
Nie je nutné AI odmietať, je však rozumné odmietať nekritické používanie. Najprv si ujasnite, aké dáta smú ísť do modelu a aké nie, kto môže nástroje používať a na aký účel, ako sa budú kontrolovať výstupy a kto za ne zodpovedá, aké zmluvy a poistné krytie potrebujete a ako budete riešiť incidenty. Až potom vyberajte konkrétny produkt a integrácie, inak iba posúvate riziko dopredu a dúfate, že sa nič nestane.
Niekedy stačí poradiť, inokedy treba konať.
V našej advokátskej kancelárii robíme oboje. Poskytujeme nielen odborné poradenstvo, ale aj profesionálne zastupovanie v sporoch. Vďaka skúsenostiam, ktoré máme, sa radíme k špičke sporových advokátov. Spájame poctivé právne remeslo s moderným prístupom a dôsledne nastavujeme najlepšiu stratégiu. Pri základných riešeniach si aj my radi pomáhame umelou inteligenciou, no riziku chybného výsledku AI algoritmu Vás nikdy nevystavíme. Preto každý krok, úkon, či zásadné rozhodnutie prejde rukami skúseného právnika, ktorý na rozdiel od AI, rozumie nielen právu, ale aj ľuďom. Spoľahnite sa na nás a vymeňte svoj problém za riešenie a právnu istotu.
