Úvod do AI Akt-u
Umelá inteligencia (ďalej len „AI“) sa stala kľúčovým nástrojom modernej spoločnosti. Spolu s jej integračným potenciálom rastú aj právne otázky, ktoré nemožno ignorovať. Nariadenie Európskeho parlamentu a rady 2024/1689 o umelej inteligencii (ďalej len „AI Akt“) je prvým právnym rámcom svojho druhu, ktorý upravuje využívanie AI v súlade so základnými ľudskými právami, bezpečnosťou a dôverou verejnosti. V nasledujúcich článkoch si predstavíme štyri oblasti, v ktorých právo najvýraznejšie reaguje na výzvy spojené s integráciou AI do našich každodenných životov.
Kde končia inovácie a začínajú hranice
Rozvoj AI priniesol do spoločnosti množstvo benefitov. Od strojovej diagnostiky v medicíne cez personalizované vzdelávanie až po efektívnejšie riadenie dopravy. Ako to pri silných nástrojoch býva, AI prináša nielen užitočné riešenia, ale aj potenciálne nebezpečenstvá. A práve preto Európska únia v rámci AI Aktu stanovila v článku 5 jasnú červenú čiaru:
Niektoré spôsoby využitia AI sú jednoducho zakázané. Nie preto, že by neboli technicky možné, ale preto, že sú v rozpore s hodnotami, na ktorých stojí Európska únia. Tieto technológie alebo prístupy európske právo bez výnimky zakazuje, pretože predstavujú závažné riziko pre základné ľudské práva, dôstojnosť a súkromie jednotlivcov. AI akt zakazuje týchto 8 praktík
Zakazuje sa používanie AI na manipuláciu správania.
Ide o AI systémy, ktoré manipulatívne alebo podprahovým spôsobom ovplyvňujú správanie ľudí bez ich vedomia tak, že im bránia prijímať informované rozhodnutia, často s negatívnym dopadom na zdravie, dôstojnosť či súkromie. Príkladom je použitie zvukových stimulov na zvýšenie výkonu zamestnancov na úkor ich psychickej pohody, či vizuálnych stimulov na udržanie pozornosti na sociálnych sieťach.
Zakazuje sa používanie AI na zneužívanie zraniteľnosti osôb.
Napríklad zneužívanie veku, postihnutia alebo sociálnemu postavenia. Ide o ovplyvňovanie ich správania spôsobom, ktorý im môže spôsobiť vážnu ujmu. Typickým príkladom by bola hračka, ktorá deti nabáda na nebezpečné správanie, ako požívanie alkoholu alebo drog, alebo digitálny asistent, ktorý odkazuje dôchodcov na podvodné stránky za zámienkou technickej pomoci.
Zakazuje sa používanie AI na sociálne bodovanie osôb.
Teda hodnotenie ľudí na základe ich správania či osobnostných čŕt s cieľom určiť ich „dôveryhodnosť“, „spoľahlivosť“ či „hodnotu“, ak takéto skóre vedie k znevýhodneniu osôb v nesúvisiacich oblastiach života alebo neprimeraným zásahom do ich práv. Príkladom by bol systém, ktorý by na základe „správneho“ správania povoľoval či zakazoval využívanie verejných služieb. Európska únia úplne vylučuje tento koncept, ktorý verejnosť pozná najmä z Číny. EÚ odmieta, aby sa z človeka stal len súčet čísel v nejakej tabuľke.
Zakazuje sa používanie AI na biometrickú identifikáciu osôb za účelom kategorizácie.
Teda využívanie kamier a algoritmov na rozpoznávanie tvárí vo verejných priestoroch, a to bez predchádzajúceho súhlasu alebo kontrolného mechanizmu, s cieľom určiť ich rasu, náboženstvo, politické názory či sexuálnu orientáciu. Hoci právne predpisy pripúšťajú úzke výnimky, napríklad pri pátraní po nezvestných či hľadaných osobách, základné pravidlo stanovuje jasnú hranicu. Nikto nesmie hromadne sledovať ľudí ani zhromažďovať ich biometrické informácie bez právneho dôvodu.
Zakazuje sa používanie AI na biometrickú identifikáciu osôb za účelom presadzovania práva.
Výnimky platia len pre orgány presadzovania práva, napríklad pri hľadaní nezvestných alebo pri predchádzaní teroristickým útokom, a len za prísnych podmienok ako napríklad súdne povolenie či nezávislý dohľad nad systémom.
Zakazuje sa používanie AI na predikciu trestného konania osôb.
Teda nikto nesmie používať AI systémy na predvídanie, či niekto spácha trestný čin, ak takéto posudzovanie vychádza len z profilovania osoby alebo jej osobnostných čŕt. Výnimkou je, ak systém slúži len ako doplnok k ľudskému rozhodnutiu a vychádza z objektívnych, vecne relevantných údajov. Pointou je, že AI systém sám, toto rozhodnutie urobiť nemôže.
Zakazuje sa používanie AI na tvorbu databáz rozpoznávania tváre,
a to prostredníctvom masového zberu snímok z internetu, bezpečnostných kamier, alebo obdobným spôsobom bez súhlasu dotknutých osôb.
Zakazuje sa používanie AI na odhadovanie emócií osôb na pracoviskách a v školách,
s výnimkou prípadov, keď ide o medicínske alebo bezpečnostné účely, napríklad na prevenciu nehôd či zdravotné monitorovanie.
Prečo práve tieto praktiky?
Zakázané praktiky nie sú vybrané náhodne. Ich spoločným menovateľom je to, že podkopávajú základné práva a hodnoty Európskej únie. Manipulácia narúša slobodnú vôľu, zneužívanie zraniteľnosti je v rozpore s právom na nedotknuteľnosť osoby. Sociálne bodovanie degraduje ľudskú dôstojnosť a biometrické sledovanie útočí na súkromie v najcitlivejšom priestore jeho vlastného života.
Práve preto sú tieto zákazy formulované ako všeobecne záväzné a bez akýchkoľvek výnimiek pre startupy, technologických gigantov či verejné inštitúcie. Inovácia a pokrok nemôže byť legitímnou zámienkou pre porušovanie ľudských práv.
Zákaz, ktorý je aj politickým odkazom
Zvlášť zaujímavé je ustanovenie o zákaze sociálneho bodovania. Európska únia výslovne odmieta tento koncept, ktorý napríklad v Číne praktizujú tým, že občanom prideľujú „body“ za vhodné alebo nevhodné správanie. Nie preto, že by nebol technicky zvládnuteľný, ale preto, že je v priamom rozpore s chápaním jednotlivca ako autonómnej osoby.
V tomto ohľade AI Akt nie je len technickou reguláciou, ale je aj politickým vyhlásením. Stanovuje, že v Európskej únii nebudeme merať hodnotu ľudí podľa skóre prideleného netransparentným algoritmom, alebo akýmkoľvek algoritmom, že verejné priestranstvo zostane verejné, a že technológie musia slúžiť človeku, nie naopak.
Musíme stanoviť hranice
Zakázané praktiky AI sú dôležitým prvkom celej regulácie. Nielen preto, že chránia jednotlivcov, ale preto, že nastavujú hranice technológii ako takej. Ukazujú, že nie všetko, čo je možné, je aj prípustné. Kľúčovým momentom sú hodnoty, ktoré sú pre nás ako spoločnosť dôležitejšie ako technologický pokrok za každú cenu. Z toho nám vyplýva možno najdôležitejší odkaz, ktorý nám AI akt priniesol, a tým je fakt, že v digitálnom priestore musí zostať človek centrom záujmu.
