Európa stojí na križovatke. Na jednej strane vidí obrovský potenciál umelej inteligencie, na druhej čoraz jasnejšie riziká, ktoré môže priniesť. Európske inštitúcie preto v týchto dňoch zosilňujú tlak na to, aby sa vývoj a nasadzovanie AI dostali pod prísnejší dohľad. Diskusia sa sústreďuje najmä na implementáciu takzvaného Aktu o umelej inteligencii. Ide o prvý komplexný regulačný rámec na svete, ktorý rozdeľuje systémy umelej inteligencie podľa miery rizika – od minimálneho až po neprijateľné. Práve tento prístup má umožniť, aby sa technológia rozvíjala, no zároveň neohrozovala ľudí.
Jadrom celej regulácie je kategória takzvanej vysokorizikovej AI. Ide o systémy, ktoré môžu zásadne ovplyvniť život jednotlivca – napríklad pri rozhodovaní o zamestnaní, poskytovaní úverov, v zdravotníctve alebo v kritickej infraštruktúre. V takýchto prípadoch už nejde len o technológiu, ale o dôveru v systém. Firmy, ktoré tieto riešenia vyvíjajú alebo nasadzujú, musia preukázať, že ich systémy sú bezpečné, presné a pod kontrolou človeka. Povinné sú audity, detailná technická dokumentácia aj registrácia v európskej databáze. AI tak prestáva byť „čiernou skrinkou“, ktorej rozhodnutia nemožno vysvetliť.
Najtvrdšie pravidlá však smerujú na úplne zakázané praktiky. Európska únia napríklad odmieta systémy, ktoré manipulujú správanie ľudí alebo zneužívajú ich zraniteľnosť, najmä u detí. Problematické sú aj niektoré formy biometrického sledovania či sociálneho hodnotenia, ktoré by mohli viesť k diskriminácii. Za porušenie pravidiel pritom hrozia sankcie, ktoré majú odradiť aj najväčších hráčov. V najzávažnejších prípadoch môže pokuta dosiahnuť až 35 miliónov eur alebo sedem percent z celosvetového obratu spoločnosti – podľa toho, ktorá suma je vyššia. Pre globálne technologické firmy ide o potenciálne miliardové riziko.
Európa pritom nečaká na jeden veľký dátum. Akt o umelej inteligencii síce začal formálne platiť už v roku 2024, no jeho pravidlá sa zavádzajú postupne. Práve rok 2026 je moment, keď sa z legislatívy stáva realita. Niektoré zákazy už vstupujú do platnosti a firmy musia začať plniť prvé konkrétne povinnosti. Tie najnáročnejšie požiadavky pre vysokorizikové systémy sa budú uplatňovať v najbližších mesiacoch a rokoch. Regulátori otvorene priznávajú, že bez zásahu by sa technologický vývoj mohol vymknúť spod kontroly. Umelá inteligencia dnes dokáže generovať presvedčivé texty, obrazy aj videá, analyzovať správanie používateľov a prijímať rozhodnutia bez ľudskej súčinnosti. To vyvoláva otázky nielen o bezpečnosti, ale aj o dôvere.
Na druhej strane zaznieva čoraz hlasnejšia kritika zo strany technologického sektora. Firmy upozorňujú, že príliš prísne pravidlá môžu brzdiť inovácie a oslabiť konkurencieschopnosť Európy voči Spojeným štátom či Číne. Obávajú sa aj administratívnej záťaže, ktorá môže menšie spoločnosti úplne odradiť od vývoja nových riešení.
Napätie medzi reguláciou a inováciami tak narastá. Európska únia sa však snaží presadiť model, ktorý pozná už z minulosti – najprv nastaviť jasné pravidlá a až potom umožniť technologický rozvoj v ich rámci. Podobný prístup zvolila aj pri ochrane osobných údajov cez GDPR.
Otázkou zostáva, či sa rovnaký recept osvedčí aj pri umelej inteligencii. Tá sa totiž vyvíja oveľa rýchlejšie než akýkoľvek zákon. A zatiaľ čo politici diskutujú o pravidlách, technológia napreduje bez prestávky. Európa tak hrá o čas aj o dôveru. Ak sa jej podarí nastaviť rozumné hranice, môže sa stať globálnym lídrom v bezpečnej AI. Ak však pravidlá preženie, riskuje, že jej technologický vlak jednoducho ujde.
