EU AI Act: Co to reálně znamená pro české firmy | Mňamka #554
Evropská unie přichází s první ucelenou regulací umělé inteligence. EU AI Act má nastavit pravidla pro to, jak se AI vyvíjí a používá. Pro spoustu firem to může znít jako další regulace navíc. Ve skutečnosti ale jde o změnu, která se poměrně rychle propíše do každodenního fungování.
AI už dávno není jen experiment nebo playground pro technologické firmy a čím víc se AI dostává do citlivých oblastí, tím větší tlak je na to, aby její fungování bylo férové a kontrolovatelné.
Co je jednoduše AI Act ?
Je to první zákon na světě, který říká, co umělá inteligence smí a nesmí dělat. Rozděluje AI nástroje do skupin podle toho, jak moc jsou nebezpečné, a ty nejrizikovější podrobuje přísné kontrole, aby nám nepřerostly přes hlavu.
Základní princip je jednoduchý. Ne všechny AI systémy představují stejné riziko. Regulace je proto rozděluje podle toho, jaký mohou mít dopad.Můžeme si to představit ve třech úrovních:
Nízké riziko
Běžné aplikace, které známe z každodenní praxe:
chatboty na webu
doporučovací systémy v e-shopech
Tady bude regulace minimální.
Nepřijatelné riziko
Sem spadají systémy, které jsou považovány za neetické:
sociální scoring (hodnocení lidí státem nebo firmami na základě jejich chování, které pak ovlivňuje, k čemu mají přístup – např. zda dostanou půjčku nebo školu pro děti)
manipulativní technologie ovlivňující chování lidí (skryté techniky, které podprahově nutí lidi dělat rozhodnutí, která by sami neudělali, nebo zneužívají jejich slabostí a zranitelnosti)
Tyto systémy budou zakázané.
High-risk systémy
Tady se to začne týkat většiny firem. Typicky:
AI v HR při výběru kandidátů (systémy, které automaticky třídí životopisy nebo analyzují video-pohovory; hrozí zde riziko, že algoritmus začne nevědomky diskriminovat určité skupiny lidí, například ženy na mateřské nebo starší uchazeče, jen proto, že se „nevejdou“ do historických tabulek úspěšných zaměstnanců)
scoring klientů ve financích (automatické algoritmy, které v bankách rozhodují o vaší bonitě a schválení půjčky; pravidla zde hlídají, aby systém nebyl „černou skříňkou“ a člověk mohl pochopit, proč mu byla hypotéka zamítnuta, a aby rozhodnutí nebylo založeno na předsudcích)
systémy ovlivňující přístup ke službám (technologie, které rozhodují o přístupu ke vzdělání, sociálním dávkám nebo krizovým službám, jako je sanitka či policie; zde je kritické, aby AI neupřednostňovala určité čtvrti nebo skupiny obyvatel na úkor jiných)
Právě u nich přichází konkrétní pravidla a povinnosti.
Dopad na české firmy
Jedna důležitá věc, která často uniká. Regulace se netýká jen těch, kdo AI vyvíjejí. Týká se i těch, kdo ji používají.
To znamená, že pokud firma využívá:
nástroj na screening CV
scoring zákazníků
automatizované rozhodování
stále za něj nese odpovědnost.
V praxi to přináší dvě hlavní změny:
1. Větší kontrola nad tím, co používám
Nestačí vědět, že nástroj funguje, je třeba rozumět tomu:
jak funguje
z jakých dat vychází
jaká má rizika
2. Nová rizika
Nejde jen o pokuty, velkou roli hraje i reputace. Používání AI způsobem, který není transparentní nebo férový, může rychle poškodit důvěru zákazníků i partnerů.
Co budou firmy muset dělat jinak v praxi
Tohle je část, kde se regulace potkává s realitou.
Dokumentace
Firmy budou muset mít jasno v tom:
co jejich AI systém dělá
jak funguje
jaká data používá
Doteď se často spoléhalo na dodavatele, nově bude potřeba mít větší kontrolu interně.
Transparentnost
Pokud uživatel komunikuje s AI, měl by o tom vědět, v praxi:
chatbot je označený jako AI
u složitějších systémů je potřeba vysvětlit, jak ovlivňují rozhodnutí
Data a bias
Kvalita dat = kvalita výstupu.
Firmy budou muset:
kontrolovat zkreslení v datech
testovat modely
být schopné doložit férovost rozhodování
Řízení rizik
AI může udělat chybu, to je realita.
Otázka je:
kde se to může stát
jaký to má dopad
kdo to řeší
Často to povede k tomu, že:
v procesu zůstane člověk jako kontrola
budou existovat scénáře pro krizové situace
Příklad z praxe
Firma používá AI na předvýběr kandidátů.
Dnes:
šetří čas
automatizuje screening
Nově bude potřeba řešit:
podle čeho rozhoduje
jestli umíte výstup vysvětlit
kam se data o kandidátovi ukládají a kdo k nim má přístup
To poslední je v praxi často podceňované. CV nebo profil kandidáta může procházet přes externí nástroje nebo cloudové služby. Firma by měla vědět, kde data končí, jak jsou zabezpečena a jestli nedochází k jejich dalšímu využití.
To může znamenat:
úpravu interních procesů
změnu dodavatele
nebo aspoň lepší kontrolu nad tím, co se s daty děje
Podobně u scoringu zákazníků. Nestačí říct, že to vyšlo z modelu. Firma musí být schopná to rozhodnutí obhájit a zároveň vědět, jak jsou zpracována data, která k němu vedla.
Závěr
Na první pohled to může vypadat jako komplikace, ve skutečnosti to tlačí firmy k tomu, aby měly věci pod kontrolou.
lepší přehled o systémech
kvalitnější data
větší důraz na odpovědnost
A to je něco, co dává smysl i bez regulace, navíc to není jen o povinnostech, firmy, které to zvládnou dobře:
získají důvěru zákazníků
odliší se od konkurence
budou připravené na budoucnost
EU AI Act tak není jen další regulace. Je to signál, že AI se stává standardní součástí byznysu.
Ačkoliv EU AI Act formálně vstoupil v platnost už v srpnu 2024, pro většinu firem byl dosud jen vzdáleným teoretickým rámcem. Skutečný zlom však nastává letos – v srpnu 2026 končí dvouleté přechodné období a v plné síle nastupují pravidla pro tzv. vysokoryzikové systémy. To znamená, že firmy využívající AI v náboru, financích nebo kritické infrastruktuře už nebudou mít prostor pro chyby; jejich systémy musí být od tohoto okamžiku plně transparentní, auditovatelné a v souladu s přísnými evropskými standardy.
Emil
