EU AI Act pro firmy: co je vysokorizikov├ę AI a co ne
Pra┼żsk├í HR platforma spustila v lednu 2026 nov├Ż AI modul ÔÇö automatick├ę sk├│rov├ín├ş ┼żivotopis┼». Vyvinuli si ho za t┼Öi m─Ťs├şce, deployment byl hladk├Ż, n├íbor se zrychlil o 40 %. V ├║noru dostali dopis. ├ÜOO├Ü a ─îesk├Ż metrologick├Ż institut (ano, pr├ív─Ť on je v ─îR dozorov├Żm org├ínem pro AI Act) po┼żadovali kompletn├ş technickou dokumentaci, fundamental rights assessment a registraci do EU datab├íze vysokorizikov├Żch AI syst├ęm┼».
Bez toho nemohli pokra─Źovat. Pokuta za uveden├ş na trh bez registrace: a┼ż 15 mil. EUR nebo 3 % celosv─Ťtov├ęho obratu.
EU AI Act nen├ş ÔÇ×softÔÇť regulace. Je to nejtvrd┼í├ş AI legislativa na sv─Ťt─Ť ÔÇö a jako prvn├ş se pln─Ť aplikuje na high-risk syst├ęmy v srpnu 2026.
Architektura AI Act
AI Act rozd─Ťluje AI syst├ęmy podle ├║rovn─Ť rizika:
1. Zak├ízan├ę praktiky (nesm├şte v┼»bec)
- Social scoring ob─Źan┼»
- Biometrick├í kategorizace podle rasy, orientace, politick├Żch n├ízor┼»
- Manipulativn├ş techniky zneu┼ż├şvaj├şc├ş zranitelnosti
- Masov├í vzd├ílen├í biometrika v re├íln├ęm ─Źase ve ve┼Öejn├ęm prostoru (krom─Ť v├Żjimek pro policii)
- Predikce trestn├ę ─Źinnosti v├Żhradn─Ť na z├íklad─Ť profilov├ín├ş
- Emotion recognition na pracovišti a ve škole
Pokuty: a┼ż 35 mil. EUR nebo 7 % celosv─Ťtov├ęho obratu.
2. Vysoce rizikov├ę syst├ęmy (high-risk)
To je oblast, kter├í dopad├í na v─Ťt┼íinu komer─Źn├şch AI aplikac├ş:
| Oblast | P┼Ö├şklady |
|---|---|
| Zam─Ťstnanost | CV screening, v├Żkonnostn├ş hodnocen├ş, rozhodov├ín├ş o pov├Ż┼íen├ş |
| Vzd─Ťl├ív├ín├ş | P┼Öij├şmac├ş testy, hodnocen├ş student┼», detekce podvod┼» |
| P┼Ö├şstup k slu┼żb├ím | Credit scoring, pojistn├ę sazby, soci├íln├ş d├ívky |
| Biometrika | Identifikace osob (krom─Ť 1:1 autentizace) |
| Kritick├í infrastruktura | ┼ś├şzen├ş energie, dopravy, vody |
| Justice & vym├íh├ín├ş pr├íva | Predikce rizika, d┼»kazn├ş materi├íly |
| Migrace a hranice | V├şzov├í rozhodnut├ş, azylov├ę ┼Ö├şzen├ş |
| Bezpe─Źnostn├ş komponenty v├Żrobk┼» | Auto, letadla, zdravotnick├ę p┼Ö├şstroje |
Pokuty: a┼ż 15 mil. EUR nebo 3 % obratu.
3. AI s povinnostmi transparentnosti
- Chatboti ÔÇö mus├ş ┼Ö├şct, ┼że jsou AI
- Deepfake obsah ÔÇö povinn├ę zna─Źen├ş
- Emotion recognition (mimo zak├ízan├ę kontexty)
- Syntetick├Ż obsah ÔÇö AI-generovan├ę obr├ízky/video/audio
Pokuty: a┼ż 7,5 mil. EUR nebo 1,5 % obratu.
4. Minim├íln├ş riziko
Zbytek ÔÇö spam filtry, AI ve hr├ích, optimalizace dodavatelsk├Żch ┼Öet─Ťzc┼». Bez specifick├Żch povinnost├ş.
Nejd┼»le┼żit─Ťj┼í├ş rozli┼íen├ş: provider vs. deployer
AI Act z├ísadn─Ť rozli┼íuje dv─Ť role:
Provider (dodavatel)
Kdo AI syst├ęm vyv├şj├ş nebo uv├íd├ş na trh pod sv├Żm jm├ęnem. Nese 95 % povinnost├ş:
- Risk management system
- Data governance
- Technická dokumentace
- Logging
- Transparency a user instructions
- Human oversight design
- Accuracy, robustness, cybersecurity
- Conformity assessment
- Registrace v EU databázi
Deployer (nasazovatel)
Kdo AI syst├ęm pou┼ż├şv├í pro svou ─Źinnost. Povinnosti jsou leh─Ź├ş:
- Dodr┼żovat pokyny providera
- Human oversight (┼żiv├Ż ─Źlov─Ťk nad rozhodov├ín├şm)
- Input data quality
- Monitoring v provozu
- Fundamental Rights Impact Assessment (FRIA) ÔÇö u high-risk syst├ęm┼»
- Informov├ín├ş dot─Źen├Żch osob
Pozor: pokud si deployer AI syst├ęm v├Żrazn─Ť uprav├ş nebo p┼Öejmenuje pod sv├ę jm├ęno, st├ív├í se s├ím providerem a p┼Öeb├şr├í v┼íechny povinnosti. Tohle je past, do kter├ę padne spousta firem.
Rozhodovac├ş strom: kdy spad├íte do high-risk?
1. Pou┼ż├şv├íme AI?
NE Ôćĺ Net
ANO Ôćĺ pokra─Źuj
2. Je to v seznamu zak├ízan├Żch praktik?
ANO Ôćĺ STOP, vypnout
NE Ôćĺ pokra─Źuj
3. Je v oblasti z P┼Ö├şlohy III (HR, education, finance, biometrika, justice)?
NE Ôćĺ pravd─Ťpodobn─Ť minimum risk, jen transparency
ANO Ôćĺ pokra─Źuj
4. Vyv├şj├şme to my pod na┼í├şm jm├ęnem?
ANO Ôćĺ jsme provider, pln├ę povinnosti
NE Ôćĺ pokra─Źuj
5. Upravili jsme to v├Żrazn─Ť nebo deployujeme pod vlastn├ş zna─Źkou?
ANO Ôćĺ st├ív├íme se providerem
NE Ôćĺ jsme deployer, leh─Ź├ş povinnosti
Co konkr├ętn─Ť mus├şte m├şt do srpna 2026
Pokud jste provider high-risk AI:
| Dokument / proces | Náklad na implementaci |
|---|---|
| Risk management system | 150 000 ÔÇô 500 000 K─Ź |
| Data governance framework | 100 000 ÔÇô 400 000 K─Ź |
| Technical documentation | 200 000 ÔÇô 800 000 K─Ź |
| Logging infrastructure | 100 000 ÔÇô 300 000 K─Ź |
| Conformity assessment | 200 000 ÔÇô 1 000 000 K─Ź |
| Registrace v EU datab├ízi | symbolick├ę |
| Post-market monitoring | 50 000 K─Ź/m─Ťs├şc |
| Odhad celkem | 0,8 ÔÇô 3 mil. K─Ź jednor├ízov─Ť + provoz |
Pokud jste deployer high-risk AI:
| Dokument / proces | Náklad |
|---|---|
| Fundamental Rights Impact Assessment | 80 000 ÔÇô 250 000 K─Ź |
| Human oversight process | 40 000 ÔÇô 150 000 K─Ź |
| Informov├ín├ş dot─Źen├Żch osob | 30 000 ÔÇô 80 000 K─Ź |
| Monitoring procedures | 60 000 ÔÇô 150 000 K─Ź |
| Odhad celkem | 210 000 ÔÇô 630 000 K─Ź |
Timeline ├║─Źinnosti
| Datum | Co za─Źne platit |
|---|---|
| 2. února 2025 | Zákazy (prohibited practices) |
| 2. srpna 2025 | GPAI (foundation models), sankce, governance |
| 2. srpna 2026 | High-risk AI podle P┼Ö├şlohy III (to jsou va┼íe HR, finance, scoring syst├ęmy) |
| 2. srpna 2027 | High-risk AI podle P┼Ö├şlohy I (bezpe─Źnostn├ş komponenty v├Żrobk┼») |
Srpen 2026 je pro v─Ťt┼íinu firem deadline. Pokud v tu dobu provozujete AI v HR/financ├şch/scoringu bez compliance, uv├íd├şte na trh protipr├ívn─Ť.
Nej─Źast─Ťj┼í├ş podcen─Ťn├ş ze strany firem
1. ÔÇ×My AI nevyv├şj├şme, jen pou┼ż├şv├íme ChatGPTÔÇť
Pokud ChatGPT pou┼żijete na CV screening zam─Ťstnanc┼» ÔÇö jste deployer high-risk syst├ęmu a m├íte povinnosti. Nesta─Ź├ş, ┼że jste to nevyvinuli.
2. ÔÇ×To je p┼Öece jen pom┼»cka, rozhoduje ─Źlov─ŤkÔÇť
Pokud AI d├ív├í sk├│re a HR pak ÔÇ×rozhodneÔÇť, ale 95 % rozhodnut├ş n├ísleduje AI doporu─Źen├ş ÔÇö nen├ş to human oversight, je to rubberstamping. Regul├ítor tohle zkoum├í.
3. ÔÇ×M├íme GDPR, to sta─Ź├şÔÇť
AI Act je nad┼Öazen├Ż r├ímec. GDPR pokr├Żv├í osobn├ş ├║daje, AI Act pokr├Żv├í syst├ęm jako celek v─Źetn─Ť bias, accuracy a lidsk├ęho dohledu.
4. ÔÇ×Na┼íe AI je prost─Ť pravidlo, ne machine learningÔÇť
Definice AI v AI Act je velmi ┼íirok├í ÔÇö zahrnuje i syst├ęmy s jednoduch├Żm scoringem bez ML. Pokud m├íte decision support s v├íhovan├Żmi krit├ęrii, dost mo┼żn├í spad├íte pod definici.
Case study: pra┼żsk├Ż HR tech startup
Firma dod├ívala AI screening pro 40+ firem v ─îR. Po konzultaci zjistili, ┼że jsou providerem high-risk AI podle P┼Ö├şlohy III.
Co museli do srpna 2026 ud─Ťlat:
- Sestavit 120stránkovou technickou dokumentaci
- Implementovat logging ka┼żd├ęho rozhodnut├ş
- Prov├ęst conformity assessment p┼Öes extern├ş auditora
- Registrovat syst├ęm v EU datab├ízi
- Upravit v┼íechny z├íkaznick├ę smlouvy ÔÇö deployer povinnosti klient┼»
Celkov├Ż n├íklad: 2,4 mil. K─Ź jednor├ízov─Ť + 80 000 K─Ź m─Ťs├ş─Źn─Ť.
Bez toho by od srpna 2026 nesm─Ťli syst├ęm d├íle nab├şzet v EU. Byznys model za 28 mil. K─Ź ro─Źn─Ť visel na compliance.
FAQ: AI Act v praxi
Jak├Ż ├║┼Öad je v ─îR dozorov├Żm org├ínem? ─îesk├Ż metrologick├Ż institut je prim├írn├ş AI autorita. ├ÜOO├Ü m├í kompetence k biometrice a osobn├şm ├║daj┼»m. Sektorov├ę regul├ítory (─îNB, ER├Ü) maj├ş kompetence ve sv├Żch oblastech.
Kdy p┼Öesn─Ť za─Źne platit pro moji firmu? Pokud spad├íte do P┼Ö├şlohy III (HR, finance, education, biometrika, justice): 2. srpna 2026. General purpose AI: 2. srpna 2025. Zak├ízan├ę praktiky: u┼ż od ├║nora 2025.
Jsou v├Żjimky pro mal├ę firmy? Ne p┼Ö├şmo, ale zjednodu┼íen├ę povinnosti pro MSP v r├ímci conformity assessment a men┼í├ş regulatorn├ş sandbox fee.
Co s existuj├şc├şmi syst├ęmy nasazen├Żmi p┼Öed ├║─Źinnost├ş? High-risk syst├ęmy ÔÇ×uveden├ę na trhÔÇť p┼Öed 2. srpnem 2026, kter├ę proch├íz├ş v├Żznamnou zm─Ťnou, mus├ş od t├ę zm─Ťny spl┼łovat AI Act. Bez zm─Ťny: grace period, ale postupn─Ť miz├ş.
Jak to souvis├ş s NIS2? NIS2 a AI Act se p┼Öekr├Żvaj├ş v oblasti cybersecurity AI syst├ęm┼». Jedno compliance nenahrazuje druh├ę ÔÇö pot┼Öebujete oba frameworky (viz ─Źl├ínek o NIS2).
Potřebujete AI Act compliance assessment?
Na Poptej.IT najdete specialisty na AI Act a regulatory compliance. Anonymn├ş sout─Ť┼ż mezi ov─Ť┼Öen├Żmi konzultanty, transparentn├ş ceny, feedback ranking po dokon─Źen├ş. Prvn├şch 5 zak├ízek bez provize. Podle velikosti firmy a rozsahu AI syst├ęm┼» dostanete 5ÔÇô15 nab├şdek b─Ťhem 48 hodin.