Klíčovou povinností, která se od tohoto data vztahuje na široké spektrum firem, je transparentnost při využívání AI. Společnosti musí jasně a srozumitelně informovat uživatele o tom, že komunikují s umělou inteligencí – ať už jde o chatboty, virtuální asistenty nebo hlasové systémy. Stejná povinnost se vztahuje na AI agenty, kteří samostatně rezervují, objednávají nebo vyřizují korespondenci: podle pokynů Evropské komise musí tito agenti uvést nejen to, že jsou umělou inteligencí, ale i to, za koho jednají.
Povinné označení se týká také veškerého obsahu generovaného nebo upraveného pomocí AI – obrazu, zvuku, videa i textu – pokud připomíná reálné osoby nebo události. Takové výstupy, označované jako deepfakes, musí být navíc opatřeny strojově čitelným označením. Komise mezi deepfakes výslovně řadí reklamní vizuály a produktové fotografie vytvořené AI, syntetické avatary manažerů ve firemních videích nebo virtuální influencery. Kdo publikuje bez lidské kontroly AI generované texty o záležitostech veřejného zájmu, musí uvádět, že jde o výstupy umělé inteligence.
Souběžně s novými povinnostmi vstoupilo v platnost i nařízení (EU) 2026/1744, označované jako Digital Omnibus on AI. Jde o novelu AI Actu, jejímž cílem je zjednodušit pravidla, snížit byrokratickou zátěž a poskytnout firmám více času na realizaci příslušných opatření. Finální podoba novely většinu povinností zachovává a některé dokonce zpřísňuje – největší změnou je posunutí termínů pro poskytovatele vysoce rizikových systémů. Radu EU novela prošla 29. června 2026 a v platnost vstoupila 27. července 2026.
„Jak vyplývá z průzkumů, více než třetina společností řeší problematiku AI jen povrchně. Často to bývá jediná věta v obchodních podmínkách o tom, že je v rámci jejich služby využívána umělá inteligence. Takové plošné prohlášení však od srpna nestačí – informace musí být srozumitelná a tam, kde k interakci skutečně dochází,“ upozorňuje advokát Jaroslav Kuba z poradenské společnosti Rödl, který zároveň připomíná, že povinnost AI gramotnosti – tedy zajistit, aby lidé pracující s AI rozuměli jejím možnostem i limitům – platí již od roku 2025. Digital Omnibus tuto povinnost pouze zmírnil, nikoli zrušil.
Sankce nejsou symbolické
Za porušení povinností transparentnosti hrozí pokuta až 15 milionů eur nebo 3 % celosvětového ročního obratu – podle toho, která částka je vyšší.
Stejný sankční rámec se vztahuje na poskytovatele tzv. frontier modelů, tedy systémově rizikových modelů AI pro obecné účely.
Pravidla pro obecné modely jsou od 2. srpna vymahatelná
Evropský úřad pro umělou inteligenci (European AI Office) získává od 2. srpna 2026 pravomoc vymáhat pravidla pro obecné modely umělé inteligence (GPAI), mezi které patří i velké jazykové modely (LLM). Tato pravidla sice platí již od srpna 2025, vymahatelná se však stávají až nyní.
Poskytovatelé modelů musí doložit podrobný souhrn obsahu trénovacích dat, prokázat dodržování autorských práv a poskytnout technickou dokumentaci zahrnující data o trénování, testování a výsledcích hodnocení modelu.
Co se odkládá a proč
Nejkomplexnější část regulace – povinnosti pro vysoce rizikové AI systémy – se odkládá. „Letošní 2. srpen měl být původně v oblasti regulace umělé inteligence pomyslným Dnem D. Nakonec se však ukázalo, že tato problematika je natolik komplexní a složitá, že u některých částí je potřeba jejich odklad. Důvodem je především to, že zatím nejsou dostupné harmonizované normy, společné specifikace a alternativní pokyny, a opožděné ustavení národních příslušných orgánů. Tyto nástroje jsou přitom důležité pro právní jistotu a jednotnou aplikaci pravidel napříč členskými státy,“ vysvětluje Ondřej Mikula, zakládající partner advokátní kanceláře Finreg Partners.
Systémy klasifikované jako vysoce rizikové podle přílohy III AI Actu musí splnit příslušné povinnosti až od 2. prosince 2027. Jde například o nástroje pro posuzování úvěruschopnosti žadatelů o úvěr, systémy pro stanovení rizika u životního a zdravotního pojištění nebo aplikace využívané v HR a náboru zaměstnanců. Vysoce rizikové systémy související s regulovanými výrobky podle přílohy I mají lhůtu posunutou na 2. srpna 2028.
„Na trhu už existuje několik aplikací, které nabízejí vyhodnocování vhodnosti uchazečů za pomoci umělé inteligence. Velké korporace navíc mají často vlastní řešení vyvinutá na míru jejich potřebám,“ říká Mikula a dodává, že oblast HR se pravděpodobně dotýká největšího počtu společností fungujících v Česku.
Odklad však není důvodem k nečinnosti.
„Rozsah povinností, které budou muset společnosti plnit, není malý a není možné se na ně připravit v řádech týdnů nebo nižších jednotek měsíců. Firmy si mohou už nyní projít, jaké AI nástroje vlastně používají, kdo za ně odpovídá, zda existují pravidla pro lidský dohled, kvalitní dokumentace jejich využití a informační povinnosti vůči dotčeným osobám,“ doplňuje Mikula.
AI governance přesahuje rámec AI Actu
AI Act není jediným předpisem, který používání umělé inteligence reguluje. Tam, kde do systémů vstupují osobní údaje, uplatní se GDPR. „Současná legislativa už dnes zásadně omezuje rozhodování o uchazeči založené výhradně na automatizovaném zpracování, pokud má pro něj právní nebo obdobně významné účinky. Zpravidla proto musí být do rozhodovacího procesu skutečně zapojen člověk. Pokud firmy využívají automatizované rozhodování v tomto smyslu, vztahují se na ně také zvláštní informační povinnosti vůči uchazečům,“ připomíná Mikula.
„Klíčové je neřešit tuto problematiku formálně od stolu, ale skutečně zohlednit způsob využití AI v konkrétních souvislostech. Může být velký rozdíl, pokud například téhož AI asistenta používá společnost pro marketing či HR. Správně nastavená AI governance totiž není jen o předcházení sankcím, ale přináší i vyšší efektivitu a odolnost vůči obchodním či reputačním rizikům. Společnosti, které se vydají touto cestou, budou moci poskytnout svým zákazníkům záruky, které konkurence nenabízí,“ zdůrazňuje Jaroslav Kuba.
Samostatnou kapitolou jsou rizika závislosti na konkrétním dodavateli. V červnu 2026 musel Anthropic po zásahu amerických úřadů své nejvýkonnější modely znepřístupnit, což zasáhlo uživatele, kteří na nich postavili své procesy.
„Ke stejnému výsledku může vést i akvizice dodavatele, změna předpisů nebo jeho prosté komerční rozhodnutí. Správně nastavená AI governance proto musí řešit i tyto souvislosti: co se stane, když řešení dodavatele ze dne na den zmizí, kde se vaše data nacházejí a jakému právu podléhají,“ uzavírá Kuba.
CIOtrends si můžete objednat i jako klasický časopis (v tištěné i v digitální podobně) Věnujeme se nejnovějším technologiím a efektivnímu řízení podnikové informatiky. Přinášíme nové ekonomické trendy a analýzy a zejména praktické informace z oblasti podnikového IT se zaměřením na obchodní a podnikatelské přínosy informačních technologií. Nabízíme možná řešení problémů spojených s podnikovým IT v období omezených rozpočtů. Naší cílovou skupinou je vyšší management ze všech odvětví ekonomiky.
PŘEDPLATNÉ
ČLÁNKY DO MAILU