Umělá inteligence se do agendy úřadů dostává rychleji, než na ni státní správa stihla připravit jasná pravidla. Zaměstnanci si nástroje často najdou a začnou používat sami, bez vědomí IT oddělení. Proaktivita je správná, ale i nebezpečná. Přesně na tuhle mezeru zareagoval stát v červnu 2026, kdy Úřad vlády společně s NÚKIB zveřejnily Průvodce pro etické a odpovědné využívání AI ve veřejné správě.
Nejde o nový zákon ani o závaznou metodiku, průvodce je primárně doporučující materiál. Přesto ale má svou váhu: je to první systematický pokus státu říct úřadům, co je u AI přijatelné, co ne a kdo za výsledky odpovídá. Pro CIO a IT vedoucí ve veřejné správě je to materiál, o který se dá opřít při nastavování interních pravidel i architektury konkrétních řešení.
Průvodce staví na čtyřech principech, které platí bez ohledu na to, jaký konkrétní AI nástroj úřad zvažuje.
Prvním je bezpečnost. Nový AI nástroj by úřad neměl brát jinak než jakoukoli další součást své IT infrastruktury, se stejnou mírou prověření a schválení. Platí to i pro takzvané shadow AI, tedy nástroje, které si zaměstnanci najdou sami a nasadí je bez vědomí IT oddělení.
Druhým požadavkem je vědět, kudy data putují. Něco jiného je provoz na vlastní infrastruktuře úřadu, něco jiného ve státním cloudu a něco jiného u externího komerčního poskytovatele. Od téhle volby se pak odvíjí, jestli úřad reálně plní GDPR a zákon o kybernetické bezpečnosti.
Třetí požadavek se týká otevřenosti: úřad by měl umět kdykoli doložit, k čemu AI nasazuje, v jaké je roli a kde jsou její limity. A to veřejnosti, stejně jako vlastnímu vedení.
Čtvrtým, a možná nejdůležitějším, je zásada, že konečné rozhodnutí a odpovědnost zůstává vždy na člověku. AI smí připravit podklad, rozhodnutí ale dělá úředník.
AI dává smysl tam, kde jde o pomocnou práci bez přímého vlivu na práva občanů. Například pomůže roztřídit dokumenty, najít relevantní předpis, opravit jazykovou stránku textu nebo připravit kostru odpovědi. Podmínkou je, že si úředník výstup vždy sám zkontroluje. U rozhodovacích agend, jako jsou dávky, povolení nebo sankce, je prostor užší: AI smí připravit podklad, ale rozhodnout musí vždy člověk.
Většina požadavků Průvodce zní eticky nebo procesně, ale z pohledu IT jsou to ve skutečnosti infrastrukturní a bezpečnostní otázky.
Kontrola datových toků není jen o interní směrnici. Je to otázka, kde AI nástroj a data, se kterými pracuje, fyzicky běží a jestli to úřad reálně dokáže technicky zajistit a doložit. Bezpečnostní posouzení AI nástroje jako kritického systému předpokládá, že úřad má vůbec nastavený způsob, jak podobné systémy sleduje a vyhodnocuje, tedy nějakou formu průběžného bezpečnostního dohledu. A auditní stopa, tedy schopnost doložit, kdo co do systému zadal, jaký byl výstup a kdo ho schválil, stojí na tom, že úřad má odpovídající zálohování, logování a řízení přístupů.
Jinými slovy: než úřad vůbec začne řešit, který AI nástroj nasadit, měl by mít v pořádku základ, na kterém to celé poběží. My se soustředíme právě na tuhle vrstvu: bezpečnou, kontrolovanou a auditovatelnou infrastrukturu. A je to přesně ta část skládačky, kterou Průvodce žádá jako první krok.
Řada úřadů si s tímhle tématem už mimoděk pracuje. Požadavky Průvodce na bezpečnostní posouzení systémů a průběžný dohled se totiž věcně kryjí s tím, co po organizacích v režimu NIS2 žádá zákon o kybernetické bezpečnosti. Pokud vaše organizace řešení pro NIS2 už staví, dává smysl AI governance zapojit do stejné architektury, ne budovat paralelní proces od nuly. Více o tom, co NIS2 přesně vyžaduje, najdete v klíčových technických opatření NIS2.
Průvodce je měkká vrstva, doporučení bez sankcí. Nad ním ale stojí evropský AI Act, který je závazný a který už se sankcemi počítá. Ten definuje vysoce rizikové systémy AI a klade na jejich poskytovatele konkrétní povinnosti. Po nedávné revizi (takzvaný Digital Omnibus, který Rada EU formálně schválila koncem června 2026) se termíny posunuly. Samostatné vysoce rizikové systémy musí být v souladu do 2. prosince 2027, systémy vestavěné do jiných regulovaných produktů pak do 2. srpna 2028. I s odkladem ale platí, že příprava by měla začít včas.
Prvním krokem je zmapovat, co se v úřadu reálně používá, včetně nástrojů mimo dohled IT. Druhým je rozhodnout, kam AI nástroje smí sahat a jaká data mohou opustit vaši kontrolovanou infrastrukturu. Třetím je zajistit, že cokoliv vstupuje do rozhodovací agendy, po sobě zanechává ověřitelnou stopu.
Žádný z těchto kroků nezačíná výběrem AI nástroje. Začíná infrastrukturou, na které bude běžet. Bezpečným připojením, kontrolovaným cloudovým nebo on-premise prostředím a průběžným bezpečnostním dohledem. Pokud tohle řešíte a chcete probrat, jak má taková infrastruktura pro veřejnou správu vypadat, rádi vám poradíme.
