AI Act ve školství: harmonogram, povinnosti škol a soulad Kurikuly

AI Act (nařízení (EU) 2024/1689) je první komplexní právní úprava umělé inteligence na světě. Vstoupil v platnost 1. 8. 2024 a zavádí rizikově odstupňovaný přístup: zakazuje praktiky s nepřijatelným rizikem, klade přísné povinnosti na vysoce rizikové AI systémy, povinnosti v oblasti transparentnosti na systémy se zvláštním rizikem (například generativní AI) a ponechává minimální regulaci pro AI s nízkým rizikem. Harmonogram změnilo nařízení (EU) 2026/1744, které vstoupilo v platnost 27. 7. 2026.

Klíčová data účinnosti pro školství:

• 1. 8. 2024: nařízení vstoupilo v platnost.
• 2. 2. 2025: zákazy (čl. 5) a gramotnost v oblasti AI (čl. 4). Čl. 4 po změně ukládá přijímat opatření na podporu gramotnosti.
• 2. 8. 2025: povinnosti poskytovatelů obecných modelů AI (GPAI), pravidla pro správu a sankční rámec.
• 2. 8. 2026: informační povinnosti podle čl. 50. Systémy uvedené na trh dříve musí splnit označování podle čl. 50 odst. 2 do 2. 12. 2026.
• 2. 12. 2026: nové zákazy podle čl. 5 odst. 1 písm. ba) a bb), které doplnilo nařízení (EU) 2026/1744.
• 2. 12. 2027: povinnosti pro vysoce rizikové AI systémy z přílohy III (mezi nimi vzdělávání).
• 2. 8. 2028: povinnosti pro vysoce rizikové AI systémy zařazené v příloze I (regulované produkty).

Jako poskytovatel služby pro školy se Kurikula řídí harmonogramem AI Act od jeho vstupu v platnost a průběžně doplňuje technickou dokumentaci, informační oznámení a procesy řízení rizik. Vývoj evropské úpravy sledujeme přes EU AI Office a národní úpravu přes MPO ČR.

Příloha III AI Act označuje za vysoce rizikové ty AI systémy ve vzdělávání, které:

• rozhodují o přijetí ke vzdělávání nebo přiřazení uchazečů ke vzdělávacím institucím či programům na všech úrovních,
• hodnotí výsledky učení žáků a studentů, včetně případů, kdy se výsledky používají pro řízení procesu jejich vzdělávání,
• posuzují odpovídající úroveň vzdělání, kterou jednotlivec získá nebo ke které bude mít přístup,
• sledují a detekují zakázané chování studentů během testů.

U těchto systémů musí škola jako zavádějící subjekt mimo jiné zajistit lidský dohled, vést záznamy o použití, informovat dotčené osoby a spolupracovat s poskytovatelem na řízení rizik.

AI Act dále zakazuje (čl. 5) některé konkrétní praktiky relevantní pro školství: biometrickou kategorizaci odvozující citlivé charakteristiky (rasa, politické názory, sexuální orientace a další), rozpoznávání emocí na pracovišti a ve vzdělávacích institucích (s výjimkou lékařských a bezpečnostních důvodů) a sociální scoring osob. Takové funkce Kurikula nepoužívá ani se nechystáme je implementovat.

Pro pedagogy znamená AI Act zejména: povinnost informovat o použití AI tam, kde to nemusí být zřejmé; uchovávat záznamy umožňující dohledat, jak AI ovlivnila výsledný dokument; a aktivně rozhodovat o obsahu, který AI navrhuje, namísto jeho automatického přebírání.

Následující tabulka shrnuje čtyři rizikové kategorie AI Act, příklady jejich projevů ve škole a klasifikaci Kurikuly:

Detailní rozbor klasifikace Kurikuly následuje v sekci 4. Plné znění přílohy III a čl. 5 najdete v českém znění AI Act na EUR-Lex.

Kurikula je AI systém určený k podpoře administrativní práce vzdělávacích institucí - konkrétně ke správě a revizi školního vzdělávacího programu. Vysoce rizikové jsou ve vzdělávání jen systémy uvedené v příloze III bodu 3 AI Act (přístup ke vzdělávání, hodnocení výsledků učení, úroveň vzdělání, sledování zakázaného chování při testech); správa a revize školního vzdělávacího programu mezi ně nepatří. Naše posouzení je následující:

• Není zakázanou praktikou podle čl. 5 - Kurikula nepoužívá biometrickou kategorizaci, rozpoznávání emocí, sociální scoring ani manipulativní či podprahové techniky.
• Není vysoce rizikovým systémem podle přílohy III bodu 3 - Kurikula nerozhoduje o přijetí žáků, nehodnotí výsledky učení konkrétních žáků (pracuje s dokumentem na úrovni školy, nikoli s daty jednotlivých žáků), neurčuje úroveň vzdělání jednotlivců a nemonitoruje chování studentů během testů. Kurikula nehodnotí žáky ani učitele.
• Vztahuje se na ni čl. 50 (informační povinnosti) od 2. 8. 2026, protože interaguje s lidmi a generuje syntetický text. Povinnosti se liší pro poskytovatele systému (Kurikula) a zavádějícího subjektu (škola). Snažíme se, aby uživatelé vždy věděli, že pracují s AI a že navrhované úpravy ŠVP vytvořila AI. Exportovaný dokument zatím nemá strojově čitelné označení obsahu vytvořeného AI.
• Staví na obecném modelu AI (GPAI) - využíváme modely Google Gemini. Povinnosti poskytovatele GPAI nese společnost Google; Kurikula jako navazující poskytovatel AI systému zajišťuje soulad konkrétního použití modelů s naším účelem a kontextem.

Klasifikaci pravidelně přehodnocujeme. Pokud bychom v budoucnu přidali funkci, která by spadala do přílohy III (např. hodnocení výsledků konkrétních žáků), nasadíme režim vysoce rizikového systému předem - včetně registrace v databázi EU a doplňujících dokumentů.

I když Kurikula není vysoce rizikový systém, řadu povinností z čl. 9 až 15 AI Act dobrovolně uplatňujeme jako standard kvality. Konkrétně:

• Lidský dohled (čl. 14): filozofie produktu zní „Učitel nenastavuje, učitel schvaluje“. Žádný návrh AI se neaplikuje automaticky - pedagog jej musí explicitně přijmout, odmítnout nebo upravit. Hromadnou akci „Přijmout vše“ záměrně nenabízíme.
• Transparentnost (čl. 13 a 50): uživatelské rozhraní jasně označuje, který obsah pochází z AI a který z původního dokumentu. U každého návrhu je k dispozici vysvětlení a odkaz na konkrétní RVP standard.
• Přesnost a robustnost (čl. 15): všechny návrhy se opírají o vektorové a grafové vyhledávání ve schválených RVP datech; využíváme strategie pro opakování dotazů a záložní řetězec modelů, aby výpadek jednoho modelu neohrozil výsledek.
• Řízení dat a kvality (čl. 10): RVP zdroje pocházejí z oficiálních dat NPI a MŠMT. ŠVP nahraná školou nepoužíváme k tréninku vlastních modelů. Po konci licence máte 30 dní na stažení všech dokumentů. Potom je smažeme.
• Záznamy a logování (čl. 12): klíčové operace - nahrání dokumentu, generování návrhu, schválení/odmítnutí, export - ukládáme do auditního logu, takže škola dokáže prokázat, jak AI ovlivnila výsledný dokument.
• Řízení rizik (čl. 9): průběžně vyhodnocujeme rizika jako halucinace AI, podjatost vůči určitému typu školy nebo chybnou interpretaci RVP. Riziko snižujeme deduplikací, validací tabulek učebních plánů pravidly bez AI, ruční kontrolou pedagogem a možností znovu vygenerovat návrh s vlastním zadáním.
• Technická dokumentace: vedeme interní popis architektury, datových toků, použitých modelů a verzí, který je v případě dotazu národního dozorového orgánu k dispozici.
• Bezpečnost a ochrana dat: šifrování přenosu (TLS), šifrování dat v klidu, oddělení dat jednotlivých škol, RBAC a postupy pro hlášení incidentů popsané v zpracovatelské smlouvě (DPA).

Pokud Kurikulu používáte, nestáváte se automaticky zavádějícím subjektem vysoce rizikového systému AI. Doporučujeme však:

• informovat pedagogy a vedení, že úpravy ŠVP byly připraveny s podporou AI a že rozhodnutí o jejich přijetí leží na škole,
• zaznamenat v interních směrnicích, kdo schvaluje výstupy z Kurikuly (typicky ředitel nebo koordinátor ŠVP),
• zařadit Kurikulu do mapy zpracování osobních údajů (ROPA) a do případného posouzení vlivu na ochranu osobních údajů (DPIA),
• podle čl. 4 AI Act přijmout opatření na podporu zlepšení gramotnosti v oblasti AI u pracovníků, kteří s AI pracují. Opatření přijímá škola jako zavádějící subjekt i Kurikula jako poskytovatel; konkrétní úroveň gramotnosti jednotlivců zaručovat nemusí. Naše dokumentace, webináře a podpora jsou koncipovány tak, aby to školám ulehčily.

Návrhy úprav, které Kurikula generuje, jsou syntetickým textem vytvořeným modelem AI. K čl. 50 odst. 2 AI Act:

• návrh AI se nikdy nepoužije sám, o každém návrhu rozhoduje člověk,
• v exportovaném dokumentu zůstává odpovědnost za finální podobu na škole - Kurikula negeneruje finální dokument bez schválení uživatele,
• nepoužíváme techniky deep fake na osoby ani nezasahujeme do obrazu či hlasu konkrétních osob.

Pokud má škola vlastní pravidla pro značení AI-generovaného obsahu (např. vodoznaky), poskytneme technický popis, jak je do procesu zařadit.

AI Act zavádí třístupňový sankční rámec (čl. 99). Sankce může uložit národní dozorový orgán a její strop záleží na povaze porušení:

• Až 35 000 000 € nebo 7 % celosvětového ročního obratu (podle toho, co je vyšší) - za porušení zákazu praktik podle čl. 5.
• Až 15 000 000 € nebo 3 % celosvětového ročního obratu - za porušení většiny ostatních povinností (povinnosti poskytovatelů a zavádějících subjektů vysoce rizikových systémů, informační povinnosti podle čl. 50, povinnosti GPAI a další).
• Až 7 500 000 € nebo 1 % celosvětového ročního obratu - za poskytnutí nesprávných, neúplných nebo zavádějících informací oznámeným subjektům či dozorovým orgánům.

Pro malé a střední podniky a začínající podniky (start-upy) platí nižší z uvedených stropů. Konkrétní postup ukládání sankcí v ČR stanoví připravovaný český zákon o umělé inteligenci.

AI Act doplňuje práva dotčených osob nad rámec GDPR - zejména v čl. 86 zavádí právo na vysvětlení individuálního rozhodnutí u vysoce rizikových AI systémů z přílohy III. Kurikula sice mezi vysoce rizikové systémy nepatří, principy vysvětlitelnosti však aplikujeme dobrovolně. Pedagog, ředitel nebo jiný uživatel má právo:

• dozvědět se, že komunikuje s AI a jaký účel systém plní,
• získat srozumitelné vysvětlení, proč AI navrhla konkrétní změnu (k tomu slouží panel s odůvodněním a odkazem na RVP standard),
• podat námitku či dotaz na e-mailu [email protected],
• uplatnit práva podle GDPR (přístup, oprava, výmaz a další), jak je popsáno v zásadách ochrany osobních údajů.

Pokud zjistíte, že se AI v Kurikule chová způsobem, který může představovat riziko pro zdraví, bezpečnost nebo základní práva - typicky systematicky nesprávné návrhy, výstupy s diskriminačním vyzněním nebo podezření na únik dat - kontaktujte nás co nejdříve:

Webforte Technologies s.r.o.
Korunní 2569/108, Vinohrady, 101 00 Praha 10
IČO: 23364343
E-mail: [email protected]

Závažné incidenty týkající se AI Act řešíme v součinnosti s národními dozorovými orgány. Připravovaný český zákon o umělé inteligenci v gesci Ministerstva průmyslu a obchodu počítá s rolí Českého telekomunikačního úřadu (ČTÚ) jako národního dozorového orgánu a jednotného kontaktního místa, doplněného o Úřad pro ochranu osobních údajů (ÚOOÚ) pro oblast základních práv a další specializované úřady. Pravomoci dozoru získá ČTÚ až po přijetí zákona. Konkrétní kontakty doplníme, jakmile zákon začne platit.

AI Act je živý regulační rámec - Komise průběžně vydává prováděcí akty, harmonizované normy a pokyny. Tuto stránku aktualizujeme, jakmile se objeví nové skutečnosti relevantní pro provoz Kurikuly nebo pro školy. Aktualizováno 30. 10. 2026.