CzechAI posuzuje AI řešení podle jeho účelu, dat, rizik, ověřitelnosti výstupu a provozních odpovědností. Pilot oddělujeme od produkčního nasazení a zaznamenáváme známá omezení. Metodika pomáhá řídit rizika, ale sama o sobě nepředstavuje právní stanovisko, certifikaci ani záruku souladu s konkrétním předpisem.
Co ověřujeme před nasazením
Účel a hranice použití
Popisujeme uživatele, povolené úlohy, zakázané použití a situace, ve kterých má proces převzít člověk.
Data a oprávnění
Prověřujeme zdroj dat, přístupová oprávnění, citlivost, dobu uchování a způsob předávání mezi systémy.
Rizika a dopad chyby
Rozlišujeme, zda výstup pomáhá s orientací, připravuje návrh nebo může ovlivnit rozhodnutí s významným dopadem.
Testování
Testovací sada pokrývá běžné vstupy, hraniční případy, neúplná data, chybné instrukce a relevantní bezpečnostní scénáře.
Lidský dohled
Určujeme, kdo výstup kontroluje, kdo může rozhodnutí změnit a jak proces pokračuje při chybě nebo nedostupnosti AI.
Monitoring změn
Významná změna modelu, dat, promptu nebo integrace může vyžadovat nové testování a aktualizaci dokumentace.
Životní cyklus řešení
- Vymezení potřeby a očekávaného výsledku.
- Posouzení dat, integrací a rizik.
- Návrh omezeného pilotu a hodnoticích kritérií.
- Funkční, kvalitativní a bezpečnostní testování.
- Rozhodnutí o úpravě, rozšíření nebo zastavení.
- Řízené nasazení, předání rolí a dokumentace.
- Monitoring, evidence změn a opakované ověřování.
Jak označujeme stav řešení
Návrh
Popsaná možnost, která nebyla implementována.
Prototyp
Funkční ukázka bez důkazu připravenosti pro ostrý provoz.
Testovaný pilot
Řešení ověřené v definovaném rozsahu a testovací sadě.
Provozně ověřeno
Konkrétní verze byla ověřena v popsaném prostředí a čase.
Stav řešení se vztahuje pouze na uvedenou verzi, rozsah a datum ověření.
Rámce, ze kterých vycházíme
- EU AI Act, článek 4 – AI gramotnost: poskytovatelé a provozovatelé mají přijímat opatření k zajištění dostatečné AI gramotnosti osob pracujících s AI systémy.
- NIST AI Risk Management Framework: dobrovolný rámec pro začleňování důvěryhodnosti a řízení rizik do návrhu, vývoje, používání a hodnocení AI.
- ISO/IEC 42001:2023: veřejný popis požadavků na systém řízení AI. Odkaz na standard neznamená, že CzechAI nebo konkrétní řešení vlastní certifikaci podle ISO/IEC 42001.
Časté otázky
Garantuje tato metodika soulad s AI Actem?
Ne. Pomáhá strukturovat technické a organizační otázky, ale nenahrazuje právní posouzení, posouzení konkrétní role podle AI Actu ani rozhodnutí příslušného orgánu.
Jak ověřujete přesnost AI?
Pomocí testovací sady odpovídající zamýšlenému použití, předem stanovených kritérií a kontroly chybových scénářů. Výsledek platí pouze pro testovanou verzi a rozsah.
Může AI rozhodovat bez člověka?
Záleží na účelu, dopadu a právním rámci. U výstupů s významným dopadem požadujeme výslovné vymezení lidského dohledu a odpovědnosti.
Co se stane po změně modelu nebo dat?
Změna se zaznamená a podle jejího dopadu se zopakují relevantní testy. Starší výsledek nelze automaticky přenést na novou verzi.
Je metodika certifikací?
Ne. Jde o pracovní rámec CzechAI. Certifikaci může potvrdit pouze oprávněný certifikační subjekt v příslušném rozsahu.