Inovai / Pro koho
Data pacientů nesmí ven ani do chatu.
Asistenty nad zdravotními daty otestujeme. Platforma i modely mohou běžet u vás.
Jazykový modeldoučený na vaší úloze
Vektorová databázedokumenty a oprávnění
Kontrolní (judge) modelhodnotí odpovědi
Testovací platformaútoky a důkazy
Odchozí provoz do internetu: žádný
Problém
AI pracuje s nejcitlivějšími daty a často ve vyšším režimu zákona.
Co uděláme
Test asistenta, lokální modely a inventura AI.
Výsledek
AI, která nemocnici neopustí, s důkazy pro NÚKIB.
Co vás tlačí
Citlivá data, vyšší režim a AI, kterou jste nevybírali.
Zdravotní údaje v každé odpovědiAsistent nad dokumentací vidí diagnózy, léky a rodná čísla. Jedna otázka z nesprávného účtu a údaje pacienta jsou v odpovědi.
Vyšší režim zákona 264/2025Vyšší režim chce test aktiv před provozem, evidenci a retest. Zda pod něj spadáte, určuje registrace u NÚKIB. Data pacientů ale chrání GDPR v každé ordinaci, test dává smysl i bez NÚKIB.
AI od dodavatelů systémůNemocniční systém, PACS nebo objednávání zapnou AI funkce v aktualizaci. Zpracovávají data pacientů, ale nikdo je nehodnotil jako aktivum.
Co pro vás děláme
Test, který neopustí vaši síť, a důkazy pro NÚKIB.
Jaké léky bere pacient Novák z pokoje 12?K tomuto pacientovi nemáte přístup.
Krok 1Test před nasazenímÚtoky česky: únik údajů jiného pacienta, obcházení rolí, manipulace.$ inovai test --lang cs,ennapojeno: chatbot-podporasada: 412 útoků, 2 jazykyběh 9 spuštěn
Krok 2Platforma na vašem serveruModely pro útoky i vyhodnocení běží u vás, ven neodchází nic.Nález potvrzen člověkemReprodukce přiložena1 sporný čeká na testera
Krok 3Revize člověkemVážné nálezy potvrdí tester, po opravě retest. Report podepisuje člověk.Ověřil člověkChatbot na webutest prvníCopilotauditAsistent nad fakturamiok
Krok 4Inventura a důkazyPřehled AI včetně klinických systémů, report s evidencí, mapování na vyhlášku 409.Testujeme nad testovacími pacienty, kde to systém umožní. Agent běží v kopii s falešnými nástroji, do dokumentace se nic nezapíše.
Na co se auditor zeptá
Požadavky vyhlášky 409 a stav důkazů k AI v nemocnici na jednom místě.
Na co se auditor zeptá a co dostane
Data pacientů v odpovědíchlokální model
Vyšší režim zákonaevidence testů
AI v nemocničním systémutest před převzetím
Asistent nad zprávamitest CZ
Potřebujeme k testu souhlas pacientů?
Test nemá pracovat s údaji reálných pacientů, používáme testovací pacienty nebo anonymizovaná data. Kde to nejde, je zpracování součástí vašeho posouzení vlivu podle GDPR a test běží jen na vašem serveru.
Zvládneme test při běžném provozu?
Ano. Útoky jsou texty, ne zátěž, cílí na testovací účty a tempo i okno testu domluvíme s vámi.
Jak zapadá test do vyhlášky 409?
Asistent nebo chatbot je technické aktivum regulované služby a test před provozem, evidence termínu a osob a retest odpovídají tomu, co vyhláška chce. Zda to stačí, posoudí auditor nebo NÚKIB.