Inovai / O nás
Připravujeme vlastní GPU server v ČR. Data nemusí do cloudu.
Lokální modely, doladění i útočné testy budeme pouštět na vlastním hardwaru. Citlivá data tak nemusí do cloudových API.
Lokální modelypro klienty, bez cloudových API
Doladěníotevřený model na vaší úloze
Útočné testyna otevřené modely, česky i anglicky
Citlivé dokumentyvytěžování a OSINT analýzy
Datové centrum v ČR, bez cloudových API
Problém
Citlivá data nesmí do cloudového API a vlastní GPU zatím nemáte.
Co uděláme
Model spustíme, doladíme a otestujeme na našem serveru v ČR.
Výsledek
Víte, kde data jsou. Model můžete později přestěhovat k sobě.
Na co ho budeme používat
Čtyři věci, které bez vlastního hardwaru jdou špatně nebo draho.
Lokální modely pro klientyModel poběží na našem serveru, data neodejdou do cloudových API. Hodí se na pilot i na provoz.
Doladění na vaší úlozeOtevřený model doladíme na vašich datech. Na úzké úloze se tím zmenší rozdíl proti velkým cloudovým modelům, o kolik, změříme.
Útočné testy a index češtinyNa otevřené modely budeme útočit lokálně, bez omezení cloudových služeb. Poběží na něm i měření pro index češtiny.Citlivé dokumenty a OSINTSmlouvy, interní dokumenty a OSINT analýzy, které nechcete posílat do cloudu.Časté otázky
Kde bude server stát?
V datovém centru v ČR. Data neopustí Českou republiku.
Je vlastní server lepší než cloud?
Ne vždy. Největší cloudové modely jsou v obecném uvažování silnější. Vlastní server dává smysl, když data nesmí ven, když chcete model doladit nebo když na model útočíme.
Jak velký model na něm poběží?
Otevřené modely do zhruba 70 miliard parametrů. Kolik vaše úloha skutečně potřebuje, změříme na vašich datech.
Může model nakonec běžet u nás?
Ano. Začít můžete na našem serveru a změřit výsledky. Model pak přestěhujeme na váš hardware a otestujeme ho znovu.