AI služby a přístup k firemním datům

AI asistenti jako ChatGPT, Claude, Microsoft 365 Copilot nebo Gemini dokážou výrazně usnadnit práci, a tak je firmy, školy i úřady rychle začínají používat. U zákazníků se ale stále častěji setkávám s tím, že chtějí AI asistentům povolit přístup k poště, dokumentům nebo kalendáři, aniž by si uvědomovali souvislosti, které na první pohled nejsou vidět: k jakým datům se AI služba ve skutečnosti dostane, proč záleží na typu účtu a co hrozí, když dojde k úniku.

Jak AI služby získávají přístup k datům

Aplikace v počítači

Aplikace AI asistenta nainstalovaná v počítači běží pod účtem přihlášeného uživatele a má stejná oprávnění jako on. Technicky tak může přistupovat ke všemu, k čemu má přístup uživatel: k souborům na disku, sdíleným složkám i připojeným službám.

To, k čemu aplikace přistupovat smí, hlídá především ona sama, ne operační systém. Chyba v aplikaci, zranitelnost, nevhodné rozšíření nebo podvržený pokyn ukrytý v dokumentu či e-mailu mohou toto omezení obejít. Při posouzení rizika je proto správné počítat s tím, že aplikace může mít přístup ke všem datům uživatele.

Propojení s cloudovými službami

AI služby lze napojit na cloudové kancelářské služby, jako je Microsoft 365 (Office 365) nebo Google Workspace. Poté mohou pracovat s poštou, kalendářem i sdílenými dokumenty, tedy s korespondencí se zákazníky, smlouvami, fakturačními a kontaktními údaji a dalšími firemními daty.

Rozsah přístupu se liší podle služby a nastavení propojení a z pohledu běžného uživatele ho není snadné přesně posoudit. Při posuzování rizika je proto rozumné počítat s tím, že se AI služba může dostat ke všem datům v poště, sdílených úložištích a dokumentech organizace. Některé služby navíc obsah předem synchronizují a indexují, takže kopie firemních dat leží u poskytovatele. Souhlas s propojením uděluje správce zpravidla za celou organizaci najednou.

Proč záleží na typu účtu

Pokud se v AI službě pracuje s osobními údaji zákazníků, zaměstnanců nebo obchodních partnerů, je nutný firemní plán se smlouvou o zpracování osobních údajů. Plán pro jednotlivce takovou smlouvu nemá, a jeho použití pro tato data je proto porušením GDPR. AI služby nabízejí plány pro jednotlivce a plány pro firmy a rozdíl není jen ve funkcích, ale hlavně v tom, jak poskytovatel s daty zachází.

Pokud firma, a to i OSVČ bez zaměstnanců, prostřednictvím AI služby zpracovává osobní údaje zákazníků, zaměstnanců nebo obchodních partnerů, je podle GDPR jejich správcem a poskytovatel AI služby je zpracovatelem. Se zpracovatelem musí mít uzavřenou smlouvu o zpracování osobních údajů.

Firemní plány smlouvu o zpracování obvykle obsahují, data z nich se ve výchozím nastavení nepoužívají k trénování modelů a správce má k dispozici nástroje pro řízení přístupu uživatelů. Plány pro jednotlivce, tedy bezplatné i předplacené osobní účty služeb jako ChatGPT, Claude, Gemini nebo Copilot, se naopak řídí spotřebitelskými podmínkami. Smlouvu o zpracování nenabízejí, poskytovatel s daty nakládá podle vlastních zásad a data se obvykle ve výchozím stavu používají k trénování modelů. Uživatel to sice většinou může vypnout, ale firma nemá jak ověřit, zda to tak má každý, kdo ve firmě pracuje, od majitele po spolupracovníky, a vypnutí často neplatí bez výjimek.

Rozdíl je podobný jako u e-mailu. Firemní pošta v Microsoft 365 (Office 365) běží na základě smlouvy mezi firmou a poskytovatelem, účty spravuje firma a nastavuje pro ně pravidla zabezpečení. Freemail jako Seznam.cz nebo Gmail.com je služba pro jednotlivce: účet patří uživateli, firma nad ním nemá kontrolu a poskytovatel se jí k ochraně dat nijak nezavazuje. Stejně jako by firemní korespondence neměla běžet přes soukromý freemail, neměla by se firemní data zpracovávat v osobním účtu AI služby.

To, že plán pro jednotlivce technicky umožňuje napojení na firemní data, na tom nic nemění. Osobní účet je navíc nežádoucí i v zájmu samotné firmy: obchodní tajemství, nabídky, smlouvy a know-how se dostávají mimo její kontrolu a po odchodu zaměstnance či spolupracovníka zůstávají v jeho osobním účtu.

 

 

Příklady porušení GDPR při použití osobního účtu

V praxi se nejčastěji setkávám s tím, že kdokoli ve firmě, včetně majitele, vloží do osobního účtu AI služby e-mail od zákazníka, seznam faktur nebo k němu připojí firemní poštu. I bez jakéhokoli úniku tím může firma porušit GDPR hned několikrát:

  • Chybí smlouva o zpracování – osobní údaje zákazníků zpracovává třetí strana, se kterou firma nemá uzavřenou smlouvu o zpracování (čl. 28).
  • Předání bez právního základu – poskytovatel spotřebitelské služby nakládá s daty jako samostatný správce, firma mu tak osobní údaje předává bez právního titulu (čl. 6).
  • Použití k jinému účelu – data mohou být použita k trénování modelů, tedy k jinému účelu, než pro který je firma získala (čl. 5).
  • Neinformovaní zákazníci – zákazníci nevědí, že jejich údaje putují k poskytovateli AI služby, a zásady ochrany osobních údajů firmy to neuvádějí (čl. 13 a 14).
  • Nemožnost splnit práva zákazníků – pokud zákazník požádá o výmaz údajů, firma nedokáže zajistit jejich smazání v cizím osobním účtu (čl. 17).
  • Ztráta kontroly nad daty – firma nemá přehled, jaká data v účtu jsou, a po odchodu zaměstnance či spolupracovníka mu k nim nemůže odebrat přístup (čl. 32).
  • Předání mimo EU bez záruk – data se mohou zpracovávat mimo Evropskou unii, aniž by firma zajistila odpovídající záruky (kapitola V).

Možné sankce

Za porušení GDPR hrozí firmě sankce od Úřadu pro ochranu osobních údajů (ÚOOÚ) i nároky ze strany dotčených osob. Za porušení povinností správce a zpracovatele, například chybějící smlouvu o zpracování nebo nedostatečné zabezpečení, může úřad uložit pokutu až 10 milionů EUR nebo 2 % celosvětového ročního obratu. Za porušení základních zásad, právního základu, práv zákazníků nebo pravidel pro předávání mimo EU je to až 20 milionů EUR nebo 4 % obratu (čl. 83). Skutečná výše se odvíjí od závažnosti, rozsahu a velikosti firmy, k pokutě ale navíc přistupují náklady na řešení incidentu, náhrada škody zákazníkům a ztráta jejich důvěry.

Kromě pokuty může ÚOOÚ nařídit nápravná opatření, například ukončit zpracování, smazat data nebo informovat dotčené osoby (čl. 58). Zákazníci, jejichž údaje byly zneužity, mohou po firmě požadovat náhradu hmotné i nehmotné újmy (čl. 82). Pro mnoho firem je ale nejcitelnějším důsledkem dopad na pověst a vztahy se zákazníky.

Že nejde jen o teorii, ukazují i případy z praxe. Vodafone v Německu dostal pokuty v celkové výši 45 milionů EUR mimo jiné za nedostatečné smlouvy se zpracovateli. Britský úřad pro ochranu osobních údajů zase napomenul ministerstvo zdravotnictví i londýnskou policii za to, že se s osobními údaji pracovalo přes soukromé e-maily a aplikace určené pro osobní použití.

Co se stane při úniku dat

Při úniku dat nebo zneužití přístupu přes AI službu musí firma jako správce osobních údajů nahlásit porušení zabezpečení ÚOOÚ, a to do 72 hodin od zjištění. Výjimkou je jen situace, kdy lze doložit, že únik nepředstavuje riziko pro dotčené osoby. Při vysokém riziku musí firma informovat i samotné osoby, jejichž údaje unikly. Každý incident je navíc nutné interně zdokumentovat, i když se nehlásí.

U přístupu AI služby k firemním datům je výjimku z hlášení obvykle obtížné použít. Data jsou pro aplikaci čitelná, nelze zjistit, kdo je získal, ani zajistit jejich smazání.

Mezi dotčené osoby přitom nepatří jen stávající zákazníci, se kterými je uzavřena smlouva. Ve firemní poště a dokumentech jsou i údaje potenciálních zákazníků, kteří poslali poptávku, ale ke spolupráci zatím nedošlo. Jejich počet může být srovnatelný se zákazníky nebo i vyšší, takže rozsah úniku bývá výrazně větší, než se na první pohled zdá.

ÚOOÚ pak zpravidla chce doložit, jaká opatření firma přijala: jak má zabezpečená data, účty a počítače, jaká oprávnění AI služby dostaly a zda má s poskytovatelem uzavřenou smlouvu o zpracování. Pokud firma spadá pod zákon o kybernetické bezpečnosti, může přibýt i povinnost hlásit incident Národnímu úřadu pro kybernetickou a informační bezpečnost (NÚKIB).

Jak riziko omezit

Riziko nelze odstranit úplně, ale dá se výrazně snížit. Z praxe doporučuji kombinaci těchto opatření:

  • Firemní plán se smlouvou o zpracování – pro práci s firemními daty používat jen firemní plány, ne osobní účty.
  • Zvážit, zda je propojení nutné – před povolením přístupu AI služby do Microsoft 365 (Office 365) nebo Google Workspace zvážit, zda je skutečně potřeba, a to včetně rizik a nároků na nastavení a správu, které propojení přináší.
  • Minimální oprávnění – povolit přístup jen ke službám, které jsou opravdu potřeba, a pokud stačí, jen pro čtení.
  • Jen vybraní uživatelé – přístup omezit na konkrétní uživatele nebo skupiny.
  • Schvalování správcem – uživatelé by neměli sami povolovat aplikacím přístup k firemním datům, každé povolení schvaluje správce.
  • Kontrola sdílení – před napojením projít, kdo má přístup ke kterým dokumentům, a omezit zbytečně široké sdílení.
  • Oddělené prostředí – u AI aplikací nainstalovaných v počítači je nejbezpečnější variantou provozovat je na samostatném virtuálním počítači, kde jsou jen data, se kterými mají pracovat. K ostatním firemním datům na disku a ve sdílených složkách se pak nedostanou ani v případě chyby či zranitelnosti. Na přístup AI služby do Microsoft 365 (Office 365) nebo Google Workspace to ale vliv nemá, ten je samostatným tématem.
  • Pravidla pro všechny ve firmě – stanovit, že všichni, včetně majitelů a spolupracovníků, smějí používat jen AI služby schválené a spravované firmou, a určit, jaká data se do nich smějí vkládat a jaká ne.
  • Pravidelná kontrola – průběžně ověřovat udělená oprávnění a nepotřebné přístupy odebírat.

 

 

Závěr

Zda a jak lze AI služby ve firmě bezpečně využívat, nelze posoudit obecně. Záleží na konkrétní službě a podmínkách, za kterých je poskytována, na jejím nastavení a samozřejmě na tom, s jakými osobními údaji se v ní pracuje.

Jiné riziko představuje práce s veřejně dostupnými informacemi, jiné zpracování kontaktních a fakturačních údajů zákazníků a zcela jiné práce s citlivými údaji, například zdravotními, nebo s důvěrnou personální dokumentací. Před zavedením AI služeb je proto dobré projít, k jakým datům budou mít přístup, a podle toho zvolit vhodný typ účtu i nastavení.

AI služeb se přitom podle mých zkušeností není třeba obávat. Stačí je zavádět s rozmyslem a od začátku správně nastavit. S výběrem vhodné služby, jejím zřízením i nastavením tak, aby odpovídalo potřebám firmy, školy nebo úřadu i požadavkům na ochranu osobních údajů, rádi pomůžeme.

Poznámka: Článek je určen zákazníkům a uživatelům AI služeb, nejde o odborný ani právní rozbor. Kvůli srozumitelnosti je proto na řadě míst zjednodušený.

 

Michal Zobec

Michal Zobec Senior IT Consultant, Project Manager ZOBEC Consulting