GDPR a AI Act

AI Act pro malé firmy: co se vás týká, když používáte AI na poptávky a nabídky

Tým BOTrento · Aktualizováno 7 min čtení

Malé a střední firmy, které AI v obchodě jen používají, mají podle AI Actu roli takzvaného zavádějícího subjektu, tedy uživatele. Při běžném použití na poptávky, nabídky a e-maily z toho plynou hlavně tři úkoly: zajistit, aby lidé s AI uměli pracovat, být vůči zákazníkům transparentní a nechat důležitá rozhodnutí a odesílání na člověku.

AI Act je nařízení EU, které rozděluje použití AI podle míry rizika. Většina obchodní rutiny malé firmy nepatří mezi rizikové oblasti, přesto se vyplatí mít jasné, sepsané pravidlo. V článku najdete přehled, praktický checklist a šablonu interního pravidla. Jde o obecný přehled, ne o právní radu. Konkrétní situaci proto proberte s právníkem.

Jakou roli máte v AI Actu: poskytovatel, nebo uživatel?

AI Act rozlišuje několik rolí. Pro malou obchodní firmu jsou podstatné dvě:

  • Poskytovatel AI systém vyvíjí a uvádí na trh pod svým jménem. Má nejvíc povinností (dokumentace, testování, posouzení shody u rizikových systémů).
  • Zavádějící subjekt (uživatel) AI systém používá při své činnosti. Typicky jde o firmu, která si nasadí AI na třídění poptávek nebo psaní návrhů odpovědí.

Pokud AI nástroj nevyvíjíte a neprodáváte pod svou značkou, jste téměř jistě v roli uživatele. Situace se může změnit, když systém zásadně upravíte nebo ho začnete nabízet dalším firmám. To už je případ pro právní konzultaci.

Do roviny regulace patří i výběr dodavatele. Ptejte se, kdo je poskytovatel modelu, kde se ukládají data a kdo co schvaluje. Pomůže vám k tomu i náš přehled toho, co AI asistent v obchodě reálně zvládne a co ne.

Do jaké kategorie rizika spadá AI v obchodě

AI Act řadí použití AI do úrovní podle rizika. Zjednodušený přehled:

ÚroveňCo tam typicky patříCo to znamená pro obchod malé firmy
Zakázané praktikyManipulace zneužívající zranitelnost lidí, sociální skórováníV běžném obchodě se nevyskytuje, ale nepoužívejte AI k nátlaku na zranitelné zákazníky.
Vysoké rizikoNapříklad výběr zaměstnanců, hodnocení úvěruschopnosti, přístup k některým základním službámPozor, pokud byste AI používali třeba na třídění uchazečů o práci. Na poptávky a nabídky se to obvykle nevztahuje.
Povinnosti transparentnostiChatboti komunikující s lidmi, generovaný nebo upravený obsahTýká se vás, pokud zákazník mluví přímo s AI nebo zveřejňujete AI obsah.
Minimální rizikoInterní pomocníci, třídění, návrhy textů schvalované člověkemVětšina obchodní rutiny. Bez zvláštních povinností, ale s doporučením dobré praxe.

Zařazení vždy závisí na konkrétním použití, ne na nástroji. Stejný jazykový model může být v jedné firmě interní pomocník a v jiné součást rizikového rozhodování.

Co konkrétně hlídat jako uživatel AI

AI gramotnost lidí

AI Act počítá s tím, že lidé, kteří s AI pracují, mají přiměřené znalosti. Pro malou firmu to neznamená certifikace, ale krátké zaškolení: co nástroj umí, kde chybuje (vymyšlené údaje, špatné ceny, nesprávný tón) a co se do něj nesmí vkládat. Mějte to sepsané a u nových kolegů to zopakujte.

Transparentnost vůči zákazníkům

Pokud s klientem komunikuje přímo AI bez člověka (chatbot na webu, automatická odpověď generovaná modelem), měl by klient vědět, že jedná s AI. Jiná situace je, když AI připraví návrh, člověk ho zkontroluje, upraví a odešle pod svým jménem. Za obsah pak odpovídá on. I tak se vyplatí mít v zásadách ochrany údajů obecnou zmínku o použití AI. Hranici u své konkrétní situace si ověřte s právníkem.

Lidský dohled

Nejpraktičtější ochrana, jakou můžete mít: o ceně, termínu, slevě, odmítnutí zakázky a odeslání rozhoduje člověk. AI třídí, shrnuje a navrhuje. Lidský dohled je zároveň obchodní pojistka, protože nabídka s chybnou cenou je problém bez ohledu na regulaci.

Záznamy a dohledatelnost

Evidujte, co AI navrhla, kdo to schválil a co se odeslalo. Hodí se to při reklamaci, sporu i interní kontrole kvality.

GDPR platí vedle AI Actu

AI Act GDPR nenahrazuje. Poptávky obsahují osobní údaje, takže řešíte právní základ, zpracovatele a minimalizaci dat. Podrobněji to rozebírá checklist GDPR a AI pro obchodní komunikaci.

Checklist: AI Act v malé firmě krok za krokem

  1. Sepište, kde AI používáte. Každý nástroj, kdo ho používá, k čemu a s jakými daty. Nezapomeňte na soukromé účty zaměstnanců v samoobslužných chatech.
  2. U každého použití určete roli a riziko. Jste uživatel? Dotýká se použití zaměstnanců, úvěrů nebo jiné citlivé oblasti? Pokud ano, zpozorněte a poraďte se.
  3. Stanovte, co rozhoduje člověk. Cena, termín, sleva, odmítnutí, odeslání. Zapište to jako pravidlo.
  4. Nastavte transparentnost. Tam, kde zákazník komunikuje s AI napřímo, ho na to upozorněte. Doplňte zmínku do zásad ochrany údajů.
  5. Zaškolte tým. Krátké interní školení a jednostránkové pravidlo. Uveďte, kdo školení absolvoval a kdy.
  6. Ověřte dodavatele a data. Kde se data ukládají, kdo je poskytovatel modelu, zda data používá k tréninku, jak se ukončuje spolupráce.
  7. Zajistěte záznamy. Návrh, schválení, odeslání. Ideálně automaticky, ne ruční poznámkou.
  8. Jednou za čas pravidla zrevidujte. Nové nástroje, nové použití, nové výklady regulace.

Šablona: interní pravidlo pro použití AI v obchodě

Následující text si upravte a dejte ho celému obchodnímu týmu. Nejde o právní dokument, ale o srozumitelné pravidlo pro každodenní práci.

Pravidlo pro použití AI v obchodní komunikaci

1. AI používáme k třídění poptávek, shrnutí požadavků a přípravě návrhů odpovědí a nabídek.
2. Žádný e-mail ani nabídka neodchází bez kontroly a schválení odpovědným obchodníkem.
3. O ceně, termínu, slevě a odmítnutí zakázky rozhoduje vždy člověk.
4. Do AI nevkládáme údaje, které pro úkol nejsou nutné (rodná čísla, čísla účtů, zdravotní údaje, interní hesla).
5. Používáme jen schválené nástroje firmy, ne soukromé účty.
6. Pokud zákazník komunikuje přímo s automatem, je o tom informován.
7. Chybu v návrhu AI nahlaste [jméno odpovědné osoby].

Odpovědná osoba: [jméno] · Platnost od: [datum] · Poslední revize: [datum]

Jak to řeší BOTrento

BOTrento Chief of Staff je řízený proces pro poptávky, nabídky a follow-up. Principy, které po vás chce dobrá praxe kolem AI Actu, jsou v něm zabudované od začátku:

  • Schválení člověkem. Nic se neodešle bez schválení. AI připraví návrh e-mailu nebo nabídky, rozhoduje a odesílá obchodník.
  • Vlastní API klíče. Model si vyberete a zadáte vlastní klíč (Anthropic Claude, OpenAI, Google Gemini, Groq, ElevenLabs). Víte tedy přesně, kdo vaše texty zpracovává. Klíče jsou šifrované, vidět jsou jen poslední 4 znaky a můžete je kdykoli odebrat. Postup najdete v nápovědě k nastavení API klíčů a širší souvislosti v článku o BYOK ve firmě.
  • Data a zpracování. Data ukládáme na serverech v Německu (EU). Jazykový model zpracovává jen texty nutné pro úkol, přes API poskytovatele, kterého si zvolíte. Komerční API poskytovatelé data nepoužívají k tréninku. Upřímně dodáváme, že server v EU s voláním externího AI API není uzavřený výpočet.
  • Zkušební doba 14 dní zdarma. Začíná prvním úspěšným nahráním vašich dat (import nebo napojení pošty), na přípravu je 7 dní. Platební kartu přidáte až na konci, pokud chcete pokračovat. Bez platby se po skončení přístup zablokuje do úhrady, export dat ale zůstává dostupný a data držíme 30 dní, takže si výsledky můžete v klidu stáhnout a projít i s ohledem na vaše interní pravidlo.
  • Ukončení bez zámku. Export dat a výstupů, popis procesů a dohodnutý termín odstranění přístupů a kopií.

Jak vypadá schvalování v praxi, si můžete projít v ukázce procesu. Podmínky zkušební doby a tarifů najdete v ceníku.

Časté otázky

Týká se AI Act i malé firmy, která jen používá ChatGPT nebo podobný nástroj?

Ano. Jako uživatel máte méně povinností než poskytovatel, ale měli byste zajistit základní AI gramotnost lidí a transparentnost tam, kde zákazník komunikuje s AI napřímo. Rozdíl mezi samoobslužným chatem a řízeným procesem vysvětluje článek ChatGPT nebo Claude pro firmu, nebo řízený AI proces.

Je použití AI na cenové nabídky vysoce rizikové?

Běžná příprava nabídek a odpovědí na poptávky do rizikových oblastí obvykle nepatří. Záleží ale na konkrétním použití, a pokud si nejste jistí, poraďte se s právníkem.

Musím zákazníkovi říkat, že e-mail připravila AI?

Povinnost informovat se týká hlavně situací, kdy člověk komunikuje přímo s AI systémem. Pokud návrh zkontroluje a odešle obchodník pod svým jménem, je situace jiná. I tak se doporučuje obecná zmínka o použití AI v zásadách ochrany údajů.

Nahrazuje AI Act GDPR?

Ne, platí obě úpravy vedle sebe. U poptávek s osobními údaji dál řešíte právní základ, zpracovatele a minimalizaci dat.

Co je nejjednodušší první krok?

Sepište, kde a k čemu AI ve firmě používáte, a stanovte, o čem rozhoduje vždy člověk. Z toho pak vyjde krátké interní pravidlo a zaškolení týmu.

Shrnutí

  • Malá firma, která AI v obchodě používá, je podle AI Actu typicky v roli uživatele (zavádějícího subjektu).
  • Poptávky, nabídky a follow-up obvykle nepatří do rizikových oblastí. Zpozorněte u HR, úvěrů a dalších citlivých rozhodnutí.
  • Hlavní úkoly jsou AI gramotnost týmu, transparentnost vůči zákazníkům a lidský dohled nad cenou, termínem a odesláním.
  • GDPR platí dál. Hlídejte data, zpracovatele a záznamy o tom, kdo co schválil.
  • Sepište jednostránkové interní pravidlo a u konkrétních nejasností se poraďte s právníkem.

Vyzkoušejte BOTrento 14 dní zdarma

Chcete vidět, jak by schvalovaný proces fungoval na vašich poptávkách? Napište na info@botrento.com. V pracovní dny se ozveme do 24 hodin a ukázku na vašich datech připravíme do 7 dní. Vyplňte pár údajů a přístup vám hned přijde e-mailem. S napojením pošty rádi pomůžeme.

14 dní zdarma, bez karty a bez vlastního API klíče. Zkušební doba začíná až prvním nahráním vašich dat. Pak od 1 990 Kč měsíčně bez DPH, AI v ceně.

Nic se neodešle bez vašeho schválení. Kartu přidáte až na konci, pokud budete pokračovat; bez platby se přístup zablokuje do úhrady, data držíme 30 dní a export je dostupný. Ceník · Prohlédnout ukázku procesu

Bez karty a bez vlastního API klíče. Ceny tarifů jsou bez DPH.

Související články