AI asistent a citlivá data: checklist, co do něj v obchodě nepatří

Tým BOTrento7. 11. 20266 min čtení

Proč na tom záleží i u běžné poptávky

Běžná poptávka vypadá nevinně: jméno, firma, termín, rozpočet. Jenže v e-mailovém vlákně bývá víc. Někdo přepošle interní kalkulaci, jinde je v podpisu soukromé číslo, klient popisuje zdravotní omezení hosta na akci nebo přiloží nabídku konkurenta, kterou vám poslal pro srovnání.

AI asistent pracuje s textem, který mu předáte. Čím víc nadbytečných informací v textu je, tím větší je riziko, že skončí tam, kde být nemají. Zásada je prostá: do AI jde jen to, co je nutné pro daný úkol.

Praktický příklad z eventové agentury: poptávka na firemní večer obsahuje počet hostů, termín a místo, ale také poznámku, že dva hosté potřebují bezbariérový přístup kvůli zdravotnímu omezení. Pro nabídku stačí „bezbariérový přístup pro dva hosty“, jména ani diagnózy nejsou potřeba.

Checklist: tři pásma rizika

Červené pásmo: nepatří do AI nikdy

• hesla, přístupové kódy, API klíče, čísla platebních karet a bankovní přihlašovací údaje,
• zvláštní kategorie osobních údajů (zdraví, náboženství, biometrika a podobně), pokud k tomu nemáte jasný důvod a právní základ,
• rodná čísla, čísla dokladů a jejich kopie,
• obsah smluv s doložkou o mlčenlivosti, pokud ji nejste oprávněni sdílet se zpracovatelem,
• právně citlivé spory a komunikace s advokátem.

Oranžové pásmo: jen po zvážení a v minimu

• interní kalkulace, marže a nákupní ceny,
• individuální slevy a podmínky klíčových zákazníků,
• cizí cenové nabídky, které vám klient poslal pro srovnání,
• detailní popis vlastních postupů a know-how,
• osobní údaje třetích osob ve vlákně (kolegové klienta, hosté akce).

Zelené pásmo: obvykle v pořádku

• text poptávky bez zbytečných osobních údajů,
• standardní ceníky a veřejné podmínky,
• obchodní kontaktní údaje (jméno, firma, e-mail) v rozsahu nutném pro odpověď,
• termíny, místo, rozsah zakázky.

Zařazení se liší firmu od firmy. Pokud se ve výčtu nenajdete, ptejte se: Stačilo by mi to i bez toho údaje? Pokud ano, údaj vynechte.

Pět otázek před vložením textu

Pásma se hodí pro nastavení pravidel. V každodenní práci pomůže krátká kontrola, kterou zvládne každý obchodník za pár vteřin:

1. Potřebuje to AI k úkolu? Pokud ne, údaj z textu odstraňte.
2. Je v textu něco z červeného pásma? Pak text nevkládejte vůbec nebo údaj nejdřív vymažte.
3. Komu ty informace patří? Cizí kalkulace, smlouva s mlčenlivostí nebo údaje třetích osob vyžadují zvláštní opatrnost.
4. Vím, kdo text zpracuje a na jakém základě? Pokud ne, odpovězte ručně.
5. Přečte výstup člověk před odesláním? Bez schválení člověkem nic neodchází.

Odstranění nadbytečných údajů nemusí být zdlouhavé. U rutinních poptávek stačí vynechat podpis, citované části starších zpráv a přeposlané přílohy v textu.

Kdy je bezpečnější odpovědět bez AI

AI asistent není povinnost. V některých situacích je rozumnější odpovědět ručně:

• Vlákno je plné citlivých údajů a jejich vyříznutí by trvalo déle než napsat odpověď.
• Jde o spor nebo reklamaci s právním dopadem.
• Klient výslovně zakázal sdílení informací s třetími stranami.
• Nevíte, na jakém základě data zpracováváte nebo kdo je zpracovatel.
• Jde o unikátní know-how, například speciální technologický postup nebo kalkulační model.

Pro rutinní poptávky, kde jde o termín, rozsah a cenu z ceníku, je naopak AI přínosná, protože šetří čas na konceptech a hlídání follow-upů. Důležité je, aby výstup vždy schválil člověk. O tom, jak follow-upy nezapomínat, píšeme v odpovědi Co je follow-up a jak na něj u nabídek nezapomínat.

Postup: jak si pravidlo zavést za jedno odpoledne

1. Sepište, jaká data v obchodě procházejí. Projděte posledních deset poptávek a poznamenejte si, co v nich bylo mimo jádro zakázky.
2. Rozdělte údaje do tří pásem podle checklistu výše a doplňte položky specifické pro váš obor.
3. Určete výjimky. Kdo smí rozhodnout, že se citlivější údaj použije, a na jakém základě.
4. Ověřte dodavatele. Zeptejte se na roli, subdodavatele, umístění dat a co se stane po skončení spolupráce (viz otázky před podpisem smlouvy o zpracování).
5. Napište jednostránkové pravidlo a proberte ho s týmem; podklady najdete v článku AI a důvěrné informace: pravidla pro tým.
6. Po měsíci pravidlo zrevidujte na skutečných případech.

Vzor interního pravidla

Do AI asistenta vkládáme jen text potřebný pro odpověď na konkrétní poptávku. Nikdy nevkládáme hesla, klíče, platební údaje, rodná čísla ani zvláštní kategorie osobních údajů. Interní kalkulace a ceny na míru konzultujeme s vedoucím. Každý výstup AI před odesláním čte a schvaluje člověk. Při pochybnostech odpovíme bez AI.

Soukromí: kde jsou data a kdo je zpracuje

Úložiště a zpracování modelem jsou dvě různá místa. I když jsou data uložená na serveru v EU, text potřebný pro úkol zpracuje poskytovatel jazykového modelu, a server v EU s voláním externího AI API tedy není uzavřený výpočet. Podrobnosti najdete v článku Kde jsou data, když používáte AI. K právní stránce se hodí GDPR checklist pro poptávky a nabídky, přehled, která data o klientech nahrát a která ne, a kontrolní seznam k GDPR. U konkrétního případu doporučujeme konzultaci s právníkem.

Jak to řeší BOTrento

BOTrento Chief of Staff je řízený proces pro poptávky, nabídky a follow-upy, ne volný chat. Pracuje s textem e-mailů a nahranými daty (CSV/XLSX), připraví koncepty odpovědí, nabídek a follow-upů a nic neodešle samo. Každý návrh schvaluje člověk. Nečte obsah příloh, vychází z textu e-mailu, takže dokumenty v příloze se do zpracování nedostanou; text e-mailu samotného ale zkontrolujte stejně jako jinde.

Data ukládáme na serverech v Německu (EU). Jazykový model zpracovává jen texty nutné pro úkol, přes API komerčního poskytovatele; komerční API poskytovatelé data nepoužívají k tréninku. Volitelně lze použít vlastní API klíč (dnes jen Anthropic, Claude). Jak proces vypadá, ukazuje ukázka procesu.

Nejjednodušší je ověřit si to na vlastních poptávkách: zkušební doba 14 dní zdarma běží bez karty a bez vlastního API klíče a začíná prvním nahráním dat. Začněte daty, která jsou v zeleném pásmu. Pokud řešíte i náklady, přehled najdete v ceníku.