Oddělení dat v chatbotu: jak ohlídat, aby data vaší firmy a klientů neviděl nikdo jiný

Tým BOTrento14. 10. 20267 min čtení

Tři vrstvy oddělení dat: účet, kontext a paměť

Když dodavatel řekne „vaše data jsou oddělená“, může tím myslet různé věci. Vyplatí se rozlišovat tři vrstvy, protože každá chrání před jiným rizikem.

1. Oddělení účtů (firma od firmy)

Základní vrstva: vaše data jsou uložená tak, aby se k nim nedostal jiný zákazník téhož nástroje. Patří sem i to, kdo z lidí dodavatele může vaše data vidět a v jaké situaci, například při řešení technické chyby.

2. Oddělení kontextu (případ od případu)

Jazykový model pracuje s textem, který dostane v rámci úkolu. Pokud do jedné konverzace vložíte poptávku klienta A i nabídku pro klienta B, model je klidně smíchá a citlivá informace může skončit v e-mailu nesprávnému člověku. Tady jde hlavně o to, jak je nástroj postavený a jak s ním pracujete.

3. Paměť a trénink

Některé nástroje si pamatují informace napříč konverzacemi. Je potřeba vědět, co si nástroj ukládá, kde to je a jak to smazat. Dále je dobré ověřit, zda poskytovatel modelu nepoužívá vaše texty k tréninku. Rozdíl mezi uložením dat a jejich zpracováním modelem podrobně vysvětluje článek Kde jsou data, když používáte AI.

Kde v malé firmě hrozí, že data uvidí někdo jiný

Ve firmách s 3 až 30 lidmi nebývá problém v tom, že by někdo prolomil server. Problémy obvykle vznikají při běžné práci.

• Soukromé účty zaměstnanců. Obchodník si do svého osobního chatbota vloží celé e-mailové vlákno s klientem. Firma pak neví, kde ta data jsou, a nemůže je smazat.
• Jeden sdílený přihlašovací účet. Všichni používají stejné přihlášení, a tak není vidět, kdo co do nástroje vložil, a nejde omezit přístup.
• Konkurenční klienti. Eventová agentura připravuje akce pro dvě firmy ze stejného oboru. Když se v jedné konverzaci promíchají jejich podklady, může se cena nebo koncept jednoho klienta objevit v návrhu pro druhého.
• Paměť napříč konverzacemi. Nástroj si „pamatuje“ detail z minulého týdne a nabídne ho v úplně jiném případu.
• Odchod člověka z firmy. Bývalý kolega má dál přístup do nástroje nebo k exportům.
• Automatické odeslání. Pokud nástroj sám odesílá e-maily, chybu v oddělení kontextu už nikdo nezastaví.

Z toho plyne, že oddělení dat je zčásti technická vlastnost nástroje a zčásti organizace práce: kdo má účet, kdo vidí které případy a kdo schvaluje, co odejde ven.

12 otázek pro dodavatele AI nástroje

Následující otázky pošlete dodavateli písemně a chtějte konkrétní odpovědi. Pokud na některou dostanete jen obecné ujištění, zeptejte se znovu.

Účet a přístupy

1. Jak jsou data naší firmy oddělená od dat ostatních zákazníků?
2. Kdo z vašich lidí může naše data vidět, za jakých okolností a zaznamenává se to?
3. Můžeme mít v týmu samostatné uživatele a omezit, kdo vidí které případy?
4. Jak rychle zrušíme přístup člověku, který odchází?

Kontext a model

1. Jaká data posíláte jazykovému modelu? Celé schránky, nebo jen texty potřebné pro konkrétní úkol?
2. Kterého poskytovatele modelu používáte a používá naše texty k tréninku?
3. Můžeme použít vlastní API klíč a jak je klíč u vás chráněný?
4. Jak zabráníte tomu, aby se podklady jednoho klienta dostaly do návrhu pro jiného?

Uložení, paměť a konec spolupráce

1. Kde jsou data fyzicky uložená (země, poskytovatel serverů)?
2. Co si nástroj pamatuje dlouhodobě a jak to smažeme?
3. Odešle nástroj něco sám, bez schválení člověkem?
4. Jak dostaneme data zpět a kdy a jak je smažete po skončení spolupráce?

Otázky na smluvní stránku, tedy role správce a zpracovatele, subdodavatele a zabezpečení, najdete v článku Smlouva o zpracování osobních údajů s AI dodavatelem. Stručný kontrolní seznam k GDPR je na stránce AI asistent pro obchod a GDPR. U konkrétních smluv a sporných případů se poraďte s právníkem.

Postup ve firmě: oddělení dat v 5 krocích

Ani nejlépe postavený nástroj vás neochrání, když tým vkládá data, kam ho napadne. Následující postup zvládnete za jedno odpoledne.

1. Sepište, co do AI půjde. Typicky jde o texty poptávek, e-maily s klienty, podklady k nabídkám a export z CRM (Raynet, Pipedrive) nebo z tabulky. Účetní data z Pohody, Money S3 nebo Fakturoidu do obchodního AI nástroje obvykle vůbec nepotřebujete.
2. Zakažte soukromé účty pro firemní data. Obchodní komunikace patří jen do nástroje, který má firma schválený a pod svým účtem.
3. Každý člověk má vlastního uživatele. Nepoužívejte jedno sdílené heslo. Určete, kdo vidí které schránky a případy. Pravidla přidělování popisuje článek o vlastníkovi každé poptávky.
4. Jeden případ = jeden kontext. Nemíchejte podklady různých klientů v jedné konverzaci. U konkurenčních klientů to platí dvojnásob.
5. Nic neodchází bez kontroly. Každý návrh e-mailu nebo nabídky před odesláním přečte člověk, který případ vlastní.

Šablona interního pravidla

Pravidlo pro práci s AI v obchodě

1. Firemní e-maily, poptávky a nabídky zpracováváme jen ve schváleném nástroji: [název].
2. Každý má vlastní přístup; sdílená hesla nepoužíváme. Při odchodu zruší přístup [jméno] ještě týž den.
3. Podklady různých klientů nevkládáme do jedné konverzace.
4. Žádný návrh vytvořený AI neodchází bez kontroly vlastníka případu.
5. Do nástroje nevkládáme rodná čísla, zdravotní údaje ani přístupová hesla.
6. Pochybnosti hlásíme [jméno], které rozhodne.

Jak k datům přistupuje BOTrento

BOTrento Chief of Staff není volný chatbot, do kterého lidé vkládají, co je napadne. Je to řízený proces pro poptávky, nabídky a follow-upy. Pracuje s vaší napojenou poštou (Seznam a další přes IMAP, Gmail a Microsoft 365 zatím přeposláním nebo importem) a s daty, která nahrajete jako CSV nebo XLSX. Na otázky ze seznamu výše odpovídá takto:

• Uložení: data ukládáme na serverech v EU, v Německu; databáze aplikace je v Irsku.
• Model: jazykový model zpracovává jen texty nutné pro konkrétní úkol, přes API komerčního poskytovatele. Standardně jde o náš účet, volitelně o váš vlastní klíč. Komerční API poskytovatelé data nepoužívají k tréninku. Server v EU s voláním externího AI API ale není uzavřený výpočet a říkáme to otevřeně.
• Vlastní API klíč: zatím jen Anthropic (Claude). Klíče jsou šifrované, vidět je jen poslední 4 znaky a můžete je kdykoli odebrat. Podrobnosti najdete v nápovědě k API klíčům.
• Schválení člověkem: nic se neodešle samo. Návrhy odpovědí, nabídek i follow-upů vždy schvaluje člověk.
• Konec spolupráce: dostanete export dat a výstupů a popis procesů. Termín odstranění přístupů a kopií se dohodne předem.

Jak vypadá běžný den, tedy ranní přehled Dnes 1+3, koncepty a připomenuté sliby, ukazuje ukázka procesu. Pokud řešíte poptávky v B2B službách, podívejte se i na stránku pro B2B služby. Proces si můžete vyzkoušet 14 dní zdarma na vlastních datech, bez platební karty a bez vlastního API klíče. Zkušební doba začíná až prvním úspěšným nahráním dat.