Klient przesyła dokument, a pracownik chce szybko wyciągnąć z niego kilka pól. Zanim wklei treść do narzędzia AI, firma musi wiedzieć, gdzie trafią dane, jakie systemy je zapiszą i kto będzie mógł je odczytać. Tę ścieżkę warto opisać przed pierwszym testem.
Bezpieczeństwo danych w AI zależy od konkretnego narzędzia, konfiguracji i zakresu dostępu. Do pierwszego pilotażu użyj danych syntetycznych lub odpowiednio przygotowanych danych testowych. Zanim uruchomisz pracę na danych klientów, zweryfikuj dostawcę, przepływ danych, uprawnienia, retencję i sposób usuwania danych.
Jak sprawdzić, dokąd trafiają dane?
Rozpisz ścieżkę dokumentu: źródło, aplikacja, narzędzie automatyzacji, model, wynik i logi. Sprawdź także kopie zapasowe oraz narzędzia monitoringu. Treść może zostać zapisana poza samym czatem, np. jako pełne wejście w historii wykonania automatyzacji.
Zapisz przy każdym kroku: kto przetwarza dane, które pola są potrzebne, kto może je zobaczyć, jak długo zostają i jak je usunąć. Jeżeli do klasyfikacji wiadomości wystarczy temat i krótki fragment, nie wysyłaj automatycznie załączników ani całej historii.
Czy dostawca wykorzysta dane do trenowania modeli?
Sprawdź warunki konkretnej usługi i planu, ustawienia konta oraz konfigurację integracji. Odpowiedź może być inna dla publicznego czatu, firmowej przestrzeni i API. Nie opieraj decyzji na samej nazwie dostawcy.
Wyłączenie treningu nie odpowiada na pytanie o retencję. Osobno sprawdź, czy i jak długo treści lub metadane są przechowywane, do jakiego celu i kto ma do nich dostęp. Zachowaj potwierdzenie ustaleń oraz ustawień dla wybranego środowiska.
Jak ograniczyć uprawnienia asystenta firmowego?
Wyszukiwanie dokumentów powinno respektować uprawnienia konkretnego użytkownika przed przekazaniem wyników modelowi. Samo polecenie „nie ujawniaj poufnych danych” nie zastąpi kontroli dostępu. W pilotażu zacznij od wydzielonego zbioru dokumentów i trybu odczytu.
Przetestuj dwie role o różnych uprawnieniach. Poproś obie o informację z dokumentu dostępnego tylko dla jednej. Sprawdź również, czy nazwa pliku, fragment wyniku lub log nie ujawnia treści osobie bez dostępu.
Jak zapobiec wykonaniu polecenia z obcego dokumentu?
E-mail lub plik może zawierać tekst podszywający się pod instrukcję dla asystenta. Traktuj treść dokumentów jako materiał do analizy. Zapis do CRM, wysyłka wiadomości czy zmiana danych powinny wymagać odrębnych uprawnień, walidacji i zatwierdzenia tam, gdzie błąd ma istotne skutki.
Przetestuj przykładowy dokument z fałszywą instrukcją wysłania danych. Oczekiwany wynik to brak wysyłki i przekazanie nietypowej sprawy do sprawdzenia. Zdefiniuj też procedurę wstrzymania automatyzacji.
Co zatwierdzić przed użyciem rzeczywistych danych?
Właściciel procesu i osoba odpowiedzialna za bezpieczeństwo lub ochronę danych powinni przejrzeć przepływ informacji i wyniki testów. Wymagania dotyczące danych osobowych zweryfikuj dla konkretnego zastosowania i dostawcy.
- Sprawdź, czy do pilotażu można użyć fikcyjnych dokumentów bez prawdziwych danych klientów.
- Zweryfikuj role, konfigurację dostawcy, logi, retencję i sposób usuwania.
- Sprawdź, czy asystent odmówi przy braku źródła i nie wykona polecenia z dokumentu.
- Ustal właściciela procesu, sposób eskalacji i procedurę wyłączenia.
Na czym opieramy rekomendacje?
Przykłady i lista kontroli to zalecenia wdrożeniowe Herens. Profil NIST pomaga uporządkować ocenę ryzyka oraz testowanie systemów generatywnej AI.
Najczęstsze pytania
Czy mogę wkleić dokument klienta do publicznego czatu AI?+
Najpierw sprawdź, czy firma dopuściła konkretne narzędzie i dany rodzaj dokumentu. Do wstępnego testu użyj danych fikcyjnych, a rzeczywisty dokument przetwarzaj dopiero w zatwierdzonym procesie.
Czy asystent z dostępem do dokumentów rozwiązuje problem uprawnień?+
Nie. System musi filtrować dokumenty według uprawnień użytkownika, zanim trafią do modelu, i chronić treści również w wynikach oraz logach.
Czy muszę zacząć od wdrożenia na własnych serwerach?+
Nie zawsze. Wybór środowiska zależy od rodzaju danych, wymagań firmy i konfiguracji dostawcy. Najpierw ustal przepływ informacji oraz sposób kontroli dostępu i retencji.