AI może przygotować działanie, ale to aplikacja powinna blokować jego wykonanie do czasu uzyskania wymaganej zgody. Pracownik zatwierdza wtedy konkretną wiadomość, zmianę rekordu lub inną operację, a nie ogólną deklarację asystenta: „zajmę się tym”.
Najważniejsza zasada projektowa brzmi: zgoda dotyczy dokładnie tego, co pracownik zobaczył. Jeśli później zmieni się odbiorca, treść, załącznik lub zakres aktualizacji, system powinien ponownie poprosić o decyzję. Poniżej znajdziesz propozycję zasad i wymagań dla takiej integracji, nie opis gotowego wdrożenia Lime Development.
Najpierw oddziel przygotowanie od wykonania
Projekt e-maila nie jest wysłanym e-mailem. Proponowana aktualizacja terminu w CRM nie jest zapisem w bazie. Ten podział powinien być widoczny również w narzędziach udostępnionych asystentowi.
Zamiast jednej funkcji „obsłuż zamówienie” lepiej zaplanować osobne operacje: pobranie wskazanego zamówienia, przygotowanie propozycji i wykonanie zatwierdzonego działania. Dzięki temu można nadać im różne uprawnienia. Samo wygenerowanie poprawnej propozycji nie daje prawa do jej realizacji.
Dokumentacja zatwierdzania w OpenAI Agents SDK opisuje zatrzymanie procesu przed wykonaniem narzędzia wymagającego zgody. Aplikacja otrzymuje oczekujące działanie i stan przebiegu, a po zatwierdzeniu lub odrzuceniu może wznowić ten sam proces. Jest to mechanizm aplikacyjny, a nie tylko instrukcja dla modelu.
Nie każdy proces wymaga jednak agenta. Jeśli odbiorca, szablon i warunki wysyłki wynikają z jednoznacznych reguł, zwykła automatyzacja z ekranem akceptacji może wystarczyć. AI przydaje się tam, gdzie trzeba zinterpretować wiadomość albo przygotować treść. Rozdzielenie tych zadań opisuje też poradnik o porządkowaniu zapytań klientów przed przekazaniem do CRM.
Które działania wymagają zgody?
Zacznij od listy operacji, nie od wyboru modelu. Dla każdej zapisz: jakich danych dotyczy, kto zobaczy rezultat, czy można ją odwrócić i jaki będzie skutek błędu. Następnie przypisz ją do jednej z trzech grup.
| Grupa | Hipotetyczny przykład | Proponowana reguła |
|---|---|---|
| Automatyczne | Przygotowanie projektu odpowiedzi z danych wskazanego zamówienia | Dozwolone w ograniczonym zakresie, bez wysyłki i zmiany danych źródłowych |
| Wymagające zgody | Wysłanie wiadomości do klienta lub zmiana terminu w CRM | Wykonanie dopiero po akceptacji konkretnej wersji operacji |
| Zabronione | Masowy eksport kontaktów lub usunięcie całej historii klienta | Brak dostępnego narzędzia albo blokada po stronie aplikacji |
To propozycja macierzy dla pilotażu, nie uniwersalny standard. W jednej firmie zmiana wewnętrznej etykiety może być automatyczna, w innej uruchamia kolejne procesy i wymaga kontroli.
Odczyt również wymaga oceny. Pobranie pojedynczego zamówienia to inny zakres niż dostęp do całej bazy klientów. W wytycznych bezpieczeństwa OpenAI zalecenie dotyczące narzędzi MCP obejmuje pozostawienie zatwierdzania zarówno odczytów, jak i zapisów. Nie należy więc przyjmować, że każda operacja bez zmiany danych jest nieszkodliwa.
Operacja zabroniona nie powinna stawać się dostępna tylko dlatego, że ktoś kliknie „Zatwierdź”. Zgoda i uprawnienie to dwa osobne warunki. Pracownik może podejmować decyzje wyłącznie w przyznanym mu zakresie.
Co pracownik powinien zobaczyć przed zatwierdzeniem?
Ekran z pytaniem „Czy pozwalasz AI kontynuować?” nie daje wystarczającej podstawy do decyzji. Pracownik musi wiedzieć, co dokładnie wydarzy się po kliknięciu przycisku.
W przypadku wiadomości pokaż:
- adres nadawcy, odbiorcę oraz pola DW i UDW;
- temat i pełną treść, bez ukrywania istotnych fragmentów w skrócie;
- listę załączników z możliwością sprawdzenia ich zawartości;
- zamówienie lub sprawę, której dotyczy wiadomość;
- źródło informacji, na przykład termin odczytany z konkretnego zamówienia;
- jednoznaczny skutek: „Wyślij tę wiadomość do wskazanego odbiorcy”.
Przy zmianie danych lepszy będzie widok „przed i po”. Zamiast „Zaktualizuj klienta” pokaż identyfikator rekordu, nazwy zmienianych pól oraz ich dotychczasowe i proponowane wartości. Jeśli zapis uruchamia dalszą automatyzację, ta konsekwencja również powinna być widoczna.
Warto rozdzielić trzy decyzje: zatwierdź, odrzuć, skieruj do poprawy. Odrzucenie kończy daną propozycję bez wykonania. Poprawa tworzy nową wersję, która ponownie czeka na zgodę. Nie oznacza: „model może teraz sam zmienić treść i wysłać”.
System powinien powiązać decyzję z identyfikatorem i wersją operacji. Nie wystarczy zapisać, że pracownik „zaakceptował sprawę klienta”. Potrzebna jest informacja, którą wiadomość lub zestaw zmian faktycznie zaakceptował.
Dlaczego sam prompt nie wystarczy?
Instrukcja „zawsze pytaj o zgodę przed wysłaniem” jest pomocna, ale nie powinna stanowić jedynej blokady. Jeżeli asystent ma bezpośredni dostęp do funkcji wysyłającej wiadomość, aplikacja musi niezależnie sprawdzać warunki jej wykonania.
Problemem jest między innymi prompt injection. OpenAI opisuje ten mechanizm jako próbę sterowania modelem przez zewnętrzną treść wbrew intencji użytkownika. Przykładowo wiadomość klienta może zawierać polecenie, aby asystent zignorował wcześniejsze zasady i przesłał dane na inny adres. Taki e-mail jest materiałem do analizy, nie źródłem uprawnień.
Dlatego potrzebne są odrębne warstwy kontroli:
- Ograniczony dostęp: asystent otrzymuje dane i narzędzia potrzebne do zadania, a nie pełne konto administracyjne.
- Walidacja automatyczna: aplikacja sprawdza odbiorcę, wymagane pola, dozwolony zakres zmian i uprawnienia.
- Decyzja człowieka: pracownik ocenia zasadność operacji i jej treść.
- Kontrola przy wykonaniu: aplikacja sprawdza, czy zgoda nadal dotyczy aktualnej wersji działania.
Dokumentacja OpenAI rozdziela automatyczne kontrole od zatwierdzania i wskazuje znaczenie walidacji przy narzędziu powodującym zmianę. Człowiek nie zastępuje walidatora, a walidator nie ocenia całego sensu biznesowego wiadomości. Żadna z tych warstw nie daje gwarancji pełnego bezpieczeństwa.
Przykład: wiadomość przygotowana przez AI, wysłana po zgodzie
Przykład hipotetyczny: asystent przygotowuje informację o terminie realizacji zamówienia. Ma dostęp do wskazanego zamówienia, ale nie do dowolnego przeglądania bazy klientów.
- Aplikacja pobiera dane zamówienia i przekazuje modelowi potrzebny zakres informacji.
- Model przygotowuje projekt, a aplikacja sprawdza odbiorcę oraz wymagane pola.
- Wywołanie narzędzia wysyłającego zostaje zatrzymane przed wykonaniem.
- Pracownik widzi pełną operację i podejmuje decyzję.
- Po zgodzie aplikacja ponownie sprawdza jej ważność, wykonuje wysyłkę i zapisuje wynik.
W Pythonie narzędzie wymagające zatwierdzenia można oznaczyć w Agents SDK przez needs_approval=True. Poniższy fragment pokazuje jedynie deklarację tej granicy. Celowo nie zawiera integracji pocztowej, obsługi stanu ani kodu zatwierdzającego:
from agents import function_tool
@function_tool(needs_approval=True)
async def wyslij_email(
odbiorca: str,
temat: str,
tresc: str,
) -> str:
raise NotImplementedError(
"Tutaj należy dodać walidację i integrację pocztową"
)
Oznaczenie narzędzia nie tworzy całego panelu akceptacji. Aplikacja musi jeszcze obsłużyć przerwanie, przechować stan, uwierzytelnić zatwierdzającego i przekazać jego decyzję przy wznowieniu. Nie należy dodawać pętli, która automatycznie zatwierdzi wszystkie oczekujące wywołania, bo usuwałaby ona sens kontroli.
Załóżmy, że pracownik poprawia termin w treści. Powstaje nowa wersja projektu. Podobnie należy potraktować podmianę załącznika pod tą samą nazwą. Zgoda powinna obejmować jego konkretną wersję, nie tylko nazwę pliku.
Jeśli w czasie oczekiwania zmieni się termin w systemie zamówień, rekomendowaną regułą jest zatrzymanie wysyłki i ponowna ocena projektu. W przeciwnym razie poprawnie zatwierdzona wiadomość może już zawierać nieaktualne dane.

Treść grafiki
- AI przygotowuje projekt z danych zamówienia
- Aplikacja sprawdza odbiorcę i wymagane pola
- Narzędzie wysyłające czeka na zgodę
- Pracownik zatwierdza, odrzuca lub kieruje do poprawy
- Aplikacja sprawdza ważność zgody i dopiero wtedy wysyła
Co zrobić, gdy zgoda nie nadejdzie lub proces się przerwie?
Brak decyzji powinien oznaczać brak wykonania. Ustal termin ważności oczekującej operacji oraz osobę odpowiedzialną za kolejkę. Termin zależy od procesu: informacja o dostępności produktu może zdezaktualizować się szybciej niż wewnętrzna notatka.
Odrzucenie powinno być zapisane jako decyzja, nie błąd techniczny do automatycznego ponowienia. Asystent nie powinien obchodzić odmowy przez inne narzędzie ani ponawiać tej samej operacji bez nowej podstawy. Przy skierowaniu do poprawy zachowaj powód korekty i powiązanie z poprzednią wersją.
Historia procesu powinna pozwalać ustalić: kto przygotował propozycję, co pokazano pracownikowi, kto i kiedy podjął decyzję oraz jaki był wynik wykonania. Ogranicz dostęp do tego rejestru, bo może zawierać treść wiadomości i dane klienta.
Osobnym przypadkiem jest przerwanie po wysyłce, ale przed zapisaniem wyniku. Sam fakt braku potwierdzenia nie dowodzi, że wiadomość nie wyszła. Integracja musi mieć sposób sprawdzania wyniku i ochronę przed podwójnym wykonaniem. Szczegóły opisuje poradnik o ponowieniach i kontroli duplikatów w automatyzacji. Zgoda na jedną wysyłkę nie jest zgodą na dowolną liczbę powtórzeń.
Jak przygotować pierwszy pilotaż?
Wybierz jeden proces, jedno narzędzie wykonawcze i niewielką grupę uprawnionych osób. Na początek wystarczy przygotowanie oraz zatwierdzanie wiadomości o zamówieniu, bez równoczesnego dodawania edycji CRM i eksportu danych.
Przed uruchomieniem sprawdź przynajmniej następujące sytuacje:
- błędny odbiorca i dodatkowy adres ukryty w DW lub UDW;
- instrukcja sterująca asystentem umieszczona w wiadomości klienta;
- odrzucenie, skierowanie do poprawy i wygaśnięcie zgody;
- zmiana treści, załącznika lub danych źródłowych po akceptacji;
- próba zatwierdzenia przez nieuprawnioną osobę;
- podwójne kliknięcie oraz przerwanie po wykonaniu operacji.
Zmiana modelu lub promptu nie powinna usuwać tych testów z procesu. Warto dołączyć je do zestawu testów regresji automatyzacji AI, a techniczne blokady uprawnień sprawdzać niezależnie od jakości odpowiedzi modelu.
Mierz liczbę korekt i odrzuceń, czas oczekiwania, liczbę wygasłych propozycji oraz czas poświęcany przez pracowników. To pomoże ocenić, czy ekran dostarcza właściwych informacji i czy proces nie przenosi zbyt dużej części pracy na zatwierdzającego.
Budżet obejmuje nie tylko model. Cennik OpenAI API rozróżnia opłaty za modele i wybrane narzędzia. Do kosztu pilotażu dolicz integrację, przechowywanie stanu, monitoring i czas pracownika. Bez wybranego modelu oraz wolumenu nie ma podstaw do podawania wiarygodnej ceny jednego zatwierdzenia.
Lista wymagań do przekazania wykonawcy integracji
Przed rozmową o wdrożeniu przygotuj odpowiedzi na osiem pytań:
- Co asystent może odczytać i przygotować automatycznie?
- Które operacje wymagają zgody, a które pozostają zabronione?
- Kto może zatwierdzać poszczególne działania?
- Jakie szczegóły operacji musi pokazać ekran decyzji?
- Jak system powiąże zgodę z konkretną wersją danych?
- Co nastąpi po odrzuceniu, poprawie i wygaśnięciu?
- Jak zostaną obsłużone przerwanie oraz ryzyko duplikatu?
- Jakie testy muszą przejść przed uruchomieniem?
Z takim opisem można konkretnie ustalić zakres automatyzacji i integracji dla firmy. Punktem wyjścia nie jest wtedy „agent z dostępem do wszystkiego”, lecz ograniczony proces: AI przygotowuje propozycję, człowiek decyduje, a aplikacja pilnuje warunków wykonania.




