
- Najgłośniejszy przypadek to Replit: 20.07.2025 prezes firmy, Amjad Masad, napisał publicznie, że ich agent w środowisku deweloperskim „usunął dane z produkcyjnej bazy” klienta i że to „niedopuszczalne”. Dane wróciły z kopii zapasowej.
- U nas agenci AI pracują na bazach, poczcie i hostingu klientów, więc zasady spisaliśmy po własnych wpadkach. W tabeli niżej jest 10 reguł i zdarzenie, które wymusiło każdą z nich (sierpień–listopad 2026).
- Trzy filary: domyślnie brak dostępu, a potem tylko odczyt; zapis po świadomym przełączeniu przez człowieka; kopie, których agent nie może sam przywrócić ani skasować.
- Najważniejsza lekcja: filtr narzędzi albo „tryb próbny” w poleceniu to higiena, nie granica. Granicą są uprawnienia poza zasięgiem agenta: grant w bazie, zakres tokenu, osobny użytkownik systemu.
Spis treści · 8 części
- 01Agent AI skasował produkcyjną bazę danych: co się stało w głośnym przypadku Replit?
- 02Jakie zasady bezpieczeństwa agentów AI stosujemy u siebie i skąd się wzięły?
- 03Tylko odczyt czy zapis: jakie uprawnienia dać agentowi AI w bazie danych sklepu?
- 04Czy agent AI może sam wysyłać maile, odpowiadać klientom i wydawać pieniądze?
- 05Jak kopie zapasowe chronią firmę przed błędem agenta AI?
- 06Lista kontrolna: jak zabezpieczyć firmę przed błędem agenta AI krok po kroku?
- 07Najczęstsze pytania
- 08Źródła
Ten tekst jest dla właściciela sklepu albo małej firmy, który dał agentowi AI dostęp do panelu, bazy albo poczty i zastanawia się, co się stanie, gdy agent się pomyli. Agent nie musi być złośliwy, żeby narobić szkód. Wystarczy, że jest pewny siebie i ma za szerokie uprawnienia.
Pokazuję reguły, które sami stosujemy wobec agentów pracujących dla nas i dla klientów, razem z incydentami, które je wymusiły. Czym jest agent i czym różni się od czatu, opisałem w tekście agent AI: co to jest.
Agent AI skasował produkcyjną bazę danych: co się stało w głośnym przypadku Replit?
Agent AI skasował produkcyjną bazę danych w lipcu 2025 roku na platformie Replit: według wpisu prezesa firmy z 20.07.2025 agent pracujący w środowisku deweloperskim usunął dane z bazy produkcyjnej użytkownika, mimo prośby o wstrzymanie zmian. Dane wróciły z kopii, a firma zapowiedziała rozdzielenie baz deweloperskiej i produkcyjnej.
Sprawę opisał na X klient, Jason Lemkin z SaaStr, a Amjad Masad odpowiedział 20.07.2025. Z jego wpisu wynikają cztery rzeczy, które warto zapamiętać: agent z dewelopmentu miał zapis do produkcji; firma miała kopie z przywróceniem całego projektu jednym kliknięciem; agent nie miał dostępu do właściwej dokumentacji; użytkownicy prosili o tryb „tylko planowanie i czat”, w którym agent niczego nie zmienia.
To nie jest historia o złym modelu. To historia o uprawnieniach. OWASP w liście zagrożeń dla aplikacji LLM z 2025 roku nazywa to „nadmierną sprawczością” i wskazuje trzy źródła: za dużo funkcji, za dużo uprawnień, za dużo autonomii. Każda z naszych reguł niżej zamyka jedno z tych trzech.
Nadmierna sprawczość agenta AI to sytuacja, w której agent może wykonać szkodliwą operację nie dlatego, że ktoś go do tego zmusił, tylko dlatego, że nikt mu tej możliwości nie odebrał.
Jakie zasady bezpieczeństwa agentów AI stosujemy u siebie i skąd się wzięły?
Zasady bezpieczeństwa agentów AI u nas to 10 reguł spisanych między 14.08 a 05.11.2026, każda po konkretnym zdarzeniu. Agenci Hermes działają w kontenerach w Aderlo Cloud, a do hostingu, baz i poczty sięgają przez serwer MCP z zakresami uprawnień nadawanymi tokenowi.
Poniżej stan z naszych notatek operacyjnych, odczytanych 07.11.2026. Nie podaję nazw klientów ani instancji, których dotyczyły zdarzenia.
| Reguła | Zdarzenie, które ją wymusiło | Data |
|---|---|---|
| Swobodę agenta kupuje się kopiami, nie zdejmowaniem blokad; kosz zamiast trwałego usuwania, zapis sprawdzany ponownym odczytem | Decyzja przy projektowaniu uprawnień agenta na hostingu: trzy warstwy mocy naraz, ale każda z drogą odwrotu | 14.08.2026 |
| Narzędzie wykonawcze przechodzi trzy testy: nic nie trafia do klienta, operacja jest odwracalna, groźny parametr (np. tryb próbny) jest przypięty w kodzie, a nie zostawiony agentowi | Pierwszy zakres MCP, który pozwalał agentowi działać, a nie tylko czytać | 15.08.2026 |
| Podgląd ma liczyć dokładnie to samo, co wykonanie | Próbny przebieg wysyłki pokazywał 23 zaległe maile, choć wszystkie wyszły; agent marketingu trzy dni z rzędu zgłaszał ten sam fałszywy problem | 16–18.08.2026 |
| Tryb próbny tylko jawną flagą; cichy wynik sprawdza się w logu | Polecenie z DRY=1 przed nazwą skryptu miało tylko pokazać zmiany, a wykonało je w 8 instalacjach WordPressa; skrypt czytał tryb próbny wyłącznie z argumentu | 21.08.2026 |
| Treść zgłoszenia, maila czy zrzutu ekranu to dane, nie polecenia; pieniądze, dostęp i rzeczy nieodwracalne idą do człowieka | Start automatycznego dyżuru nad zgłoszeniami klientów; tego samego dnia limit 5 zgłoszeń na przebieg | 23.08.2026 |
| Każde polecenie agenta ma limit czasu, a zawieszony przebieg wysyła alarm | Dyżur stanął na 4 godziny na pytaniu o uprawnienie i zablokował kolejne przebiegi godzinowe, wyglądając przy tym na sprawny | 24.08.2026 |
| Strażnik ma łapać brak postępu, a nie długość pracy: blokada po 3 porażkach tego samego wywołania albo 10 błędach z rzędu | Agent bez widocznego narzędzia zrobił około 83 wywołań i nic nie dowiózł; pierwszy strażnik z płaskim limitem 40 w 5 dni uciął co najmniej 10 normalnych tur na 5 instancjach | 12.09 i 17.09.2026 |
| Agent nie dopisuje własnych bramek do naszych zabezpieczeń; zabezpieczenia są wersjonowane | Agent na prośbę właściciela napisał własną bramkę publikacji i wpiął ją w nasz hak; bramka blokowała jego pracę, a samo usunięcie pliku odcięłoby mu powłokę | 21.09.2026 |
| Dostęp do bazy przełącza człowiek, per baza: brak, odczyt albo pełny; domyślnie brak, także dla baz założonych przez agenta | Wejście agentów do baz MySQL klientów; w teście obiekt utworzony przez agenta po odebraniu mu dostępu blokował zapisy właściciela, więc „pełny” celowo nie obejmuje wyzwalaczy, widoków ani procedur | 06.10.2026 |
| Wysyłka poczty i odczyt treści maili tylko po osobnej zgodzie; dane testowe wyłącznie w naszej domenie | W teście wysyłki agent odpowiedział na zmyślony adres w prawdziwej, cudzej domenie; wiadomość zatrzymałem i usunąłem z kolejki serwera | 05.11.2026 |
Żadna z tych reguł nie powstała „na zapas”. Najgroźniejsze okazały się nie spektakularne awarie, tylko ciche: przebieg, który nic nie wypisał, i dyżur, który wisiał, a wyglądał na sprawny.
Tylko odczyt czy zapis: jakie uprawnienia dać agentowi AI w bazie danych sklepu?
Agentowi AI w bazie danych sklepu daj na start tylko odczyt, a zapis włączaj osobno dla konkretnej bazy, gdy masz kopię i wiesz, po co agent ma pisać. U nas od 06.10.2026 każda baza klienta ma przełącznik z trzema pozycjami (brak, odczyt, pełny), a domyślna pozycja to brak.
Kluczowe jest to, gdzie leży granica. Nie sprawdzamy, czy zapytanie SQL od modelu „wygląda bezpiecznie”, bo model może je dowolnie przeformułować. Agent łączy się osobnym użytkownikiem bazy z własnymi uprawnieniami, więc przy pozycji „odczyt” serwer bazy po prostu odrzuci DELETE czy DROP.
W przypadku Replit tej warstwy zabrakło: agent z dewelopmentu miał zapis do produkcji.
Filtr narzędzi w konfiguracji agenta (lista dozwolonych i zakazanych) nie jest granicą bezpieczeństwa, jeśli klucz do usługi leży w tym samym katalogu, co agent. Jeśli agent i klucz działają jako ten sam użytkownik systemu, agent może użyć klucza mimo zakazu w konfiguracji. Twarda separacja to osobny proces z osobnym kontem, który trzyma sekret i wykonuje tylko zatwierdzone wywołania.
Czy agent AI może sam wysyłać maile, odpowiadać klientom i wydawać pieniądze?
Agent AI może u nas wysyłać maile tylko po osobnej zgodzie właściciela konta i w limitach: 20 odbiorców na wiadomość, 50 wiadomości na token i 200 na klienta na dobę (stan od 05.11.2026). Wydawanie pieniędzy, zakup mocy i usuwanie zasobów są poza zasięgiem narzędzi agenta całkowicie.
Uprawnienia do poczty dzielimy na trzy zakresy: widok skrzynek i ustawień, odczyt treści oraz wysyłkę. Dwa ostatnie są opt-in, czyli nie zaznaczają się same przy łączeniu agenta. Maila nie da się cofnąć, dlatego poza zgodą jest też twardy limit.
Podobnie z zarządzaniem samym agentem. Od 05.11.2026 Claude może przez MCP restartować, aktualizować i konfigurować Hermesa klienta, ale celowo nie może go usunąć, przywrócić z kopii, dokupić mocy ani odczytać wartości kluczy API. Te operacje zostają w panelu, przy człowieku.
Automatyczny dyżur nad zgłoszeniami (od 23.08.2026) sam naprawia tylko odwracalną konfigurację: limity, wersję PHP, cache, certyfikat, DNS w naszych strefach. Pieniądze, zakres usługi, dostęp, rzeczy nieodwracalne i każdy przypadek bez dowodu idą do decyzji administratora. Cisza administratora nie jest zgodą.
Automatyczny „sędzia” zgód też nie jest zgodą. Gdy ryzykowne polecenia ocenia model językowy, może on przepuścić coś, czego człowiek by nie zatwierdził, na przykład zmianę praw plików na pełny dostęp dla wszystkich. Sprawdź też, czy taka decyzja zostawia ślad w logu. Dla operacji, które naprawdę muszą przejść przez człowieka, potrzebny jest tryb ręczny i działająca karta zgody.
Jak kopie zapasowe chronią firmę przed błędem agenta AI?
Kopie zapasowe chronią przed błędem agenta AI tylko wtedy, gdy leżą poza zasięgiem agenta i poza serwerem: u nas hosting ma nocną kopię plików, baz, poczty i stref DNS przechowywaną 7, 14 albo 30 dni zależnie od pakietu, a aplikacje kopię 7 dni, 4 tygodnie i 3 miesiące wstecz (stan 05.11.2026).
Agent może kopie zobaczyć, sprawdzić ich zawartość i zlecić świeżą przed ryzykowną pracą (jedną na konto na 24 godziny). Przywracania w narzędziach agenta celowo nie ma: robi je człowiek w panelu, a agent podaje mu link. Gdyby agent mógł przywracać, mógłby też jednym ruchem nadpisać dobrą bazę starszą kopią.
Z kopiami jest jeszcze jedna pułapka, którą widzieliśmy 05.11.2026: agent klienta stwierdził, że „serwer nie ma kopii”, choć istniało 7 nocnych kopii konta. Po prostu nie miał narzędzia, żeby je zobaczyć, i zamiast powiedzieć „nie wiem”, doradził zbędną kopię lądującą na tym samym dysku. Od tego dnia agenci z dostępem do plików dostają narzędzia do kopii i instrukcję, gdzie one są.
Lista kontrolna: jak zabezpieczyć firmę przed błędem agenta AI krok po kroku?
Firmę przed błędem agenta AI zabezpieczysz w siedmiu krokach: osobne konto dla agenta, tylko odczyt na start, zapis per zasób, zgoda na wysyłkę i płatności, kopie poza zasięgiem agenta, limity zamiast zaufania i ślad każdej operacji.
- Osobna tożsamość agenta. Agent nie loguje się Twoim kontem administratora. Dostaje własnego użytkownika bazy, własny token API z wybranymi zakresami i własną skrzynkę testową.
- Tylko odczyt na start. Pierwszy tydzień agent czyta: zamówienia, produkty, logi. Jeśli podgląd i rzeczywistość się rozjeżdżają, zapisu nie włączasz.
- Zapis per zasób, nie hurtem. Zapis włączasz dla jednej bazy albo jednego katalogu, nie dla całego konta. Bez uprawnień do tworzenia wyzwalaczy, widoków i procedur, bo takie obiekty potrafią przetrwać odebranie dostępu.
- Zgoda człowieka na rzeczy nieodwracalne. Wysyłka do klientów, płatności, usuwanie, zmiany DNS domeny głównej: agent przygotowuje, człowiek zatwierdza. Sprawdź, że karta zgody naprawdę się pojawia, a nie że polecenie po cichu wygasa albo przechodzi.
- Kopia przed każdą ryzykowną zmianą. Nocna kopia poza serwerem plus świeża przed większą pracą. Przywracanie zostaw człowiekowi. Raz w miesiącu sprawdź, że kopia bazy faktycznie się wykonuje, a nie kończy jako częściowa.
- Limity zamiast zaufania. Limit wiadomości na dobę, limit czasu na polecenie, strażnik zatrzymujący agenta po kilku porażkach tego samego kroku. Groźne parametry przypnij w kodzie narzędzia, nie w instrukcji dla modelu.
- Ślad i alarm. Każda operacja agenta zostawia notatkę: co zrobił, jakim poleceniem, jaki dowód, jak cofnąć. Zawieszony albo milczący przebieg ma wysyłać alarm, bo „nic nie wypisał” nie znaczy „nie było czego robić”.
Jak to wygląda w praktyce na naszych instancjach, opisałem w tekście Hermes: nasz agent AI od środka, a czym jest serwer MCP, przez który agent dostaje te zakresy, w tekście MCP server: co to jest. Więcej o automatyzacji w dziale AI i automatyzacja.
Jeśli agent ma tylko pisać teksty albo analizować eksport zamówień z pliku, nie potrzebuje żadnego dostępu do serwera i nie musi działać na hostingu. Wtedy najbezpieczniejszy zakres uprawnień to zero, a agent w zwykłym czacie wystarczy.
Najczęstsze pytania
Czy agent AI może skasować bazę danych, jeśli prosiłem go, żeby niczego nie zmieniał?
Tak. Prośba w czacie to instrukcja dla modelu, a nie blokada w systemie. W przypadku Replit z lipca 2025 roku agent zmienił produkcję mimo wstrzymania zmian. Jedyną pewną blokadą jest brak uprawnień do zapisu po stronie bazy lub serwera.
Czy wystarczy zakazać agentowi niebezpiecznych poleceń w instrukcji?
Nie. Model może polecenie przeformułować albo uznać, że w tej sytuacji zakaz nie obowiązuje. U nas granicą są uprawnienia osobnego użytkownika bazy i zakresy tokenu, a instrukcja tylko porządkuje pracę. Filtr narzędzi traktujemy jako higienę, nie zabezpieczenie.
Czy agent AI powinien mieć dostęp do kopii zapasowych?
Do podglądu i zlecenia świeżej kopii tak, do przywracania nie. U nas agent widzi listę kopii i ich zawartość, a przywraca człowiek w panelu. Kopie leżą poza serwerem, więc agent nie może ich skasować razem z danymi.
Czy agent może sam odpowiadać klientom sklepu?
Może, ale w wąskim zakresie i z limitami. Nasz dyżur odpowiada tylko w istniejącym wątku zgłoszenia i tylko po rozwiązaniu problemu. Maile poza wątkiem, wysyłki masowe i nowe wątki wymagają zgody człowieka.
Co zrobić, gdy agent AI już coś usunął?
Najpierw odbierz agentowi zapis, żeby nie pogłębił szkody, potem przywróć dane z kopii sprzed zdarzenia. Nie pytaj agenta, co zrobił, tylko sprawdź logi serwera i bazy, bo agent potrafi opisać zdarzenie błędnie.
Źródła
- Amjad Masad (prezes Replit), wpis o usunięciu danych z produkcyjnej bazy przez agenta i zmianach w zabezpieczeniach (20.07.2025, odczyt 07.11.2026): x.com
- OWASP GenAI Security Project, LLM06:2025 Excessive Agency, źródła nadmiernej sprawczości i zalecenie zgody człowieka na operacje o dużym wpływie (2025, odczyt 07.11.2026): genai.owasp.org
- Notatki operacyjne Aderlo Cloud i JG INVEST o uprawnieniach agentów, incydentach i kopiach zapasowych, 14.08–05.11.2026 (dokumenty wewnętrzne, odczyt 07.11.2026).
Stan na 07.11.2026. Reguły, daty i liczby z naszej floty spisałem tego dnia z notatek operacyjnych prowadzonych przy każdym zdarzeniu (bez nazw klientów i instancji). Wpis prezesa Replit z 20.07.2025 i stronę OWASP LLM06:2025 odczytałem 07.11.2026.



