Bezpieczeństwo i AI Act

Halucynacje AI w firmie: jak sprawdzać odpowiedzi

AI potrafi z pełnym przekonaniem podać zmyślony przepis, liczbę albo źródło. Skąd to się bierze i jak sprawdzać odpowiedzi, zanim wyjdą do klienta. 4 nawyki.

Bartosz CzerniawskiZałożyciel dajtoAI
Opublikowano: Czas czytania: 5 min
Dwie osoby przy stole w jasnym biurze sprawdzają wydrukowane strony i zaznaczają zakreślaczem fragment tekstu
Spis treści

Halucynacja AI to odpowiedź, która brzmi pewnie i składnie, a jest nieprawdziwa: zmyślony przepis, nieistniejące źródło, liczba z powietrza. Model nie kłamie świadomie. Po prostu układa prawdopodobny tekst, a prawdopodobny nie znaczy prawdziwy.

Poniżej wyjaśniam, skąd się to bierze, czego pilnować najbardziej i jak zbudować w firmie proste nawyki sprawdzania. Stan na 14 listopada 2026 r.

Skąd się biorą halucynacje?

Model językowy uczy się, jakie słowa zwykle idą po sobie. Przy rzeczach, które w danych występują często i konsekwentnie (gramatyka, składnia, popularne fakty), radzi sobie świetnie. Gorzej jest z faktami rzadkimi i arbitralnymi, jak data urodzin mało znanej osoby albo numer paragrafu w mało znanej ustawie. Wzoru, z którego dałoby się to wywnioskować, po prostu nie ma.

Badacze OpenAI opisali we wrześniu 2025 r. jeszcze jeden powód: testy, na których sprawdza się modele, często nagradzają zgadywanie. Odpowiedź „nie wiem” daje zero punktów, a strzał ma jakąś szansę, więc model uczy się strzelać. To tłumaczy, dlaczego halucynacje nie znikną jednym update’em, choć nowsze modele zwykle częściej przyznają się do niewiedzy.

Dla firmy z tego wynika jedno: dobre narzędzie ogranicza problem, ale go nie usuwa. Trzeba zbudować kontrolę po swojej stronie.

Co zmyśla najczęściej?

Najbardziej ryzykowne są rzeczy konkretne i takie, które łatwo wyglądają na prawdziwe.

Rodzaj treści Typowy błąd Jak sprawdzić
Liczby i statystyki Realnie wyglądająca liczba bez pokrycia Znajdź źródło pierwotne i porównaj
Cytaty Zdanie przypisane osobie, która go nie powiedziała Wyszukaj dokładny cytat w oryginale
Linki i źródła Adres albo publikacja, która nie istnieje Otwórz każdy link
Przepisy Numer artykułu z innej ustawy albo nieaktualna treść Sprawdź w ISAP lub EUR-Lex
Nazwy i dane firm Pomieszane produkty, osoby, funkcje Strona firmy, rejestry
Nowości Opis stanu sprzed kilku miesięcy Włącz wyszukiwanie w sieci i sprawdź daty

Do zapamiętania: im bardziej coś jest konkretne i im łatwiej to wkleić dalej, tym uważniej to sprawdzaj.

Co się dzieje, gdy nikt tego nie sprawdzi?

W 2023 r. dwóch amerykańskich prawników złożyło do sądu pismo z orzeczeniami, które podpowiedział im ChatGPT. Orzeczenia nie istniały. Sąd w Nowym Jorku nałożył na prawników i ich kancelarię karę 5 000 dolarów, a sędzia uznał, że działali w złej wierze, bo nawet po wątpliwościach sądu bronili tych cytatów. Technologia nie była tu największym problemem. Problemem był brak sprawdzenia.

Podobną logikę widać w kanadyjskiej sprawie Air Canada, którą opisuję we wpisie o asystencie AI na firmowej wiedzy: firma odpowiada za to, co powiedział jej czat, tak samo jak za to, co jest na jej stronie.

Nawyk 1: Dawaj materiał źródłowy

Najskuteczniejszy sposób to nie pytać modelu z pamięci, tylko dać mu dokument i kazać pracować na nim. „Streść ten regulamin”, „odpowiedz na podstawie tej oferty”, „wyciągnij z tej umowy terminy”. Model wtedy nie zgaduje, tylko czyta.

Tak działają też dobrze zrobieni asystenci na wiedzy firmy: odpowiadają z Waszych dokumentów i pokazują, z którego fragmentu. Zasady wklejania danych do narzędzi opisałem w wpisie o tym, czego nie wklejać do ChatGPT.

Nawyk 2: Pozwól odpowiedzieć „nie wiem”

Wprost napisz w poleceniu: „jeśli nie masz pewności albo brakuje danych, powiedz to i nie zgaduj”. Dodaj: „zaznacz, co jest faktem z dokumentu, a co Twoim wnioskiem”. To nie gwarantuje poprawności, ale zmniejsza liczbę pewnych siebie wymysłów i ułatwia sprawdzanie, bo od razu widać, które zdania są wnioskami.

Przydaje się też prosty trik: poproś o źródła, a potem otwórz każde. Model potrafi wymyślić także samo źródło, więc linku nie wolno brać na wiarę.

Nawyk 3: Sprawdzaj to, co ma skutki

Nie da się sprawdzać każdego zdania. Da się sprawdzać to, od czego zależą pieniądze, prawo albo reputacja. Zasada, którą polecam wpisać do polityki AI w firmie:

  • liczby, ceny i terminy sprawdzasz w źródle,
  • przepisy czytasz w oryginale, nie w streszczeniu AI,
  • cytaty i nazwiska weryfikujesz zawsze,
  • teksty o osobach i firmach czyta człowiek, który je zna.

Szkic maila do kolegi albo pomysły na tytuły możesz puścić po lekkim przeczytaniu. Odpowiedź dla klienta o zwrocie pieniędzy już nie.

Nawyk 4: Druga para oczu przed wysyłką

Gdy treść wychodzi na zewnątrz (oferta, newsletter, odpowiedź na reklamację, wpis), niech przeczyta ją ktoś poza autorem. Autor widzi to, co chciał napisać, a nie to, co napisało AI. Pomaga krótka lista kontrolna, trzy–pięć pytań: czy liczby mają źródło, czy linki działają, czy nazwy są poprawne, czy nic nie wygląda zbyt gładko.

Przy automatyzacjach, które wysyłają wiadomości same, rolę drugiej pary oczu pełni krok zatwierdzenia przed wysyłką. Tam, gdzie błąd kosztuje, nie wysyłamy bez człowieka.

A przepisy?

Art. 4 AI Act wymaga od firm dbania o kompetencje AI osób, które z niej korzystają. Rozpoznawanie halucynacji i wiedza, kiedy sprawdzać, to dokładnie takie kompetencje. Szczegóły opisałem w poradniku o art. 4. To nie jest osobny obowiązek „sprawdzania treści”, tylko dobra praktyka, którą ten przepis wzmacnia.

Samodzielnie czy z pomocą?

Cztery nawyki wprowadzisz sam, w jedno popołudnie: spisz zasady, dodaj listę kontrolną, wyznacz osobę do przeglądu. Jeśli chcesz, żeby zespół nauczył się tego na własnych przykładach i narzędziach, robimy to na szkoleniach z AI, od 4 900 zł netto (+23% VAT).

Podsumowanie

Halucynacje nie są wadą jednego narzędzia, tylko cechą działania modeli językowych. Nie da się ich całkiem wyeliminować, da się je łapać. Dawaj materiał źródłowy, pozwól mówić „nie wiem”, sprawdzaj to, co ma skutki, i nie wysyłaj na zewnątrz bez drugiej pary oczu.

Jedna rzecz do zrobienia dziś: weź ostatni tekst, który AI przygotowała Ci do wysyłki, i otwórz każdy link oraz sprawdź każdą liczbę. Zobaczysz, jak to wygląda w praktyce.

Źródła

  1. OpenAI, Why language models hallucinate, 5 września 2025 r.
  2. Bloomberg Law, Bogus ChatGPT citations lead to $5,000 fines (Mata v. Avianca, S.D.N.Y., 22 czerwca 2023 r.).
  3. Moffatt v. Air Canada, 2024 BCCRT 149, Civil Resolution Tribunal (Kolumbia Brytyjska), 14 lutego 2024 r.
  4. Rozporządzenie (UE) 2024/1689 (AI Act), art. 4, EUR-Lex.
  • halucynacje
  • weryfikacja
  • bezpieczeństwo
  • ChatGPT

Tekst przygotowany z pomocą AI, zredagowany i sprawdzony przez człowieka.

Bartosz CzerniawskiPrzez 10 lat robił filmy, kampanie i content dla firm. Dziś buduje narzędzia i procesy z AI.Więcej o mnie
Rozmowa · 30 min · bezpłatnie

Masz podobny problem w firmie?

Umów 30 minut rozmowy.

Umów bezpłatną rozmowę (30 min)(otwiera się w nowej karcie)
Wszystkie wpisy
Newsletter

Konkretnie o AI w firmie

Co działa, ile kosztuje i czego unikać. Prosto do skrzynki, bez spamu.

Administratorem danych jest Moon Lion Media Bartosz Czerniawski. Zapisy obsługuje Kit. Więcej w polityce prywatności.

Zarządzaj cookies

Niezbędne · zawsze aktywne

Zapamiętują Twój wybór i dbają o bezpieczeństwo strony. Bez nich strona nie zadziała.