Co oznacza nadzór człowieka w praktyce zakładu
Rozporządzenie (UE) 2024/1689 (AI Act) dzieli odpowiedzialność na dwie strony. Dostawca systemu wysokiego ryzyka musi zaprojektować go tak, aby osoby fizyczne mogły skutecznie go nadzorować. Podmiot stosujący, czyli zakład, który system uruchamia, musi powierzyć nadzór osobom z odpowiednimi kompetencjami, przeszkolonym i mającym realne uprawnienia do działania.
Słowo „realne” jest tu kluczowe. Nadzór, w którym człowiek klika „zatwierdź” pod presją czasu, bez wglądu w podstawy podpowiedzi, nie spełnia jego sensu, a przy kontroli nie obroni się dokumentami. Audytor zapyta nie o to, czy ktoś zatwierdzał, tylko czy mógł nie zatwierdzić i czy wiedział, na czym polega ograniczenie systemu.
W BHP typowa sytuacja wygląda tak: system AI porządkuje zgłoszenia zagrożeń, podpowiada priorytet albo streszcza protokół. Decyzja o wstrzymaniu prac, wezwaniu pogotowia lub zmianie organizacji pracy należy do człowieka. Zasada nadzoru brzmi więc: AI proponuje, wyznaczona osoba decyduje i odpowiada, a ślad tej decyzji zostaje w dokumentacji.
Kiedy AI w zakładzie jest systemem wysokiego ryzyka
Wysokie ryzyko wynika z przeznaczenia systemu, nie z samej technologii. Zgodnie z rozporządzeniem (UE) 2024/1689 (AI Act) obejmuje ono m.in. komponenty bezpieczeństwa w zarządzaniu infrastrukturą krytyczną: energią, wodą, transportem, ruchem drogowym i dostawą mediów. Systemy z załącznika III mają być stosowane od 2 grudnia 2027 r., a systemy wbudowane w produkty z załącznika I, np. maszyny, od 2 sierpnia 2028 r.
Te terminy wynikają z Digital Omnibus on AI. Porozumienie polityczne osiągnięto 7 maja 2026 r., ale publikacja aktu w Dzienniku Urzędowym UE nie została potwierdzona w sprawdzonych źródłach. Do czasu potwierdzenia warto traktować daty jako obowiązujące kierunkowo i monitorować oficjalne publikacje.
Asystent porządkujący zgłoszenia BHP zazwyczaj nie jest komponentem bezpieczeństwa infrastruktury, więc zwykle nie podlega pełnemu reżimowi wysokiego ryzyka. Nie zwalnia to jednak zakładu z AI literacy ani z zasad ostrożności. Dobra praktyka: stosować standard nadzoru wysokiego ryzyka wszędzie tam, gdzie wynik AI może wpłynąć na zdrowie ludzi. Klasyfikację każdego systemu warto wpisać do rejestru, który opisuje osobna checklista rejestru systemów AI w zakładzie.
Czas nadzoru miesięcznie w przykładzie
Cztery filary skutecznego nadzoru
Skuteczny nadzór składa się z czterech elementów. Brak któregokolwiek z nich osłabia całość.
1. Kompetencja osoby nadzorującej
Osoba musi rozumieć, do czego system służy, jakie ma ograniczenia i kiedy jego odpowiedź bywa błędna. To bezpośrednio dotyka art. 4 AI Act, czyli AI literacy. Krótkie szkolenie wstępne i coroczne odświeżenie z przykładami błędów systemu z własnego zakładu daje więcej niż ogólny kurs.
2. Uprawnienie do odrzucenia lub zmiany
Nadzorujący musi mieć prawo i techniczną możliwość zmienić priorytet, odrzucić podpowiedź albo zatrzymać użycie systemu. Jeśli proces wymaga uzasadnienia dla odrzucenia, ale nie dla przyjęcia, wprowadza skrywaną presję na zatwierdzanie. Zasada powinna być symetryczna.
3. Wgląd w podstawy podpowiedzi
System powinien pokazywać, na jakich zgłoszeniach, lokalizacjach i historiach oparł rekomendację. Odpowiedź bez źródła nie nadaje się do weryfikacji, a więc nie nadaje się do nadzoru.
4. Ślad decyzji
Każda decyzja człowieka o podpowiedzi AI zostawia ślad: kto, kiedy, co zatwierdził lub zmienił. Dla podmiotu stosującego AI Act wymaga też przechowywania logów generowanych przez system wysokiego ryzyka, co najmniej przez okres wynikający z rozporządzenia (art. 26).
Role i uprawnienia: kto może zatwierdzać
Nadzór ma sens tylko wtedy, gdy wiadomo, kto go sprawuje. W InnerWeb uprawnienia wynikają z ról z dziedziczeniem i macierzy zakresów (funkcja ról i macierzy uprawnień), a role nadaje się po drabinie starszeństwa: nie można nadać roli wyższej niż własna. Dla nadzoru nad AI oznacza to prostą zasadę: osoba zatwierdzająca podpowiedzi o priorytecie zagrożeń powinna mieć rolę, która ma prawo przejąć i zamknąć zgłoszenie, a nie tylko je przeglądać.
Warto rozdzielić trzy funkcje: właściciela systemu (odpowiada za cel i konfigurację), operatora nadzoru (zatwierdza codzienne wyniki) oraz audytora wewnętrznego (sprawdza próbkę decyzji). Jedna osoba nie powinna łączyć roli operatora i audytora tej samej próbki. W małych zakładach rozdziela się to w czasie, np. audytor to kierownik zmiany z innej hali.
Dowód w audycie: co powinno leżeć w teczce
Audyt AI Act, podobnie jak audyt NIS2, opiera się na dowodach. Dla nadzoru człowieka teczka powinna zawierać pozycje wymienione poniżej.
- rejestr systemów AI z klasyfikacją ryzyka i datą przeglądu
- opis procesu nadzoru: kto, na jakich zasadach, z jakim uprawnieniem do odrzucenia
- lista osób nadzorujących z potwierdzeniem przeszkolenia (AI literacy)
- instrukcja użytkowania od dostawcy i zapis, że zakład stosuje system zgodnie z nią
- próbka decyzji: podpowiedź AI, decyzja człowieka, uzasadnienie przy odrzuceniu
- protokół okresowego przeglądu skuteczności nadzoru i wniosków
- informacja dla pracowników o stosowaniu systemu przed wdrożeniem
Kalkulacja przykładowa: ile kosztuje nadzór próbkowy
Częsta obawa brzmi: czy nadzór nie zje oszczędności z automatyzacji. Prosty rachunek na jawnych założeniach pokazuje skalę. Zakład przetwarza 240 zgłoszeń zagrożeń miesięcznie. AI proponuje priorytet. Zgłoszenia o wysokim priorytecie (założenie: 15% wolumenu, czyli 36 sztuk) zatwierdza człowiek w całości, po 6 minut każde. Z pozostałych 204 zgłoszeń człowiek sprawdza próbkę 20%, czyli 41 sztuk, po 3 minuty.
Łącznie to 36 x 6 min + 41 x 3 min = 216 + 123 = 339 minut, czyli niecałe 5,7 godziny miesięcznie. Przy stawce 95 zł/h daje to około 540 zł miesięcznie. To kalkulacja przykładowa: w Państwa zakładzie wolumen, udział zgłoszeń krytycznych i czas weryfikacji będą inne. Wniosek ogólny jest jednak stabilny: nadzór oparty na ryzyku kosztuje rząd kilku godzin miesięcznie, podczas gdy brak nadzoru naraża zakład na karę do 15 mln EUR lub 3% światowego obrotu za naruszenie obowiązków podmiotu stosującego (art. 99 AI Act).
Najczęstsze błędy
W audytach i przeglądach powtarzają się te same potknięcia. Pierwszym jest nadzór formalny: osoba zatwierdza masowo, bez czasu na analizę. Drugim jest brak kompetencji: nikt nie przeszedł szkolenia, bo „system jest intuicyjny”. Trzecim jest brak śladu: decyzje zapadają, ale nie zostają zapisane. Czwartym jest nadzór bez uprawnień: osoba widzi wynik, lecz nie może go zmienić bez zgody kogoś trzeciego.
Każdy z tych błędów da się usunąć jednym dokumentem, jednym szkoleniem lub jedną zmianą w uprawnieniach. Zacznij od rejestru systemów i wyznacz właściciela dla każdego z nich. Kolejny krok to opis nadzoru na jednej stronie, który kierownik BHP potrafi streścić audytorowi własnymi słowami.
Nadzór próbkowy nad priorytetyzacją zgłoszeń
| Parametr | Wartość |
|---|---|
| Zgłoszenia zagrożeń | 240 szt./mies. |
| Udział priorytetu wysokiego | 15 % |
| Czas zatwierdzenia krytycznego | 6 min |
| Próbka pozostałych | 20 % |
| Czas weryfikacji próbki | 3 min |
| Stawka | 95 zł/h |
Wynik: 339 minut, ok. 5,7 godziny i ok. 540 zł miesięcznie
Uwaga: Kalkulacja przykładowa na jawnych założeniach; wartości w zakładzie będą inne.
Materiał wideo
Często zadawane pytania
Czy nadzór człowieka wymaga stałej obecności operatora przy systemie?
Nie zawsze. Wymagane jest, aby osoba z kompetencjami mogła w odpowiednim czasie przeglądać wyniki, interweniować i zatrzymać system. Częstotliwość zależy od wpływu systemu na bezpieczeństwo i powinna wynikać z oceny ryzyka.
Czy asystent AI do zgłoszeń BHP to system wysokiego ryzyka?
Zwykle nie, o ile nie jest komponentem bezpieczeństwa w zarządzaniu infrastrukturą krytyczną. Klasyfikację trzeba jednak uzasadnić na piśmie w rejestrze systemów, a AI literacy obowiązuje niezależnie od klasy.
Co zrobić z decyzjami, w których człowiek odrzucił podpowiedź AI?
Zapisać powód i wykorzystać je jako materiał do przeglądu. Częste odrzucenia tego samego typu to sygnał, że system wymaga korekty lub że instrukcja jest nieprecyzyjna.
Czy dostawca AI może przejąć odpowiedzialność za nadzór?
Nie. Dostawca odpowiada za projekt zapewniający możliwość nadzoru, ale nadzór w miejscu użycia powierza się osobom po stronie zakładu.
Źródła
Zaplanujmy nadzór nad AI w Państwa zakładzie
Zapraszamy na rozmowę z zespołem InnerWeb. Pokażemy, jak role i ślad decyzji wspierają dowód do audytu.
Porozmawiajmy