InnerWeb
Przejdź do treści

AI w BHP: zasady nadzoru człowieka

Od 2 grudnia 2027 r. systemy AI będące komponentami bezpieczeństwa w zarządzaniu infrastrukturą krytyczną mają podlegać obowiązkom wysokiego ryzyka, a wśród nich nadzorowi człowieka. Zakład, który wdraża AI w BHP już dziś, powinien zbudować ten nadzór wcześniej, bo obowiązek szkolenia kadry (art. 4) działa od 2 lutego 2025 r. Poniżej: kto nadzoruje, jak i jaki dowód zostaje dla audytora.

2.12.2027
termin dla systemów wysokiego ryzyka z załącznika III
15 mln EUR
górna granica kary za naruszenie obowiązków podmiotu stosującego (lub 3% obrotu)
ok. 5,7 h
miesięczny czas nadzoru próbkowego w przykładzie
Źródło: kalkulacja przykładowa

Co oznacza nadzór człowieka w praktyce zakładu

Rozporządzenie (UE) 2024/1689 (AI Act) dzieli odpowiedzialność na dwie strony. Dostawca systemu wysokiego ryzyka musi zaprojektować go tak, aby osoby fizyczne mogły skutecznie go nadzorować. Podmiot stosujący, czyli zakład, który system uruchamia, musi powierzyć nadzór osobom z odpowiednimi kompetencjami, przeszkolonym i mającym realne uprawnienia do działania.

Słowo „realne” jest tu kluczowe. Nadzór, w którym człowiek klika „zatwierdź” pod presją czasu, bez wglądu w podstawy podpowiedzi, nie spełnia jego sensu, a przy kontroli nie obroni się dokumentami. Audytor zapyta nie o to, czy ktoś zatwierdzał, tylko czy mógł nie zatwierdzić i czy wiedział, na czym polega ograniczenie systemu.

W BHP typowa sytuacja wygląda tak: system AI porządkuje zgłoszenia zagrożeń, podpowiada priorytet albo streszcza protokół. Decyzja o wstrzymaniu prac, wezwaniu pogotowia lub zmianie organizacji pracy należy do człowieka. Zasada nadzoru brzmi więc: AI proponuje, wyznaczona osoba decyduje i odpowiada, a ślad tej decyzji zostaje w dokumentacji.

Kiedy AI w zakładzie jest systemem wysokiego ryzyka

Wysokie ryzyko wynika z przeznaczenia systemu, nie z samej technologii. Zgodnie z rozporządzeniem (UE) 2024/1689 (AI Act) obejmuje ono m.in. komponenty bezpieczeństwa w zarządzaniu infrastrukturą krytyczną: energią, wodą, transportem, ruchem drogowym i dostawą mediów. Systemy z załącznika III mają być stosowane od 2 grudnia 2027 r., a systemy wbudowane w produkty z załącznika I, np. maszyny, od 2 sierpnia 2028 r.

Te terminy wynikają z Digital Omnibus on AI. Porozumienie polityczne osiągnięto 7 maja 2026 r., ale publikacja aktu w Dzienniku Urzędowym UE nie została potwierdzona w sprawdzonych źródłach. Do czasu potwierdzenia warto traktować daty jako obowiązujące kierunkowo i monitorować oficjalne publikacje.

Asystent porządkujący zgłoszenia BHP zazwyczaj nie jest komponentem bezpieczeństwa infrastruktury, więc zwykle nie podlega pełnemu reżimowi wysokiego ryzyka. Nie zwalnia to jednak zakładu z AI literacy ani z zasad ostrożności. Dobra praktyka: stosować standard nadzoru wysokiego ryzyka wszędzie tam, gdzie wynik AI może wpłynąć na zdrowie ludzi. Klasyfikację każdego systemu warto wpisać do rejestru, który opisuje osobna checklista rejestru systemów AI w zakładzie.

Czas nadzoru miesięcznie w przykładzie

Czas nadzoru miesięcznie w przykładzieNadzór próbkowy: 216 minut na zgłoszenia krytyczne, 123 minuty na próbkę pozostałych, razem 339 minut miesięcznie.0100200300400minZgłoszenia krytyczne (36 x 6 min): 216 min216 minZgłoszenia krytyczne (36 x 6min)Próbka pozostałych (41 x 3 min): 123 min123 minPróbka pozostałych (41 x 3min)Razem: 339 min339 minRazem
Źródło: Kalkulacja przykładowa na założeniach z sekcji Kalkulacja przykładowa

Cztery filary skutecznego nadzoru

Skuteczny nadzór składa się z czterech elementów. Brak któregokolwiek z nich osłabia całość.

1. Kompetencja osoby nadzorującej

Osoba musi rozumieć, do czego system służy, jakie ma ograniczenia i kiedy jego odpowiedź bywa błędna. To bezpośrednio dotyka art. 4 AI Act, czyli AI literacy. Krótkie szkolenie wstępne i coroczne odświeżenie z przykładami błędów systemu z własnego zakładu daje więcej niż ogólny kurs.

2. Uprawnienie do odrzucenia lub zmiany

Nadzorujący musi mieć prawo i techniczną możliwość zmienić priorytet, odrzucić podpowiedź albo zatrzymać użycie systemu. Jeśli proces wymaga uzasadnienia dla odrzucenia, ale nie dla przyjęcia, wprowadza skrywaną presję na zatwierdzanie. Zasada powinna być symetryczna.

3. Wgląd w podstawy podpowiedzi

System powinien pokazywać, na jakich zgłoszeniach, lokalizacjach i historiach oparł rekomendację. Odpowiedź bez źródła nie nadaje się do weryfikacji, a więc nie nadaje się do nadzoru.

4. Ślad decyzji

Każda decyzja człowieka o podpowiedzi AI zostawia ślad: kto, kiedy, co zatwierdził lub zmienił. Dla podmiotu stosującego AI Act wymaga też przechowywania logów generowanych przez system wysokiego ryzyka, co najmniej przez okres wynikający z rozporządzenia (art. 26).

Role i uprawnienia: kto może zatwierdzać

Nadzór ma sens tylko wtedy, gdy wiadomo, kto go sprawuje. W InnerWeb uprawnienia wynikają z ról z dziedziczeniem i macierzy zakresów (funkcja ról i macierzy uprawnień), a role nadaje się po drabinie starszeństwa: nie można nadać roli wyższej niż własna. Dla nadzoru nad AI oznacza to prostą zasadę: osoba zatwierdzająca podpowiedzi o priorytecie zagrożeń powinna mieć rolę, która ma prawo przejąć i zamknąć zgłoszenie, a nie tylko je przeglądać.

Warto rozdzielić trzy funkcje: właściciela systemu (odpowiada za cel i konfigurację), operatora nadzoru (zatwierdza codzienne wyniki) oraz audytora wewnętrznego (sprawdza próbkę decyzji). Jedna osoba nie powinna łączyć roli operatora i audytora tej samej próbki. W małych zakładach rozdziela się to w czasie, np. audytor to kierownik zmiany z innej hali.

Dowód w audycie: co powinno leżeć w teczce

Audyt AI Act, podobnie jak audyt NIS2, opiera się na dowodach. Dla nadzoru człowieka teczka powinna zawierać pozycje wymienione poniżej.

  • rejestr systemów AI z klasyfikacją ryzyka i datą przeglądu
  • opis procesu nadzoru: kto, na jakich zasadach, z jakim uprawnieniem do odrzucenia
  • lista osób nadzorujących z potwierdzeniem przeszkolenia (AI literacy)
  • instrukcja użytkowania od dostawcy i zapis, że zakład stosuje system zgodnie z nią
  • próbka decyzji: podpowiedź AI, decyzja człowieka, uzasadnienie przy odrzuceniu
  • protokół okresowego przeglądu skuteczności nadzoru i wniosków
  • informacja dla pracowników o stosowaniu systemu przed wdrożeniem

Kalkulacja przykładowa: ile kosztuje nadzór próbkowy

Częsta obawa brzmi: czy nadzór nie zje oszczędności z automatyzacji. Prosty rachunek na jawnych założeniach pokazuje skalę. Zakład przetwarza 240 zgłoszeń zagrożeń miesięcznie. AI proponuje priorytet. Zgłoszenia o wysokim priorytecie (założenie: 15% wolumenu, czyli 36 sztuk) zatwierdza człowiek w całości, po 6 minut każde. Z pozostałych 204 zgłoszeń człowiek sprawdza próbkę 20%, czyli 41 sztuk, po 3 minuty.

Łącznie to 36 x 6 min + 41 x 3 min = 216 + 123 = 339 minut, czyli niecałe 5,7 godziny miesięcznie. Przy stawce 95 zł/h daje to około 540 zł miesięcznie. To kalkulacja przykładowa: w Państwa zakładzie wolumen, udział zgłoszeń krytycznych i czas weryfikacji będą inne. Wniosek ogólny jest jednak stabilny: nadzór oparty na ryzyku kosztuje rząd kilku godzin miesięcznie, podczas gdy brak nadzoru naraża zakład na karę do 15 mln EUR lub 3% światowego obrotu za naruszenie obowiązków podmiotu stosującego (art. 99 AI Act).

Najczęstsze błędy

W audytach i przeglądach powtarzają się te same potknięcia. Pierwszym jest nadzór formalny: osoba zatwierdza masowo, bez czasu na analizę. Drugim jest brak kompetencji: nikt nie przeszedł szkolenia, bo „system jest intuicyjny”. Trzecim jest brak śladu: decyzje zapadają, ale nie zostają zapisane. Czwartym jest nadzór bez uprawnień: osoba widzi wynik, lecz nie może go zmienić bez zgody kogoś trzeciego.

Każdy z tych błędów da się usunąć jednym dokumentem, jednym szkoleniem lub jedną zmianą w uprawnieniach. Zacznij od rejestru systemów i wyznacz właściciela dla każdego z nich. Kolejny krok to opis nadzoru na jednej stronie, który kierownik BHP potrafi streścić audytorowi własnymi słowami.

Kalkulacja przykładowa

Nadzór próbkowy nad priorytetyzacją zgłoszeń

Założenia
ParametrWartość
Zgłoszenia zagrożeń240 szt./mies.
Udział priorytetu wysokiego15 %
Czas zatwierdzenia krytycznego6 min
Próbka pozostałych20 %
Czas weryfikacji próbki3 min
Stawka95 zł/h

Wynik: 339 minut, ok. 5,7 godziny i ok. 540 zł miesięcznie

Uwaga: Kalkulacja przykładowa na jawnych założeniach; wartości w zakładzie będą inne.

Materiał wideo

Często zadawane pytania

Czy nadzór człowieka wymaga stałej obecności operatora przy systemie?

Nie zawsze. Wymagane jest, aby osoba z kompetencjami mogła w odpowiednim czasie przeglądać wyniki, interweniować i zatrzymać system. Częstotliwość zależy od wpływu systemu na bezpieczeństwo i powinna wynikać z oceny ryzyka.

Czy asystent AI do zgłoszeń BHP to system wysokiego ryzyka?

Zwykle nie, o ile nie jest komponentem bezpieczeństwa w zarządzaniu infrastrukturą krytyczną. Klasyfikację trzeba jednak uzasadnić na piśmie w rejestrze systemów, a AI literacy obowiązuje niezależnie od klasy.

Co zrobić z decyzjami, w których człowiek odrzucił podpowiedź AI?

Zapisać powód i wykorzystać je jako materiał do przeglądu. Częste odrzucenia tego samego typu to sygnał, że system wymaga korekty lub że instrukcja jest nieprecyzyjna.

Czy dostawca AI może przejąć odpowiedzialność za nadzór?

Nie. Dostawca odpowiada za projekt zapewniający możliwość nadzoru, ale nadzór w miejscu użycia powierza się osobom po stronie zakładu.

Źródła

Zaplanujmy nadzór nad AI w Państwa zakładzie

Zapraszamy na rozmowę z zespołem InnerWeb. Pokażemy, jak role i ślad decyzji wspierają dowód do audytu.

Porozmawiajmy