InnerWeb
Przejdź do treści

Checklista wdrożenia AI w bezpieczeństwie zakładu

Przed uruchomieniem AI w bezpieczeństwie zakładu trzeba domknąć pięć obszarów: klasyfikację ryzyka, nadzór człowieka, dane, środowisko uruchomieniowe i szkolenia. Poniższa lista ma 12 punktów, każdy z komentarzem i podstawą. Opiera się na AI Act (od 2 lutego 2025 r. działa AI literacy, a systemy wysokiego ryzyka z załącznika III mają obowiązywać od 2 grudnia 2027 r.).

12
punktów listy kontrolnej
Źródło: checklista na tej stronie
5
obszarów kontroli
Źródło: checklista na tej stronie

Jak korzystać z listy

Listę przechodzi właściciel systemu razem z pełnomocnikiem NIS2 i kierownikiem BHP przed pierwszym użyciem systemu w ruchu. Każdy punkt oznacz jednym z trzech statusów: spełniony z dowodem, w toku z terminem, nie dotyczy z uzasadnieniem. Pozycja bez dowodu nie jest spełniona, bo audytor będzie pytał o dokument, a nie o deklarację.

Lista nie zastępuje oceny prawnej i nie gwarantuje zgodności. Wspiera spełnienie wymogów AI Act i NIS2 oraz porządkuje dowody do audytu. Daty obowiązywania pochodzą z rozporządzenia (UE) 2024/1689 (AI Act); publikacja Digital Omnibus on AI w Dzienniku Urzędowym UE jest niepotwierdzona w sprawdzonych źródłach, więc terminy dla wysokiego ryzyka traktuj z zastrzeżeniem.

Obszar 1: Klasyfikacja ryzyka

Punkty 1 i 2 odpowiadają na pytanie, z jakim reżimem prawnym masz do czynienia.

Punkt 1: System jest wpisany do rejestru z celem użycia

Rejestr zawiera nazwę, dostawcę, cel, właściciela i datę przeglądu. Bez wpisu nie da się wykazać, że zakład wie, jakich systemów AI używa. Wzór rejestru opisuje osobna checklista.

Punkt 2: Przeprowadzono i zapisano klasyfikację ryzyka

Zapisz, czy system jest komponentem bezpieczeństwa w zarządzaniu infrastrukturą krytyczną (wysokie ryzyko, załącznik III od 2.12.2027), czy produktem z załącznika I (od 2.08.2028), czy mieści się w ryzyku ograniczonym lub minimalnym. Uzasadnienie na piśmie jest ważniejsze niż sama klasa.

Punkty listy w poszczególnych obszarach

Punkty listy w poszczególnych obszarachRozkład 12 punktów listy: klasyfikacja 2, nadzór 3, dane 2, środowisko 3, szkolenia i dokumentacja 2.0123punktówKlasyfikacja ryzykaKlasyfikacja ryzyka: 2 punktów2Nadzór człowiekaNadzór człowieka: 3 punktów3DaneDane: 2 punktów2ŚrodowiskoŚrodowisko: 3 punktów3Szkolenia i dokumentacjaSzkolenia i dokumentacja: 2 punktów2
Źródło: Struktura listy kontrolnej na tej stronie

Obszar 2: Nadzór człowieka

Punkty 3–5 sprawdzają, czy ktoś realnie może zatrzymać system.

Punkt 3: wyznaczono osobę lub rolę nadzorującą z uprawnieniem do odrzucenia i zmiany wyniku. W InnerWeb uprawnienia wynikają z ról z dziedziczeniem i macierzy zakresów, a nadawanie ról odbywa się po drabinie starszeństwa (funkcja ról i macierzy uprawnień). Punkt 4: określono, które decyzje wymagają zatwierdzenia przez człowieka, a które mogą być próbkowane. Punkt 5: ślad decyzji jest zapisywany i przechowywany; logi systemu wysokiego ryzyka mają określony czas przechowywania wynikający z art. 26 AI Act.

Szczegółowe zasady nadzoru, z kalkulacją przykładową, opisuje poradnik o nadzorze człowieka nad AI w BHP.

Obszar 3: Dane

Punkty 6 i 7 dotyczą tego, na czym system pracuje.

Punkt 6: ustalono źródła danych, które zasilają system, oraz ich jakość i aktualność. Punkt 7: dane z zakładu (zgłoszenia, zdjęcia, lokalizacje) nie opuszczają sieci, jeśli nie ma na to zgody i oceny ryzyka. Dla danych o pracownikach sprawdź zgodność z RODO i poinformuj pracowników przed wdrożeniem, co jest obowiązkiem podmiotu stosującego w kontekście systemów wysokiego ryzyka.

Obszar 4: Środowisko uruchomieniowe i on-premise

Punkty 8–10 dotyczą miejsca i sposobu działania systemu.

Punkt 8: wybrano wariant uruchomienia (lokalnie lub w chmurze) po porównaniu kosztów i ryzyka danych. Punkt 9: jeśli system działa lokalnie, instancja jest odizolowana i ma własną bazę. InnerWeb dostarcza izolowaną instancję klienta w kontenerach Docker, także na serwerze klienta. Punkt 10: ustalono, jak system zachowuje się w sieci bez ruchu wychodzącego. W InnerWeb webhooki alarmowe zapisują się trwale w kolejce i odbiera je zewnętrzny poller, więc alarm nie ginie, gdy połączenie wychodzące jest zablokowane; dostarczenie zależy jednak od częstotliwości odpytywania.

Obszar 5: Szkolenia i dokumentacja

Punkty 11 i 12 zamykają listę.

Punkt 11: osoby obsługujące system przeszły szkolenie AI literacy (art. 4, obowiązek od 2.02.2025) na poziomie dopasowanym do roli, a lista przeszkolonych jest zapisana. Punkt 12: dokumentacja zawiera instrukcję dostawcy, opis procesu nadzoru, plan przeglądu i procedurę na wypadek incydentu. Całość powinna być spójna z rejestrem ryzyk NIS2, aby audytor widział jeden obraz.

Koszt braków

Kary AI Act za naruszenie obowiązków podmiotu stosującego sięgają 15 mln EUR lub 3% światowego obrotu (art. 99), a dla zakazanych praktyk 35 mln EUR lub 7%. Wypełnienie listy wymaga zwykle kilku dni pracy zespołu, więc stosunek kosztu do ryzyka jest korzystny. Po wypełnieniu listy zaplanuj przegląd co 12 miesięcy lub po istotnej zmianie systemu.

Lista kontrolna

Materiał wideo

Często zadawane pytania

Czy checklistę trzeba wypełnić dla każdego narzędzia AI?

Tak, ale zakres dopasowuje się do ryzyka. Dla narzędzia o niskim ryzyku wystarczą punkty o rejestrze, klasyfikacji, szkoleniu i danych. Pełny zestaw dotyczy systemów, które wpływają na bezpieczeństwo ludzi.

Kto powinien podpisać wypełnioną listę?

Właściciel systemu oraz osoba nadzorująca, a dla systemów związanych z NIS2 także pełnomocnik ds. cyberbezpieczeństwa. Dobrą praktyką jest zatwierdzenie przez dyrektora zakładu.

Jak często aktualizować listę?

Co 12 miesięcy oraz po istotnej zmianie systemu, dostawcy, zakresu danych lub po incydencie z udziałem AI.

Źródła

Przejdźmy listę razem na Państwa systemie

Zapraszamy na rozmowę z zespołem InnerWeb. Pomożemy zebrać dowody do audytu i dobrać wariant uruchomienia.

Porozmawiajmy