Dla kogo są te zalecenia
Zalecenia są pisane dla dyrektora zakładu, kierownika BHP lub bezpieczeństwa procesowego oraz CISO odpowiedzialnego za IT i OT. Zakładają, że zakład ma już cyfrowy obieg zgłoszeń, zezwoleń lub kontroli, bo bez danych AI nie ma na czym pracować.
Każde zalecenie ma uzasadnienie i prosty test wykonania. Jeśli test nie przechodzi, zalecenie nie jest wdrożone, niezależnie od zapisów w polityce.
Siedem zaleceń
Kolejność odpowiada rosnącej trudności i rosnącemu ryzyku.
1. Zacznij od rejestru systemów AI
Bez listy narzędzi z elementem AI nie sklasyfikujesz ryzyka ani nie wykażesz nadzoru. Test: potrafisz w pięć minut wskazać, kto używa jakiego systemu i do czego.
2. Wyznacz jedną osobę odpowiedzialną za każdy system
Nadzór człowieka wymaga przeszkolonej osoby z uprawnieniem do zatrzymania lub zignorowania wyniku. Test: dla każdego systemu istnieje rola, nie tylko dział.
3. Użyj AI do porządkowania, nie do dopuszczania
Streszczanie zgłoszeń, tłumaczenie instrukcji i wyszukiwanie w dokumentach to zadania pomocnicze. Decyzja o dopuszczeniu osoby lub zamknięciu zagrożenia zostaje przy człowieku. Funkcje takie jak zgłaszanie zagrożeń i zdarzeń działają dlatego, że zespół je przejmuje i zamyka.
4. Ogranicz AI do uprawnień roli
Asystent nie może widzieć więcej niż człowiek, któremu pomaga. Uprawnienia w platformie wynikają z ról z dziedziczeniem i macierzy zakresów, co stanowi punkt zaczepienia dla takiej zasady. Test: ten sam pytający w innej roli dostaje inny zakres danych.
5. Integruj przez API z uwierzytelnianiem i webhookami
Zewnętrzne narzędzia AI podłączaj kontrolowanym kanałem. Platforma udostępnia API REST z uwierzytelnianiem JWT i webhooki do zewnętrznej automatyzacji. Pamiętaj, że gotowe konektory do konkretnych systemów wymagają prac wdrożeniowych.
6. Trzymaj dane w zakładzie, gdy wymaga tego klasyfikacja
Dla danych o lokalizacji osób, zdarzeniach i zezwoleniach rozważ model uruchamiany lokalnie. Szczegóły są w uwagach wdrożeniowych o modelach on-premise.
7. Zaplanuj dwa horyzonty prawne
Zakazy i AI literacy działają od 2.02.2025, a systemy wysokiego ryzyka mają według Digital Omnibus terminy 2.12.2027 i 2.08.2028, przy statusie publikacji do potwierdzenia. Kara za zakazane praktyki sięga 35 mln EUR lub 7% obrotu (art. 99).
Pułapy kar z art. 99 AI Act
Gdzie decyzję zostawić człowiekowi
Niezależnie od jakości modelu człowiek decyduje o dopuszczeniu do prac szczególnie niebezpiecznych, o wstrzymaniu pracy, o reakcji na alarm i o ocenie pracownika. W tych obszarach AI może przygotować podsumowanie i listę czynników, ale nie wykonuje akcji.
Dla systemów, które w praktyce wpływają na zarządzanie infrastrukturą krytyczną, AI Act przewiduje wymagania dla wysokiego ryzyka: system zarządzania ryzykiem, jakość danych, dokumentację, rejestrowanie zdarzeń, nadzór człowieka i cyberbezpieczeństwo.
Jak mierzyć wdrożenie zaleceń
Wystarczą cztery wskaźniki: odsetek systemów AI z klasyfikacją, odsetek użytkowników ze szkoleniem z art. 4, odsetek propozycji AI skorygowanych przez człowieka oraz liczba incydentów, w których zawiodła weryfikacja. Pierwsze dwa mają docelowo 100%, trzeci służy do wykrywania degradacji jakości.
Materiał wideo
Często zadawane pytania
Od czego zacząć, jeśli zakład nie ma polityki AI?
Od rejestru systemów i listy użytkowników. Na tej podstawie sklasyfikujesz ryzyko i zaplanujesz szkolenia z art. 4.
Czy AI może wydawać zezwolenia na prace?
Nie zalecamy. Dopuszczenie do pracy szczególnie niebezpiecznej zostaje decyzją człowieka, a AI może przygotować podsumowanie.
Czy asystent głosowy InnerMan wykonuje operacje w systemie?
Nie. To pilotaż nawigacji mową po sekcjach, do których użytkownik ma uprawnienia, włączany na wybranych instalacjach.
Źródła
Omów zalecenia z naszym zespołem
Pomożemy ustalić, które z siedmiu zaleceń wdrożyć najpierw w Twoim zakładzie.
Porozmawiajmy