InnerWeb
Przejdź do treści

Rekomendacje: AI w bezpieczeństwie przemysłowym dla dyrektora i CISO

AI w bezpieczeństwie przemysłowym przynosi największy zysk tam, gdzie porządkuje informacje, a największe ryzyko tam, gdzie zastępuje decyzję. Poniżej siedem zaleceń dla dyrektora zakładu i CISO, uporządkowanych od najtańszych do najbardziej wymagających. Podstawą jest AI Act oraz funkcje platformy, które już dziś działają.

Dla kogo są te zalecenia

Zalecenia są pisane dla dyrektora zakładu, kierownika BHP lub bezpieczeństwa procesowego oraz CISO odpowiedzialnego za IT i OT. Zakładają, że zakład ma już cyfrowy obieg zgłoszeń, zezwoleń lub kontroli, bo bez danych AI nie ma na czym pracować.

Każde zalecenie ma uzasadnienie i prosty test wykonania. Jeśli test nie przechodzi, zalecenie nie jest wdrożone, niezależnie od zapisów w polityce.

Siedem zaleceń

Kolejność odpowiada rosnącej trudności i rosnącemu ryzyku.

1. Zacznij od rejestru systemów AI

Bez listy narzędzi z elementem AI nie sklasyfikujesz ryzyka ani nie wykażesz nadzoru. Test: potrafisz w pięć minut wskazać, kto używa jakiego systemu i do czego.

2. Wyznacz jedną osobę odpowiedzialną za każdy system

Nadzór człowieka wymaga przeszkolonej osoby z uprawnieniem do zatrzymania lub zignorowania wyniku. Test: dla każdego systemu istnieje rola, nie tylko dział.

3. Użyj AI do porządkowania, nie do dopuszczania

Streszczanie zgłoszeń, tłumaczenie instrukcji i wyszukiwanie w dokumentach to zadania pomocnicze. Decyzja o dopuszczeniu osoby lub zamknięciu zagrożenia zostaje przy człowieku. Funkcje takie jak zgłaszanie zagrożeń i zdarzeń działają dlatego, że zespół je przejmuje i zamyka.

4. Ogranicz AI do uprawnień roli

Asystent nie może widzieć więcej niż człowiek, któremu pomaga. Uprawnienia w platformie wynikają z ról z dziedziczeniem i macierzy zakresów, co stanowi punkt zaczepienia dla takiej zasady. Test: ten sam pytający w innej roli dostaje inny zakres danych.

5. Integruj przez API z uwierzytelnianiem i webhookami

Zewnętrzne narzędzia AI podłączaj kontrolowanym kanałem. Platforma udostępnia API REST z uwierzytelnianiem JWT i webhooki do zewnętrznej automatyzacji. Pamiętaj, że gotowe konektory do konkretnych systemów wymagają prac wdrożeniowych.

6. Trzymaj dane w zakładzie, gdy wymaga tego klasyfikacja

Dla danych o lokalizacji osób, zdarzeniach i zezwoleniach rozważ model uruchamiany lokalnie. Szczegóły są w uwagach wdrożeniowych o modelach on-premise.

7. Zaplanuj dwa horyzonty prawne

Zakazy i AI literacy działają od 2.02.2025, a systemy wysokiego ryzyka mają według Digital Omnibus terminy 2.12.2027 i 2.08.2028, przy statusie publikacji do potwierdzenia. Kara za zakazane praktyki sięga 35 mln EUR lub 7% obrotu (art. 99).

Pułapy kar z art. 99 AI Act

Pułapy kar z art. 99 AI ActPułapy kar: 35, 15 i 7,5 mln EUR.010203040mln EURZakazane praktykiZakazane praktyki: 35 mln EUR35Obowiązki dostawców iużytkownikówObowiązki dostawców i użytkowników: 15 mln EUR15Nieprawdziwe informacjeNieprawdziwe informacje: 7,5 mln EUR7,5
Źródło: Rozporządzenie (UE) 2024/1689, art. 99

Gdzie decyzję zostawić człowiekowi

Niezależnie od jakości modelu człowiek decyduje o dopuszczeniu do prac szczególnie niebezpiecznych, o wstrzymaniu pracy, o reakcji na alarm i o ocenie pracownika. W tych obszarach AI może przygotować podsumowanie i listę czynników, ale nie wykonuje akcji.

Dla systemów, które w praktyce wpływają na zarządzanie infrastrukturą krytyczną, AI Act przewiduje wymagania dla wysokiego ryzyka: system zarządzania ryzykiem, jakość danych, dokumentację, rejestrowanie zdarzeń, nadzór człowieka i cyberbezpieczeństwo.

Jak mierzyć wdrożenie zaleceń

Wystarczą cztery wskaźniki: odsetek systemów AI z klasyfikacją, odsetek użytkowników ze szkoleniem z art. 4, odsetek propozycji AI skorygowanych przez człowieka oraz liczba incydentów, w których zawiodła weryfikacja. Pierwsze dwa mają docelowo 100%, trzeci służy do wykrywania degradacji jakości.

Materiał wideo

Często zadawane pytania

Od czego zacząć, jeśli zakład nie ma polityki AI?

Od rejestru systemów i listy użytkowników. Na tej podstawie sklasyfikujesz ryzyko i zaplanujesz szkolenia z art. 4.

Czy AI może wydawać zezwolenia na prace?

Nie zalecamy. Dopuszczenie do pracy szczególnie niebezpiecznej zostaje decyzją człowieka, a AI może przygotować podsumowanie.

Czy asystent głosowy InnerMan wykonuje operacje w systemie?

Nie. To pilotaż nawigacji mową po sekcjach, do których użytkownik ma uprawnienia, włączany na wybranych instalacjach.

Źródła

Omów zalecenia z naszym zespołem

Pomożemy ustalić, które z siedmiu zaleceń wdrożyć najpierw w Twoim zakładzie.

Porozmawiajmy