Praktyka 1: rejestr systemów AI
Rejestr to tabela z kolumnami: nazwa systemu, dostawca, cel użycia, grupa użytkowników, klasyfikacja ryzyka, data ostatniego przeglądu i osoba odpowiedzialna. Dodaj także narzędzia, które mają AI jako dodatek do znanego oprogramowania, bo użytkownicy często nie zauważają tej funkcji.
Przegląd rejestru robi się co kwartał oraz przy każdej zmianie zakresu użycia. Zmiana zakresu, na przykład z podsumowań na ocenę pracowników, uruchamia ponowną klasyfikację.
Praktyka 2: ocena skutków przed uruchomieniem
Przed wdrożeniem zespół odpowiada na pytania: jakie dane trafiają do systemu, jakie decyzje wspiera, co się stanie przy błędnym wyniku i jak szybko błąd zostanie wykryty. Ocena zajmuje jedną stronę i jest podpisana przez osobę odpowiedzialną i przedstawiciela BHP.
Przy zadaniach pomocniczych ocena może być krótka. Przy systemach związanych z zarządzaniem infrastrukturą krytyczną zakres rośnie: AI Act przewiduje system zarządzania ryzykiem, nadzór człowieka, rejestrowanie zdarzeń i wymagania cyberbezpieczeństwa.
Pułapy kar z art. 99 AI Act
Praktyka 3: kompetencje użytkowników (art. 4)
Szkolenie z AI literacy obejmuje granice modeli, typowe błędy, zakaz wklejania danych wrażliwych, obowiązek weryfikacji wyniku i procedurę zgłaszania błędów. Czas: kilkadziesiąt minut dla użytkownika końcowego, dłużej dla administratorów.
Uprawnienia użytkowników najlepiej utrzymywać w jednym miejscu. W platformie InnerWeb wynikają z ról z dziedziczeniem i macierzy zakresów (funkcja ról i macierzy uprawnień), a nadawanie ról odbywa się po drabinie starszeństwa: nie można nadać roli wyższej niż własna. To ułatwia wykazanie, kto mógł korzystać z narzędzi AI.
Praktyka 4: ślad decyzji
Dla każdej decyzji wspieranej przez AI zapisujesz: co zaproponował system, co zdecydował człowiek, kiedy i na podstawie czego. W obiegu zgłoszeń, w którym każdy zalogowany może zgłosić zagrożenie, a zespół je przejmuje i zamyka (funkcja zgłoszeń zagrożeń i zdarzeń), ślad decyzji jest naturalną częścią procesu.
Ślad ma dwie funkcje. Dla audytu wspiera wykazanie nadzoru człowieka. Dla zakładu jest danymi do miesięcznego przeglądu jakości, czyli porównania propozycji AI z decyzjami ludzi.
Praktyka 5: weryfikacja przez człowieka z prawem do sprzeciwu
Weryfikacja nie może być formalnością. Osoba zatwierdzająca musi mieć czas, kontekst i uprawnienie do odrzucenia propozycji bez tłumaczenia się. Zasady, które to zapewniają:
- Propozycja AI jest oznaczona jako propozycja, a nie fakt.
- Zatwierdzenie wymaga aktywnej akcji, nie braku sprzeciwu.
- Odrzucenie jest zapisywane i analizowane, a nie karane.
- Pilne zagrożenia omijają AI i trafiają do człowieka od razu.
Lista kontrolna
Materiał wideo
Często zadawane pytania
Jak często aktualizować rejestr systemów AI?
Co kwartał oraz przy każdej zmianie zakresu użycia systemu lub dostawcy.
Czy ślad decyzji musi obejmować każde użycie AI?
Obejmij te użycia, które wpływają na decyzje dotyczące bezpieczeństwa lub ludzi. Przy zadaniach czysto redakcyjnych wystarczy ogólna zasada weryfikacji.
Kto powinien zatwierdzać ocenę skutków?
Osoba odpowiedzialna za system oraz przedstawiciel BHP lub bezpieczeństwa procesowego.
Źródła
Wprowadź praktyki w swoim zakładzie
Pokażemy, jak ślad decyzji i uprawnienia ról wspierają dowód do audytu.
Porozmawiajmy