AI w rekrutacji i HR: kiedy system jest wysokiego ryzyka według AI Act

HR jest wprost wymieniony w załączniku III AI Act

Załącznik III obejmuje systemy AI przeznaczone do rekrutacji lub selekcji osób, w szczególności do kierowania reklam pracy, analizowania i filtrowania aplikacji oraz oceny kandydatów. Obejmuje też systemy wpływające na warunki zatrudnienia, awans, rozwiązanie relacji zawodowej, przydział zadań oraz monitorowanie i ocenę wydajności lub zachowania pracowników.

Liczy się przeznaczenie systemu

Ta sama technologia może mieć różną kwalifikację zależnie od sposobu wykorzystania. Narzędzie porządkujące kalendarz rekrutera nie musi być high-risk, ale moduł automatycznie oceniający CV i szeregujący kandydatów może wchodzić w zakres załącznika III.

Art. 6 przewiduje wyjątek dla części zastosowań

System wymieniony w załączniku III może nie być uznany za wysokiego ryzyka, jeżeli nie stwarza znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych, w tym dlatego, że nie wpływa istotnie na wynik decyzji. AI Act wskazuje przykłady wąskich zadań proceduralnych i zadań przygotowawczych. Ocena wyjątku powinna być udokumentowana.

Profilowanie zmienia ocenę

Jeżeli system z załącznika III dokonuje profilowania osób fizycznych, rozporządzenie przewiduje szczególnie rygorystyczne podejście. Pracodawca nie powinien więc opierać kwalifikacji wyłącznie na marketingowym opisie dostawcy jako „narzędzia wspierającego”. Trzeba sprawdzić, jakie dane system analizuje i jak wpływa na decyzję.

Pracodawca często jest wdrażającym, nie dostawcą

Firma kupująca gotowy system AI zwykle pełni rolę deployera, ale jej rola może się zmienić, jeśli istotnie modyfikuje system, zmienia jego przeznaczenie albo wprowadza rozwiązanie pod własną marką. Umowa z dostawcą powinna jasno określać role, dokumentację, logi, wsparcie audytowe i odpowiedzialność za aktualizacje.

AI Act nie zastępuje RODO ani prawa pracy

System rekrutacyjny może przetwarzać dane osobowe, wyciągać wnioski o kandydacie i wspierać decyzje mające istotny wpływ na osobę. Trzeba więc równolegle analizować RODO, zasady niedyskryminacji, prawo pracy i obowiązki informacyjne. Zgodność z jednym reżimem nie „legalizuje” automatycznie pozostałych aspektów.

Human oversight musi być realny

Kontrola człowieka nie powinna polegać na mechanicznym zatwierdzaniu rankingu. Osoba podejmująca decyzję musi rozumieć ograniczenia systemu, mieć dostęp do odpowiednich informacji oraz realną możliwość zakwestionowania rekomendacji AI.

Co powinien obejmować audyt HR-AI

Audyt powinien objąć mapę narzędzi, przeznaczenie, dane wejściowe, sposób rankingu kandydatów, potencjalne kryteria dyskryminacyjne, rolę dostawcy, logowanie decyzji, procedurę odwoławczą i monitoring jakości. Warto również objąć analizą narzędzia używane nieformalnie przez rekruterów, czyli tzw. shadow AI.