AI Act przewiduje dwie podstawowe sytuacje, w których system AI może zostać uznany za system wysokiego ryzyka. Pierwsza dotyczy systemów będących produktem lub komponentem bezpieczeństwa produktu objętego unijnymi przepisami harmonizacyjnymi wskazanymi w Załączniku I do AI Act (to dyrektywy obejmujące mi.in rynek maszyn, pojazdów, zabawek czy urządzeń radiowych). Druga obejmuje systemy wykorzystywane w określonych obszarach wymienionych w Załączniku III, takich jak biometria, edukacja, zatrudnienie, dostęp do podstawowych usług prywatnych i publicznych, egzekwowanie prawa, migracja czy wymiar sprawiedliwości.
Kiedy AI pełni funkcję bezpieczeństwa dla produktu?
Klasyfikacja systemów AI przewidziana w art. 6 ust. 1 AI Act opiera się na dwóch kumulatywnych warunkach:
- po pierwsze, system AI musi być przeznaczony do użycia jako komponent bezpieczeństwa produktu lub sam być produktem objętym ustawodawstwem harmonizacyjnym z Załącznika I AI Act;
- po drugie, produkt, którego komponentem bezpieczeństwa jest system AI, lub sam system AI musi podlegać obowiązkowi oceny zgodności przez stronę trzecią (np. przez jednostkę akredytowaną).
System AI pełni „funkcję bezpieczeństwa" wtedy, gdy jego zamierzone przeznaczenie, określone przez dostawcę, polega na zapobieganiu lub ograniczaniu zagrożeń dla zdrowia i bezpieczeństwa osób lub mienia. Funkcjami, które nie są uznawane za funkcje bezpieczeństwa, są wszelkie funkcje związane z optymalizacją wydajności, efektywnością usług, komfortem lub sterowaniem jakością funkcji niezwiązanych z bezpieczeństwem - takie jak optymalizacja zużycia energii przez użytkownika, przetwarzanie reklamacji klientów czy monitoring jakości świadczonych usług.
Jednak nawet system przeznaczony wyłącznie do celów optymalizacyjnych, czyli pozornie niezwiązany z bezpieczeństwem, może zostać sklasyfikowany jako komponent bezpieczeństwa, przykładowo, system AI zaprojektowany w celu optymalizacji sprawności spalania w domowych urządzeniach gazowych może stanowić komponent bezpieczeństwa, jeśli produkt jest zaprojektowany w taki sposób, że awaria lub nieprawidłowe działanie systemu AI mogłoby prowadzić do powstawania tlenku węgla, wybuchu lub pożaru.
Potencjalne skutki dla niektórych sektorów wymienionych w Załączniku I do AI Act
Wytyczne mają istotne, praktyczne konsekwencje dla konkretnych sektorów objętych Załącznikiem I do AI Act. W branży automotive - objętym unijnym prawodawstwem harmonizacyjnym dotyczącym pojazdów — system AI wspomagający utrzymanie pasa ruchu, którego zamierzonym celem może być poprawa wrażeń użytkownika, może jednak stanowić komponent bezpieczeństwa, jeśli jego awaria - np. niespodziewane skierowanie pojazdu - mogłaby spowodować kolizję i tym samym zagrażać zdrowiu i bezpieczeństwu osób oraz mieniu.
Systemy AI zarządzające funkcjami autonomicznego hamowania, monitorowaniem otoczenia pojazdu czy kontrolą stanu baterii, których awaria mogłaby wywołać niebezpieczne zachowanie pojazdu, będą co do zasady kwalifikowane jako komponenty bezpieczeństwa wysokiego ryzyka, co pociąga za sobą konieczność spełnienia rygorystycznych wymogów AI Act.
W sektorze energetycznym - gdzie zastosowanie mają m.in. dyrektywa dotycząca urządzeń ciśnieniowych oraz regulacje dotyczące urządzeń ATEX - jako komponenty bezpieczeństwa traktowane są systemy AI monitorujące stężenie gazu i wydające polecenie regulacji czy wyłączenia urządzenia, jak również systemy przeznaczone do przewidywania nadmiernego ciśnienia i uruchamiania środków ochronnych, takich jak wyzwalanie wyłączenia powiązanego z osprzętem zabezpieczającym.
Jakie systemy AI mogą zostać uznane za wysokiego ryzyka w oparciu o Załącznik III do AI Act?
W przypadku obszaru HR, kadr i zarządzania pracownikami praktyczne znaczenie wytycznych będzie szczególnie istotne dla agencji rekrutacyjnych oraz pracodawców korzystających z narzędzi do rekrutacji, selekcji kandydatów, oceny wyników pracy, monitorowania efektywności czy alokacji zadań. Komisja wskazuje, że o klasyfikacji nie decyduje samo formalne pozostawienie „ostatecznej decyzji” człowiekowi, lecz to, czy system AI realnie wpływa na ocenę osoby fizycznej lub na decyzję dotyczącą jej zatrudnienia. W praktyce oznacza to, że system automatycznie porządkujący CV według neutralnych kryteriów technicznych może w określonych przypadkach pozostać poza kategorią wysokiego ryzyka, natomiast narzędzie przypisujące kandydatom scoring, przewidujące ich „dopasowanie kulturowe” albo sugerujące odrzucenie aplikacji będzie co do zasady wymagało szczegółowej analizy.
W sektorze finansowym i ubezpieczeniowym największe znaczenie będą miały systemy służące do oceny zdolności kredytowej osób fizycznych, ustalania scoringu kredytowego oraz oceny ryzyka i wyceny w ubezpieczeniach na życie i zdrowotnych. W praktyce banki, fintechy i ubezpieczyciele będą musieli dokładnie rozróżnić systemy służące wyłącznie analizie portfela, raportowaniu lub wykrywaniu niespójności od systemów, które wpływają na decyzję wobec konkretnej osoby jak np. odmowę udzielenia kredytu, wysokość składki ubezpieczeniowej albo uprawnienie do nabycia danego produktu. Istotne będzie także właściwe opisanie zamierzonego przeznaczenia systemu: narzędzie prezentowane jako ogólny model scoringowy dla konsumentów może zostać potraktowane inaczej niż rozwiązanie ograniczone do analizy danych spółek lub ryzyka portfelowego.
Z kolei w edukacji, administracji i usługach publicznych wytyczne wskazują na potrzebę szczególnej ostrożności wszędzie tam, gdzie system AI może wpływać na dostęp osoby do świadczenia społecznego czy edukacji. Dotyczy to w szczególności narzędzi oceniających wyniki uczniów lub studentów, kwalifikujących kandydatów do szkół i programów szkoleniowych albo monitorujących zachowanie podczas egzaminów. W administracji i usługach publicznych podobne ryzyka pojawią się przy systemach wspierających ocenę uprawnień do świadczeń społecznych, priorytetyzację wniosków czy wykrywanie nadużyć w sprawach dotyczących beneficjentów świadczeń.
"Filtr" z art. 6 ust. 3 AI Act - wyjątek, nie reguła
Jednym z najważniejszych zagadnień praktycznych pozostaje tzw. filtr z art. 6 ust. 3 AI Act. Przepis ten pozwala w określonych przypadkach uznać, że system mieszczący się formalnie w obszarze Załącznika III nie jest systemem wysokiego ryzyka, jeżeli nie stwarza znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych.
Projekt wytycznych pokazuje jednak, że Komisja podchodzi do tego wyjątku zawężająco. Filtr powinien mieć zastosowanie przede wszystkim do zadań pomocniczych, proceduralnych lub przygotowawczych, które nie wpływają materialnie na wynik decyzji. Przykładem może być porządkowanie dokumentów, planowanie rozmów, techniczne wsparcie procesu albo analiza ex post, która nie determinuje sytuacji konkretnej osoby.
Inaczej należy ocenić system, który szereguje kandydatów do pracy, przyznaje punktację, rekomenduje odmowę świadczenia społecznego, wskazuje ryzyko nadużycia świadczenia przez beneficjenta albo w inny sposób wpływa na decyzję wobec konkretnej osoby. W takim przypadku argument, że „ostatecznie decyduje człowiek”, może nie wystarczyć. Human oversight jest istotnym obowiązkiem w reżimie modeli wysokiego ryzyka, ale nie jest samodzielną podstawą do wyłączenia systemu z tej kategorii.
Wytyczne są szczególnie istotne dla systemów wykorzystywanych w HR, edukacji, bankowości, ubezpieczeniach, administracji publicznej oraz legaltechu. To właśnie w tych obszarach granica między narzędziem pomocniczym a systemem realnie wpływającym na decyzję dotyczącą istotnego obszaru życia osoby fizycznej może być trudna do uchwycenia.
Znaczenie dla polskiego rynku
Nowe wytyczne wpisują się w szerszy proces budowania krajowego systemu nadzoru nad sztuczną inteligencją. 31 marca 2026 r. Rada Ministrów przyjęła projekt ustawy o systemach sztucznej inteligencji, którego celem jest zapewnienie krajowego nadzoru nad branżą AI. Projekt zakłada powołanie Komisji Rozwoju i Bezpieczeństwa Sztucznej Inteligencji jako krajowego organu odpowiedzialnego m.in. za prowadzenie postępowań, wydawanie decyzji, nakładanie sankcji oraz koordynowanie nadzoru nad systemami AI w Polsce.
Dla przedsiębiorców oznacza to, że klasyfikacja systemów AI przestaje być zagadnieniem abstrakcyjnym. Wątpliwości dotyczące tego, czy dane narzędzie jest systemem wysokiego ryzyka, będą miały bezpośrednie znaczenie dla obowiązków dokumentacyjnych, kosztów wdrożenia, relacji z klientami oraz ryzyka kontroli ze strony organów nadzoru.
