Klasyfikacja AI wysokiego ryzyka wg EU AI Act 2026: Załącznik III krok po kroku

Definicja (art. 3 pkt 44 EU AI Act): System AI wysokiego ryzyka to system AI, który zgodnie z art. 6 rozporządzenia (UE) 2024/1689 zostaje zakwalifikowany jako system wysokiego ryzyka — albo dlatego, że pełni funkcję bezpieczeństwa w produktach regulowanych, albo dlatego, że jest stosowany w jednym z 8 obszarów wymienionych w Załączniku III.

Czym są systemy AI wysokiego ryzyka wg EU AI Act?

Rozporządzenie (UE) 2024/1689 — EU AI Act — dzieli systemy AI na cztery klasy ryzyka. Druga pod względem wysokości klasa, kategoria wysokiego ryzyka, jest dla MŚP szczególnie istotna, ponieważ uruchamia rygorystyczne obowiązki w zakresie zgodności, ale — inaczej niż systemy AI zakazane — nadal może być legalnie eksploatowana, o ile spełnione są wszystkie wymogi.

Art. 6 EU AI Act definiuje dwie alternatywne ścieżki kwalifikacji do wysokiego ryzyka. Po pierwsze, systemy AI stosowane jako element bezpieczeństwa w produktach, które już podlegają innym dyrektywom dotyczącym oznakowania CE (np. wyroby medyczne, pojazdy, zabawki). Po drugie — i to jest decydujące dla większości firm średniej wielkości — systemy AI stosowane w jednym z 8 obszarów z Załącznika III, niezależnie od tego, w jakim produkcie się znajdują.

Według przewodnika Bitkom po klasyfikacji wysokiego ryzyka 2024 szacuje się, że 12% wszystkich systemów AI stosowanych w niemieckich MŚP należy zaklasyfikować jako wysokie ryzyko. Większość firm o tym nie wie — ponieważ koncentruje się na produkcie, a nie na celu zastosowania.

Decydujące jest przy tym nie to, kto opracował system AI, lecz to, do czego jest on wykorzystywany we własnej działalności. Standardowy produkt dużego dostawcy, stosowany w obszarze rekrutacji personelu, jest dla Ciebie jako podmiotu stosującego (deployer wg art. 3 pkt 4 EU AI Act) mimo to systemem wysokiego ryzyka — i to Ty ponosisz obowiązki podmiotu stosującego z art. 26 EU AI Act.

Wytyczne Komisji Europejskiej do Załącznika III (akt delegowany, październik 2024) precyzują, w jakich warunkach system AI mimo zastosowania w obszarze z Załącznika III nie jest uznawany za wysokiego ryzyka: mianowicie wtedy, gdy pełni wyłącznie funkcję wspomagającą, nie podejmuje samodzielnych decyzji, a człowiek odpowiedzialny za decyzję nie przejmuje automatycznie jego wyniku. Ten wyjątek z art. 6 ust. 3 należy w praktyce interpretować wąsko.

8 obszarów wysokiego ryzyka z Załącznika III — z przykładami dla MŚP

Załącznik III do rozporządzenia (UE) 2024/1689 wymienia w sposób wyczerpujący 8 obszarów, w których system AI automatycznie uznaje się za wysokiego ryzyka — o ile nie zachodzi wyjątek z art. 6 ust. 3. Lista została doprecyzowana przez akt delegowany Komisji Europejskiej (październik 2024). Oto 8 obszarów wraz z praktycznymi przykładami dla MŚP:

1. Biometria — identyfikacja i kategoryzacja

Należą tu systemy AI służące do biometrycznej identyfikacji w czasie rzeczywistym lub następczej osób, a także do kategoryzacji biometrycznej według cech takich jak emocje, poglądy polityczne czy podatność na zagrożenia. Przykłady dla MŚP: kontrola dostępu poprzez rozpoznawanie twarzy w zakładzie, wspierany przez AI monitoring pracowników przez kamery z rozpoznawaniem emocji. Wskazówka praktyczna: prosta rejestracja czasu pracy za pomocą skanera linii papilarnych bez klasyfikacji AI nie jest systemem wysokiego ryzyka; AI wyciągająca wnioski o nastrojach z obrazu z kamery — jak najbardziej.

2. Infrastruktura krytyczna — sieci energetyczne, woda, transport

Systemy AI stosowane do zarządzania i eksploatacji infrastruktury krytycznej — sieci energetyczne, zaopatrzenie w wodę, ciepłownictwo, infrastruktura transportowa — należą do tej kategorii. Przykłady dla MŚP: zakłady komunalne wykorzystujące AI do prognozowania obciążenia sieci energetycznej; średniej wielkości firmy logistyczne ze sterowaniem flotą opartym na AI na drogach publicznych. Kategoria ta dotyczy większości MŚP tylko pośrednio.

3. Edukacja — ocenianie i decyzje o dostępie

Systemy AI, które decydują o dostępie do instytucji edukacyjnych, oceniają osoby uczące się lub sterują ich ścieżkami kształcenia. Przykłady dla MŚP: firmy software'owe tworzące wspierane przez AI systemy egzaminacyjne dla szkół zawodowych; dostawcy szkoleń wykorzystujący AI do automatycznego przydziału miejsc na kursach. Kategoria edukacyjna jest szczególnie istotna dla MŚP z branży EdTech.

4. Zatrudnienie — selekcja kandydatów i ocena wyników

To najważniejszy dla MŚP obszar z Załącznika III: każdy system AI stosowany do selekcji kandydatów, decyzji personalnych lub oceny wyników uznaje się za wysokiego ryzyka. Należą tu: zautomatyzowane narzędzia do screeningu CV, wspierana przez AI analiza rozmów kwalifikacyjnych (analiza głosu lub mimiki), oparte na AI oceny wyników, algorytmiczny przydział pracy (np. w pracy platformowej). Przykłady dla MŚP: oprogramowanie HR z funkcją rankingu AI dla aplikacji, Microsoft 365 Viva Insights z oceną wyników opartą na AI, zautomatyzowana rekrutacja przez LinkedIn z dopasowaniem AI. Według wskazówek BMWK do klasyfikacji 2024 kategoria zatrudnienia to najczęstszy przypadek zastosowania wysokiego ryzyka w niemieckich MŚP.

5. Usługi podstawowe — kredyty, ubezpieczenia, administracja

Systemy AI, które decydują o dostępie do podstawowych usług prywatnych i publicznych. Należą tu: ocena zdolności kredytowej, obliczanie składek ubezpieczeniowych, priorytetyzacja zgłoszeń alarmowych (np. centra powiadamiania 112), decyzje o pomocy społecznej. Przykłady dla MŚP: startupy fintech ze scoringiem kredytowym AI, oprogramowanie dla brokerów ubezpieczeniowych z klasyfikacją ryzyka opartą na AI. Kategoria ta jest kluczowa dla instytucji finansowych i fintechów.

6. Ściganie przestępstw

Systemy AI wykorzystywane przez organy ścigania do wykrywania kłamstw, oceny ryzyka lub profilowania. Dla prywatnych MŚP zazwyczaj nieistotne — z wyjątkiem dostawców oprogramowania dla organów administracji.

7. Migracja, azyl i kontrola graniczna

Systemy AI służące do weryfikacji migrantów, osób ubiegających się o azyl lub w ochronie granic. Również tutaj istotne przede wszystkim dla organów państwowych i wykonawców zamówień rządowych, a nie dla klasycznych MŚP.

8. Wymiar sprawiedliwości i procesy demokratyczne

Systemy AI, które wspierają lub wpływają na orzeczenia sądowe, wybory lub procesy demokratyczne. Dla komercyjnych MŚP z reguły nieistotne — istotne dla dostawców LegalTech sprzedających narzędzia AI sędziom lub prawnikom.

Ważne doprecyzowanie z przewodnika Bitkom po klasyfikacji wysokiego ryzyka 2024: wykaz z Załącznika III ma charakter wyczerpujący — system AI, który nie jest stosowany w żadnym z tych 8 obszarów i nie jest elementem bezpieczeństwa w produktach regulowanych, nie jest systemem wysokiego ryzyka, niezależnie od tego, jak złożony lub potężny jest. Generatywny asystent AI do tekstów marketingowych nie jest więc systemem wysokiego ryzyka, nawet jeśli dostarcza bardzo precyzyjnych wyników.

Lista kontrolna do samooceny: czy Twój system AI to wysokie ryzyko?

Zanim zlecisz pracochłonną formalną ocenę zgodności, warto przeprowadzić ustrukturyzowaną samoocenę. Poniższe 7 pytań pomaga wstępnie oszacować status wysokiego ryzyka systemu AI. Nie zastępują one porady prawnej, dają jednak rzetelną pierwszą orientację na podstawie art. 6 i Załącznika III EU AI Act oraz wytycznych Komisji Europejskiej do Załącznika III (2024).

Pytanie 1: Czy system AI jest stosowany w obszarze z Załącznika III?

Sprawdź na podstawie opisanych powyżej 8 obszarów, czy podstawowy cel zastosowania Twojego systemu AI mieści się w jednej z tych kategorii. Decydujący jest rzeczywisty cel zastosowania w działalności, a nie marketingowa nazwa produktu. „Asystent HR oparty na AI” jest systemem wysokiego ryzyka, jeśli rankinguje aplikacje — nawet jeśli dostawca reklamuje go jako „narzędzie do komunikacji”.

Pytanie 2: Czy system podejmuje samodzielne decyzje, czy tylko wydaje rekomendacje?

Wyjątek z art. 6 ust. 3 ma zastosowanie, gdy system AI pełni wyłącznie funkcję wspomagającą, a osoby decyzyjne nie przejmują automatycznie jego wyniku. Jeśli AI proponuje tylko ranking kandydatów, a ostateczna decyzja zawsze należy do człowieka — i jest to także udokumentowane oraz faktycznie praktykowane — wyjątek może wchodzić w grę. Jeśli jednak wynik systemu jest standardowo przejmowany lub presja decyzyjna faktycznie spoczywa na systemie, wyjątek nie jest możliwy.

Pytanie 3: Czy zachodzi wyjątek z art. 6 ust. 3?

Art. 6 ust. 3 EU AI Act przewiduje wyjątek, gdy system AI jest stosowany w wąsko określonym celu wspomagającym, bez istotnego wpływu na decyzje. Według przewodnika praktycznego do EU AI Act Fundacji im. Heinricha Bölla 2024 wyjątek ten rzadko znajduje zastosowanie w praktyce — ciężar dowodu spoczywa na podmiocie stosującym, który musi wykazać, że system nie ma istotnego wpływu na decyzję.

Pytanie 4: Czy system ma dostęp do danych osobowych?

To samo w sobie nie jest kryterium wysokiego ryzyka, ale silna przesłanka: systemy AI w obszarach z Załącznika III zazwyczaj przetwarzają dane osobowe. Jeśli tak, DSGVO i EU AI Act obowiązują łącznie — to ważny czynnik wpływający na nakład pracy związany ze zgodnością.

Pytanie 5: Czy decyzje systemu są wdrażane automatycznie?

Gdy wynik systemu AI bezpośrednio zasila procesy operacyjne — na przykład automatyczna odmowa wobec kandydata, automatyczne odrzucenie wniosku kredytowego — jest to silna przesłanka braku nadzoru ze strony człowieka, a tym samym jednoznacznej klasyfikacji jako wysokie ryzyko bez możliwości wyjątku.

Pytanie 6: Czy system jest stosowany wobec ludzi, czy tylko wewnętrznie?

Systemy AI, które podejmują decyzje dotyczące osób (kandydatów, klientów, pacjentów), mają wyższy poziom ryzyka niż czysto wewnętrzna AI optymalizacyjna bez odniesienia do osób. Wewnętrzny system AI do zarządzania magazynem zazwyczaj nie jest systemem wysokiego ryzyka; system AI podejmujący decyzje kredytowe wobec klientów — jest nim.

Pytanie 7: Czy decyzje są odwracalne?

Nie ma to bezpośredniego znaczenia dla klasyfikacji wysokiego ryzyka, lecz dla oceny ryzyka w ramach oceny zgodności: decyzje nieodwracalne (np. trwałe odrzucenie wniosku kredytowego, wypowiedzenie umowy) znacząco podnoszą wymagania dotyczące nadzoru ze strony człowieka i wyjaśnialności systemu.

Interpretacja wyników: Jeśli na pytanie 1 odpowiedziałeś „tak”, a dla pytań 2 i 3 nie potrafisz wykazać jednoznacznego wyjątku, Twój system AI najprawdopodobniej jest systemem wysokiego ryzyka. Kolejnym etapem jest wówczas formalna ocena zgodności wg art. 43 EU AI Act — albo jako samoocena, albo z udziałem zewnętrznej jednostki oceniającej, w zależności od typu systemu.

Co zmienia status wysokiego ryzyka? Obowiązki z art. 9–15 EU AI Act

Gdy system AI zostanie zaklasyfikowany jako wysokie ryzyko, zaczynają obowiązywać wymogi art. 9–15 rozporządzenia (UE) 2024/1689. Obowiązki te dotyczą zarówno dostawców (którzy opracowują system i wprowadzają go do obrotu), jak i — w stopniowanej formie — podmiotów stosujących (którzy system eksploatują). Oto najważniejsze obowiązki w skrócie:

Art. 9 — system zarządzania ryzykiem

Dostawcy systemów AI wysokiego ryzyka muszą ustanowić i udokumentować ciągły system zarządzania ryzykiem. Obejmuje on identyfikację i analizę znanych i przewidywalnych ryzyk, ocenę ryzyk przy zastosowaniu zgodnym z przeznaczeniem oraz przy dającym się przewidzieć niewłaściwym użyciu, a także wdrożenie środków ograniczających ryzyko. System zarządzania ryzykiem nie jest jednorazowym dokumentem, lecz żywym procesem z regularnymi przeglądami.

Art. 10 — wymogi dotyczące jakości danych

Zbiory danych treningowych, walidacyjnych i testowych muszą być adekwatne, reprezentatywne, w wystarczającym stopniu wolne od błędów i kompletne. Dla MŚP, które kupują AI wysokiego ryzyka zamiast ją tworzyć, oznacza to: wymogi te musi spełnić dostawca — ale jako podmiot stosujący musisz zapewnić, że eksploatujesz system z wysokiej jakości danymi wejściowymi.

Art. 11 — dokumentacja techniczna

Dostawcy muszą sporządzić obszerną dokumentację techniczną i utrzymywać ją w aktualnym stanie. Musi ona zawierać wszystkie informacje niezbędne do oceny zgodności systemu — architekturę systemu, dane treningowe, metryki wydajności, ryzyka, środki zaradcze. Dokumentację należy przechowywać przez 10 lat od wprowadzenia do obrotu.

Art. 12 — rejestrowanie zdarzeń (logging)

Systemy AI wysokiego ryzyka muszą mieć automatyczne funkcje rejestrowania zdarzeń, które umożliwiają śledzenie działania systemu przez cały jego cykl życia. Dla podmiotów stosujących oznacza to: musisz prowadzić rejestry i mieć je gotowe na potrzeby audytów.

Art. 13 — przejrzystość i obowiązki informacyjne

Systemy AI wysokiego ryzyka muszą być zaprojektowane tak, aby ich użytkowanie było wystarczająco przejrzyste. Należy do tego instrukcja obsługi, która jest zrozumiała dla podmiotów stosujących i zawiera informacje o celu zastosowania, wydajności, ograniczeniach, danych wejściowych i środkach nadzoru.

Art. 14 — nadzór ze strony człowieka

Systemy AI wysokiego ryzyka muszą być zaprojektowane tak, aby mogły być skutecznie nadzorowane przez osoby fizyczne. System musi umożliwiać osobom nadzorującym zrozumienie, co robi, interwencję lub jego zatrzymanie. Dla podmiotów stosujących jest to operacyjnie najbardziej pracochłonny wymóg: musisz ustanowić wewnętrzne procesy, które zapewnią, że osoby decyzyjne faktycznie weryfikują wyniki AI.

Art. 15 — dokładność, solidność i cyberbezpieczeństwo

Systemy AI wysokiego ryzyka muszą być w sposób wykazalny wystarczająco dokładne, solidne i cyberbezpieczne. Obejmuje to odporność na manipulację, błędne dane wejściowe i ataki adwersarialne. Ocena zgodności wg art. 43: dla większości systemów wysokiego ryzyka z obszarów Załącznika III ocenę zgodności można przeprowadzić jako samoocenę (wewnętrzna ocena zgodności). Zewnętrzna jednostka oceniająca jest obowiązkowa wyłącznie dla systemów biometrycznych i określonej AI w infrastrukturze krytycznej. Według doświadczeń Wito AI z 2025 roku pełna wewnętrzna ocena zgodności dla średniej wielkości firmy będącej podmiotem stosującym trwa średnio 80 godzin — rozłożonych na weryfikację dokumentacji technicznej dostawcy, wewnętrzną dokumentację procesów i rejestr ryzyka.