FRIA: co musisz wiedzieć o formularzu oceny AI wysokiego ryzyka
Komisja Europejska konsultuje projekt formularza FRIA dla systemów AI wysokiego ryzyka.
Formularz FRIA (ocena wpływu na prawa podstawowe) to dokument, który na podstawie art. 27 AI Act mają wypełniać określone podmioty używające systemów AI wysokiego ryzyka. Komisja Europejska opublikowała projekt 16 listopada i zbiera uwagi do 15 stycznia 2027 roku.
Czym jest FRIA i dlaczego powstaje?
FRIA ma pokazać, jak system sztucznej inteligencji wysokiego ryzyka może oddziaływać na prawa podstawowe osób, zanim zacznie działać w realnych procesach. Dokument przygotowuje Europejski Urząd ds. Sztucznej Inteligencji (AI Office), a przy pracach współpracuje Agencja Praw Podstawowych UE (FRA).
W praktyce chodzi o to, by zanim algorytm zacznie decydować o ludziach, ktoś przeanalizował skutki jego działania. To nie jest formalność dla dużych graczy: dokument ma być obowiązkowy dla konkretnych kategorii podmiotów, a jego wyniki trafią do właściwego organu nadzoru rynku.
Kogo dotyczy obowiązek przygotowania oceny?
Obowiązek obejmuje przede wszystkim instytucje publiczne oraz firmy świadczące usługi publiczne. Drugą grupą są podmioty finansowe i ubezpieczeniowe, a wśród ich zastosowań wymieniono ocenę zdolności kredytowej.
| Grupa podmiotów | Czy dotyczy FRIA? |
|---|---|
| Instytucje publiczne | Tak |
| Firmy świadczące usługi publiczne | Tak |
| Podmioty finansowe i ubezpieczeniowe (m.in. ocena zdolności kredytowej) | Tak |
| Pozostałe firmy stosujące AI bez takiego zakresu | Zależy od klasyfikacji systemu |
Dla małej firmy kluczowe jest pytanie, czy jej system AI mieści się w kategorii wysokiego ryzyka i czy firma działa w obszarze wymienionym w art. 27. Jeśli na przykład sklep internetowy korzysta z AI tylko do sortowania zamówień, zwykle nie będzie to obowiązek FRIA. Jeśli natomiast firma pożyczkowa lub ubezpieczeniowa automatyzuje ocenę klientów, temat staje się bardzo konkretny.
Co musi zawierać ocena wpływu?
Według projektu ocena ma uwzględniać sposób użycia systemu, częstotliwość jego stosowania, grupy osób, które mogą zostać narażone na negatywne skutki, oraz zakres nadzoru człowieka. Wymagane są też procedury działań na wypadek zagrożeń, w tym mechanizmy rozpatrywania skarg.
To ważna wskazówka: formularz nie pyta tylko o technologię, ale o ludzi po drugiej stronie. Firma powinna umieć opisać, kto korzysta z wyniku działania AI i jak może zgłosić problem.
Kiedy zaczną obowiązywać nowe zasady?
Nowe obowiązki AI Act obowiązują od 2 grudnia 2027 roku. Przed tą datą warto przejrzeć procesy, w których AI podejmuje decyzje wpływające na klientów, a także zaktualizować dokumentację. Zmiana warunków użycia systemu wymaga bowiem aktualizacji dokumentacji, więc porządek w papierach trzeba utrzymywać na bieżąco.
Z harmonogramu wynikają trzy terminy, które warto mieć w kalendarzu:
| Termin | Co się dzieje |
|---|---|
| 16 listopada | Publikacja projektu formularza FRIA przez Komisję Europejską |
| 4 grudnia 2026 | Ostatni dzień zgłoszeń do programu testowego |
| 15 stycznia 2027 | Koniec konsultacji publicznych |
| 2 grudnia 2027 | Start nowych obowiązków AI Act |
Planowana jest także elektroniczna wersja formularza na platformie AI Act, co ma ułatwić jego wypełnianie.
Co to oznacza dla Ciebie?
Jeśli prowadzisz małą firmę i używasz AI w sprzedaży, obsłudze klienta lub przy decyzjach finansowych, sprawdź trzy rzeczy. Po pierwsze, czy Twój system może zostać uznany za wysokiego ryzyka. Po drugie, czy Twoja działalność należy do grup wymienionych w art. 27. Po trzecie, czy masz opisane zasady nadzoru człowieka i sposób przyjmowania skarg.
Warto też pamiętać, że AI Act dopuszcza wykorzystanie fragmentów oceny skutków dla ochrony danych, czyli oceny wymaganej przez RODO. Jeśli firma już prowadzi taką ocenę, może mieć z czego zacząć, zamiast przygotowywać wszystko od zera.
Konsultacje są okazją, by zgłosić uwagi, zanim formularz zostanie ostatecznie przyjęty. Zgłoszenie do programu testowego możliwe jest do 4 grudnia 2026 roku, a jego uczestnicy testują formularz na jednym własnym systemie AI. Przy dużym zainteresowaniu wybór uczestników ma uwzględniać różnorodność sektorów, technologii, wielkości organizacji i państw członkowskich.
Na podstawie: ITReseller. Tekst opracowany redakcyjnie.