Kogo to w ogóle dotyczy.
Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689, nazywane AI Act, obejmuje bardzo szeroki krąg podmiotów. Nie tylko tych, którzy modele budują, ale też tych, którzy ich używają zawodowo.
Obejmuje też firmy spoza Unii, jeżeli wynik działania ich systemu jest wykorzystywany w Unii. Rejestracja poza UE nie jest więc drogą ucieczki, podobnie jak nie była przy RODO.
Nie obejmuje natomiast użycia czysto osobistego, poza działalnością zawodową. Jeżeli wieczorem prosicie model o przepis na obiad, rozporządzenie Was w tym momencie nie dotyczy.
Zanim przejdziecie dalej, jedna uwaga o kolejności. Większość tekstów o AI Act zaczyna od kar, bo kary robią wrażenie. To zła kolejność. Kara jest konsekwencją tego, że nie ustaliliście dwóch rzeczy: w jakiej występujecie roli i do której kategorii należy Wasz system. Bez tych dwóch odpowiedzi cała reszta jest nieczytelna.
Najpierw ustal rolę. To zmienia wszystko.
Rozporządzenie przypisuje obowiązki do ról, nie do firm. Ta sama organizacja może występować w dwóch rolach jednocześnie, dla dwóch różnych systemów.
Podmiot stosujący
Używacie systemu AI, który zbudował ktoś inny, w ramach swojej działalności zawodowej. Kupujecie narzędzie i z niego korzystacie. W tej roli jest większość firm i wiąże się ona ze znacznie mniejszą liczbą obowiązków niż rola dostawcy.
Dostawca
Budujecie system AI albo zlecacie jego zbudowanie i wprowadzacie go do obrotu lub oddajecie do użytku pod własną nazwą albo znakiem towarowym. Tu obowiązków jest dużo więcej.
I tutaj jest pułapka, na którą firmy wpadają najczęściej. Jeżeli weźmiecie cudzy model, zbudujecie na nim narzędzie, nazwiecie je własną marką i udostępnicie klientom, możecie wejść w rolę dostawcy, mimo że nie napisaliście ani linijki modelu. Podobnie, jeżeli istotnie zmienicie przeznaczenie systemu wysokiego ryzyka.
To jest pytanie, od którego trzeba zacząć, bo od odpowiedzi zależy, czy czeka Was porządkowanie dokumentów, czy budowa systemu zarządzania ryzykiem.
Potem kategoria ryzyka.
Rozporządzenie porządkuje systemy według tego, co mogą zepsuć, a nie według tego, jak są zbudowane.
- Praktyki zakazane. Wąska lista zastosowań wykluczonych całkowicie, niezależnie od zabezpieczeń.
- Systemy wysokiego ryzyka. Zastosowania wymienione w załącznikach, między innymi w obszarze zatrudnienia, dostępu do usług, edukacji i wymiaru sprawiedliwości. Tu jest zdecydowana większość realnych obowiązków.
- Obowiązki przejrzystości. Dotyczą sytuacji, w których człowiek musi wiedzieć, że ma do czynienia z maszyną albo z treścią wygenerowaną.
- Pozostałe. Bez szczególnych obowiązków wynikających z rozporządzenia.
Osobny reżim dotyczy modeli ogólnego przeznaczenia, czyli tych, na których stoi większość dzisiejszych narzędzi.
Ważne, bo to źródło większości nieporozumień: wysokie ryzyko i obowiązek przejrzystości nie wykluczają się. System może podlegać obu jednocześnie. A branża, w której działacie, nie przesądza kategorii. Przesądza cel systemu i to, kogo dotyczy jego wynik.
Na oswojenie tego zrobiłem ćwiczenie z ośmioma sytuacjami, w których zmiana jednego szczegółu zmienia kwalifikację. Zajmuje sześć minut i pokazuje ten mechanizm lepiej niż tabela.
Co z tego dotyczy zwykłego pracodawcy.
Firma, która nie buduje modeli, tylko kupuje narzędzia dla zespołu, ma do zrobienia mniej, niż sugeruje większość artykułów. Ale trzy rzeczy ma.
Kompetencje ludzi. Rozporządzenie wymaga, żeby osoby zajmujące się systemami AI miały odpowiedni poziom wiedzy, adekwatny do ich roli i kontekstu użycia. To nie jest obowiązek kupienia kursu, tylko doprowadzenia do stanu, w którym ludzie rozumieją, z czym pracują. Nieprzypadkowo zaczyna się od tego, bo bez tego reszta obowiązków jest niewykonalna.
Wiedza o tym, czego używacie. Nie da się wykonać żadnego obowiązku wobec systemu, o którym nie wiecie, że działa w firmie. Rejestr jest warunkiem wstępnym, nie formalnością.
Uwaga na zastosowania kadrowe. Jeżeli używacie AI do selekcji kandydatów, oceny pracowników albo decyzji o awansach, jesteście w obszarze, który rozporządzenie traktuje poważnie. To najczęstsze miejsce, w którym zwykła firma niespodziewanie dotyka wysokiego ryzyka.
Co zrobić w tym tygodniu.
Trzy kroki, żadnego nie da się pominąć, a wszystkie są tańsze niż audyt.
- Spiszcie, czego używacie. Narzędzia, cel, kto odpowiada. Jedna tabela.
- Przy każdej pozycji ustalcie rolę. Podmiot stosujący czy dostawca. Przy większości wyjdzie podmiot stosujący i to jest dobra wiadomość.
- Zaznaczcie te, które dotyczą ludzi. Rekrutacja, ocena, dostęp do usług, zdrowie, bezpieczeństwo. Tym zajmijcie się najpierw.
Dopiero potem ma sens pisanie polityki AI, bo będzie opisywała stan faktyczny, a nie wyobrażony.
Do sprawdzenia wiedzy: trzydzieści sześć pytań z wyjaśnieniem po każdej odpowiedzi, z terminami po Digital Omnibus. Do policzenia, ile błędów przechodzi przez nadzór człowieka: symulacja z trzema suwakami.
Zastrzeżenie, potraktujcie je poważnie. To jest tekst orientacyjny, napisany po to, żeby uporządkować myślenie, a nie porada prawna i nie kwalifikacja Waszych systemów. Świadomie nie podaję tu numerów artykułów ani dat wejścia w życie poszczególnych przepisów, bo w tekstach o AI Act krążą wersje sprzeczne ze sobą, a rozporządzenie było nowelizowane. Przed jakąkolwiek decyzją sprawdźcie tekst skonsolidowany w EUR-Lex oraz materiały Komisji Europejskiej, i skonsultujcie się z prawnikiem. Piszę prywatnie, poza rolą bankową.