Systemy sztucznej inteligencji coraz częściej wspierają banki, sklepy internetowe, urzędy i działy HR, przy czym wiele osób korzysta z nich nawet bez większej świadomości. Wraz z rozwojem takich technologii pojawiły się pytania o bezpieczeństwo danych, odpowiedzialność za błędy oraz sposób kontroli automatycznych decyzji. Właśnie dlatego ai act stał się jednym z najgłośniejszych tematów związanych z regulacją nowych technologii w Unii Europejskiej. Ten artykuł wyjaśnia, czego dotyczą nowe przepisy, jakie systemy obejmują oraz jak mogą wpłynąć na działalność firm i codzienne życie użytkowników.
Dlaczego Unia Europejska przygotowała nowe przepisy?
Rozwój narzędzi opartych na sztucznej inteligencji przyspieszył w ostatnich latach bardzo wyraźnie. Algorytmy analizują dziś zdolność kredytową klientów, wspierają diagnostykę medyczną i pomagają filtrować treści publikowane w internecie. Tego typu rozwiązania przynoszą wiele korzyści, ale jednocześnie zwiększają ryzyko błędnych decyzji lub nadużyć.
Unia Europejska zdecydowała się uporządkować te kwestie poprzez artificial intelligence act, czyli rozporządzenie dotyczące systemów sztucznej inteligencji. Regulacja ma ograniczać sytuacje, w których technologia działa bez odpowiedniego nadzoru albo wpływa negatywnie na prawa obywateli.
Nowe przepisy skupiają się przede wszystkim na poziomie ryzyka związanego z użyciem konkretnego systemu AI. Oznacza to, że inne wymagania dotyczą prostych chatbotów, a inne narzędzi wykorzystywanych w medycynie czy rekrutacji pracowników.
Jak ai act dzieli systemy sztucznej inteligencji?
Jednym z najważniejszych elementów rozporządzenia pozostaje klasyfikacja ryzyka. Dzięki niej firmy mogą łatwiej ocenić, jakie obowiązki wiążą się z konkretnym rozwiązaniem technologicznym.
Przepisy przewidują kilka głównych kategorii:
- systemy o niedopuszczalnym ryzyku, których stosowanie będzie zakazane;
- narzędzia wysokiego ryzyka, objęte szczególnym nadzorem;
- rozwiązania wymagające transparentności wobec użytkowników;
- systemy o ograniczonym lub niewielkim ryzyku.
Zakazane mają być między innymi technologie służące do manipulowania zachowaniem użytkowników lub prowadzenia społecznej punktacji obywateli. Z kolei systemy używane przy ocenie kandydatów do pracy albo analizie danych medycznych znajdą się w grupie wysokiego ryzyka.
W praktyce oznacza to konieczność prowadzenia dokumentacji, testowania jakości danych oraz monitorowania działania algorytmów. Firma korzystająca z narzędzi AI będzie musiała wykazać, że system działa zgodnie z określonymi standardami bezpieczeństwa.
Które branże najmocniej odczują nowe regulacje?
Choć przepisy obejmują wiele sektorów gospodarki, część branż znajduje się pod szczególną obserwacją regulatorów. Dotyczy to zwłaszcza obszarów, w których automatyczne decyzje wpływają bezpośrednio na sytuację człowieka.
Największe zmiany mogą pojawić się w takich sektorach jak:
- Bankowość i ocena zdolności kredytowej klientów.
- Rekrutacja pracowników oraz analiza kandydatów.
- Ochrona zdrowia i diagnostyka medyczna.
- Transport oraz systemy autonomiczne.
- Edukacja wykorzystująca automatyczne ocenianie.
Przykładowo firma rekrutacyjna korzystająca z narzędzia analizującego CV będzie musiała sprawdzić, czy algorytm nie dyskryminuje kandydatów ze względu na płeć, wiek lub pochodzenie. W podobny sposób oceniane będą rozwiązania stosowane przez banki albo ubezpieczycieli.
Jakie obowiązki pojawią się po stronie przedsiębiorstw?
Wiele firm zastanawia się dziś, czy nowe regulacje oznaczają konieczność całkowitej przebudowy procesów technologicznych. W praktyce zakres zmian zależy od rodzaju wykorzystywanego systemu i poziomu ryzyka przypisanego do jego działania.
W części organizacji przydadzą się procedury dotyczące kontroli danych, dokumentowania działania algorytmów oraz raportowania błędów. Znaczenie ma też nadzór człowieka nad systemem podejmującym decyzje automatyczne. Więcej danych znajdziesz tu.
Wśród najczęściej omawianych obowiązków znajdują się:
- prowadzenie dokumentacji technicznej;
- monitorowanie jakości danych treningowych;
- ocena ryzyka dla użytkowników;
- zapewnienie możliwości kontroli przez człowieka;
- informowanie użytkownika o kontakcie z AI.
Zanim firma wdroży nowe narzędzie oparte na sztucznej inteligencji, warto sprawdzić, czy jego zastosowanie podlega obowiązkom wynikającym z rozporządzenia. Dotyczy to szczególnie przedsiębiorstw korzystających z gotowych platform dostarczanych przez zewnętrznych dostawców.
Czy ai act wpłynie na zwykłych użytkowników?
Nowe przepisy dotyczą przede wszystkim producentów technologii i przedsiębiorstw, ale ich skutki odczują również konsumenci. W wielu sytuacjach użytkownik ma otrzymywać jasną informację, że rozmawia z chatbotem albo korzysta z treści wygenerowanej automatycznie.
Takie rozwiązania mają zwiększyć przejrzystość działania systemów AI. Człowiek powinien wiedzieć, kiedy decyzję podejmuje algorytm, a kiedy odpowiada za nią pracownik firmy.
| Obszar | Możliwa zmiana dla użytkownika |
|---|---|
| obsługa klienta | informacja o kontakcie z chatbotem |
| rekrutacja | większa kontrola nad analizą danych kandydatów |
| media społecznościowe | oznaczanie części treści generowanych automatycznie |
| bankowość | dokładniejsze procedury oceny ryzyka |
Choć część osób obawia się nadmiernych regulacji, inni zwracają uwagę na potrzebę większej odpowiedzialności firm technologicznych. Dyskusja wokół tego rozporządzenia pokazuje, że rozwój sztucznej inteligencji coraz mocniej wpływa na kwestie społeczne i prawne.
Jak przygotować się do zmian związanych z AI?
Wiele przedsiębiorstw dopiero analizuje wpływ nowych przepisów na swoją działalność. Część organizacji tworzy wewnętrzne zespoły odpowiedzialne za ocenę ryzyka technologicznego, natomiast inne skupiają się na audycie używanych narzędzi.
W tej sytuacji przydaje się dokładne sprawdzenie, które procesy wykorzystują automatyczne podejmowanie decyzji. Znaczenie ma również dokumentowanie sposobu działania modeli AI i źródeł danych wykorzystywanych do ich trenowania.
Ai act może stać się impulsem do bardziej świadomego korzystania ze sztucznej inteligencji, szczególnie tam, gdzie technologia wpływa na prawa użytkowników lub bezpieczeństwo danych. Dla wielu firm będzie to proces rozłożony w czasie, wymagający współpracy działów prawnych, technologicznych i biznesowych.