W samorządach

Felieton: Etyczna sztuczna inteligencja

W grudniu 2022 roku Rada UE przyjęła projekt The Artificial Intelligence Act (AJ Act). Ogromne tempo zmian technologicznych wymusza stworzenie ram prawnych, ograniczających zagrożenia, jakie niesie ze sobą sztuczna inteligencja (SI). Twórcy unijnego prawa uzasadniają, że dzięki nowym przepisom uzyskamy bezpieczną, etyczną oraz wiarygodną sztuczną inteligencję.

Chodzi o to, aby różnorakie systemy SI funkcjonowały w jednolitych ramach prawnych, a ich działanie nie kolidowało z naszym prawem do ochrony prywatności, swobodnej wypowiedzi oraz innymi wartościami etycznymi.

Unijni ministrowie zaakceptowali rozporządzenie AI Act, a dalsze prace będą trwać w Parlamencie Europejskim. Ponieważ do rozporządzenia zgłoszono setki poprawek i uwag, zwłaszcza ze strony organizacji pozarządowych, planowane przyjęcie nowego unijnego prawa przez Parlament UE ma nastąpić w marcu br., zaś wejście w życie dopiero po upływie 3 lat.

Proponowane przez Komisję Europejską rozwiązania mają zapewnić bezpieczeństwo wszelkich urządzeń i produktów opartych na SI, a rekomendowane prawo to swoiste narzędzie do tego, aby ograniczyć ryzyko jej wykorzystania, szczególnie gdy chodzi np. o działania podprogowe czy wykorzystywanie ludzkich słabości.

Projekt AI Act postrzegany jest jako swoiste RODO dla wdrażanych w urzędach i przedsiębiorstwach systemów sztucznej inteligencji. Samo rozporządzenie koncentruje się na systemach wysokiego ryzyka związanego z użytkowaniem sztucznej inteligencji. Regulacja dotyczy zarówno jej wytwarzania jak i dystrybucji oraz korzystania. A do systemów wysokiego ryzyka, które reguluje unijny akt, należą te związane z procesem rekrutacji pracowników, ich awansów i zwolnień, monitorowania pracy, przydzielania jej na podstawie cech osobowościowych, oceniania wydajności pracy itp. Także na przykład podejmowanie decyzji przez organy samorządowe, dotyczące przyznawania świadczeń czy usług publicznych dla mieszkańców.

Ponadto wysokie zagrożenie stwarzają systemy przeznaczone do oceny zdolności kredytowej, ubezpieczeń zdrowotnych i na życie czy oceny stanu faktycznego oraz interpretacji przepisów. Zakazane będą systemy do biometrycznej identyfikacji w czasie rzeczywistym. Chodzi o wyważenie w unijnym prawie regulującym funkcjonowanie sztucznej inteligencji zarówno korzyści, jak i licznych zagrożeń.

Głównym celem AI Act jest wdrożenie zharmonizowanych przepisów, dziś różnie stosowanych w krajach UE, aby produkty i usługi funkcjonujące w oparciu o sztuczną inteligencję bezpiecznie działały na unijnych rynkach i aby jej wykorzystanie przynosiło korzyści. W proponowanych przepisach jest zaszyty zespół wymogów, które mają zabezpieczyć nasze podstawowe prawa. W szczególności wiarygodna SI ma szanować m.in. godność człowieka, chronić życie prywatne i dane osobowe, zapewnić równość praw kobiet i mężczyzn oraz wolność wypowiedzi i zgromadzeń, prawa do dobrej administracji, ochrony środowiska, naszego bezpieczeństwa oraz wielu innych wartości i praw podstawowych człowieka.

Dla firm i instytucji projektowane przepisy AI Act niosą ze sobą wiele nowych obowiązków, związanych z ich wdrożeniem. Eksperci oceniający projekt nowego prawa szacują, że przygotowanie szeregu dokumentów, np. dokumentacji technicznej i przechowywania rejestru zdarzeń, systemów zarządzania ryzykiem czy dotyczących wymogów rejestracyjnych – może potrwać nawet kilkanaście miesięcy. Ponadto dostawcy produktów opartych o SI będą zobowiązani do informowania krajowych organów nadzorczych o incydentach i przypadkach nieprawidłowego działania systemów, wycofania ich z rynku czy od użytkowników.

Stąd AI Act przewiduje dotkliwe kary finansowe za nieprzestrzeganie przepisów, m.in. za naruszenie zakazu stosowania niektórych systemów SI czy przekazanie nieprawidłowych informacji do organów nadzoru. Każde z państw UE powoła lub wyznaczy już istniejący organ, aby zapewnić wdrażanie i stosowanie rozporządzenia. Krajowy organ nadzorczy będzie pełnił funkcje organu notyfikującego oraz nadzoru nad rynkiem, a ich pracownicy mają posiadać odpowiednią wiedzę z zakresu technologii sztucznej inteligencji, jej zagrożeń dla zdrowia i bezpieczeństwa oraz obowiązujących przepisów prawa. Na szczeblu unijnym ma powstać Europejska Rada ds. Sztucznej Inteligencji. Ma ona m.in. współuczestniczyć w sporządzaniu wytycznych i analiz związanych z funkcjonowaniem SI, współpracować z organami krajowymi oraz zapewnić spójne stosowanie rozporządzenia na obszarze UE.

Ponieważ AI Act będzie obowiązywał za 3 lata, należy liczyć się z tym, że systemy sztucznej inteligencji wspomagające biznes czy administrację publiczną – będą coraz powszechniejsze. Dlatego już dziś należy pomyśleć o tym, jak w różnych instytucjach i przedsiębiorstwach będziemy wdrażać AI Act, a w szczególności jakie wewnętrzne przepisy i działania będą nieodzowne.

*zastępca redaktora naczelnego „Wspólnoty”

Aby zapewnić prawidłowe działanie i wygląd niniejszego serwisu oraz aby go stale ulepszać, stosujemy takie technologie jak pliki cookie oraz usługi firm Adobe oraz Google. Ponieważ cenimy Twoją prywatność, prosimy o zgodę na wykorzystanie tych technologii.

Zgoda na wszystkie
Zgoda na wybrane