AI Act – przyjęty projekt przez Parlament Europejski

AI Act – czym jest?

AI Act to pierwsze na świecie regulacje dotyczące AI. Podstawowym jego celem jest zapewnienie, że narzędzia oparte o sztuczną inteligencje w Europie będą rozwijane i wykorzystywane zgodne z prawami i wartościami Unii. W tym nadzorem człowieka, bezpieczeństwem, prywatnością, transparentnością, niedyskryminacją oraz dobrem społecznym i środowiskowym, które są ważnymi wartościami wyznawanymi przez UE.

Akt o Sztucznej Inteligencji, to propozycja legislacyjna przedstawiona przez Komisję Europejską już w kwietniu 2021 roku. W świetle znacznego przyśpieszenia rozwoju technologii, pracę nabrały tempa. Co ciekawe, jest to pierwszy na świecie tego typu regulamin mający na celu uregulowanie zasad korzystania ze sztucznej inteligencji.

Aktualnie legislatorzy zgodzili się na wersję roboczą Aktu, która będzie negocjowana z Radą Unii Europejskiej i państwami członkowskimi UE. Wobec rosnącego zagrożenia ze strony AI, UE podjęła już konkretne kroki w celu zaradzenia temu problemowi. Wywołało to już reakcje zarówno ze strony wielkich firm technologicznych, jak i naukowców​. Głównym celem dyrektywy jest zapewnienie, że AI jest rozwijane i wykorzystywane zgodnie z prawami i wartościami Unii Europejskiej, a także ochrona praw obywateli przed potencjalnymi ryzykami.

Główne obszary AI Act

Parlament stawa za cel, by rozwiązania oparte o AI używane w Unii Europejskiej były bezpieczne, transparentne, możliwe do śledzenia, nie prowokowały dyskryminacji i były przyjazne dla środowiska. Systemy AI powinny być nadzorowane przez ludzi, a nie przez automatyzację, aby zapobiec szkodliwym skutkom. Parlament chce również ustanowić neutralną technologicznie, jednolitą definicję AI, która mogłaby być stosowana do przyszłych systemów AI.

Akt AI, który przeszedł głosowanie znaczną większością, jest uważany za jedno z najważniejszych dokumentów dotyczących regulacji AI na świecie. Prezydent Parlamentu Europejskiego, Roberta Metsola, określiła go jako „ustawodawstwo, które z pewnością będzie wyznaczać globalny standard na wiele lat”. Końcowa wersja prawdopodobnie będzie wyglądała nieco inaczej niż ta bieżąca, która jest dostępna.

Członkowie Parlamentu Europejskiego będą musieli ustalić szczegóły z Radą Unii Europejskiej i wykonawczym ramieniem UE, Komisją Europejską, zanim projekt przepisów stanie się prawem. Końcowe ustawodawstwo będzie kompromisem między trzema różnymi projektami z trzech instytucji, które różnią się bardzo. Prawdopodobnie zajmie około dwa lata, zanim prawa faktycznie zostaną wdrożone.

Akt o Sztucznej Inteligencji obejmuje różne aspekty wykorzystania wspomnianej technologii. Kwestie bezpieczeństwa i odpowiedzialności za sztuczną inteligencję. Wprowadza szereg kluczowych elementów, które mają wpływ na sposób, w jaki AI jest rozwijane i wykorzystywane. Nowe przepisy określają obowiązki dla dostawców i użytkowników, w zależności od poziomu ryzyka, które wynika z używania AI. Wiele rozwiązań AI stanowi małe ryzyko, każdorazowo powinny jednak zostać ocenione.

Zakazane Praktyki AI

AI Act wprowadza zakaz stosowania niektórych praktyk AI, które są uznawane za nieakceptowalne ze względu na ryzyko dla bezpieczeństwa ludzi. Dotyczy to systemów AI wykorzystujących techniki podprogowe lub celowo manipulujące ludźmi, wykorzystujące ich wrażliwości, czy służące do „punktacji społecznej” (klasyfikacji osób na podstawie ich zachowań społecznych, statusu społeczno-ekonomicznego, cech osobistych).

Przykładem takiego rozwiązania z obszaru manipulacji poznawczo-behawioralna są zabawki aktywowane głosem, które zachęcają dzieci do niebezpiecznego zachowania.

AI wysokiego ryzyka

AI Act wprowadza również koncepcję „AI o wysokim ryzyku„. Są to systemy AI, które mogą mieć negatywny wpływ na bezpieczeństwo lub podstawowe prawa obywatelskie. Wchodzą w to systemy AI wykorzystywane do wpływania na wyborców i wyniki wyborów oraz w systemach rekomendacyjnych wykorzystywanych np. przez platformy mediów społecznościowych.

Wśród rozwiązań AI o wysokim ryzyku Parlament wypracował osiem obszarów, które są szczególnie narażone przez AI:

• identyfikacja biometryczna i kategoryzacja osób
• zarządzanie i eksploatacja kluczowej infrastruktury
• edukacja i szkolenia zawodowe
• zatrudnienie, zarządzanie pracownikami i dostęp do samozatrudnienia
• dostęp do i korzystanie z niezbędnych prywatnych i publicznych usług z obszarów prawnych
• zarządzanie migracją, azylem i kontrolą granic
• pomoc w interpretacji prawa i stosowaniu prawa

Ograniczone ryzyko

Systemy AI o ograniczonym ryzyku powinny przestrzegać minimalnych wymagań dotyczących przejrzystości, które pozwolą użytkownikom na podejmowanie świadomych decyzji. Po interakcji z aplikacjami, użytkownik może następnie zdecydować, czy chce kontynuować ich używanie czy je zakończyć.

Użytkownicy będą musili zostać poinformowani, że mają do czynienia z AI. Dotyczy to systemów AI, które generują lub manipulują obrazem, dźwiękiem lub treścią wideo, na przykład deepfakes.

AI Act nakłada obowiązki na dostawców modeli językowych (np. GPT-4, GLam, Gopher, LaMDA, PaLM 2, LLamA), które to są podstawą do rozbudowy kolejnych narzędzi. Dostawcy rozwiązań muszą ocenić i złagodzić możliwe ryzyka (dla zdrowia, bezpieczeństwa, podstawowych praw, środowiska, demokracji i praworządności). Następnie zarejestrować swoje modele w bazie danych UE przed ich wprowadzeniem na rynek UE.

AI Act a ochrona tożsamości i wizerunku

Podczas głosowania nad Aktem o sztucznej inteligencji, kontrowersje wywołały systemy zdalnej identyfikacji biometrycznej, w tym identyfikacji w czasie rzeczywistym. Przepisy UE jednoznacznie zabraniają stosowania narzędzi AI mogących służyć do punktacji społecznej, rozpoznawania twarzy i emocji. Zakazane jest przetwarzania danych takich jak płeć, rasa czy pochodzenie etniczne. Decyzja ta rozpoczęła żywą debatę dotyczącą możliwości wyjątków dla tych krajów członkowskich, które chciałyby zastosować tę technologię do odnajdywania zaginionych dzieci, przestępców czy terrorystów. Niemniej jednak, obrońcy praw człowieka podkreślali, że nie jest to możliwe bez ryzyka nadużycia.

Wsparcie dla Innowacji

AI Act zawiera również przepisy mające na celu wspieranie innowacji i ochronę praw obywateli. Aby wspierać innowacje w dziedzinie AI, przepisy te zawierają zwolnienia dla działalności badawczej i komponentów AI dostarczanych na licencjach open-source. Planowane zmiany prawne otwierają nową erę ochrony praw obywateli. Nowe przepisy mają na celu promowanie odpowiedzialnego i etycznego wykorzystania sztucznej inteligencji, aby cieszyć się jej możliwościami, nie narażając przy tym naszej prywatności. Jest to ważny krok w kierunku regulowania rozwoju sztucznej inteligencji. Celem przepisów jest to, by zapewnić, że AI rozwijane i wykorzystywane w Europie będzie zgodne z prawami i wartościami Unii Europejskiej.