Komisja Europejska ogłasza projekt regulacji sztucznej inteligencji

Stało się. Tak jak zapowiadaliśmy w poprzednim wpisie, 21 kwietnia Komisja Europejska przedstawiła wreszcie propozycję rozporządzenia regulującego sztuczną inteligencję. „Nasze rozporządzenie odpowiada na ludzkie i społeczne ryzyka związane z konkretnymi zastosowaniami sztucznej inteligencji – mówi Margrethe Vestager, wiceprzewodnicząca Komisji Europejskiej odpowiedzialna za politykę cyfrową – Uważamy, że sprawa jest pilna. Jako pierwsi na tej planecie proponujemy takie ramy prawne.” Działania Unii Europejskiej mogą wyznaczyć światowy trend w kwestii rozwoju standardów prawnych odnoszących się do nowych technologii i znaleźć naśladowników w innych krajach. Wskazuje się, że proponowana regulacja może być dla sztucznej inteligencji tym czym niedawno było RODO dla ochrony danych osobowych.

Proponowana regulacja skupia się na konkretnych zastosowaniach sztucznej inteligencji. Tak jak prognozowano, Komisja zaaprobowała koncepcję podziału technologii wykorzystujących sztuczną inteligencję na te wysokiego oraz niskiego ryzyka. Najbardziej radykalnym środkiem na jaki zdecydowała się Komisja w stosunku do najbardziej ryzykownych zastosowań jest ich zakaz. Kary za naruszenie przepisów rozporządzenia mają sięgać nawet 6% rocznego globalnego dochodu spółki.

Całkowicie zakazane miałoby być tworzenie tak zwanych systemów kredytu społecznego podobnych do systemu wdrażanego obecnie w Chinach, w którym osobisty wynik zależny m.in. od historii kar, historii kredytowej czy zwyczajów zakupowych może mieć wpływ na przyjęcie do pracy, szkoły czy udzielenie kredytu. Co do zasady zakazane miałoby być wykorzystanie przez policję technologii rozpoznających twarz na odległość, jednak możliwe byłyby wyjątki zatwierdzone przez sędziego w sprawach takich jak poszukiwanie zaginionych dzieci, działania podjęte w związku z groźbą ataku terrorystycznego czy lokalizacja osób podejrzanych o poważne przestępstwa takie jak oszustwo czy morderstwo.

Dostawcy systemów wysokiego ryzyka będą musieli przedstawiać organom regulacyjnym szczegółową dokumentację zasad działania ich rozwiązań, aby zapewnić zgodność z wymogami. Tego rodzaju systemy powinny też mieć zapewniony właściwy poziom ludzkiego nadzoru nad ich działaniem. Do systemów wysokiego ryzyka zaliczane są rozwiązania wykorzystywane w infrastrukturze, edukacji, zatrudnianiu pracowników, finansach, czy wymiarze sprawiedliwości. Może to być na przykład oprogramowanie służące do oceny czy katalogowania CV kandydatów ubiegających się o pracę lub do oceny zdolności kredytowej.

Wiele spośród obecnie wykorzystywanych zastosowań niskiego ryzyka nie będzie objęte nowymi regulacjami. Niektóre z nich będą jednak musiały posiadać stosowne oznaczenia wskazujące na użycie sztucznej inteligencji, na przykład w przypadku chatbotów, które nie będą mogły podszywać się pod prawdziwych ludzi czy w przypadku oprogramowania służącego do produkcji tak zwanych deep fake’ów czyli m. in. nakładania twarzy osoby na film przedstawiający inną osobę.

Zdania na temat proponowanej regulacji są podzielone. Wiele spośród proponowanych postanowień spotkało się z ciepłym przyjęciem aktywistów działających na rzecz praw cyfrowych, choć w niektórych przypadkach zwraca się też uwagę na luki lub zbyt ogólne ujęcie. Z drugiej strony przedstawiciele przemysłu wyrażają obawy, że restrykcyjna regulacja sztucznej inteligencji może istotnie ograniczyć ich pole do działania i postawić w niekorzystnej pozycji w stosunku do konkurencji ze Stanów Zjednoczonych i Chin, która nie będzie podlegać tego rodzaju ograniczeniom. Najbliższe lata pokażą czy Unii Europejskiej uda się zostać globalnym liderem wyznaczającym prawne i etyczne standardy wykorzystania sztucznej inteligencji czy też pozostanie w tyle za konkurentami z innych kontynentów.

Zanim projekt Komisji Europejskiej wejdzie w życie czeka go jednak jeszcze długa droga. Musi on zostać przyjęty zarówno przez Radę, w skład której wchodzą przedstawiciele wszystkich państw członkowskich jak i Parlament Europejski. Można się spodziewać, że proces ten nie będzie łatwy i szybki z uwagi na wagę i złożoność regulowanego zagadnienia. Legislacyjny zegar zaczyna tykać już dziś.