Bruksela chce wziąć w karby sztuczną inteligencję

Niedozwolone będzie stosowanie systemów AI opartych na technikach podprogowych, manipulacyjnych czy wykorzystujących cechy wrażliwe – postanowił Parlament Europejski.

Parlament Europejski przyjął rozporządzenie w sprawie sztucznej inteligencji. To pierwsza na świecie kompleksowa regulacja w tej dziedzinie. Nowe regulacje chwalą eksperci.

Szybkie rozprzestrzenianie się sztucznej inteligencji, zwłaszcza generatywnej sztucznej inteligencji, przyniosło ogromne możliwości, ale również znaczne ryzyko – podkreśla Peter Sandkuijl, wiceprezes ds. inżynierii na region EMEA w firmie Check Point Software.

Tymczasem ustawa wytycza dostawcom i programistom jasne granice.

Co będzie zabronione

Niedozwolone ma być wykorzystywanie systemów AI, które zagrażają prawom obywateli: między innymi do kategoryzacji biometrycznej, które wykorzystują cechy wrażliwe, i nieukierunkowane pobieranie wizerunków twarzy z internetu lub nagrań z telewizji przemysłowej, by stworzyć bazy danych służące rozpoznawaniu twarzy.

Zakazane będą też rozpoznawanie przy pomocy AI emocji w miejscu pracy i instytucjach edukacyjnych, prognozowanie przestępczości (wyłącznie na podstawie profilowania osoby lub oceny jej cech).

Nie będzie też dozwolona sztuczna inteligencja, która manipuluje zachowaniem ludzi lub wykorzystuje ich słabości.

Tylko za zgodą sądu

Organom ścigania z reguły nie wolno korzystać z systemów identyfikacji biometrycznej. Są jednak wyjątki, wąsko zdefiniowane na zamkniętej liście.

Jak nie bać się sztucznej inteligencji?

Organy te mogą wykorzystywać systemy identyfikacji biometrycznej w czasie rzeczywistym tylko wtedy, gdy spełniły ściśle określone warunki. Na przykład mogą je stosować w określonym czasie i w określonym położeniu geograficznym.

Muszą też posiadać specjalne zezwolenie sądowe lub administracyjne. Mogą je wykorzystywać, by odnaleźć zaginioną osobę lub zapobiegać atakowi terrorystycznemu.

Istnieją też tzw. systemy zdalnej identyfikacji biometrycznej post factum. Ich stosowanie wiąże się z wysokim ryzykiem i wymaga zezwolenia sądowego, ponieważ systemy takie wykorzystuje się do wyszukiwania w związku z przestępstwem.

Rejestr zdarzeń

Szczególne obowiązki określono również dla innych systemów sztucznej inteligencji wysokiego ryzyka, ponieważ stanowią one potencjalne zagrożenie dla zdrowia, bezpieczeństwa, praw podstawowych, środowiska, demokracji czy praworządności.

Obszary, w których wykorzystuje się takie systemy, to na przykład: infrastruktura krytyczna, edukacja i szkolenie zawodowe, zatrudnienie, podstawowe usługi prywatne i publiczne (np. opieka zdrowotna, bankowość). Opierają się też na nich niektóre systemy organów ścigania.

Takie systemy muszą oceniać i ograniczać ryzyko oraz prowadzić rejestry zdarzeń. Muszą też być przejrzyste i dokładne oraz podlegać kontroli człowieka.

Można skarżyć

Dzięki rozporządzeniu obywatele będą mieć prawo składania skarg dotyczących systemów. Będą także otrzymywać wyjaśnienia decyzji podejmowanych przez systemy sztucznej inteligencji wysokiego ryzyka, które mają wpływ na ich prawa.

Najbardziej zaawansowane modele AI ogólnego przeznaczenia, które mogą stwarzać ryzyko systemowe, będą musiały spełniać dodatkowe wymagania. Operatorzy sztucznej inteligencji będą musieli między innymi przeprowadzać oceny modeli, oceniać i ograniczać ryzyko systemowe i zgłaszać incydenty.

Deepfakes z oznaczeniem

Ponadto należy wyraźnie oznaczać nieautentyczne lub zmanipulowane obrazy, treści audio lub wideo, tzw. deepfakes.

Rozporządzenie musi też formalnie przyjąć Rada. Wejdzie w życie dwadzieścia dni po publikacji w Dzienniku Urzędowym, a w pełni obowiązywać zacznie 24 miesiące później.

Ze Strasburga Łukasz Osiński (PAP)/bz

»» O bieżących wydarzeniach w gospodarce i finansach czytaj tutaj:

Już jest jasne! Rząd Tuska podwyższa VAT na żywność

Czy Orlen radykalnie zmieni źródła dostaw ropy?

Wyłączenia prądu dla odbiorców są już nieuchronne

Domański: będzie kwota wolna od podatku Belki