Deepfaki mogą prowadzić do poważnych szkód społecznych

Deepfaki mogą prowadzić do poważnych szkód na poziomie społecznym; zmanipulowane mogą zostać treści tekstowe, graficzne, audio i video, np. dowód w sprawie lub oświadczenie, które ma w pożądany sposób wpłynąć na proces polityczny - wskazano w analizie Think Tanku Parlamentu Europejskiego.

Think Tank Parlamentu Europejskiego opublikował na swojej stronie internetowej raport poświęcony technologii deepfake, czyli generowanym przy użyciu technik sztucznej inteligencji grafikom, tekstom, nagraniom audio i wideo, które są łudząco realistyczne. Treści te powstają często bez wiedzy osób, które ukazują, sugerując, że powiedziały lub zrobiły one coś, co w rzeczywistości nie miało miejsca.

Jak podkreślili autorzy raportu, technologia ta może być wykorzystywana do celów zarówno pozytywnych, jak i negatywnych. Wśród tych pierwszych wskazano m.in. usprawnienie produkcji, nieskrępowaną ekspresję artystyczną, satyrę, poprawę interakcji człowiek-maszyna oraz zastosowania badawcze.

Deepfaki mogą mieć również złośliwy, oszukańczy, a nawet destrukcyjny charakter na poziomie indywidualnym, organizacyjnym i społecznym. Potencjalne zagrożenia można podzielić na trzy kategorie: psychologiczne, finansowe i społeczne. Po pierwsze, z uwagi na to, że deepfaki są kierowane do indywidualnych osób, wywołują w grupie odbiorców bezpośrednie konsekwencje psychologiczne. Po drugie, nie ulega wątpliwości, że deepfaki mogą być tworzone i rozpowszechniane z zamiarem wywołania szkód finansowych. Po trzecie zaś, istnieją poważne obawy co do nadrzędnych, społecznych konsekwencji zastosowania tej technologii.

Wpływ pojedynczego deepfaka nie ogranicza się do jednej kategorii ryzyka, ale ma charakter kaskadowy i obejmuje wiele poziomów.

Deepfaki obierają jako cel indywidualne osoby, więc ich oddziaływanie zaczyna się na poziomie jednostki. Mogą też zaszkodzić określonej grupie lub organizacji. Poza tym skumulowany efekt deepfaka może prowadzić do poważnych szkód na poziomie społecznym. Zmanipulowany może zostać np. dowód w sprawie lub oświadczenie, które ma w pożądany sposób wpłynąć na proces polityczny.

W analizie wskazano, że przepisy prawne regulujące kwestię deepfaków obejmują złożoną sieć norm konstytucyjnych, a także twarde i miękkie regulacje zarówno na poziomie UE, jak i państw członkowskich. Wśród najważniejszych regulacji na poziomie europejskim wymieniono ogólne rozporządzenie o ochronie danych, ramy UE dotyczące sztucznej inteligencji, prawo autorskie, dyrektywę o handlu elektronicznym, ustawę o usługach cyfrowych, dyrektywę o audiowizualnych usługach medialnych, kodeks postępowania w zakresie zwalczania dezinformacji oraz Europejski plan działania na rzecz demokracji.

Eksperci zwrócili uwagę, że konkretne wzmianki o deepfakach można znaleźć w różnych stanowiskach Parlamentu Europejskiego. Najbardziej wszechstronnym i najnowszym dokumentem dotyczącym dyskusji na temat deepfake’ów jest rezolucja z 19 maja 2021 r. w sprawie sztucznej inteligencji w sektorze edukacji i kultury oraz w sektorze audiowizualnym.

PE wezwał Komisję Europejską do wprowadzenia odpowiednich ram prawnych regulujących tworzenie, produkcję lub dystrybucję deepfaków dla negatywnych celów, zwiększenie przejrzystości treści wyświetlanych użytkownikom platform internetowych, by zapewnić im większą swobodę podejmowania decyzji, czy i jakie informacje chcą otrzymywać.

PAP/RO

CZYTAJ TEŻ: Wirtualnemedia: Facebook chce powołać komisję ds. wyborów