Czy deepfake wywoła wojnę? Co potrafi ta technologia

Deepfake- sztuczna inteligencja, która może podrobić na video lub w audio dowolną osobę. Może być wykorzystana niewinnie, jako zabawa, a może wyrządzić wiele szkód, jeśli skutecznie użyta w niepowołanych rękach. Czy już teraz lub za moment musimy przestać wierzyć wszystkiemu, co widzimy, czy słyszmy? Gościem dzisiejszego Wywiadu Gospodarczego był Michał Jaworski, członek zarządu Microsoft Polska

Dziś może to służyć do czegoś, co by nas zmyliło, oszukało lub w jakiś sposób wskazało na rzeczy, które nie miały miejsca. W tej chwili jest to robione, żeby pokazać, że można np. zastąpić jednego aktora drugim. Nicholas Cage jest tu bardzo częstym przykładem. Były już przykłady, w których zamieniano Arnolda Schwarzeneggera na innego aktora, a wyglądało to dość naturalnie.

Dziś służy to generalnie rozrywce, bo to nie jest coś, co mogłoby w jakikolwiek sposób nas zmylić. Natomiast, jeśli dostępne jest bardzo dużo informacji na temat bardzo konkretnej osoby, dużo filmów, dużo zdjęć, dużo materiału, który może być zanalizowany przez narzędzia sztucznej inteligencji, to wówczas można tworzyć pewne zupełnie nowe sytuacje, obrazy, filmy, które nie miały miejsca. – Mówi Michał Jaworski, członek zarządu polskiego Microsoft. - Po to żeby sztuczna inteligencja dawała sobie radę z takimi rzeczami, musi się „najeść” ogromnej ilości danych. Dlatego ludzie, którzy są postaciami publicznymi, jak Donald Trump, który jest przed kamerami 24 godziny na dobę, każdego dnia powstają terabajty danych, na których jest jego głos, ale ani pana, ani moich obrazów i danych dostępnych nie jest na tyle dużo, by stworzyć coś, co by spowodowało, że ktoś by uwierzył, ze to pan, albo ja – dodaje.

Sztuczna Inteligencja jest w stanie stworzyć dowolną kreację w oparciu o wystarczającą liczbę próbek głosu lub wizerunku danej osoby. Wiele aplikacji na nasze smartfony może mieć dostęp i Można wyobrazić sobie sytuację, że aplikacja w naszym telefonie wysyła próbki naszego głosu komuś, kto może chcieć na tym skorzystać, wykorzystując je np. w tej technologii.

Jak? Fałszywy Donald Trump może zadzwonić do Putina i rozpętać wojnę lub odwrotnie. Symulacja jego głosu może też wydać polecenie własnym wojskowym. Scenariuszy jest multum. Korzyści, które w ten sposób można osiągnąć również. A technologie? Senator Chuck Schumer, że należący do Chińczyków TikTok może zostać wykorzystany przez chiński wywiad. TikTok należy do ByteDance, najszybciej rozwijającego się chińskiego startupu. Sekretarz Armii USA, Ryan McCarthy przyznał, że lider Demokratów zlecił mu sprawdzenie możliwego ryzyka, jakie niosłoby ze sobą użycie TikToka przez wojsko. Pewien student odkrył potem, że aplikacja ta wysyła jego dane i nagrania głosowe do Chin. Teoretycznie jest to już możliwe.

Inne aplikacje? Chuck Schumer zwrócił uwagę również na FaceApp - bardzo popularną rosyjską aplikację wykorzystującą fotografie twarzy użytkownika do edytowania jego selfie w taki sposób, by się postarzyć, odmłodzić, zmienić płeć czy dodać makijaż. W związku z niepokojem o bezpieczeństwo narodowe i prywatność danych wezwał on FBI oraz Federalną Komisję Handlu do wszczęcia śledztwa wobec tej aplikacji oraz użytkowania przez nią danych.