Deep fake – co to jest?

Deep fake – co to jest? Kto i jak jest w stanie go stworzyć? Dlaczego może stanowić dla nas ogromne zagrożenie w życiu prywatnym i publicznym?

Deep fake – co to jest?

Deep fake to rodzaj oszustwa, w którym wykorzystuje się nagrania twarzy ofiary w celu nałożenia jej na inne tło i podłożenia innego dźwięku. Wszystko odbywa się dzięki sztucznej inteligencji, która jest w stanie dopasować ruchy ust oraz mimikę do potrzeb filmu i wypowiadanych słów. Stąd właśnie element nazwy deep, czyli „głęboki”. Najnowsze technologie wykorzystują głębokie uczenie (deep learning), dzięki któremu możliwe jest bardzo przekonujące scalenie wszystkiego w jeden, spójny i płynny film. Po raz pierwszy nazwa deep fake została użyta w 2017 roku jako pseudonim twórcy „podrobionych” filmów pornograficznych.

Deep fake – co to jest? Jak go tworzy?

W maksymalnym uproszczeniu: W celu stworzenia filmów typu deep fake wykorzystuje się enkodery, dekodery oraz filmy z wizerunkami osób, których twarze mają się na siebie nakładać. Sieć neuronowa rozpoznaje i zapamiętuje cechy wspólne i różnice pomiędzy „bohaterami” poszczególnych nagrań. Później następuje rekonstrukcja twarzy jednej osoby na ciele nagranym w drugim filmie.

W tworzeniu tego typu treści pomagają narzędzia takie jak biblioteki do podmieniania twarzy. To np. DeepFaceLab lub FaceSwap w Pythonie. Ich twórcy zarzekają się, iż ich działalność jest całkowicie etyczna i służy przede wszystkim rozwojowi technologii oraz odkrywaniu nowych możliwości. W manifeście wymieniają najważniejsze zasady pracy bibliotek i korzystania z nich:

– Nie tworzy się niedozwolonych treści.

– Zmiana twarzy bez zgody właścicieli lub z zamiarem ukrycia swojej działalności jest zabroniona.

– Nie używa się biblioteki do jakichkolwiek wątpliwych etycznie celów.

– Biblioteki mają wspomagać eksperymentowanie i odkrywanie nowych technik użycia sztucznej inteligencji. Istnieją w celu komentowania polityki i społeczeństwa, na potrzeby filmu i innych etycznie poprawnych celów.

Ciekawe motto przyświeca twórcom i uczestnikom bibliotek: „Prawda zrodzi się w kłamstwie” oraz „Nie potrzebujecie detektorów do deep fake. Po prostu przestańcie kłamać”.

Zagrożenia związane z deep fake

Polityka

Możliwości sztucznej inteligencji są już na tyle zaawansowane, że jest ona w stanie stworzyć treści audiowizualne, w których ludzkie oko nie rozpozna fake’u. To może mieć poważne konsekwencje dla mediów i ich odbiorców. Każdy deep fake może wywołać niemałą burzę, szczególnie iż zwykle tego typu treści tworzone są w celu wywołania kontrowersji. Już w 2018 roku spreparowana twarz Donalda Trumpa nawoływała Belgów do zerwania układów dotyczących ochrony środowiska. Choć była to tylko prowokacja stworzona przez belgijską partię Socialistische Partij Anders i miała na celu jedynie podjęcie przez opinię publiczną tematu ekologii, wywołała spore zamieszanie. Padały wrogie komentarze, a odbiorcy zdawali się być nieświadomi sztuczności oglądanego newsa.

Kolejne przykłady napływają ostatnio coraz częściej w związku z trudną sytuacją na arenie międzynarodowej. Licznie podrabia się twarz Władimira Putina. Możliwe, że robią to też sami Rosjanie. Podejrzewa się, iż szereg wystąpień przywódcy był nagrany za pomocą technologii deep fake, gdyż odbywały się one bezpośrednio po operacji, jaką przeszedł.

Celebryci

Mnóstwo gwiazd pada ofiarą najnowszych technologii tworzenia fake newsów. Jednakże nakładanie twarzy w filmach wyniosło nieprawdziwe plotki na zupełnie nowy poziom. Na przykład, światowej sławy aktorki takie jak Gal Gadot i Scarlett Johansson znalazły się nagle wbrew swej woli w filmach dla dorosłych. Wszystko wyglądało tak realistycznie, że było już o krok od skandalu. Na podobne żarty lub próby zaszkodzenia wizerunkowi narażonych jest coraz więcej osobowości ze świata filmu, mody, muzyki czy polityki. Właściwie każda osoba publiczna może spodziewać się prób podrabiania jej wizerunku.

Zagrożenia społeczne

Technologia deep fake w nieodpowiednich rękach bywa potężnym narzędziem propagandy i dezinformacji. To dobry sposób na sterowanie opinią publiczną oraz zaostrzanie nastrojów. W obliczu napiętej sytuacji w jakimś rejonie, odpowiednio spreparowane nagranie może stać się punktem zapalnym dla zamieszek i wybuchu różnorakich konfliktów. Danielle Citron, profesor prawa na uniwersytecie Maryland, wypowiada się na temat tego, w jaki sposób deep fake może zostać użyty jako broń w obliczu jakichkolwiek sporów wewnątrz społeczeństwa:

„Pomyślałam o swoim mieście, Baltimore. W 2015 roku po morderstwie Freddiego Gray* to miejsce było jak tykająca bomba. Wyobraziłam sobie, co by się stało, gdyby w tym momencie pojawił się deep fake z kimś z dowództwa policji wypowiadającym się w rasistowskim tonie. Całe miasto by chyba eksplodowało.” (oryginalna wypowiedź na stronie https://www.theguardian.com/technology/2018/nov/12/)

*Freddie Gray został aresztowany w 2015 roku z powodu posiadania przy sobie noża. Tydzień później zmarł z powodu obrażeń otrzymanych w dniu aresztowania. Jego śmierć wywołała społeczne oburzenie i debatę na temat nieuzasadnionego użycia siły przez policję.

Deep fake – co to jest? – Wnioski

Sprawa deep fake w filmach pornograficznych spowodowała także podniesienie tematu prywatności i bezpieczeństwa kobiet. Podobnie zagrożeni wobec możliwości tej technologii są również mężczyźni, jednak wciąż ofiarami ataków padają przede wszystkim kobiety. To każe stawiać pytanie, dlaczego jest to tak popularny sposób dyskredytacji tej właśnie grupy społecznej, podczas gdy deep fake w wersji politycznej skierowany bywa głównie przeciw mężczyznom. Badanie sposobu eksploatowania niebezpiecznej technologii skłania więc dodatkowo do refleksji nad obecnym statusem społecznym płci.

Refleksja powinna także obejmować kwestię odporności użytkowników na dezinformację, pomówienia i przemoc w sieci. AI udowodniło już, że nikt z nas nie jest bezpieczny. Jeśli tylko ktoś zechce zrobić nieprzyjemny żart lub z premedytacją nam zaszkodzić, wystarczy mu nasze zdjęcie. Upublicznienie jednego obciążającego filmu może sprawić, że będziemy latami ponosić przykre konsekwencje, nawet pomimo szybkiej reakcji i sprostowania. Właśnie dlatego internetowi giganci tacy jak Google i Meta Verse pracują usilnie nad doskonaleniem narzędzi do wykrywania i szybkiego eliminowania deep fake’ów. To jednak wciąż rozwiązania niedoskonałe, mogą działać o wiele wolniej w porównaniu do szybko rozprzestrzeniających się sztucznych virali.

Znacznie skuteczniejszą metodą ochrony przed negatywnymi skutkami deep fake jest globalna edukacja. Internauci, politycy, dziennikarze, publicyści i wszystkie inne osoby, które mają styczność z newsami i przekazują je, powinni być świadomi nowych zagrożeń. Po obejrzeniu każdego materiału odbiorcy muszą najpierw poddać w wątpliwość jego autentyzm, zanim podadzą go dalej. Tylko zwiększona uważność i ostrożne podejście do wszelkich treści zamieszczanych w internecie może powstrzymać dezinformację szerzoną przez deep fake.