Czym są treści deepfake?

Deepfake to forma materiału multimedialnego, na przykład zdjęcie lub film, generowana przez sztuczną inteligencję (SI), na którym prawdziwi lub nieistniejący ludzie, wykonują czynności, których w rzeczywistości nigdy nie robili. Sztuczna inteligencja manipuluje obrazem, filmem lub nagraniem głosowym w celu wychwycenia cech charakterystycznych danej osoby, a następnie łączy je z istniejącym materiałem filmowym za pomocą specjalnych algorytmów. Technologia deepfake może być wykorzystywana, aby pokazać osobę, mówiącą coś, czego nigdy nie powiedziała lub robiącą coś, czego nigdy nie zrobiła, poprzez umieszczenie obrazu jej twarzy, ciała lub dźwięku głosu na innej osobie.

Czytaj dalej, aby dowiedzieć się, dlaczego treści deepfake są tak niebezpieczne i jak powstają oraz sprawdzić, czy są legalne i jak je rozpoznać w Internecie.

Zagrożenia związane z technologią deepfake

Chociaż technologia deepfake nie jest nowa, staje się coraz bardziej skuteczna w tworzeniu wiarygodnych materiałów multimedialnych ze względu na rozwój narzędzi sztucznej inteligencji. Istnieje kilka sposobów wykorzystania technologii deepfake w złośliwych celach, na przykład do podszywania się pod kogoś, szantażu lub oszustwa. Ktoś może utworzyć deepfake w celu rozpowszechniania dezinformacji lub zaszkodzenia reputacji danej osoby, jeśli zdjęcie lub film wygenerowany przez sztuczną inteligencję ukaże ją w niewłaściwej lub nielegalnej sytuacji. Konsekwencje fałszywego zdjęcia, filmu lub nagrania głosu mogą powodować duże nieporozumienia, rozpowszechniać kłamstwa i rujnować publiczny wizerunek danej osoby.

Jak powstają treści deepfake?

Być może zastanawiasz się, jak powstają takie realistyczne obrazy, filmy wideo i nagrania dźwiękowe. Generowanie treści deepfake wymaga dużej ilości danych, głównie na temat osoby, która jest celem ataku. Po zebraniu wystarczającej liczby zdjęć i filmów sztuczna inteligencja analizuje wszystko, co dotyczy danej osoby, w tym jej mimikę, ruchy ciała i cechy charakterystyczne. Jednocześnie sztuczna inteligencja będzie uczyć się danych na podstawie dodawanego obrazu lub głosu osoby. Łącząc dane osoby będącej celem ataku, sztuczna inteligencja może stworzyć pozornie naturalnie wyglądający obraz, film lub nagranie głosu. Następnie poprzez niewielkie ruchy i modyfikacje cieni, ruchów warg, mrugania itp. można sprawić, że zdjęcie lub film będą wyglądały jak najbardziej naturalnie.

Czy treści deepfake są legalne?

Pomimo ogromnych szkód, jakie treści deepfake mogą wyrządzić ofiarom tej technologii, nie jest ona całkowicie nielegalna. Jednak niektóre państwa zaczęły zakazywać treści deepfake w zależności od ich treści i zamiarów. Kilka stanów USA podejmuje działania przeciwko tej technologii, jednakże obecnie nie istnieją przepisy federalne dotyczące tworzenia i dystrybucji treści deepfake. Ustawa o odpowiedzialności za treści DEEPFAKE została po raz pierwszy przedstawiona w Kongresie w 2019 r. i jeśli zostanie przyjęta, stworzy nowy katalog przestępstw kryminalnych związanych z treściami deepfake, aby umożliwić ofiarom dochodzenia sprawiedliwości w sądzie.

Jak wykryć treści deepfake?

Treści deepfake stają się coraz bardziej realistyczne, dlatego potwierdzenie autentyczności danego materiału medialnego może być trudne. Istnieje jednak kilka oznak, które można wychwycić, aby wykryć deepfake i uniknąć oszukania lub wprowadzenia w błąd przez zafałszowane obrazy lub filmy.

Brak naturalnego mrugania

W filmie deepfake zwróć szczególną uwagę na to, czy prezentowana osoba naturalnie mruga oczami. Jeśli mruganie jest niespójne lub kontakt wzrokowy nie odpowiada kierunku twarzy, oznacza to, że twarz osoby mogła zostać nałożona na ciało innej osoby jako deepfake. Inną wskazówkę nienaturalnego mrugania w filmie deepfake można zaobserwować, patrząc na oczy osoby, ponieważ w przypadku treści deepfake zazwyczaj przy uważniejszej obserwacji w oczach można dostrzec piksele.

Niedopasowany dźwięk

Podczas słuchania filmu lub nagrania głosu można stwierdzić, czy zostało ono zmanipulowane jako deepfake, odnotowując wszelkie zniekształcenia dźwięku. Słyszalne może być dziwne echo lub szum tła niepasujący do zamierzonego tła filmu. Na przykład, jeśli wypowiada się jakiś celebryta, dźwięk zawiera hałas ulicy wielkiego miasta w tle, ale w filmie widać tę osobę na pustym polu kukurydzy, najprawdopodobniej film jest treścią deepfake.

Dziwne pozycje twarzy i mimika

Oczywistą oznaką deepfake’ów jest to, jak porusza się twarz w filmie. Ludzie mają naturalne ruchy ciała i mimikę, ale sztuczna inteligencja ma problem z wygenerowaniem dokładnego obrazu osoby biegnącej lub śmiejącej się, nawet jeśli ma wiele materiałów referencyjnych. Jeśli zobaczysz film przedstawiający osobę, która kogoś ściga, a ruchy jej ciała nie wyglądają, tak jak powinny, może to być deepfake. Przyjrzyj się również cieniom osoby na zdjęciu lub filmie deepfake, ponieważ sztuczna inteligencja często nie uwzględnia naturalnego oświetlenia.

Nienaturalne tekstury

Treści deepfake zazwyczaj używają oprogramowania poprawiającego zdjęcia lub filmy, aby wygładzić skórę prezentowanej osoby tak bardzo, że prawie nie widać zmarszczek, porów lub przebarwień. Zaobserwowano, że wiele technologii sztucznej inteligencji wykorzystywanych do tworzenia treści deepfake nie potrafi rozróżnić poszczególnych zębów, więc jeśli dana osoba się uśmiecha i nie widać szpar międzyzębowych, może to wskazywać na deepfake. Podobnie sztuczna inteligencja ma tendencję do rozmywania poszczególnych części ciała, takich jak palce dłoni. Zbyt rozmyte lub wygładzone obrazy mogą być treściami deepfake, ponieważ sztuczna inteligencja nie zawsze rozumie kontekst, w którym ma wygenerować obiekt.

Nie daj się nabrać na treści deepfake

Odróżnienie treści deepfake od prawdziwych zdjęć, filmów i nagrań dźwiękowych może być niezwykle trudne, ponieważ sztuczna inteligencja stale poprawia zdolność do generowania dokładniejszych treści. Ważne jest jednak, aby być świadomym typowych oznak treści deepfake i nie dać się zwieść kłamstwom lub rozpowszechnianej dezinformacji.