Czym są Deepfake i dlaczego są tak niebezpieczne?

Jak

Za pomocąMichael Bryant

Ostatnia aktualizacja1 września 2021

Kiedyś w dużej mierze ograniczone do pornografii, deepfake pojawiają się teraz wszędzie. Co bardziej niepokojące: technologia stojąca za tym jest z roku na rok coraz lepsza, co może mieć szerokie konsekwencje w nadchodzących latach.

Czy Mark Zuckerberg naprawdę się do tego przyznał? kradzież danych od miliardów ludzi? Czy Barack Obama zadzwonił do Donalda Trumpa?kompletny gówno?” Każdy z tych linków do filmów jest przykładem deepfake, niebezpiecznej formy sztucznej technologii, która umożliwia umieszczenie słów w czyichś ustach lub innej twarzy na ciele innej osoby. Istnieją również „skórki głosowe” i „klony głosowe”, które pozwalają dowcipnisiom naśladować głos.

Omawiając deepfake, warto odpowiedzieć na dwa pytania. Po pierwsze, co sprawia, że ​​są, a po drugie, dlaczego stają się coraz bardziej skuteczne. Więc spójrzmy.

Deepfakes: Więc w czym problem?

Bez wątpienia niektóre deepfake są zabawne — gdy już zaczniesz żartować. Wyobraźmy sobie na przykład, że 44. prezydent Stanów Zjednoczonych naprawdę publicznie nazwał 45. rok złym imieniem lub że oryginalna Wonder Woman, Lynda Carter, został jakoś umieszczony do nowszych filmów, w których wystąpił Gal Gadot.

Niestety, gdy deepfake stają się lepsze, mogą pojawić się problemy i spowodować poważne problemy. Na przykład przeciwnicy polityczni mogą tworzyć fałszywe filmy przedstawiające ich przeciwników na kompromitujących stanowiskach. W ten sposób mogliby zmienić wynik wyborów. W bardziej niebezpiecznym przykładzie wyobraź sobie obecnego prezydenta Stanów Zjednoczonych wypowiadającego wojnę Chinom, a chiński rząd wierzy, że to prawda.

Problemy z deepfake'ami nie muszą dotyczyć celebrytów ani urzędników państwowych. Na przykład za pomocą „skórek głosowych” oszust może przekonać rodzica, że ​​jego dziecko ma kłopoty, lub fałszywy agent IRS może oszukać niczego niepodejrzewającego obywatela, aby przekazał informacje bankowe.

Innymi przykładami deepfake są między innymi oszustwa phishingowe, naruszenia danych, oczernianie reputacji, socjotechnika, zautomatyzowane ataki dezinformacyjne i oszustwa finansowe.

Dlaczego są skuteczne?

Technologia głębokiego uczenia poprawiła jakość deepfake w ostatnich latach. A jednak istnieją inne powody, dla których granica jest coraz bardziej zacierana. Według Głębokie fałszywe teraz, błąd potwierdzenia i fałszywe przekonanie również mieszają się z naszymi mózgami.

Błąd potwierdzenia

W przypadku błędu potwierdzenia osoby szukają, interpretują i faworyzują informacje w sposób, który wspiera czyjeś przekonania lub wartości.

Jak wyjaśnia Amerykańskie Stowarzyszenie Psychologii (APA), „Skutek potwierdzenia to tendencja do szukania informacji, które wspierają, a nie odrzuca swoje uprzedzenia, zazwyczaj interpretując dowody w celu potwierdzenia istniejących przekonań, jednocześnie odrzucając lub ignorując wszelkie sprzeczne dane."

Fałszywa wiara

W psychologii teoria umysłu odnosi się do umysłowej zdolności do rozumienia innych ludzi i ich zachowania. Fałszywe przekonanie jest uważane za ważny kamień milowy w teorii. To zrozumienie, że inni ludzie mogą wierzyć w rzeczy, które nie są prawdziwe.

Wracając do Deep Fake Now: „Mając wystarczająco dużo czasu, ktoś, gdzieś nieuchronnie użyje„ alternatywnych faktów ”, aby wesprzeć swój program. I prawdopodobnie użyją technologii deepfake, aby „udowodnić” swoje oświadczenia. To ich sposób na szerzenie wątpliwości i propagandy w społeczeństwach”.

Obie koncepcje pokazują, w jaki sposób deepfake są wykorzystywane jako narzędzie do zmiany opinii.

Deepfakes: czy to prawdziwe czy fałszywe?

Chociaż technologia kryjąca się za deepfake'ami jest coraz lepsza, istnieją sposoby na stwierdzenie, kiedy dany film jest fałszywy. W rzeczywistości Norton wyjaśnia, że ​​są przynajmniej 15 niezawodnych sposobów w celu ustalenia fałszerstwa. Wśród nich są:

• Nienaturalny ruch gałek ocznych. Ruchy oczu, które nie wyglądają naturalnie – lub brak ruchu oczu, taki jak brak mrugania – to czerwone flagi. Trudno jest odtworzyć akt mrugania w sposób, który wygląda naturalnie. Trudno jest również odtworzyć momenty z oczu prawdziwej osoby. To sprawia, że ​​czyjeś oczy zwykle podążają za osobą, z którą rozmawiają.
• Brak emocji. Możesz także zauważyć morfing twarzy lub szwy wizerunkowe, jeśli czyjaś twarz nie wydaje się wyrażać emocji, które powinny pasować do tego, co rzekomo mówi.
• Nienaturalna kolorystyka. Nieprawidłowy odcień skóry, przebarwienia, dziwne oświetlenie i źle rozmieszczone cienie to oznaki, że to, co widzisz, jest prawdopodobnie fałszywe.
• Cyfrowe odciski palców. Technologia Blockchain może również tworzyć cyfrowy odcisk palca dla filmów. Chociaż nie jest niezawodna, ta weryfikacja oparta na blockchain może pomóc w ustaleniu autentyczności filmu. Oto jak to działa. Po utworzeniu filmu zawartość jest rejestrowana w księdze, której nie można zmienić. Ta technologia może pomóc w udowodnieniu autentyczności filmu.
• Odwrotne wyszukiwania obrazów. Wyszukiwanie oryginalnego obrazu lub odwrotne wyszukiwanie obrazu za pomocą komputera może znaleźć podobne filmy w Internecie, aby pomóc w ustaleniu, czy obraz, dźwięk lub wideo zostały w jakikolwiek sposób zmienione. Chociaż technologia odwrotnego wyszukiwania wideo nie jest jeszcze publicznie dostępna, zainwestowanie w takie narzędzie może być pomocne.

Przykłady

Istnieje wiele przykładów deepfake’ów online. Do moich osobistych faworytów należą:

Jak widać, deepfake mogą być naprawdę zabawne, przezabawne. Niestety, mogą być również niebezpieczne, gdy technologia jest wykorzystywana nielegalnie. Ciekawe będzie, dokąd zmierza ta koncepcja w nadchodzących latach.

Jak

Jak wyczyścić pamięć podręczną Google Chrome, pliki cookie i historię przeglądania?

Chrome doskonale radzi sobie z przechowywaniem historii przeglądania, pamięci podręcznej i plików cookie, aby zoptymalizować wydajność przeglądarki online. Jej jak...

Jak

Twój przewodnik po udostępnianiu dokumentów w Dokumentach, Arkuszach i Prezentacjach Google

Możesz łatwo współpracować z aplikacjami internetowymi Google. Oto Twój przewodnik dotyczący udostępniania w Dokumentach, Arkuszach i Prezentacjach Google z uprawnieniami...