Deepfakes: czym one są i dlaczego mają znaczenie

• Autor:
• nazwisko autora

  Foresight Quantumrun
• 19 stycznia 2022 r.

Podsumowanie spostrzeżeń

Deepfakes, technologia umożliwiająca tworzenie hiperrealistycznych fałszywych filmów lub plików audio, pojawiła się w 2017 roku i od tego czasu wzbudziła zarówno obawy, jak i możliwości. Chociaż technologia ta była niewłaściwie wykorzystywana do tworzenia zwodniczych treści, oferuje ona również potencjalne korzyści, takie jak zwiększenie prywatności w Internecie, zmiana strategii reklamowych i pomoc w egzekwowaniu prawa. Jednak długoterminowe implikacje deepfakes są ogromne i obejmują potrzebę edukacji w zakresie umiejętności cyfrowych i rozwój nowej branży skupiającej się na wykrywaniu deepfakes, aż po względy etyczne i zwiększone zużycie energii.

Kontekst deepfake

Termin „deepfake” wszedł do świadomości publicznej w 2017 roku, gdy użytkownik Reddit udostępnił klipy pornograficzne, które wykorzystywały technologię wymiany twarzy typu open source. W tych filmach zamienili twarze celebrytów, takich jak Scarlett Johansson, Taylor Swift, Gal Gadot i innych z wykonawcami pornograficznymi. To był dopiero początek.

Technologia Deepfake pozwala ludziom tworzyć wideo lub audio wydarzeń, które nigdy nie miały miejsca. Na przykład gwiazdy i politycy w filmach robią i mówią rzeczy, których tak naprawdę nigdy nie zrobili ani nie powiedzieli. Obawy dotyczące fałszywych efektów wizualnych i dźwiękowych generowanych przez technologie deepfake doprowadziły do ​​rozpowszechnienia środków zaradczych. Aby wyeliminować negatywne skutki deepfakes, konieczne jest wprowadzenie nowych przepisów. W 2020 r. platformy mediów społecznościowych, w tym Twitter i Facebook, zakazały stosowania deepfakes w swoich sieciach. 

Utworzenie wysokiej jakości klipu typu deepfake wymaga kilku kroków. Najpierw przeprowadź przez enkoder tysiące zdjęć twarzy dwóch osób. Koder podkreśla podobieństwa między dwiema ścianami i obniża je do wspólnych cech, kompresując obrazy. Następnie twarze są odzyskiwane ze skompresowanych zdjęć za pomocą dekodera. Ponieważ twarze są różne, jeden dekoder jest szkolony do odzyskiwania twarzy pierwszej osoby, a inny do odzyskiwania twarzy drugiej osoby. Następnie twórca musi przesłać zakodowane zdjęcia do „niewłaściwego” dekodera, aby zastosować zamianę twarzy. 

Zakłócający wpływ

Deepfakes, choć stwarzają poważne zagrożenia, stwarzają również wyjątkowe możliwości. W przypadku osób fizycznych możliwość tworzenia realistycznych postaci cyfrowych może zmienić interakcje online. Na przykład osoba może użyć deepfake'a, aby zachować prywatność podczas rozmów wideo, prezentując cyfrowy awatar zamiast swojej prawdziwej twarzy. Ta funkcja może być szczególnie przydatna w sytuacjach, gdy bezpieczeństwo osobiste lub anonimowość są najważniejsze.

Dla korporacji deepfakes mogą na nowo zdefiniować strategie reklamowe i angażujące klientów. Firmy mogłyby stworzyć wirtualnych rzeczników, dostosowanych do potrzeb różnych docelowych odbiorców. Strategia ta może prowadzić do bardziej spersonalizowanych i skutecznych kampanii marketingowych. Rodzi to jednak również wątpliwości etyczne, ponieważ konsumenci mogą zostać zwiedzeni hiperrealistycznymi, acz sztucznymi przedstawieniami.

Rządy mogą wykorzystywać technologię deepfake do celów bezpieczeństwa publicznego. Na przykład organy ścigania mogą wykorzystywać deepfake w operacjach „żądła”, tworząc realistyczne scenariusze bez narażania funkcjonariuszy na ryzyko. Jednakże ryzyko niewłaściwego wykorzystania jest duże i dla rządów ważne jest ustanowienie rygorystycznych przepisów zapobiegających nadużywaniu tej technologii. Na dłuższą metę wpływ deepfakes będzie w dużej mierze zależał od tego, jak odpowiedzialnie będziemy korzystać z tego potężnego narzędzia i jak będziemy regulować jego regulacje.

Konsekwencje deepfakes

Szersze implikacje technologii deepfake mogą obejmować: 

• Jego zastosowanie w organach ścigania do rekonstrukcji miejsc zbrodni z wzajemnymi powiązaniami artefaktów czasowych i przestrzennych. 
• Jego wykorzystanie przez firmy zajmujące się sprzedażą detaliczną mody do tworzenia wirtualnych pokoi próbnych, w których klienci mogą wypróbować ulubione produkty bez ich faktycznego wypróbowywania.
• Dostarczanie jednostkom nowych narzędzi do integracji i wyrażania siebie w świecie online. Na przykład, osoby mogą tworzyć własne awatary do wyrażania siebie w Internecie.
• Zaawansowane i wszechobecne wykorzystywanie deepfake w mediach przez wielu złych aktorów. W tym najgorszym przypadku deepfake mogą osłabić zdolność społeczeństwa do wiary w to, co widzą i słyszą, czyniąc szersze połacie społeczeństwa bardziej podatnymi na propagandę i różne formy manipulacji.
• Wzrost zapotrzebowania na edukację w zakresie umiejętności cyfrowych, skutkujący bardziej świadomym i wymagającym społeczeństwem, które potrafi lepiej odróżnić treści prawdziwe od zmanipulowanych.
• Nowa branża skupiająca się na wykrywaniu i zapobieganiu deepfake’om, tworzeniu możliwości zatrudnienia i wzroście gospodarczym.
• Postępy w sztucznej inteligencji i uczeniu maszynowym przesuwają granice tego, co jest technologicznie możliwe.
• Wzrost zużycia energii, ponieważ tworzenie i wykrywanie deepfakes wymaga znacznych zasobów obliczeniowych.

Pytania do rozważenia

• Jaki jest potencjalny wpływ deepfake na społeczeństwo?
• Czy uważasz, że przepisy wprowadzone przez rządy pomogą wyeliminować negatywne zastosowania deepfake'ów? 
• Do jakich innowacji można zastosować technologię deepfake w przyszłości?