Nastały czasy, gdy dzieciak z dobrym komputerem sfinguje orędzie prezydenta

Nastały czasy, gdy dzieciak z dobrym komputerem sfinguje orędzie prezydenta
Era deep fake

Prawdopodobnie w najbliższych miesiącach nastąpi wysyp filmów, na których kandydaci do fotela amerykańskiego prezydenta nas obrażają, zaliczają głupie wpadki i ordynarnie kłamią. Wszystkie będą fałszywe. I wszystkie będą niemal nieodróżnialne od autentycznych wypowiedzi.

Kilka miesięcy temu Youtube obiegł film, na którym Barack Obama nazywa obecnego Prezydenta USA „wielkim dupkiem”. Wygłasza kilka innych równie mocnych tez, by pożegnać się z widzami, mówiąc: „Bądźcie czujne, dziwki!”. Obama mówi swoim głosem, całkiem normalnie i robi miny… Cóż, jeżeli ktoś się przyjrzy, to faktycznie dostrzeże nieco nienaturalną mimikę. Lecz dla kogoś, kto tego nie zrobi, naprawdę trudno będzie uwierzyć, że to wideo jest od początku do końca spreparowane.

Kłamstwa w wersji turbo

W  klasycznych fake newsach mamy do czynienia z ordynarnymi kłamstwami, względnie łatwymi do sprostowania. Ale technologia stojąca za deep fake pozwala stworzyć absolutnie wiarygodny materiał wideo. Obecne programy komputerowe są w stanie wygenerować, na podstawie prawdziwych fragmentów nagrań i zdjęć dowolnej osoby, jej całkowicie realistyczny model, taki, który będzie mówił jak oryginał i jak oryginał się zachowywał.
Co więcej, technologia ta jest w zasięgu nie tylko wyposażonych w potężne komputery ośrodków wojskowych. Już za 10-15 tysięcy złotych można kupić gamingowy komputer, za pomocą którego posiadająca trochę wprawy osoba w kilka godzin stworzy fałszywkę. Trochę tańsze maszyny też sobie poradzą, ale wtedy czas konwersji zajmie kilka dni.

Nie trzeba kelnerów by nagrać polityków

Gwałtowny rozwój technologii pozwalającej produkować deep fake póki co służy głównie do mniej lub bardziej zabawnych żartów. Tworzenia filmów pornograficznych, gdzie twarze autentycznych aktorów podmieniane są na oblicza celebrytów. Łatwo sobie można jednak wyobrazić jak radykalne konsekwencje będzie miało upowszechnienie tej technologii, z miesiąca na miesiąc coraz bardziej doskonałej. Żadni kelnerzy nie będą już potrzebni do stworzenia „autentycznego nagrania” polityków czy biznesmenów. Co najwyżej doniosą, że ten a ten był o tej godzinie w danym miejscu. Tak, by ofiara miała jeszcze większy problem ze sprostowaniem bzdur. Resztę roboty wykona komputer.

 

Koniec prawdziwych sensacji?

Równie niebezpieczne jak tworzenie wiarygodnych kłamstw jest deprecjacja znaczenia autentycznych śledztw dziennikarskich. Gdy technologia deep fake upowszechni się, podstawową linią obrony przed niewygodnymi nagraniami będzie określanie ich jako fałszywych. Co gorsza, może być to obrona skuteczna, bo jeżeli będziemy codziennie słyszeć nagranie z premierem biorącym łapówkę, po jakimś czasie wszyscy uodpornią się na takie sensacje. Może się okazać, że tak jak dziś na nikim nie robią wrażenia kolejne „prawdziwe” zdjęcia UFO, tak za 10 lat wszyscy wzruszą ramionami na wieść o wojnie światowej. Albo o czymkolwiek innym, bo w świecie, gdzie wszystko wydaje się wiarygodne, tak naprawdę nie jest wiarygodne nic.

Rafał Urbanowicz