Reklama
Polityka_blog_top_bill_desktop
Polityka_blog_top_bill_mobile_Adslot1
Polityka_blog_top_bill_mobile_Adslot2
Kultura 2.0 - Cyfrowy wymiar przyszłości Kultura 2.0 - Cyfrowy wymiar przyszłości Kultura 2.0 - Cyfrowy wymiar przyszłości

2.07.2019
wtorek

Deepfake 2: Zwolniona Nancy Pelosi

2 lipca 2019, wtorek,

Nadeszło lato i mamy wysyp deepfakes. A przynajmniej trzy nowe przykłady, które poruszyły Amerykę: deepfake Nancy Pelosi (spiker Izby Reprezentantów USA), deepfake Prezydenta Trumpa i deepfake Marka Zuckerberga. Czy nadeszły więc już czasy deepfake (co zapowiadałem w styczniu?). Moim zdaniem tak (choć u nas w Polsce jeszcze nie). Istotne nie są jednak kolejne przykłady, tylko wypracowanie zrębów polityki walki z deepfake. Przez Kongres USA, który debatuje nad odpowiednim rozwiązaniem. Oraz przez Facebooka, który podjął decyzję od razu.

Deepfake do niedawna pozosostawały w „fazie In Rainbows”. Pamiętacie płytę „In Rainbows” Radiohead, tę którą można było kupić za dowolną cenę (także za zero złotych)? Był to zwiastun nowego modelu biznesowego, który nigdy się nie przyjął. Był to trend, który nigdy nie wyszedł poza pierwszy, pionierski przykład. Trend, o którym mówiło się – do czasu, gdy wszyscy zrozumieli, że to nie był żaden trend. W przypadku deepfake tym przykładem potwierdzającym trend był deepfake’owy Barack Obama.

Historia trzech fałszywek

Mark Zuckerberg – prawdziwy czy fake’owy?

Teraz sytuacja się zmieniła – szereg nowych deepfake’ów skłonił polityków do działania. Choć z deepfake’ami jest trochę jak z robotami – marzymy o Sophie the Real Robot, a po domu jeździ Roomba. Deepfake Nancy Pelosi nie był żadnym majsterszykiem wygenerowanym przez GANy tylko nagraniem z konferencji, puszczonym w zwolnionym tempie. Tyle wystarczyło, by Pelosi sprawiała wrażenie pijanej lub chorej.

Już w styczniu podobna sytuacja miała miejsce z wideo Prezydenta Trumpa – wówczas jednak miała charakter lokalny. W stacji telewizyjnej w Seattle montażysta zmienił paletę kolorów tak, by Trump miał pomarańczową skórę i zmontował nagranie jego wystąpienia tak, by Trump lubieżnie się oblizywał. I znów, fake, ale raczej nie deep.

Tylko remiks Zuckerberga (który w zmanipulowanym klipie mówi o kradzieży danych o miliardach osób) zasługuje naprawdę na miano deepfake. Tylko czy deepfake może być coś, co zostało stworzone jako sztuka? Film został wyprodukowany przez dwójkę artystów współpracujących ze startupem AI.

Deepfake – świat reaguje

Tak jak pisałem na początku, pojawiające się reakcje na deepfake i próby ich regulacji są dużo ważniejszym symbolem zmiany niż kilka dodatkowych deepfake krążących po internecie.

Mamy więc z jednej strony nowe propozycje amerykańskich kongresmenów, którzy dwa tygodnie temu zorganizowali specjalną sesję House Intelligence Committee poświęconą zagrożeniu deepfake. Powodem obaw jest możliwy wpływ manipulowanych filmów na wybory w 2020 roku. Wśród propozycji rozwiązań prawnych znajduje się obowiązek znakowania deepfake jako nieprawdziwych, czy nawet karanie za produkcję deepfake. Dyskusja o deepfake popchnie również naprzód planowane z miany w zasadach odpowiedzialności platform internetowych (czyli przepisów, które w Europie wiążą się pomysłem filtrowania treści i dyskusją o #ACTA2).

Jednak podczas gdy politycy uruchamiają powolne tryby procesu legislacyjnego, platformy reagują od razu. Nie mają przy tym jednolitej strategii. Youtube skasował nagrania. Tymczasem Facebook postanowił nie zdejmować wideo (zarówno Pelosi, jak i Zuckerberga), a jedynie oznaczyć je jako nieprawdziwe i algorytmicznie zmniejszyć widoczność klipów. Wytłumaczenie tej strategii oparte jest na amerykańskim przywiązaniu do wolności słowa. Rzecznik Facebooka argumentował tak:

„But just because something is allowed to be on Facebook doesn’t mean it should get distribution. In other words, we allow people to post it as a form of expression, but we’re not going to show it at the top of News Feed.”

Zdaniem krytyków, platformy w ten sposób starają się chronić mechanizmy angazujące użytkowników – wideo mogą nadal nabijać liczbę odtworzeń. Dlatego też Brooke Binkowski z fact-checkingowego serwisu Truth or Fiction twierdzi, że prawdziwym sposobem rozwiązania problemu deepfake jest zmiana polityk platform i osłabienie mechanizmów, które dziś premiują treści przyciągające uwagę użytkowników.

Jedno jest jasne – platformy dzisiaj reagują dużo szybciej od państwowych regulatorów.

Technologia tymczasem pędzi naprzód

Tymczasem to technologia pozostaje podstawowym źródłem zmiany. Naukowcy wypuszczają do mediów doniesienia o kolejnych narzędziach deepfake’owych. Najnowsze rozwiązanie pozwala wpisać tekst, na podstawie którego na żywo jest generowane wideo osoby je mówiącej. Rozwiązanie jest na razie eksperymentalne i robocze, ale jego twórcy Adobe deklarują, że pracuje nad programem Voco, który pozwoli zmieniać wideo równie łatwo, jak dziś zmieniamy obrazy w Photoshopie.

Spytani o zagrożenia mówią, że te oczywiście istnieją. Równocześnie coraz większa grupa naukowców zaczyna pracować nad rozpoznawaniem deepfake’ów. Nie pociesza następujący cytat:

„We are outgunned … The number of people working on the video-synthesis side, as opposed to the detector side, is 100 to 1.”

Technologia deepfake będzie się więc rozwijać (o ile jej tworzenie nie zostanie zdelegalizowane – co się raczej nie wydarzy). Deepfake pozostaje dla mnie jednym z kanarków, z pomocą których można patrzeć na rozwój AI w społeczeństwie i związane z tym zagrożenia. Będzie więc wpis „Deepfake 3” – na razie czekam niecierpliwie na pierwszy polski deepfake.

Reklama
Polityka_blog_bottom_rec_mobile
Reklama
Polityka_blog_bottom_rec_desktop