Jeden z klipów wideo, który zapadł mi w pamięć w 2018 r., pokazuje Baracka Obamę mówiącego bzdury. Jest najbardziej popularnym przykładem deep fake – generowanych z pomocą sztucznej inteligencji treści, które (jeśli mamy do dyspozycji odpowiedni materiał źródłowy) mogą pokazać dowolną osobę mówiącą dowolne rzeczy.
„Deep” w nazwie wzięło się od deep learning, klasy metod uczenia się maszynowego, napędzającego rozwiązania sztucznej inteligencji. Bo za deep fakes kryje się ulubiona technologia: sztuczna inteligencja. Ale nazwę można czytać także jako „naprawdę głęboki fake” – wróżący, że ludzkość jest w deep trouble.
Deepfake’owy Obama jest prawdziwszym robotem od Sophii, robotycznej celebrytki, której wizyta w Polsce tak ekscytowała media. Sophia jest rzekomo „najbardziej rozpoznawalną reprezentacją sztucznej inteligencji”. Jest też mało ciekawa, bo nikt nie ma wątpliwości, że plastikowa kukła z mózgiem na wierzchu nie jest człowiekiem.
I właśnie dlatego deep fakes są ciekawe – bo tę granicę między ludzkim i nieludzkim, prawdziwym i nieprawdziwym skutecznie zacierają. Sztucznego Obamę można jeszcze rozpoznać po nieco sztucznym ruchu ust, ale pewnie algorytm wkrótce te drobne błędy poprawi. Deepfake’owe filmiki zwiastują świat, w którym wszystko może być fake. Albo raczej symulakrą
Hasło deep fake narzuca przede wszystkim myśli o skrajnej dezinformacji, fake newsach doprowadzonych do absurdu, powodujących rozpad sfery publicznej – przez zabicie zaufania do jakichkolwiek treści. Wszystkie bowiem mogą być fake’ami.
Ale fake’owy Obama przepowiada zmiany być może mniej drastyczne, ale bardziej fundamentalne: kulturę deep fake i sferę publiczną deep fake.
Dzisiejsza kultura jest coraz bardziej oparta na falsyfikatach i imitacjach. Wydarzenia, w których uczestniczymy, klikając jedynie „idę!” na Facebooku. Artykuły i książki przeczytane poprzez odnotowanie linku w mediach społecznościowych (bez klikania). Korespondencja z innymi, oparta na tysiącach nieprzeczytanych maili. Użytkownicy i wizyty na stronie, których nigdy nie było. Boty piszące fake’owe treści, które potem inne boty udają, że czytają. To wszystko znaki rozpoznawcze kultury deep fake.
W sferze publicznej problemem tak naprawdę nie są fałszywki, takie jak Obama mówiący, że kłamie, czy fałszywy amerykański żołnierz z fabryki rosyjskich trolli. Problem polega na tym, że przestajemy wierzyć w fakty na co dzień – w tysiącu debat, które toczymy.
Sam doświadczyłem tego przez ostatnie dwa lata, uczestnicząc w debacie dookoła europejskiej reformy prawa autorskiego. Weterani tego procesu legislacyjnego mogą czuć się jak żołnierze w okopach I wojny światowej (tylko nie udało nam się jeszcze rozegrać meczu piłki nożnej z okazji Bożego Narodzenia) – taki jest poziom polaryzacji. Ta polaryzacja bierze się po części stąd, że adwersarzy nie łączą już żadne fakty. Nie da się budować polityki opartej na faktach, bo punktem wyjścia są przekonania, poglądy – i trudno wyobrazić sobie fakt, który w debacie publicznej przekonałby kogoś do ich zmiany. Brzmi to strasznie, ale taka jest debata publiczna deep fake.
*
W tym momencie należałoby tradycyjnie zapytać, jak ten problem rozwiązać, jak wrócić do świata deep truth? Zamiast odpowiedzi polecam książkę Jamesa Bridle’a „The New Dark Age”. Bridle przekonuje, że można przyzwyczaić się do życia w ciemności, a nawet dobrze w niej funkcjonować.
Polecam też sylwetkę Bruno Latoura w „New York Times Magazine”. Latour pierwszy dowodził, że fakty nie są „prawdziwe”, tylko konstruowane. W latach 90. przypięto mu za to łatkę postmodernisty. Dziś okazuje się świetnie przygotowany do obrony faktów naukowych.
26 stycznia o godz. 22:14 132194
Trzeba sobie zrobić zapasik Ubiku w spreju.