Narzędzie do tworzenia DeepFake’ów zaszyte w kodzie TikToka. ByteDance, nieładnie

W kodzie popularnej aplikacji mobilnej TikTok odkryto mechanizm Face Swap. Funkcja, choć jeszcze nieopublikowana, pozwala tworzyć materiały wideo zbliżone do DeepFake’ów. Tym samym w przyszłości może zostać wykorzystana przez osoby chcące zabawić się czyimś kosztem.

Temat DeepFake’ów wraca do nas jak bumerang co kilka miesięcy. Technologia pozwalająca nakładać na wszelkiej maści wideo twarze niemal dowolnych osób staje się coraz doskonalsza za sprawą np. algorytmów. Sęk w tym, że rozwiązanie nie zawsze wykorzystywane jest w celach czysto rozrywkowych. Niektórzy użytkownicy próbowali w ten sposób „dopiec” innym internautom. Co, jeśli powiem wam, że funkcja pozwalająca na wspomniane modyfikacje może trafić niebawem do aplikacji TikTok?

TikTok stanie się narzędziem do tworzenia DeepFake’ów?

Podmiana twarzy znanej piosenkarki w teledysku, który udostępnimy dla żartów naszej wirtualnej społeczności, nie będzie niczym strasznym. Problem może pojawić się w sytuacji, w której zamiast teledysku, zostanie użyty film pornograficzny. Podobne historie miały miejsce już wcześniej, co kończyło się niemałymi nieprzyjemnościami dla „gwiazdy” takie filmiku.

Narzędzia służące do tego typu manipulacji pojawiają się w sieci, po czym szybko znikają. Niestety, wygląda na to, że takowy „ficzer” trafi niebawem do TikToka, z którego korzystają młodzi, niekiedy bardzo młodzi użytkownicy. Nastolatki nie zawsze rozsądnie podchodzą do kwestii prywatności oraz udostępniania wizerunku w sieci. Młode osoby bywają również okrutne dla swoich rówieśników, przez co oddanie w ich ręce wspomnianego narzędzia nie jest w mojej ocenie najlepszym pomysłem.

Serwis TechCrunch twierdzi, iż ByteDance jest w posiadaniu wspomnianej funkcji, która została zaszyta w kodzie aplikacji TikTok. Nikt nie mówi tego wprost, ale istnieje prawdopodobieństwo udostępnienia opcji szerszemu gronu odbiorców. To stanowczy błąd, z którym wiąże się jeszcze jeden problem. Chodzi o przechowywanie skanów twarzy użytkowników. Jak łatwo zgadnąć, wspomniane treści będą służyły do modyfikacji (podmiany twarzy), ale czy dostęp do nich będzie miał jedynie dany użytkownik?

Czy uważacie, że dostępność tego typu rozwiązań jest czymś niewłaściwym?

Źródło