Coraz trudniej rozpoznać, co jest prawdziwe, a co wygenerowane przez AI. Czym są deepfake’i i jak mogą zostać wykorzystane do wyłudzenia od nas pieniędzy oraz o tym jak się chronić przed manipulacją w internecie opowiada Marcin Maj, redaktor serwisu Niebezpiecznik.pl.
Jakie są dziś najczęstsze formy manipulacji wizualnej, z którymi spotykają się użytkownicy internetu?
Czym są deepfake’i i jak mogą zostać wykorzystane do wyłudzenia od nas pieniędzy?
Jak już wspomniałem, deepfake’i są wykorzystywane głównie w różnego rodzaju kampaniach reklamowych, aby przekonać nas, iż osoba posiadająca pewne zaufanie społeczne poleca jakiś produkt finansowy. Te reklamy są wyświetlane w social mediach. Na krótko przed naszym wywiadem sprawdziłem, jaką sytuację mamy teraz. Na popularnych kanałach socialmediowych, w momencie naszego wywiadu, emitowane są reklamy rzekomo ze znanymi osobami– politykami, sportowcami, aktorami etc. Prawdziwym problemem nie jest ta AI, która pozwala stworzyć filmik lub grafikę. Prawdziwym zagrożeniem jest AI, która decyduje o treściach, jakie widzimy i usiłuje sprzedać nam reklamy. Zauważ… ludzie ufają popularnym serwisom społecznościowym. Nie każdy założy, że coś reklamowanego w tak znanym serwisie jest zwyczajnym oszustwem. Pamiętajmy przy tym, że wszelkie reklamy w internecie –- na różnych portalach, nawet informacyjnych – mogą być reklamami niezweryfikowanymi i prowadzącymi prosto do oszusta.
Czy może Pan podać najbardziej spektakularny przykład takiego oszustwa z ostatnich miesięcy?
W ostatnim czasie szczególnie dotkliwie odczuliśmy skutki oszustw inwestycyjnych.
Nikt nie wie, ile jest ofiar, ale każda z nich traci bardzo dużo. Pewien mężczyzna z Zielonej Góry stracił „tylko” 36 tysięcy, ale inny mężczyzna z powiatu żagańskiego stracił 330 tysięcy złotych. Jeszcze inny człowiek z powiatu stalowowolskiego stracił 100 tysięcy, a ofiara z okolic Słubic – 200 tysięcy.
Schemat tego oszustwa zwykle jest następujący: ofiara widzi reklamę atrakcyjnych inwestycji. Klika w nią i trafia na stronę, która umożliwia „zgłoszenie się” do programu. Zostawia swój telefon i nazwisko. Oszuści dzwonią czasem po kilku godzinach, czasem po kilku dniach. Dają dostęp do platformy, na którą można coś wpłacić i patrzeć, jak „oszczędności” rosną. Niestety wypłacić pieniędzy się już nie da, ale to nie musi być koniec oszustwa. Bywa, że gdy ofiara już zorientuje się, że straciła 500 lub 1000 złotych, dzwoni do niej kolejny oszust. Może się podać za pracownika banku lub prokuratury. Przekonuje, że trzeba „zabezpieczyć jej konto” i namawia do zainstalowania aplikacji np. do pomocy administracyjnej przez zdalny pulpit. Pieniądze mogą być wyprowadzone z konta dosłownie na jej oczach. Bywa, że ofiara jest dalej wykorzystywana i potem zgłaszają się do niej prawnicy oferujący pomoc. To też oszuści.
Oczywiście to oszustwo może być realizowane zgodnie z różnymi scenariuszami. Niejmniej o oszustach możemy powiedzieć jedno – są zorganizowane grupy, które doskonale wiedzą, co robią.
Z jakich narzędzi warto korzystać, by sprawdzić, czy zdjęcie lub grafika nie zostały zmanipulowane albo wygenerowane przez sztuczną inteligencję?
Owszem, istnieją narzędzia pozwalające na dokonanie oceny autentyczności obrazu, ale nie każdy będzie chciał uczyć się analizy szumów lub luminancji (i wielu innych rzeczy). Są też narzędzia dające proste odpowiedzi (nawiasem mówiąc wspierane przez AI), ale te narzędzia mogą się mylić. Obawiam się, że właściwym podejściem do problemu nie jest wymaganie od ludzi kompetencji śledczych, zresztą nikt nie będzie miał czasu na ich wdrażanie, a zbytnie zaufanie do swoich umiejętności analitycznych też może być złudne.
Co zatem możemy zrobić? Musimy położyć silny nacisk na uczenie, że informacja wyglądająca wiarygodnie na pierwszy rzut oka wcale nie musi taka być. Jeśli odbiorca nie zadziała mechanicznie (np. klikając i rejestrując się), ale zaczeka przynajmniej pół godziny i pomyśli, to już mamy sukces.
Powiedziałbym, że musimy się nauczyć… dawać sobie czas na decyzję. I musimy wyjść z myślenia w stylu „jestem sprytny i wiem, co robię” i przejść do nastawienia „stąpam ostrożnie, bo nigdy nie wiadomo”. Nie istnieją magiczne narzędzia, do których można wrzucić zdjęcie lub film i dostać w 100% wiarygodną odpowiedź – tak lub nie. Nawet zawodowi analitycy mający do dyspozycji dziesiątki narzędzi miewają pewne wątpliwości – tym zresztą różnią się od osób, które podejmują decyzje szybko i bez weryfikacji.
Czy są jakieś proste sygnały ostrzegawcze, które mogą wskazywać, że mamy do czynienia z fałszywym obrazem lub treścią stworzoną przez AI?
Co ciekawe, zwykle są to materiały o niskiej jakości czy rozdzielczości. Zwykle też nie pokazują ludzi „trójwymiarowo” tzn. mamy w nich skupienie na twarzy, najczęściej w jakimś konkretnym ujęciu. Bywa, że w szczegółach coś się nie zgadza np. ruch ust wcale nie oddaje doskonale wypowiadanych słów, ALE… tutaj jest bardzo ważne ALE… – ryzyko pomyłki istnieje zawsze.
stnieją strony, które prezentują twarze generowane przez AI i pozwalają sprawdzić, na ile dobrze rozpoznajemy takie „sztuczne” twarze. Ostrzegam – możecie być rozczarowani wynikiem.
Dlatego nie jestem fanem rozpoznawania czegokolwiek „na pierwszy rzut oka”. Właśnie rzecz w tym, że żadnych decyzji nie powinniśmy podejmować po płytkiej, wstępnej ocenie.
Jakie rozszerzenia do przeglądarki, aplikacje lub serwisy mogą pomóc użytkownikom w codziennej weryfikacji treści audiowizualnych?
Można korzystać z rozszerzeń do przeglądarki oraz serwisów internetowych, które pomagają w analizie materiałów wideo, wykrywaniu manipulacji obrazem czy identyfikowaniu fałszywych profili. To tylko przykłady dostępnych rozwiązań, ale przypomnę jedno – narzędzia nie gwarantują niczego. Warto pamiętać, że człowiek z odpowiednim nastawieniem i zwykłą wyszukiwarką może okazać się skuteczniejszy od naiwnej osoby ze świetnymi narzędziami…
W internecie łatwo znaleźć tego typu rozszerzenia i usługi, wpisując w wyszukiwarkę hasła w rodzaju „weryfikacja obrazu”, „analiza wideo pod kątem dezinformacji” czy „sprawdzanie fałszywych profili”.
Na ile media społecznościowe są gotowe do walki z manipulacją obrazem i video? Czy tego typu platformy rzeczywiście wdrażają skuteczne mechanizmy wykrywania?
Przepraszam, że tak to ujmę, ale media społecznościowe nie świadczą usług dla nas czy z myślą o nas. My im nie płacimy. Jesteśmy sprzedawanym produktem. Nasza uwaga to towar, który te media odsprzedają swoim faktycznym klientom – reklamodawcom. Proszę mnie dobrze zrozumieć – nie twierdzę, że media społecznościowe chcą, byśmy byli okradani. Chodzi raczej o to, że walka z tym zjawiskiem nie jest dla nich priorytetem. Załóżmy, że jeden z portali społecznościowych zaczyna blokować reklamy ze znanym sportowcem. Automatyczne działanie tego typu mogłoby zablokować również wiele legalnych reklam, a tego portale społecznościowe nie chcą robić, aby nie psuć swojego produktu. Można więc zatrudnić moderatorów do odsiewania dobrych i złych reklam, ale to oznacza koszty, a duża korporacja chce zarobić przy jak najmniejszych kosztach. Można zamiast moderatorów użyć AI, ale to AI będzie czasem popełniać błędy, a media społecznościowe nie chcą, by te błędy uderzyły w tych, którzy płacą.
Moim zdaniem właściwe pytanie nie powinno brzmieć „co social media mogą zrobić?”. Pytanie powinno brzmieć „czy możemy jakoś sprawić, aby one chciały to robić?”. Proponowane pozwy to krok w stronę wytworzenia tej chęci, ale to długie i drogie procesy. Można też próbować to zmienić, wprowadzając nowe regulacje prawne w zakresie odpowiedzialności platform za treści. Niestety niełatwo jest stworzyć prawo, które nie będzie w tym aspekcie kojarzyć się z cenzurą, albo nie będzie nadużywane do duszenia wolności słowa.
To nie jest łatwy temat. Pewne zmiany w tym zakresie powoli są wprowadzane, ale nie będziemy ich mieli na jutro czy pojutrze.
Co mogą robić firmy, organizacje lub szkoły, by edukować swoich pracowników/uczniów w zakresie bezpiecznego korzystania z treści wizualnych? Na kim powinna spoczywać odpowiedzialność w zakresie edukacji?
Musimy tu działać wspólnie – media, trzeci sektor, szkoły, nauczyciele, politycy. Kluczowe jest chyba to, aby nie szukać kozłów ofiarnych, tylko brać się do roboty. Wiem, że wielu ludzi powie „szkoła powinna to robić”, ale szkoła w istocie to robi. Całkiem niedawno w znanej mi podstawówce był konkurs plastyczny, w ramach którego dzieciaki projektowały plakaty ostrzegające przed oszustwami. Zrobiono to w ramach lekcji plastyki. Można? Można. I proszę zauważyć, że tego nie ma w podstawie programowej przedmiotu „plastyka”. Była chęć, potrzeba i zrozumienie problemu. Lubię dawać takie pozytywne przykłady, bo one inspirują kolejne i kolejne. Musimy o tym mówić, musimy o tym rozmawiać. Wciąż i w kółko. Ten wywiad jest najlepszym dowodem, że to się dzieje. I niech się dzieje dalej.
Na koniec prośba o poradę w trzech, czterech prostych krokach – jeśli widzę w sieci zdjęcie lub wideo, które wzbudza moje podejrzenia, co mogę zrobić, by sprawdzić jego autentyczność?
Jeśli masz wątpliwości, to już dobrze. Jeśli nie masz, to zacznij je mieć. To po pierwsze. Po drugie – zgłaszaj podejrzane treści. W rogu reklam lub postów od innych osób są trzy kropeczki. Kliknij na nie i wybierz opcję „Zgłoś reklamę” lub „Zgłoś post”. Wskaż, co cię niepokoi (np. informacja jest fałszywa albo jest próbą oszustwa). Nigdy nie komentuj takich treści – podbijasz tylko ich wartość dla algorytmów. Zgłoś jako oszustwo, to wystarczy. Rozmawiaj o tych problemach ze znajomymi. Mów im, jak się zachować, ale rób to z empatią i nie traktuj nikogo z góry. Wydaje się, że to niewiele, ale konsekwentne działanie może wiele zmienić.
