Google walczy z twórczością AI. Udostępniło narzędzie do wykrywania fałszywych treści

Zalew cyfrowej przestrzeni materiałami wygenerowanymi przez sztuczną inteligencję skłonił gigantów technologicznych do udostępnienia szerszej publiczności specjalistycznych rozwiązań weryfikacyjnych. Internauci coraz częściej trafiają w mediach społecznościowych na sfabrykowane grafiki oraz krótkie formy wideo, które niemal nie różnią się od materiałów autentycznych. Aby ułatwić odróżnianie prawdy od cyfrowej fikcji, Google zdecydowało się na powszechne udostępnienie narzędzia pozwalającego na analizę podejrzanych plików.

Nowa usługa, nazwana SynthID Detector, funkcjonuje jako platforma internetowa umożliwiająca przesyłanie plików graficznych, ścieżek głosowych oraz nagrań wideo. System sprawdza dostarczone materiały pod kątem obecności śladów sugerujących całkowite wygenerowanie lub modyfikację treści przy udziale algorytmów sztucznej inteligencji. Dzięki temu każdy użytkownik sieci zyskuje prosty sposób na weryfikację pochodzenia pliku.

Niewidzialne zabezpieczenia i skala zjawiska

Mechanizm SynthID nie pojawił się w sieci nagle, ponieważ firma wdrożyła go już w 2023 roku. Technologia ta opiera się na umieszczaniu w strukturze obrazów, filmów oraz dźwięków specjalnych, niewidocznych dla ludzkiego oka ani ucha znaków wodnych. Pozwala to na skuteczną identyfikację pochodzenia materiału nawet wtedy, gdy przeszedł on przez różnorodne procesy edycyjne.

Statystyki pokazują gigantyczną skalę wykorzystania opisywanej technologii. Od momentu pierwotnego wdrożenia systemu SynthID oznaczone w ten sposób zostały już ponad 180 miliardów obrazów i filmów oraz 240 tysięcy lat treści audio. Gigantyczna popularność treści tworzonych automatycznie – chętnie oglądanych w formie pionowych filmików w social mediach – wymusiła jednak otwarcie tego mechanizmu bezpośrednio dla masowego odbiorcy w formie intuicyjnej strony internetowej.

Źródło: Spider's Web