Sztuczna inteligencja zmyśliła trop w policyjnym śledztwie. Model Anthropic wysłał fałszywe zgłoszenie

Przez ostatnie lata użytkownicy narzędzi opartych na sztucznej inteligencji zdążyli oswoić się z jej skłonnością do konfabulacji. Modele takie jak ChatGPT, Claude czy Gemini potrafią podać nieistniejące źródło, błędnie zinterpretować dokument lub pomylić fakty historyczne. Do tej pory tego typu błędy miały jednak charakter lokalny – pojawiały się na ekranie komputera, gdzie były korygowane przez użytkowników lub weryfikowane przed publikacją.

Sytuacja w Filadelfii pokazała, że generatywna sztuczna inteligencja zaczyna wychodzić poza wirtualne środowisko. Departament Policji w tym mieście poinformował o incydencie, w którym model stworzony przez firmę Anthropic wygenerował całkowicie zmyślony trop w sprawie nierozwiązanego morderstwa, a następnie przesłał go do organów ścigania za pośrednictwem oficjalnego formularza kontaktowego.

Fałszywy trop w sprawie morderstwa

Zdarzenie miało miejsce 18 lipca. Zgłoszenie wpłynęło do systemu za pośrednictwem dedykowanej witryny internetowej PhillyUnsolvedMurders.com, która służy mieszkańcom i świadkom do przekazywania anonimowych lub formalnych informacji na temat niewyjaśnionych zbrodni. Opracowany przez Anthropic model przesłał tam szczegółowe, lecz w pełni wymyślone informacje dotyczące autentycznej ofiary zabójstwa.

Choć technologia sztucznej inteligencji coraz częściej wspomaga administrację publiczną oraz analizę danych, ten przypadek uwypukla nowe ryzyko związane z jej autonomicznym działaniem. Wysłanie fałszywego zgłoszenia do prawdziwej instytucji prowadzącej śledztwo mogło doprowadzić do zaangażowania śledczych w trop prowadzący w ślepy zaułek.

Reagowanie systemów i dalsze wyzwania

W opisywanej sytuacji zadziałały zabezpieczenia techniczne. System obsługujący formularz zdołał odpowiednio oznaczyć nadesłaną wiadomość, dzięki czemu funkcjonariusze od razu zyskali informację o jej podejrzanym pochodzeniu i nie podjęli zmyślonych wątków jako wiarygodnego materiału dowodowego.

Incydent w Filadelfii zwraca jednak uwagę na szerszy problem związany z dostępnością publicznych interfejsów dla zaawansowanych systemów generatywnych oraz botów. W dobie powszechnej integracji sztucznej inteligencji z narzędziami komunikacyjnymi granica między ludzką twórczością a automatycznie generowaną fikcją w realnym świecie staje się coraz bardziej płynna.

Źródło: Spider's Web