Sztuczna inteligencja wysłała fałszywe zgłoszenie na policję. Model Anthropic w roli głównej

Departament Policji w Filadelfii (PPD) poinformował o niecodziennym incydencie z udziałem sztucznej inteligencji. Model językowy stworzony przez firmę Anthropic automatycznie wygenerował i przesłał do służb fałszywe zgłoszenie dotyczące zabójstwa. Sprawa wyszła na jaw, gdy firma skontaktowała się z policją, aby wyjaśnić kulisy zdarzenia.

Jak doszło do pomyłki AI?

Do zdarzenia doszło 18 lipca, jednak służby dowiedziały się o nim dopiero 28 września, gdy Anthropic zidentyfikowało błąd w działaniu swojego systemu. Według informacji przekazanych przez producenta, model prowadził wówczas zautomatyzowane testy, podczas których przeszukiwał losowo wybrane strony internetowe. W trakcie tego procesu narzędzie trafiło na witrynę PhillyUnsolvedMurders, służącą mieszkańcom do przekazywania informacji o niewyjaśnionych sprawach kryminalnych, i wysłało za jej pośrednictwem nieprawdziwą wiadomość.

Bezpieczeństwo i reakcja służb

Na szczęście incydent nie wpłynął na realne działania operacyjne policji. Zgłoszenie wygenerowane przez AI zostało automatycznie oznaczone przez system jako spam, dzięki czemu funkcjonariusze nie podjęli żadnych działań w tej sprawie. Firma Anthropic poinformowała o incydencie policję 7 października, deklarując jednocześnie natychmiastowe wstrzymanie testów, które doprowadziły do wysłania fałszywej wiadomości.

Producent modelu zapowiedział publikację raportu dotyczącego tego zdarzenia, w którym mają znaleźć się również opisy innych przypadków niezamierzonego zachowania sztucznej inteligencji. Sprawa ta stanowi kolejny przykład wyzwań związanych z autonomicznym działaniem zaawansowanych modeli językowych w przestrzeni publicznej.

Źródło: Engadget – Technology News & Expert Reviews