Czy jest nieuniknione, że algorytm „przewidywania zabójstwa” Wielkiej Brytanii jest rasistowski?

Kto najprawdopodobniej zostanie zabójcą? Wielka Brytania zapyta technologię. Brytyjska inicjatywa „chłodnia”, styl „raportu mniejszości”, grozi dyskryminacją.

Styl „Raport mniejszości”, film z 2054 r. I gdzie Tom Cruise jest szefem jednostki policyjnej „przed przestępczością”, Wielka Brytania przygotowuje się do zapytania algorytmu, który najprawdopodobniej zostanie zabójcą.

Projekt ma już oficjalną nazwę – „Udostępnianie danych w celu poprawy oceny ryzyka ”który zastępuje „projekt prognozowania zabójstw” – i wykorzysta technologię do analizy tysięcy (od 100 do 500 000 osób, rzekomo) osób znanych sądom karnym, w celu zwiększenia bezpieczeństwa publicznego poprzez lepszą ocenę ryzyka, zgodnie z Ministerstwem Sprawiedliwości, ale już prowokuje alarm, szczególnie między aktywistami a policją, które opisują to jako to opisujące to jako to opisujące to tak „Chilling” i „Dystopian”.

Nowy program rządowy w Wielkiej Brytanii wykorzysta to narzędzie do identyfikacji osób z najbardziej prawdopodobnymi zabójstwami. Rząd twierdzi, że są to zaawansowane techniki nauki danych, takie jak wzmocnienie obecnych narzędzi oceny ryzyka, które już wykorzystywane przez usługi więzienne i zwolnienia warunkowego. Według ministerstwa nadal będzie to w fazie testowej i wykorzysta tylko dane od osób z co najmniej jednym przekonaniem karnym, ale niektórzy twierdzą inaczej.

Według grupy obrony Liberties obywatelskich umowa dzielącego dane między Ministerstwem Sprawiedliwości a policją w Manchesterze (GMP) zawiera informacje o osób, które nie zostały skazane za żadne przestępstwo, takie jak ofiary przemocy domowej oraz osoby samodzielne lub miały problemy ze zdrowiem psychicznym.

W rzeczywistości projekt będzie rzekomo wykorzystywać dane z różnych oficjalnych źródeł, w tym usługi reintegracji społecznej i dane GMP zebrane przed 2015 r.

Informacje te obejmują wskaźniki związane ze zdrowiem, takie jak toksykodependencja, samobójstwo, choroba psychiczna, zmiany samo -zależności i niepełnosprawność.

„Przerażające i niepokojące”

Wielu aktywistów i badaczy pamięta, że ​​narzędzie ma ogromny potencjał do wzmocnienia uprzedzeń systemowych, docierania do mniejszości etnicznych i społeczności o niskich dochodach i ogólnie wzmocnienie dyskryminacji strukturalnej w tym kraju.

„Próba zbudowania tego systemu prognozy zabójstw Ministerstwa Sprawiedliwości jest ostatnim przykładem Przerażające i dystopijne o zamiarze rządu, aby opracować tak -systemy „prognozowania” przestępstw ”, powiedziała Sofia Lyall, badacz w StateWatch

Dochodzenie wielokrotnie pokazuje, że algorytmiczne systemy przestępczości „prognozy” są wewnętrznie wadliwe ”, ostrzega:„ Ten ostatni model, który wykorzystuje dane z naszej policji i naszej ministerstwa spraw wewnętrznych, rasistowskie instytucjonalnie, wzmacni i rozszerzy dyskryminację strukturalną leżącą u podstaw systemu przestępczego ”.

„Podobnie jak inne systemy gatunku, skodyfikują uprzedzenia dla społeczności rasowych i o niskich dochodach. Budowanie zautomatyzowanego narzędzia do definiowania profilu ludzi jako brutalnych przestępców jest głęboko błędne, a wykorzystanie tak wrażliwych danych na temat zdrowia psychicznego, zależności i niepełnosprawności jest wysoce bardzo natrętne i niepokojące. ”

Prawda jest taka, że ​​algorytmy te z natury nie są sprawiedliwe: opierają się na prawdopodobieństwie statystycznym, a nie na prawdziwym zachowaniu.

Istnieje wiele znanych przypadków, które obejmowały zastosowanie technologii i sztucznej inteligencji z autonomią w celu podejmowania decyzji w zakresie sprawiedliwości, policji i dochodzeń karnych, które okazały się stronnicze, niesprawiedliwe i dyskryminujące.

Przychodzi na myśl czarny, zatrzymany w 2020 r. Pod fałszywymi oskarżeniami przez policję w Detroit z powodu niepoprawnej identyfikacji metodą rozpoznawania twarzy.

W niektórych sądach amerykańskich dyskusja była szersza ze względu na zastosowanie, stosowane do oceny ryzyka nawrotu oskarżonych i wysoce skrytykowanych za wykazanie wyraźnych stronniczości rasowych.