ShotSpotter kunstig intelligens - hvordan det påvirker politi og retsforfølgelse

ShotSpotter, da det blev oprettet, var beregnet til at forbedre politi- og retsforfølgelsesaktiviteter for at reducere antallet af våbenforbrydelser i de samfund, hvor det blev brugt. Men er dette kunstig intelligens (AI) undlader at tilbyde præcise løsninger?

Anklagere i Chicago blev tvunget til at trække sig beviser genereret af ShotSpotter, hvilket resulterede i, at politiet dræbte den 13-årige Adam Toledo tidligere på året.

I en anden hændelse, der skete den 31. maj 2020, blev 25-årige Safarain Sild bekræftet at være blevet skudt i hovedet og senere afleveret på St. Benard Hospital i Chicago. Politiet sagde, at Sild blev skudt af Michael Williams, og at han døde omkring to dage senere.

64-årige Williams blev til sidst anholdt og sigtet for mord. Williams siger, at Sild blev ramt af en kugle fra et drive-by-skyderi. Et primært bevis i denne sag er nogle videoovervågningsbilleder. Optagelserne fra kameraerne viser, at Williams stoppede sin bil på 6300-blokken på South Stony Island Avenue kl. 11. Det er samme tidspunkt og sted, hvor Chicago-politiet siger, at de tror, ​​at Sild blev skudt.

Hvordan vidste politiet, hvor skyderiet fandt sted? De sagde, at ShotSpotter, som er et overvågningssystem, der bruger mikrofonsensorer til at bestemme lyden og placeringen af ​​skud, genererede alarmen for det sted og tidspunkt, der blev brugt i retsforfølgelsen af ​​Williams.

Men alt det ser ikke ud til at være helt sandt baseret på de seneste retsdokumenter.

Den skæbnesvangre nat optog 19 ShotSpotter-sensorer en perkussiv lyd kl. 11:46 og triangulerede stedet til at være 5700 South Lake Shore Drive. Det sted er kun omkring en kilometer væk fra det sted, hvor anklagere siger, at Williams skød Sild, ifølge en forslag indgivet af Williams' offentlige forsvarer.

Firmaets algoritmer klassificerede oprindeligt pistolskuddet som et fyrværkeri. I løbet af den weekend var der udbredte protester i Chicago i kølvandet på George Floyds mord, hvor nogle demonstranter tændte fyrværkeri.

Imidlertid tilsidesatte en ShotSpotter-analytiker manuelt algoritmerne, efter at alarmen kl. 11:46 kom, og "omklassificerede" den resulterende lyd som et skud. Måneder senere ændrede en anden analytiker koordinaterne til et sted på South Stony Island Drive i nærheden af, hvor Williams' bil blev fanget på kameraoptagelserne.

Den offentlige forsvarer skrev i forslaget fremsat i retten:

"Gennem denne menneske-involverede metode blev ShotSpotter-outputtet i dette tilfælde dramatisk transformeret fra data, der ikke understøttede kriminelle anklager af nogen art, til data, der nu udgør midtpunktet i anklagemyndighedens mordsag mod Mr. Williams."

Dette dokument omtales som en Frye-bevægelse. Det er en anmodning fra den præjudicielle dommer om at undersøge og i overensstemmelse hermed tage stilling til, om en specifik retsmedicinsk strategi var videnskabeligt autentisk for at blive betragtet som bevis. Anklagerne trak alle ShotSpotter-beviser mod Williams tilbage i stedet for at forsvare teknologien og dens ansattes handlinger i en Frye-høring.

Analytikere og eksperter siger, at denne sag ikke er en anomali. Det mønster, det repræsenterer, kan have massive konsekvenser for kunstig intelligens-teknologien i Chicago, hvor ShotSpotter genererer 21,000 advarsler hvert år i gennemsnit. I dag, dette teknologi er i brug i over 100 byer.

Eksperter har gennemgået en masse retsdokumenter fra Williams-sagen og mange andre retssager i staten New York og Chicago. De indhentede data viser, at virksomhedens analytikere ofte ændrer alarmer efter anmodning fra politiafdelinger. Nogle af anmodningerne ser ud til at søge efter overbevisende beviser, der understøtter deres fortælling om, hvad der skete i en bestemt sag.

En masse utestede beviser fra ShotSpotter

Hvis Cook County State's Attorney's Office ikke trak beviserne mod Williams tilbage, ville det være blevet første gang, en domstol i Illinois officielt undersøgte kildekoden og videnskaben bag ShotSpotter, ifølge Jonathan Manes. Manes er en advokat, der arbejder på MacArthur Justice Center. Han sagde:

"I stedet for at forsvare beviserne, løb [anklagere] bare væk fra det. Lige nu har ingen uden for ShotSpotter nogensinde været i stand til at kigge under motorhjelmen og auditere denne teknologi. Vi ville ikke lade kriminaltekniske laboratorier bruge en DNA-test, der ikke var blevet undersøgt og revideret."

Senior Vice President for marketing og produktstrategi hos ShotSpotter, Sam Klepper, skrev i en e-mail, at firmaet ikke mener, at anklagerens beslutning om at trække beviserne tilbage afspejler en mangel på tro på deres kunstig intelligens teknologi.

Beviser og medarbejderes vidnesbyrd fra denne teknologi er blevet indrømmet i mindst 190 retssager. Klepper skrev:

"Hvorvidt ShotSpotter-beviser er relevante for en sag, er et spørgsmål, der er overladt til en anklager og en advokats skøn... ShotSpotter har ingen grund til at tro, at disse beslutninger er baseret på en dom om ShotSpotter-teknologien."

Ændringsmønstre

I 2016, i Rochester, New York, var politiet på jagt efter et mistænkeligt køretøj. De stoppede den forkerte bil og skød Silvon Simmons i ryggen tre gange. Ifølge politiet blev han skudt for først at skyde mod betjente.

Det eneste bevis, som politiet brugte, kom fra ShotSpotter. Teknologien opdagede ikke nogen skud i starten, og algoritmerne fastslog, at lydene blev produceret af helikopterrotorer. Efter at politiet kontaktede ShotSpotter om dette spørgsmål, besluttede det, at der var fire skud, det antal gange Rochester-politiet skød mod Simmons, savnet én gang.

ShotSpotters ekspertvidne, Paul Greene, vidnede ved Simmons-retssagen. Politiet bad Greene om at lede efter flere skud, ifølge en civil retssag Simmons har anlagt mod virksomheden og byen. På trods af at der var fysiske beviser på stedet for, at Simmons affyrede, kom Greene med et femte skud. Rochester politi nægtede også at teste Simmons hænder og tøj for skudrester.

ShotSpotter-lydfilerne, der havde beviserne for det femte skud, er siden forsvundet. Ifølge Simmons' civile sag:

"Både virksomheden og Rochester Police Department mistede, slettede og/eller ødelagde spolen og/eller anden information, der indeholdt lyde, der relaterer sig til det betjent involverede skyderi. Greene anerkendte, at ansatte hos ShotSpotter og retshåndhævende agenter med en lydeditor kan ændre enhver lydfil, der ikke er blevet låst eller krypteret."

Til sidst frikendte en jury Simmons for mordforsøg. I den sammenhæng fortsatte en dommer med at omstøde sin dom for at eje en pistol, med henvisning til ShotSpotters upålidelighed.

I 2018 var Greene også involveret i en anden ændret rapport i Chicago, da 27-årige Ernesto Godinez blev anklaget for at have skudt en føderal agent i byen. Beviser mod Godinez inkluderede en ShotSpotter-optegnelse, som sagde, at syv skud blev affyret på stedet.

Ifølge platformen blev der affyret i alt fem skud fra nærheden af ​​en døråbning, hvor videoovervågning viste Godinez stå. Shell-hylstre blev senere fundet nær døråbningen. Videoovervågning viser dog ingen mundingsglimt fra den døråbning, og hylstrene matchede ikke de kugler, der ramte agenten, baseret på retsprotokollerne.

I retssagen, Greene vidnede under krydsforhør at AI-platformalarmen registrerede to skud affyret af en anden betjent, der reagerede på det oprindelige skyderi. Senere genanalyserede Greene lydfilerne, efter at Chicagos politi kontaktede ShotSpotter. Han sagde til retten:

"En time eller deromkring efter hændelsen indtraf, blev vi kontaktet af Chicago PD og bedt om at søge efter - i det væsentlige søge efter yderligere lydklip. Og dette sker på en semi-regelmæssig basis med alle vores kunder.”

Greene sagde senere, at yderligere fem skud ikke blev fanget af virksomhedens algoritmer og anerkendte:

"Vi indrømmer frit, at alt og alt i miljøet kan påvirke placering og detektions nøjagtighed."

Klepper sagde, at ShotSpotter-analytikere plejer at være enige i maskinklassificeringen mere end 90% af tiden. Han forklarede:

"I et lille antal tilfælde anmoder vores kunder os om at udføre en lokalitetsanalyse for at validere placeringens nøjagtighed. Hvis vi finder en fejl, giver vi en mere nøjagtig placering til kunden for at hjælpe efterforskningen."

Før retssagen afgjorde dommeren, at Godinez ikke skulle bestride Greenes kvalifikationer som ekspertvidne og ShotSpotters nøjagtighed. Godinez appellerede dommen hovedsagelig på grund af dommen. Gal Pissetzky, Godinez' advokat, sagde:

"Plideligheden af ​​deres teknologi er aldrig blevet udfordret i retten, og ingen gør noget ved det. Chicago betaler millioner af dollars for deres teknologi og forhindrer så på en måde nogen i at udfordre den."

ShotSpotter fordele og mangler

Denne kunstige intelligens platform kommer med mange fordele og mangler. Det blev oprindeligt designet til at hjælpe politiet med at reducere våbenvold og kriminelle aktiviteter, uanset hvor det implementeres. I nogle tilfælde hjalp det anklagere med at finde beviser, der har hjulpet med at dømme kriminelle, der ville være sluppet uden deres hjælp.

Men kernen i ShotSpotters modstand er manglen på empirisk bevis for, at det virker. Dets sensornøjagtighed og systemets generelle effekt på våbenkriminalitet er endnu ikke analyseret. Firmaet har endnu ikke tilladt uafhængig analyse og test af sine algoritmer. Der er beviser for, at de påstande, den fremsætter i markedsføringsmateriale om nøjagtighed, måske ikke er helt videnskabelige.

ShotSpotter hævder, at dets system er næsten 97% nøjagtige. Men Greene sagde, at disse tal ikke er beregnet af ingeniører. I 2017 har han fortalte en domstol i San Francisco:

"Vores garanti blev sammensat af vores salgs- og marketingafdeling, ikke vores ingeniører. Vi er nødt til at give dem [kunder] et nummer … Vi er nødt til at fortælle dem noget. … Det er ikke perfekt. Prikken på kortet er simpelthen et udgangspunkt."

MacArthur Justice Center analyserede ShotSpotter-data og opdagede, at i en 21-måneders periode førte 89 % af de advarsler, virksomhedens teknologi genererede i Chicago, til ingen beviser for våbenkriminalitet, og 86 % af advarslerne førte til ingen beviser for, at en forbrydelse overhovedet var begået. Klepper anfægtede:

"Den datakilde, der bruges til at drage deres konklusioner, resulterer i sig selv i et ufuldstændigt billede af en hændelse, fordi en pistol kan være blevet affyret, selvom der ikke er dokumenteret politibevis for, at det var det."

“Greenes vidnesbyrd i San Francisco-retsagen havde intet at gøre med bestemmelsen af ​​vores faktiske historiske nøjagtighedsgrad. Mens markedsføring og salg har passende input til vores serviceniveaugarantier for vores kontrakter, er de faktiske nøjagtighedsgrader baseret på detekteringer, som vi registrerer."

I mellemtiden tyder mere forskning på, at ShotSpotter ikke har hjulpet med at reducere våbenforbrydelser i byer, hvor den blev indsat. Mange brugere har droppet virksomheden med henvisning til en manglende afkast af investeringen , for mange falske alarmer.

Indtil videre er rapporterne blandede, og det vil tage nogle mere uafhængige analyser af tilgængelige data for at bestemme succesraten for den kunstige intelligens-politiløsning.

Kilde: https://e-cryptonews.com/shotspotter-artificial-intelligence/