Quantumrun

BILDEKREDITT: Quantumrun

Automatisert dommer av kriminelle: Future of law P3

David Tal, utgiver, fremtidsforsker
@DavidTalWrites
Linkedin

man 09 - 14:2020

Det er tusenvis av saker rundt om i verden, årlig, av dommere som deler ut rettsdommer som er tvilsomme, for å si det mildt. Selv de beste menneskelige dommerne kan lide av ulike former for fordommer og skjevheter, forglemmelser og feil som følge av sliter med å holde seg oppdatert med det raskt utviklende rettssystemet, mens de verste kan bli ødelagt av bestikkelser og andre forseggjorte profittsøkende ordninger.

Er det en måte å omgå disse feilene? Å konstruere et partisk og korrupsjonsfritt rettssystem? I det minste føler noen i teorien at robotdommere kan gjøre skjevhetsfrie domstoler til en realitet. Faktisk begynner ideen om et automatisert dommersystem å bli diskutert seriøst av innovatører over hele den juridiske og teknologiske verdenen.

Robotdommere er en del av automatiseringstrenden som sakte siver inn i nesten alle stadier av vårt rettssystem. La oss for eksempel ta en rask titt på politiarbeid.

Automatisert rettshåndhevelse

Vi dekker automatisert politiarbeid mer grundig i vår Politiets fremtid serien, men for dette kapittelet tenkte vi at det ville være nyttig å prøve noen av de nye teknologiene som er satt til å gjøre automatisert rettshåndhevelse mulig i løpet av de neste to tiårene:

Videoovervåking over hele byence. Denne teknologien brukes allerede mye i byer rundt om i verden, spesielt i Storbritannia. Dessuten betyr de fallende kostnadene for HD-videokameraer som er holdbare, diskrete, værbestandige og nettaktiverte, at utbredelsen av overvåkingskameraer på gatene våre og i offentlige og private bygninger bare kommer til å vokse over tid. Nye tekniske standarder og vedtekter vil også dukke opp som vil tillate politibyråer å lettere få tilgang til kameraopptak tatt på privat eiendom.

Avansert ansiktsgjenkjenning. En komplementær teknologi til byomfattende CCTV-kameraer er den avanserte programvaren for ansiktsgjenkjenning som for tiden utvikles over hele verden, spesielt i USA, Russland og Kina. Denne teknologien vil snart tillate sanntidsidentifikasjon av individer fanget på kameraer – en funksjon som vil forenkle løsningen av savnede personer, flyktninger og mistenkte sporingsinitiativer.

Kunstig intelligens (AI) og big data. Å knytte disse to teknologiene sammen er AI drevet av big data. I dette tilfellet vil big data være den økende mengden av live CCTV-opptak, kombinert med ansiktsgjenkjenningsprogramvaren som hele tiden parer ansikter med de som finnes på nevnte CCTV-opptak.

Her vil AI tilføre verdi ved å analysere opptakene, oppdage mistenkelig oppførsel eller identifisere kjente bråkmakere, og deretter automatisk tildele politifolk til området for å undersøke videre. Til slutt vil denne teknologien spore en mistenkt autonomt fra en side av byen til en annen, og samle videobevis på oppførselen deres uten at mistenkte har noen anelse om at de ble overvåket eller fulgt.

Politiets droner. Å forsterke alle disse innovasjonene vil være dronen. Tenk på dette: Politiets AI nevnt ovenfor kan bruke en sverm av droner for å ta flyopptak av hot spots som mistenkes for kriminell aktivitet. Politiets AI kan deretter bruke disse dronene til å spore mistenkte over hele byen, og i nødssituasjoner når en menneskelig politimann er for langt unna, kan disse dronene deretter brukes til å jage og underkue mistenkte før de forårsaker skade på eiendom eller alvorlig fysisk skade. I dette sistnevnte tilfellet ville dronene være bevæpnet med tasere og andre ikke-dødelige våpen - en funksjon som allerede er eksperimentert med. Og hvis du inkluderer selvkjørende politibiler i blandingen for å plukke opp gjerningsmennene, så kan disse dronene potensielt fullføre en hel arrestasjon uten en eneste menneskelig politimann involvert.

De individuelle elementene i det automatiserte politisystemet beskrevet ovenfor eksisterer allerede; alt som gjenstår er bruken av avanserte AI-systemer for å bringe det hele sammen til en kriminalitetsstoppende juggernaut. Men hvis dette automatiseringsnivået er mulig med rettshåndhevelse på gatene, kan det også brukes til domstolene? Til straffesystemet vårt?

Algoritmer erstatter dommere for å dømme kriminelle

Som nevnt tidligere, er menneskelige dommere utsatt for en rekke svært menneskelige feil som kan skade kvaliteten på dommene de avsier på en gitt dag. Og det er denne følsomheten som bremser, noe som gjør ideen om en robot som dømmer rettssaker mindre langsøkt enn den pleide å være. Dessuten er teknologien som kan gjøre en automatisert dommer mulig heller ikke så langt unna. En tidlig prototype vil kreve følgende:

Stemmegjenkjenning og oversettelse: Hvis du eier en smarttelefon, har du sannsynligvis allerede prøvd å bruke en personlig assistent-tjeneste som Google Now og Siri. Når du bruker disse tjenestene, burde du også ha lagt merke til at for hvert år som går blir disse tjenestene mye bedre til å forstå kommandoene dine, selv med en tykk aksent eller i en høy bakgrunn. I mellomtiden tjenester som Skype-oversetteren tilbyr en sanntidsoversettelse som også blir bedre år for år.

Innen 2020 spår de fleste eksperter at disse teknologiene vil være nesten perfekte, og i en rettssammenheng vil en automatisert dommer bruke denne teknologien til å samle inn de verbale rettssalsbehandlingene som trengs for å prøve saken.

Kunstig intelligens. I likhet med punktet ovenfor, hvis du har brukt en personlig assistent-tjeneste som Google Now og Siri, burde du ha lagt merke til at for hvert år som går blir disse tjenestene mye bedre til å tilby riktige eller nyttige svar på spørsmålene du stiller til dem . Dette er fordi de kunstige intelligenssystemene som driver disse tjenestene, avanserer i et lyntempo.

Som nevnt i kapittel en av denne serien profilerte vi Microsofts Ross AI-system som ble designet for å bli en digital juridisk ekspert. Som Microsoft forklarer det, kan advokater nå stille spørsmål til Ross på vanlig engelsk, og deretter vil Ross fortsette å finkjemme "hele lovverket og returnere et sitert svar og aktuelle lesninger fra lovgivning, rettspraksis og sekundære kilder."

Et AI-system av dette kaliberet er ikke mer enn et tiår unna å utvikle seg over en ren juridisk assistent til en pålitelig dommer, til en dommer. (Fremover vil vi bruke begrepet «AI-dommer» i stedet for «automatisert dommer».)

Digitalt kodifisert rettssystem. Den eksisterende lovgrunnlaget, som for tiden er skrevet for menneskelige øyne og sinn, må formateres om til et strukturert, maskinlesbart (søkbart) format. Dette vil tillate AI-advokater og dommere å effektivt få tilgang til relevante saksfiler og rettsvitneforklaringer, og deretter behandle det hele gjennom en slags sjekkliste eller scoringssystem (grov overforenkling) som vil tillate den å avgjøre en rettferdig dom/setning.

Selv om dette omformateringsprosjektet er i gang for øyeblikket, er dette en prosess som for øyeblikket bare kan gjøres for hånd og kan derfor ta år å fullføre for hver juridisk jurisdiksjon. På en positiv måte, ettersom disse AI-systemene blir mer utbredt tatt i bruk i advokatbransjen, vil det anspore til etableringen av en standardisert metode for å dokumentere juss som er både menneskelig og maskinlesbar, lik hvordan bedrifter i dag skriver nettdataene sine for å være lesbare av Googles søkemotorer.

Gitt realiteten at disse tre teknologiene og digitale bibliotekene vil modnes fullt ut for lovlig bruk i løpet av de neste fem til ti årene, blir spørsmålet nå hvordan vil AI-dommere virkelig bli brukt av domstolene, om i det hele tatt?

Virkelige applikasjoner av AI-dommere

Selv når Silicon Valley perfeksjonerer teknologien bak AI-dommere, vil det ta flere tiår før vi ser en uavhengig prøve og dømme noen i en domstol av en rekke årsaker:

For det første vil det være en åpenbar pushback fra etablerte dommere med godt tilknyttede politiske tilhørigheter.
Det vil komme tilbakeslag fra det bredere juridiske samfunnet som vil kampanje for at AI-teknologien ikke er avansert nok til å prøve ekte saker. (Selv om dette ikke var tilfelle, ville de fleste advokater foretrekke rettssaler administrert av en menneskelig dommer, ettersom de har en bedre sjanse til å overtale de medfødte fordommene og skjevhetene til nevnte menneskelige dommer i motsetning til en følelsesløs algoritme.)
Religiøse ledere, og noen få menneskerettighetsgrupper, vil hevde at det ikke er moralsk for en maskin å bestemme skjebnen til et menneske.
Fremtidige sci-fi-TV-serier og filmer vil begynne med AI-dommere i et negativt lys, og fortsetter den morderiske robot-mot-menneske-kulturtropen som har skremt fiksjonsforbrukere i flere tiår.

Gitt alle disse veisperringene, vil det mest sannsynlige scenarioet på kort sikt for AI-dommere være å bruke dem som en hjelp for menneskelige dommere. I en fremtidig rettssak (midten av 2020-tallet) vil en menneskelig dommer styre rettssalssakene og lytte til begge sider for å fastslå uskyld eller skyld. I mellomtiden vil AI-dommeren overvåke den samme saken, gjennomgå alle saksmappene og lytte til alle vitnemålene, og deretter digitalt presentere den menneskelige dommeren med:

En liste over viktige oppfølgingsspørsmål å stille under rettssaken;
En analyse av bevisene gitt i forkant av og under rettsforhandlingene;
En analyse av hullene i både forsvarets og påtalemyndighetens fremstilling;
Viktige avvik i vitneforklaringer og tiltalte; og
En liste over skjevheter dommeren er disponert for når han prøver en bestemt type sak.

Dette er den typen sanntids, analytisk, støttende innsikt som de fleste dommere vil ønske velkommen under behandlingen av en sak. Og over tid, ettersom flere og flere dommere bruker og blir avhengige av innsikten til disse AI-dommerne, vil ideen om at AI-dommere uavhengig prøver saker, bli mer akseptert.

På slutten av 2040-tallet til midten av 2050-tallet kunne vi se AI-dommere prøve enkle rettssaker som trafikkovertredelser (de få som fortsatt vil eksistere da takket være selvkjørende biler), offentlig rus, tyveri og voldelig kriminalitet – saker med en veldig klar, svart-hvitt bevis og straffutmåling. Og rundt den tiden, bør forskere perfeksjonere tankelesingsteknologien beskrevet i forrige kapittel, så kan disse AI-dommerne også brukes på langt mer komplekse saker som involverer forretningstvister og familierett.

Samlet sett vil rettssystemet vårt se mer endring i løpet av de neste tiårene enn det har sett de siste århundrene. Men dette toget slutter ikke ved domstolene. Hvordan vi fengsler og rehabiliterer kriminelle vil oppleve lignende nivåer av endring, og det er akkurat det vi skal utforske videre i neste kapittel av denne Future of Law-serien.