Quantumrun

BILLEDKREDIT: Quantumrun

Automatiseret dom af kriminelle: Future of Law P3

David Tal, udgiver, fremtidsforsker
@DavidTalWrites
LinkedIn

Min, 09 / 14 / 2020 - 11: 02

Der er tusindvis af sager rundt om i verden, årligt, af dommere, der uddeler retsdomme, der mildest talt er tvivlsomme. Selv de bedste menneskelige dommere kan lide af forskellige former for fordomme og partiskhed, forglemmelser og fejl, som følge af kæmper for at holde sig ajour med det hastigt udviklende retssystem, hvorimod de værste kan blive korrumperet af bestikkelse og andre omfattende profitsøgende ordninger.

Er der en måde at omgå disse mangler? At udvikle et partisk og korruptionsfrit domstolssystem? I teorien føler nogle i det mindste, at robotdommere kan gøre skævhedsfrie domstole til en realitet. Faktisk begynder ideen om et automatiseret bedømmelsessystem at blive diskuteret seriøst af innovatører i hele den juridiske og teknologiske verden.

Robotdommere er en del af automatiseringstrenden, der langsomt siver ind i næsten alle stadier af vores retssystem. Lad os for eksempel tage et hurtigt kig på politiarbejdet.

Automatiseret retshåndhævelse

Vi dækker automatiseret politiarbejde mere grundigt i vores Politiets fremtid serie, men for dette kapitel tænkte vi, at det ville være nyttigt at prøve et par af de nye teknologier, der skal gøre automatiseret retshåndhævelse mulig i løbet af de næste to årtier:

Videoovervågning i hele byence. Denne teknologi bruges allerede i vid udstrækning i byer rundt om i verden, især i Storbritannien. Desuden betyder de faldende omkostninger ved højopløsningsvideokameraer, der er holdbare, diskrete, vejrbestandige og web-aktiverede, at udbredelsen af overvågningskameraer på vores gader og i offentlige og private bygninger kun vil vokse over tid. Nye tekniske standarder og vedtægter vil også dukke op, som vil give politimyndigheder lettere adgang til kameraoptagelser taget på privat ejendom.

Avanceret ansigtsgenkendelse. En komplementær teknologi til CCTV-kameraer i hele byen er den avancerede software til ansigtsgenkendelse, der i øjeblikket udvikles rundt om i verden, især i USA, Rusland og Kina. Denne teknologi vil snart tillade identifikation i realtid af personer, der er fanget på kameraer - en funktion, der vil forenkle løsningen af forsvundne personer, flygtninge og mistænkte sporingsinitiativer.

Kunstig intelligens (AI) og big data. At binde disse to teknologier sammen er AI drevet af big data. I dette tilfælde vil big data være den voksende mængde af live CCTV-optagelser, kombineret med ansigtsgenkendelsessoftwaren, der konstant parrer ansigter med dem, der findes på nævnte CCTV-optagelser.

Her vil AI tilføre værdi ved at analysere optagelserne, opdage mistænkelig adfærd eller identificere kendte ballademagere og derefter automatisk tildele politibetjente til området for at undersøge nærmere. Til sidst vil denne teknologi autonomt spore en mistænkt fra den ene side af byen til den anden, og indsamle videobeviser for deres adfærd, uden at den pågældende mistænkte har nogen anelse om, at de blev overvåget eller fulgt.

Politiets droner. Forøgelse af alle disse innovationer vil være dronen. Overvej dette: Politiets AI nævnt ovenfor kan bruge en sværm af droner til at tage luftoptagelser af formodede kriminel aktivitet hot spots. Politiets AI kan derefter bruge disse droner til at spore mistænkte på tværs af byen, og i nødsituationer, hvor en menneskelig politibetjent er for langt væk, kan disse droner derefter bruges til at jagte og underkue mistænkte, før de forårsager ejendomsskade eller alvorlig fysisk skade. I sidstnævnte tilfælde ville dronerne være bevæbnet med tasere og andre ikke-dødelige våben - en funktion allerede eksperimenteres med. Og hvis du inkluderer selvkørende politibiler i blandingen for at samle gerningsmanden op, så kan disse droner potentielt gennemføre en hel anholdelse uden en eneste menneskelig politibetjent involveret.

De enkelte elementer i det automatiserede politisystem beskrevet ovenfor eksisterer allerede; det eneste, der er tilbage, er anvendelsen af avancerede AI-systemer til at bringe det hele sammen til en kriminalitets-stoppende juggernaut. Men hvis dette niveau af automatisering er muligt med retshåndhævelse på gaden, kan det så også anvendes til domstolene? Til vores strafsystem?

Algoritmer erstatter dommere til at dømme kriminelle

Som nævnt tidligere er menneskelige dommere modtagelige for en række meget menneskelige fejl, der kan forringe kvaliteten af domme, de afsiger på en given dag. Og det er denne modtagelighed, der er langsommere, hvilket gør ideen om en robot, der dømmer retssager, mindre langsigtet, end den plejede at være. Desuden er teknologien, der kunne gøre en automatiseret dommer mulig, heller ikke så langt væk. En tidlig prototype ville kræve følgende:

Stemmegenkendelse og oversættelse: Hvis du ejer en smartphone, så har du sandsynligvis allerede prøvet at bruge en personlig assistent-tjeneste som Google Now og Siri. Når du bruger disse tjenester, burde du også have bemærket, at for hvert år, der går, bliver disse tjenester meget bedre til at forstå dine kommandoer, selv med en tyk accent eller midt i en høj baggrund. I mellemtiden tjenester som Skype-oversætteren tilbyder en realtidsoversættelse, der også bliver bedre år for år.

Inden 2020 forudsiger de fleste eksperter, at disse teknologier vil være næsten perfekte, og i en retssammenhæng vil en automatiseret dommer bruge denne teknologi til at indsamle de verbale retssager, der er nødvendige for at prøve sagen.

Kunstig intelligens. I lighed med punktet ovenfor, hvis du har brugt en personlig assistent-tjeneste som Google Now og Siri, så burde du have bemærket, at for hvert år, der går, bliver disse tjenester meget bedre til at tilbyde korrekte eller nyttige svar på de forespørgsler, du stiller dem. . Dette skyldes, at de kunstige intelligenssystemer, der driver disse tjenester, udvikler sig med et lyntempo.

Som nævnt i Kapitel et af denne serie profilerede vi Microsofts Ross AI-system, der blev designet til at blive en digital juridisk ekspert. Som Microsoft forklarer det, kan advokater nu stille spørgsmål til Ross på almindeligt engelsk, og så vil Ross fortsætte med at gennemgå "hele lovteksten og returnere et citeret svar og aktuelle læsninger fra lovgivning, retspraksis og sekundære kilder."

Et AI-system af denne kaliber er ikke mere end et årti fra at udvikle sig over en ren juridisk assistent til en pålidelig dommer, til en dommer. (Fremover vil vi bruge udtrykket 'AI-dommer' i stedet for 'automatiseret dommer').

Digitalt kodificeret retssystem. Den eksisterende lovgrundlag, som i øjeblikket er skrevet til menneskers øjne og sind, skal omformateres til et struktureret, maskinlæsbart (forespørgeligt) format. Dette vil give AI-advokater og -dommere mulighed for effektivt at få adgang til relevante sagsakter og retsvidneudsagn, og derefter behandle det hele gennem en slags tjekliste eller scoringssystem (grov oversimplifikation), der gør det muligt for den at træffe afgørelse om en retfærdig dom/sætning.

Selvom dette omformateringsprojekt er i gang i øjeblikket, er dette en proces, der i øjeblikket kun kan udføres i hånden og derfor kan tage år at fuldføre for hver juridisk jurisdiktion. På en positiv bemærkning, efterhånden som disse AI-systemer bliver mere udbredt i advokatbranchen, vil det anspore til skabelsen af en standardiseret metode til at dokumentere lovgivning, der er både menneskelig og maskinlæselig, svarende til hvordan virksomheder i dag skriver deres webdata for at være læsbare af Google søgemaskiner.

I betragtning af den virkelighed, at disse tre teknologier og digitale biblioteker vil modne fuldt ud til lovlig brug inden for de næste fem til 10 år, bliver spørgsmålet nu, hvordan vil AI-dommere virkelig blive brugt af domstolene, hvis overhovedet?

Anvendelser i den virkelige verden af AI-dommere

Selv når Silicon Valley perfektionerer teknologien bag AI-dommere, vil der gå årtier, før vi ser en uafhængigt prøve at dømme nogen i en domstol af forskellige årsager:

For det første vil der være åbenlyst pushback fra etablerede dommere med velforbundne politiske tilhørsforhold.
Der vil være tilbageslag fra det bredere juridiske samfund, som vil føre kampagne for, at AI-teknologien ikke er avanceret nok til at prøve rigtige sager. (Selv hvis dette ikke var tilfældet, ville de fleste advokater foretrække retssale styret af en menneskelig dommer, da de har en bedre chance for at overbevise den menneskelige dommers medfødte fordomme og skævheder i modsætning til en følelsesløs algoritme.)
Religiøse ledere og nogle få menneskerettighedsgrupper vil hævde, at det ikke er moralsk for en maskine at afgøre et menneskes skæbne.
Fremtidige sci-fi tv-shows og film vil begynde at præsentere AI-dommere i et negativt lys, og fortsætte den dræberrobot vs. mand kulturelle trope, der har skræmt fiktionsforbrugere i årtier.

I betragtning af alle disse vejspærringer vil det mest sandsynlige nærliggende scenario for AI-dommere være at bruge dem som en hjælp til menneskelige dommere. I en fremtidig retssag (midten af 2020'erne) vil en menneskelig dommer styre retssalen og lytte til begge sider for at fastslå uskyld eller skyld. I mellemtiden vil AI-dommeren overvåge den samme sag, gennemgå alle sagsakter og lytte til alle vidneudsagn og derefter digitalt præsentere den menneskelige dommer for:

En liste over vigtige opfølgende spørgsmål at stille under forsøget;
En analyse af bevismaterialet forud for og under retssagen;
En analyse af hullerne i både forsvarets og anklagemyndighedens fremstilling;
Vigtige uoverensstemmelser i vidnets og tiltalte vidnesbyrd; og
En liste over skævheder, som dommeren er disponeret for, når han behandler en bestemt type sag.

Det er den slags analytiske, støttende indsigter i realtid, som de fleste dommere ville hilse velkommen under deres behandling af en sag. Og med tiden, efterhånden som flere og flere dommere bruger og bliver afhængige af disse AI-dommeres indsigt, vil ideen om AI-dommere uafhængigt afprøve sager blive mere accepteret.

I slutningen af 2040'erne til midten af 2050'erne kunne vi se AI-dommere prøve simple retssager såsom trafikovertrædelser (de få, der stadig vil eksistere på det tidspunkt takket være selvkørende biler), offentlig beruselse, tyveri og voldelig kriminalitet - sager med et meget klart sort/hvidt bevis og strafudmåling. Og omkring det tidspunkt, bør videnskabsmænd perfektionere tankelæsningsteknologien beskrevet i forrige kapitel, så kan disse AI-dommere også anvendes i langt mere komplekse sager, der involverer forretningstvister og familieret.

Samlet set vil vores domstolssystem se mere forandring i løbet af de næste par årtier, end det er set i de sidste par århundreder. Men dette tog ender ikke ved domstolene. Hvordan vi fængsler og rehabiliterer kriminelle vil opleve lignende niveauer af forandring, og det er præcis, hvad vi vil udforske yderligere i næste kapitel af denne Future of Law-serie.