Britisk politi fanget i AI-løgn – et lignende system testes nu i Danmark

Det er den type nyhed, der sender kolde kuldegysninger ned ad ryggen på alle, der bekymrer sig om retssikkerhed: Et britisk politi-AI-system producerede falske oplysninger, der blev præsenteret i en retssag som faktuelle.

Version2 har afdækket den chokerende sag, der har vakt opsigt i hele den europæiske tech-branche. Et AI-redskab, der var integreret i efterforskningsprocessen, hallucinererede fakta – det vil sige opdigtede informationer, der lød troværdige, men var rent opspind.

Hvad skete der i England?

Den britiske politimyndighed anvendte et AI-baseret analyseredskab til at behandle bevismateriale. Systemet leverede outputter, der automatisk blev videregivet til anklagemyndigheden. Det var først under den juridiske gennemgang, at inkonsistenser blev opdaget – og på det tidspunkt var sagen allerede langt fremskreden.

Sagen er i dag under efterforskning af både politimyndigheder og en uafhængig tilsynskommission. Potentielt berørte sager gennemgås nu.

Og hvad med Danmark?

Det, der virkelig får opmærksomheden til at flytte sig, er Version2's afsløring af, at et funktionelt lignende system er under pilottest i det danske politi.

Rigspolitiet bekræfter over for Version2, at man afprøver AI-støttede efterforskningsredskaber, men understreger, at "alle AI-genererede indsigter undergår manuel validering, inden de indgår i retlige processer".

Er det nok?

Eksperter er ikke overbevist. "Problemet med AI-hallucination er, at outputtet lyder præcist og autoritativt, selv når det er forkert. Et træt politimenneske kan nemt overse fejlen," advarer en AI-forsker fra DTU.

Debatten om AI i retsvæsenet er ikke til at lukke ned nu. Og med god grund.