20200514-191415-2-1920x1079we
'Hvis man skal bruge kunstig intelligens og algoritmer i beskæftigelsesindsatsen, er det afgørende, at algoritmerne tjener de fagprofessionelle på jobcentret og ikke omvendt'. (Arkivfoto) Foto: Wana News Agency/Reuters/Ritzau Scanpix

Advarer om masseovervågning af ledige: 'Man skal tænke mennesket først'

13. nov 2020, 11:07
Hvis kunstig intelligens skal bruges som værktøj til at få ledige i arbejde, er det afgørende, at det bliver på menneskets og ikke systemets præmisser. Sådan lyder konklusionen i nyt studie af såkaldte jobcenter-algoritmer.

Hvis du i fremtiden bliver ledig, kan det første, der møder dig på jobcentret være en detaljeret analyse af, om du er i risiko for at blive langtidsledig. 

Vel og mærke en analyse, som ikke er foretaget af en ansat på jobcentret. 

Beregningen er lavet af en algoritme, der har brugt dine centrale livsvalg til at udregne en score for, hvor høj eller lav chance, du har for at sidde fast i ledighedskøen i længere tid. 

Det er konsekvensen af en ny lov, som Folketinget vedtog sidste år. 

Loven betyder, at myndighederne kan sammenkøre data om eksempelvis din etniske herkomst, dit helbred, eller din uddannelseshistorik til at udregne ledigheds-scoren. 

Den nye lov er blevet mødt med voldsom kritik fra førende eksperter i persondata-ret og digital forvaltning, som Politiken har beskrevet.

Nu har forskere fra Københavns Universitet undersøgt et alternativ til algoritmer designet med fokus på den lediges livsvalg og baggrund.

De advarer om, at det kan få alvorlige konsekvenser, hvis algoritmerne får lov til at tage styringen fra de ansatte på landets jobcentre. 

- Hvis man skal bruge kunstig intelligens og algoritmer i beskæftigelsesindsatsen, er det afgørende, at algoritmerne tjener de fagprofessionelle på jobcentret og ikke omvendt, siger Naja Holten Møller, adjunkt ved Datalogisk Institut på Københavns Universitet. 

Skal ikke kun skaffe job

Naja Holten Møller er en af forskerne bag et nyt studie fra Københavns Universitet, der kortlægger faldgruberne, men også mulige fordele ved brug af kunstig intelligens i beskæftigelsessystemet.

De tre forskere har i godt et år observeret sagsbehandlere på jobcentre i Storkøbenhavn. De har undersøgt deres perspektiv på brug af kunstig intelligens i arbejdet med at få ledige i job.

Studiet peger blandt andet på, at en række af de algoritmer, der i dag testes på landets jobcentre, ofte har et for entydigt fokus på at måle den lediges chance for at komme i job. 

- Man skal forstå, at mennesker er mennesker, og at livet også er fuldt af nederlag og kriser. Alt sammen elementer, der kan spille ind på ens muligheder for at vende tilbage til arbejdsmarkedet, men som en algoritme vil have meget svært ved at tage højde for, siger Naja Holten Møller. 

- Derfor foreslår vi, at man vender bøtten på hovedet, og i stedet ser på, hvordan kunstig intelligens kan bruges til at sikre, at den ledige får så godt og kort et forløb i beskæftigelsessystemet som muligt, fortæller Naja Holten Møller. 

Algoritmer kan forhindre forsinkelser 

Ifølge Naja Holten Møller kan kunstig intelligens have en værdi i forhold at forudsige, om en borger har udsigt til et særligt besværligt forløb i beskæftigelsesystemet. 

- Hvis en sag trækker ud, og borgeren får en følelse af at 'sidde fast' i systemet, så kan det have alvorlige konsekvenser, forklarer Naja Holten Møller. 

- Her kan kunstig intelligens spille en rolle i forhold til at kortlægge mulige faldgruber i forløbet. Hvis borgeren for eksempel på forhånd ved, at der er lang ventetid på en udredning fra arbejdsmedicinsk klinik, så kan det hjælpe med at skabe klarhed over forløbet, tilføjer forskeren. 

Ifølge Naja Holten Møller vil forudsigelser af den karakter dog kræve kunstig intelligens af en anden kvalitet end i dag, fordi algoritmerne bag skal modtage og bearbejde langt mere kompliceret data. 

- Men vi må ikke opgive noget, bare fordi, det er svært. I vores optik må det vigtigste endemål for brugen af kunstig intelligens være at sikre, at borgerne får så godt et forløb i systemet som muligt uden omveje, siger Naja Holten Møller. 

Skal fodres ordentligt

Naja Holten Møller mener, at det er vigtigt med store tekniske ambitioner på den kunstige intelligens vegne. Men det er også vigtigt at erkende, at der er tilfælde, hvor tekonologien kommer til kort. 

- En algoritme er kun så god, som de data, den bliver fodret med. Hvis de data af forskellige årsager er skævvredet eller behæftet med fejl, kan du stå med konklusioner, der i bedste fald er ubrugelige, og i værste fald skadelige, siger Naja Holten Møller. 

Hun peger blandt andet på problemet med, at borgere i visse tilfælde cykler rundt mellem en lang række forskellige sagsbehandlere, før deres sag bliver afgjort. 

Fagbladet 3F har tidligere fortalt historien om stilladsarbejderen Reza Hansen, hvis arbejdsskadesag var igennem hænderne på 32 sagsbehandlere, før den blev afgjort. 

A4 Arbejdsliv har ligeledes beskrevet sagen om 35-årige Catrine Lyneborg fra Glamsbjerg, der i de seneste syv år har været i ressourceforløb efter en rygskade på jobbet. 

Hun har været tilknyttet op mod 20 forskellige sagsbehandlere. 

- Sagsbehandlerne beskriver overfor os, at der er sager, hvor de nærmest må starte forfra, for deres kolleger ikke har haft tid eller ressourcer til at lave den korrekte sagsbehandling, fortæller Naja Holten Møller. 

- Det gør selvsagt sagen svær at håndtere, selv for en erfaren og dygtig sagsbehandler. Men det er også meget svært at få en algoritme til at tage højde for.

- Udfordringen er yderligere, at data kommer fra massevis af andre borgeres sager, som følger den lovgivning som var gældende på det pågældende tidspunkt, men som kan være ændret sidenhen, tilføjer forskeren. 

Må ikke blive politisk våben

Tidligere forsøg med brug af kunstig intelligens og dataprofilering i beskæftigelsessystemet har ikke just været en dans på roser. 

Senest endte et pilotprojekt, hvor 16 kommuner skulle bruge et såkaldt profileringsværktøj - der bruger borgerdata som grundlag for at måle risiko for eksempelvis langtidsledighed - med, at en række kommuner skrottede værktøjet. 

Begrundelsen var, at værktøjet 'efter deres opfattelse er stigmatiserende og derfor ikke hensigtsmæssigt i dialogen med borgeren'.

Ifølge Naja Holten Møller er det afgørende, at fremtidig brug af kunstig intelligens på landets jobcentre bliver drevet med udgangspunkt i sagsbehandlerne og borgernes hverdag. 

- Hvis man har et politisk mål om, at det eneste succeskriterie for en ledig er at komme i arbejde, så kan det jo være besnærende at opfinde en algoritme, der fokuserer på det. 

- Problemet er bare, at man risikerer at stå med et værktøj, som groft forsimpler borgernes ofte komplekse problemstillinger, og som sagsbehandlerne i sidste ende derfor ikke vil bruge, siger Naja Holten Møller. 

- Men kan man i stedet bruge algoritmen som hjælp til, at borgerne hurtigst og bedst muligt kommer igennem deres forløb på jobcentret, så er der efter vores opfattelse langt større potentiale for brugen af kunstig intelligens i beskæftigelsessystemet, mener forskeren.