København får tilladelse til udvikling af AI-løsning - men ikke drift

KØBENHAVN: Datatilsynet har nu vurderet en anmodning fra Københavns Kommune, om der er hjemmel til udvikling, drift og gentræning af en AI-løsning, der kan identificere borgere med behov for vedligeholdende træning og rehabiliterende indsats. 

AI-løsningen skal bruges som en beslutningsstøtte til sagsbehandlere i sundheds- og omsorgsforvaltningen. Løsningen skal kunne hjælpe de ansatte til at vurdere, hvem der kan få glæde af et genoptræningsforløb. 

Ifølge Datatilsynets vurdering kan kommunen bruge personoplysninger til udvikling og gentræning af løsningen, men ikke som led i driften. Udvikling og gentræning er tilladt, da det ikke har direkte konsekvenser for borgere, ifølge tilsynet.

Tilsynet har højere krav, når det kommer til driften, fordi der ofte er større konsekvenser for borgere, når løsningen er i drift. Tilsynet efterlyser derfor mere klarhed omkring, hvor indgribende en anbefaling eller beslutning fra AI'en er for borgeren. 

Kommunen skal blandt andet også overveje, om den omstændighed, at behandlingen sker ved anvendelse af AI, er forudsigelig og gennemsigtig for borgeren.

Datatilsynets vurdering kan læses her.

apo