Projekt visar på risk för att användning av AI försämrar jämställdheten

DIGITALISERING2022-10-03
Jämställdhetsmyndigheten varnar för att användning av artificiell intelligens, AI, riskerar att försämra jämställdheten. Slutsatsen dras efter ett projekt där Försäkringskassans och Skatteverkets AI-verktyg har granskats.

Många myndigheter använder sig av AI för att utveckla servicen till medborgarna, konstaterar  Jämställdhetsmyndigheten i ett pressmeddelande. Men kunskapen om hur användningen av AI riskerar att leda till ojämställdhet behöver ökas, framhåller myndigheten.

Som exempel lyfter myndigheten fram ett AI-baserat verktyg som var avsett att nå ut till potentiella jobbkandidater genom att läsa tillgänglig information på internet. Men det visade sig att verktyget systematiskt gynnade de kandidater som beskrev sig själva med verb som oftare återfanns i manliga ingenjörers CV. Det illustrerar enligt Jämställdhetsmyndigheten hur AI kan bidra till ojämställdhet när den data som används inte motsvarar verkligheten, utan är skev.

Ett syfte med myndighetens projekt har varit att utforska hur införandet av AI i statlig förvaltning kan bidra till att uppfylla de jämställdhetspolitiska målen. Ett annat syfte har varit att bidra till ett lärande för statliga myndigheter att främja jämställdhet genom användning av AI.

Försäkringskassan använder ett AI-verktyg för att identifiera funktionsnedsättning och aktivitetsbegränsning i medicinska underlag. I projektet har en rad risker identifierats. Bland annat gick det att se att jämställdhetsperspektivet inte kom med i analyser och bedömningar. Slutsatsen är att det behövs ett uttalat jämställdhetsperspektiv i riktlinjer och rutiner kopplade till införandet av AI, och att personal med särskild kompetens inom jämställdhet behöver involveras i utvecklingen.

Skatteverket använder AI för att klassificera text som deklaranter skriver i fältet ”övriga upplysningar” i inkomstdeklarationen för att kunna fördela ärenden till rätt handläggare. Genom projektet har man kunnat identifiera risken att jämställdhetsperspektivet inte tillvaratas tillräckligt i existerande rutiner, processer och styrning kopplat till utvecklingen av AI-lösningar.

Detta är en nyhetsartikel. Publikts nyhetsrapportering ska vara saklig och korrekt. Tidningen har en fri och självständig ställning gentemot sin ägare, Fackförbundet ST, och utformas enligt journalistiska principer samt enligt spelreglerna för press, radio och TV.

Innehållet i detta fält är privat och kommer inte att visas offentligt.
Genom att trycka på "Skicka" godkänner jag att mitt inlägg kan publiceras på webben och i papperstidningen. Redaktionen förbehåller sig rätten att granska och redigera kommentarer på samma sätt som insändare. Publicering sker först sedan inlägget granskats. Detta sker normalt under kontorstid. Publikt publicerar inte inlägg som innehåller personangrepp. Inte heller publiceras inlägg som handlar om något annat än ämnet för artikeln.