Projekt visar på risk för att användning av AI försämrar jämställdheten

DIGITALISERING2022-10-03

Jämställdhetsmyndigheten varnar för att användning av artificiell intelligens, AI, riskerar att försämra jämställdheten. Slutsatsen dras efter ett projekt där Försäkringskassans och Skatteverkets AI-verktyg har granskats.

Många myndigheter använder sig av AI för att utveckla servicen till medborgarna, konstaterar Jämställdhetsmyndigheten i ett pressmeddelande. Men kunskapen om hur användningen av AI riskerar att leda till ojämställdhet behöver ökas, framhåller myndigheten.

Som exempel lyfter myndigheten fram ett AI-baserat verktyg som var avsett att nå ut till potentiella jobbkandidater genom att läsa tillgänglig information på internet. Men det visade sig att verktyget systematiskt gynnade de kandidater som beskrev sig själva med verb som oftare återfanns i manliga ingenjörers CV. Det illustrerar enligt Jämställdhetsmyndigheten hur AI kan bidra till ojämställdhet när den data som används inte motsvarar verkligheten, utan är skev.

Ett syfte med myndighetens projekt har varit att utforska hur införandet av AI i statlig förvaltning kan bidra till att uppfylla de jämställdhetspolitiska målen. Ett annat syfte har varit att bidra till ett lärande för statliga myndigheter att främja jämställdhet genom användning av AI.

Försäkringskassan använder ett AI-verktyg för att identifiera funktionsnedsättning och aktivitetsbegränsning i medicinska underlag. I projektet har en rad risker identifierats. Bland annat gick det att se att jämställdhetsperspektivet inte kom med i analyser och bedömningar. Slutsatsen är att det behövs ett uttalat jämställdhetsperspektiv i riktlinjer och rutiner kopplade till införandet av AI, och att personal med särskild kompetens inom jämställdhet behöver involveras i utvecklingen.

Skatteverket använder AI för att klassificera text som deklaranter skriver i fältet ”övriga upplysningar” i inkomstdeklarationen för att kunna fördela ärenden till rätt handläggare. Genom projektet har man kunnat identifiera risken att jämställdhetsperspektivet inte tillvaratas tillräckligt i existerande rutiner, processer och styrning kopplat till utvecklingen av AI-lösningar.

Detta är en nyhetsartikel. Publikts nyhetsrapportering ska vara saklig och korrekt. Tidningen har en fri och självständig ställning gentemot sin ägare, Fackförbundet ST, och utformas enligt journalistiska principer samt enligt spelreglerna för press, radio och TV.

Typ
Vet du mer om det ämne som artikeln handlar om, eller om du har tips till redaktionen i något annat ämne, kan du lämna ditt tips här. Du kan också skicka ett mejl till redaktionen.
Om du anser att artikeln innehåller fel, beskriv här vad dessa fel består i. Du kan också skicka ett mejl till redaktionen.

Om du vill debattera det ämne artikeln handlar om, kan du skicka in en debattartikel till Publikt för publicering under vinjetten Debatt. Publikt publicerar inte anonyma debattinlägg, du måste därför alltid ange ditt namn och dina kontaktuppgifter. Redaktionen förbehåller sig rätten att korta och redigera insända debattartiklar. Skicka ditt inlägg som ett Worddokument på mejl till redaktionen.

Innehållet i detta fält är privat och kommer inte att visas offentligt.
CAPTCHA