Kunstig intelligens – ekte diskriminering

Først publisert i Digi.no den 20. november 2023.

Vil KI bidra til mer eller mindre diskriminering i arbeidslivet, og hvilke implikasjoner vil EUs regelverk for KI ha for bruken? 

Oppsummert:

• KI skaper nye muligheter i arbeidslivet, men det fører også med seg etiske og sosiale problemstillinger som må håndteres.
• Håpet om at KI skulle fremme mangfold og likestilling i forbindelse med rekruttering er svekket. Forskning viser at det kan bidra til mer diskriminering.
• Arbeidsgivere som setter i gang med et godt prosjekt før faktisk implementering av KI vil sikre mangfold, hindre diskriminering og overholdelse av EUs AI Act.

Arbeidslivet står i en tid der KI påvirker flere og flere områder. Dette gir nye muligheter, men stiller også nye krav. Et kjernespørsmål er om teknologien underbygger eller undergraver viktige samfunnsgoder.

Dette er en bekymring i store deler av næringslivet: Nær halvparten av alle spurte CEO-er (1200 respondenter) i EYs globale Outlook Report svarte at det at det må gjøres mer for å håndtere etiske og sosiale problemstillinger som KI fører med seg. 

Like eller ulike muligheter

En problemstilling som angår oss alle, er om vi har like muligheter for deltakelse i arbeidslivet uavhengig av for eksempel kjønn, etnisitet, nedsatt funksjonsevne, seksuell orientering eller livssyn.

Selv om diskriminering er ulovlig etter likestillings- og diskrimineringsloven, viser praksis dessverre at mulighetene ikke er likt fordelt. Forskning viser at mens enkelte har medvind inn i arbeidslivet, har andre en merkbar motbør. Det kan være i form av fordommer, som for eksempel at jobbsøkere i rullestol må søke dobbelt så mange jobber for å komme til intervju som andre, arbeidssøkere som har hatt psykiske helseproblemer møtes med skepsis, eller at søkere med utenlandsklingende navn har lavere sjanse for å få komme på intervju enn søkere med tradisjonelle norske navn.

Et spørsmål som reiser seg i sammenheng med KIs inntoget i arbeidslivet, er om teknologien vil bidra til å fremme mangfold og likestilling, eller om den vil opprettholde eller til og med forsterke eksisterende diskriminering.

Optimismen har fått seg en knekk

Mange er optimister om hva teknologien kan hjelpe oss med. Eksempelvis håper mange at KI kan sikre objektive vurderinger av arbeidssøker kun med søkelys på kandidatens kompetanse. Denne optimismen har likevel fått seg en knekk: Forskning fra Cambridge University på KI brukt i rekruttering har vist at teknologien kan bidra til mer diskriminering og sementering av fordommer.

En årsak til dette er at KI trenes på eksisterende data hentet fra verden slik den er, med diskriminering og fordommer. For eksempel vil historiske data vise en tung overvekt av menn som er toppledere og at få tech-grundere med mørkere hudfarge får finansiering fra venturefond. Disse dataene betyr ikke at menn er mest egnet som ledere eller at hudfarge har sammenheng med dyktighet innen teknologiutvikling.

Det skyldes snarere historisk diskriminering som har sementert seg. Denne sammenhengen ser ikke nødvendigvis teknologien. KI endrer ikke verden fra der den er til dit vi ønsker at den skal være, uten at vi høyner kunnskapen om ubevisste fordommer, høyner risikoen for å bli tatt i brudd på diskrimineringsloven og gjør sanksjonene kraftigere.       

Høyrisikobruk av KI

Dette er en del av bakteppet for EUs nye regelverk for bruk av kunstig intelligens. EUs AI Act vil legge føringer på bruk av KI i sammenheng med rekruttering og ansettelse. Bruk av KI til rekruttering vil bli ansett som såkalt høyrisikobruk av KI. Dette kan virke forvirrende, men skyldes at nettopp slik bruk vil påvirke individets grunnleggende rettigheter – som adgangen til arbeid.

Brukt godt kan KI fremme ikke-diskriminerende ansettelser, men kompleksiteten ved KI og kvaliteten på tilgjengelig data kan gjøre det vanskelig for arbeidsgiver å forstå systembeslutningene. Dermed risikerer man ikke å forstå kvaliteten på outputen som går inn i eget beslutningsgrunnlag.

Dette blir kritisk under AI Act, hvor bruk av KI som klassifiseres som høyrisiko, må oppfylle strenge krav til «good governance» for å unngå et tungt sanksjonsapparat. Her vil de som setter i gang et godt prosjekt før implementering av KI, kunne skille seg ut og sikre en retning videre som både sikrer mangfold, hindrer diskriminering, sikrer overholdelse av EUs strenge regelverk når det kommer og gir gevinstene teknologien lover innen effektivisering og forbedring av prosesser.