Legger vi oss til (u)vaner som blir ulovlige?

Ambisjonen om å være strategisk 

Kunstig intelligens (KI) gir oss omtrent uendelige muligheter. Virksomheter har over de siste årene satset på opplæring og forsøkt å bygge nysgjerrighet, oppmuntre til å endre arbeidsvaner. Mange som jobber med HR løper i hamsterhjulet fortsatt. Men ambisjonene om å jobbe mer strategisk er der hele tiden, det er bare vanskelig å få tid og rom for det. Gjør det at vi lettere griper etter effektiviseringsverktøy uten å ha tenkt oss helt om? 

Lovverket kommer

For nå er det altså et nytt lovverk på trappene, knyttet til KI. Praksis går fort, i en galopperende fart. Om de etiske vurderingene henger med, er et spørsmål til ettertanke. Så er det reguleringene. De kommer, selv om det lar vente på seg som norsk lovgivning. Hva vet vi om det som kommer?

KI-forordningen fra EU vil danne grunnlaget for en kommende norsk lov om kunstig intelligens. Den har disse formålene:

• Sikre at KI utvikles på en trygg og menneskesentrert måte
• Beskytte helse, sikkerhet, grunnleggende rettigheter, demokrati, rettssikkerhet og miljø
• Støtte innovasjon innen KI og styrke det europeiske markedet for KI

Hvorfor skal du bry deg? Dette er viktig fordi muligheter vi får – eller ikke får - i arbeidsmarkedet handler om våre «grunnleggende rettigheter» sett med dette regelverkets øyne. Akkurat som at vi har ytringsfrihet og religionsfrihet, har vi rett til anstendige arbeidsvilkår. Etter norsk arbeidsmiljølov og diskrimineringslov har vi også rett på likebehandling, likeverd og trygge arbeidsforhold. Derfor vil KI-systemer som virksomheter bruker i avgjørelser om ting som relaterer seg til arbeidssituasjonen vår ofte komme med en del ekstra krav etter ny lovgivning. 

Risikopyramide

KI-forordningen bruker en risikobasert tilnærming for å regulere KI. Hvor strenge kravene er, avhenger av hvor mye risiko et KI-system utgjør for mennesker, rettigheter og samfunnet. Dette er det viktigste prinsippet med forordningen. De to høyeste risikonivåene er «uakseptabel» og «høy». Uakseptabel risiko blir kort sagt forbudt. For eksempel sosial scoring utført av offentlige myndigheter, det vil ikke EU ha noe av. 

Høy risiko-kategorien er neste nivå. Forordningen stiller strenge krav som vil bli aktuelle for bruk av KI som havner i denne kategorien. KI-systemer som analyserer jobbsøknader og CV-er, matcher kandidater til stillinger, eller tar beslutninger om forfremmelser, havner fort i kategorien «høy risiko». Dette er altså ikke forbudt – men om du vil bruke det, utløses det en del krav som virksomheten må ha kontroll på. Disse kravene gjelder ikke ennå, men er altså på vei. Og HR Norges radar fanger opp at det foregår en del bruk som vil havne i kategorien for «høy risiko». 

Bruk av KI i ansattprosesser 

Hva har vi fanget opp? På rekrutteringskonferansen i februar spurte vi spesialistene hvordan de brukte KI i rekrutteringsprosessen i dag. Vi fikk blant annet følgende svar:

• Matching av kandidater mot stilling - 1 av 5 forteller at de gjør det
• Screening og sortering av CV-er/søknader - nesten 1 av 5 forteller at de gjør det 
• Analyse og sammenstilling av kandidatdata - nesten 1 av 5 forteller at de gjør det 

Disse resultatene forteller oss at såkalt «høyrisiko» bruk av kunstig intelligens allerede foregår i mange norske virksomheter. Rekruttering er eksplisitt nevnt som eksempel på et «høyrisikoområde» i forordningen, og det er store og viktige nyheter for HR-folk og ledere, etter min vurdering. Men fordi reguleringene fortsatt ikke er innført i Norge, får vi verken den oppmerksomheten eller den ansvarlige bruken de som prøver å lage policy ønsker seg. 

En uheldig cocktail 

De fleste av oss som jobber med HR og ledelse er ikke teknologer. En utfordring nå er en cocktail av flere forhold slik jeg ser det:

1. Kunstig intelligens er så lett tilgjengelig for oss
2. Samtidig har vi ikke noen særlige reguleringer rundt bruken av det
3. De fleste av oss har ikke den dype forståelsen av hvordan outputen blir generert når vi bruker det (teknologiforståelsen)

Når vi rister sammen ingrediensene i denne cocktailen, mener jeg at vi fort bruker KI på måter vi ikke fullt ut forstår. De usynlige forutinntatthetene språkmodellene har er nettopp det, usynlige for oss - med mindre vi graver grundig.  

I tillegg til solide data om bruken av KI på rekrutteringsområdet, har HR Norge også fanget opp at det brukes i nedbemanning og varslingssaker. Dette er ikke nødvendigvis ulovlig etter KI-forordningen, men klart høyrisiko-bruk, fordi utfallene av disse prosessene kan ha store konsekvenser for de menneskene det angår. Derfor er det problematisk at reguleringene forsinkes. Vi har ikke klarhet i når de norske reglene kommer. Vi trenger bevisstgjøringen, veiledningen og ansvarliggjøringen det kan gi. Inntil lovgivningen kommer, finner HR Norges medlemmer mer informasjon i KI-veilederen vi har utviklet med advokater fra Ræder Bing. 

Artikkelen ble første gang publisert i HRmagasinet nr. 4

Trenger du hjelp til å forberede deg på den nye KI-loven?

HR Norge har utviklet en praktisk KI-veileder sammen med advokater fra Ræder Bing. Veilederen gir deg innsikt i AI Act, høyrisiko bruk av KI og hva virksomheten bør gjøre allerede nå. Last den ned her👇