Hvem styrer ansattes brukeratferd når KI tar over?

Rettsaken gjelder hvorvidt Meta og Google bevisst har utviklet funksjoner som skaper avhengighet, særlig blant unge brukere. Er dette legitim produktutvikling, eller manipulerende design med helsemessige konsekvenser?

- Selv om saken handler om sosiale medier, treffer dette noe langt større, sier Eirin Larsen, som var tydelig i sin spalte i e24: Vi snakker om et paradigmeskifte, et tidsskille, et «Big Tobacco»-øyeblikk. Nå vet alle at røyking er farlig, og politikerne har endret lover for å beskytte oss. 

Derfor blir du avhengig

De samme grepene som gjorde sosiale medier vanedannende, dukker nå opp i KI-verktøyene medarbeiderne bruker, bare i en ny form. Der sosiale medier bruker scrolling, varsler og algoritmer for å holde på oppmerksomheten, gjør KI det gjennom dialog. Du får svar som tilpasser seg deg, bekrefter deg og holder samtalen i gang.

- Den største forskjellen er at man har en intim én-til-én-dialog med en chatbot. Vi deler mer informasjon og blir mer blottlagt, samtidig som det skjer uten innsyn, sier Larsen, som nylig var på scenen under HR Tech-konferansen med innlegget «Hva kreves når alle i organisasjonen skal bli teknologer?».

Når ansatte bruker KI i arbeidshverdagen, skjer påvirkningen i samtaler ingen andre ser. Det gjør det vanskeligere å forstå hva som faktisk påvirker vurderinger, beslutninger og måten vi jobber på.

Men dette er ikke noe virksomhetene selv styrer.

- Store, viktige valg om denne teknologien tas av andre enn oss. De vektlegger vekst og profitt over hensynet til folk og samfunn.

Det betyr at verktøyene ansatte tar i bruk, også er designet med tydelige mål om bruk og datainnsamling. Og da handler det ikke bare om effektivitet, men også om hvordan brukeratferd formes over tid.

Hva betyr det for ledere og HR?

Her er det lett å gå i den klassiske fellen og enten kaste seg på, eller holde igjen. Begge deler bommer litt.

- Vi kan ikke kjøpe den falske motsetningen mellom å bruke KI tankeløst og å ikke bruke KI. Vi må lære oss masse for å ta gode valg, finne muligheter og avdekke risiko, sier Larsen.

I praksis betyr det at virksomheter må ta mer aktive valg om hvordan KI brukes. Hva gir faktisk verdi? Hvor går grensene? Og hvordan utvikler ansatte god dømmekraft i møte med verktøyene? 

Samtidig kan ikke dette løses fra toppen alene.

- Ingen leder kjenner organisasjonen godt nok til å kartlegge alle bruksområder. Alle må med, og det å tilrettelegge for læring og innovasjon er et felles ansvar, påpeker Larsen.

For HR betyr det å ta en tydelig rolle i å strukturere læring, dele erfaringer og bidra til at organisasjonen utvikler en mer bevisst bruk av KI.

KI-reguleringen kommer, men ansvaret er her allerede

EU jobber med AI Act, som også vil påvirke Norge, men tempoet i teknologisk utvikling er høyere enn tempoet i reguleringen. Dermed havner mye av ansvaret hos virksomhetene selv. Spørsmålet er ikke om medarbeiderne kommer til å bruke KI. Det gjør de allerede. Spørsmålet er hvem som former brukeratferden deres, og om dere har tatt stilling til det.

Nytt medlemsgode! Den nye KI-veilederen er nå tilgjengelig for deg som er medlem i HR Norge. Her får du innsikt i hva som kommer, og hvordan du kan forberede virksomheten på ny lovgivning. 

Se webinaret «Bruk KI-veilederen til å forberede deg på ny lov» og last ned veilederen her! 👇