Hvordan vi skal klare å forbli etiske og upartiske, og unngå diskriminering på arbeidsplassen ved bruk av AI.
Kunstig intelligens (KI eller AI) er et fantastisk forretningsverktøy som har potensialet til å spare oss for utallige timer med repetitivt arbeid. Samtidig kan AI frigjøre tid og kapasitet til å fokusere på viktigere oppgaver. Det er helt klart at AI er her for å bli.
Amerikanske Comptia1 beregner at:
Samtidig rapporterer McKinsey at AI kan bidra med ytterligere 13 billioner dollar til globalt BNP innen 20302, ettersom automatisering øker produktiviteten og driver innovasjon i produkter og tjenester.
AI er på vei til å bli virkelig personlig også.
Det virker sannsynlig at AI vil spille en stor rolle i måten folk organiserer både privatliv og arbeidsliv på.
Bill Gates antyder at individualiserte digitale assistenter (synonym: virtuelle assistenter) vil klare å lære seg nok om livene, personlighetene og preferansene våre til å tilby en tjeneste som er helt unik for hver enkelt av oss.
«En digital assistent vil kunne hjelpe deg med alle aktivitetene dine, hvis du ønsker det,» skriver han.3
«Med tillatelse til å følge interaksjonene dine online og i virkeligheten, vil den digitale assistenten utvikle en dyp forståelse av menneskene, stedene og aktivitetene du engasjerer deg i. Den vil forstå private og arbeidsrelaterte relasjoner, hobbyer, preferanser og timeplaner. Du vil kunne velge hvordan og når den skal gripe inn for å hjelpe med noe eller be deg ta en beslutning.»
Så langt høres dette positivt ut – men det er ikke hele historien.
AI er fortsatt begrenset i hva den kan gjøre. Den er også begrenset i hva den bør gjøre.
Det er helt avgjørende at AI bare kan operere innenfor datamengdene den har tilgang til. Det som kan virke som arbeid AI har gjort selv, er ingenting annet enn en destillasjon av informasjon som allerede finnes på internett.
Dypt imponerende, ja. Men også mangelfult og feilaktig.
AI reflekterer fordommer, som kan forsterkes med hver ny iterasjon.
AI er fullstendig nøytral. Den mangler etisk sans og kan både plagiere, oppfinne og hallusinere svar. AI kan til og med foreslå sekvenser av fakta og hendelser som ikke har noen rot i virkeligheten. Hvis den ikke kan finne det faktiske eksempelet du spør etter, kan den tilby et hypotetisk svar – med bekymringsfulle konsekvenser for den uforsiktige eller late personen som presenterer det AI har sagt som fakta.
Som nevnt over har AI sine begrensinger og mangler som kan ha alvorlige konsekvenser. AI bringer med seg en trussel om fordommer og diskriminering i organisasjoners aktivitet. Dette er allerede mulig å se på fem områder der AI blir brukt:
Noen systemer har vist seg å være mindre nøyaktige når de identifiserer kvinnelige ansikter eller personer med mørkere hud, sammenlignet med menn eller lysere hudfarger.
En studie av Joy Buolamwini fra MIT Media Lab og Timnit Gebru, tidligere forsker ved Microsoft4, avdekket store forskjeller i nøyaktigheten til ansiktsgjenkjennelsessystemer basert på kjønn og hudtype.
AI har blitt kritisert for å opprettholde og til og med forsterke eksisterende fordommer i data som omhandler politiarbeid og rettshåndhevelse. Hvis den historiske arrestasjonsdataen er fordomsfull, kan AI-modellen utilsiktet rette seg mot spesifikke samfunn, noe som fører til over-politisering og forsterkning av stereotyper.
AI-drevne rekrutteringsverktøy har blitt utsatt for granskning på grunn av kjønns- og rasefordommer. Hvis historiske ansettelsesdata gjenspeiler en skjev fordeling, kan AI forverre fordommer ved å favorisere visse grupper, noe som fører til diskriminering.
Selv Amazon5, en av de store pionerene og talsmennene for AI, har innrømmet at deres egne prosesser har blitt påvirket.
I 2018 ble det rapportert at Amazon hadde utviklet maskinlæring for å vurdere CV-er. Den ble trent på CV-er som hadde blitt sendt inn over en 10-års periode, hvor de fleste av søkerne var menn. Som et resultat skal systemet angivelig ha foretrukket CV-er som inkluderte mannsrettet språk og straffet de som inkluderte ord som vanligvis blir funnet i CV-er som er sendt inn av kvinner. Amazon forkastet verktøyet etter å ha oppdaget fordommene.
Hvis den historiske lånedataen er fordomsfull, kan AI-algoritmer føre til enda mer diskriminerende lånepraksiser, som igjen påvirker visse rase- eller sosioøkonomiske grupper. The National Bureau of Economic Research publiserte en studie med tittelen ‘Consumer-Lending Discrimination in the FinTech Era, 2018’ 6, basert på forskning utført av Stanford University, Microsoft Research og University of California, Irvine. Studien fant at søkere med minoritetsbakgrunn, spesielt svarte og latinx-kunder, hadde større sannsynlighet for å bli belastet med høyere renter enn andre kunder.
AI-drevne chatteroboter og virtuelle assistenter kan gjenspeile kjønnsbias i svarene sine. Noen har også blitt kritisert for å svare upassende eller forsterke stereotyper.
I 2016 lanserte Microsoft chatbotten Tay, for å samhandle med brukere på sosiale medier. Den var aktivt i mindre enn én dag før den måtte legges ned7, da den absorberte og gjentok rasistisk og fornærmende språk den hadde plukket opp fra andre brukere.
Dette betyr alikevel ikke at vi ikke skal ta i bruk AI og innovasjonen det bringer med seg. Det er ikke nødvendig å kaste maskinlæring på skraphaugen av uønskede eller unødvendige oppfinnelser – som Google Glass, Segway – eller Bill Gates’ hengivne, men ofte latterliggjorte proto-digitale assistent, Clippy.
AI har for lengst blitt akseptert og tatt inn i varmen av forbukere. Amazon Web Services definerer generativ AI – utviklingen av nye bilder, medier og grafikk – som den raskest voksende trenden innen AI. ChatGPT – kanskje den mest kjente AI-plattformen – nådde én million brukere på bare fem dager, sammenlignet med 75 dager for Instagram og 150 dager for Spotify.
Så selv om det hadde vært mulig å stoppe utviklingen og bruker av AI, er det ikke der vi er.
Sammen med partnerne våre opplever vi store fordeler ved bruk av AI på fem nøkkelområder:
Vi kan oversette og tilpasse opplæringen vår raskere og enklere enn før.
Med AI kan vi utvikle superrealistiske avatarer som gir en ny grad av troverdighet i vår digitale opplæring, raskere. Et utmerket eksempel er karakteren vår, Makayla, som vi nylig introduserte for verden. Hun har en gjenkjennelig personlighet, skapt med nye animasjonsteknikker, stemmegjenkjenning og syntetisk stemmegenerering. Du kan ha en ekte samtale med Makayla, og hun er en spennende prototype som vi jobber med å utvikle for fremtidige løsninger.
For eksempel: Last opp en PDF, og AI kan generere 20 flervalgsoppgaver basert på innholdet.
AI genererer realistiske interaksjoner som gjør simuleringene troverdige og engasjerende.
Hjelper med å få digitale avatarer til å høres ut som ekte mennesker, akkurat som Makayla.
Det betyr at bedrifter – og enkeltpersoner for den saks skyld – må bruke AI med omhu. Vi må sørge for at det menneskelige elementet forblir i førersetet – og at vi tar med oss vår etiske sans og intuisjon hver gang vi bruker AI. Og viktigst av alt, vi må være sjefene og ikke bli tjenerne av denne teknologien.
Alt dette understreker hvor viktig grundig design og årvåken granskning er for å redusere fordommer i AI-systemer. Det krever en kultur der etikk alltid kommer før fart og bekvemmelighet. Det er en moralsk problemstilling, ja. Men det er også en forretningsmessig problemstilling – ettersom hver eneste organisasjoner med ambisjoner om langsiktig bærekraft må ivareta omdømmet sitt nøye, slik at folk fortsatt respekterer dem, ønsker å handle med og vil jobbe for dem.
Derfor er det å ta tak i og håndtere den potensielle faren for diskriminering helt avgjørende for å sikre rettferdige utfall og etablere AI som et varig og verdifullt verktøy for bedrifter og for menneskeheten.
Er du interessert i å lære mer om AI? Lytt til vår Administrerende Direktør, Trond Aas, og Muhammad Sajid, Senior Solution Architect hos Amazon Web Services, diskutere fremtiden for AI og hvordan det blir en integrert del av livene våre.
