ARTIKKEL
Mennesker – sjefene av og ikke tjenerne til AI?

Hvordan vi skal klare å forbli etiske og upartiske, og unngå diskriminering på arbeidsplassen ved bruk av AI.

trond aas ai makayla

Kunstig intelligens (KI eller AI) er et fantastisk forretningsverktøy som har potensialet til å spare oss for utallige timer med repetitivt arbeid. Samtidig kan AI frigjøre tid og kapasitet til å fokusere på viktigere oppgaver. Det er helt klart at AI er her for å bli.

Amerikanske Comptia1 beregner at:

  • 91% av ledende bedrifter investerer i AI
  • 97% av mobilbrukere bruker AI-drevne taleassistenter
  • Mer enn 4 milliarder enheter jobber allerede med AI-drevne taleassistenter
  • 40% av mennesker bruker en AI-drevet tale-søkefunksjon hver dag

Samtidig rapporterer McKinsey at AI kan bidra med ytterligere 13 billioner dollar til globalt BNP innen 20302, ettersom automatisering øker produktiviteten og driver innovasjon i produkter og tjenester.

AI er på vei til å bli virkelig personlig også.

 

AI påvirker både privatliv og arbeidsliv

Det virker sannsynlig at AI vil spille en stor rolle i måten folk organiserer både privatliv og arbeidsliv på.

Bill Gates antyder at individualiserte digitale assistenter (synonym: virtuelle assistenter) vil klare å lære seg nok om livene, personlighetene og preferansene våre til å tilby en tjeneste som er helt unik for hver enkelt av oss.

«En digital assistent vil kunne hjelpe deg med alle aktivitetene dine, hvis du ønsker det,» skriver han.3

«Med tillatelse til å følge interaksjonene dine online og i virkeligheten, vil den digitale assistenten utvikle en dyp forståelse av menneskene, stedene og aktivitetene du engasjerer deg i. Den vil forstå private og arbeidsrelaterte relasjoner, hobbyer, preferanser og timeplaner. Du vil kunne velge hvordan og når den skal gripe inn for å hjelpe med noe eller be deg ta en beslutning.»

Så langt høres dette positivt ut – men det er ikke hele historien.

 

De virkelige konsekvensene ved bruk av AI

AI er fortsatt begrenset i hva den kan gjøre. Den er også begrenset i hva den bør gjøre.

Det er helt avgjørende at AI bare kan operere innenfor datamengdene den har tilgang til. Det som kan virke som arbeid AI har gjort selv, er ingenting annet enn en destillasjon av informasjon som allerede finnes på internett.

Dypt imponerende, ja. Men også mangelfult og feilaktig.

AI reflekterer fordommer, som kan forsterkes med hver ny iterasjon.

AI er fullstendig nøytral. Den mangler etisk sans og kan både plagiere, oppfinne og hallusinere svar. AI kan til og med foreslå sekvenser av fakta og hendelser som ikke har noen rot i virkeligheten. Hvis den ikke kan finne det faktiske eksempelet du spør etter, kan den tilby et hypotetisk svar – med bekymringsfulle konsekvenser for den uforsiktige eller late personen som presenterer det AI har sagt som fakta.

 

Fem områder med potensielle fordommer i AI

Som nevnt over har AI sine begrensinger og mangler som kan ha alvorlige konsekvenser. AI bringer med seg en trussel om fordommer og diskriminering i organisasjoners aktivitet. Dette er allerede mulig å se på fem områder der AI blir brukt:

1. Ansiktsgjenkjenning

Noen systemer har vist seg å være mindre nøyaktige når de identifiserer kvinnelige ansikter eller personer med mørkere hud, sammenlignet med menn eller lysere hudfarger.

En studie av Joy Buolamwini fra MIT Media Lab og Timnit Gebru, tidligere forsker ved Microsoft4, avdekket store forskjeller i nøyaktigheten til ansiktsgjenkjennelsessystemer basert på kjønn og hudtype.

2. Prediktivt politiarbeid

AI har blitt kritisert for å opprettholde og til og med forsterke eksisterende fordommer i data som omhandler politiarbeid og rettshåndhevelse. Hvis den historiske arrestasjonsdataen er fordomsfull, kan AI-modellen utilsiktet rette seg mot spesifikke samfunn, noe som fører til over-politisering og forsterkning av stereotyper.

3. Ansettelse og rekruttering

AI-drevne rekrutteringsverktøy har blitt utsatt for granskning på grunn av kjønns- og rasefordommer. Hvis historiske ansettelsesdata gjenspeiler en skjev fordeling, kan AI forverre fordommer ved å favorisere visse grupper, noe som fører til diskriminering.

Selv Amazon5, en av de store pionerene og talsmennene for AI, har innrømmet at deres egne prosesser har blitt påvirket.

I 2018 ble det rapportert at Amazon hadde utviklet maskinlæring for å vurdere CV-er. Den ble trent på CV-er som hadde blitt sendt inn over en 10-års periode, hvor de fleste av søkerne var menn. Som et resultat skal systemet angivelig ha foretrukket CV-er som inkluderte mannsrettet språk og straffet de som inkluderte ord som vanligvis blir funnet i CV-er som er sendt inn av kvinner. Amazon forkastet verktøyet etter å ha oppdaget fordommene.

4. Kredittscore

Hvis den historiske lånedataen er fordomsfull, kan AI-algoritmer føre til enda mer diskriminerende lånepraksiser, som igjen påvirker visse rase- eller sosioøkonomiske grupper. The National Bureau of Economic Research publiserte en studie med tittelen ‘Consumer-Lending Discrimination in the FinTech Era, 2018’ 6, basert på forskning utført av Stanford University, Microsoft Research og University of California, Irvine. Studien fant at søkere med minoritetsbakgrunn, spesielt svarte og latinx-kunder, hadde større sannsynlighet for å bli belastet med høyere renter enn andre kunder.

5. Chatbots og virtuelle assistenter

AI-drevne chatteroboter og virtuelle assistenter kan gjenspeile kjønnsbias i svarene sine. Noen har også blitt kritisert for å svare upassende eller forsterke stereotyper.

I 2016 lanserte Microsoft chatbotten Tay, for å samhandle med brukere på sosiale medier. Den var aktivt i mindre enn én dag før den måtte legges ned7, da den absorberte og gjentok rasistisk og fornærmende språk den hadde plukket opp fra andre brukere.

Dette betyr alikevel ikke at vi ikke skal ta i bruk AI og innovasjonen det bringer med seg. Det er ikke nødvendig å kaste maskinlæring på skraphaugen av uønskede eller unødvendige oppfinnelser – som Google Glass, Segway – eller Bill Gates’ hengivne, men ofte latterliggjorte proto-digitale assistent, Clippy.

AI har for lengst blitt akseptert og tatt inn i varmen av forbukere. Amazon Web Services definerer generativ AI – utviklingen av nye bilder, medier og grafikk – som den raskest voksende trenden innen AI. ChatGPT – kanskje den mest kjente AI-plattformen – nådde én million brukere på bare fem dager, sammenlignet med 75 dager for Instagram og 150 dager for Spotify.

Så selv om det hadde vært mulig å stoppe utviklingen og bruker av AI, er det ikke der vi er.

 

Attensis bruk av AI

Sammen med partnerne våre opplever vi store fordeler ved bruk av AI på fem nøkkelområder:

1. Oversettelser

Vi kan oversette og tilpasse opplæringen vår raskere og enklere enn før.

2. Generering av AI-karakterer

Med AI kan vi utvikle superrealistiske avatarer som gir en ny grad av troverdighet i vår digitale opplæring, raskere. Et utmerket eksempel er karakteren vår, Makayla, som vi nylig introduserte for verden. Hun har en gjenkjennelig personlighet, skapt med nye animasjonsteknikker, stemmegjenkjenning og syntetisk stemmegenerering. Du kan ha en ekte samtale med Makayla, og hun er en spennende prototype som vi jobber med å utvikle for fremtidige løsninger.

3. Raskere innhold

For eksempel: Last opp en PDF, og AI kan generere 20 flervalgsoppgaver basert på innholdet.

4. Lage dialoger

AI genererer realistiske interaksjoner som gjør simuleringene troverdige og engasjerende.

5. AI-stemmegenerering

Hjelper med å få digitale avatarer til å høres ut som ekte mennesker, akkurat som Makayla.

 

Bruk AI med omhu

Det betyr at bedrifter – og enkeltpersoner for den saks skyld – må bruke AI med omhu. Vi må sørge for at det menneskelige elementet forblir i førersetet – og at vi tar med oss vår etiske sans og intuisjon hver gang vi bruker AI. Og viktigst av alt, vi må være sjefene og ikke bli tjenerne av denne teknologien.

Alt dette understreker hvor viktig grundig design og årvåken granskning er for å redusere fordommer i AI-systemer. Det krever en kultur der etikk alltid kommer før fart og bekvemmelighet. Det er en moralsk problemstilling, ja. Men det er også en forretningsmessig problemstilling – ettersom hver eneste organisasjoner med ambisjoner om langsiktig bærekraft må ivareta omdømmet sitt nøye, slik at folk fortsatt respekterer dem, ønsker å handle med og vil jobbe for dem.

Derfor er det å ta tak i og håndtere den potensielle faren for diskriminering helt avgjørende for å sikre rettferdige utfall og etablere AI som et varig og verdifullt verktøy for bedrifter og for menneskeheten.

Er du interessert i å lære mer om AI? Lytt til vår Administrerende Direktør, Trond Aas, og Muhammad Sajid, Senior Solution Architect hos Amazon Web Services, diskutere fremtiden for AI og hvordan det blir en integrert del av livene våre.

Er du klar for å ta opplæringen din til et nytt nivå?

Du er kanskje også interessert i

Reskilling er helt nødvendig for finansielle institusjoner i 2024

Mørk øl og simuleringer: Attensi gjester Craft Brewery sin Podcast

Attensi og Nick Sandall diskuterer: Endring av tilnærmingen til læring

Kilder

    1. 30+ Artificial Intelligence Statistics and Facts for 2023, connect.comptia.org/blog/artificial-intelligence-statistics-facts#:~:text=97%25%20of%20mobile%20users%20are,at%20least%20once%20every%20day
    2. Economic impacts of artificial
      intelligence (AI), europarl.europa.eu/RegData/etudes/BRIE/2019/637967/EPRS_BRI(2019)637967_EN.pdf
    3. AI is about to completely change how you use computers (and upend the software industry), linkedin.com/pulse/ai-completely-change-how-you-use-computers-upend-software-bill-gates-brvsc/
    4. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification, proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf
    5. Amazon scraps secret AI recruiting tool that showed bias against women, reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G/
    6. Consumer-Lending Discrimination in the FinTech Era, nber.org/papers/w25943
    7. Tay, Microsoft’s AI chatbot, gets a crash course in racism from Twitter, theguardian.com/technology/2016/mar/24/tay-microsofts-ai-chatbot-gets-a-crash-course-in-racism-from-twitter