ARTIKEL
Människor – mästarna inte tjänarna till AI?

Hur vi förblir etiska och opartiska, och undviker diskriminering på arbetsplatsen.

trond aas ai makayla

Artificiell intelligens är ett briljant affärsverktyg som har potentialen att spara oräkneliga timmar av repetitivt arbete, vilket frigör människor att utföra arbete av större värde, större intresse och av högre kreativt värde. Det är helt klart här för att stanna.

IT-handelsorganet Comptia1 beräknar att:

  • 91% av de ledande företagen investerar i AI
  • 97% av mobilanvändarna använder AI-drivna röstassistenter
  • Över 4 miljarder enheter fungerar redan på AI-drivna röstassistenter
  • 40% av människor använder en AI-driven röstsökningsfunktion varje dag

McKinsey rapporterar att AI kan bidra med ytterligare 13 biljoner dollar till global BNP fram till 20302, eftersom automatisering ökar produktiviteten och främjar innovation inom produkter och tjänster.

Det är på väg att bli riktigt personligt också.

 

AI förändrar personliga och professionella liv

Det verkar troligt att AI kommer att ha mycket mer inflytande på hur människor organiserar sitt privatliv såväl som sitt arbete. Bill Gates hävdar att individualiserade digitala assistenter – kända som agenter – kommer att lära sig tillräckligt mycket om våra liv, personligheter och preferenser för att tillhandahålla en tjänst som är unik för var och en av oss.

”En agent kommer att kunna hjälpa dig med alla dina aktiviteter om du vill det,”
han skriver.3

”Med tillåtelse att följa dina onlineinteraktioner och platser i den verkliga världen kommer det att utveckla en kraftfull förståelse för de människor, platser och aktiviteter du engagerar dig i. Den kommer att omfatta både dina personliga och yrkesmässiga relationer, hobbyer, preferenser och tidsschema. Du väljer hur och när den träder in för att hjälpa till med något eller be dig fatta ett beslut.”

Så långt så bra – men det är inte hela historien.

 

Verkliga effekter av AI

AI är fortfarande begränsad i vad den kan göra. Den är också begränsad i vad den ska göra.

Avgörande är att AI bara kan fungera inom de datamängder som den har tillgång till. Det som kan verka som originalarbete som strömmar ut ur en app är inget annat än en destillering av information som redan finns i världens digitala hjärnbank.

Djupt imponerande, ja. Men också djupt bristfällig.

Det återspeglar fördomar, och de kan förstärkas med varje ny iteration.

AI är helt neutral. Det har ingen etisk mening. Den plagierar. Den uppfinner. Den hallucinerar och föreslår sekvenser av fakta och händelser som inte har något samband med verkligheten. Om den inte kan hitta det verkliga exemplet du efterfrågar kan det erbjuda ett hypotetiskt fall – med oroande konsekvenser för den slarviga eller lata användaren som utger det som ett verkligt exempel och skickar det ut i världen.

 

Fem områden med potentiell fördom i AI

Detta har verkliga effekter, vilket innebär ett hot om partiskhet och diskriminering i en organisations verksamhet. Detta är redan tydligt inom fem områden av AI:s användning:

1. Ansiktsigenkänning

Vissa system har visat sig vara mindre exakta när de identifierar ansikten på kvinnor eller personer med mörkare hud jämfört med män eller motsvarigheter med ljusare hy.

En studie av Joy Buolamwini, från MIT Media Lab, och Timnit Gebru, tidigare forskare på Microsoft4, avslöjade stora skillnader i noggrannheten hos ansiktsigenkänningssystem baserat på kön och hudtyp.

2. Förutsägande polisarbete

Har kritiserats för att vidmakthålla och till och med förstärka existerande partiskhet i polisdata. Om historiska arresteringsdata är partiska kan AI-modellen oavsiktligt rikta sig mot specifika samhällen, vilket leder till överpolis och förstärkande stereotyper.

3. Arbetsrekrytering

AI-drivna anställningsverktyg har blivit föremål för granskning för köns- och rasfördomar. Om historiska anställningsdata återspeglar en snedställd arbetsstyrka, kan AI förvärra partiskhet genom att gynna vissa grupper, vilket leder till diskriminering. Till och med Amazon5, en av de stora pionjärerna och förespråkarna för AI, har erkänt att dess egna processer har påverkats. Under 2018 rapporterades det att Amazon hade utvecklat maskininlärning för att bedöma CV:n. Den tränades på CV:n som lämnats in under en 10-årsperiod då de flesta sökande var män. Som ett resultat av detta har systemet enligt uppgift gynnat CV:n som inkluderade manscentrerat språk och straffade de som inkluderade termer som vanligare förekommer i CV:n som lämnats in av kvinnor. Amazon övergav verktyget efter att ha upptäckt fördomen.

4. Kreditpoäng

Om historiska utlåningsdata är partiska kan AI-algoritmer resultera i diskriminerande utlåningsmetoder som påverkar vissa ras- eller socioekonomiska grupper. National Bureau of Economic Research publicerade en studie ”Consumer-Lending Discrimination in the FinTech Era, 20186, baserad på forskning från Stanford University, Microsoft Research och University of California, Irvine. Den fann att sökande från minoriteter, särskilt svarta och latinska kunder, var mer benägna att debiteras högre ränta än andra kunder.

5. Chatbots och virtuella assistenter

AI-drivna botar och virtuella assistenter kan återspegla könsfördomar i sina svar. Vissa har kritiserats för att reagera olämpligt eller förstärka stereotyper. 2016 lanserade Microsoft en chatbot, Tay, för att interagera på sociala medier. Det varade mindre än en dag innan det var tvungen att stängas av7, eftersom det absorberade och upprepade rasistiskt och kränkande språk från användare.

Inget av detta betyder att vi ska tacka AI för dess tjänster och dra ur kontakten med en kraftfull innovation som redan är fast inbäddad i arbetsmetoder och processer. Vi behöver inte lägga maskininlärning på skrothögen av oönskade eller onödiga uppfinningar – tillsammans med Google Glass, Segwayen – eller Bill Gates kärleksfullt hånade proto-digitala assistent, Clippy.

Det har för länge sedan passerat vändpunkten för acceptans till det mainstreama-livet. Amazon Web Services definierar generativ AI – skapandet av nya bilder, media och grafik – som den snabbast växande trenden inom AI. ChatGPT – förmodligen den mest kända AI-plattformen – nådde en miljon användare på bara fem dagar. Det kan jämföras med 75 dagar för Instagram och 150 dagar för Spotify.

Så även om det var möjligt att stoppa andan tillbaka i flaskan, är det inte där vi är.

 

Attensis användning av AI

Attensi och partners får redan verkliga fördelar av tillämpningen av AI inom fem nyckelområden:

1. Översättningar

Anpassar vår utbildning snabbt och enkelt för fler språk runt om i världen.

2. Generera AI-karaktärer

Skapa superrealistiska figurer i avatarstil som ger digitala scenarier en ny nivå av trovärdighet. Ett bra exempel är karaktären Makayla som Attensi har introducerat för världen. Hon är en igenkännbar personlighet, skapad med nya animationsverktyg, röstigenkänning och syntetisk röstgenerering. Du kan ha ett riktigt samtal med Makayla, och hon är en spännande prototyp som vi jobbar på för att utveckla framtida lösningar.

3. Snabbare innehåll

Till exempel: Mata in en PDF och AI kan ställa in 20 flervalsfrågor baserat på innehållet.

4. Skapa dialoger

Generera realistiska interaktioner som gör simuleringar trovärdiga och övertygande.

5. AI röstning

Få digitala karaktärer att låta exakt och övertygande mänskligt, precis som Makayla.

 

Använd AI med omsorg

Vad det betyder är att företag – och privatpersoner för den delen – måste använda AI med försiktighet. Det betyder att människor måste se till att det mänskliga elementet finns kvar i förarsätet – och att de bör ta med sitt etiska sinne och sin intuition till varje tillämpning av AI. Och kritiskt, de måste förbli herre och inte tjänare av denna teknik.

Allt talar om vikten av noggrann design och vaksam granskning för att mildra fördomar i AI-system. Det kräver främjande av en kultur där etik alltid går före snabbhet och bekvämlighet. Det är en moralisk fråga, ja. Men det är också en affärsfråga – eftersom alla organisationer med ambitioner om långsiktig hållbarhet måste värna om sitt rykte nitiskt, så att människor fortfarande respekterar dem och vill handla med dem och arbeta för dem.

Att ta itu med den potentiella risken för diskriminering är avgörande för att säkerställa rättvisa resultat och för att etablera AI som en bestående och värdefull fördel för företag och mänskligheten.

Intresserad av att lära dig mer om AI? Lyssna på vår VD, Trond Aas och Muhammad Sajid, Senior Solution Architect på Amazon Web Services diskutera framtiden för AI och hur det blir en del av våra liv.

Är du redo att ta din träning till nästa nivå?

Du kanske också är intresserad av

Hur AI blir en del av vårt dagliga liv och hur framtiden ser ut

Reskilling är absolut nödvändigt för finansiella institutioner 2024

Mätning av effekterna av företags lärande och utveckling

Gamification: Botemedlet för alla dina behov av läkemedelsutbildning

Källor

    1. 30+ Artificial Intelligence Statistics and Facts for 2023, connect.comptia.org/blog/artificial-intelligence-statistics-facts#:~:text=97%25%20of%20mobile%20users%20are,at%20least%20once%20every%20day
    2. Economic impacts of artificial
      intelligence (AI), europarl.europa.eu/RegData/etudes/BRIE/2019/637967/EPRS_BRI(2019)637967_EN.pdf
    3. AI is about to completely change how you use computers (and upend the software industry), linkedin.com/pulse/ai-completely-change-how-you-use-computers-upend-software-bill-gates-brvsc/
    4. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification, proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf
    5. Amazon scraps secret AI recruiting tool that showed bias against women, reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G/
    6. Consumer-Lending Discrimination in the FinTech Era, nber.org/papers/w25943
    7. Tay, Microsoft’s AI chatbot, gets a crash course in racism from Twitter, theguardian.com/technology/2016/mar/24/tay-microsofts-ai-chatbot-gets-a-crash-course-in-racism-from-twitter