Hur vi förblir etiska och opartiska, och undviker diskriminering på arbetsplatsen.
Artificiell intelligens är ett briljant affärsverktyg som har potentialen att spara oräkneliga timmar av repetitivt arbete, vilket frigör människor att utföra arbete av större värde, större intresse och av högre kreativt värde. Det är helt klart här för att stanna.
IT-handelsorganet Comptia1 beräknar att:
McKinsey rapporterar att AI kan bidra med ytterligare 13 biljoner dollar till global BNP fram till 20302, eftersom automatisering ökar produktiviteten och främjar innovation inom produkter och tjänster.
Det är på väg att bli riktigt personligt också.
Det verkar troligt att AI kommer att ha mycket mer inflytande på hur människor organiserar sitt privatliv såväl som sitt arbete. Bill Gates hävdar att individualiserade digitala assistenter – kända som agenter – kommer att lära sig tillräckligt mycket om våra liv, personligheter och preferenser för att tillhandahålla en tjänst som är unik för var och en av oss.
”En agent kommer att kunna hjälpa dig med alla dina aktiviteter om du vill det,”
han skriver.3”Med tillåtelse att följa dina onlineinteraktioner och platser i den verkliga världen kommer det att utveckla en kraftfull förståelse för de människor, platser och aktiviteter du engagerar dig i. Den kommer att omfatta både dina personliga och yrkesmässiga relationer, hobbyer, preferenser och tidsschema. Du väljer hur och när den träder in för att hjälpa till med något eller be dig fatta ett beslut.”
Så långt så bra – men det är inte hela historien.
AI är fortfarande begränsad i vad den kan göra. Den är också begränsad i vad den ska göra.
Avgörande är att AI bara kan fungera inom de datamängder som den har tillgång till. Det som kan verka som originalarbete som strömmar ut ur en app är inget annat än en destillering av information som redan finns i världens digitala hjärnbank.
Djupt imponerande, ja. Men också djupt bristfällig.
Det återspeglar fördomar, och de kan förstärkas med varje ny iteration.
AI är helt neutral. Det har ingen etisk mening. Den plagierar. Den uppfinner. Den hallucinerar och föreslår sekvenser av fakta och händelser som inte har något samband med verkligheten. Om den inte kan hitta det verkliga exemplet du efterfrågar kan det erbjuda ett hypotetiskt fall – med oroande konsekvenser för den slarviga eller lata användaren som utger det som ett verkligt exempel och skickar det ut i världen.
Detta har verkliga effekter, vilket innebär ett hot om partiskhet och diskriminering i en organisations verksamhet. Detta är redan tydligt inom fem områden av AI:s användning:
Vissa system har visat sig vara mindre exakta när de identifierar ansikten på kvinnor eller personer med mörkare hud jämfört med män eller motsvarigheter med ljusare hy.
En studie av Joy Buolamwini, från MIT Media Lab, och Timnit Gebru, tidigare forskare på Microsoft4, avslöjade stora skillnader i noggrannheten hos ansiktsigenkänningssystem baserat på kön och hudtyp.
Har kritiserats för att vidmakthålla och till och med förstärka existerande partiskhet i polisdata. Om historiska arresteringsdata är partiska kan AI-modellen oavsiktligt rikta sig mot specifika samhällen, vilket leder till överpolis och förstärkande stereotyper.
AI-drivna anställningsverktyg har blivit föremål för granskning för köns- och rasfördomar. Om historiska anställningsdata återspeglar en snedställd arbetsstyrka, kan AI förvärra partiskhet genom att gynna vissa grupper, vilket leder till diskriminering. Till och med Amazon5, en av de stora pionjärerna och förespråkarna för AI, har erkänt att dess egna processer har påverkats. Under 2018 rapporterades det att Amazon hade utvecklat maskininlärning för att bedöma CV:n. Den tränades på CV:n som lämnats in under en 10-årsperiod då de flesta sökande var män. Som ett resultat av detta har systemet enligt uppgift gynnat CV:n som inkluderade manscentrerat språk och straffade de som inkluderade termer som vanligare förekommer i CV:n som lämnats in av kvinnor. Amazon övergav verktyget efter att ha upptäckt fördomen.
Om historiska utlåningsdata är partiska kan AI-algoritmer resultera i diskriminerande utlåningsmetoder som påverkar vissa ras- eller socioekonomiska grupper. National Bureau of Economic Research publicerade en studie ”Consumer-Lending Discrimination in the FinTech Era, 2018” 6, baserad på forskning från Stanford University, Microsoft Research och University of California, Irvine. Den fann att sökande från minoriteter, särskilt svarta och latinska kunder, var mer benägna att debiteras högre ränta än andra kunder.
AI-drivna botar och virtuella assistenter kan återspegla könsfördomar i sina svar. Vissa har kritiserats för att reagera olämpligt eller förstärka stereotyper. 2016 lanserade Microsoft en chatbot, Tay, för att interagera på sociala medier. Det varade mindre än en dag innan det var tvungen att stängas av7, eftersom det absorberade och upprepade rasistiskt och kränkande språk från användare.
Inget av detta betyder att vi ska tacka AI för dess tjänster och dra ur kontakten med en kraftfull innovation som redan är fast inbäddad i arbetsmetoder och processer. Vi behöver inte lägga maskininlärning på skrothögen av oönskade eller onödiga uppfinningar – tillsammans med Google Glass, Segwayen – eller Bill Gates kärleksfullt hånade proto-digitala assistent, Clippy.
Det har för länge sedan passerat vändpunkten för acceptans till det mainstreama-livet. Amazon Web Services definierar generativ AI – skapandet av nya bilder, media och grafik – som den snabbast växande trenden inom AI. ChatGPT – förmodligen den mest kända AI-plattformen – nådde en miljon användare på bara fem dagar. Det kan jämföras med 75 dagar för Instagram och 150 dagar för Spotify.
Så även om det var möjligt att stoppa andan tillbaka i flaskan, är det inte där vi är.
Attensi och partners får redan verkliga fördelar av tillämpningen av AI inom fem nyckelområden:
Anpassar vår utbildning snabbt och enkelt för fler språk runt om i världen.
Skapa superrealistiska figurer i avatarstil som ger digitala scenarier en ny nivå av trovärdighet. Ett bra exempel är karaktären Makayla som Attensi har introducerat för världen. Hon är en igenkännbar personlighet, skapad med nya animationsverktyg, röstigenkänning och syntetisk röstgenerering. Du kan ha ett riktigt samtal med Makayla, och hon är en spännande prototyp som vi jobbar på för att utveckla framtida lösningar.
Till exempel: Mata in en PDF och AI kan ställa in 20 flervalsfrågor baserat på innehållet.
Generera realistiska interaktioner som gör simuleringar trovärdiga och övertygande.
Få digitala karaktärer att låta exakt och övertygande mänskligt, precis som Makayla.
Vad det betyder är att företag – och privatpersoner för den delen – måste använda AI med försiktighet. Det betyder att människor måste se till att det mänskliga elementet finns kvar i förarsätet – och att de bör ta med sitt etiska sinne och sin intuition till varje tillämpning av AI. Och kritiskt, de måste förbli herre och inte tjänare av denna teknik.
Allt talar om vikten av noggrann design och vaksam granskning för att mildra fördomar i AI-system. Det kräver främjande av en kultur där etik alltid går före snabbhet och bekvämlighet. Det är en moralisk fråga, ja. Men det är också en affärsfråga – eftersom alla organisationer med ambitioner om långsiktig hållbarhet måste värna om sitt rykte nitiskt, så att människor fortfarande respekterar dem och vill handla med dem och arbeta för dem.
Att ta itu med den potentiella risken för diskriminering är avgörande för att säkerställa rättvisa resultat och för att etablera AI som en bestående och värdefull fördel för företag och mänskligheten.
Intresserad av att lära dig mer om AI? Lyssna på vår VD, Trond Aas och Muhammad Sajid, Senior Solution Architect på Amazon Web Services diskutera framtiden för AI och hur det blir en del av våra liv.
