INSIGHTS
Menschen – die Herrscher, nicht die Diener der KI?

Wie wir ethisch und unbefangen bleiben und Diskriminierung am Arbeitsplatz vermeiden.

Künstliche Intelligenz ist ein brillantes Business-Tool, das zahllose Stunden repetitiver Arbeit einsparen kann und den Menschen die Möglichkeit gibt, wertvollere, interessantere und kreativere Arbeit zu verrichten. Diese Entwicklung wird sich eindeutig fortsetzen.

Der IT-Fachverband Comptia1 hat folgendes errechnet:

  • 91% der führenden Unternehmen investieren in KI
  • 97% der Mobilnutzer verwenden KI-gestützte Sprachassistenten
  • Mehr als 4 Milliarden Geräte funktionieren bereits mit KI-gesteuerten Sprachassistenten
  • 40% der Menschen nutzen täglich eine KI-gestützte Sprachsuchfunktion

McKinsey berichtet, dass KI bis 2030 einen zusätzlichen Beitrag von 13 Billionen Dollar zum weltweiten BIP leisten könnte2, da die Automatisierung die Produktivität steigert und Innovationen bei Produkten und Dienstleistungen vorantreibt.

Und es wird auch sehr persönlich werden.

 

KI verändert Privat- und Berufsleben

Es ist davon auszugehen, dass KI in Zukunft noch stärker in die Gestaltung des Privatlebens und der Arbeit einfließen wird. Bill Gates geht davon aus, dass individualisierte digitale Assistenten – so genannte Agenten – genug über unser Leben, unsere Persönlichkeit und unsere Vorlieben lernen werden, um einen Service zu bieten, der für jeden von uns einzigartig ist.

“Ein Agent wird in der Lage sein, Ihnen bei all Ihren Aktivitäten zu helfen, wenn Sie es wollen”,schreibt er.3

“Mit der Erlaubnis, Ihre Online-Interaktionen und realen Standorte zu verfolgen, wird er ein umfassendes Verständnis der Menschen, Orte und Aktivitäten entwickeln, denen Sie nachgehen. Es wird Ihre persönlichen und beruflichen Beziehungen, Hobbys, Vorlieben und Termine erfassen. Sie entscheiden, wie und wann es eingreift, um Ihnen bei etwas zu helfen oder Sie um eine Entscheidung zu bitten.”

So weit, so gut – doch das ist noch nicht alles.

 

Auswirkungen der KI auf die reale Welt

KI ist in ihren Einsatzmöglichkeiten noch begrenzt. Sie ist auch in dem, was sie tun sollte, eingeschränkt.

Entscheidend ist, dass KI nur innerhalb der Datensätze arbeiten kann, auf die sie Zugriff hat. Was wie eine originelle Arbeit aussieht, die aus einer App herauskommt, ist nichts anderes als eine Zusammenfassung von Informationen, die bereits in der digitalen Datenbank der Welt existieren.

Tief beeindruckend, ja. Aber auch sehr fehlerhaft.

Sie spiegelt Vorurteile wider, die mit jeder neuen Iteration verstärkt werden können.

Die KI ist völlig neutral. Sie hat kein ethisches Empfinden. Sie plagiiert. Sie erfindet. Sie halluziniert, indem sie Abfolgen von Fakten und Ereignissen vorschlägt, die keinen Bezug zur Realität haben. Wenn sie das angefragte reale Beispiel nicht findet, kann sie einen hypothetischen Fall vorschlagen – mit besorgniserregenden Folgen für den unvorsichtigen oder faulen Benutzer, der es als reales Beispiel auffasst und in Umlauf bringt.

 

Fünf Bereiche potenzieller Bias in der KI

Dies hat Auswirkungen auf die reale Welt und birgt die Gefahr von Vorurteilen und Diskriminierung in der Tätigkeit eines Unternehmens. Dies wird bereits in fünf Bereichen der KI-Nutzung deutlich:

1. Gesichtserkennung

Es wurde festgestellt, dass einige Systeme Gesichter von Frauen oder Menschen mit dunklerer Hautfarbe weniger genau erkennen als Gesichter von Männern oder hellhäutigen Personen.

Eine Studie von Joy Buolamwini vom MIT Media Lab und Timnit Gebru, ehemals Forscher bei Microsoft4, zeigte große Unterschiede in der Genauigkeit von Gesichtserkennungssystemen je nach Geschlecht und Hauttyp auf.

2. Prädiktive Polizeiarbeit

Es wurde kritisiert, dass bestehende Vorurteile in Strafverfolgungsdaten fortbestehen und sogar noch verstärkt werden. Wenn historische Verhaftungsdaten voreingenommen sind, kann das KI-Modell unbeabsichtigt auf bestimmte Gemeinschaften abzielen, was zu übermäßiger Polizeiarbeit führt und Stereotypen verstärkt.

3. Personalbeschaffung

KI-gesteuerte Einstellungsinstrumente wurden wegen geschlechts- und rassenspezifischer Diskriminierung unter die Lupe genommen. Wenn historische Einstellungsdaten eine unausgewogene Belegschaft widerspiegeln, kann KI die Voreingenommenheit durch die Bevorzugung bestimmter Gruppen noch verstärken, was zu Diskriminierung führt. Sogar Amazon5, Machine Learning zur Bewertung von Lebensläufen entwickelt hat. Es wurde auf Lebensläufen trainiert, die über einen Zeitraum von 10 Jahren eingereicht wurden, als die meisten Bewerber männlich waren. Infolgedessen bevorzugte das System Berichten zufolge Lebensläufe, die männerzentrierte Sprache enthielten, und benachteiligte diejenigen, die Begriffe enthielten, die eher in Lebensläufen von Frauen zu finden sind. Amazon hat das Tool nach der Entdeckung der Verzerrung wieder eingestellt.

4. Kreditwürdigkeit

Wenn historische Kreditdaten verzerrt sind, können KI-Algorithmen zu diskriminierenden Kreditvergabepraktiken führen, die bestimmte rassische oder sozioökonomische Gruppen betreffen. Das National Bureau of Economic Research veröffentlichte die Studie ‘Consumer-Lending Discrimination in the FinTech Era, 20186, die auf Untersuchungen der Stanford University, Microsoft Research und der University of California, Irvine, beruht. Darin wurde festgestellt, dass für Antragsteller aus Minderheitsgruppen, insbesondere für Schwarze und Latinx-Kunden, mit größerer Wahrscheinlichkeit höhere Zinsen berechnet werden als für andere Kunden.

5. Chatbots und virtuelle Assistenten

KI-gesteuerte Bots und virtuelle Assistenten können in ihren Antworten geschlechtsspezifische Vorurteile widerspiegeln. Einige wurden dafür kritisiert, unangemessen zu reagieren oder Stereotypen zu verstärken. Im Jahr 2016 startete Microsoft den Chatbot Tay, um in sozialen Medien zu interagieren. Es dauerte weniger als einen Tag, bis er abgeschaltet werden musste7, da es rassistische und beleidigende Äußerungen von Nutzern aufnahm und wiederholte.

Nichts davon bedeutet, dass wir der KI für ihre Dienste danken und einer leistungsstarken Innovation, die bereits fest in Arbeitsverfahren und -prozessen verankert ist, den Stecker ziehen sollten. Wir müssen das maschinelle Lernen nicht auf den Schrotthaufen der unerwünschten oder unnötigen Erfindungen werfen – zusammen mit Google Glass, dem Segway oder Bill Gates‘ allseits verpöntem proto-digitalen Assistenten, Clippy.

Sie hat den Wendepunkt der Akzeptanz im Mainstream-Leben längst überschritten. Amazon Web Services definiert generative KI – die Erstellung neuer Bilder, Medien und Grafiken – als den am schnellsten wachsenden Trend in der KI. ChatGPT – die wohl bekannteste KI-Plattform – erreichte in nur fünf Tagen eine Million Nutzer. Zum Vergleich: Instagram brauchte 75 Tage, Spotify 150 Tage.

Selbst wenn es also möglich wäre, den Genie zurück in die Flasche zu sperren, sind wir noch nicht so weit.

 

KI-Einsatz bei Attensi

Attensi und seine Partner profitieren bereits von der KI-Technologie in fünf Schlüsselbereichen:

1. Übersetzungen

Wir können unsere Schulungen schnell und einfach an weitere Sprachen in der ganzen Welt anpassen.

2. Generierung von KI-Charakteren

Erstellung superrealistischer avatarähnlicher Figuren, die digitalen Szenarien ein neues Maß an Glaubwürdigkeit verleihen. Ein gutes Beispiel ist die Figur Makayla, die Attensi der Welt vorgestellt hat. Sie ist eine erkennbare Persönlichkeit, die mit neuen Animationswerkzeugen, Stimmerkennung und synthetischer Stimmerzeugung geschaffen wurde. Man kann mit Makayla ein echtes Gespräch führen, und sie ist ein spannender Prototyp, an dem wir bei der Entwicklung künftiger Lösungen arbeiten.

3. Schnellere Inhaltserstellung

Ein Beispiel: Fügen Sie eine PDF-Datei ein und die KI kann 20 Multiple-Choice-Fragen auf der Grundlage des Inhalts erstellen.

4. Dialoge erstellen

Generierung realistischer Interaktionen, die Simulationen glaubwürdig und fesselnd machen.

5. KI-Voicing

Digitale Charaktere präzise und überzeugend menschlich klingen lassen, genau wie Makayla.

 

KI mit Bedacht einsetzen

Das bedeutet, dass Unternehmen – und natürlich auch Einzelpersonen – KI mit Bedacht einsetzen müssen. Es bedeutet, dass sie sicherstellen müssen, dass das menschliche Element im Mittelpunkt steht – und dass sie ihren ethischen Sinn und ihre Intuition in jede Anwendung von KI einbringen sollten. Und vor allem müssen sie der Herrscher und nicht der Diener dieser Technologie sein.

All dies zeigt, wie wichtig ein sorgfältiges Design und eine aufmerksame Prüfung sind, um die Voreingenommenheit von KI-Systemen zu verringern. Es erfordert die Förderung einer Kultur, in der Ethik immer vor Geschwindigkeit und Bequemlichkeit kommt. Das ist eine moralische Frage, ja. Aber es ist auch eine geschäftliche Frage, denn jedes Unternehmen, das langfristig Bestand haben will, muss seinen Ruf sorgfältig schützen, damit die Menschen es weiterhin respektieren und mit ihm handeln und für es arbeiten wollen.

Die potenzielle Gefahr der Diskriminierung muss unbedingt bekämpft werden, um faire Ergebnisse zu gewährleisten und KI als dauerhaften und wertvollen Nutzen für die Wirtschaft und die Menschheit zu etablieren.

Möchten Sie mehr über KI erfahren? Hören Sie sich an, wie unser CEO Trond Aas und Muhammad Sajid, Senior Solution Architect bei Amazon Web Services, über die Zukunft der KI diskutieren und wie sie Teil unseres Lebens wird.

Sind Sie bereit, Ihr Training auf das nächste Level zu bringen?

Das könnte Sie auch interessieren

Das Gastgewerbe ist kaputt – ist richtiges Training die Rettung?

New Work Reloaded: Spielend zum Erfolg in der Arbeitswelt der Zukunft

Wie KI Teil unseres täglichen Lebens wird und was die Zukunft bereithält

Warum Reskilling von Mitarbeitenden in Finanzinstitutionen im Jahr 2024 notwendig ist

Quellen

    1. 30+ Artificial Intelligence Statistics and Facts for 2023, connect.comptia.org/blog/artificial-intelligence-statistics-facts#:~:text=97%25%20of%20mobile%20users%20are,at%20least%20once%20every%20day
    2. Economic impacts of artificial
      intelligence (AI), europarl.europa.eu/RegData/etudes/BRIE/2019/637967/EPRS_BRI(2019)637967_EN.pdf
    3. AI is about to completely change how you use computers (and upend the software industry), linkedin.com/pulse/ai-completely-change-how-you-use-computers-upend-software-bill-gates-brvsc/
    4. Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification, proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf
    5. Amazon scraps secret AI recruiting tool that showed bias against women, reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G/
    6. Consumer-Lending Discrimination in the FinTech Era, nber.org/papers/w25943
    7. Tay, Microsoft’s AI chatbot, gets a crash course in racism from Twitter, theguardian.com/technology/2016/mar/24/tay-microsofts-ai-chatbot-gets-a-crash-course-in-racism-from-twitter