L'humain : maître et non serviteur de l'IA ?

L'intelligence artificielle est un formidable outil pour les entreprises, capable d'économiser d'innombrables heures de tâches répétitives et de libérer les collaborateurs pour un travail à plus forte valeur ajoutée, plus intéressant et plus créatif. Elle est clairement là pour durer.

Selon l'organisation professionnelle du secteur informatique CompTIA¹ :

• 91 % des grandes entreprises investissent dans l'IA
• 97 % des utilisateurs de mobiles se servent d'assistants vocaux propulsés par l'IA
• Plus de 4 milliards d'appareils fonctionnent déjà avec des assistants vocaux propulsés par l'IA
• 40 % des personnes utilisent chaque jour une fonction de recherche vocale propulsée par l'IA

Selon McKinsey, l'IA pourrait ajouter 13 000 milliards de dollars au PIB mondial d'ici 2030², à mesure que l'automatisation accroît la productivité et stimule l'innovation dans les produits et services.

Et elle s'apprête aussi à devenir très personnelle.

L'IA transforme la vie personnelle et professionnelle

Il semble probable que l'IA occupera une place bien plus importante dans la façon dont chacun organise sa vie privée comme son travail. Bill Gates estime que des assistants numériques individualisés, appelés agents, en apprendront suffisamment sur nos vies, nos personnalités et nos préférences pour offrir à chacun d'entre nous un service unique.

« Un agent pourra vous aider dans toutes vos activités si vous le souhaitez », écrit-il.³ « Avec l'autorisation de suivre vos interactions en ligne et vos déplacements dans le monde réel, il développera une compréhension fine des personnes, des lieux et des activités qui font votre quotidien. Il comprendra vos relations personnelles et professionnelles, vos loisirs, vos préférences et votre emploi du temps. C'est vous qui choisirez comment et quand il intervient pour vous aider ou vous demande de prendre une décision. »

Jusque-là, tout va bien. Mais ce n'est pas toute l'histoire.

Les effets concrets de l'IA

Ce que l'IA peut faire reste limité. Ce qu'elle devrait faire l'est tout autant.

Surtout, l'IA ne peut travailler qu'à l'intérieur des jeux de données auxquels elle a accès. Ce qui peut ressembler à un travail original produit par une application n'est rien d'autre qu'une synthèse d'informations qui existent déjà dans la grande banque de mémoire numérique mondiale.

Profondément impressionnant, oui. Mais aussi profondément imparfait.

L'IA reflète des biais, qui peuvent s'amplifier à chaque nouvelle itération.

L'IA est totalement neutre. Elle n'a aucun sens éthique. Elle plagie. Elle invente. Elle hallucine, en proposant des enchaînements de faits et d'événements sans aucun rapport avec la réalité. Si elle ne trouve pas l'exemple réel que vous lui demandez, elle peut vous proposer un cas hypothétique , avec des conséquences préoccupantes pour l'utilisateur négligent ou paresseux qui le fait passer pour un exemple réel et le diffuse dans le monde.

Cinq sources potentielles de biais dans l'IA

Cela a des effets bien réels et fait peser sur l'activité d'une organisation un risque de biais et de discrimination. C'est déjà manifeste dans cinq domaines d'utilisation de l'IA :

1. La reconnaissance faciale

Certains systèmes se sont révélés moins précis pour identifier les visages de femmes ou de personnes à la peau foncée que ceux d'hommes ou de personnes à la peau claire.

Une étude de Joy Buolamwini, du MIT Media Lab, et de Timnit Gebru, ancienne chercheuse chez Microsoft⁴, a mis en évidence d'importants écarts de précision des systèmes de reconnaissance faciale selon le genre et le type de peau.

2. La police prédictive

Elle est critiquée pour perpétuer, voire amplifier, les biais présents dans les données des forces de l'ordre. Si les données historiques d'interpellations sont biaisées, le modèle d'IA risque de cibler involontairement certaines communautés, ce qui entraîne une surveillance policière excessive et renforce les stéréotypes.

3. Le recrutement

Les outils de recrutement pilotés par l'IA ont été examinés de près pour des biais de genre et d'origine. Si les données historiques de recrutement reflètent des effectifs déséquilibrés, l'IA peut accentuer les biais en favorisant certains groupes, ce qui conduit à des discriminations. Même Amazon⁵, l'un des grands pionniers et promoteurs de l'IA, a reconnu que ses propres processus avaient été touchés. En 2018, il a été rapporté qu'Amazon avait développé un outil d'apprentissage automatique pour évaluer les CV. Il avait été entraîné sur des CV reçus sur une période de 10 ans, durant laquelle la plupart des candidats étaient des hommes. Résultat : le système aurait favorisé les CV employant un vocabulaire à connotation masculine et pénalisé ceux contenant des termes plus fréquents dans les CV envoyés par des femmes. Amazon a abandonné l'outil après avoir découvert ce biais.

4. Le scoring de crédit

Si les données historiques de prêt sont biaisées, les algorithmes d'IA peuvent aboutir à des pratiques de prêt discriminatoires envers certains groupes ethniques ou socio-économiques. Le National Bureau of Economic Research a publié une étude, « Consumer-Lending Discrimination in the FinTech Era, 2018 »⁶, fondée sur des recherches de l'université Stanford, de Microsoft Research et de l'université de Californie à Irvine. Elle a montré que les demandeurs issus de minorités, en particulier les clients noirs et latino-américains, étaient plus susceptibles de se voir appliquer des taux d'intérêt plus élevés que les autres clients.

5. Les chatbots et assistants virtuels

Les bots et assistants virtuels pilotés par l'IA peuvent refléter des biais de genre dans leurs réponses. Certains ont été critiqués pour des réponses inappropriées ou le renforcement de stéréotypes. En 2016, Microsoft a lancé Tay, un chatbot conçu pour interagir sur les réseaux sociaux. Il a dû être désactivé moins d'une journée plus tard⁷, après avoir assimilé et répété les propos racistes et injurieux d'utilisateurs.

Rien de tout cela ne signifie qu'il faille remercier l'IA pour ses services et débrancher une innovation puissante, déjà solidement ancrée dans les pratiques et les processus de travail. Inutile de reléguer l'apprentissage automatique au rayon des inventions superflues ou indésirables, aux côtés des Google Glass, du Segway ou de Clippy, l'ancêtre des assistants numériques de Bill Gates, aussi décrié qu'affectueusement regretté.

L'IA a depuis longtemps franchi le seuil de l'adoption par le grand public. Amazon Web Services considère l'IA générative (la création de nouvelles images, de médias et de visuels) comme la tendance la plus dynamique de l'IA. ChatGPT, sans doute la plateforme d'IA la plus connue, a atteint un million d'utilisateurs en cinq jours seulement, contre 75 jours pour Instagram et 150 jours pour Spotify.

Donc, même s'il était possible de faire rentrer le génie dans sa lampe, nous n'en sommes plus là.

L'usage de l'IA chez Attensi

Attensi et ses partenaires tirent déjà de réels bénéfices de l'IA dans cinq domaines clés :

1. Les traductions

Adapter nos formations rapidement et facilement à davantage de langues à travers le monde.

2. La génération de personnages IA

Créer des personnages de type avatar ultraréalistes qui apportent une crédibilité inédite aux scénarios numériques. Un bel exemple : Makayla, le personnage qu'Attensi a présenté au monde. C'est une personnalité reconnaissable, créée avec de nouveaux outils d'animation, la reconnaissance vocale et la synthèse vocale. Vous pouvez avoir une vraie conversation avec Makayla : c'est un prototype passionnant sur lequel nous travaillons pour développer nos solutions de demain.