¿Los humanos, amos y no sirvientes de la IA?

La inteligencia artificial es una herramienta de negocio brillante, capaz de ahorrar incontables horas de trabajo repetitivo y de liberar a las personas para que se dediquen a tareas de mayor valor, más interesantes y de mayor valor creativo. Es evidente que llegó para quedarse.

CompTIA¹, la asociación del sector de TI, calcula que:

• El 91% de las empresas líderes está invirtiendo en IA
• El 97% de los usuarios de celular usa asistentes de voz impulsados por IA
• Más de 4 mil millones de dispositivos ya funcionan con asistentes de voz impulsados por IA
• El 40% de las personas usa a diario una función de búsqueda por voz impulsada por IA

McKinsey informa que la IA podría aportar 13 billones de dólares adicionales al PIB mundial para 2030², ya que la automatización aumenta la productividad e impulsa la innovación en productos y servicios.

Además, está por volverse muy personal.

La IA cambia la vida personal y profesional

Todo indica que la IA tendrá un papel mucho mayor en la forma en que las personas organizan su vida privada y su trabajo. Bill Gates plantea que los asistentes digitales individualizados, conocidos como agentes, aprenderán lo suficiente sobre nuestra vida, personalidad y preferencias como para ofrecer un servicio único para cada uno de nosotros.

“Un agente podrá ayudarle con todas sus actividades, si usted lo desea”, escribe.³ “Con permiso para seguir sus interacciones en línea y su ubicación en el mundo real, desarrollará una comprensión profunda de las personas, los lugares y las actividades en los que usted participa. Entenderá sus relaciones personales y laborales, sus pasatiempos, sus preferencias y su agenda. Usted decidirá cómo y cuándo interviene para ayudarle con algo o le pide tomar una decisión.”

Hasta aquí, todo bien, pero esa no es toda la historia.

El impacto real de la IA

La IA todavía tiene límites en lo que puede hacer. Y también en lo que debería hacer.

Lo fundamental: la IA solo puede trabajar dentro de los conjuntos de datos a los que tiene acceso. Lo que parece un trabajo original que sale de una aplicación no es más que una destilación de información que ya existe en el banco de memoria digital del mundo.

Profundamente impresionante, sí. Pero también profundamente imperfecta.

Refleja sesgos, y estos pueden amplificarse con cada nueva iteración.

La IA es completamente neutral. No tiene sentido ético. Plagia. Inventa. Alucina: propone secuencias de hechos y sucesos sin relación alguna con la realidad. Si no encuentra el ejemplo real que usted le pide, puede ofrecer un caso hipotético, con consecuencias preocupantes para el usuario descuidado o perezoso que lo hace pasar por un ejemplo real y lo difunde.

Cinco áreas de posible sesgo en la IA

Esto tiene efectos reales: introduce un riesgo de sesgo y discriminación en la actividad de una organización. Ya es evidente en cinco áreas del uso de la IA:

1. Reconocimiento facial

Se ha detectado que algunos sistemas son menos precisos al identificar rostros de mujeres o de personas de piel más oscura que los de hombres o de personas de piel más clara.

Un estudio de Joy Buolamwini, del MIT Media Lab, y Timnit Gebru, entonces investigadora de Microsoft⁴, dejó al descubierto grandes diferencias en la precisión de los sistemas de reconocimiento facial según el género y el tipo de piel.

2. Vigilancia policial predictiva

Ha sido criticada por perpetuar e incluso amplificar los sesgos que ya existen en los datos de las fuerzas del orden. Si los datos históricos de detenciones tienen sesgos, el modelo de IA puede, sin querer, apuntar a comunidades específicas, lo que lleva a un exceso de vigilancia y refuerza los estereotipos.

3. Reclutamiento de personal

Las herramientas de contratación impulsadas por IA han sido cuestionadas por sesgos de género y raza. Si los datos históricos de contratación reflejan una fuerza laboral sesgada, la IA puede agravar el sesgo al favorecer a ciertos grupos y derivar en discriminación. Incluso Amazon⁵, uno de los grandes pioneros y defensores de la IA, ha reconocido que sus propios procesos se vieron afectados. En 2018 se informó que Amazon había desarrollado un sistema de aprendizaje automático para evaluar currículos. Se entrenó con currículos recibidos a lo largo de 10 años, período en el que la mayoría de los candidatos eran hombres. Como resultado, según se informó, el sistema favorecía los currículos con lenguaje de orientación masculina y penalizaba los que incluían términos más comunes en los currículos de mujeres. Amazon abandonó la herramienta al descubrir el sesgo.

4. Puntajes de crédito

Si los datos históricos de crédito tienen sesgos, los algoritmos de IA pueden derivar en prácticas de préstamo discriminatorias que afectan a ciertos grupos raciales o socioeconómicos. La National Bureau of Economic Research publicó un estudio, ‘Consumer-Lending Discrimination in the FinTech Era, 2018’⁶, basado en investigaciones de la Universidad de Stanford, Microsoft Research y la Universidad de California en Irvine. Concluyó que los solicitantes de minorías, en particular los clientes afroamericanos y latinos, tenían más probabilidades de pagar tasas de interés más altas que el resto de los clientes.

5. Chatbots y asistentes virtuales

Los bots y asistentes virtuales impulsados por IA pueden reflejar sesgos de género en sus respuestas. Algunos han sido criticados por responder de forma inapropiada o reforzar estereotipos. En 2016, Microsoft lanzó Tay, un chatbot para interactuar en redes sociales. Duró menos de un día antes de tener que cerrarse⁷, porque absorbió y repitió lenguaje racista y abusivo de los usuarios.

Nada de esto significa que debamos agradecerle a la IA sus servicios y desconectarla: es una innovación poderosa que ya está firmemente integrada en las prácticas y los procesos de trabajo. No hace falta mandar el aprendizaje automático al montón de inventos innecesarios o indeseados, junto con Google Glass, el Segway o Clippy, el asistente proto-digital de Bill Gates, blanco de burlas cariñosas.

Hace tiempo que superó el punto de inflexión de la aceptación y entró en la vida cotidiana. Amazon Web Services define la IA generativa, es decir, la creación de nuevas imágenes, medios y gráficos, como la tendencia de más rápido crecimiento en IA. ChatGPT, probablemente la plataforma de IA más conocida, llegó a un millón de usuarios en solo cinco días. Instagram tardó 75 días y Spotify, 150.

Así que, aunque fuera posible volver a meter al genio en la botella, ya no estamos en ese punto.

El uso de la IA en Attensi

Attensi y sus socios ya obtienen beneficios reales de aplicar la IA en cinco áreas clave:

1. Traducciones

Adaptar nuestra capacitación de forma rápida y sencilla a más idiomas de todo el mundo.

2. Generación de personajes con IA

Crear figuras tipo avatar superrealistas que dan un nuevo nivel de credibilidad a los escenarios digitales. Un gran ejemplo es Makayla, el personaje que Attensi ha presentado al mundo. Es una personalidad reconocible, creada con nuevas herramientas de animación, reconocimiento de voz y generación de voz sintética. Se puede mantener una conversación real con Makayla, y es un prototipo emocionante en el que trabajamos para desarrollar soluciones futuras.