Guillermo Treister, Latin America Watson AI Apps Executive, indica los daños que causa el sesgo están a la vista. Se ve el sesgo en las grandes brechas salariales y las brechas en términos de patrimonio, que cruzan todas las líneas raciales y de género. Se ve también en la falta crónica de representación para ciertos grupos, sea en Hollywood, en los deportes, en los medios o en oficinas corporativas, en casi todos los sectores. En todo el mundo, miles de millones de personas conviven a diario con las consecuencias del sesgo racial, de género, de edad y de muchos otros tipos, desde las micro-agresiones y la pérdida de oportunidades, hasta las interacciones con un sistema de justicia penal punitivo y con prejuicio racial.
Debido al daño que causa, es importante que los integrantes de todos los sectores sean deliberados en la forma en que trabajan para contrarrestar el sesgo. Esto es particularmente válido para quienes se dedican a la publicidad. No solo la industria de la publicidad tiene una enorme cantidad de trabajo que hacer para mejorar la representación entre las filas, sino que además están en una posición única debido a la capacidad de amplificar el sesgo cuando aparece en el trabajo. Los consumidores ven aprox. 5000 publicidades por día. Cuando los niños demuestran sesgo en su comportamiento, se debe aceptar que pudiera ser en respuesta al contenido que se ha ayudado a crear.
Reducir o mitigar el sesgo también es un imperativo de negocio. Más de un tercio de los consumidores dicen que han puesto fin a una relación con una marca debido a que no se ven reflejados en la publicidad, según las conclusiones de un estudio. Las dos terceras partes de las mujeres cambian de medio por completo cuando se encuentran con estereotipos negativos sobre sus personas. Y a pesar de las fuertes reacciones que suscitan, las publicidades sesgadas son bastante omnipresentes, en particular cuando se las analiza por industria: las mujeres, por ejemplo, aparecen rara vez en publicidades de los sectores industrial, automotriz y de negocios, y cuando lo hacen, en general hablan menos de una cuarta parte del tiempo.
Como está profundamente arraigado en el subconsciente, tal vez no sea posible eliminar el sesgo por completo. Pero hay algo que se puede hacer: adoptar los pasos necesarios para mitigarlo. Asegurar una fuerza laboral equilibrada y diversa, con muchas perspectivas diferentes, es un punto importante por dónde empezar. Pero potencialmente se puede también apuntar a la IA. Hay motivos para el optimismo. La IA ya ha sido usada para contribuir a identificar el sesgo allí donde existe. En un estudio reciente, los investigadores emplearon técnicas de procesamiento de lenguaje natural para analizar el diálogo de películas taquilleras de Hollywood y Bollywood lanzadas a lo largo de 70 años, y demostrar que tenían un sesgo que asociaba el modelo de belleza con una piel más clara.
Por supuesto, identificar la presencia del sesgo no es lo mismo que erradicarlo. Pero afortunadamente, la IA también demostró su utilidad para mitigar las consecuencias del sesgo en otros sectores, particularmente en los servicios financieros. Las entidades que otorgan préstamos ahora usan la IA para monitorear modelos de riesgo que pueden estar sesgados, y crear resultados más justos y explicables para los clientes. Los emisores de seguros también están usando el aprendizaje automático para evaluar en forma más coherente y exacta el riesgo de reclamos, asegurar resultados justos para los clientes y explicar recomendaciones de IA. Cuanto más se entienda y se explique– cómo la IA llegó a cierto resultado, más fácil será determinar qué tipos de sesgo pueden haber intervenido.
Con miras a futuro, podría ser posible aplicar este tipo de herramientas a la IA. Los modelos de inspección visual están mejorando mucho en mirar una imagen y categorizarla por lo que es. Estos tipos de IA pueden ser de utilidad para ayudar a distinguir el sesgo cuando aparece de modo subconsciente en el trabajo. Por supuesto, estas técnicas también deben ser estudiadas e implementadas en forma criteriosa. Sin una profunda comprensión de la forma en que interactúan el sesgo y la IA, las potenciales soluciones de hecho podrían incluso empeorar el problema que intentan resolver. Y es que la IA internaliza el sesgo, del mismo modo que los humanos.
Aunque eliminar el sesgo, mediante el uso de tecnología o de otro modo, es algo imposible, sigue siendo imperativo que se intenta. Los profesionales publicitarios, desempeñan un papel crucial en determinar las imágenes y representaciones que los consumidores ven a diario. Sin un enfoque propositivo para reducir el sesgo en el trabajo, no solo serán meros testigos, sino también culpables. A través de la investigación, la inversión y un enfoque crítico hacia la nueva tecnología, en cambio, se puede ser parte de la solución.
