Uno de los temas más comunes al hablar de robots, es que replican muchos de los sesgos que vivimos actualmente, perpetuando estereotipos de todo tipo. Es importante cuestionar el siguiente dilema al implementar inteligencia artificial: ética y sociedad. Por esta razón queremos compartir algunos tips para reducir estos tipos de sesgo y aprovechar la tecnología para acortar estas brechas.
Inteligencia Artificial con perspectiva ética
En Xira te recomendamos seguir el proceso de diseño desarrollado por el Laboratorio de Innovación de BBVA en donde se toman distintos aspectos a la hora de crear un bot.
1. Diseñador del bot
Es necesario revisar cuales son las fortalezas y oportunidades de la persona que diseña el bot. ¿Tiene algunas preferencias? ¿Cómo podemos complementarlas con otros puntos de vista?
2. Sesgos
Otro punto importante es revisar cuál es la visión de la empresa y cómo el diseño del robot puede influenciar en esta visión, por ejemplo, dentro del equipo ¿Cuáles son sus creencias? ¿Cuál es el status? ¿Todos tienen la misma clase? De acuerdo con eso puedes vigilar patrones que puedas estar replicando en tu bot.
3. Objetivo
Es necesario revisar cuál es el objetivo del robot. ¿Queremos reclutar 200 candidatos a la semana? ó ¿Quieres aprovechar el robot para informar? De acuerdo con el objetivo del robot es más sencillo mapear cuál debe ser su comportamiento y cómo evitar que perpetúa estereotipos.
4. Definir personalidad
Es muy importante que el bot tenga cierta personalidad para comunicar la coherencia de tu marca. Sin embargo, en el desarrollo de esta personalidad debes revisar que el robot tenga los comportamientos deseables en cualquier tipo de persona. Por ejemplo, si la personalidad de tu robot es femenina puedes agregar módulos de entendimiento de groserías y evitar que conteste positivamente a ellas. De esta manera, evitas que se sigan perpetuando los estereotipos.
5. Iteraciones
Un paso más que recomendamos, es que una vez que el chatbot está activo, es importante monitorear las conversaciones de los usuarios con este bot para mejorar la conversación, ajustar los scripts y añadir temas.
Asimismo, les recomendamos que tres habilidades básicas de cualquier diseñador deben ser cuestionar constantemente sus acciones, escuchar activamente, estar abierto al feedback y observar sus acciones para concientizar los posibles estereotipos que se puedan estar perpetuando.
¡Conoce los bots que tenemos para ti!
