Inglés
¿Decidir sobre datos es más justo?
Una decisión basada en datos bien contrastados es más equitativa y eficaz que las que tomamos por intuición o impulso. En principio, la tecnología es una ayuda de valor inestimable cuando gestionamos nuestra relación con todos los grupos de interés de la empresa: empleados, clientes… Cuanto mejor conocemos a las personas, mejor servicio les podemos prestar. Pensamos, por ejemplo, en procesos de selección más efectivos, en promociones dentro de la compañía más equitativas, en sistemas de recompensa definidos solo por criterios objetivos, sin sesgos ni condicionantes por razón de afinidad, de simpatías o de antipatías.
Las crecientes capacidades tecnológicas de las que nos dotamos nos permiten manejar volúmenes masivos de datos, de forma estructurada y útil para la toma de decisiones. La tecnología no solo viene en nuestra ayuda para entender mejor la información disponible, sino para anticipar con más precisión escenarios futuros. Hace tiempo que las tecnologías de la información dejaron de ser solo una herramienta descriptiva del presente. Nos aportan además capacidades predictivas de gran utilidad para tomar decisiones sobre personas. Hasta hace poco, podíamos conocer los datos que definen a un profesional y verificar por tanto si su perfil se ajusta al del puesto que deseamos cubrir. Decidíamos sobre lo que esa persona había hecho en el pasado. Ahora, la disponibilidad de un mayor volumen de datos y sobre todo el manejo de algoritmos más avanzados nos permite anticipar cómo va a ser su desempeño en los próximos meses o años. Decidimos sobre lo que ocurrirá en el futuro.
Procesos de selección y diseños de planes de carrera
Este escenario idílico tiene, sin embargo, algunos contrapuntos. En la medida en que la decisión prescrita por un algoritmo afecta a un empleado, a un cliente o a un ciudadano, tenemos que estar en guardia frente a externalidades negativas que, al principio, no son evidentes. Recientemente, un tribunal holandés ha suspendido un sistema del gobierno que, a partir de una serie de datos, establecía el nivel de riesgo de fraude en el cobro de prestaciones sociales. Es decir, se investigaba a algunas personas no porque hubiese indicios de irregularidades, sino porque algunas características del individuo lo convertían en “sospechoso”. También recordamos algoritmos que tuvieron que retirar algunas compañías de sus procesos de selección por el sesgo machista que introducía a la hora de valorar las candidaturas.
Dos documentos de referencia para aprovechar correctamente los beneficios del dato
Recomiendo leer dos documentos recientes que nos orientan a la hora de manejar herramientas poderosas para el tratamiento de datos y la toma de decisiones. En ambos se destacan las enormes ventajas de recurrir a la tecnología para gestionar mejor la relación de las organizaciones con sus grupos de interés. Al mismo tiempo, ofrecen orientaciones para que ese uso redunde siempre en beneficio de las personas, de forma que la tecnología no sea percibida como una amenaza. La mejor vacuna contra la distopía no es la vuelta a las cavernas, sino el uso inteligente y responsable de nuestros avances.
El primer documento es el Libro Blanco de la Unión Europea sobre Inteligencia Artificial. La importancia de este texto es que servirá de guía para futuros desarrollos legislativos. Me gusta que, desde el principio, se destaque que se trata de un enfoque europeo orientado a la excelencia y a la confianza. Las empresas debemos conseguir que nuestro manejo de datos sea percibido por las personas afectadas como un beneficio, no como una amenaza.
El segundo es un artículo publicado por una conocida firma consultora que propone hacer de la ética una prioridad en la organización digital actual. Sus autoras destacan que la madurez digital debe estar acompañada de una mayor conciencia ética.
Las máquinas son precisas. La justicia es tarea de los humanos
Como siempre se enseña en las Escuelas de Negocios, las decisiones deben ser tomadas sobre datos, no por una mera intuición. Cuanta más calidad (y cantidad) tengan esos datos, mejores serán las decisiones. Ahora bien, la aparente objetividad del dato en ocasiones oculta sesgos discriminatorios que, al menos, deben ser conocidos. Sobre todo, si nos afectan en la relación que las personas tenemos con la Administración pública, y con las empresas a las que compramos o nos contratan laboralmente.
La plena transparencia algorítmica no es posible, ya que entra en conflicto con legítimos derechos de sus propietarios. Algunas empresas basan sus negocios sobre algoritmos. Si estuvieran disponibles en código abierto, estas compañías perderían sus ventajas competitivas. Esto no obsta para que las personas conozcamos los criterios sobre los que se toman decisiones que nos afectan en cuanto ciudadanos, consumidores y empleados.
