Decidir sobre personas a partir de datos. ¿Hacia la transparencia algorítmica?

Share on facebook
Share on linkedin
Share on twitter

¿Decidir sobre datos es más justo?

Una decisión basada en datos bien contrastados es más equitativa y eficaz que las que tomamos por intuición o impulso. En principio, la tecnología es una ayuda de valor inestimable cuando gestionamos nuestra relación con todos los grupos de interés de la empresa: empleados, clientes… Cuanto mejor conocemos a las personas, mejor servicio les podemos prestar. Pensamos, por ejemplo, en procesos de selección más efectivos, en promociones dentro de la compañía más equitativas, en sistemas de recompensa definidos solo por criterios objetivos, sin sesgos ni condicionantes por razón de afinidad, de simpatías o de antipatías.

Las crecientes capacidades tecnológicas de las que nos dotamos nos permiten manejar volúmenes masivos de datos, de forma estructurada y útil para la toma de decisiones. La tecnología no solo viene en nuestra ayuda para entender mejor la información disponible, sino para anticipar con más precisión escenarios futuros. Hace tiempo que las tecnologías de la información dejaron de ser solo una herramienta descriptiva del presente. Nos aportan además capacidades predictivas de gran utilidad para tomar decisiones sobre personas. Hasta hace poco, podíamos conocer los datos que definen a un profesional y verificar por tanto si su perfil se ajusta al del puesto que deseamos cubrir. Decidíamos sobre lo que esa persona había hecho en el pasado. Ahora, la disponibilidad de un mayor volumen de datos y sobre todo el manejo de algoritmos más avanzados nos permite anticipar cómo va a ser su desempeño en los próximos meses o años. Decidimos sobre lo que ocurrirá en el futuro.

Procesos de selección y diseños de planes de carrera

Este escenario idílico tiene, sin embargo, algunos contrapuntos. En la medida en que la decisión prescrita por un algoritmo afecta a un empleado, a un cliente o a un ciudadano, tenemos que estar en guardia frente a externalidades negativas que, al principio, no son evidentes. Recientemente, un tribunal holandés ha suspendido un sistema del gobierno que, a partir de una serie de datos, establecía el nivel de riesgo de fraude en el cobro de prestaciones sociales. Es decir, se investigaba a algunas personas no porque hubiese indicios de irregularidades, sino porque algunas características del individuo lo convertían en “sospechoso”. También recordamos algoritmos que tuvieron que retirar algunas compañías de sus procesos de selección por el sesgo machista que introducía a la hora de valorar las candidaturas.

Dos documentos de referencia para aprovechar correctamente los beneficios del dato

Recomiendo leer dos documentos recientes que nos orientan a la hora de manejar herramientas poderosas para el tratamiento de datos y la toma de decisiones. En ambos se destacan las enormes ventajas de recurrir a la tecnología para gestionar mejor la relación de las organizaciones con sus grupos de interés. Al mismo tiempo, ofrecen orientaciones para que ese uso redunde siempre en beneficio de las personas, de forma que la tecnología no sea percibida como una amenaza. La mejor vacuna contra la distopía no es la vuelta a las cavernas, sino el uso inteligente y responsable de nuestros avances.

El primer documento es el Libro Blanco de la Unión Europea sobre Inteligencia Artificial. La importancia de este texto es que servirá de guía para futuros desarrollos legislativos. Me gusta que, desde el principio, se destaque que se trata de un enfoque europeo orientado a la excelencia y a la confianza. Las empresas debemos conseguir que nuestro manejo de datos sea percibido por las personas afectadas como un beneficio, no como una amenaza.

El segundo es un artículo publicado por una conocida firma consultora que propone hacer de la ética una prioridad en la organización digital actual. Sus autoras destacan que la madurez digital debe estar acompañada de una mayor conciencia ética.

Las máquinas son precisas. La justicia es tarea de los humanos

Como siempre se enseña en las Escuelas de Negocios, las decisiones deben ser tomadas sobre datos, no por una mera intuición. Cuanta más calidad (y cantidad) tengan esos datos, mejores serán las decisiones. Ahora bien, la aparente objetividad del dato en ocasiones oculta sesgos discriminatorios que, al menos, deben ser conocidos. Sobre todo, si nos afectan en la relación que las personas tenemos con la Administración pública, y con las empresas a las que compramos o nos contratan laboralmente.

La plena transparencia algorítmica no es posible, ya que entra en conflicto con legítimos derechos de sus propietarios. Algunas empresas basan sus negocios sobre algoritmos. Si estuvieran disponibles en código abierto, estas compañías perderían sus ventajas competitivas. Esto no obsta para que las personas conozcamos los criterios sobre los que se toman decisiones que nos afectan en cuanto ciudadanos, consumidores y empleados.

Share on facebook
Share on linkedin
Share on twitter
Share on facebook
Share on linkedin
Share on twitter

ESCRITO POR

HR Blogger

Artículos Relacionados

TDAH
¡Comparte este post!
Share
marzo 20, 2024

En las últimas décadas, el TDAH ha pasado de ser un trastorno poco conocido a una condición prevalente en la sociedad actual. Además de afectar a niños, adolescentes y adultos, el TDAH ha rebasado la barrera de lo personal y se ha infiltrado también en el ámbito laboral, donde es fácil observar un preocupante paralelismo entre sus características y algunas dinámicas organizacionales.

Gestión del Talento
¡Comparte este post!
Share
marzo 13, 2024

La gestión de lo imperfecto. Ese modelo de diagnóstico organizativo lo concebí por la solicitud del presidente de uno de los grandes bancos para ayudar a mejorar el desempeño de sus máximos directivos. Desde entonces han transcurrido 24 años. Bastantes consultores y académicos han bebido en mis textos para apuntalar sus propuestas.

Delegación
¡Comparte este post!
Share
marzo 6, 2024

Hoy, el CEO de una empresa mediana con actividad en otro continente, monitoriza en tiempo real los indicadores de su negocio y envía sus instrucciones antes de que sus gestores locales se despierten por la mañana. La gestión en tiempo real se ha convertido en la única forma de manejar un negocio. Los retrasos en un entorno competitivo nos sitúan en una posición insostenible.