Algoritmo en jefe

Quienes han empezado a ser supervisados por un algoritmo reconocen que al principio se sienten extraños, pero que con el tiempo se acostumbran. Un sistema basado en inteligencia artificial es capaz de tomar decisiones certeras.

El resto de las ocupaciones propias de un supervisor resultan triviales para el sistema, tales como asignar tareas a los miembros del equipo en función de su disponibilidad y de su perfil competencial; verificar el cumplimiento de esas instrucciones; y evaluar la eficacia de esas acciones para el cumplimiento de los objetivos propuestos. Esta evaluación retroalimenta al sistema y permite que el algoritmo decida con un mayor porcentaje de acierto en lo sucesivo.

Es cierto que un jefe así no genera un alto nivel de conexión a nivel personal, pero ¿cuántos supervisores humanos lo hacen? Por otra parte, entre los beneficios de un sistema de dirección basado en inteligencia artificial se cuenta:

• Un proceso de toma de decisiones basado en datos, incluso aunque la información que se deba manejar sea masiva.
• El reparto de cargas de trabajo por criterios objetivos, sin preferencias ni exclusiones.
• La evaluación del desempeño igualmente objetiva.

Este enfoque rompe drásticamente el modo en el que durante los dos últimos siglos se había entendido el rol de la tecnología en entornos laborales. Desde la primera Revolución Industrial, las máquinas habían adoptado un papel instrumental y subordinado, eran algo que se utilizaba para realizar el trabajo de manera más eficiente.

Ahora la sociedad asiste a un escenario en el que determinadas tareas pueden ser realizadas preferentemente por humanos, pero bajo supervisión de sistemas de inteligencia artificial.

Solo hay que pensar en labores que tengan que ver con el servicio, en las que las personas desean ser atendidas por un ser humano antes que por un robot, como camareros y personal de enfermería. ¿Qué impide que la asignación de turnos, el reparto de mesas o de camas, las instrucciones sobre dispensación de alimentos o medicamentos, la recogida de datos sobre satisfacción de cliente o paciente sean tareas realizadas por un algoritmo?

El problema surge cuando se analiza no la eficiencia, sino las cuestiones éticas asociadas a este cambio de roles. Algunos expertos han destacado los riesgos de este cambio. Lasse Rouhiainen, autor de “Inteligencia artificial: 101 cosas que debes saber hoy sobre nuestro futuro”, al verificar las iniciativas de algunos países asiáticos, comenta: “mi desconfianza es que quizás sigan la misma ideología que China, es decir, que primero desarrollen aplicaciones y luego ya revisen cuestiones éticas, cuando debería ser al revés”.

Entre las paradojas éticas de esta situación, IESE Business School Insight señala las siguientes:

El debate de la justicia

Las primeras experiencias muestran que las decisiones tomadas por algoritmos replican algunos de los sesgos presentes en los decisores humanos, ya que en último término son las personas las que desarrollan. Tal vez el jefe no humano asigne las tareas de más valor añadido o que aportan mayor visibilidad en la empresa preferentemente a hombres (frente a mujeres) o a personas de una determinada etnia. Si utilizan históricos de desempeño contaminados por las actuales estructuras sociales, en la que los hombres en promedio tienen mayor disponibilidad que las mujeres, los patrones de decisión se perpetuarán.

La rendición de cuentas

Lo propio de un jefe no es solo su capacidad para tomar decisiones, sino para asumir también la responsabilidad sobre esas decisiones. Si un sistema automatizado falla y da instrucciones de las que se derivan consecuencias indeseadas, ¿quién responde? ¿el fabricante, el desarrollador?

La transparencia

Un jefe no debe explicar constantemente las razones por las que toma una decisión, pero debe estar en condiciones de hacerlo si se le solicita. La complejidad inherente a los algoritmos de la inteligencia artificial puede producir que sus decisiones no sean comprendidas ni siquiera por sus desarrolladores. No es cómodo trabajar para un jefe con el que no se pueda negociar alguna de las instrucciones, y ni siquiera entender las razones por las que transmite esas órdenes.