Las investigaciones han demostrado que la falta de explicaciones claras tiene un impacto sustancial en la confianza y la voluntad de los usuarios al utilizar modelos de IA. Pese a ello, muchas organizaciones continúan invirtiendo en algoritmos inexplicables debido a la disyuntiva entre precisión y explicabilidad.
En pocas palabras, históricamente los líderes tecnológicos han asumido que cuanto mejor pueda entender un ser humano un algoritmo, menos preciso será.
Los científicos de datos hacen una distinción entre los llamados modelos de inteligencia artificial de caja negra y los de caja blanca. Los segundos suelen incluir sólo unas pocas reglas simples, presentadas, por ejemplo, como un árbol de decisiones o un modelo lineal simple con parámetros limitados.
Por el contrario, los modelos de caja negra utilizan cientos o incluso miles de árboles de decisión, o miles de millones de parámetros para informar sus resultados. Pero ¿su complejidad hace necesariamente que los modelos de caja negra sean más precisos?
Un análisis riguroso y a gran escala exploró cómo se comportaron los modelos de caja blanca y negra en una amplia gama de casi 100 conjuntos de datos representativos. El resultado desveló que para casi el 70 % de los conjuntos de datos, los modelos de caja negra y de caja blanca produjeron resultados igualmente precisos.
Por supuesto, hay algunos casos en los que los modelos de caja negra siguen siendo beneficiosos. Pero a la luz de las desventajas, esta investigación sugiere varios pasos que las empresas deberían tomar antes de adoptar un enfoque de caja negra:
Como regla general, los modelos de caja blanca deberían utilizarse como puntos de referencia para evaluar si los modelos de caja negra son necesarios. Antes de elegir un tipo de modelo, las organizaciones deben probar ambos y, si la diferencia en el rendimiento es insignificante, se debe seleccionar la opción de caja blanca.
Uno de los principales factores que determinará si es necesario un modelo de caja negra son los datos involucrados. En primer lugar, la decisión depende de la calidad de los datos. Cuando los datos son ruidosos (es decir, cuando incluyen mucha información errónea o sin sentido), los métodos de caja blanca relativamente simples tienden a ser efectivos.
Por otro lado, el tipo de datos también afecta la decisión. Para aplicaciones que involucran datos multimedia como imágenes, audio y video, los modelos de caja negra pueden ofrecer un rendimiento superior.
En situaciones en las que un proceso justo de toma de decisiones es de suma importancia, o en las que se requiere alguna forma de justicia procesal, puede tener sentido priorizar la explicabilidad.
Código de conducta para la IA. ¿Qué propone el G7?
Para las organizaciones que están menos desarrolladas digitalmente, en las que los empleados tienden a tener menos confianza o comprensión de la IA, puede ser mejor comenzar con modelos más simples antes de avanzar hacia soluciones más complejas.
En ciertos ámbitos, la explicabilidad puede ser un requisito legal, no algo agradable de tener. Cuando la ley exige que las organizaciones puedan explicar las decisiones tomadas mediante sus modelos de IA, los modelos de caja blanca son la única opción.
Finalmente, hay, por supuesto, contextos en los que los modelos de caja negra son innegablemente más precisos y aceptables con respecto a cuestiones regulatorias, organizativas o específicas del usuario. Si una organización decide implementar un modelo de IA opaco, debe tomar medidas para abordar los riesgos de confianza y seguridad asociados con la falta de explicabilidad.
En última instancia, no existe una solución única para la implementación de la IA. Pero en muchos casos, los modelos de IA simples e interpretables funcionan tan bien como las alternativas de caja negra, sin sacrificar la confianza de los usuarios.
China quiere liderar la industria de robots humanoides; sus planes para 2025 y 2027
De Harvard Business Review, por François Candelon y Theodoros Evgeniou
(François Candelon es director general y socio senior de Boston Consulting Group (BCG). Theodoros Evgeniou es el director del programa de Educación Ejecutiva de INSEAD sobre «Transformar su negocio con IA». David Martens es profesor de ciencia de datos en el Department of Engineering Management de la University of Antwerp, Bélgica)
Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.
