Los líderes corporativos, académicos, legisladores y muchos otros están buscando formas de aprovechar la inteligencia artificial generativa, que tiene el potencial de transformar la forma en que aprendemos o trabajamos. En la empresa, además, la IA generativa tiene el potencial de transformar la forma en que las empresas interactúan con los clientes e impulsar el crecimiento.
Sin embargo, con la aparición (y la accesibilidad) generalizada de la IA generativa, reconocimos que las organizaciones necesitaban pautas específicas para los riesgos que presenta esta tecnología.
A continuación, detallamos directrices pueden ayudar a las organizaciones a evaluar los riesgos y las consideraciones de la IA generativa a medida que estas herramientas adquieren una adopción generalizada. Cubren cinco áreas de enfoque.
Las organizaciones deben ser capaces de entrenar modelos de IA con sus propios datos para ofrecer resultados verificables que equilibren la exactitud, la precisión y la recuperación (la capacidad del modelo para identificar correctamente los casos positivos dentro de un conjunto de datos determinado).
Es importante comunicar cuándo hay incertidumbre con respecto a las respuestas generativas de IA y permitir que las personas las validen.
Hacer todo lo posible para mitigar el sesgo, la toxicidad y los resultados perjudiciales, mediante la realización de evaluaciones de sesgo, explicabilidad y solidez, siempre es una prioridad en la IA.
Las organizaciones deben proteger la privacidad de cualquier información de identificación personal presente en los datos utilizados para la capacitación, a fin de evitar daños potenciales.
Al recopilar datos para entrenar y evaluar nuestros modelos, respeta la procedencia de los datos y asegúrate de que haya consentimiento para usarlos. Esto se puede hacer aprovechando los datos de código abierto y proporcionados por el usuario.
Si bien hay algunos casos en los que es mejor automatizar completamente los procesos, en la mayoría de los casos la IA debería desempeñar un papel de apoyo.
Te puede interesar: Estos son los sectores que utilizan más y menos inteligencia artificial
Al considerar los modelos de IA, más grande no siempre significa mejor. A medida que desarrollamos nuestros propios modelos, nos esforzaremos por minimizar el tamaño de nuestros modelos mientras maximizamos la precisión.
La mayoría de las organizaciones integrarán herramientas generativas de IA en lugar de crear las suyas propias. Estos son algunos consejos tácticos para integrar de forma segura la IA generativa en las aplicaciones empresariales para impulsar los resultados comerciales:
Las empresas deben entrenar herramientas generativas de IA utilizando datos de origen (datos que los clientes comparten de manera proactiva) y datos de primera mano, que recopilan directamente. La procedencia sólida de los datos es clave para garantizar que los modelos sean precisos, originales y confiables.
La IA es tan buena como los datos con los que se entrena. Los modelos que generan respuestas a las consultas de atención al cliente producirán resultados inexactos o desactualizados si el contenido en el que se basan es antiguo, incompleto e inexacto.
Los humanos deben participar para revisar la precisión de los resultados, detectar sesgos y garantizar que los modelos funcionen según lo previsto. En términos más generales, la IA generativa debe verse como una forma de aumentar las capacidades humanas o de la empresa y empoderar a las comunidades, no reemplazarlas o desplazarlas.
En última instancia, los humanos también deben participar en la verificación de la precisión y el sesgo de los resultados.
Escuchar a los empleados, asesores de confianza y comunidades afectadas es clave para identificar riesgos y corregir el rumbo. Las empresas pueden crear una variedad de vías para que los empleados informen inquietudes, como una línea directa anónima, una lista de correo, un canal de Slack, de redes sociales o grupos de discusión.
La IA generativa está evolucionando rápidamente, por lo que los pasos concretos que el mundo de la empresa debe tomar evolucionarán con el tiempo. Sin embargo, apegarse a un marco ético firme puede ayudar a las organizaciones a navegar este período de rápida transformación.
«Let IA be». La inteligencia artificial ayuda a McCartney en un disco de los Beatles
De Harvard Business Review, por Kathy Baxter y Yoav Schlesinger
(Kathy Baxter es la arquitecta principal de la práctica ética de IA en Salesforce, donde Yoav Schlesinger es arquitecto)
Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.
