Claves para integrar la IA generativa en una empresa

Sin embargo, con la aparición (y la accesibilidad) generalizada de la IA generativa, reconocimos que las organizaciones necesitaban pautas específicas para los riesgos que presenta esta tecnología.

Directrices para gestionar la IA generativa en la empresa

A continuación, detallamos directrices pueden ayudar a las organizaciones a evaluar los riesgos y las consideraciones de la IA generativa a medida que estas herramientas adquieren una adopción generalizada. Cubren cinco áreas de enfoque.

Exactitud

Las organizaciones deben ser capaces de entrenar modelos de IA con sus propios datos para ofrecer resultados verificables que equilibren la exactitud, la precisión y la recuperación (la capacidad del modelo para identificar correctamente los casos positivos dentro de un conjunto de datos determinado).

Es importante comunicar cuándo hay incertidumbre con respecto a las respuestas generativas de IA y permitir que las personas las validen.

Seguridad

Hacer todo lo posible para mitigar el sesgo, la toxicidad y los resultados perjudiciales, mediante la realización de evaluaciones de sesgo, explicabilidad y solidez, siempre es una prioridad en la IA.

Las organizaciones deben proteger la privacidad de cualquier información de identificación personal presente en los datos utilizados para la capacitación, a fin de evitar daños potenciales.

Honestidad

Al recopilar datos para entrenar y evaluar nuestros modelos, respeta la procedencia de los datos y asegúrate de que haya consentimiento para usarlos. Esto se puede hacer aprovechando los datos de código abierto y proporcionados por el usuario.

Empoderamiento

Si bien hay algunos casos en los que es mejor automatizar completamente los procesos, en la mayoría de los casos la IA debería desempeñar un papel de apoyo.

Te puede interesar: Estos son los sectores que utilizan más y menos inteligencia artificial

Sostenibilidad

Al considerar los modelos de IA, más grande no siempre significa mejor. A medida que desarrollamos nuestros propios modelos, nos esforzaremos por minimizar el tamaño de nuestros modelos mientras maximizamos la precisión.

Integración de herramientas de IA generativa

La mayoría de las organizaciones integrarán herramientas generativas de IA en lugar de crear las suyas propias. Estos son algunos consejos tácticos para integrar de forma segura la IA generativa en las aplicaciones empresariales para impulsar los resultados comerciales:

Usa datos de origen o de primera mano

Las empresas deben entrenar herramientas generativas de IA utilizando datos de origen (datos que los clientes comparten de manera proactiva) y datos de primera mano, que recopilan directamente. La procedencia sólida de los datos es clave para garantizar que los modelos sean precisos, originales y confiables.

Mantén los datos actualizados y bien etiquetados

La IA es tan buena como los datos con los que se entrena. Los modelos que generan respuestas a las consultas de atención al cliente producirán resultados inexactos o desactualizados si el contenido en el que se basan es antiguo, incompleto e inexacto.

Asegúrate de que haya un ser humano en el ciclo

Los humanos deben participar para revisar la precisión de los resultados, detectar sesgos y garantizar que los modelos funcionen según lo previsto. En términos más generales, la IA generativa debe verse como una forma de aumentar las capacidades humanas o de la empresa y empoderar a las comunidades, no reemplazarlas o desplazarlas.

Prueba, prueba, prueba

En última instancia, los humanos también deben participar en la verificación de la precisión y el sesgo de los resultados.

Recibe retroalimentación

Escuchar a los empleados, asesores de confianza y comunidades afectadas es clave para identificar riesgos y corregir el rumbo. Las empresas pueden crear una variedad de vías para que los empleados informen inquietudes, como una línea directa anónima, una lista de correo, un canal de Slack, de redes sociales o grupos de discusión.

La IA generativa está evolucionando rápidamente, por lo que los pasos concretos que el mundo de la empresa debe tomar evolucionarán con el tiempo. Sin embargo, apegarse a un marco ético firme puede ayudar a las organizaciones a navegar este período de rápida transformación.

«Let IA be». La inteligencia artificial ayuda a McCartney en un disco de los Beatles

De Harvard Business Review, por Kathy Baxter y Yoav Schlesinger

(Kathy Baxter es la arquitecta principal de la práctica ética de IA en Salesforce, donde Yoav Schlesinger es arquitecto)

Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.

Seguir leyendo

---

Mercado Events

Cómo la IA está cambiando las decisiones clínicas en la República Dominicana

Tecnología

Japón le pide el turno al robot: la mayor feria de drones del país busca en la automatización una respuesta a su crisis laboral

Empresas

Alphabet recauda US$80,000 millones para su infraestructura de IA, con Berkshire Hathaway como gran inversor