¿Te evaluó una IA? Lo que puedes exigirle al Estado dominicano

La inteligencia artificial (IA) comienza a tener un marco de reglas para su utilización en las instituciones públicas de República Dominicana. El presidente Luis Abinader aprobó, mediante el Decreto 787-26, el Código de Ética de la Inteligencia Artificial para los Servicios Públicos, una normativa que establece obligaciones para el Estado y garantías para los ciudadanos.

La disposición cobra importancia en trámites y servicios en los que una herramienta automatizada pueda intervenir en la evaluación de solicitudes, la asignación de beneficios, el acceso a servicios esenciales o la aplicación de sanciones. En esos casos, las personas tendrán derecho a conocer si la tecnología participó en el proceso y cuáles fueron los factores relevantes para el resultado.

Asimismo, el código establece que la inteligencia artificial no puede sustituir la responsabilidad de los funcionarios públicos. Esto significa que, aunque una institución utilice un sistema automatizado para analizar información o apoyar una decisión, debe existir una autoridad humana responsable y mecanismos para revisar posibles errores.

Te puede interesar: Nvidia cae cerca de 10 % en medio de un escándalo por presunto espionaje y China frena 600.000 chips ¿Cuánto depende la industria de la IA de Jensen Huang?

1. La institución debe informarte si utilizó inteligencia artificial

Una de las principales garantías del Decreto 787-26 es el derecho a saber cuándo una decisión administrativa que afecta a una persona ha sido apoyada por inteligencia artificial.

Las instituciones deberán comunicarlo a través de sus canales habituales, como páginas web, oficinas y formularios. Cuando informen individualmente el resultado de un trámite, tendrán que indicar si la decisión contó con asistencia de un sistema de IA. Pero la obligación no termina con avisar que se utilizó tecnología. La entidad deberá explicar para qué se empleó y cuáles fueron los factores relevantes que influyeron en el resultado.

Por ejemplo, si una persona solicita un beneficio público y recibe una respuesta negativa después de que un sistema automatizado analizara su información, debe poder conocer que la herramienta intervino en la evaluación y qué criterios fueron relevantes.

2. Puedes pedir que una persona revise la decisión

El segundo punto es el derecho a solicitar una revisión humana. Si una decisión apoyada por IA afecta a un ciudadano y este considera que hubo un error o que sus derechos fueron vulnerados, podrá pedir que una persona examine el caso.

El Código contempla la posibilidad de presentar los recursos administrativos correspondientes y solicitar la corrección de información equivocada. Esto es relevante porque los sistemas automatizados pueden cometer errores, interpretar incorrectamente datos o producir resultados afectados por sesgos. La revisión humana permite que el caso no quede limitado a la respuesta generada por una herramienta tecnológica.

Además, la responsabilidad de responder sigue siendo de la institución pública. La inteligencia artificial puede servir como apoyo para procesar información, pero no elimina la obligación de las autoridades de justificar sus decisiones.

3. Herramientas de alto impacto deben evaluarse antes de utilizarse

No todos los sistemas de IA tienen el mismo nivel de riesgo. Por eso, el código establece evaluaciones previas para aquellos que puedan afectar derechos fundamentales, el acceso a beneficios sociales, servicios esenciales o decisiones sancionadoras. Estas evaluaciones se denominan Evaluaciones de Impacto Ético y de Derechos (EIED). Su objetivo es identificar posibles consecuencias antes de que una herramienta entre en funcionamiento.

Ahora bien, entre los aspectos que deben examinarse están la finalidad del sistema, los riesgos para la privacidad y los derechos de las personas, la posibilidad de discriminación y las medidas necesarias para reducir esos riesgos. Deben considerarse alternativas que no requieran automatizar el proceso.

En los casos de alto impacto, la evaluación debe completarse y recibir la aprobación correspondiente antes de que el sistema entre en producción. Se contempla la publicación de un resumen accesible para la ciudadanía.

Te puede interesar: Nvidia cae cerca de 10 % en medio de un escándalo por presunto espionaje y China frena 600.000 chips ¿Cuánto depende la industria de la IA de Jensen Huang?

4. El Estado deberá llevar un registro de sus sistemas de IA

El uso de estas tecnologías en las instituciones públicas no podrá quedar sin documentación. El código establece que cada organismo debe mantener un registro actualizado de los sistemas de inteligencia artificial que utiliza.

Ese registro debe incluir información como la finalidad de la herramienta, los datos que procesa, el proveedor, el área institucional responsable, el nivel de riesgo y los resultados de las evaluaciones de impacto, cuando correspondan.

La normativa contempla que se publique un extracto de esos registros en un portal de transparencia de IA del Estado. Este mecanismo busca que la ciudadanía pueda conocer qué herramientas se están utilizando y qué instituciones son responsables de ellas. Facilita la supervisión y las auditorías para comprobar que los sistemas funcionan conforme a las reglas establecidas.

5. Las instituciones deben prevenir sesgos, fallos y riesgos para los ciudadanos

La quinta regla exige que las entidades públicas adopten medidas para evitar que la IA genere resultados discriminatorios o afecte injustamente a determinadas personas.

Por lo que los sistemas deberán diseñarse y evaluarse para prevenir sesgos relacionados con factores como género, nacionalidad, edad, discapacidad, origen étnico, territorio o condición socioeconómica. A la vez, deberán respetar las normas de protección de datos personales y los estándares de seguridad de la información. Esto implica prestar atención a la calidad de los datos utilizados, limitar su uso a lo necesario y contar con medidas para responder ante incidentes.

De igual forma, si una herramienta presenta fallos, desviaciones en su funcionamiento o resultados que afecten desproporcionadamente a ciertos grupos, la institución deberá adoptar medidas correctivas. Según la gravedad del problema, estas pueden incluir limitar el sistema, suspenderlo temporalmente o retirarlo. El código dispone que los incidentes relevantes sean comunicados a las instancias correspondientes para su seguimiento.

¿Qué usos de IA quedan prohibidos en el Estado?

Más allá de reconocer derechos y establecer obligaciones, el Código de Ética fija límites a determinadas prácticas. Entre los usos prohibidos figuran la clasificación social generalizada de ciudadanos para determinar su acceso a derechos o servicios, el perfilamiento criminal predictivo basado en características como el lugar de residencia o la condición socioeconómica y la utilización de sistemas que dicten sentencias penales o impongan privación de libertad sin intervención humana directa.

Establece restricciones a la vigilancia biométrica masiva en espacios públicos sin las garantías legales correspondientes, la manipulación ciudadana mediante propaganda o desinformación institucional y el uso de armas autónomas capaces de decidir causar daño sin intervención humana responsable.

Estas prohibiciones buscan impedir que la modernización de los servicios públicos se traduzca en prácticas que vulneren derechos fundamentales.

Te puede interesar: Nvidia cae cerca de 10 % en medio de un escándalo por presunto espionaje y China frena 600.000 chips ¿Cuánto depende la industria de la IA de Jensen Huang?

¿Quién supervisará el cumplimiento de las reglas?

La aplicación del código involucra a distintas instituciones. La Dirección General de Ética e Integridad Gubernamental (Digeig) tiene responsabilidades de supervisión ética y recepción de denuncias, mientras que la Oficina Gubernamental de Tecnologías de la Información y Comunicación (Ogtic) participa en los aspectos técnicos de la gobernanza de la inteligencia artificial.

La normativa asigna responsabilidades administrativas al Ministerio de Administración Pública (MAP) y contempla la coordinación y supervisión nacional para dar seguimiento a su implementación. Las instituciones públicas dispondrán de 180 días, contados desde la publicación del decreto, para adecuar sus políticas y procedimientos a las nuevas disposiciones.

Es más, para los ciudadanos, el cambio más importante es que podrán exigir información cuando una decisión pública haya sido apoyada por inteligencia artificial, conocer los criterios relevantes y solicitar que una persona revise el resultado. La tecnología podrá agilizar procesos del Estado, pero no sustituir la transparencia ni la responsabilidad de quienes toman decisiones.

Suscríbete a la revista y regístrate a nuestros newsletters para recibir el mejor contenido en tu buzón de entrada.