IA agéntica en el sector público: cómo automatizar decisiones rutinarias sin perder control, legalidad ni confianza ciudadana

Problema real: el Estado no necesita “más IA”, necesita mejores decisiones públicas

En muchas entidades públicas, la conversación sobre inteligencia artificial empieza con una idea simple:

Pongamos un chatbot.

Eso puede ser útil para atención ciudadana, pero limita el verdadero potencial de la IA.

El sector público enfrenta problemas más profundos:

• expedientes acumulados.
• trámites repetitivos.
• revisión manual de requisitos.
• atención lenta.
• decisiones inconsistentes.
• duplicidad de registros.
• riesgos de corrupción.
• baja trazabilidad.
• información dispersa.
• fiscalización tardía.
• dificultad para priorizar recursos.
• falta de alertas tempranas.

La IA puede ayudar, pero solo si se implementa con criterio institucional.

La tendencia actual no es solo usar chatbots, sino agentes de IA capaces de apoyar flujos completos: leer, clasificar, contrastar, alertar, proponer acciones y preparar decisiones bajo supervisión humana.

La pregunta experta no es:

¿Cómo metemos IA en la entidad?

La pregunta correcta es:

¿Qué decisiones rutinarias podemos mejorar sin perder legalidad, explicabilidad, control humano ni confianza ciudadana?

Por qué este tema está en tendencia

La IA en gobiernos está entrando en una fase más operativa. Gartner proyecta que al menos el 80% de los gobiernos desplegará agentes de IA para automatizar decisiones rutinarias hacia 2028, con el objetivo de mejorar eficiencia y consistencia en servicios públicos.

La OCDE también destaca que la IA puede ayudar a gobiernos a automatizar y personalizar servicios, mejorar decisiones, detectar fraude y enriquecer el trabajo de los servidores públicos; pero advierte riesgos como sesgos, falta de transparencia, errores, sobredependencia y pérdida de confianza ciudadana.

En auditoría pública, la OCDE reporta usos emergentes de IA en detección de anomalías, procesamiento documental, gestión del conocimiento y evaluación predictiva de riesgos.

Esto confirma una tendencia clara:

La IA pública está pasando del piloto aislado
a la automatización gobernada de procesos reales.

Qué es IA agéntica en el sector público

Un agente de IA es un sistema que no solo responde una pregunta. Puede ejecutar pasos dentro de un flujo, usar herramientas, consultar fuentes, aplicar reglas y devolver una acción recomendada.

En el sector público, un agente podría:

• clasificar expedientes.
• verificar requisitos.
• detectar documentos faltantes.
• generar borradores de respuesta.
• priorizar casos por riesgo.
• revisar coherencia normativa.
• consultar bases de datos.
• alertar inconsistencias.
• preparar reportes.
• derivar solicitudes.
• sugerir acciones administrativas.
• generar trazabilidad.

Pero hay una regla central:

En el sector público, un agente de IA no debe reemplazar la responsabilidad administrativa. Debe asistir, documentar y elevar la calidad de la decisión humana.

Diferencia entre chatbot, automatización y agente público

La IA agéntica debe diseñarse con límites claros.

Principio experto: no automatices la decisión si no entiendes el procedimiento

Antes de implementar IA en una entidad, debes mapear el proceso.

Preguntas mínimas:

¿Cuál es el procedimiento?
¿Qué norma lo regula?
Qué documentos intervienen?
Quién decide?
Qué plazo aplica?
Qué criterios son objetivos?
Qué criterios requieren juicio humano?
Qué evidencia debe quedar?
Qué recurso o apelación existe?
Qué datos personales se procesan?
Qué riesgos genera un error?

Si el procedimiento no está claro, la IA solo acelerará el desorden.

Casos de uso de alto valor público

1. Clasificación inteligente de expedientes

Uso:

Recibir documentos, identificar tipo de trámite, extraer datos clave y derivar al área correcta.

Beneficio:

• menos derivaciones erróneas.
• reducción de tiempo de mesa de partes.
• mejor trazabilidad.
• priorización por urgencia.

Control necesario:

• validación humana.
• reglas de derivación.
• registro de cambios.
• manejo de datos personales.

2. Revisión preliminar de requisitos

Uso:

Verificar si una solicitud contiene documentos mínimos antes de pasar a evaluación técnica.

Beneficio:

• menos expedientes incompletos.
• atención más rápida.
• ciudadanos mejor informados.

Control necesario:

• no rechazar automáticamente sin revisión.
• explicar requisito faltante.
• permitir subsanación.
• conservar evidencia.

3. Alertas de riesgo en contratación pública

Uso:

Detectar patrones de fraccionamiento, proveedores recurrentes, plazos atípicos, montos inusuales o documentos inconsistentes.

Beneficio:

• prevención.
• fiscalización temprana.
• mejor priorización de auditoría.

Control necesario:

• no acusar automáticamente.
• explicar señal de riesgo.
• revisión por especialistas.
• evitar sesgos contra proveedores.

4. Gestión de inversión pública

Uso:

Identificar proyectos con retrasos, baja ejecución, expedientes vencidos, alertas de costos o inconsistencias entre sistemas.

Beneficio:

• priorización de seguimiento.
• alertas tempranas.
• mejor toma de decisiones.

Control necesario:

• fuentes oficiales.
• trazabilidad de datos.
• actualización periódica.
• validación por área técnica.

5. Auditoría pública asistida por IA

Uso:

Analizar grandes volúmenes de documentos, detectar anomalías, agrupar hallazgos y sugerir muestras de auditoría.

Beneficio:

• mayor cobertura.
• focalización de riesgos.
• eficiencia en revisión documental.

Control necesario:

• criterio auditor.
• documentación de metodología.
• explicación de criterios.
• revisión humana.

6. Atención ciudadana aumentada

Uso:

Responder consultas, orientar trámites, explicar requisitos y generar borradores de respuestas.

Beneficio:

• atención 24/7.
• reducción de carga repetitiva.
• mejor experiencia ciudadana.

Control necesario:

• fuentes actualizadas.
• advertencia de orientación no vinculante.
• escalamiento a humano.
• monitoreo de errores.

Lo que no debe automatizarse sin salvaguardas fuertes

Hay decisiones públicas de alto impacto que requieren especial cuidado.

Ejemplos:

• sanciones.
• beneficios sociales.
• elegibilidad para programas.
• priorización de atención médica.
• fiscalización con efectos legales.
• selección de beneficiarios.
• decisiones sobre derechos.
• asignación de recursos críticos.
• evaluación de desempeño de servidores.
• decisiones disciplinarias.
• perfiles de riesgo ciudadano.

En estos casos, la IA puede asistir, pero la decisión debe mantener:

base legal + motivación + revisión humana + derecho de contradicción + trazabilidad.

Riesgos principales

Marco experto de implementación

Una entidad pública debería implementar IA siguiendo siete capas:

1. Caso de uso público
2. Base normativa
3. Datos y fuentes
4. Modelo o agente
5. Control humano
6. Auditoría y trazabilidad
7. Evaluación de impacto

Si falta una capa, el proyecto queda incompleto.

Paso 1: define el valor público

No empieces por la herramienta.

Define el problema:

¿Qué trámite demora demasiado?
Qué decisión es repetitiva?
Qué riesgo no se detecta a tiempo?
Qué ciudadano se ve afectado?
Qué indicador mejorará?

Ejemplo:

Reducir de 10 días a 3 días la revisión preliminar de requisitos de solicitudes frecuentes.

Métrica clara:

Tiempo promedio de atención.
Porcentaje de expedientes observados.
Errores de derivación.
Satisfacción ciudadana.

Paso 2: clasifica el nivel de riesgo del caso de uso

Matriz simple:

No todo uso de IA requiere el mismo control. Pero todo uso institucional requiere gobernanza.

Paso 3: identifica la base normativa y procedimental

La IA debe trabajar dentro del marco legal.

Revisa:

• ley aplicable.
• reglamento.
• TUPA o procedimiento.
• directivas internas.
• plazos.
• competencia del área.
• criterios de evaluación.
• obligaciones de motivación.
• protección de datos personales.
• conservación documental.
• transparencia y acceso a información.
• responsabilidad administrativa.

La IA no puede inventar criterios no previstos.

Paso 4: prepara datos de calidad

La IA pública depende de datos confiables.

Problemas comunes:

• expedientes escaneados sin OCR.
• bases duplicadas.
• campos incompletos.
• códigos mal registrados.
• documentos sin metadatos.
• sistemas que no interoperan.
• datos desactualizados.
• archivos sin clasificación.
• ausencia de diccionario de datos.

Antes del modelo, trabaja datos.

Checklist:

Paso 5: diseña control humano significativo

No basta con decir “hay revisión humana”.

El control humano debe ser real.

Debe poder:

• entender la recomendación.
• ver evidencia.
• modificar el resultado.
• rechazar la recomendación.
• documentar motivo.
• escalar casos dudosos.
• detectar errores.
• responder ante auditoría.

Mal control humano:

El sistema decide y el servidor solo presiona aprobar.

Buen control humano:

El sistema recomienda, muestra evidencia, explica criterios y el servidor decide con registro de intervención.

Paso 6: exige trazabilidad

Toda recomendación de IA en el sector público debe poder reconstruirse.

Registra:

• usuario.
• fecha.
• versión del modelo.
• datos consultados.
• fuentes usadas.
• prompt o instrucción.
• respuesta generada.
• recomendación.
• decisión humana.
• cambios realizados.
• justificación.
• evidencia.

Sin trazabilidad, no hay rendición de cuentas.

Paso 7: evalúa sesgos y errores

Antes de desplegar:

1. prueba con casos reales históricos.
2. identifica errores frecuentes.
3. mide falsos positivos.
4. mide falsos negativos.
5. evalúa impacto por grupos.
6. revisa lenguaje discriminatorio.
7. prueba casos límite.
8. documenta limitaciones.
9. define cuándo escalar a humano.
10. crea proceso de reclamo o corrección.

La IA pública debe ser evaluada antes y después del despliegue.

Paso 8: protege datos personales

La entidad debe aplicar minimización.

Regla:

No procesar más datos de los necesarios para el caso de uso.

Controles:

• anonimización cuando sea posible.
• seudonimización.
• control de acceso.
• retención limitada.
• cifrado.
• logs.
• segregación de ambientes.
• evaluación de impacto.
• contratos con proveedores.
• prohibición de uso de datos para entrenamiento no autorizado.

Paso 9: evita dependencia total de proveedores

La soberanía digital importa en sector público.

Revisa:

¿Dónde se almacenan datos?
¿Quién controla el modelo?
¿Puedo exportar información?
¿Puedo auditar?
¿Puedo cambiar de proveedor?
¿Se usan mis datos para entrenar?
¿Qué pasa si sube el precio?
¿Qué pasa si el servicio se corta?
¿Existe alternativa local o híbrida?

La estrategia debe evitar encierro tecnológico.

Paso 10: crea un comité de gobernanza de IA

Debe incluir:

• alta dirección.
• área legal.
• tecnología.
• seguridad de la información.
• dueños de proceso.
• gestión documental.
• transparencia.
• protección de datos.
• control interno.
• usuarios finales.

Funciones:

• aprobar casos de uso.
• revisar riesgos.
• definir políticas.
• priorizar proyectos.
• monitorear resultados.
• revisar incidentes.
• actualizar lineamientos.

Caso práctico 1: agente para mesa de partes digital

Objetivo:

Clasificar solicitudes y verificar requisitos mínimos.

Diseño seguro:

Entrada documental
→ OCR
→ clasificación de trámite
→ detección de requisitos
→ alerta de faltantes
→ revisión por servidor
→ respuesta formal

No debe:

• rechazar automáticamente sin revisión.
• inventar requisitos.
• omitir derecho de subsanación.
• ocultar evidencia.

Caso práctico 2: IA para seguimiento de inversiones públicas

Objetivo:

Priorizar proyectos que requieren atención.

Señales:

• baja ejecución.
• retraso en cronograma.
• aumento de costo.
• falta de expediente técnico.
• devengado bajo.
• alertas de riesgo.
• inconsistencias entre sistemas.

Resultado esperado:

Tablero de priorización + explicación de alerta + evidencia + responsable de seguimiento.

La IA no reemplaza al especialista. Le muestra dónde mirar primero.

Caso práctico 3: agente de auditoría documental

Objetivo:

Apoyar revisión de expedientes.

Puede:

• agrupar documentos.
• detectar campos faltantes.
• comparar fechas.
• buscar inconsistencias.
• sugerir muestras.
• resumir hallazgos.

No debe:

• emitir conclusión de responsabilidad por sí solo.
• reemplazar criterio auditor.
• ocultar incertidumbre.
• generar hallazgos sin evidencia.

Caso práctico 4: chatbot ciudadano con RAG

Objetivo:

Orientar trámites usando fuentes oficiales.

Diseño seguro:

Pregunta ciudadana
→ búsqueda en base oficial
→ respuesta con fuente
→ advertencia de orientación
→ enlace al trámite
→ escalamiento si no sabe

Reglas:

• no responder sin fuente.
• no inventar requisitos.
• indicar fecha de actualización.
• permitir derivación humana.
• registrar preguntas frecuentes.

Checklist antes de implementar IA pública

Indicadores de éxito

No midas solo “número de consultas”.

Mide:

Errores comunes

Error 1: empezar por la herramienta

Solución:

Empieza por el problema público, no por el proveedor.

Error 2: automatizar procesos desordenados

Solución:

Mapea y simplifica antes de automatizar.

Error 3: no revisar base normativa

Solución:

La IA debe operar dentro del procedimiento legal.

Error 4: asumir que revisión humana basta

Solución:

El control humano debe ser significativo, informado y trazable.

Error 5: usar datos de mala calidad

Solución:

Gobierno de datos antes de modelos.

Error 6: no explicar al ciudadano

Solución:

Transparencia, fuentes y canales de reclamo.

Buenas prácticas

1. Prioriza casos de uso con valor público medible.
2. Clasifica riesgos antes de automatizar.
3. Usa fuentes oficiales y actualizadas.
4. Mantén control humano significativo.
5. Registra evidencia y trazabilidad.
6. Evalúa sesgos y errores.
7. Protege datos personales.
8. Evita dependencia total del proveedor.
9. Crea gobernanza institucional.
10. Publica lineamientos claros de uso.

Plan de 30, 60 y 90 días

Primeros 30 días

• Inventariar usos actuales de IA.
• identificar procesos repetitivos.
• definir política básica.
• prohibir usos de alto riesgo sin autorización.
• seleccionar 2 casos de bajo o medio riesgo.
• crear comité de gobernanza.

60 días

• mapear procesos.
• clasificar datos.
• diseñar piloto.
• definir métricas.
• seleccionar proveedor o arquitectura.
• capacitar equipo responsable.

90 días

• ejecutar piloto.
• medir resultados.
• evaluar sesgos.
• documentar trazabilidad.
• ajustar modelo.
• decidir escalamiento.
• publicar aprendizajes internos.

Prompt experto para diseñar un caso de IA pública

Actúa como consultor experto en inteligencia artificial para el sector público.

Diseña un caso de uso de IA para una entidad pública, asegurando valor público, legalidad, trazabilidad y control humano.

Contexto:
- Entidad: [DESCRIBIR]
- Proceso: [DESCRIBIR]
- Problema actual: [DESCRIBIR]
- Datos disponibles: [DESCRIBIR]
- Norma o procedimiento aplicable: [DESCRIBIR]
- Riesgos conocidos: [DESCRIBIR]

Entrega:
1. Caso de uso recomendado.
2. Flujo del proceso con IA.
3. Riesgo del caso de uso.
4. Datos necesarios y calidad requerida.
5. Salvaguardas legales y éticas.
6. Control humano significativo.
7. Evidencia y trazabilidad.
8. Indicadores de éxito.
9. Riesgos que impedirían el despliegue.
10. Plan piloto de 90 días.

Idea clave

La IA en el sector público no debe medirse por cuántos chatbots se lanzan, sino por cuántas decisiones públicas mejora sin perder legalidad, trazabilidad ni confianza. La próxima etapa será la IA agéntica: sistemas que apoyan procesos completos. Pero en el Estado, automatizar más rápido no siempre significa gobernar mejor. La IA pública debe ser útil, explicable, auditable y subordinada al interés ciudadano.