La ciudad que te reconoce: cómo auditar el reconocimiento facial antes de normalizar la vigilancia pública
El reconocimiento facial en espacios públicos avanza rápido. Esta guía explica cómo auditarlo antes de normalizar vigilancia masiva, protegiendo seguridad, privacidad y confianza ciudadana.
Por Equipo Starbyte
La ciudad que te reconoce: cómo auditar el reconocimiento facial antes de normalizar la vigilancia pública
Una escena que ya no pertenece al futuro
Imagina una calle concurrida.
Personas saliendo del metro. Un padre llevando a su hija al colegio. Una trabajadora apurada. Un vendedor ambulante. Un turista mirando el celular. Un manifestante que pasa por casualidad cerca de una concentración.
Sobre esa escena cotidiana, una cámara no solo graba. Compara rostros en tiempo real contra una lista de personas buscadas.
Si el sistema encuentra una coincidencia, una alerta aparece para que un agente intervenga.
Esa escena ya no es ciencia ficción.
El reconocimiento facial en vivo —Live Facial Recognition o LFR— se está moviendo desde pilotos limitados hacia despliegues más amplios en espacios públicos. La promesa es directa: encontrar personas buscadas, detener sospechosos y reducir delitos. La preocupación también es directa: convertir calles, plazas, protestas y estaciones en zonas de identificación biométrica permanente.
La pregunta no debería formularse como una pelea simple:
seguridad versus privacidad
La pregunta seria es más difícil:
¿Qué condiciones mínimas debe cumplir una ciudad antes de permitir que una IA identifique rostros en la vía pública?
Este post propone una respuesta: antes de normalizar el reconocimiento facial, hay que construir una auditoría de proporcionalidad biométrica.
Por qué este tema está en tendencia
Reuters reportó en las últimas 24 horas que la Policía Metropolitana de Londres está expandiendo significativamente el uso de Live Facial Recognition en espacios públicos. Según el reporte, la tecnología compara rostros captados en la calle contra una lista de vigilancia de aproximadamente 17,000 personas y, desde inicios de 2024, habría contribuido a unas 2,500 detenciones.
El mismo reporte expone el otro lado del debate: organizaciones de libertades civiles advierten que el uso de reconocimiento facial en protestas y espacios públicos puede afectar privacidad, libertad de expresión y presunción de inocencia. Además, una decisión reciente del High Court validó el uso de la tecnología por parte de la policía metropolitana, mientras el gobierno británico trabaja en un marco legal para regular su crecimiento.
Ese contexto convierte el tema en una señal global: el reconocimiento facial público está pasando de discusión técnica a infraestructura de gobierno.
El verdadero dilema no es si funciona, sino cómo se gobierna
Un error común es discutir reconocimiento facial solo desde dos extremos.
Un lado dice:
Si ayuda a detener criminales, debe usarse.
El otro responde:
Si puede vigilar a todos, debe prohibirse.
Ambas posiciones capturan parte del problema, pero no lo resuelven.
El punto experto es este:
Una tecnología puede ser útil y, aun así, ser peligrosa si no tiene límites verificables.
Un sistema de reconocimiento facial no debe evaluarse solo por precisión. Debe evaluarse por:
- legalidad;
- proporcionalidad;
- necesidad;
- precisión real;
- sesgos;
- calidad de listas de vigilancia;
- control humano;
- transparencia;
- trazabilidad;
- posibilidad de impugnación;
- retención de datos;
- auditoría independiente;
- impacto sobre protestas;
- riesgo de expansión silenciosa.
Una cámara puede capturar una cara. Pero una institución decide qué significa esa captura.
La anatomía de un sistema LFR
Un sistema de reconocimiento facial en vivo suele tener cinco capas.
1. Captura
Cámaras instaladas en un punto específico registran rostros de personas que pasan por una zona.
2. Extracción biométrica
El sistema transforma rasgos faciales en una representación matemática. No “ve” un rostro como una persona lo ve; genera una plantilla biométrica.
3. Comparación
La plantilla se compara contra una lista de vigilancia.
4. Alerta
Si la similitud supera un umbral, el sistema genera una coincidencia candidata.
5. Intervención humana
Una persona decide si la alerta amerita intervención.
El riesgo aparece cuando cualquiera de esas capas falla: cámara de mala calidad, lista mal construida, umbral mal calibrado, sesgo demográfico, operador presionado o intervención sin revisión suficiente.
La pregunta que nadie quiere responder: ¿quién entra a la lista?
El corazón del sistema no es la cámara. Es la lista de vigilancia.
Una ciudad puede tener la tecnología más precisa, pero si la lista está mal diseñada, el sistema será injusto.
Preguntas mínimas:
¿Quién puede ser incluido?
¿Por qué motivo?
Con qué evidencia?
Por cuánto tiempo?
Quién aprueba la inclusión?
Quién revisa la lista?
Cómo se elimina a alguien?
Puede una persona impugnar su inclusión?
Se auditan errores?
Una lista de vigilancia no debe crecer por inercia.
Si una ciudad usa LFR, la lista debe tener una justificación estricta. No es lo mismo buscar a una persona con orden judicial vigente que incluir categorías amplias, imprecisas o políticamente sensibles.
La lista es donde una herramienta de seguridad puede convertirse en una herramienta de vigilancia.
Precisión no significa justicia
Muchos defensores de estos sistemas hablan de baja tasa de falsos positivos. Eso importa, pero no basta.
Una tasa baja puede ocultar problemas si:
- se aplica sobre miles de personas;
- se concentra en ciertos barrios;
- se despliega en protestas;
- afecta más a determinados grupos;
- el operador confía demasiado en la alerta;
- no hay mecanismo de corrección;
- no se informa a las personas afectadas;
- no se publican datos de auditoría.
Además, los errores no tienen el mismo costo para todos.
Un falso positivo puede significar:
- ser detenido en público;
- ser interrogado;
- perder una cita;
- sufrir humillación;
- quedar registrado;
- ser tratado como sospechoso;
- desconfiar de futuras protestas o reuniones.
En biometría pública, el daño no siempre es estadístico. A veces es personal.
El efecto invisible: cambiar cómo se comporta la gente
La vigilancia no solo actúa cuando identifica a alguien. También actúa cuando las personas saben que podrían ser identificadas.
Ese efecto importa en:
- marchas;
- reuniones políticas;
- eventos religiosos;
- sindicatos;
- universidades;
- plazas públicas;
- transporte;
- zonas comerciales;
- barrios con alta presencia policial.
Una tecnología puede reducir delitos y, al mismo tiempo, enfriar libertades.
Por eso el uso en protestas debe tener un estándar más alto. No basta con decir “solo buscamos personas peligrosas”. Hay que demostrar que el despliegue fue necesario, proporcional, limitado y auditado.
La Auditoría de Proporcionalidad Biométrica
Propongo evaluar cualquier despliegue de reconocimiento facial público con una matriz de seis preguntas.
1. Necesidad
¿Qué problema concreto resuelve?
¿Existe evidencia de que otras medidas no bastan?
No se debe usar LFR por comodidad tecnológica.
2. Proporcionalidad
¿El beneficio esperado justifica escanear a todas las personas que pasan por la zona?
Buscar a un prófugo peligroso no es lo mismo que vigilar eventos de baja amenaza.
3. Precisión contextual
¿El sistema fue probado en condiciones similares a la calle real?
No basta con pruebas de laboratorio.
4. Lista de vigilancia
¿La lista es limitada, revisada y jurídicamente justificable?
La calidad de la lista define el riesgo.
5. Control humano
¿El operador puede cuestionar la alerta o solo obedecerla?
El humano no debe ser decoración.
6. Rendición de cuentas
¿Se publican datos de uso, errores, detenciones, quejas y auditorías?
Sin transparencia, no hay confianza.
Una matriz práctica para decidir despliegues
| Pregunta | Bajo riesgo | Alto riesgo |
|---|---|---|
| Finalidad | buscar personas con orden vigente | vigilancia amplia o difusa |
| Lugar | zona limitada y justificada | ciudad entera o protesta |
| Duración | horas definidas | despliegue permanente |
| Lista | corta y revisada | amplia, opaca o desactualizada |
| Datos | no retenidos si no hay match | almacenamiento masivo |
| Operador | entrenado y supervisado | intervención automática |
| Auditoría | independiente y pública | interna y reservada |
| Reclamo | canal claro | sin mecanismo |
Si aparecen varias columnas de alto riesgo, el despliegue no debería aprobarse.
El estándar mínimo para una ciudad democrática
Un sistema LFR en espacio público debería cumplir, como mínimo, estas condiciones:
Orden de despliegue
Cada operación debe tener objetivo, lugar, fecha, duración, responsable y justificación.
Lista limitada
Solo personas con base legal clara, riesgo definido y revisión periódica.
Aviso visible
La ciudadanía debe saber que se está usando reconocimiento facial, salvo casos excepcionales estrictamente justificados.
No retención masiva
Los rostros de personas no coincidentes no deben conservarse.
Revisión humana real
Ninguna intervención debería depender únicamente de la alerta algorítmica.
Auditoría externa
El sistema debe ser revisado por entidades independientes, no solo por quien lo compra o lo opera.
Reportes públicos
Debe publicarse información agregada sobre despliegues, alertas, falsos positivos, detenciones, quejas y resultados.
Protección de protestas
El uso en manifestaciones debe ser excepcional, reforzado y sujeto a control superior.
Caso de uso legítimo: búsqueda focalizada de personas peligrosas
Puede existir un caso legítimo.
Ejemplo:
Una zona concreta.
Un periodo limitado.
Una lista reducida de personas con órdenes vigentes.
Aviso público.
Operadores entrenados.
No retención de no coincidencias.
Auditoría posterior.
Ese escenario es distinto de una red permanente de identificación biométrica.
La legitimidad no depende solo de la tecnología. Depende de límites, evidencia y control.
Caso de uso peligroso: vigilancia permanente por defecto
Escenario problemático:
Cámaras en zonas amplias.
Listas extensas.
Criterios opacos.
Uso en protestas.
Retención de datos.
Baja transparencia.
Poca auditoría externa.
Dependencia de proveedor.
Aquí la tecnología deja de ser herramienta puntual y se convierte en infraestructura de vigilancia.
El problema no es solo técnico. Es institucional.
Qué debería exigir un informe de impacto
Antes de desplegar LFR, una entidad debería publicar o conservar un informe de impacto con:
- finalidad específica;
- base legal;
- necesidad;
- alternativas evaluadas;
- alcance geográfico;
- duración;
- composición de la lista;
- criterios de inclusión;
- umbrales de coincidencia;
- precisión esperada;
- pruebas en condiciones reales;
- riesgos de sesgo;
- retención de datos;
- roles humanos;
- canal de reclamo;
- auditoría;
- proveedor;
- ciberseguridad;
- plan de apagado.
Un informe de impacto no debe ser un trámite decorativo. Debe ser el documento que decide si el sistema se usa o no.
El error de comprar tecnología antes que legitimidad
Muchas entidades compran tecnología primero y diseñan gobernanza después.
En reconocimiento facial, eso es peligroso.
El orden correcto es:
Problema público
→ base legal
→ evaluación de alternativas
→ análisis de proporcionalidad
→ consulta y transparencia
→ prueba controlada
→ auditoría
→ despliegue limitado
→ evaluación pública
No:
Proveedor
→ demo impresionante
→ contrato
→ despliegue
→ política posterior
La legitimidad no se compra con una licencia.
Riesgos técnicos que suelen subestimarse
Calidad de imagen
Cámaras, iluminación, ángulo, movimiento y distancia afectan la precisión.
Umbral de coincidencia
Un umbral bajo aumenta alertas falsas. Uno alto puede perder coincidencias reales.
Dataset de prueba
El sistema debe probarse con condiciones y población similares al entorno real.
Sesgo demográfico
Se debe medir desempeño por grupos, no solo promedio general.
Seguridad de datos
Las plantillas biométricas son altamente sensibles. Si se filtran, no puedes cambiar de rostro como cambias una contraseña.
Dependencia del proveedor
La entidad debe poder auditar, cambiar, suspender o terminar el sistema.
Checklist para aprobar o rechazar LFR
| Revisión | Estado |
|---|---|
| Finalidad específica definida | ☐ |
| Base legal clara | ☐ |
| Alternativas evaluadas | ☐ |
| Proporcionalidad documentada | ☐ |
| Lista de vigilancia limitada | ☐ |
| Criterios de inclusión revisados | ☐ |
| Pruebas en condiciones reales | ☐ |
| Evaluación de sesgo | ☐ |
| No retención de no coincidencias | ☐ |
| Revisión humana real | ☐ |
| Aviso público | ☐ |
| Auditoría externa | ☐ |
| Canal de reclamo | ☐ |
| Reporte público de resultados | ☐ |
| Plan de suspensión | ☐ |
Si una entidad no puede completar esta tabla, no está lista para usar reconocimiento facial en espacios públicos.
Preguntas que un ciudadano debería poder hacer
Una ciudad que usa LFR debería poder responder:
¿Dónde se usa?
¿Cuándo se usa?
Por qué se usa?
Quién está en la lista?
Cómo se controla la lista?
Qué pasa con mi rostro si no hay coincidencia?
Cuántas alertas fueron falsas?
Cuántas detenciones se produjeron?
Puedo reclamar si fui identificado por error?
Quién audita el sistema?
Qué proveedor opera la tecnología?
Si esas respuestas no existen, el sistema no merece confianza pública.
El punto más delicado: normalización
La primera vez que una ciudad usa reconocimiento facial, hay debate.
La décima vez, hay menos debate.
La centésima vez, puede parecer normal.
Ese es el riesgo de normalización.
Tecnologías excepcionales pueden convertirse en infraestructura permanente si no tienen fecha de revisión, límites y métricas públicas.
Por eso todo despliegue debería tener:
fecha de inicio;
fecha de revisión;
criterios de continuidad;
criterios de suspensión;
evaluación independiente;
publicación de resultados.
La pregunta no es solo si funciona hoy. Es qué tipo de ciudad construye mañana.
Plantilla de auditoría rápida
AUDITORÍA DE PROPORCIONALIDAD BIOMÉTRICA
1. Finalidad:
2. Lugar:
3. Duración:
4. Base legal:
5. Alternativas evaluadas:
6. Lista de vigilancia:
7. Criterios de inclusión:
8. Proveedor:
9. Precisión en entorno real:
10. Riesgos de sesgo:
11. Retención de datos:
12. Revisión humana:
13. Aviso público:
14. Canal de reclamo:
15. Auditoría externa:
16. Métricas de éxito:
17. Condiciones de suspensión:
18. Responsable institucional:
Prompt experto para evaluar un proyecto de reconocimiento facial
Actúa como especialista en gobernanza de IA, biometría, privacidad y seguridad pública.
Evalúa si un proyecto de reconocimiento facial en espacios públicos debería aprobarse, restringirse o rechazarse.
Contexto:
- Entidad responsable:
- Finalidad:
- Lugar de despliegue:
- Duración:
- Tipo de lista de vigilancia:
- Datos retenidos:
- Proveedor:
- Base legal:
- Nivel de riesgo:
- Mecanismo de revisión humana:
- Auditoría prevista:
Entrega:
1. Evaluación de necesidad.
2. Evaluación de proporcionalidad.
3. Riesgos técnicos.
4. Riesgos de derechos fundamentales.
5. Riesgos de sesgo.
6. Controles mínimos.
7. Condiciones de aprobación.
8. Motivos de rechazo.
9. Preguntas que deben responderse antes del despliegue.
Idea clave
El reconocimiento facial público no debe evaluarse como una simple herramienta policial ni como una amenaza abstracta. Debe evaluarse como infraestructura de poder. Puede ayudar a encontrar personas peligrosas, pero también puede cambiar la relación entre ciudadano y ciudad. La diferencia entre seguridad legítima y vigilancia normalizada está en los límites: finalidad clara, lista estricta, control humano, no retención masiva, auditoría independiente y transparencia pública.