Inteligencia artificial en el gobierno: innovar sin delegar la responsabilidad

La inteligencia artificial plantea una pregunta central para los gobiernos de México y América Latina: ¿cómo aprovecharla sin convertir la eficiencia en una excusa para reducir controles? Su posible uso en atención ciudadana, análisis de expedientes o clasificación de solicitudes obliga a discutir algo más que tecnología. Está en juego quién decide, con qué información y ante quién responde.

No todos los usos tienen el mismo riesgo. Una herramienta que ayuda a redactar un aviso institucional no equivale a un sistema que influye en el acceso a un apoyo social o en la selección de personas sujetas a inspección. Para un líder público, distinguir esas funciones debe ser el punto de partida. Automatizar una tarea administrativa puede ahorrar tiempo; automatizar una decisión que afecta derechos exige salvaguardas mucho mayores.

El problema tampoco se resuelve colocando a una persona al final del proceso. Si el personal desconoce cómo funciona la herramienta, carece de tiempo para revisar sus resultados o teme contradecirla, la supervisión puede volverse un trámite. La responsabilidad humana necesita condiciones reales: capacitación, autoridad para corregir y procedimientos claros para detener un uso que produzca errores.

Antes de contratar, conviene elaborar un inventario de necesidades y datos disponibles. ¿Qué problema concreto se busca resolver? ¿La información es suficiente y pertinente? ¿Contiene datos personales que requieren protección? Una institución con registros incompletos o criterios confusos corre el riesgo de automatizar sus deficiencias. En ocasiones, simplificar un procedimiento y ordenar sus bases de datos ofrece más valor que adquirir una herramienta sofisticada.

La contratación merece especial atención. Los líderes pueden exigir documentación comprensible, mecanismos de auditoría, reglas sobre el uso de la información y condiciones para cambiar de proveedor. También deben definir quién responderá por errores y cómo se corregirán. La promesa comercial de precisión no sustituye una evaluación con casos representativos de la población atendida, incluidas personas con barreras lingüísticas, discapacidad o conectividad limitada.

La participación ciudadana aporta una prueba que ningún proveedor puede reemplazar: la experiencia de quien utiliza el servicio. Un piloto acotado, con canales de queja y una alternativa de atención humana, permite detectar obstáculos antes de ampliar el sistema. Evaluar implica medir no solo rapidez, sino errores, accesibilidad y posibilidades de impugnar una decisión.

Para quienes lideran, la ruta es concreta: empezar por un problema verificable, asignar responsables, probar con límites y publicar resultados comprensibles. La innovación pública no consiste en incorporar inteligencia artificial a cualquier costo. Consiste en demostrar que una herramienta mejora el servicio sin debilitar los derechos ni diluir la rendición de cuentas.