A medida que las municipalidades, los registros públicos (como los Conservadores de Bienes Raíces) y los servicios de salud en Chile adoptan la Inteligencia Artificial para agilizar certificados, clasificar reclamos o predecir atenciones, surge una pregunta ineludible: ¿Quién audita a los algoritmos que toman decisiones sobre los ciudadanos?
Cuando una IA privada comete un error, el usuario puede cambiar de servicio. Pero cuando un algoritmo utilizado por una institución pública comete una falla —por ejemplo, clasificando erróneamente el nivel de vulnerabilidad social de una familia en el RSH o denegando un trámite por un sesgo en sus datos de entrenamiento— la persona queda desprotegida.
Los 3 pilares para una IA pública responsable
- Transparencia Algorítmica: Los ciudadanos deben tener el derecho de saber si una decisión que les afecta fue tomada o sugerida por un modelo de Inteligencia Artificial, y cuáles fueron los criterios de esa decisión.
- Auditoría de Sesgos: Antes de desplegar un modelo en un servicio público, este debe ser sometido a pruebas independientes para asegurar que no discrimina por género, edad, nivel socioeconómico o zona geográfica.
- Supervisión Humana Obligatoria (Human-in-the-loop): La IA debe actuar como un asistente de pre-clasificación o recomendación, pero la decisión final que afecte derechos o beneficios de las personas siempre debe recaer en un funcionario público responsable.
La creación de un marco de gobernanza y ética para los algoritmos del Estado no busca frenar la modernización, sino construir la confianza necesaria para que la tecnología sea un verdadero motor de equidad social en Chile.
