Tras el caso Zárate, la Provincia estableció por primera vez reglas obligatorias para el uso de inteligencia artificial en el Estado, con registro, auditorías y la prohibición del crédito social.
La Provincia de Buenos Aires oficializó este martes un marco normativo inédito para el uso de sistemas de inteligencia artificial (IA) en la administración pública. La resolución, publicada en el Boletín Oficial, introduce criterios obligatorios de seguridad, transparencia, equidad, sustentabilidad y control humano en todos los organismos provinciales.
El anuncio llega días después de la polémica designación de “ZARA” —un chatbot— como directora general de Atención al Vecino en el municipio de Zárate, un caso que desató debate sobre los límites del uso de IA en la gestión pública.
Regulación integral y transversal
Según la Subsecretaría de Gobierno Digital, toda entidad del Estado que diseñe, adquiera o implemente IA deberá cumplir requisitos verificables a lo largo de todo el ciclo de vida del sistema. La resolución regula el “desarrollo, investigación, innovación, contratación, adquisición, uso y/o despliegue” de estas tecnologías en la esfera estatal.
No se trata de una guía ética: su cumplimiento será obligatorio y sujeto a auditorías.
Clasificación de riesgo: qué está permitido y qué queda prohibido
El eje central de la normativa es un sistema de categorías inspirado en el AI Act de la Unión Europea, actualmente el estándar más avanzado del mundo.
Riesgo inaceptable (prohibidos)
La Provincia veta cualquier sistema que pueda afectar gravemente:
- seguridad,
- salud,
- derechos fundamentales,
- orden constitucional-democrático.
También prohíbe:
- técnicas subliminales para manipulación,
- clasificación y scoring social, es decir, evaluaciones automatizadas de comportamiento ciudadano que condicionen derechos o beneficios.
Alto riesgo (permitidos con controles estrictos)
Incluye sistemas utilizados en:
- identificación biométrica,
- infraestructura crítica,
- educación,
- empleo,
- justicia,
- democracia,
- administración pública.
Para estos casos se exigirá una evaluación de impacto algorítmico previa, orientada a detectar riesgos legales, sociales y técnicos.
Riesgo limitado
Como los chatbots. Se podrán usar, pero deben informar siempre al usuario que está interactuando con una máquina.
Riesgo nulo
Sistemas internos sin impacto directo sobre personas (por ejemplo, filtrado de spam). Requieren solo buenas prácticas técnicas.
Obligaciones del Estado y registro obligatorio
Cada organismo deberá:
- realizar una evaluación preliminar de riesgos antes de implementar un sistema,
- documentar posibles sesgos y garantizar medidas para evitarlos,
- proteger a sectores especialmente vulnerados,
- conservar los datos el tiempo suficiente para permitir auditorías,
- obtener consentimiento informado para el uso de datos personales,
- informar de forma clara cuando una respuesta provenga de IA.
Además, se crea un Registro Provincial de Sistemas de IA, en el que cada organismo deberá inscribir obligatoriamente las herramientas que utilice.
Impacto ambiental y capacitación permanente: dos novedades clave
La normativa incorpora por primera vez un criterio ambiental: los sistemas de IA deberán ser “sostenibles y sustentables”, midiendo su impacto energético y tomando medidas para reducir su huella ecológica.
Por otra parte, se obliga al Estado a capacitarse de manera continua, adaptándose a la rápida evolución tecnológica.
Un marco que llega en medio del debate nacional
El caso Zárate, donde la IA “ZARA” fue nombrada con facultades administrativas, reavivó el debate sobre la automatización del empleo público. Con esta reforma, la Provincia busca evitar vacíos legales y garantizar control humano en decisiones sensibles.
