En 1891, el Papa León XIII publicó la Rerum Novarum. Fue la respuesta de la Iglesia a la Revolución Industrial: un documento que reconocía que el avance tecnológico sin instituciones capaces de encauzarlo producía explotación, no prosperidad. Ciento treinta y cinco años después, el Papa León XIV firmó la encíclica Magnifica Humanitas, tomando deliberadamente ese aniversario como fecha y ese pontífice como referencia. El mensaje es explícito: estamos ante un momento equivalente. La inteligencia artificial es nuestra Revolución Industrial, y el derecho tiene que estar a la altura.

La encíclica no condena la tecnología. La interpela. León XIV advierte que las innovaciones tecnológicas “pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión”. Y frente a esa disyuntiva, es categórico: “No basta con invocar la ética de manera abstracta; se requieren marcos jurídicos sólidos, supervisión independiente, usuarios informados y un sistema político que no abdique de su responsabilidad”. Una IA más moral, dice el Papa, no es suficiente si esa moralidad la determinan unos pocos.

Esa frase debería leerse en cada cámara legislativa del país.

Porque lo que describe el pontífice no es un escenario futuro. Es el presente de millones de ciudadanos bonaerenses. Hoy, una persona puede recibir un débito que no autorizó, ejecutado por un sistema que nadie revisó. Puede tener un contrato cancelado por un algoritmo que nadie decidió activar. Puede ser rechazada para un crédito por un criterio que ningún funcionario ni ejecutivo podría explicarle con claridad. ¿A quién reclama? Esa pregunta, hasta ahora, no tenía respuesta.

La Ley de Transparencia y Responsabilidad en Decisiones Automatizadas en Relaciones de Consumo, que presenté en la Honorable Cámara de Diputados, empieza a construirla. Es una ley integral que establece condiciones concretas de identificación, trazabilidad y responsabilidad administrativa para los sistemas de inteligencia artificial que operan en el mercado de consumo bonaerense. En términos simples: si una empresa usa un algoritmo para tomar decisiones que te afectan, tiene que poder decirte quién lo diseñó, cómo funciona y quién responde cuando algo sale mal. Ya no alcanza con decir “fue el sistema”.

Identificación significa que el ciudadano tiene derecho a saber cuándo está interactuando con un sistema automatizado y no con una persona. Trazabilidad significa que cada decisión que ese sistema tome debe poder reconstruirse: qué datos usó, qué criterio aplica, qué resultado produjo. Y responsabilidad administrativa significa que siempre hay una empresa o persona jurídica concreta que responde ante el Estado y ante el consumidor cuando este proceso falla — sin que el algoritmo pueda ser la respuesta final a ningún reclamo.

El texto incluye además un seguro obligatorio para quienes operan sistemas automatizados con impacto patrimonial sobre los usuarios, mecanismos de auditoría accesibles, y un período de adecuación de 180 días para las empresas en actividad. No es una regulación hostil a la innovación; es la condición para que la innovación llegue a todos y no solo a quienes tienen recursos para litigar cuando algo falla.

León XIV señala que el riesgo central es la concentración del poder tecnológico “en pocas manos”, donde patentes, algoritmos y datos quedan fuera del control público y definen “condiciones de acceso, reglas de visibilidad, formas de relación e incluso oportunidades económicas”. Es exactamente esa asimetría la que esta ley busca corregir. No eliminando la tecnología, sino poniendo al ciudadano en igualdad de condiciones frente a ella: con derecho a saber, derecho a reclamar y alguien concreto a quien responsabilizar.

La pregunta que nadie había formulado con claridad, ¿qué pasa cuando el algoritmo se equivoca?, tiene ahora, en el plano de la ética global, la respuesta del líder religioso más influyente del mundo. Le corresponde a la política traducirla en ley. Eso es exactamente lo que estamos haciendo.