Cuando el algoritmo decide, el derecho tiene que responder

La diputada provincial de la Coalición Cívica señala que "la inteligencia artificial ya toma decisiones sobre la vida cotidiana de millones de personas sin que ningún ser humano las haya adoptado". Cita las palabras del Papa León XIV y le hace un pedido a la Legislatura bonaerense.

Por Romina Braga

En 1891, el Papa León XIII publicó la Rerum Novarum. Fue la respuesta de la Iglesia a la Revolución Industrial: un documento que reconocía que el avance tecnológico sin instituciones capaces de encauzarlo producía explotación, no prosperidad. Ciento treinta y cinco años después, el Papa León XIV firmó la encíclica Magnifica Humanitas, tomando deliberadamente ese aniversario como fecha y ese pontífice como referencia. El mensaje es explícito: estamos ante un momento equivalente. La inteligencia artificial es nuestra Revolución Industrial, y el derecho tiene que estar a la altura.

La encíclica no condena la tecnología. La interpela. León XIV advierte que las innovaciones tecnológicas “pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión”. Y frente a esa disyuntiva, es categórico: “No basta con invocar la ética de manera abstracta; se requieren marcos jurídicos sólidos, supervisión independiente, usuarios informados y un sistema político que no abdique de su responsabilidad”. Una IA más moral, dice el Papa, no es suficiente si esa moralidad la determinan unos pocos.

Esa frase debería leerse en cada cámara legislativa del país.

Porque lo que describe el pontífice no es un escenario futuro. Es el presente de millones de ciudadanos bonaerenses. Hoy, una persona puede recibir un débito que no autorizó, ejecutado por un sistema que nadie revisó. Puede tener un contrato cancelado por un algoritmo que nadie decidió activar. Puede ser rechazada para un crédito por un criterio que ningún funcionario ni ejecutivo podría explicarle con claridad. ¿A quién reclama? Esa pregunta, hasta ahora, no tenía respuesta.

La Ley de Transparencia y Responsabilidad en Decisiones Automatizadas en Relaciones de Consumo, que presenté en la Honorable Cámara de Diputados, empieza a construirla. Es una ley integral que establece condiciones concretas de identificación, trazabilidad y responsabilidad administrativa para los sistemas de inteligencia artificial que operan en el mercado de consumo bonaerense. En términos simples: si una empresa usa un algoritmo para tomar decisiones que te afectan, tiene que poder decirte quién lo diseñó, cómo funciona y quién responde cuando algo sale mal. Ya no alcanza con decir “fue el sistema”.

Identificación significa que el ciudadano tiene derecho a saber cuándo está interactuando con un sistema automatizado y no con una persona. Trazabilidad significa que cada decisión que ese sistema tome debe poder reconstruirse: qué datos usó, qué criterio aplica, qué resultado produjo. Y responsabilidad administrativa significa que siempre hay una empresa o persona jurídica concreta que responde ante el Estado y ante el consumidor cuando este proceso falla — sin que el algoritmo pueda ser la respuesta final a ningún reclamo.

El texto incluye además un seguro obligatorio para quienes operan sistemas automatizados con impacto patrimonial sobre los usuarios, mecanismos de auditoría accesibles, y un período de adecuación de 180 días para las empresas en actividad. No es una regulación hostil a la innovación; es la condición para que la innovación llegue a todos y no solo a quienes tienen recursos para litigar cuando algo falla.

León XIV señala que el riesgo central es la concentración del poder tecnológico “en pocas manos”, donde patentes, algoritmos y datos quedan fuera del control público y definen “condiciones de acceso, reglas de visibilidad, formas de relación e incluso oportunidades económicas”. Es exactamente esa asimetría la que esta ley busca corregir. No eliminando la tecnología, sino poniendo al ciudadano en igualdad de condiciones frente a ella: con derecho a saber, derecho a reclamar y alguien concreto a quien responsabilizar.

La pregunta que nadie había formulado con claridad, ¿qué pasa cuando el algoritmo se equivoca?, tiene ahora, en el plano de la ética global, la respuesta del líder religioso más influyente del mundo. Le corresponde a la política traducirla en ley. Eso es exactamente lo que estamos haciendo.

La Provincia sigue apostando a un modelo en el que la intervención estatal es el eje central del desarrollo

La diputada provincial de la Coalición Cívica analizó el discurso del gobernador Kicillof en la apertura de sesiones y alertó sobre la desocupación. Llamó a fomentar un entorno donde el sector privado pueda desarrollarse con reglas claras e incentivos adecuados.

Por Romina Braga

El discurso de apertura de sesiones del gobernador Axel Kicillof dejó en claro que la provincia de Buenos Aires sigue apostando a un modelo en el que la intervención estatal es el eje central del desarrollo. Sin embargo, una gestión obsesionada con la presencia del Estado no garantiza, por sí sola, crecimiento ni empleo genuino.

Un ejemplo de esta desconexión entre el relato y la realidad son los 39.300 cursos de formación laboral dictados y las 50.000 entrevistas de negocios con inversores y emprendedores que mencionó el gobernador. Sobre el papel, estas cifras parecen impresionantes, pero la verdadera medida del éxito de una política no es cuántas actividades se organizan, sino qué impacto tienen. Y en este punto, los números son alarmantes: ocho de cada diez nuevos desocupados en Argentina son bonaerenses. Es decir, la formación y la promoción de encuentros no están generando empleo efectivo ni consolidando nuevas unidades productivas.

El problema de fondo radica en la falta de un plan estratégico que articule la oferta de capacitación con la demanda real del mercado laboral. No se trata solo de formar trabajadores, sino de generar las condiciones necesarias para que esos trabajadores encuentren empleo genuino.

En otro tramo de su discurso, el gobernador resaltó la importancia de los créditos y bonificaciones de tasas otorgadas por el Estado provincial, así como el desempeño de FOGABA para garantizar acceso al financiamiento. Si bien estas herramientas son fundamentales y se deben reconocer, es un error creer que la oferta pública, por sí sola, es suficiente para transformar la matriz productiva de la provincia. "Si no lo hace el Estado, no lo hace nadie", afirmó Kicillof. Pero esta visión es reduccionista y demuestra una falta de comprensión sobre las necesidades reales de la industria. El desarrollo sostenible no se logra únicamente con financiamiento estatal, sino con un ecosistema de innovación y crecimiento que involucre al sector privado y a las instituciones del tercer sector.

Es aquí donde radica la mayor falencia del enfoque oficialista. Si bien el gobernador insistió en que "el Estado no está contra el privado, sino que contribuye", la realidad es que la provincia de Buenos Aires sigue dependiendo de las arcas públicas y de un modelo de asistencia estatal que no es sostenible en el tiempo. Para lograr un crecimiento real, necesitamos fomentar un entorno donde el sector privado pueda desarrollarse con reglas claras, incentivos adecuados y una articulación inteligente con universidades, cámaras empresarias y ONGs.

Un buen ejemplo de este desafío es el desarrollo de parques industriales en la provincia. Kicillof mencionó las obras realizadas en estos espacios, pero sin una estrategia de emplazamiento inteligente. Se debe considerar no solo la radicación de pymes sino también la generación de condiciones para su crecimiento, innovación y transformación productiva. Por consiguiente,  estas inversiones no tendrán el impacto esperado. La clave no es solo construir infraestructura, sino pensar en el largo plazo: en cómo estas empresas pueden evolucionar, acceder a nuevos mercados y generar empleo de calidad.

En este sentido, hemos trabajado en un proyecto de ley para la creación de Centros de Innovación y Desarrollo Empresarial que puede aplicarse a los parques industriales de la provincia de Buenos Aires. Esta iniciativa busca generar nodos de conocimiento, formación y asistencia técnica que permitan articular a las pymes con universidades, centros de investigación y organismos de financiamiento. La innovación y la capacitación deben estar alineadas con las necesidades productivas reales del territorio, y no ser simples números de gestión sin impacto concreto. En ese marco, presentamos también un proyecto de capacitación que se alinea con esta estrategia y que apunta a crear una agencia para la Formación para el Desarrollo Productivo con la finalidad de impulsar las prácticas formativas que estén orientadas a requerimientos técnico-profesionales regionales y/o locales del sector productivo dentro del territorio de la provincia de Buenos Aires, es decir, a necesidades que el privado requiere y que tiene demanda específica.

El desarrollo productivo bonaerense no puede quedar atrapado en la dicotomía Estado versus privado que plantea tanto el gobernador como el gobierno nacional en el otro extremo. Necesitamos avanzar hacia una visión integral, donde el Estado deje de ser el único actor y se convierta en un facilitador de un ecosistema en el que el sector privado pueda crecer, las universidades y cámaras empresarias puedan aportar su valor y los trabajadores encuentren oportunidades de empleo genuino. Solo así podremos construir una provincia con empleo, desarrollo e innovación.