Solicitan al Poder Ejecutivo precisiones sobre el sistema “Gemelo Digital Social”, anunciado como herramienta de inteligencia artificial para políticas públicas, ante la falta de información oficial y las dudas sobre el uso de datos personales, el control democrático y eventuales decisiones automatizadas sobre beneficiarios.
El diputado Agustín Rossi presentó un pedido de informes para que el Poder Ejecutivo detalle el funcionamiento del sistema “Gemelo Digital Social”, anunciado como una herramienta de inteligencia artificial para políticas sociales, ante preocupaciones por la falta de información pública y los posibles riesgos para la privacidad y los derechos de los ciudadanos.
El proyecto de resolución girado a las comisiones de Asuntos Constitucionales y de Comunicaciones e Informática, solicita precisiones sobre el marco legal, los organismos involucrados y las decisiones administrativas vinculadas a la creación de este sistema.
Entre los puntos centrales, el legislador santafesino pidió conocer qué bases de datos personales serán integradas, qué tipo de algoritmos y herramientas de inteligencia artificial se utilizarán y si existen auditorías externas o mecanismos de supervisión independientes. También reclama información sobre los protocolos de seguridad informática, el presupuesto asignado y los contratos o convenios firmados para su desarrollo.
Rossi puso especial énfasis en determinar si el sistema prevé automatizar decisiones sensibles, como la asignación de beneficios sociales, la generación de perfiles o puntajes sobre los usuarios, o incluso la baja de prestaciones sin intervención humana suficiente.
En los fundamentos, el diputado advirtió que la iniciativa podría implicar el tratamiento masivo y centralizado de datos personales de millones de argentinos, lo que exige “un abordaje riguroso y transparente” por parte del Estado. Según lo difundido oficialmente, el “Gemelo Digital Social” buscaría integrar información de distintas fuentes y desarrollar capacidades predictivas para mejorar la gestión de políticas sociales.
El legislador también expresó preocupación por declaraciones oficiales que mencionan la construcción de un “modelo global” y la participación de “los principales actores del mundo”, al considerar que requieren precisiones sobre los actores involucrados y las garantías de protección de los datos y de la soberanía tecnológica.
Asimismo, Rossi destacó que el uso de sistemas algorítmicos en el ámbito social plantea desafíos en materia de privacidad, transparencia, debido proceso y no discriminación, especialmente cuando se trata de poblaciones vulnerables. En ese sentido, recordó que la legislación vigente, incluida la Ley de Protección de Datos Personales, establece límites estrictos sobre el tratamiento de información sensible.
El proyecto también advierte sobre antecedentes internacionales cuestionados, como el caso de los Países Bajos, donde un sistema de perfilamiento social fue declarado ilegal por afectar derechos fundamentales, y experiencias en el Reino Unido que generaron críticas por errores y sesgos en la asignación de beneficios.
En ese marco, Rossi sostuvo que la incorporación de inteligencia artificial en políticas públicas requiere controles democráticos robustos, auditorías independientes y mecanismos de supervisión humana, y planteó que el Congreso no puede permanecer ajeno al desarrollo de herramientas tecnológicas de este tipo sin garantías adecuadas.