El Ministerio de Capital Humano de Argentina, respaldado por el presidente Javier Milei, presentó con bombos y platillos el proyecto «Gemelo Digital Social» con una retórica que promete dejar atrás el «Estado reactivo» para pasar al «Estado que anticipa».
La iniciativa se vende como un hito internacional: el primer uso de inteligencia artificial (IA) a nivel global para simular, predecir y diseñar políticas sociales a partir del procesamiento masivo de datos. La premisa tecnológica, tomada de la ingeniería y el urbanismo, suena fascinante. Un gemelo digital es una réplica virtual de un sistema real que permite modelar escenarios futuros mediante algoritmos.
Sin embargo, cuando el objeto de simulación es la vida, el comportamiento y las carencias de millones de ciudadanos, y ya no es un puente, una red eléctrica o el tráfico de una ciudad, la utopía tecnológica colisiona de frente con severos dilemas éticos, legales y de derechos humanos.
Los peligros que esconde esta ambiciosa e inquietante herramienta son, en primer lugar, la privacidad frente a la concentración masiva de datos y posibilidades de vigilancia masiva .Para que un gemelo digital social sea «eficiente», necesita nutrirse de volúmenes colosales de información. El proyecto prevé integrar bases de datos de distintas áreas del Estado y del sector privado (desde registros de salud y educación hasta asistencia social e ingresos económicos).
En segundo lugar, la ausencia de consentimiento. Cuando un ciudadano se atiende en un hospital público o inscribe a sus hijos en una escuela, entrega sus datos con fines puramente asistenciales o educativos, no para que alimenten el algoritmo de un modelo predictivo estatal. La centralización de información tan sensible crea un perfil digital hiperdetallado de cada habitante, abriendo la puerta a un sistema de vigilancia generalizado sin precedentes en la historia democrática del país.
Como tercera observación, existe peligro de tercerización y la pérdida de soberanía de datos aunque el Gobierno presentó el software como una bandera soberana de vanguardia, el desarrollo y sostenimiento de infraestructuras de IA de esta escala suelen requerir alianzas con grandes corporaciones tecnológicas transnacionales. Expertos del sector ya han encendido las alarmas ante la posibilidad de que empresas de análisis de datos e inteligencia militar (como Palantir, cuyo fundador Peter Thiel ha estrechado lazos recientes con la administración libertaria) intervengan en la gestión de esta información. Si los datos sensibles de la población argentina terminan en manos de corporaciones extranjeras bajo contratos opacos, el riesgo no es solo la filtración de datos, sino una cesión flagrante de soberanía nacional.
Como cuarto señalamiento, los «sesgos algoritmícos» son un problema en materia de ayuda y desarrollo social ya que pueden dar lugar a proesos de discriminación automatizada. Uno de los mayores mitos de la IA es su supuesta neutralidad. Los algoritmos aprenden de datos históricos que ya arrastran desigualdades, prejuicios y fallas estructurales. Si el «Gemelo Digital» se utiliza de forma prescriptiva para decidir quién recibe una ayuda social, quién es apto para un programa de empleo o qué zonas geográficas son «prioritarias», existe el riesgo real de una discriminación automatizada. Las personas atrapadas en un error de carga de datos o clasificadas de forma errónea por un patrón matemático quedarían excluidas del sistema de protección social de forma inapelable, enfrentándose a la inaccesible burocracia de «reclamarle a una máquina».
En cuarto lugar, la lógica detrás del proyecto reduce la complejidad de los fenómenos sociales (como la pobreza, la desnutrición o el desempleo) a variables puramente matemáticas y de laboratorio. Al tratar a la sociedad como un sistema mecánico simulable, se corre el peligro de diseñar políticas públicas en «frío», ignorando las realidades territoriales y las dinámicas humanas que ningún algoritmo puede prever. El Estado corre el riesgo de volverse tecnocrático y distante, gobernando para optimizar un modelo virtual mientras desatiende las necesidades en el territorio real.
En sexto lugar, la opacidad legal y la falta de instancias de control. El Ministerio de Capital Humano señaló de forma ambigua que el debate sobre la ética algorítmica» y los marcos legales se dará en «fases posteriores» del proyecto. Lanzar una herramienta de este calibre y postergar la discusión legal es, jurídicamente, poner el carro delante del caballo. En un contexto donde la Ley de Protección de Datos Personales en Argentina requiere actualizaciones urgentes para la era de la IA, el avance de este gemelo virtual carece de un marco de control transparente, auditorías externas e independientes, y mecanismos claros para que los ciudadanos sepan exactamente qué sabe el Estado sobre ellos y cómo se procesa esa información.
Acelerar hacia el futuro no siempre significa ir en la dirección correcta. El «Gemelo Digital Social» promete eficiencia y previsión en la gestión pública, pero sin las salvaguardas democráticas adecuadas, amenaza con convertirse en un instrumento de control social, vulneración de la privacidad y exclusión automatizada.
Antes de encender los motores de la inteligencia artificial para modelar la vida de los argentinxs, es indispensable exigir transparencia absoluta, el desarrollo de soberanía digital y de una política económica de justicia social: el futuro no puede construirse a costa de los derechos fundamentales de los ciudadanxs y con caros sueños tecnocráticos.
