La reciente visita a la Argentina de directivos de Palantir Technologies y el anuncio del gobierno nacional sobre la creación de un supuesto “gemelo digital social” encendieron alarmas mucho más allá del mundo tecnológico. Lo que fue presentado como una modernización del Estado basada en inteligencia artificial abre preguntas delicadas sobre privacidad, control social, soberanía y el manejo de los datos personales de millones de argentinos.
El proyecto fue difundido por el gobierno de Javier Milei como una herramienta destinada a “anticipar”, “simular” y “optimizar” políticas públicas mediante inteligencia artificial. Traducido a un lenguaje más simple: el sistema buscaría cruzar información social, económica, sanitaria, educativa y territorial de millones de personas para construir perfiles, detectar patrones y predecir comportamientos.
El problema es que, detrás de las palabras futuristas y los videos con estética de Silicon Valley, todavía no hay respuestas claras sobre cuestiones fundamentales. ¿Quién manejará esos datos? ¿Qué empresas tendrán acceso? ¿Dónde se almacenará la información? ¿Qué límites tendrá el sistema? ¿Quién controlará los algoritmos? ¿Qué derechos tendrá un ciudadano si una inteligencia artificial lo clasifica de determinada manera?Un gobierno sospechado por muchos actos de corrupción ¿CÓmo encara este proceso? ¿Puede haber negociados detrás? ¿Cómo saberlo o quedarnos tranquilos que no los hay?
La preocupación no pasa solamente por la tecnología, sino por el poder que puede concentrarse detrás de ella.
Porque cuando un Estado reúne en una sola estructura información sobre salud, ingresos, asistencia social, situación patrimonial, educación, antecedentes judiciales o hábitos de consumo, deja de tratarse únicamente de administración pública. Se construye una herramienta de vigilancia con una capacidad inédita de intervenir sobre la vida cotidiana.
No es una discusión abstracta. Si una inteligencia artificial puede cruzar datos de pobreza, endeudamiento, subsidios, historial médico y comportamiento digital, también puede establecer perfiles de riesgo, definir prioridades sociales o incluso determinar qué sectores son “más costosos” para el Estado. Y cuando esas decisiones dejan de ser tomadas por funcionarios identificables y pasan a depender de sistemas opacos, aparece un problema democrático de enorme magnitud.
Además, especialistas en derecho digital advierten que los ciudadanos jamás dieron consentimiento para que la información entregada al Estado con un fin específico termine alimentando modelos de inteligencia artificial. Una persona que entrega datos a ANSES para cobrar una jubilación no autorizó que esa información sea utilizada para entrenar algoritmos predictivos. Lo mismo ocurre con historias clínicas, registros escolares o bases de asistencia social.
El temor crece todavía más cuando aparece el nombre de Palantir. La empresa fue fundada por el multimillonario tecnológico Peter Thiel, uno de los aliados históricos de Donald Trump, y mantiene contratos con agencias de inteligencia, fuerzas armadas y organismos de seguridad estadounidenses. También trabaja con sistemas migratorios y operaciones militares.
En términos sencillos: no se trata de una empresa común de software. Su especialidad es el análisis masivo de datos para seguridad, inteligencia y monitoreo poblacional.
Y ahí aparece otra discusión clave: la soberanía digital. Muchas de estas compañías están alcanzadas por leyes estadounidenses que permiten que autoridades de ese país soliciten acceso a información almacenada por empresas norteamericanas, incluso cuando los datos pertenecen a ciudadanos extranjeros y se encuentren alojados fuera de Estados Unidos.
Es decir, información sensible de millones de argentinos podría quedar, potencialmente, bajo jurisdicción extranjera.
Pero incluso dejando de lado el escenario extremo, hay otra cuestión igual de importante: la dependencia tecnológica. Cuando un Estado construye toda su infraestructura digital alrededor de una empresa privada extranjera, después resulta extremadamente difícil salir de ese esquema. Los sistemas, los datos y las herramientas quedan atados a una tecnología específica. Y con el tiempo, el proveedor privado termina acumulando un poder enorme sobre funciones sensibles del propio Estado.
Por eso, el debate no es “tecnología sí o no”. El problema es bajo qué reglas, con qué controles y al servicio de quién se utiliza esa tecnología.
En el Reino Unido, por ejemplo, acaba de producirse una discusión muy fuerte alrededor de Palantir. La Policía Metropolitana de Londres buscaba avanzar en un acuerdo multimillonario para utilizar inteligencia artificial de la empresa en investigaciones criminales. Sin embargo, la alcaldía de Londres bloqueó el contrato.
La vicealcaldesa para Policía y Crimen, Kaya Comer-Schwartz, afirmó que existió una “violación clara y grave” de las normas de contratación y advirtió sobre los “riesgos legales y reputacionales” del acuerdo.
El alcalde de Londres, Sadiq Khan, también dejó una definición reveladora sobre cómo operan estas compañías tecnológicas. “En términos generales, lo que se permite es que estas empresas privadas actúen casi como un ‘gancho comercial’: te ofrecen un buen trato o algo gratis por un tiempo corto y después podés volverte dependiente de ellas”, señaló.
Otro dirigente británico, Donald Campbell, explicó que Palantir es conocida por una estrategia de “aterrizar y expandirse”: primero consigue pequeños contratos o pruebas gratuitas y luego termina ocupando un lugar cada vez más amplio dentro de los servicios públicos.
Mientras en la Argentina el debate todavía aparece envuelto en marketing tecnológico y consignas futuristas, en Europa ya se discuten abiertamente los riesgos políticos, éticos y democráticos de entregar infraestructura estatal y datos sensibles a corporaciones privadas extranjeras especializadas en inteligencia y vigilancia.
La pregunta de fondo ya no es solamente qué puede hacer la inteligencia artificial. La verdadera discusión es quién controla a quienes controlan los datos.