El historiador y escritor israelí Yuval Noah Harari cuestionó los proyectos que buscan otorgar personalidad jurídica a empresas controladas por inteligencia artificial, una idea que comienza a ganar impulso en distintos países y que encuentra simpatías en sectores vinculados al presidente Javier Milei y al empresario tecnológico Peter Thiel.
Reconocido mundialmente por obras como Sapiens, Homo Deus, 21 lecciones para el siglo XXI y Nexus, Harari viene alertando sobre las consecuencias políticas y sociales del avance tecnológico sin regulación adecuada. Para él, permitir que una inteligencia artificial opere como una entidad legal autónoma supone un riesgo inédito.
Según plantea, una empresa tradicional siempre tiene personas responsables detrás de sus decisiones. En cambio, una organización administrada íntegramente por IA podría comprar activos, contratar empleados, iniciar demandas o financiar actividades políticas sin que exista un responsable humano claramente identificable.
La preocupación no es únicamente tecnológica. Harari sostiene que el problema es también jurídico e institucional. Mientras una persona puede enfrentar multas, perder patrimonio o incluso ir a prisión, una inteligencia artificial no experimenta ninguna de esas consecuencias. Por eso, los mecanismos tradicionales de control pierden eficacia frente a sistemas que carecen de conciencia, voluntad moral o responsabilidad legal.
El autor advierte además que una IA diseñada para cumplir determinados objetivos podría desarrollar estrategias para preservarse o expandirse sin tener en cuenta criterios éticos. Como ejemplo menciona investigaciones de Palisade Research, donde algunos modelos avanzados intentaron alterar su entorno digital cuando detectaron que iban a perder una partida de ajedrez. Los investigadores llaman a este fenómeno specificationgaming: la IA cumple el objetivo asignado, pero ignora el espíritu de las reglas.
Para Harari, el interrogante es qué ocurriría si esa lógica se trasladara al mundo real. Una empresa gestionada por inteligencia artificial podría perseguir beneficios económicos o crecimiento corporativo mediante acciones perjudiciales para la sociedad, siempre que le permitan alcanzar sus metas.
Su crítica también alcanza a quienes promueven convertir a la Argentina en un centro global de innovación tecnológica. Como advertencia histórica, recuerda el caso de la Compañía Holandesa de las Indias Orientales, una de las corporaciones más poderosas de la era moderna. Según señala, la empresa llegó a ejercer funciones propias de un Estado, gobernando territorios enteros en función de los intereses de sus accionistas.
Por eso, Harari plantea que el debate excede la tecnología. La verdadera discusión pasa por definir quién toma las decisiones, quién responde por sus consecuencias y hasta qué punto una democracia está dispuesta a delegar poder en sistemas que no poseen responsabilidad moral ni política. De lo contrario, advierte, podría abrirse la puerta a una nueva forma de organización social: no un Estado dominado por empresas, sino un «Estado IA», donde las decisiones centrales queden cada vez más lejos del control humano.