El modelo de inteligencia artificial que aprueba tu solicitud de crédito, filtra tu currículum antes de que un humano lo lea, califica el ensayo de admisión de tu hijo o decide si pagas más caro un boleto de avión —porque la aerolínea detectó que “es probable que pagues más”— no fue diseñado en tu país.
También debes saber que tampoco fue regulado por tu legislador. Y, sin embargo, opera sobre tu vida con autoridad casi judicial.
Eso, en términos estrictos, es una pérdida de soberanía. No la grandilocuente que se discute en los discursos del 16 de septiembre o del 4 de julio: la pérdida silenciosa que ocurre cuando las decisiones que afectan a un ciudadano se toman fuera del marco institucional al que ese ciudadano puede apelar.
El traslado del poder
Tradicionalmente, las decisiones que afectan la vida de los ciudadanos se tomaban en tres lugares: el mercado, el Estado y la familia. Cada uno con sus reglas. El mercado con las del intercambio voluntario, el Estado con las del derecho, la familia con las del afecto. Con fronteras imperfectas pero reconocibles.
Los modelos de IA introducen una cuarta esfera de decisión que no termina de encajar en ninguna de las tres. Operan dentro del mercado (las empresas los venden), pero ejercen poder cuasi-estatal (deciden acceso a recursos, derechos, oportunidades).
Operan al margen del Estado (no son funcionarios, no responden a procedimientos administrativos), pero deciden sobre ciudadanos. Y operan con opacidad: ni los desarrolladores saben exactamente por qué un modelo decidió lo que decidió, por la naturaleza misma de sus arquitecturas.
Schmitt y la pregunta de la excepción
Carl Schmitt, filósofo del derecho, dejó una frase incómoda que sigue siendo el centro del debate sobre soberanía: “soberano es quien decide sobre la excepción”. No quien gobierna en tiempos normales, sino quien decide cuándo se suspende la regla y se aplica una distinta. En esa decisión, decía, se ve quién manda de verdad.
Aplicado a la IA, la pregunta se vuelve incómoda. Si un modelo de reconocimiento facial decide que tú no debes abordar un vuelo porque tu rostro coincide con un patrón de “persona de interés” —patrón cuyos criterios son opacos incluso para sus operadores—, ¿quién decidió esa excepción?
¿El programador, hace tres años, en Mountain View? ¿La aerolínea que compró el sistema? ¿El gobierno que autorizó su uso? ¿O el modelo mismo, en un sentido casi sin sujeto humano?
La incomodidad es legítima. Por primera vez en la historia política moderna, hay decisiones de poder cuya autoría humana se difumina. Y, sin embargo, sus efectos son perfectamente humanos: pierdes el vuelo, pierdes el empleo, pierdes el crédito.
Soberanía técnica
Hay un concepto que se está abriendo paso en los círculos de política digital: soberanía técnica. No es chovinismo industrial; es algo más sutil. La idea es que un Estado mantiene soberanía cuando puede auditar, regular, modificar o, en el límite, prohibir las tecnologías que operan dentro de su territorio.
Se entiende que la soberanía se pierde cuando esas tecnologías son cajas negras importadas, regulables solo por el país de origen.
Estados Unidos protege su soberanía técnica en chips, semiconductores avanzados y software militar. La Unión Europea lo intenta con la AI Act —aprobada en 2024, vigente desde 2026— que clasifica los sistemas por nivel de riesgo y obliga a auditorías de impacto para los de “alto riesgo”.
China construye toda su infraestructura digital paralela. ¿Y el resto del mundo? El resto del mundo, en su mayoría, importa modelos sin auditarlos, los integra a sistemas administrativos y judiciales.
Luego sucede que se sorprenden cuando esos modelos producen resultados sesgados, opacos o políticamente convenientes para los intereses de sus desarrolladores extranjeros. No es sorpresa razonable: era resultado previsible.
Cui bono
Hagamos otra vez la pregunta clásica. ¿A quién le conviene un mundo donde la IA opera sin marco regulatorio soberano?
A los cinco o seis laboratorios que controlan los modelos fundacionales más potentes —OpenAI, Anthropic, Google, Meta, xAI, DeepSeek—. Sin regulación nacional, pueden venderlos como “neutros” cuando son artefactos profundamente cargados de valores específicos.
A los gobiernos donde esos laboratorios están establecidos, que ganan poder geopolítico extraterritorial sin negociar tratados.
A las grandes empresas multinacionales que sustituyen procesos humanos costosos (revisión de créditos, contratación, atención al cliente) por modelos baratos, externalizando el costo social del despido masivo.
Los perdedores son los ciudadanos sin recurso —sin saber cómo apelar una decisión algorítmica que no entienden—, los profesionistas desplazados sin programa público de reconversión, y los Estados que renuncian a la última prerrogativa del soberano: decidir qué tecnología opera sobre sus ciudadanos.
Cuatro principios mínimos
No estoy proponiendo prohibir la IA. Sería tan absurdo como prohibir la imprenta en el siglo XV. Estoy proponiendo cuatro principios mínimos que cualquier país democrático debería incorporar a su legislación antes de fin de la década:
Auditoría obligatoria de modelos de alto riesgo. Si un modelo toma decisiones que afectan derechos —crédito, empleo, libertad, salud, educación— el Estado debe poder auditarlo, exigiendo acceso al código, los datos de entrenamiento y las métricas de sesgo.
Derecho a explicación. Cualquier ciudadano cuya solicitud sea negada por un sistema automatizado debe recibir, en lenguaje humano comprensible, la razón concreta de la decisión, no “el algoritmo lo decidió”.
Responsabilidad humana asignada. Toda decisión algorítmica debe tener un responsable humano nombrado —empresa, funcionario, técnico— al que se le pueda imputar legalmente el resultado. La opacidad no exime de responsabilidad.
Reserva soberana sobre infraestructura crítica. Los sistemas que operan en salud pública, justicia, seguridad e identidad ciudadana no deben depender exclusivamente de modelos privados extranjeros sin alternativa nacional o regional.
Hobbes en clave digital
Thomas Hobbes, en el Leviatán, argumentó que los ciudadanos ceden al soberano una parte de su libertad a cambio de protección. Ese contrato funciona mientras el soberano es identificable, responde a procedimientos, puede ser cambiado por los ciudadanos.
Si parte del poder soberano contemporáneo lo ejerce, de hecho, un modelo de IA inauditable, el contrato hobbesiano se rompe en silencio. Los ciudadanos siguen entregando obediencia, pero ya no a un Leviatán visible: a uno disperso, técnico, extranjero y opaco.
Lo anterior, en lenguaje contemporáneo, se llama precarización política. Y se está produciendo a velocidad mayor que cualquier discusión legislativa pueda alcanzar.
Conclusión
La inteligencia artificial no es ni buena ni mala. Es una herramienta de extensión cognitiva del poder, y como tal, hereda la dirección moral de quien la ejerce. La pregunta no es si la usaremos: ya la estamos usando.
La pregunta es bajo qué marco democrático la usaremos, con qué auditoría, con qué responsabilidad asignable, y con cuánta soberanía conservada por las instituciones que los ciudadanos sí votamos.
Como dice un viejo dicho: el martillo es del que lo agarra. Los modelos de IA están siendo agarrados por unas pocas empresas en pocos países.
Si los demás Estados no negocian, no regulan, no auditan, en una década serán pueblos gobernados parcialmente por un soberano que ningún ciudadano eligió. Y para entonces, recuperar la soberanía costará mucho más que tomar las decisiones ahora.