¿Que gobiernen los de siempre o que gobierne la IA? La trampa está en la pregunta

Hay una frase que aparece cada vez con más naturalidad en conversaciones, comentarios y hasta chistes: “mejor que gobierne una IA”. La gente la suelta cuando ve corrupción, cuando se repiten promesas vacías, cuando la política parece un concurso de egos y no una administración de la vida. Y lo curioso es que, aunque suene futurista, es una pregunta vieja disfrazada de tecnología: ¿confiar en personas con poder o delegar el poder a un sistema que supuestamente no se vende?

El problema es que la discusión casi siempre se arma mal. Se presenta como un duelo entre dos caricaturas: el mandatario humano (imperfecto, interesado) contra la máquina (perfecta, neutral). Y así cualquiera cae: si el humano decepciona, la máquina parece salvación; si la máquina asusta, el humano parece “lo único que hay”. Pero ese marco es una trampa, porque tapa lo importante: quién define el rumbo, quién responde cuando algo sale mal y quién puede frenar el abuso.

La promesa que seduce: un “adulto” que no se vende

Es fácil entender por qué seduce la idea de una IA tomando decisiones. Suena a coherencia, a planificación, a menos capricho. Una entidad que no se ofende, que no se deja comprar, que no se distrae con propaganda, que no premia amigos ni castiga críticos por orgullo. Un sistema que optimiza recursos, identifica fraudes, detecta fallas, y sostiene políticas a largo plazo sin temblar por el próximo ciclo electoral.

Si uno mira el panorama político global, los defectos humanos son repetidos y conocidos: cortoplacismo, tribalismo, decisiones para la foto, alianzas por conveniencia, discursos que sustituyen resultados. Entonces la fantasía aparece: “si la política fuera más técnica, si fuera más racional, si se guiara por evidencia…”

Pero aquí viene el primer golpe: coherencia no es lo mismo que justicia. Y “evidencia” no es lo mismo que “legitimidad”. A veces la injusticia también es coherente. A veces lo cruel también es eficiente.

La alarma que casi nadie quiere mirar: la IA no trae valores, trae potencia

Una IA no llega con ética propia. Llega con capacidad: capacidad de clasificar, predecir, priorizar, puntuar, automatizar. Es potencia. Y esa potencia amplifica lo que se le ponga enfrente: datos, objetivos, incentivos, sesgos, reglas. Si el objetivo está mal planteado, la IA lo ejecuta igual, solo que más rápido y con cara de objetividad.

Por eso, cuando se habla de IA en lo público, aparece la insistencia —a veces cansona, pero necesaria— en derechos, transparencia, rendición de cuentas, explicabilidad y control democrático. No es discurso bonito: es el freno mínimo para que la “eficiencia” no aplaste dignidad.

Porque gobernar no es solo calcular. Gobernar es decidir entre valores que chocan: libertad vs. seguridad, eficiencia vs. equidad, crecimiento vs. cuidado, castigo vs. reinserción. Esa parte no se resuelve con un modelo: se resuelve con una conversación social… y con responsabilidad política.

El riesgo más serio: cuando el poder se esconde detrás de algo incomprensible

En un gobierno humano, por malo que sea, existe una ventaja enorme: hay responsables identificables. Se puede reclamar, investigar, protestar, litigar, votar, presionar, exigir renuncias. Los caminos pueden ser lentos, imperfectos, frustrantes, pero existen. Hay rostro, hay cargo, hay firma.

Con un gobierno algorítmico aparece un riesgo distinto y más resbaloso: que la respuesta sea “lo decidió el sistema” y nadie más se haga cargo. Que el poder se convierta en una neblina. Y si la decisión es opaca, ¿a quién se le reclama? ¿al proveedor del software?, ¿al ministerio?, ¿a una “caja negra”?, ¿a nadie?

Ahí nace un problema democrático duro: si la ciudadanía no entiende cómo se decide, la ciudadanía no puede discutir la justicia de lo decidido. La justicia necesita explicación. Y la explicación necesita que el proceso sea auditable, trazable y apelable.

Lo malo del gobierno humano: lo que ya conocemos de memoria

No hace falta convertir esto en insulto general. Pero tampoco conviene maquillar. Hay patrones que se repiten:

• Se gobierna con la mirada en la próxima elección, no en la próxima década.

• Se administra con tribu: “los míos primero”, “los otros que se aguanten”.

• Se privilegia la narrativa: parecer antes que hacer.

• Se negocia con intereses que capturan decisiones públicas.

Una IA como herramienta puede ayudar en cosas concretas: encontrar irregularidades, mejorar asignación de recursos, evaluar impacto de políticas, simular escenarios, detectar contradicciones presupuestarias. Eso tiene sentido. La IA como apoyo técnico puede elevar la calidad del Estado.

El error es saltar de ahí a “que gobierne”.

Lo malo del gobierno por IA: lo que todavía subestimamos

La IA falla distinto a los humanos, y por eso puede ser más peligrosa en lo público:

1. Puede parecer objetiva aunque no lo sea. Un puntaje o un ranking impone autoridad. Mucha gente confía más en un número que en una persona, aunque el número esté sesgado.

2. Puede equivocarse a escala. Un error humano suele ser local; un error algorítmico puede replicarse miles de veces como política automática.

3. Puede normalizar injusticias pequeñas. Si algo injusto se vuelve rutina automatizada, deja de doler. Y lo que no duele, no se corrige.

4. Puede deshumanizar sin intención. No por maldad, sino porque no entiende la vida como la entiende una persona. Optimiza una función; una sociedad necesita sostener dignidad.

Y hay una diferencia más, sutil pero decisiva: el humano, por lo menos, puede ser presionado por vergüenza pública, por culpa, por miedo a consecuencias. La IA no siente nada de eso. En el mejor caso, eso es ventaja. En el peor caso, eso es un abismo: una máquina puede ejecutar una regla injusta sin freno emocional, sin duda, sin remordimiento.

La pregunta correcta: no es “humanos o IA”, es “¿dónde está el poder y cómo se controla?”

La falsa elección “mandatarios humanos vs IA gobernando” es, en el fondo, una pelea entre dos maneras de concentrar poder.

La discusión más útil debería ser esta:

¿Quién define los valores? ¿Quién explica las decisiones? ¿Quién responde por el daño? ¿Y quién tiene la palanca para detener un abuso?

Si esas cuatro cosas no están claras, “gobierno por IA” sería una fantasía peligrosa: no sería gobierno neutral, sería gobierno por diseño… y, muchas veces, por proveedores.

Una salida menos sexy, pero más segura: tres llaves

En vez de imaginar un soberano algorítmico, conviene imaginar un diseño donde nadie gobierna solo, y donde la IA es potente pero no intocable. Un esquema de tres llaves:

Llave 1: valores definidos por humanos, en reglas públicas.
No “valores” en discursos. Valores como límites verificables: no discriminación, debido proceso, derecho a explicación, derecho a apelar, proporcionalidad, trazabilidad. Lo sagrado debe estar escrito y operativizado, no solo declarado.

Llave 2: la IA como consejera brutalmente honesta, no como juez mudo.
Que proponga, simule, detecte, evalúe, muestre consecuencias, compare políticas. Pero que no “sentencie” sin una cadena clara de responsabilidad humana: alguien firma, alguien explica, alguien responde.

Llave 3: ciudadanía con auditoría real y botón de emergencia.
Registros públicos de sistemas usados, evaluaciones de impacto, auditorías independientes, mecanismos simples de reclamo y revisión, y posibilidad real de suspender un sistema si produce daño. Si el Estado automatiza, la ciudadanía debe poder mirar la automatización por dentro.

Esto no elimina el conflicto político (nada lo hace), pero evita que el poder se esconda detrás de una pantalla.

Cierre: eficiencia sin sentido no es progreso

La IA puede ayudar a gobernar mejor. Eso es razonable.
Lo peligroso es permitir que gobierne porque “funciona”.

Porque “funcionar” puede significar recaudar más, controlar más, excluir más rápido, disciplinar mejor, silenciar protestas con eficiencia, optimizar desigualdad como si fuera un objetivo. Y si algo se vuelve “indiscutible” porque viene de un sistema que nadie entiende, lo que se pierde no es tecnología: se pierde democracia.

El punto no es elegir entre un humano imperfecto y una máquina eficiente. El punto es no entregar el timón sin contrapesos. Si se quiere usar IA en lo público, que sea con límites, con explicación, con responsabilidad y con ciudadanía mirando.

Porque una sociedad no se gobierna solo con cálculo. Se gobierna con decisiones que se pueden discutir. Y esa discusión —lenta, incómoda, humana— sigue siendo la única manera de que lo común no se vuelva un procedimiento sin alma.