¿Qué significa “justo” cuando decide una máquina? Un contrato social que me toca la piel

La palabra “justo” cuando uno está cansado

Hay una hora en Bogotá en la que el ruido se vuelve una sábana pesada. No es un sonido, son cien: buses frenando, motos que pasan como zancudos, gente apurada, vendedores cantando lo suyo, y uno tratando de caminar derecho sin sentir que el mundo se le mete por las orejas. En esas horas, “justo” deja de ser una idea bonita y se vuelve un antojo raro: como si yo estuviera buscando un lugar donde el cuerpo pueda aflojar.

Yo no sé en qué momento empecé a escuchar la palabra “justicia” como si fuera un regaño. Me pasa cuando alguien dice: “lo justo es que…”, y yo siento que ahí viene la lista, la sentencia, el dedo señalando. Pero también me pasa lo contrario: cuando algo me parece injusto, lo siento físico, como una piedra en la garganta. Por eso esta pregunta me persigue: ¿qué significa “justo” cuando el mundo cambia tan rápido que ni alcanza a pedir permiso?

Y el cambio, últimamente, tiene una cara nueva. Tiene forma de “sistema”, de “modelo”, de “IA”, de “algoritmo”. Palabras frías, sí, pero que se están metiendo en decisiones calientes: quién accede a un trabajo, a un crédito, a una beca, a una ayuda, a una entrevista, a una segunda oportunidad.

El contrato social, pero sin apretón de manos

A mí me enseñaron el contrato social como una idea elegante: que la gente cede un poquito de libertad para vivir con un poquito más de seguridad. Que aceptamos reglas para no vivir a los golpes. Que el Estado, la sociedad, la comunidad… son ese “acuerdo” invisible que nos permite respirar juntos sin matarnos.

Pero nadie te firma ese contrato en la vida real. Nadie te mira a los ojos y te dice: “bueno, parcero, estas son las condiciones”. Uno se despierta un día y ya está adentro: en la fila, en el trámite, en el recibo, en el impuesto, en el “vuelva mañana”, en el “eso lo maneja el sistema”.

Y ahí es donde la era de la IA me parece que le mete una capa nueva al pacto: ahora, entre la persona y la institución, hay una especie de intermediario silencioso. Una decisión que puede venir de una pantalla. Y la pantalla, a veces, no explica. La pantalla solo dice “no”.

Lo que me inquieta no es que existan herramientas. A mí me gusta la tecnología cuando sirve para que la vida sea menos pesada. Lo que me inquieta es cuando esa herramienta se convierte en una autoridad sin rostro. Cuando el “no” llega sin historia. Sin conversación. Sin un “a ver, cuénteme”.

Cuando el algoritmo te mira sin verte

Hay una sensación que me da rabia y tristeza al mismo tiempo: que te “evalúen” sin verte. Que te vuelvas un conjunto de casillas. Como si tu vida cupiera en un formulario. Como si tus razones fueran un dato mal llenado.

Yo he visto gente quedarse callada frente a un computador como quien se queda callado frente a un juez. Y no por drama, sino por indefensión. Porque cuando un humano te niega algo, por lo menos podés leerle la cara, adivinar si hay cansancio, si hay sesgo, si hay un mal día, si hay una puerta para insistir. Pero cuando te niega “el sistema”, ¿a quién le hablás? ¿Dónde se pide una segunda mirada?

Y ahí me entra la pregunta más incómoda: si lo “justo” antes dependía de reglas y de personas que las aplican, ¿qué pasa cuando lo justo se traduce a código? ¿Qué se pierde en esa traducción?

Se pierde algo que yo siento esencial: la posibilidad de que alguien te escuche el matiz. Porque el matiz es humano. El matiz es “sí, pero”. El matiz es “en el papel dice A, pero en mi casa pasó B”. Y yo sé que el matiz puede ser usado para hacer trampa, claro. Pero también sé que sin matiz se cometen injusticias limpias, de esas que no manchan las manos de nadie.

Lo “justo” como algo que se puede explicar sin humillar

Me doy cuenta de que, para mí, “justo” no es solo “igual”. Igual suena bien, pero no alcanza. Igual a veces significa ignorar que no todos empezamos desde el mismo piso. Entonces “justo” se me parece más a esto: que si una decisión me afecta, yo pueda entenderla sin sentir que me están tratando como si fuera un número molesto.

Si la IA entra a la vida pública, si entra al trabajo, a la salud, a la educación, yo necesito que el contrato social se actualice con una cláusula simple: nadie debería ser descartado sin explicación. Y no una explicación de tecnicismos, sino una explicación humana: qué se tuvo en cuenta, qué no, cómo corregir, cómo apelar, quién responde.

Porque la justicia sin posibilidad de apelación se siente como destino. Y cuando algo se siente como destino, la gente se rompe o se endurece. Y un país lleno de gente rota o endurecida no aguanta. Se vuelve puro grito.

A veces pienso en esa idea del “velo de ignorancia” de John Rawls: imaginar reglas como si no supieras qué lugar te va a tocar en la sociedad. Yo lo traduzco a una imagen más cotidiana: diseñar el sistema como si mañana fueras vos el que queda por fuera. Como si mañana fueras vos el que no entiende por qué. Como si mañana fueras vos el que necesita que alguien le diga “lo revisamos”.

Un pacto que no sea solo eficiente, sino digno

La palabra “eficiencia” me da desconfianza cuando se usa como excusa para no mirar a los ojos. Porque hay eficiencias que recortan lo que nos mantiene humanos. Sí, puede ser más rápido que una máquina filtre, clasifique, priorice. Pero si esa rapidez se cobra la dignidad, entonces no es progreso: es un atajo que nos deja más solos.

Yo no quiero un mundo donde la justicia sea una notificación. No quiero que lo “justo” sea un correo automático con lenguaje neutro. Yo quiero que lo “justo” conserve algo tibio: la responsabilidad. Que alguien pueda decir “me hago cargo”. Que exista un “nos equivocamos”. Que haya lugar para corregir.

Y también quiero algo más íntimo: que lo justo no se vuelva una guerra moral permanente. Porque en este mundo que cambia, uno se agarra de opiniones como quien se agarra de una baranda. Y con la IA pasa eso: o la endiosan o la demonizan. Y yo… yo no puedo vivir en extremos. A mí me calma la verdad pequeña: esto puede ayudar, esto puede dañar, y necesitamos cuidado.

Lo que me gustaría escuchar, algún día, de un sistema

A veces me imagino una escena imposible: que el sistema, en lugar de escupirme un “rechazado”, me diga algo como:

“Tomamos esta decisión por estas razones. Sabemos que no te define. Si algo acá no refleja tu situación, tenés estas opciones. Si querés hablar con alguien, acá está el camino. Y si nos equivocamos, vamos a corregir.”

Eso, para mí, sería un contrato social en la era de la IA: no un pacto de perfección, sino un pacto de reparación. Un pacto donde lo “justo” no significa “nunca fallamos”, sino “si fallamos, respondemos”.

Yo no estoy escribiendo esto para ganar una discusión ni para sonar informado. Lo escribo porque me da miedo que nos acostumbremos a que las decisiones lleguen sin conversación. Me da miedo que la gente aprenda a no preguntar. Me da miedo que “justo” se vuelva sinónimo de “así lo dijo el sistema”.

Y al mismo tiempo, me aferro a una esperanza sencilla: que todavía podemos elegir cómo usar estas herramientas. Que todavía podemos exigir que la justicia sea explicable. Que todavía podemos acordar, como sociedad, que la dignidad no es negociable, ni siquiera cuando el mundo corre.

Hoy dejo esto acá, como quien deja una piedra en el bolsillo para no olvidarse del peso: “justo” no debería ser solo una palabra bonita en un discurso ni un resultado en una pantalla. “Justo” debería ser algo que, cuando te toca, no te borre. Que te sostenga. Que te mire de verdad.