La Firma
CUANDO EL ALGORITMO DECIDE QUIÉN MERECE LA OPORTUNIDAD
Contratación, crédito, seguros, educación y ayudas públicas pueden depender de sistemas que clasifican personas sin explicar qué dato inclinó la decisión. La automatización también está transformando el debido proceso.
Por Víctor Rodríguez Fajardo
Una regla diferente para cada persona
La ley tradicional anuncia reglas generales. Un algoritmo puede aplicar una condición diferente a cada individuo: una tasa para uno, una oferta para otro, una vigilancia especial para un tercero y una exclusión silenciosa para quien ni siquiera sabe que fue evaluado.
La inteligencia artificial ya interviene en contratación, asignación de tareas, crédito, seguros, educación, publicidad y beneficios públicos. Puede calcular qué riesgo representa alguien, qué precio cobrarle, qué oportunidad mostrarle y cuánto escrutinio aplicarle.
Cuando una decisión humana es injusta, al menos existe alguien a quien interrogar. Cuando proviene de un sistema opaco, la persona puede ignorar qué dato la perjudicó, quién responde y cómo corregir el error.
El derecho a saber por qué dijeron no
Toda decisión automatizada con efectos importantes debe ser notificable, explicable, corregible y revisable por una persona con verdadera autoridad. No basta colocar a un funcionario frente a una pantalla si solo puede repetir lo que decidió el sistema.
La Ley de Inteligencia Artificial de la Unión Europea clasifica como de alto riesgo determinados usos en empleo, educación, crédito y servicios esenciales. Exige gestión de riesgos, documentación, trazabilidad y supervisión humana. El algoritmo puede asistir; no debe convertirse en juez secreto.
El debido proceso algorítmico no demanda revelar cada secreto industrial. Exige que quien pierde un empleo, un crédito o un beneficio conozca los factores relevantes, pueda corregir datos falsos y encuentre una puerta humana para controvertir el resultado.
Cuando el error se convierte en destino
Un dato equivocado en una carpeta tradicional podía afectar un trámite. Integrado en sistemas conectados, puede propagarse entre evaluaciones y convertirse en destino: una dirección asociada a mayor riesgo, una deuda ya pagada, una identidad confundida o una pausa laboral interpretada como falta de capacidad. La velocidad del algoritmo multiplica también la velocidad del error.
El scoring crediticio ofrece un ejemplo claro. Dos personas con ingresos similares pueden recibir tasas distintas porque un sistema infiere riesgo a partir de historiales, patrones o variables indirectas. Parte de esa precisión puede ampliar crédito a quienes antes eran invisibles. Pero si nadie conoce los factores decisivos, la inclusión depende de una clasificación imposible de discutir.
En contratación ocurre algo semejante. Filtrar miles de hojas de vida ahorra tiempo, pero un modelo entrenado con decisiones pasadas puede reproducir preferencias históricas y presentarlas como neutralidad matemática. La supervisión humana solo sirve si quien revisa entiende el sistema, tiene facultad para apartarse de su resultado y responde por la decisión final.
El debido proceso algorítmico necesita, por eso, registro y responsabilidad. Debe saberse qué versión del sistema intervino, qué información utilizó, quién la suministró y qué autoridad puede reparar el daño. La explicación no es un lujo técnico: es la condición para que una persona no quede sometida a una regla secreta.
La situación es todavía más delicada cuando el sistema decide sobre poblaciones enteras. Un criterio imperfecto aplicado por un funcionario produce injusticias limitadas; convertido en código y desplegado a escala nacional puede excluir miles de personas antes de que alguien detecte el patrón. Automatizar exige auditar antes, durante y después.
La escala tecnológica debe venir acompañada de una escala equivalente de garantías, supervisión y reparación accesible. De otro modo, la eficiencia convertirá cada error silencioso en una exclusión masiva difícil de detectar y revertir.
Conectarse sin quedar rehén
Internet se convirtió en canal para ejercer otros derechos. Según la Unión Internacional de Telecomunicaciones, en 2025 casi tres cuartas partes de la humanidad estaban conectadas, pero 2.200 millones de personas permanecían fuera.
Colombia reconoció el acceso como servicio público esencial mediante la Ley 2108 de 2021 y como derecho fundamental en la Sentencia T-372 de 2023. Aun así, una ley no instala fibra ni compra dispositivos.
Conectarse debe ser un derecho, pero salud, identidad, justicia, educación y dinero necesitan alternativas cuando la red falla. La digitalización debe ampliar la ciudadanía, no reemplazarla por una membresía. Una cuenta no puede convertirse en la totalidad de la vida civil.
Esta publicación pertenece a la serie LA SOCIEDAD DEL PERMISO, un ensayo por entregas de Víctor Rodríguez Fajardo sobre trabajo, propiedad y libertad en la era de la inteligencia artificial.
Próxima entrega: EL PERMISO MÁS ÍNTIMO: DECIDIR QUÉ MERECE NUESTRA ATENCIÓN
