El algoritmo que no pregunta si eres mujer

El algoritmo que no pregunta si eres mujer: crédito, inteligencia artificial y la paradoja de la discriminación invisible

Daniel Olvera

Doctor en Derecho, Coordinador de Tecnología Financiera en la Procuraduría Fiscal de la Federación.

La transformación digital del sistema financiero ha instalado una idea seductora: sustituir la discrecionalidad humana por modelos automatizados podría hacer al crédito más eficiente y, acaso, más imparcial. Un algoritmo no tiene prejuicios, no conoce estereotipos y, si se le impide utilizar el sexo o el género de una persona, parecería incapaz de discriminar por esa razón. El problema es que esa conclusión confunde ignorancia formal con neutralidad real.

En México, la discusión no es teórica. La Encuesta Nacional de Inclusión Financiera (ENIF) 2024 reportó que 36.1% de las mujeres de 18 a 70 años contaba con algún crédito formal, frente a 38.8% de los hombres. Más revelador resulta el análisis publicado por Banco de México en 2025 sobre crédito a personas físicas con actividad empresarial: en promedio, los créditos nuevos otorgados a mujeres fueron 22.7% menores y sus tasas 1.4 puntos porcentuales más altas. Tras controlar por características de la empresa, garantías, historial, banco, sector y región, una parte de la diferencia persistió; además, las empresas de mujeres no mostraron mayor morosidad.

La pregunta incómoda es entonces esta: ¿qué ocurre cuando trasladamos esas diferencias históricas a una máquina entrenada precisamente con datos históricos?

1. La ficción del algoritmo neutral

Los modelos de riesgo crediticio contemporáneos pueden procesar numerosas variables: ingreso, ocupación, estabilidad laboral, historial crediticio, domicilio, comportamiento de pago, tipo de comercio, patrones de consumo o interacción digital. No necesitan recibir una variable denominada “mujer” para aproximarse a ella.

Imagine que una institución elimina el sexo de su base de datos. El modelo, sin embargo, aprende que determinados sectores laborales tienen menor ingreso promedio; que ciertas interrupciones laborales correlacionan con determinados perfiles; que algunas zonas geográficas concentran ciertos patrones socioeconómicos; o que determinadas trayectorias de ahorro y endeudamiento se asocian estadísticamente con un grupo. Ninguna variable dice “género”, pero su combinación puede funcionar como sustituto.

Aquí surge la primera paradoja: un sistema puede ser jurídicamente ciego al género y matemáticamente capaz de reconstruirlo.

Esto importa porque la inteligencia artificial no necesita “querer” discriminar. Basta con optimizar una función aparentemente legítima —predecir incumplimiento, rentabilidad o pérdida esperada— utilizando datos que contienen las huellas de desigualdades previas. El algoritmo no inventa la historia; la convierte en probabilidad.

1. Cuando el pasado se convierte en riesgo

El derecho financiero parte de una premisa razonable: una institución debe medir adecuadamente el riesgo antes de prestar. El problema aparece cuando una condición histórica de desigualdad se transforma automáticamente en una variable de riesgo individual.

Una menor acumulación patrimonial puede significar menor capacidad para ofrecer garantías. Una trayectoria laboral interrumpida puede reducir antigüedad o ingreso comprobable. Una empresa más pequeña puede recibir un límite de crédito inferior. Individualmente, estas variables pueden ser financieramente relevantes. Pero cuando todas ellas reflejan, simultáneamente, una estructura social previa, el algoritmo puede terminar cobrando hoy el costo financiero de la desigualdad de ayer.

No toda diferencia estadística constituye discriminación. Esa precisión es indispensable. Un banco no está obligado a ignorar diferencias reales de riesgo ni a conceder crédito inviable. Pero tampoco debería bastar con afirmar que “lo decidió el modelo”. La automatización no puede convertirse en una causa de exoneración jurídica.

El artículo 1° constitucional prohíbe la discriminación motivada, entre otros factores, por el género. El desafío consiste en trasladar ese mandato a decisiones privadas cada vez más opacas, probabilísticas y automatizadas. La cuestión ya no es únicamente probar que alguien trató de manera distinta a una mujer, sino determinar si un sistema aparentemente neutral produce consistentemente un resultado adverso carente de justificación financiera suficiente.

III. El punto ciego mexicano

México dispone de distintos ordenamientos aplicables al crédito, la protección de datos, los servicios financieros y las instituciones de tecnología financiera. Sin embargo, durante 2026 el propio Senado continuaba trabajando en la construcción de un marco general específico para inteligencia artificial, lo que evidencia que la arquitectura normativa en esta materia permanece en desarrollo.

La Ley Federal de Protección de Datos Personales en Posesión de los Particulares resulta especialmente relevante. Su texto vigente considera dato personal cualquier información concerniente a una persona identificada o identificable, incluso cuando la identificación pueda realizarse indirectamente. Asimismo, establece principios de licitud, finalidad, lealtad, consentimiento, calidad, proporcionalidad, información y responsabilidad en su tratamiento.

Pero aquí aparece otra distinción fundamental: proteger el dato no equivale necesariamente a controlar el resultado producido por un modelo.

Podemos tener un tratamiento formalmente lícito y, aun así, un resultado sistemáticamente desigual.

Europa ha adoptado una posición más frontal. El Reglamento de Inteligencia Artificial de la Unión Europea clasifica como de alto riesgo los sistemas utilizados para evaluar la solvencia de personas físicas o establecer su puntuación crediticia, con excepción de los utilizados para detectar fraude. Más interesante todavía, admite excepcionalmente el tratamiento de categorías especiales de datos cuando resulte estrictamente necesario para detectar y corregir sesgos en sistemas de alto riesgo, sujeto a estrictas salvaguardas.

La idea parece contradictoria: utilizar información especialmente protegida para impedir la discriminación. En realidad, revela el centro del problema.

1. La propuesta polémica: para que el algoritmo no discrimine, quizá tenga que saber a quién está discriminando

Mi tesis es deliberadamente contraintuitiva: prohibir absolutamente que las instituciones financieras conozcan variables protegidas durante la auditoría de sus algoritmos puede dificultar la detección de discriminación.

¿Cómo puede un banco demostrar que su modelo no perjudica sistemáticamente a las mujeres si no puede medir sus resultados diferenciados? ¿Cómo identifica que, frente a probabilidades semejantes de incumplimiento, un grupo recibe menores líneas de crédito, mayores tasas de interés o porcentajes superiores de rechazo?

La neutralidad no puede auditarse a ciegas.

Esto no significa que el género deba incorporarse libremente al cálculo del score. Propongo exactamente lo contrario: separar jurídicamente dos usos de la información.

En el modelo de decisión, el género no debería utilizarse para castigar, premiar o modificar por sí mismo la solvencia de una persona. En un sistema independiente de auditoría, en cambio, debería permitirse —e incluso exigirse para determinadas instituciones y modelos— analizar los resultados desagregados por variables protegidas, bajo controles estrictos, finalidad exclusiva de detección y corrección de sesgos, acceso restringido y reglas precisas de conservación y eliminación.

Podría denominarse principio de doble ciego regulatorio: el algoritmo que decide no necesita conocer el género; el sistema que vigila al algoritmo sí debe poder conocerlo.

1. De la explicación del crédito a la explicación del algoritmo

La regulación futura tampoco debería exigir que los bancos revelen públicamente su código fuente. Ello podría comprometer secretos industriales, seguridad tecnológica y mecanismos antifraude. Pero entre revelar el código y responder simplemente “su solicitud no cumple nuestras políticas”, existe un enorme espacio regulatorio.

El usuario debería tener derecho a una explicación material de la decisión: cuáles fueron las categorías principales que determinaron el rechazo o las condiciones del crédito; si existió una intervención automatizada relevante; y qué mecanismo tiene disponible para solicitar una revisión humana cuando la decisión produzca consecuencias significativas.

El supervisor financiero, por su parte, debería poder exigir información mucho más profunda: variables utilizadas, procedencia y calidad de los datos, pruebas de sesgo, estabilidad del modelo, tasas de falsos positivos y negativos entre distintos grupos, mecanismos de corrección y trazabilidad de las diferentes versiones del algoritmo.

Aquí convendría introducir una regla adicional y necesariamente controversial: cuando un modelo produzca durante un periodo sostenido diferencias estadísticamente relevantes en perjuicio de un grupo protegido, debería activarse una carga reforzada de justificación.

No se presumiría automáticamente la existencia de discriminación. La institución tendría, sin embargo, que demostrar que la diferencia responde a factores de riesgo legítimos, necesarios y proporcionales, y que no existe una alternativa razonablemente disponible que permita alcanzar un nivel semejante de gestión del riesgo con menor impacto adverso.

La consecuencia sería importante: el secreto algorítmico dejaría de funcionar como una muralla frente al escrutinio jurídico.

1. El verdadero riesgo no es que la máquina piense como un humano

Suele advertirse que la inteligencia artificial puede reproducir nuestros prejuicios. El peligro puede ser todavía mayor: puede institucionalizarlos sin que exista una persona claramente identificable como autora de la decisión.

Cuando un ejecutivo niega un crédito utilizando un estereotipo, existe una conducta potencialmente identificable. Cuando miles o millones de parámetros producen una puntuación, la responsabilidad parece evaporarse entre el desarrollador, el proveedor tecnológico, la institución financiera, los datos utilizados y el propio modelo.

El derecho no debería aceptar esa dispersión.

La institución que utiliza el algoritmo para decidir sobre el acceso al financiamiento debe conservar la responsabilidad por la decisión. Comprar tecnología no puede equivaler a externalizar obligaciones constitucionales, regulatorias o de protección al usuario.

La discusión sobre género e inteligencia artificial en el crédito, por tanto, no debería reducirse a exigir algoritmos “neutrales”. Ese objetivo es insuficiente e incluso puede resultar contraproducente. El verdadero reto consiste en construir algoritmos auditables, explicables y jurídicamente responsables.

La paradoja final es incómoda, pero quizá inevitable: para conseguir un sistema financiero que deje de decidir injustificadamente en función del género, primero necesitamos mecanismos capaces de medir exactamente qué está haciendo con él.

En la era del crédito algorítmico, la igualdad no consistirá simplemente en que la máquina ignore quiénes somos. Consistirá en poder demostrar que saberlo —directa o indirectamente— no determina injustificadamente cuánto vale nuestra palabra financiera.