El juicio no se automatiza

Hay un hallazgo reciente de la teoría económica que debería incomodar a líderes universitarios: cuanto mejor es la inteligencia artificial que una organización adopta, menos esfuerzo invierten sus integrantes en vigilar las decisiones que esa tecnología toma. No es una metáfora ni una advertencia moral. Es un resultado formal, demostrado con modelos matemáticos, que el economista Joshua Gans sistematiza en su libro The Microeconomics of Artificial Intelligence (MIT Press, 2025). La predicción de la máquina y el esfuerzo humano son sustitutos estratégicos: cuando una sube, el otro baja. Gans lo describe con una simple imagen: quien viaja en un vehículo autónomo confiable termina por dormirse al volante.

Esto desmantela una de las narrativas más cómodas de la adopción tecnológica: la idea de que incorporar mejores herramientas produce, por sí sola, instituciones más seguras. La evidencia teórica sugiere lo contrario. La tecnología más avanzada no genera organizaciones más vigilantes; genera organizaciones más confiadas. Y la confianza sin arquitectura de decisión tiene otro nombre: abandono del juicio.

El aporte central de Gans es una distinción que la conversación educativa mexicana todavía no considera. La inteligencia artificial produce predicción, abaratando drásticamente la capacidad de anticipar —qué estudiante tiene mayor probabilidad de desertar, qué aspirante de concluir sus estudios, qué expediente de requerir atención. Pero aquí la predicción no decide nada. Decidir qué importa, qué umbrales aplicar, qué valores pesan más cuando entran en conflicto: eso es juicio. Y el juicio, demuestra Gans, no se automatiza. Una institución puede comprar predicción en el mercado. Pero el juicio institucional debe construirlo.

Alumnos seleccionados por el algoritmo
Las consecuencias de ignorar esta distinción son reales y concretas. El propio libro analiza el caso que más debería interesar a las universidades: la selección de candidatos, incluidas las admisiones. Y el resultado, de nuevo, es incómodo. En procesos donde un algoritmo ordena aspirantes, la discriminación emerge en equilibrio aunque nadie tenga intención de discriminar y aunque los criterios sean idénticos para todos. Diferencias en la calidad de los datoshttp disponibles para distintos grupos, errores de medición, brechas socioeconómicas previas: todo eso se traduce en resultados dispares sin que exista un solo discriminador identificable. El sesgo deja de ser un problema moral y se vuelve un problema estructural. Nadie tiene que ser culpable para que el daño exista.

¿Qué hacer entonces? Aquí la economía ofrece una respuesta que contradice la intuición regulatoria que ha dominado el debate. Los trabajos de Rambachan y de Kleinberg, que Gans recupera, demuestran que restringir el algoritmo —prohibirle usar cierta información, obligarlo a ser “ciego”— puede empeorar la situación de los grupos que se pretende proteger. La intervención óptima debe operar en otro nivel: dejar que la predicción sea lo más precisa posible y ejercer el juicio en la decisión, ajustando umbrales y criterios conforme a los objetivos sociales de la institución. En otras palabras: no se regula la máquina, se gobierna la decisión.

Esta conclusión llega en un momento oportuno para México. Mientras el debate legislativo sobre inteligencia artificial se orienta a regular algoritmos —qué pueden hacer, qué datos pueden usar, qué certificaciones requieren—, el marco analítico económico señala que el punto de intervención decisivo está en el proceso institucional de decisión. Y ese territorio no pertenece al legislador: pertenece a las universidades. Las instituciones de educación superior no son operadores regulados que esperan instrucciones; son actores de política educativa con la responsabilidad de definir dónde reside su juicio, quién lo ejerce y bajo qué criterios.

Dominar la tecnología
Concientizar sobre estos marcos analíticos no es un lujo académico. Es la diferencia entre adoptar tecnología y gobernarla. Una universidad que incorpora sistemas de predicción sin haber definido su arquitectura de decisión no está innovando: está delegando su juicio sin darse cuenta, y la teoría económica ya demostró hacia dónde conduce esa pendiente. Si el juicio institucional es lo único que no se puede comprar ni delegar, cada institución necesita saber, con precisión diagnóstica, dónde reside el suyo. Ese es exactamente el ejercicio que propone el Índice Campus de Gobernanza Universitaria: no una calificación ni una comparación entre pares, sino un espejo que permite a cada universidad examinar su propia arquitectura de decisión antes de que la predicción la sustituya. Porque dormirse al volante es humano. Hacerlo institucionalmente es una decisión —y las decisiones, a diferencia de las predicciones, siguen siendo nuestras.