Reflexionan sobre la IA y la gobernanza en el Iteso

Promethea es un sistema de inteligencia artificial (IA) que prepara dictámenes judiciales y ayuda a jueces en su determinación de sentencias; en un Distrito de Tokio hubo un candidato robot a alcalde, Michihito Matsuda, que prometió acabar con la corrupción. Quedó en segundo lugar, pero aseguró que volvería a competir.

Para el especialista Édgar Ruvalcaba varias preguntas surgen de estos casos: ¿vamos a ser gobernados por máquinas?, ¿podrán tomar ellas decisiones de política pública?, ¿quién preferirías que decidiera si vas a la cárcel o no: una máquina que no sabemos cómo procese la información o un juez que no sabemos qué tan parcial puede ser?

Estas y otras reflexiones fueron parte de la conferencia “Inteligencia artificial en el sector público: retos, desafíos y dilemas éticos”, impartida por este académico de la Universidad de Guadalajara (UdeG), como parte de la Semana de la Gestión Pública 2024, organizada por el Departamento de Estudios Sociopolíticos y Jurídicos (Dsoj) del Iteso.

Durante dos días, esta actividad concentró discusiones dirigidas a estudiantes y personal académico sobre temas relacionados con la gestión y la política pública, como la transparencia y el quehacer legislativo, la paridad de género en los cargos de elección popular y la administración pública, el papel de las tecnologías de la información, los resultados de la política de drogas y la militarización de la seguridad pública.

Ruvalcaba Gómez es doctor en Derecho, Gobierno y Políticas Públicas por la Universidad Autónoma de Madrid y es especialista en gobierno abierto, gobernanza electrónica, innovación pública e IA en el sector público.

“Hemos escuchado la palabra IA por todos lados, a veces con narrativas esperanzadoras y a veces alarmistas (…). La IA cambia las reglas del juego entre gobierno y sociedad. Por eso es importante decir que, ante este escenario, tenemos que evitar el determinismo tecnológico, y no la usemos indiscriminadamente sin un control, monitoreo o evaluación”, consideró Ruvalcaba.
El académico explicó que la IA es parte fundamental de muchas operaciones que son controladas por administraciones públicas. Es usual ya hablar del gobierno algorítmico, gobiernos inteligentes o gobiernos 4.0: “el gobierno usa algoritmos y tecnologías digitales para tomar decisiones, para gestionar lo público y relacionarse con sus ciudadanos”.

Se usan especialmente para optimizar los servicios públicos, bajar costos, analizar grandes bases de datos, tomar decisiones, automatizar procesos, interactuar con los ciudadanos, ayudar en temas de seguridad pública con cámaras de identificación facial o hasta en los sistemas de salud.

Ejemplos claros están en el Sistema de Administración Tributaria (SAT) que ya utiliza la IA en sus auditorías para evitar la corrupción, detectar pagos indebidos o lavado de dinero; los sistemas de C5 de seguridad pública, que además de identificar rostros y rasgos biométricos, pueden leer matrículas de coche, o el programa OlivIA de la Secretaría de Igualdad Sustantiva Entre Mujeres y Hombres de Jalisco, utilizado para derivar casos de atención a mujeres víctimas de violencia.

“La IA ya está teniendo una gran materialidad, está cambiando la vida de las personas y controlando gran parte de las sociedades del mundo. Una cosa que es interesante es que avanza de modo exponencial, cosa que el cerebro humano no puede. Se trata de tomar en cuenta qué límites no queremos pasar, la IA nos puede llevar a un lugar mejor, pero también a uno peor”, añadió.

Para el académico, la IA debe ser sometida a ciertas regulaciones, tal y como ha pasado en la Unión Europea y algo que aún no ocurre en México, pues la discusión sobre ella se ha centrado principalmente en los sectores privados y la sociedad civil. “La regulación es muy importante, porque no puede ser una zona sin ley, tienes que poner límites. El primero de ellos es que, en el momento en que una IA dañe a un ser humano, tienes que protegerlo”, declaró.

La IA en el sector público implica retos y oportunidades como la aceptación y confianza por parte de los ciudadanos, la sustitución de muchos empleos públicos; cuestiones normativas como definir quién tiene responsabilidad por las decisiones de los algoritmos, la privacidad y seguridad de los datos, o la administración de datos y herramientas por entidades públicas o privadas.

Pero también hay implicaciones éticas, porque hay evidencia de que la IA se equivoca, tiene sesgos; discrimina por colectivos, razas o género, pues muchas máquinas aprenden a partir de la sociedad y replican ese tipo de cuestiones. Por ello, una nueva disciplina en ciernes, la algorética (es decir, la ética en la IA) debe ponerse sobre la mesa, pues esta tecnología no debe quedar solo en manos de ingenieros, sino que debe sumarse la visión de politólogos, administradores públicos, filósofos o abogados, por ejemplo.

“Abordar la ética desde la IA es una situación urgente que necesita un enfoque humanista, porque estas máquinas son neutrales, es un medio para lograr fines, lo que se haga con ellas puede ser bueno o malo, pueden crear las mejores vacunas, pero también virus y drogas poderosas”, explicó.
Es por eso que deben tenerse en cuenta temas como el respeto a la autonomía humana, la transparencia, la responsabilidad y la rendición de cuentas, la seguridad, la justicia y la no discriminación. No hay que olvidar que hace poco ya hubo un algoritmo que fue capaz de convencer a cientos de personas de que la tierra era plana, recordó Ruvalcaba.

“Las maquinas parecen ser aquellas que están aprendiendo de lo más creativo, artístico, mientras los humanos están constreñidos a visiones de la pantalla, a tener menos capacidad de razonamiento perdidos en la inmediatez. Es importante mantener la calma y quizás no preocuparnos tanto del aumento de la inteligencia artificial sino por la disminución de la inteligencia humana”, concluyó.