Incierta, regulación de la IA: especialistas en la UNAM

La regulación de la inteligencia artificial (IA) es complicada y conlleva intereses económicos cuando se refiere al uso que hacen empresas, gobiernos y academia, dijo el consejero de Fundación UNAM e investigador emérito de esta casa de estudios, Jaime Urrutia Fucugauchi.

Al abordar el tema en entrevista puntualizó: no la podrán decidir ni los gobiernos, pero el interés de normarla surge con desarrollos de tipo disruptivo como internet, telefonía celular y redes sociales. El problema es cómo se implementa, qué pasará con quienes no la cumplan o la transgredan.

“Ojalá que las organizaciones internacionales como la ONU y los gobiernos de los países, actuando en conjunto, busquen soluciones para las aplicaciones destructivas, como la creación de drogas sintéticas, armamento y usos del crimen organizado”, argumentó.

Sobre la reciente Cumbre Mundial de la IA, celebrada en París, el universitario resaltó que es parte del interés generado con algunas plataformas, incluyendo la entrada de DeepSeek y otras con menor cobertura mediática.

El encuentro buscó atraer a gobiernos, organizaciones internacionales, empresas, academias, artistas y sociedad civil, señaló Urrutia Fucugauchi. Asimismo, agregó que se han llevado a cabo diversas reuniones con diferentes objetivos e intereses. También hay en paralelo varios programas de apoyo a proyectos; se buscan planes de desarrollo y aplicaciones.

El científico expuso que uno de ellos, también en Francia, incluye al Foro de París sobre la Paz, el cual se efectuará en octubre del año en curso.

Acabar con los mitos
El universitario también participó en el ciclo Jueves de Ciencia. Nuestra nueva realidad, organizado por Fundación UNAM y transmitido por TVUNAM, en el que consideró que para utilizar bien las nuevas tecnologías primero debemos entenderlas. La IA es una de las áreas de investigación y desarrollo tecnológico que se ha caracterizado por su rapidez de cambio.

Ante el presidente de Fundación UNAM, Dionisio Meade, apuntó: estas innovaciones generan capacidades y, al mismo tiempo, plantean dilemas cada vez más importantes.

“Queremos impulsar el interés en los jóvenes por las nuevas tecnologías y desarrollos en ciencia que ofrecen oportunidades, pero para usarlas bien primero debemos entenderlas”, insistió.

Para el investigador del Instituto de Investigaciones en Matemáticas Aplicadas y en Sistemas de la UNAM, Carlos Ignacio Hernández Castellanos, en el pasado se decía que era necesario aprender computación e inglés; luego que programación, pero hoy es la IA, aunque también ser críticos y preguntarnos qué hacemos y cuándo la usamos. “Su consumo responsable será vital para todos”.

En la actualidad, prosiguió, más que nunca necesitamos esa “vela en la oscuridad” que es la ciencia y ese conocimiento crítico, así como preguntarnos si lo que observamos es real o qué fue generado con IA, alertó el universitario.

Hernández Castellanos recalcó que esta área ha captado la atención a partir del comienzo de ChatGPT. Antes y ahora las preguntas se repiten, por ejemplo, si viene a sustituirnos o a ayudarnos, qué va a pasar con los empleos o qué sucede con la parte ética.

Esa aplicación puede arrojar algunas perspectivas buenas, pero “luego nos sorprende con respuestas que no hacen ningún sentido”. El tema de la privacidad también es complejo; “habría que tratar de regular a las empresas que adquieren nuestra información”.

De acuerdo con el especialista, se suele pensar que es completamente imparcial, infalible, y que siempre toma la “decisión correcta”, cuando eso es un mito, además de que las computadoras reproducen sesgos.

Está de moda la IA generativa, y estamos ante una guerra de plataformas para ver cuál va a ser la “suprema”: ChatGPT, DeepSeek u otra, como en su momento fue Yahoo contra Google, o MySpace y Facebook. “En el corto plazo veremos los límites de estas herramientas y cuál gana; el que lo haga más barato, más eficiente, con el mejor marketing, etcétera”, enfatizó Hernández Castellanos.

En la actualidad vemos herramientas de generación de texto; después madurarán y veremos cómo hacer la interfaz entre las personas con alguna necesidad o problema, y el algoritmo experto para resolverlo. Se hará énfasis en su uso como soporte para la toma de decisiones, precisó.

De gran capacidad
Más adelante, Carlos Artemio Coello Coello, investigador en el Centro de Investigación y de Estudios Avanzados del Instituto Politécnico Nacional, sostuvo: no hay razón para temer, “pero es importante conocer un poco, porque nos va a impactar casi en cualquier actividad que desempeñemos”.

Es importante estar informados en fuentes confiables, páginas de universidades o institutos, revistas de divulgación científica, que “nos despejan los miedos”. Además, como humanos jugaremos un papel fundamental en el uso de esas tecnologías y será importante educar a niñas, niños y jóvenes en cuestiones éticas.

La IA, manifestó, tiene aspectos positivos y negativos, como la pérdida de empleos y falta de privacidad. Se trata de un tema que se puede analizar a partir del punto de vista técnico, social o filosófico, por sus implicaciones a futuro.

Coello Coello aclaró que esa disciplina no es reciente; lo que ha cambiado es la forma en que se hace investigación, desde los años 50 del siglo pasado hasta nuestros días. Hace 30 años se veía como un área remota, pero hoy ha tocado diversos aspectos de nuestras vidas, gracias a la cantidad de datos e infraestructura de cómputo con que contamos.

El experto se refirió a algunos de los mitos que se deben desmentir como el que la tecnología se asocia con entes biológicos y que es “como si estuviera viva, que se va a independizar y va a evolucionar por sí sola, que va a tomar el control del planeta y va a exterminar a los humanos”.

Se requiere regular estas tecnologías, pero sin inhibir la investigación, para evitar posibles peligros asociados al uso que el humano le dé a la herramienta. Otro reto es minimizar su impacto ambiental, planteó.

Asimismo, reconoció que la IA puede sustituir a los seres humanos en algunas tareas. “Noam Chomsky, luego de usar ChatGPT escribió que se trata de la muerte de la creatividad”; los jóvenes ya no quieren escribir ensayos o crear programas originales y esta herramienta se los facilita.

No obstante, no hay que perder de vista que no genera nada “desde cero”; toma lo que encuentra de internet, a diferencia de los seres humanos, que sí tenemos creaciones originales, explicó.

El académico indicó que también puede contribuir a solucionar problemas globales. Uno de sus grandes avances tiene que ver con el diseño de medicamentos y el desarrollo de vacunas es un tiempo reducido. “Se requiere cierta información e infraestructura, pero tenemos la esperanza de que se van a orientar esfuerzos en esa dirección”.