Solemos encuadrar el problema de la inteligencia artificial (IA) en la tecnología, pero el verdadero conflicto está en su posicionamiento ante nuestros procesos cognitivos y conductuales, destacó el investigador del Instituto de Investigaciones Jurídicas de la UNAM y coordinador del área de Filosofía del Derecho de esa entidad académica, Enrique Cáceres Nieto.
Además, esta discusión se da en un contexto político peligroso en el que la ultraderecha está tomando el control de distintas naciones, entre ellas Estados Unidos, donde Donald Trump y Elon Musk tienen actitudes de esa naturaleza.
Quienes están en la guerra por definir cuál va a ser el tipo de información que vamos a consumir, la configuración cognitiva de nuestros procesos y cuáles las salidas de estos, son países que pueden llevarnos a la pérdida de identidad cognitiva y de capacidad crítica, aseveró el también investigador del Centro de Ciencias de la Complejidad y presidente de la Sociedad Paradigmas Emergentes en Derecho y Filosofía del Derecho.
Al participar en la sesión 6 “Legislación sobre la Inteligencia Artificial” de la Cátedra Extraordinaria de Bioética “Problemas bioéticos contemporáneos” expuso que, a nivel mundial, hay quienes quieren tener un dominio absoluto, totalitario y lo mejor que encuentran en el mercado para lograrlo es la IA.
Entre los riesgos del uso de esta rama de la ciencia computacional están: invasión de la privacidad, discriminación, usurpación de identidad, desempleo, seguridad nacional, su instrumentación en armas autónomas, manipulación mental masiva, y sobrevigilancia estatal.
El experto universitario detalló la utilización de la IA y la manipulación masiva en China a partir de 2014, donde el gobierno ha implementado un sistema de control social en 30 localidades basado en el empleo de apps que centralizan los registros digitales de cada ciudadano, y aplicación de millones de cámaras de reconocimiento facial, incluso artefactos que recogen datos biométricos.
El objetivo, subrayó, es tener una gran base de información para identificar a quienes no respetan las reglas. Al ubicar que alguien ha incumplido con las normas como no hacer fila en el autobús, gritar en el metro o tirar una colilla en la calle, se le aplican sanciones como la prohibición de viajar en avión. A diferencia de lo establecido en Occidente, en China se carece de un proceso o audiencia para la defensa.
Además, hay presión social, pues existen tablones públicos en el transporte, con las fotografías de quienes han disminuido su “bono social”. “En el tren bala se les recuerda continuamente a los pasajeros comportarse adecuadamente para no ver disminuida su puntuación. Es de Black Mirror”, comentó el también integrante del Sistema Nacional de Investigadoras e Investigadores.
Cáceres Nieto añadió: al entrevistar a la población sobre estas medidas, varios dicen estar de acuerdo, ya que promueve la confianza mutua y una sociedad más armónica. Sin embargo, también se han impuesto a periodistas —sin posibilidad de apelar— al ser acusados de difamación y propagación de rumores por sus reportajes sobre corrupción del sistema chino, además de hacerlo con ciertos grupos que no son deseados por el gobierno.
“Regímenes totalitarios como Rusia y Arabia Saudita están pensando en replicar este sistema y en América Latina, en Venezuela, se encuentra en una fase inicial lo que se llama el ‘Carnet de la Patria’”, abundó el investigador.
En la sesión efectuada en formato a distancia, Cáceres Nieto apuntó que numerosos aspectos de la IA se encuentran en la “extrasistematicidad”, es decir, fuera del derecho, no han sido objeto de legislación. La mayoría de las discusiones de cómo regularla tienen lugar en la ética, la construcción de políticas públicas, iniciativas de ley o anteproyectos de legislación.
Algunos países en los que hay avances son Canadá, Estados Unidos, Austria, Japón y China. En ellos se coincide en tres puntos: que la tecnología ha revolucionado todos los ámbitos de la humanidad; hay necesidad de respetar la ética; y todos -salvo Austria- buscan ser el referente en el sector. Explícitamente el gigante asiático quiere constituirse en líder en 2030.
“La competencia por el liderazgo implica lo económico, pero también el impacto en los procesos cognitivos y el comportamiento”, insistió el académico de la UNAM.
El universitario alertó que quienes están definiendo el nuevo orden mundial no son necesariamente los estados, sino las grandes empresas.
