En el régimen totalitario descrito por Orwell en su novela “1984”, publicada en 1949; hay una figura extravagante denominada “Policía del pensamiento”, la cual, es una especie de agencia de investigación o de inteligencia encargada de descubrir y castigar a la disidencia de ese totalitarismo magistralmente retratado por Orwell.
Tres cuartos de siglo, 76 años han pasado desde la publicación de esa historia imperdible y ahora más que siempre increíblemente necesaria. ¿Por qué?, como dijera Sócrates, aún solo defendería esa verdad de mi pensamiento; afortunadamente, cada vez son más las voces que se suman.
La semana pasada, Alejandra Lagunes, ex encargada de la Estrategia Digital Nacional en el periodo 2012-2018, publicó un artículo titulado “Los algoritmos reescriben lo humano”. Su artículo abre de la siguiente forma: “No estamos frente a un problema tecnológico, sino humano. Por primera vez, los algoritmos no sólo observan lo que hacemos: comienzan a anticipar lo que pensamos”.
Su argumentación gira en torno a dos hechos que plantea: 1) Desde hace más de una década, China, ha establecido centros de rehabilitación digital para adolescentes; y 2) la ciudad de Nueva York demandó a TikTok, Instagram, YouTube y Snapchat por diseñar sistemas que mantienen a niños y adolescentes atrapados en un ciclo de dopamina digital.
Leer su texto, reforzó algunas ideas que se han convertido en mi malabar predilecto durante los meses más recientes: la Inteligencia Artificial (IA) y las redes sociales se han convertido en una auténtica “policía del pensamiento”.
No se trata únicamente de que el observador esté siendo observado, ni de que haya alguien detrás de las pantallas analizando nuestros “likes”, sugiriendo el contenido que consumimos a diario, o contabilizando el tiempo que pasamos frente a la pantalla y lo que vemos en ella.
“Plataformas que nos prometieron conexión se han convertido en ecosistemas que compiten por nuestra mente, optimizados por Inteligencia Artificial (IA) que aprende de nuestros patrones más íntimos: ansiedad, aburrimiento, soledad”, asegura Lagunes.
Mi percepción es que la dominación se ha vuelto tan sutil que la mayoría de la población parece no advertirla; se trata de una subordinación voluntaria, de un exhibicionismo consentido.
En el escenario global, Estados Unidos sigue siendo considerado “la policía del mundo”. Ya hemos abordado el caso de El Capitán América: un nuevo mundo, donde se plantea que, a través de los teléfonos celulares —es decir, las redes sociales— se manipulará la atención colectiva a escala planetaria.
¿Cómo nos venden la moto?
A pesar de que las redes sociales son un instrumento tecnológico relativamente reciente —su adopción masiva no supera las dos décadas—, su objetivo es similar, aunque más incisivo, al de los medios masivos de comunicación, cuyos alcances se expandieron desde la segunda mitad del siglo pasado.
En la obra conjunta ¿Cómo nos venden la moto?, publicada por los intelectuales Ignacio Ramonet y Noam Chomsky, el planteamiento es claro: los medios masivos buscan direccionar la opinión pública. Según Chomsky, “el propósito de los medios es inculcar y defender la agenda económica, social y política de los grupos privilegiados que dominan la sociedad y el Estado”.
Hoy en día, con la reciente irrupción de la inteligencia artificial (IA), la potencia comercial de las redes sociales se está exponenciando. La publicidad se vuelve cada vez más quirúrgica, mientras los reels de los creadores de contenido digital enganchan con mayor eficacia a los consumidores. Y por si fuera poco, en la reciente reunión de la Cooperación Económica Asia-Pacífico (APEC), China levantó la mano para liderar la gobernanza global de la IA.
Según la revista Wired (03/10/25), “China impulsa la creación de la Organización Mundial de Cooperación en Inteligencia Artificial, un organismo que busca establecer estándares técnicos, normas de gobernanza y estrategias de desarrollo y colaboración internacionales para —según el gigante asiático— garantizar un uso justo y seguro de esta tecnología en beneficio de todas las naciones y regiones”. La sede propuesta estaría en Shanghái: la ONU de la IA.
En términos de dominio, hemos alcanzado la frontera de lo imaginado por Orwell y por Huxley en Un mundo feliz. Hoy, el algoritmo de las redes sociales registra y analiza nuestras emociones; aprende qué contenidos prolongan nuestra atención, reproduce esos patrones para maximizar el tiempo de conexión y, en ese ciclo, moldea nuestro deseo y nuestra percepción de valor.
Sin embargo, somos nosotros quienes, con soberana voluntad, exponemos nuestra vida en busca de aprobación; incluso los “haters” nos estimulan. Lo esencial: nos miran. La población mundial parece embelesada en un diálogo de sordos mediado por “likes”. Como diría Lagunes, el fenómeno es profundamente humano.
Aquí, el legado de los abuelos —el Toltecayotl— vuelve a auxiliarnos en una postmodernidad que deliberadamente confunde la libertad con el dominio; el disfrute del tiempo libre con el marketing; el ocio con el negocio.
“La distopía orwelliana no llegó por la fuerza, sino por el deseo de ser vistos”, dice la IA. Tener redes sociales, interactuar con ellas o monetizarlas; usar inteligencia artificial, como poseer dinero, no es en sí negativo. Lo preocupante es cuando el dinero nos posee, cuando somos manipulados a través de las redes, cuando la IA, es nuestro mentor.
Volviendo al Toltecayotl, en Castañeda encontramos —para esta entrega— dos ideas brillantes. La primera, a la letra, dice:
“Don Juan dijo que el nagual Elías le había explicado que la característica de la gente normal, es que, compartimos una daga metafórica: la preocupación por nuestro reflejo. Con esa daga nos cortamos y nos sangramos. La tarea de las cadenas de nuestro reflejo, es darnos la idea de que todos sangramos juntos, de que compartimos algo maravilloso: nuestra humanidad. Pero si examináramos lo que nos pasa descubriríamos que estamos sangrando a solas, que no compartimos nada y que todo lo que hacemos es jugar con una obra del hombre: nuestro predecible reflejo”.
La segunda idea se vincula con la formación de nuestra identidad. En muchos casos, a la opinión favorable de los demás la llamamos confianza en nosotros mismos. Es decir, construimos nuestra autoestima sobre el reflejo que proyectamos en los otros.
El chiste se cuenta solo, pues ese mecanismo psicológico ha sido aprovechado por las plataformas digitales, que se han infiltrado en las sociedades como cuchillo en mantequilla.
Facebook, TikTok y otras redes sociales operan como policía, escaparate y verdugo; son público, medio y protagonista. Han generado -como en el mundo orwelliano- una auténtica “neolengua”, en la que términos como “trending”, “epic”, cringe, “hashtag”, “based”, “incel” o “chad” se han vuelto parte del vocabulario cotidiano.
La policía del pensamiento, Orwell, en su novela dice:
“La telepantalla recibía y transmitía simultáneamente. Cualquier sonido que hiciera Winston superior a un susurro, era captado por el aparato. Además, mientras permaneciera dentro del radio de visión de la placa de metal, podía ser visto a la vez que oído. Por supuesto, no había manera de saber si le contemplaban a uno en un momento dado. Lo único posible era figurarse la frecuencia y el plan que empleaba la Policía del Pensamiento para controlar un hilo privado. Incluso se concebía que los vigilaran a todos a la vez. Pero, desde luego, podían intervenir su línea de usted cada vez que se les antojara”.
La intervención de líneas a la que se refería Orwell hoy se traduce en la dirección del algoritmo. Si puede usarse con fines comerciales, también puede emplearse con propósitos políticos: para diseñar ingeniería social. Decíamos que esto es profundamente humano, porque la propaganda se orienta según la preferencia estadística; es decir, la suma de cada uno de nuestros gustos.
Los medios y las redes sociales fabrican —a conveniencia— héroes y villanos. Los algoritmos —asegura la IA— aprenden a predecir qué estímulos nos provocan placer o indignación, y con base en esa información, los replican, amplifican y dosifican para mantenernos conectados. Así, el control ya no se impone: se desea. La vigilancia no se oculta: se celebra. Y el algoritmo, como potestad invisible: parece luz, aunque sea abismo.
