La inteligencia artificial y el despotismo del poder algorítmico que usan las redes sociales de Ultraderecha para sostener narrativas.
Hoy uno de los hijos del expresidente AMLO, José Ramón López Beltrán, confrontó una publicación hecha por la IA de X, Grok.
Más específicamente, José Ramón denunció una respuesta que Grok publicó a una petición de un usuario que le pedía burlarse del hijo del expresidente con base en los comentarios que recibe el perfil en sus publicaciones.
La respuesta de la IA fue una serie de insultos, falsedades y estigmatizaciones dirigidas a José Ramón, razón por la cual éste cuestionó los filtros, entrenamiento y supervisión de Grok, así como señaló la responsabilidad de esta empresa y sus productos con la vida pública y las personas.
Y tal como te lo imaginarás, esto generó una avalancha de respuestas, conversaciones y narrativas, la mayor parte de estas negativas.
Más allá de lo memeable que algunos hacen parecer que alguien “se pelee” con una inteligencia artificial, este caso pone en evidencia muchos de los problemas de X y otras redes sociales.
Y no, no es únicamente la inteligencia artificial, sino es todo un modelo de negocio detrás y los ecosistemas diseñados para sacar la mayor ventaja económica.
Pero no vayamos tan lejos, lo primero a señalar es que, hasta el día de hoy, ninguna inteligencia artificial tiene agencia ni conciencia de lo que le preguntamos y lo que responde.
Más bien es el resultado de una serie de elementos como su proceso de construcción, los datos, objetivos y parámetros planteados en su creación.
Así como diferentes limitaciones, ya sea por motivos de seguridad o de responsabilidad hacia los efectos de sus productos.
Es justo aquí donde radica la trampa en ecosistemas como X, ya que el propio algoritmo tiende a favorecer los discursos y narrativas de la ultraderecha.
Basta con observar la promoción de contenidos y tendencias por sobre otros, el algoritmo SI favorece la actividad de ultraderecha.
Asimismo, las omisiones permitidas por esta plataforma permiten la creación de comunidades digitales compuestas de troles, bots y personas que deciden, en diversos grados, comportarse como troles y bots, deformando las narrativas, acosando masivamente y usando discursos de odio y estigmatización que pueden inducir a la violencia.
A su vez, estas comunidades y perfiles tienden a ser promovidas en diversos grados por personajes públicos, cuentas e instituciones trolificadas.
Ya sean políticos, empresarios o activistas; estos personajes han promovido y encumbrado las comunidades de desinformación y acoso coordinado.
Elon Musk y su visión de Ultraderecha fascista
Por tanto, ya que Grok es un producto de una empresa de redes sociales, esta inteligencia artificial se nutre de los datos de la red social parcial ideológicamente, creándose un círculo vicioso en donde la actividad inmoral, maliciosa y falsaria, va creando grandes narrativas, varias de las cuales desfiguran no solo la realidad, sino la historia.
Este proceso no es incidental ni fortuito, sino que responde a una intencionalidad de imponer una narrativa y visión propia afín a la ultraderecha, basada y legitimada únicamente por el poder: político, económico, algorítmico, de procesamiento y simbólico.
Todo esto queda en evidencia por el despotismo con el que se maneja X y Grok, no sólo en lo que responde (supuestamente ‘sin filtros’), sino también en lo que genera.
Recordemos el escándalo de hace unos días en donde Grok empezó a desnudar a la gente y ponerla en ropa interior. La respuesta de Musk no fue una disculpa, sino duplicar la apuesta, burlarse y publicar imágenes de él y otras cosas en bikini.
O también su proyecto Grokpedia, una enciclopedia digital y de código abierto muy parecida a Wikipedia, pero con una ‘vision’ afín al trumpismo y la ultraderecha.
Aquí se publican entradas con el único fin de dar forma a una nueva narrativa histórica y de la realidad, como el caso de la toma del Capitolio.
En fin, estamos presenciando el inicio de una serie de efectos y consecuencias negativas de la concentración de poder en unos cuantos con tecnologías tan potentes como la inteligencia artificial, la cual no sólo puede automatizar el engaño, sino impactar en la percepción de la realidad y la historia para beneficiar los intereses de una élite de un país cuya política exterior es cada vez más depredadora.
Las preguntas que ahora debemos plantear es ¿cómo enfrentar un poder que tiene detrás a un imperio listo para usar todo a su disposición para defender sus intereses?
Por Ernesto Ángeles
https://infodemia.mx/entrada/8700