USER VS. BOT

Conferencia en The Players, Manhattan

El año pasado, concluí mi conferencia diciendo que «A mi país se lo ha llevado el lobo, pero no se lo ha llevado sin que nadie lo vea, se lo llevado sin que nadie lo interrumpa.”

Poco después, el mismo lobo vino por tí, y parece rondar por los rincones más vulnerables del mundo, escondiéndose entre los demás depredadores para confundirnos, para apoderarse de lo poco que nos queda. Pero incluso la bestia más feroz puede tropezar, y este es un lobo que teme a su rebaño.

En el destino escenográfico del que participamos a diario, ya no hay rebaños puramente humanos. Rebaños robóticos se han insertado en nuestras vidas sin ningún esfuerzo, sin encontrar resistencia. Si todo lo que inventamos empieza a parecerse a las voces tecnocráticas que justifican la guerra, es posible que nuestros días estén contados.

Hay una guerra que no sabe a quién pertenece y ni siquiera sabe que ha comenzado. Una guerra que aún no está preparada para librarse, pero que debe marchar al campo de batalla sin haberse visto reflejada en ningún espejo, y probablemente por eso no se reconoce a sí misma.

Quizás, lo verdaderamente humano sea jugar a desaparecer.

Hace once años, escribí el manifiesto anual del Festival 404, titulado «Humano vs. Usuario». Para esa edición, diseñé un logotipo que oculta dos candados (uno abierto y el otro cerrado). En cualquier caso, seguía siendo una lucha entre personas: quienes abrazaban un mundo más humano y quienes optaban por sumergirse en un entorno donde las características humanas se consideraban obstáculos.

Una de las máximas de ese manifiesto se convirtió en una declaración de principios que aún resuena en las bases del proyecto 404: “El Arte es la reacción expresiva a un sistema opresivo”

Este año, decidí seguir explorando esa idea y llevarla al siguiente “Versus”, avanzando hacia Usuario vs. Bot, que se convirtió en el título de este Festival 404.

La palabra «robot» fue introducida por primera vez en 1920 por el escritor checo Karel Čapek para nombrar a los trabajadores artificiales en su obra de ciencia ficción «Robots Universales de Rossum», sobre las consecuencias del avance tecnológico descontrolado. Los robots de Čapek no eran dispositivos mecánicos, sino seres biológicos artificiales, más similares a los conceptos modernos de vida artificial humanoide que a las máquinas.

Este término tiene sus raíces en el antiguo término eslavo «robota», que significa «trabajo», «obra» o «servidumbre». En el checo de la época, robota se refería específicamente al trabajo forzado que los agricultores estaban obligados a realizar para sus señores feudales, sin remuneración y obligatorio.

Existe una tensión moderna entre la acción humana y los sistemas automatizados. A medida que los bots se vuelven más sofisticados, moldeando nuestras redes sociales, respondiendo a nuestras preguntas e incluso imitando el comportamiento humano, la distinción entre interacción auténtica y respuesta programada comienza a difuminarse. ¿Interactuamos con una persona o con un guion programado? ¿Nuestras opiniones se moldean mediante un diálogo genuino o mediante manipulación algorítmica?

Lo que una vez fue diseñado para asistirnos se ha convertido en una presencia que compite por la atención, la influencia e incluso la identidad.

Hemos leído y escuchado historias sobre robots que se rebelan contra los humanos, pero esta relación se invierte con menos frecuencia, ya que nuestros vínculos con la tecnología son tan fuertes, o incluso más fuertes, que los que construimos con otras personas. De hecho, es ese vínculo el que nos instruye sobre cómo nos relacionaremos con los demás. Una vez que los adoptamos, funcionan como un organismo vivo, y sentimos que expulsarlos amenazaría nuestra propia existencia.

Estamos presenciando un salto exponencial en el desarrollo de la inteligencia artificial. El hecho de que estas máquinas organicen la realidad no es un fenómeno aislado. Debemos entenderlo como la última etapa de la convergencia entre el poder hegemónico y la cultura económica.

Hoy en día, cada vez es más difícil distinguir si nos comunicamos con una persona o un bot. Pero lo más preocupante es la falta de interés en notar la diferencia. Comparados con un bot, los humanos somos más lentos, más indecisos e imprecisos. Parece que la emoción y la espontaneidad han perdido definitivamente su lugar ante la urgencia de lo eficiente y conveniente. Nos encontramos en un punto ciego, pronto nos convertiremos en expersonas.

A medida que los usuarios se adaptan, los bots perfeccionan sus habilidades. Te hablo a ti, máquina. Eres real mientras nosotros lo seamos.

Mientras que «robot» implica una máquina física que puede realizar tareas, «bot» se refiere a un agente virtual basado en software, diseñado para realizar tareas repetitivas o rutinarias automáticamente. Actualmente, el término «bot» también se utiliza para desacreditar los comentarios de otros usuarios, pero últimamente es frecuente verificar con una IA lo que escuchamos o lo que estamos a punto de decir. Ronald Reagan dijo una vez: «Confía, pero verifica». En este caso, mejor no confío, porque la verificación lleva demasiado tiempo. Pero cuando un bot debe verificar a un humano, lo aceptamos al instante: en los bots confiamos.

«Usuario vs. Bot» plantea inquietudes más profundas sobre la confianza, la autenticidad y el poder de la comunicación. Los bots pueden amplificar las voces o suprimirlas. Pueden servir a los usuarios o vigilarlos. En este panorama, el usuario debe navegar en un mundo digital donde la línea entre lo real y lo artificial cambia constantemente. Para evitar convertirnos en participantes pasivos de un sistema que automatiza el comportamiento, debemos ser conscientes de lo que consumimos, con quién (o con qué) interactuamos y cómo estos sistemas moldean nuestro pensamiento, a través de la conveniencia, la ignorancia, el odio y el deseo.

Hoy, más que nunca, contraatacar es librar una batalla interior:

Somos los desastres más naturales del mundo,
las tormentas que llueven sobre las reglas de construcción.
las llamas donde arde lo que nunca es nuestro.
Somos lo que queda cuando todo se desarma y nadie puede usar ninguna de esas partes.
Somos la casa que protege a nuestro techo,
la razón de nuestras dudas,
los padres de todo desconocido,
los amigos de los que no vuelven,
la esperanza de toda muerte injusta,
la fábula contemporánea de una verdad histórica.
Lo que somos, es lo que humanizamos.

Gina Valenti
4 de octubre de 2025