Humanizing Art & Technology

KAIRUS ART + RESEARCH

Noruega

KAIRUS ART + RESEARCH

Noruega

Biography

KairUs es un colectivo de dos artistas: Linda Kronman (Finlandia) y Andreas Zingerle (Austria).
Actualmente, con base en Bergen (Noruega), exploran temas como las vulnerabilidades en los artefactos IdC, la corporatización de los gobiernos locales en las ciudades inteligentes, y proyectos con sensibilidad ciudadana en los que la tecnología se usa para recuperar el control de nuestros entornos diarios. Su práctica basada en la investigación está cercanamente entrelazada con su producción artística, adoptando metodologías usadas por antropólogos y sociólogos; sus obras frecuentemente están fundadas en investigaciones de archivo, observaciones participativas e investigación de campo. Además de sus obras, publican papers de investigación académica y publicaciones de acceso libre para contextualizar sus obras en discursos más amplios, como por ejemplo la seguridad y privacidad de datos, el activismo y la cultura hacker, prácticas artísticas disruptivas, desechos electrónicos y la materialidad de la Internet.

 

OBRA

Suspicious behavior (Comportamiento sospechoso)
Narrativa digital interactiva

Tecnologías de visión artificial, como reconocimiento de objetos, reconocimiento facial y detección de emociones, se usan cada vez más para convertir imágenes en información, filtrarla y hacer predicciones e inferencias. En los últimos años, estas tecnologías han tenido un rápido avance en la precisión. Las razones para los desarrollos actuales son: el renacimiento de redes neuronales que permiten un aprendizaje automático a partir de observar datos, acceso a cantidades enormes de datos para entrenar a las redes neuronales, y un poder de procesamiento en aumento. Esto naturalmente causa entusiasmo entre los innovadores que implementan estas tecnologías. En el mundo de la vigilancia automatizada, nuevas tecnologías de visión artificial son desarrolladas para encontrar comportamiento sospechoso sin supervisión humana. Como con todas las aplicaciones de reconocimiento de patrones, el deseo es traducir imágenes en datos de comportamiento. Inversiones multimillonarias en tecnologías de detección de objetos asumen que es fácil para las computadoras extraer el significado de las imágenes y retratar nuestros cuerpos en un código biométrico, sin embargo, la prueba y error ya ha demostrado que el aprendizaje automático está lejos de ser objetivo y hace énfasis en prejuicios ya existentes. Los prejuicios humanos están incrustados en los sistemas de aprendizaje automático a lo largo del proceso de ensamblar la base de datos, por ejemplo, al categorizar, rotular y pulir los datos de entrenamiento. Lo que es considerado como sospechoso en un contexto cultural puede ser normal en otro, por lo tanto, los desarrolladores admiten que “es desafiante unir esa información con el ‘comportamiento sospechoso»’. Aún así, la industria de la vigilancia está desarrollando cámaras “inteligentes” para detectar comportamiento anormal, para detectar y prevenir actividades indeseadas. Además, la actual pandemia de COVID-19 ha acelerado el desarrollo de aplicaciones de visión artificial, buscando nuevas formas de comportamiento dudoso. La obra “Suspicious behavior” muestra un mundo de trabajo humano escondido, que construye los cimientos de cómo los sistemas “inteligentes” de visión artificial interpretan nuestras acciones. A través de una ambientación de una oficina en casa y un tutorial de rotulación de imágenes, el usuario recorre la experiencia del trabajo tedioso de los anotadores subcontratados. En un tutorial interactivo para una empresa ficticia, el usuario es motivado y se lo instruye para realizar la tarea de rotular comportamiento sospechoso. Los videos en el tutorial fueron tomados de varios conjuntos de datos libres de aprendizaje automático para vigilancia y detección de acciones. Gradualmente, el tutorial revela cómo el complejo comportamiento humano es reducido a categorías banales de comportamiento anómalo y normal. Las guías de qué es considerado comportamiento sospechoso ilustradas en una serie de afiches y aplicados en los ejercicios del tutorial fueron recolectados de listas de autoridades varias. Mientras al usuario se le da un tiempo limitado para ejecutar varias tareas de rotulado, la obra nos provoca a reflexionar sobre qué tan fácilmente los prejuicios y sesgos se incrustan en la visión artificial. “Suspicious behavior” pregunta: ¿entrenar máquinas para entender el comportamiento humano es, en realidad, también para entrenar el comportamiento humano? ¿Qué rol cumple la “inteligencia colectiva” de los anotadores con tareas pequeñas en darle forma a cómo las máquinas detectan el comportamiento? Y, ¿en qué formas están incrustados los puntos de vista de los desarrolladores en el proceso de crear significado mientras le dan estructura a las tareas de anotaciones?

Link to artwork:

https://kairus.org/suspicious/