Semana 416_1 AI ATTACKS

ai attacks

〰️

ai attacks 〰️

con obra de Paolo Cirio

en Foam Museum, Amsterdam

del 31 de mayo al 25 de agosto, 2024

Vistas de exposición, AI Attacks, 2024

En la exposición individual AI Attacks de Paolo Cirio, la inteligencia artificial, los macrodatos e Internet se subvierten y se utilizan tácticamente en la guerra informática contra la privacidad, la parcialidad y la desinformación. El compromiso de décadas de Cirio con el uso de Internet para el arte y el activismo se presenta en FOAM, el museo de fotografía de Ámsterdam. Paolo Cirio interviene en guerras informáticas relacionadas con el poder policial, militar y empresarial. La exposición presenta los proyectos Capture, Obscurity, Street Ghosts y Resurrect, una nueva pieza comisionada. Las instalaciones con grabados, vídeos y artefactos repartidos por las salas del FOAM muestran sus intervenciones artísticas en línea y sus campañas activistas.

Los ataques de Cirio, como práctica hacker, hacen uso de la codificación, la minería de datos, la inteligencia artificial y las redes sociales, no sólo para revelar los peligros de tales tecnologías, sino también para explotarlas tácticamente. Explora su potencial como herramientas de contranarrativa, contravigilancia y antidiscriminación. Al tiempo que ataca a las instituciones como medio de provocación, Cirio propone nuevas normativas, investiga y expone pruebas, discute la ética de esta práctica y explora la estética de este material. Aparte de las acciones artísticas, Cirio ha escrito ensayos teóricos, promovido campañas políticas y colaborado con abogados, periodistas y activistas para hacer de su arte un agente social activo. Los ataques de Cirio suelen generar amenazas personales y legales por parte de sus objetivos. Al mismo tiempo, atrae al público de Internet y a los medios de comunicación, que cubren ampliamente sus acciones. Sus ataques son performances que se desarrollan en pocas semanas o meses en Internet, en los medios de comunicación y también en el espacio público.

Cirio aborda la Inteligencia Artificial como violencia automatizada en forma de vigilancia, discriminación y desinformación. Expone dicha violencia a través del uso policial del reconocimiento facial, la industria de datos criminales y la propaganda militar. La IA como arma violenta no regulada amplifica los conflictos culturales expresados en guerras de información que las estructuras de poder quieren dominar y los activistas necesitan disputar. Con sus proyectos, Cirio desafía a estos poderes, explorando la Inteligencia Artificial para sus contraataques.

Resurrect

2024, Vídeos, impresiones en 3D y uniformes e insignias militares.

Esta obra aborda el uso de la IA para clonar individuos y difundir desinformación. Cirio atacó la cultura militar resucitando a cuatro mercenarios históricos mediante deep fakes para abordar la suplantación de identidad y la desinformación. Cirio resucitó a cuatro mercenarios muertos en las guerras neocoloniales de África en la década de 1960 y les hizo expresar su arrepentimiento en comunidades en línea de entusiastas militares. Los mercenarios resucitados son un fascista francés, un nazi alemán, un colonizador belga y un británico al servicio del apartheid sudafricano, Bob Denard, Siegfried Müller, Jean Schramme y Mike Hoare, respectivamente. Cirio utilizó la IA para reanimar rostros y voces utilizando material de archivo y entrenando a la IA en su investigación histórica para hacerles decir la verdad sobre su complicidad en crímenes de guerra. Su nueva propaganda antimilitarista y sus indagaciones sobre los crímenes se difundieron después en los canales de las redes sociales, donde estos mercenarios siguen siendo considerados héroes de guerra. En concreto, pretenden revelar la verdad sobre el asesinato del Secretario General de la ONU, Dag Hammarskjöld, en el que estuvieron relacionados y del que el Reino Unido y Estados Unidos siguen ocultando pruebas en una reciente investigación. La instalación artística vuelve a reunir físicamente a los mercenarios resucitados mostrando sus cráneos, insignias militares y uniformes de la época. Cuatro monitores montados en postes actúan como cabezas parlantes de cada mercenario. En este proyecto, la IA también hace referencia a soldados autónomos, armas y tácticas de ciberguerra para difundir información sensible y propaganda.

Capture

2020, C-Prints.

Este trabajo trata de la IA para el reconocimiento facial con el fin de identificar sospechosos. Cirio atacó a la policía francesa utilizando el reconocimiento facial para identificar a miles de agentes y hacer frente a su vigilancia masiva. Cirio recopiló cientos de fotos públicas de agentes de policía en Francia, luego extrajo más de cuatro mil rostros con reconocimiento facial y los publicó en su sitio web Capture-Police.com para crowdsource su identificación por nombre. Cirio también hizo hincapié en los policías que disparaban a los manifestantes con balas de goma para exigir responsabilidades por la brutalidad policial. El proyecto generó fuertes reacciones por parte de los sindicatos policiales franceses, y simpatizantes de la policía enviaron amenazas personales a Cirio. Poco después, el ministro del Interior de Francia, Darmanin, hizo una declaración pública contra Cirio y su acción, amenazándolo con persecución legal. Además, el ministro censuró la obra solicitando la retirada de la instalación artística de Cirio de un museo de Francia. En aquel momento, Francia utilizaba el reconocimiento facial para la vigilancia masiva y estaba a punto de aprobar una ley de seguridad que prohibía la publicación de fotos de policías en los medios de comunicación. Paralelamente al atentado, Cirio creó una campaña para prohibir el reconocimiento facial en Europa, que recogió más de cincuenta mil firmas y finalmente fue reconocida oficialmente por la Comisión Europea. El reconocimiento facial con IA y el uso de otras tecnologías y datos biométricos han quedado sometidos a una normativa más estricta en Europa a partir de 2023, sin embargo en el resto del mundo su uso va en aumento.

Obscurity

2016, Impresiones de inyección de tinta de archivo.

Este trabajo trata de la IA para el análisis de datos criminales y la policía predictiva. Cirio atacó seis sitios web de fotos policiales robando su identidad y corrompiendo sus datos para hacer frente a la parcialidad, la inexactitud y la violación de la privacidad y la dignidad. Cirio recopiló más de diez millones de fichas policiales y antecedentes penales de los principales sitios web de fichas policiales de Estados Unidos y los volvió a publicar en línea borrosos y con los datos manipulados. En respuesta, recibió amenazas legales de los propietarios de los sitios web. Muchas personas afectadas por estos sitios web se pusieron en contacto con Cirio para pedir ayuda y explicar su situación y sus historias de abusos por parte de la policía y las plataformas de Internet. Paralelamente al ataque, Cirio creó una campaña para implantar en Estados Unidos la política europea de privacidad Right to Be Forgotten (Derecho al olvido), por la que abogó durante años en la época en que la moderación de contenidos era muy debatida y aún se consideraba censura. A día de hoy, Estados Unidos sigue teniendo un mercado de intermediación de datos no regulado, que ahora se utiliza para entrenar modelos de IA. Las fichas policiales y los datos de delincuentes se han utilizado para entrenar a la IA en la predicción policial y la comprobación de antecedentes que incorporan los sesgos y la desinformación incrustados en la fuente de datos.

Street ghosts

2012-en curso, impresiones en vinilo.

Este trabajo trata de la IA para el reconocimiento de patrones y la invasión de la privacidad. Cirio atacó el servicio Google Street View publicando fotos impresas de individuos en el lugar exacto donde Google las tomó para abordar la invasión de la privacidad en sus vidas personales. Cirio pegó cientos de estas fotos de individuos en ciudades de todo el mundo. En las impresiones permanecen visibles la marca de agua y el año de copyright de Google, señalando la propiedad impugnada sobre la imagen y los datos recogidos y expuestos. En la exposición, Cirio muestra su acción en Ámsterdam realizada en 2013. A través de esta obra, Cirio previó el momento actual en el que la IA puede acechar a las personas en su vida pública y privada mediante el reconocimiento de los detalles de su ropa, comportamientos, objetos y entornos. El potencial del reconocimiento de patrones por parte de la IA deja obsoleta la biometría a la hora de elaborar perfiles e identificar individuos, algo que depende de la recopilación y extracción masiva de datos. Google agrega varios puntos de datos sobre individuos, a menudo sin consentimiento o con una débil protección de la privacidad, y luego entrena a la IA para identificar potencialmente detalles específicos en los datos. Algunos individuos se convierten en víctimas de la IA y de la red de arrastre de datos, y sus fantasmales figuras humanas simbolizan las víctimas de la guerra de la información en la ciudad, una consecuencia de la batalla por los datos públicos y privados entre empresas, gobiernos, ciudadanos y algoritmos.