Semana 209_2 The Data and The Sovereign

The Data and the Sovereign

con obra de Kim Albrecht, DISNOVATION.ORG, Hasan Elahi, Geraldine Juárez, Maral Pourkazei y Kate Crawford (en colaboración con Deep Lab)

Curaduría por Lívia Nolasco-Rózsás

una co-producción de ZKM | Zentrum für Kunst und Medien Karlsruhe y Goethe-Institut Ljubljana + BIO 26|Common Knowledge. Con apoyo de la ciudad de Ljubljana.

Galerija Kresija, Ljubljana.

Los datos se miden, recopilan, analizan, interpretan, extraen, envían a la nube y almacenan. Los datos se consideran "grandes" si son casi incontables, y los datos a menudo se han descrito como el "petróleo" del siglo XXI. Los datos son un recurso, pero no natural, aunque el trato con ellos deja una importante huella ecológica y actualmente está transformando varios paisajes. La creciente ubicuidad de los datos depende de la escala planetaria de cómputo, y viceversa. La digitalización y el desarrollo continuo de técnicas de almacenamiento de datos aumentan la presencia y el uso de datos y, como consecuencia directa, su abuso.

Truism de la legendaria artista conceptual feminista Jenny Holzer (1977–1979) se exhibieron en las calles de Nueva York a fines de la década de 1970. Estos mensajes políticos, como "El abuso del poder no es una sorpresa", aparecieron en camisetas, vallas publicitarias y parquímetros; aparecieron intencionalmente en espacios públicos, no en contextos de arte institucional. Holzer produjo numerosas variaciones de Truism—o, podría decirse, un gran conjunto de datos de frases— que ahora están siendo procesados ​​por algoritmos de diseño, se ponen camisetas o suéteres y están disponibles en plataformas minoristas en línea. Las variaciones son innumerables; los agentes de software aceptan apropiaciones y paráfrasis, y acumulan y difunden posibles patrones. Por lo tanto, es fácil obtener una prenda con el lema "El abuso de datos no es una sorpresa". Los suéteres y las camisetas se pueden pedir en línea con el mensaje "El abuso de poder no es una sorpresa", y también con un precio relativamente bajo la nueva versión de la frase en la que los datos reemplazan poder, acuñado después de Jenny Holzer por Kate Crawford y Maral Pourkazemi.

Recientemente, una variante del conocido Truism de Jenny Holzer fue ampliamente distribuido en las redes sociales, parte de una declaración feminista que reaccionó al resultado de un caso de acoso sexual. Internet recogió el mensaje, que desafortunadamente no se ha perdido en la actualidad. Esto también es cierto para su versión parafraseada, que reemplaza la palabra poder con datos, por Kate Crawford y Maral Pourkazemi en colaboración con Deep Lab, como parte de una serie de preguntas sobre la experiencia contemporánea de la vida en red. La frase también se usó como el título de una mesa redonda que discutía la vigilancia y las estructuras de poder, y enfatizaba el papel de las mujeres en este tema.

El último caso apunta a una pregunta, que tal vez no sea tan obvia: ¿cómo es que una materia prima virtual tiene connotaciones políticas y sociales? Tendemos a pensar en los datos como materia prima neutra y objetiva producida para clasificar, medir y modelar nuestro mundo. Sin embargo, los datos siempre han sido moldeados por marcos interpretativos y por los procesos y técnicas de recolección empleados. Importa quién crea el mecanismo de entrada y los marcos, así como quién controla la base de datos. En 2013, en las páginas de The New York Times, David Brooks anunció una revolución de datos, un fenómeno paradigmático similar a la religión, al que llamó "dataismo":

“Ahora tenemos la capacidad de recopilar grandes cantidades de datos. Esta capacidad parece llevar consigo ciertos supuestos culturales: que todo lo que se puede medir debe medirse; esa información es una lente transparente y confiable que nos permite filtrar el emocionalismo y la ideología; esos datos nos ayudarán a hacer cosas notables, como predecir el futuro. . . . La revolución de los datos nos está dando formas maravillosas de entender el presente y el pasado ".

Históricamente, ha habido un cambio de archivos analógicos a bases de datos digitales de datos personales, y no solo la cantidad de información que se puede almacenar y buscar marca la diferencia. La digitalización y la "dataificación" implican una simplificación del entorno medido, un proceso que conduce a pérdidas en la traducción, y si las aplicaciones de inteligencia artificial se encargan de dar sentido a los conjuntos de datos, el resultado puede ser profundamente sesgado.

Los datos que son producto de la actividad de medición de los sensores se analizan mediante algoritmos que tienen capas ocultas. "Organizar información nunca es inocente", como dice Geraldine Juárez, refiriéndose a la intencionalidad de la contextualización de los datos en una era en la que las compañías de Big Tech actúan cada vez más como estados y adquieren un cierto grado de soberanía, al menos sobre los territorios en línea, a través de los datos que acumulan . Los datos, como aprendemos de la instalación de Juárez, son comparables a las plantas, pero un soberano sobre las bestias, al menos según Jacques Derrida, porque ambos están en muchos aspectos por encima de la ley. Necesitamos tener en cuenta a otro jugador en este ecosistema ya complicado, y esa es la computadora. Sin embargo, sigue abierto hasta qué grado los algoritmos pueden hacerse cargo de las soberanías de nosotros, tanto a nivel personal como estatal, y convertirse en bestias. Los datos recopilados son generados por sensores de entidades no humanas hechas por el hombre, y es el resultado de un proceso de abstracción específico.

Kim Albrecht investiga los sentidos artificiales para señalar los límites y las fronteras de la experiencia de la máquina en la interpretación del mundo puramente binario. Por parte de los usuarios, el monitoreo y la cuantificación del yo se consideran una actividad absolutamente normal. Las empresas tecnológicas han impulsado el seguimiento del estado físico, la salud y el sueño y están respaldadas por tendencias obsesivas de auto-optimización, a pesar del hecho de que los rastreadores de estado físico miden exactamente las mismas métricas que los polígrafos hace algunas décadas. Los datos medidos se envían directamente a empresas privadas, que bien podrían copiar y compartir esta información con otros y utilizar los datos para su propio beneficio.

El abuso de datos sin el consentimiento de la fuente ya no es una sorpresa. Varios casos escandalosos han atraído considerable atención de los medios y han demostrado ejemplos de mal uso en los sectores público y privado. Los incidentes más conocidos provienen de países de habla inglesa, sobre todo de Estados Unidos. Las revelaciones de Edward Snowden en 2013 sobre las prácticas y protocolos de la Agencia de Seguridad Nacional después del 11 de septiembre aún influyen en la opinión pública, y han dejado a muchas personas inseguras de si pueden confiar en el manejo de sus datos personales por parte de los aparatos de inteligencia gubernamentales.

Además, si hubiéramos pensado que esta institución pública había sido identificada como el enemigo de la privacidad, tuvimos un rudo despertar cuando salió a la luz que Facebook y Cambridge Analytica habían colaborado para influir en los votantes mediante el marketing dirigido en las redes sociales, ni que decir, sin el consentimiento de los destinatarios. Se conocen innumerables otros casos, no solo en Occidente, sino también en el Sur Global, Medio Oriente y significativamente en China, donde las partes interesadas privadas y gubernamentales trabajan de la mano en el aparato de vigilancia, en línea y fuera de línea, y donde la privacidad y control, por decirlo eufemísticamente, significa algo diferente.

Pero ¿cuál es nuestra definición de estos términos entonces?, ¿dónde está la línea divisoria entre el yo privado y el personaje público en línea en la era de las redes sociales, cuando los usuarios comparten voluntariamente su información aparentemente privada?, ¿cómo se protege la soberanía digital de los usuarios cuando los procesos de recolección de datos son tan opacos? La respuesta sigue siendo un tema de discusión, mientras que el desarrollo continuo de tecnologías nos mantiene en un modo de cambio cultural, donde la línea entre la seguridad del estado y la soberanía y la privacidad personal debe redibujarse constantemente en función del consentimiento.

La transparencia objetiva no es la solución aquí porque es imposible procesar grandes datos sin agentes algorítmicos, lo que por su propia naturaleza conlleva sesgos. La vigilancia es definitivamente más fluida, más sigilosa y más efectiva que antes del uso de sistemas computacionales automatizados y potentes aplicaciones de minería de datos, los resultados del desarrollo de infraestructura de casi un siglo, que culmina, por ejemplo, en la alianza de inteligencia de Five Eyes, más tarde Nine Eyes, y recientemente Fourteen Eyes, que incluye a la mayoría de los países de habla inglesa y de Europa occidental. Aunque estos países ven asegurada su soberanía a través de esta alianza de inteligencia, China empujó su internet fuertemente censurado detrás de un invisible Gran Muro de Fuego en 2014.

La gran cantidad de datos, las aplicaciones adecuadas para analizarlos, una infraestructura de vigilancia bien desarrollada, la gestión estatal y la mala gestión de los datos y su protección, la hegemonía de las empresas en línea, la popularidad de las plataformas de redes sociales, el enfoque de los internautas a menudo descuidado privacidad debido a la falta de conciencia, todo esto conduce al sistema de vigilancia del capitalismo:

“Un nuevo orden económico que reclama la experiencia humana como materia prima libre para prácticas comerciales ocultas de extracción, predicción y ventas. Una lógica económica parasitaria en la que la producción de bienes y servicios está subordinada a una nueva arquitectura global de modificación del comportamiento. . . . Una expropiación de derechos humanos críticos que se entiende mejor como un golpe de Estado desde arriba: un derrocamiento de soberanía de la gente ".

La acumulación de datos, de la mano de algoritmos estadísticos que aceleran el poder creciente de la computación, es la base de un nuevo paradigma en el que las políticas, normas y valores, como la privacidad personal y la soberanía digital, se encuentran en un entorno hostil. Las condiciones se establecen no solo para controlar el comportamiento humano, sino también para someterlo a una orientación psicológica y política.

En el panóptico digital, no hay puntos ciegos, y uno podría sentirse impotente contra Big Brother, ya sea una corporación de internet o una agencia estatal: "Todo lo que es sólido se derrite en el aire", y todos esos datos se escapan. la nube. Con un salto de fe, el abuso de datos no solo no es una sorpresa, sino que se puede contrarrestar. Hasan Elahi fue detenido en la frontera y se le impidió ingresar a los Estados Unidos a pesar de ser ciudadano estadounidense debido a su nombre en árabe, que lo colocó en una lista secreta de vigilancia terrorista. Respondió a este acto opaco dirigido contra su persona con total transparencia y comenzó a documentar cada minuto de su vida en su sitio web, con fotos de su entorno y datos de GPS de su paradero, y luego envió al FBI una enorme cantidad de datos.

Con esta acción, Elahi señaló la arbitrariedad de los procedimientos de verificación de fronteras, pero no buscó soluciones que pudieran lograr más de lo que un gesto puede hacer. Al poner toda su vida en línea, logró crear conciencia sobre la caja negra en la que los datos del gobierno están sellados, y argumenta que se pueden abrir. Es importante mencionar que el prerrequisito necesario para un gobierno abierto es Open Data y Open Commons. Los datos abiertos son todos los conjuntos de datos para los que es de interés público que estén disponibles gratuitamente para que todos puedan usarlos, compartirlos y volverlos a publicar. Las únicas restricciones son que los datos no deben ser personales ni estar sujetos a la protección de datos o las leyes de privacidad.

Los datos sin procesar, por ejemplo, que se recopilan en encuestas estadísticas, por la administración fiscal y en la investigación (geográfica, meteorológica, ambiental, médica, etc.), a menudo están disponibles como tablas o en bases de datos. Para verificar los análisis y las conclusiones, es absolutamente esencial tener acceso a los datos en bruto y poseer los conocimientos para comprenderlos.