Palabra Clave

Perspectivas latino-americanas sobre datificação e inteligência artificial: Tradições, intervenções e possibilidades

Descolonizando sistemas algorítmicos: desenho crítico para a problematização dos algoritmos e dos dados digitais do Sul

Resumen Este artículo propone reflexiones metodológicas y teóricas a partir del proyecto interdisciplinario "Identidades algorítmicas". Iniciado en 2019 entre investigadores de la Pontificia Universidad Católica de Chile y la Universidad de Warwick (Reino Unido), busca comprender cómo la persona es configurada en tiempos de algoritmos y datos digitales. Para ello, diseñamos un prototipo de aplicación, llamada Big Sister, que emula los sistemas de elaboración de perfiles y recomendaciones algorítmicas de las grandes plataformas digitales. Este prototipo ha servido de dispositivo de investigación social en un doble sentido: por un lado, nos permitió producir conocimiento en un hacer y deshacer crítico y descolonial; por otro lado, a través de entrevistas de rastros digitales con participantes usuarios del prototipo, pudimos explorar en sus experiencias y estimular la reflexión acerca de las mediaciones de algoritmos en sus vidas. En este artículo, examinamos el proceso de prototipado de esta aplicación y algunos hallazgos sobre cómo personas en Chile comprenden, habitan y dan forma cotidianamente a datos y algoritmos. Recogiendo elementos de autores latinoamericanos como Arturo Escobar, Jesús Martín-Barbero y Paulo Freire, argumentamos que el prototipado de una aplicación puede avanzar hacia una aproximación "problematizadora" de la datificación y los sistemas algorítmicos en Latinoamérica.

Abstract This article offers methodological and theoretical reflections based on the interdisciplinary project "Algorithmic Identities." Initiated in 2019 between researchers from the Pontificia Universidad Católica de Chile and the University of Warwick (UK), this project seeks to understand how personhood is configured in times of algorithms and digital data. We designed a prototype app, "Big Sister," which emulates algorithmic profiling and recommendation systems of major digital platforms. This prototype has served as a twofold social research device. Firstly, it allowed us to produce knowledge from a critical and decolonial doing and undoing; secondly, through digital trace interviews with prototype users, we explored their experiences and stimulate reflection on the mediations of algorithms in their lives. This article examines the prototyping process of this app and some findings of how people in Chile understand, inhabit, and shape data and algorithms daily. Drawing on insights from Latin American authors such as Arturo Escobar, Jesús Martín-Barbero, and Paulo Freire, we argue how the prototyping of an app can move towards a "problematizing" approach to datafication and algorithmic systems in Latin America.

Resumo Este artigo propõe reflexões metodológicas e teóricas baseadas no projeto interdisciplinar "Identidades algorítmicas". Esse projeto, iniciado em 2019 entre pesquisadores da Pontificia Universidad Católica de Chile e da University of Warwick (Reino Unido), procura entender como a pessoa é configurada em tempos de algoritmos e dados digitais. Para isso, desenhamos um protótipo de aplicativo, "Big Sister", que emula os sistemas de perfilamento e as recomendações algorítmicas das grandes plataformas digitais. Esse protótipo serviu como um dispositivo de pesquisa social em um duplo sentido: por um lado, permitiu-nos produzir conhecimento a partir de uma produção crítica e descolonial; por outro lado, através de "entrevistas de traços digitais" com participantes usando o protótipo, pudemos explorar suas experiências e estimular a reflexão sobre as mediações dos algoritmos em suas vidas. Neste artigo, examinamos o processo de prototipagem desse aplicativo e algumas descobertas sobre como as pessoas no Chile entendem, habitam e moldam dados e algoritmos diariamente. Com base em insights de autores latino-americanos como Arturo Escobar, Jesús Martín-Barbero e Paulo Freire, discutimos como a prototipagem de um aplicativo pode avançar para uma abordagem de "problematização" de datificação e sistemas algorítmicos na América Latina.

Algoritmização de estereótipos raciais em bancos de imagens: a persistência dos padrões coloniais Jezebel, Mammy e Sapphire para mulheres negras

Resumo Neste trabalho, é realizado um estudo exploratório de bancos de imagens, especificamente Getty Images e Shutterstock, analisando se os processos de tagueamento desses dispositivos de busca revelam modos algorítmicos de reprodução de mentalidades coloniais a respeito de mulheres negras. Com base no conceito de "imagens de controle", de Patricia Hill Collins, foram analisadas aqui as imagens Jezebel, Mammy e Sapphire, a partir do entendimento de que esses estereótipos sobre a subjetividade feminina negra reforçam narrativas de subordinação, exploração e animalização, a serviço da colonialidade. Embora os resultados apresentem especificidades, sobretudo em virtude da pandemia da covid-19, percebeu-se que a colonialidade algorítmica se manifesta nesses bancos, que etiquetam com mais frequência as imagens de mulheres negras a padrões coloniais de representação de sexualidade, trabalho e agressividade.

Resumen En el artículo, se realiza un estudio exploratorio de bancos de imágenes, específicamente Getty Images y Shutterstock, analizando si los procesos de tagueamento de estos dispositivos de búsqueda revelan modos algorítmicos de reproducción de mentalidades coloniales respeto a las mujeres negras. Desde el concepto de "imágenes de control", de Patricia Hill Collins, se analizaron aquí las imágenes Jezebel, Mammy y Sapphire, a partir del entendimiento de que estos estereotipos acerca de la subjetividad femenina negra recalcan narrativas de subordinación, explotación y animalización, a servicio de la colonialidad. Si bien los resultados presenten especificidades, sobre todo debido a la pandemia de la Covid-19, se encontró que la colonialidad algorítmica se manifiesta en estos bancos, que etiquetan con más frecuencia las imágenes de mujeres negras a estándares coloniales de representación de sexualidad, trabajo y agresividad.

Abstract This paper presents an exploratory study of image banks, specifically Getty Images and Shutterstock, analyzing whether their tagging processes reveal algorithmic forms of reproducing colonial mentalities about black women. From Patricia Hill Collins' concept of "controlling images," Jezebel, Mammy, and Sapphire images were examined, understanding that these stereotypes of black female subjectivity underscore narratives of subordination, exploitation, and animalization in the service of coloniality. While the results show specificities, primarily due to the COVID-19 pandemic, we found that algorithmic coloniality becomes apparent in these banks, which frequently tag the images of black women under colonial representation standards of labor, sexuality, and aggressiveness.

Dados em contextos de corrupção: imaginários sociotécnicos e práticas de resistência frente aos sistemas de combate à pobreza na Colômbia

Resumen Nuestro estudio localiza la implementación de macrodatos (big data) y la inteligencia artificial que avanza hoy en el Sur Global dentro de la agenda de "datos para el desarrollo", en culturas como las latinoamericanas, caracterizadas por grandes asimetrías sociales y una corrupción estructural -herederas del proceso de colonización-, con el fin de evidenciar los problemas de automatización en sistemas alimentados por datos que han sido históricamente objeto de manipulación, o corrupción de datos. Para ello examinamos dos casos de mal funcionamiento en infraestructuras de información de programas de asistencia social en Colombia (Ingreso Solidario y Sisben) y exploramos el archivo de la teoría crítica latinoamericana con el objetivo de iluminar los procesos de datificación en estas condiciones. Finalmente, nuestra aproximación responde a los llamados a cuestionar el supuesto universalismo de los datos y a ir más allá de las miradas tecnocéntricas sobre el funcionamiento de estas tecnologías, desplazando el foco de atención a los momentos en que estas fallan, a los imaginarios sociotécnicos locales y a la agencia política de aquellos que se resisten a su control normativo.

Abstract Our study situates the implementation ofbig data and artificial intelligence, advancing today within the "development data" agenda in the Global South, in Latin American cultures characterized by marked social asymmetries and structural corruption -as heirs of colonization-. It aims to highlight automation problems in systems fed by data historically subject to manipulation or corruption. For this, we examine two failures in the information infrastructures of Colombian social assistance programs (Ingreso Solidario and Sisben) and explore the archive of Latin American critical theory to enlighten datafication in these conditions. Our approach arises from calls to question alleged data universalism and go beyond technocentric views on the operation of these technologies, shifting the focus from the moments when they fail to local sociotechnical imaginary and the political agency of those who resist regulatory control.

Resumo Nosso estudo localiza a implementação de megadados (big data) e a inteligência artificial que hoje avança no Sul Global dentro da agenda de "dados para o desenvolvimento", em culturas como as que estão presentes na América Latina, caracterizadas por grandes assimetrias sociais e corrupção estrutural - herdadas do processo de colonização - para evidenciar os problemas de automação em sistemas alimentados por dados que historicamente foram sujeitos a manipulação ou corrupção de dados. Para isso, examinamos dois casos de mau funcionamento das infraestruturas de informação dos programas de assistência social na Colômbia (Ingreso Solidario e Sisben) e exploramos o arquivo da teoria crítica latino-americana para iluminar os processos de datificação nessas condições. Finalmente, nossa abordagem responde a apelos para questionar o suposto universalismo dos dados e ir além das visões tecnocêntricas sobre o funcionamento dessas tecnologias, deslocando o foco da atenção para os momentos em que elas falham, para os imaginários sociotécnicos locais e para a agência política daqueles que resistem ao seu controle normativo.

Desfazendo a resistência: configurações do ativismo de dados na sociedade civil latino-americana

Abstract This work examines the evolution of Latin American Civil Society Organizations' (CSOs) resistance practices in the context of datafication and how these relate with the overall notions of symbolic domination denounced by the Latin American School of Communication. Although CSOs in Latin America are still exploring the problems surrounding datafication, signs of vitality are already showing in broader debates around human rights, community development, and media policies. The study identifies the main themes underlying datafication work by Latin American CSOs and assesses how they shape resistance practices and CSOs' perceptions of asymmetrical power relations. While some patterns can fall into existing conceptualisations surrounding resistance practices and data activism, this paper identifies new conceptual and empirical approaches to face the challenges posed by a datafied society.

Resumen En este artículo, se indaga sobre las prácticas de resistencia de las organizaciones de la sociedad civil de América Latina en un contexto de datificación y en la forma en que estas se relacionan con las nociones de dominación simbólica que denuncia la Escuela Latinoamericana de Comunicación. Si bien la problemática de la datificación está aún en expansión como parte de la agenda de las organizaciones de la sociedad civil en el continente, ha demostrado signos de vitalidad a partir de su inclusión en debates más amplios que incluyen temáticas tales como derechos humanos, desarrollo comunitario y políticas de medios. Este estudio identifica las temáticas principales que integran el trabajo que llevan a cabo las organizaciones de la sociedad civil de América Latina, a la vez que examina cómo emprenden prácticas de resistencia y sus percepciones sobre las asimetrías en las relaciones de poder en este contexto. Mientras que ciertos patrones pueden inscribirse en conceptualizaciones existentes sobre prácticas de resistencia y activismo de datos, esta investigación identifica nuevos enfoques conceptuales y empíricos para enfrentar los desafíos que plantea una sociedad datificada.

Resumo Neste trabalho, indagam-se as práticas de resistência das organizações da sociedade civil latino-americana num contexto de datificação e como estas se relacionam com as noções de dominação simbólica denunciadas pela Escola Latino-Americana de Comunicação. Embora o problema da datificação ainda esteja em expansão como parte da agenda das organizações da sociedade civil no continente, tem mostrado sinais de vitalidade através da sua inclusão em debates mais amplos que incluem questões como os direitos humanos, o desenvolvimento comunitário e a política dos meios. Neste estudo, identificam-se os principais temas que compõem o trabalho dessas organizações, examinando a forma como estas empreendem práticas de resistência e suas percepções das assimetrias nas relações de poder nesse contexto. Embora certos padrões possam ser inscritos em conceptu-alizações existentes de práticas de resistência e ativismo de dados, esta pesquisa identifica novas abordagens conceituais e empíricas para enfrentar os desafios que surgem de uma sociedade datificada.

Autoridades interpretativas: uma perspectiva teórica sobre datificação e produção de sentido

Resumen Este artículo emerge en el espacio de contacto entre la literatura actual -de corte mayormente anglosajón- sobre datificación y la perspectiva de Eliseo Verón, vista como un aporte latinoamericano que abre oportunidades teóricas y empíricas para la discusión crítica de los procesos de datificación. Siguiendo la perspectiva veroniana, la reflexión sobre los procesos de producción, circulación y reconocimiento de los datos ayuda a desnaturalizar la idea de que el dato es neutral o compacto, para visibilizar, en cambio, las condiciones a partir de las cuales esos datos son provistos de sentido, en cuanto constructos discursivos social y culturalmente situados. Frente a otras perspectivas anglosajonas que parecen más populares en la academia -como el modelo encoding/decoding de Hall-, este artículo propone revisitar la descripción de la articulación entre sentido y circulación hecha por Verón como una alternativa para describir los procesos de interpretación que consolidan los datos como discursos. Se trata, pues, de un punto de partida para posteriores desarrollos teóricos e investigaciones empíricas, y de una apertura de la perspectiva de Eliseo Verón para contribuir y enriquecer los debates abiertos sobre datificación y sus formas de discriminación.

Abstract This article emerges at the interface between current literature -mostly Anglo-Saxon- on datafication and Eliseo Verón's perspective, seen as a Latin American contribution that offers theoretical and empirical opportunities for the critical discussion of datafication processes. Following the Veronian view, reflection on data production, circulation, and recognition helps denature the idea that data are neutral or compact to make visible the conditions from which these data are provided with meaning as socially and culturally situated discursive constructs. Compared to other Anglo-Saxon standpoints that seem more prevalent in academia -such as Hall's encoding/decoding model-, this article revisits Verón's meaning-circulation connection as an alternative to describe the interpretation processes that consolidate data as speeches. Therefore, it provides a starting point for further theoretical developments and empirical research and broadens Eliseo Verón's perspective to add to and enrich open debates on datafication and its forms of discrimination.

Resumo Este artigo emerge no espaço de contato entre a literatura atual - de corte predominante anglo-saxão - sobre datificação e a perspectiva de Eliseo Verón, vista como uma contribuição latino-americana que abre oportuni dades teóricas e empíricas para a discussão crítica dos processos de datificação. Seguindo a perspectiva veroniana, a reflexão sobre os processos de produção, circulação e reconhecimento dos dados ajuda a desnaturalizar a ideia de que o dado é neutral ou compacto, para visibilizar, ao contrário, as condições a partir das quais esses dados são dotados de sentido, enquanto construtos discursivos social e culturalmente situados. Ante outras perspectivas anglo-saxãs que parecem mais populares na academia - como o modelo encoding/decoding de Hall -, este artigo propõe revisitar a descrição da articulação entre sentido e circulação feita por Verón como uma alternativa para descrever os processos de interpretação que consolidam os dados como discursos. Trata-se, portanto, de um ponto de partida para posteriores desenvolvimentos teóricos e pesquisas empíricas, e de uma abertura da perspectiva de Eliseo Verón para contribuir e enriquecer os debates abertos sobre datificação e suas formas de discriminação.

Do jornalismo de dados à inteligencia artificial: desafios enfrentados pelo La Nación na implementação da visão computacional para a produção de notícias

Abstract Journalism is at a radical point of change that requires organizations to come up with new ideas and formats for news reporting. Additionally, the notable surge of data, sensors and technological advances in the mobile segment has brought immeasurable benefits to many fields of journalistic practice (data journalism in particular). Given the relative novelty and complexity of implementing artificial intelligence (AI) in journalism, few areas have managed to deploy tailored AI solutions in the media industry. In this study, through a mixed-method approach that combines both participant observations and interviews, we explain the hurdles and obstacles to deploying computer vision news projects, a subset of AI, in a leading Latin American news organization, the Argentine newspaper La Nación. Our results highlight four broad difficulties in implementing computer vision projects that involve satellite imagery: a lack of high-resolution imagery, the unavailability of technological infrastructure, the absence of qualified personnel to develop such codes, and a lengthy and costly implementation process that requires significant investment. This article concludes with a discussion of the centrality of AI solutions in the hands of big tech corporations.

Resumen El periodismo se encuentra en un punto de cambio radical que exige a las organizaciones desarrollar nuevas ideas y nuevos formatos para la presentación de noticias. Además, el aumento de los datos, los sensores y los avances tecnológicos, especialmente en el segmento móvil, han traído beneficios inconmensurables a muchos campos de la práctica periodística, en particular al periodismo de datos. Dada la relativa novedad y complejidad de la implementación de la inteligencia artificial (IA) en el periodismo, pocas áreas han logrado implementar hasta ahora soluciones de IA personalizadas en la industria de los medios. En este estudio, a través de un enfoque de método mixto que combina la observación participante y la entrevista, se explican los obstáculos y dificultades de implementar proyectos de noticias mediante la visión artificial, un subconjunto de la IA, en una organización de noticias líder en América Latina como el diario argentino La Nación. Los resultados destacan cuatro grandes dificultades para implementar la IA, más específicamente los proyectos de visión artificial que involucran el uso de imágenes satelitales: la falta de imágenes de alta resolución, la falta de disponibilidad de infraestructura tecnológica, la ausencia de personal cualificado para desarrollar dichos códigos y un proceso de implementación prolongado y costoso que requiere de una inversión significativa. El artículo concluye con una discusión sobre la centralidad de las soluciones de IA en manos de las grandes corporaciones tecnológicas.

Resumo O jornalismo está em um ponto radical de mudança que exige que as organizações abracem novas ideias e novos formatos para a apresentação de notícias. Além disso, o aumento de dados, sensores e avanços em tecnologia, em particular no segmento móvel, trouxe benefícios imensuráveis para a prática jornalística e, principalmente, para o jornalismo de dados. Dado o seu carácter inovador e a complexidade de implementar a inteligência artificial (IA) em jornalismo, poucas áreas conseguiram implantar soluções de IA personalizadas na indústria de mídia. Neste estudo, a partir de uma abordagem mista, combinando observação participante e entrevistas, explicamos os obstáculos e os desafios para implementar projetos noticiosos por meio da visão computacional, um subconjunto da IA, em uma organização de notícias líder na América Latina, o jornal La Nación (Argentina). Os resultados mostram quatro amplas dificuldades para implementar a IA, especialmente projetos de visão computacional que envolvem imagens de satélite: a falta de imagens de alta resolução, a indisponibilidade de infraestrutura tecnológica, a ausência de pessoal qualificado para desenvolver tais códigos e um longo e caro processo de implementação que requer um investimento significativo. O artigo conclui com uma discussão sobre a centralidade das soluções de IA nas mãos de grandes corporações de tecnologia.

O chão de fábrica (brasileiro) da inteligência artificial: a produção de dados e o papel da comunicação entre trabalhadores de Appen e Lionbridge

Resumo O artigo analisa, por meio de uma pesquisa exploratória, o trabalho de brasileiros em plataformas globais de inteligência artificial (IA), especialmente Appen e Lionbridge, no sentido de destacar o papel da comunicação e da produção de dados para a IA, delineando condições e complexidades do trabalho, enquanto um "chão de fábrica da inteligência artificial". Para isso, a partir de entrevistas com trabalhadores e observações em grupos de WhatsApp e Facebook, chegamos a cinco categorias predominantes: processos de contratação, acompanhamento do tempo e dificuldades na comprovação das horas trabalhadas, falta de confiabilidade da infraestrutura, estratégias de trabalho e definição de trabalho, e compreensão da IA. Com base na análise, sustentamos que, ao contrário de um universalismo, há uma geopolítica no trabalho em plataformas de IA, em um colonialismo por meio da IA. Destacamos as condições materiais de produção de dados e o papel da comunicação entre trabalhadores como solidariedades emergentes e complexas, enquanto fissuras e brechas, a fim de construir estratégias para lidar com o trabalho em plataformas de IA.

Resumen El artículo analiza, a través de una investigación exploratoria, el trabajo de los brasileños en plataformas globales de inteligencia artificial (IA), especialmente Appen y Lionbridge, con el fin de resaltar el papel de la comunicación y la producción de datos para la IA, describiendo las condiciones y complejidades del trabajo, como un "piso de fábrica de inteligencia artificial". Para tal, a partir de entrevistas a trabajadores y observaciones en grupos de WhatsApp y Facebook, se llega a cinco categorías predominantes: procesos de contratación, seguimiento de tiempos y dificultades para acreditar horas trabajadas, falta de confiabilidad de la infraestructura, estrategias de trabajo y definición del trabajo, y comprensión de la IA. Del análisis sostenemos que, al contrario del universalismo, hay una geopolítica en el trabajo en plataformas de IA, en un colonialismo por medio de la IA. Destacamos las condiciones materiales de la producción de datos y el papel de la comunicación entre trabajadores como solidaridades emergentes y complejas, como grietas y roturas, con el propósito de construir estrategias para afrontar el trabajo en plataformas de IA.

Abstract The article analyzes Brazilians' work in global artificial intelligence (AI) platforms, especially Appen and Lionbridge, through exploratory research. We highlight the role of communication and data production for AI, outlining labor conditions and complexities as the factory floor. Thus, we interviewed workers and conducted observations in WhatsApp and Facebook groups. We divided the findings into five categories according to workers' perception: hiring processes, time tracking and difficulties proving hours worked, lack of infrastructural reliability, work strategies and definition, and, finally, understanding of AI. Contrary to digital labor universalism, there is geopolitics in AI platform labor. The material conditions of data production and the role of communication among workers stand out as emerging and complex solidarities, as fissures and cracks, to devise strategies that deal with AI platform labor.

Activismo, medios y tecnologías. Un cuestionamiento del fetichismo digital en los movimentos sociales contemporáneos