A raça e o gênero da estética e dos afetos: algoritmização do racismo e do sexismo em bancos contemporâneos de imagens digitais
DOI:
https://doi.org/10.11606/issn.1982-8160.v14i2p217-240Palavras-chave:
Bancos de imagem, Algoritmos, Gênero, RaçaResumo
Este artigo questiona os processos de algoritmização do racismo e sexismo em bancos de imagem digitais. Dispositivos essenciais para a manutenção da engrenagem midiática e comunicacional, estes bancos ajudam a guiar os sentidos sobre ser mulher e ser negro por meio de modos sutis de construção de subjetivação. Foram analisadas as palavras-chave
aggressiveness, kindness, beauty e ugliness, nos bancos de imagem Getty Images e Shutterstock, abrangendo as dimensões estética e afetiva dos vieses discriminatórios impregnados nestes mecanismos. Entende-se que os resultados evidenciam a opacidade tecnológica que permeia o campo produtivo destes aparatos e a algoritmização das desigualdades de gênero e raça constituídas no seio social.
Downloads
Referências
Adams, G., Dobles, I., Gómez, L. H., Kurtiş, T., & Molina, L. E. (2015). Decolonizing psychological science: Introduction to the special thematic section. Journal of Social and Political Psychology, 3(1), 213-238. https://doi.org/10.5964/jspp.v3i1.564
Adner, R. (2002). When are technologies disruptive? A demand‐based view of the emergence of competition. Strategic Management Journal, 23(8), 667-688.
Aiello, G. (2016, 28 de abril). Taking stock. Ethnography Matters. Recuperado de https://bit.ly/3lo0teb
Araújo, J. Z. (2000). A negação do Brasil: O negro na telenovela brasileira (2ª ed.). Senac.
Atem, G. N. (2012). Por uma ontologia do consumo: Entre a filosofia e a publicidade. Comunicação Mídia e Consumo, 9(24), 209-225. http://dx.doi.org/10.18568/cmc.v9i24.243
Bairros, L. (1995). Nossos feminismos revisitados. Revista Estudos Feministas, 3(2), 458-463. Recuperado de https://bit.ly/32t802C
Baker, C. N. (2005). Images of women’s sexuality in advertisements: A content analysis of Black-and White-oriented women’s and men’s magazines. Sex roles, 52(1-2), 13-27. https://doi.org/10.1007/s11199-005-1190-y
Benjamin, R. (2019). Race after technology: Abolitionist tools for the new Jim Code. Social Forces, 98(4), 1-3. https://doi.org/10.1093/sf/soz162
Birhane, A., & Cummins, F. (2019). Algorithmic injustices: Towards a relational ethics. arXiv. Retrieved from https://bit.ly/3gAxiAV
Buolamwini, J. & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, 81, 77-91. https://bit.ly/2ErqQPK
Butler, J. (1988). Performative acts and gender constitution: An essay in phenomenology and feminist theory. Theatre Journal, 40(4), 519-531. https://bit.ly/3jkONr3
Carneiro, S. (2003). Enegrecer o feminismo: A situação da mulher negra na América Latina a partir de uma perspectiva de gênero. In Ashoka Empreendimentos Sociais & Takano Cidadania (Orgs.). Racismos Contemporâneos, 49 (pp. 49-58). Takano Editora.
Carrera, F. (2020). Racismo e sexismo em bancos de imagens digitais: Análise de resultados de busca e atribuição de relevância na dimensão financeira/profissional. In T. Silva (Org.). Comunidades, algoritmos e ativismos digitais: Olhares afrodiaspóricos (pp. 138-155). Literarua
Carrera, F. & Carvalho, D. (2019, 11-14 de junho). Algoritmos racistas: Uma análise da hiperritualização da solidão da mulher negra em bancos de imagens digitais. Artigo apresentado no XXVIII Encontro Anual da Compós, Porto Alegre, RS, Brasil. https://bit.ly/3b0cH8a
Castells, M. (2017). Redes de indignação e esperança: Movimentos sociais na era da internet. Zahar.
Castro, J. C. L. (2015, 4-7 de setembro). Mídia hegemônica, blogs progressistas e disputa de enquadramento. Artigo apresentado no XXXVIII Congresso Brasileiro de Ciências da Comunicação. Rio de Janeiro, RJ, Brasil. https://bit.ly/3hxahQU
Cecchetto, F. R. (2004). Violência e estilos de masculinidade. FGV Editora.
Chagas, V., Modesto, M., & Magalhães, D. (2019). O Brasil vai virar Venezuela: medo, memes e enquadramentos emocionais no WhatsApp pró-Bolsonaro. Esferas, (14), 1-17. http://dx.doi.org/10.31501/esf.v0i14.10374
Citron, D. K. & Pasquale, F. (2014). The scored society: Due process for automated predictions. Washington Law Review, 89, 1-33. https://bit.ly/32prbdZ
Cole, T. (2012, 21 de março). The white-savior industrial complex. The Atlantic. https://bit.ly/3aVWIId
Collins, P. H. (2002). Black feminist thought: Knowledge, consciousness, and the politics of empowerment. Routledge.
Connel, R. (1995). Políticas da masculinidade. Educação e Realidade, 20(2), 185-206. Recuperado de https://bit.ly/34Etv3z
Conrado, M., & Ribeiro, A. A. M. (2017). Homem negro, negro homem: Masculinidades e feminismo negro em debate. Revista Estudos Feministas, 25(1), 73-97. https://doi.org/10.1590/1806-9584.2017v25n1p73
Datta, A., Tschantz, M. C., & Datta, A. (2015). Automated experiments on ad privacy settings: A tale of opacity, choice, and discrimination. Proceedings on privacy enhancing technologies, 2015(1), 92-112. https://doi.org/10.1515/popets-2015-0007
Davis, A. (1983). Women, race & class. Vintage Book.
Dutra, J. L. (2002). “Onde você comprou esta roupa tem para homem?”: A construção de masculinidades nos mercados alternativos de moda. In: M. Goldenberg (Org.). Nu & Vestido: Dez antropólogos revelam a cultura do corpo carioca (pp. 359-411). Record.
Eubanks, V. (2018). Automating inequality: How high-tech tools profile, police, and punish the poor. St. Martin’s Press.
Fanon, F. (2008). Pele negra, máscaras brancas. Scielo-Edufba.
Felipe, J. (2000). Infância, gênero e sexualidade. Educação & Realidade, 25(1), 115-131. https://bit.ly/3hxDGKA
Fontes, O. A., Borelli, F. C., & Casotti, L. M. (2012). Como ser homem e ser belo? Um estudo exploratório sobre a relação entre masculinidade e o consumo de beleza. Revista Eletrônica de Administração, 18(2), 400-432. https://doi.org/10.1590/S1413-23112012000200005
Frosh, P. (2003), The image factory: Consumer culture, photography and the visual content industry. Berg.
Frosh, P. (2013). Beyond the Image Bank: Digital commercial photography. In M. Lister (Ed.). The photographic image in digital culture (2a ed.) (pp.131-148). Routledge.
Goffman, E. (1979). Gender advertisements. Macmillan International Higher Education.
Gonzalez, L. (1984). Racismo e sexismo na cultura brasileira. Revista Ciências Sociais Hoje, (2), 223-244.
Grossi, M. P. (2004). Masculinidades: Uma revisão teórica. Antropologia em primeira mão, 75(1), 1-37. https://bit.ly/2YA6BWY
Guimarães, A. S. A. (1999). Raça e os estudos de relações raciais no Brasil. Novos Estudos CEBRAP, 2(54), 147-156. https://bit.ly/3gyZUdP
Hasian Jr., M., Condit, C. M., & Lucaites, J. L. (1996). The rhetorical boundaries of ‘the law’: A consideration of the rhetorical culture of legal practice and the case of the ‘separate but equal’ doctrine. Quarterly Journal of Speech, 82(4), 323-342. https://doi.org/10.1080/00335639609384161
Hobson, J. (2008). Digital whiteness, primitive blackness: Racializing the “digital divide” in film and new media. Feminist Media Studies, 8(2), 111-126. https://doi.org/10.1080/00220380801980467
hooks, b. (2004). We real cool: Black men and masculinity. Psychology Press.
Kahn, J. (2018). Race on the brain: What implicit bias gets wrong about the struggle for racial justice. Columbia University Press.
Larson, J., Mattu, S., Kirchner, L., & Angwin, J. (2016, 23 de maio). How we analyzed the COMPAS recidivism algorithm. ProPublica. https://bit.ly/3aX0AZz
Lindner, K. (2004). Images of women in general interest and fashion magazine advertisements from 1955 to 2002. Sex roles, 51(7-8), 409-421. https://doi.org/10.1023/B:SERS.0000049230.86869.4d
Lippold, W (2014, 11-14 de agosto). Pensadores africanos e da diáspora: Negritude, panafricanismo e pós-colonialismo. Artigo apresentado no XII Encontro Estadual de História, São Leopoldo, RS, Brasil. https://bit.ly/32tGKRS
Macedo, J. R. (2001). Os filhos de Cam: A África e o saber enciclopédico medieval. Signum: Revista da ABREM, 3, 101-132.
Machin, D. (2004). Building the world’s visual language: The increasing global importance of image banks in corporate media. Visual Communication, 3(3): 316-336. https://doi.org/10.1177/1470357204045785
Magrani, E. (2014). Democracia conectada: A internet como ferramenta de engajamento político-democrático. FGV Direito.
Malbon, J. E. (2016). Geo-pricing of digital media: European and Australian policy debates compared. In G. Gounalakis & G. Taylor (Eds.) Media diversity law: Australia and Germany compared (pp. 247-272). Peter Lang Academic Research.
Mclaughlin, T. L. & Goulet, N. (1999). Gender advertisements in magazines aimed at African Americans: A comparison to their occurrence in magazines aimed at Caucasians. Sex Roles, 40(1/2), 61-71. https://doi.org/10.1023/A:1018878317017
Miller, J. A. (1999). Pictures for rent. In E. Lupton & J. Miller. Design writing research: Writing on graphic design (pp. 121-132). Phaidon.
Noble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism. NYU Press.
Osoba, O. A. & Welser IV, W. (2017). An intelligence in our image: The risks of bias and errors in artificial intelligence. Rand Corporation.
Peixoto Junior, C. A. & Arán, M. (2011). O lugar da experiência afetiva na gênese dos processos de subjetivação. Psicologia USP, 22(4), 725-746. https://doi.org/10.1590/S0103-65642011005000032
Rabatel, A. (2017). Pour une lecture linguistique des medias: Empathie, étique et point(s) de vue. Editions Lambert-Lucas.
Raji, I. D. & Buolamwini, J. (2019, January). Actionable auditing: Investigating the impact of publicly naming biased performance results of commercial AI products [Conference session]. Proceedings of the 2019 AAAI/ACM Conference on AI, Ethics, and Society, 429-435. https://doi.org/10.1145/3306618.3314244
Sabino, C. (2000). Musculação: Expansão e manutenção da masculinidade. In M. Goldenberg (Org.). Os novos desejos: Das academias de musculação às agências de encontros (pp. 61-103). Record.
Schucman, L. V. (2010). Racismo e antirracismo: A categoria raça em questão. Revista Psicologia Política, 10(19), 41-55. https://bit.ly/3aV9LJO
Schucman, L. V. (2014). Sim, nós somos racistas: Estudo psicossocial da branquitude paulistana. Psicologia & Sociedade, 26(1), 83-94. https://doi.org/10.1590/S0102-71822014000100010
Silva, I. P. (2004). Para ser um guri: Espaço e representação da masculinidade na escola. Estilos da Clínica, 9(17), 70-83. https://doi.org/10.11606/issn.1981-1624.v9i17p70-83
Silva, T. (2019a, 2-7 de setembro). Teoria racial crítica e comunicação digital: conexões contra a dupla opacidade. Artigo apresentado no 42º Congresso Brasileiro de Ciências da Comunicação. Belém, PA, Brasil. https://bit.ly/3ju6KUb
Silva, T. (2019b, 26-28 de junho). Racismo algorítmico em plataformas digitais: Microagressões e discriminação em código. Artigo apresentado no VI Simpósio Internacional LAVITS – Assimetrias e Invisibilidades: Vigilância, gênero e raça, Salvador, BA, Brasil. https://bit.ly/3gwZWTR
Sovik, L. R (2009). Aqui ninguém é branco. Aeroplano.
Teixeira, A. C. (2002). Internet e democratização do conhecimento: Repensando o processo de exclusão social. UPF Editora.
Vieira, N. V. & Silva, C. R. C. (2019). A questão dos afetos, uma trajetória: do pensamento filosófico à psicologia histórico-cultural de Vigotski por meio da história oral de vida. Mnemosine, 15(1), 204-223. https://bit.ly/3aWusVI
Vigarello, G. (2006). História da beleza. Ediouro.
Vigotski, L. S. (1999). Psicologia da arte (Paulo Bezerra, trad.). Martins Frontes.
Vigotski, L. S. (2004). Teoria de las emociones: Estudio histórico-psicológico. Ediciones Akal.
Wilkinson, H. (1997). “The new heraldry”: Stock photography, visual literacy, and advertising in 1930s Britain. Journal of Design History, 10(1), 23-38. https://doi.org/10.1093/jdh/10.1.23
Downloads
Publicado
Edição
Seção
Licença
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
Autores que publicam nesta revista concordam com os seguintes termos:
- Autores mantêm os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution (CC BY-NC-SA 4.0) que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista para fins não comerciais.
- Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
