Prognostics of deepfakes in electoral politics

Authors

DOI:

https://doi.org/10.11606/issn.2238-2593.organicom.2024.221294

Keywords:

Algorithms, Deep fake, Fake news, Misinformation, Perception

Abstract

Misinformation and fake news have harmful effects on the functioning of the democratic electoral system, amplifying existing political polarization. Although deepfakes belong to the same family of deception as fake news, they include something entirely new. Using an argumentative method, this study aims to show the invisible forces that act both in the human perceptual system and in manipulative algorithmic captures to evaluate the effects deepfakes can cause in electoral political situations. It hopes that its conclusions will help the understanding of the dilemmas at stake.

Downloads

Download data is not yet available.

Author Biographies

  • Anderson Röhe Fontão Batista, Pontifícia Universidade Católica de São Paulo

    • Advogado membro da Comissão Especial de Privacidade, Proteção de Dados e Inteligência Artificial da Ordem dos Advogados do Brasil (OAB-SP).

    • Pós-graduado em Direito Digital pela Universidade do Estado do Rio de Janeiro (UERJ).

    • Mestre em Políticas Internacionais pela Pontificia Universidade Católica do Rio de Janeiro (PUC-RJ).

    • Doutorando em Tecnologias da Inteligência e Design Digital da PUC-SP. Fellow do Think Tank da Associação Brasileira de Empresas de Software (ABES) (GT de Inteligência Artificial

  • Lucia Santaella, Pontifícia Universidade Católica de São Paulo

    • Pesquisadora 1A do Conselho Nacional de Desenvolvimento Científico e Tecnológico (CNPq), graduada em Letras – Português e Inglês.

    • Professora titular no programa de Pós-Graduação em Comunicação e Semiótica, e no programa de Pós-graduação em Tecnologias da Inteligência e Design Digital, ambos da Pontifícia Universidade Católica de São Paulo (PUC-SP).

    • Doutora em Teoria Literária na PUC-SP e Livre-Docência em Ciências da Comunicação na Escola de Comunicação e Artes da Universidade de São Paulo (ECA/USP).

References

BUCCI, Eugênio. A superindústria do imaginário: como o capital transforma o olhar em trabalho e se apropria de tudo que é visível. Belo Horizonte: Autêntica, 2021.

CRARY, Jonathan. Terra arrasada: além da era digital, rumo a um mundo pós-capitalista. Tradução de Humberto do Amaral. São Paulo: Ubu, 2023.

DEEPMIND. SynthID: identifying AI-generated content with SynthID. 2023. Disponível em: https://deepmind.google/technologies/synthid/. Acesso em: 28 fev. 2024.

DE WYNCK, Gerrit. AI companies agree to limit election ‘deepfakes’ but fall short of ban. The Washington Post, 13 fev. 2024. Disponível em: https://www.washingtonpost.com/technology/2024/02/13/google-ai-elections-deepfakes-open/? Acesso em: 28 fev. 2024.

DURÃES, Uesley. ‘Novo estágio das fake news’: deepfake vira arma de campanha na Argentina. Uol, 18 nov. 2023. Disponível em: https://noticias.uol.com.br/internacional/ultimas-noticias/2023/11/18/novo-estagio-das-fake-news-deepfake-vira-arma-de-campanha-na-argentina.htm. Acesso em: 22 dez. 2023.

EASTERLY, Jen; SCHWAB, Scott; CONLEY, Cait. Artificial Intelligence’s threat to democracy. Foreign Affairs, 3 jan. 2024. Disponível em: https://www.foreignaffairs.com/united-states/artificial-intelligences-threat-democracy? Acesso em: 6 jan. 2024.

‘FAKE news’ se espalham 70% mais rápido que notícias verdadeiras, diz MIT. Correio Braziliense, 8 mar. 2018. Disponível em: https://www.correiobraziliense.com.br/app/noticia/tecnologia/2018/03/08/interna_tecnologia,664835/fake-news-se-espalham-70-mais-rapido-que-noticias-verdadeiras.shtml. Acesso em: 20 dez. 2023.

FERRARI, Pollyana. Como sair das bolhas. São Paulo: Editora da PUC-SP, 2018.

FIGUEIREDO, Janaína. Campanha presidencial na Argentina usa inteligência artificial em grande escala. O Globo, 14 nov. 2023. Disponível em: https://oglobo.globo.com/mundo/noticia/2023/11/14/campanha-presidencial-na-argentina-usa-ia-em-grande-escala.ghtml. Acesso em: 20 dez. 2023.

HEAVEN, Will Douglas. These six questions will dictate the future of generative AI. MIT Technology Review, 19 dez. 2023. Disponível em: https://www.technologyreview.com/2023/12/19/1084505/generative-ai-artificial-intelligence-bias-jobs-copyright-misinformation/?. Acesso em: 9 jan. 2024.

MCLUHAN, Marshall. Os meios de comunicação com extensões do homem. Tradução de Décio Pignatari. São Paulo: Cultrix, 1964.

MURPHY, Hannah. IA fragiliza a democracia com desinformação. Valor, 11 jan. 2024. Disponível em: https://valor.globo.com/empresas/noticia/2024/01/11/ft-ia-fragiliza-democracia-com-desinformacao.ghtml. Acesso em 12 jan. 2024.

NA ERA do ChatGPT, ‘autêntico’ é a palavra do ano eleita por dicionário americano. G1, 27 nov. 2023. Disponível em: https://g1.globo.com/educacao/noticia/2023/11/27/autentico-e-a-palavra-do-ano-eleita-por-dicionario-americano.ghtml. Acesso em: 27 dez. 2023.

NIKON, Sony e Canon correm para diferenciar fotos de imagens geradas por IA. Folha de S.Paulo, 2 jan. 2024. Disponível em: https://www1.folha.uol.com.br/tec/2024/01/nikon-sony-e-canon-correm-para-diferenciar-fotos-de-imagens-geradas-por-ia.shtml. Acesso em: 9 jan. 2024.

UNESCO – ORGANIZAÇÃO DAS NAÇÕES UNIDAS PARA A EDUCAÇÃO, A CIÊNCIA E A CULTURA. Recomendação sobre a Ética da lnteligência artificial. Paris: Unesco, 2021. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000381137_por. Acesso em: 20 dez. 2023.

RÖHE, Anderson. Metadados e o Dilema de Collingridge: como compatibilizar novas tecnologias e direitos fundamentais na sociedade da informação. Revista Contribuciones a las Ciencias Sociales, [S. l.], v. 16, n. 8, p. 11321-11337, 2023. Disponível em: https://ojs.revistacontribuciones.com/ojs/index.php/clcs/article/view/1598. Acesso em: 20 dez. 2023.

RÖHE, Anderson; SANTAELLA, Lucia. IAs Generativas: a importância dos comandos para texto e imagem. Revista Aurora, São Paulo, v. 16, n. 47, p. 76-94, 2023. Disponível em: https://revistas.pucsp.br/index.php/aurora/article/view/62724. Acesso em: 1 dez. 2023.

SANTAELLA, Lucia. A pós-verdade é verdadeira ou falsa. São Paulo: Estação das Letras e Cores, 2018.

SANTAELLA, Lucia. Humanos hiper-híbridos: linguagens e cultura na segunda era da internet. São Paulo: Paulus, 2021.

SANTAELLA, Lucia. Percepção: fenomenologia, ecologia, semiótica. São Paulo: Cengage Learning, 2012.

SOARES, Matheus; BENZ, Lena. Eleições de 2024 vão envolver “desinformação ultrarrealista”. Desinformante, 3 jan. 2024. Disponível em: https://desinformante.com.br/eleicoes-2024-desinformacao-ultrarrealista/. Acesso em: 6 jan. 2024.

SOUSA, Carlos Affonso de. Nudes falsos de alunas: quem a Justiça pune se deepfake atinge anônimos? Uol, 10 nov. 2023. Disponível em: https://www.uol.com.br/tilt/colunas/carlos-affonso-de-souza/2023/11/10/deepfakes-no-colegio-menores-e-pais-podem-ser-responsabilizados.htm. Acesso em: 22 dez. 2023.

SPADONI, Pedro. IA e desinformação representam riscos globais, diz pesquisa. Olhar Digital, 14 jan. 2024. Disponível em: https://olhardigital.com.br/2024/01/14/internet-e-redes-sociais/ia-e-desinformacao-representam-riscos-globais-diz-pesquisa/ Acesso em: 10 jan. 2024.

VOSOUGHI, Soroush; ROY, Deb; ARAL, Sinan. The spread of true and false news online. Science, [S. l.], v. 359, n. 6380, p. 1146-1151, 2018. Disponível em: https://www.science.org/doi/10.1126/science.aap9559. Acesso em: 22 dez. 2023.

WEF – WORLD ECONOMIC FORUM. Global Risks Report 2024. Geneva: WEF, 2024.

Downloads

Published

2024-05-27

Issue

Vol. 21 No. 44 (2024): Comunicação, Organizações e Inteligência Artificial: impactos, sistemas generativos e uso de dados

Section

Espaço Aberto

License

Copyright (c) 2024 Anderson Röhe Fontão Batista, Lucia Santaella

Creative Commons License

This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.

A submissão implica a cessão de direitos da primeira publicação à revista Organicom, sem pagamento. Os autores podem estabelecer por separado acordos adicionais para a distribuição não exclusiva de versão da obra publicada na revista (como colocar em um repositório institucional ou publicar um livro), com o devido reconhecimento de sua publicação inicial na revista Organicom.

How to Cite

BATISTA, Anderson Röhe Fontão; SANTAELLA, Lucia. Prognostics of deepfakes in electoral politics. Organicom, São Paulo, Brasil, v. 21, n. 44, p. 187–196, 2024. DOI: 10.11606/issn.2238-2593.organicom.2024.221294. Disponível em: https://journals.usp.br/organicom/article/view/221294.. Acesso em: 5 jul. 2024.