Project

Raça e Racialização em Tecnologias, Plataformas Digitais e Algoritmos

Goal: Objetivos
O objetivo principal do projeto é compreender os modos pelos quais as atuais plataformas digitais de comunicação escondem e engendram processos de discriminação e racialização nas interfaces entre big data, algoritmos, agentes artificiais (inteligência artificial e automatização).


Objetivos Específicos:
Mapear criticamente controvérsias sobre plataformas digitais em suas ligações com relações étnico-raciais no Brasil

Propor a qualificação crítica de metodologias de análise de plataformas e algoritmos com perspectiva de background de carga teórica das Ciências Sociais (Teoria Racial Crítica)

Desenvolver metodologia de investigação de processos de discriminação e racialização em plataformas digitais de comunicação e interação

Date: 29 April 2018 - 30 November 2021

Updates
0 new
17
Recommendations
0 new
4
Followers
0 new
40
Reads
2 new
2078

Project log

Tarcízio Silva
added a research item
Reconhecimento facial, filtros para selfies, moderação de conteúdo, chatbots, policiamento preditivo e escore de crédito são apenas algumas das aplicações que usam sistemas de inteligência artificial na atualidade. Mas e o que acontece quando as máquinas e programas apresentam resultados discriminatórios? Seriam os algoritmos racistas? Ou trata-se apenas de erros inevitáveis? De quem é a responsabilidade entre humanos e máquinas? E o que podemos fazer para combater os impactos tóxicos e racistas de tecnologias que automatizam o preconceito? Neste título da coleção Democracia Digital, o pesquisador e mestre em Comunicação Tarcízio Silva busca observar a incorporação de hierarquias raciais nas tecnologias digitais de comunicação e informação. O racismo algorítmico se tornou um conceito relevante para entender como a implementação acelerada de tecnologias digitais emergentes, que priorizam ideais de lucro e de escala, impactam negativamente minorias raciais em torno do mundo. Quando algoritmos recebem o poder de decidir - a partir dos critérios de seus criadores - o que é risco, o que é belo, o que é tóxico ou o que é mérito, os potenciais discriminatórios se multiplicam. O autor investiga de forma interdisciplinar o fenômeno do racismo algorítmico em tecnologias como mídias sociais, buscadores, visão computacional e reconhecimento facial. Editada exclusivamente para o formato digital, a coleção Democracia Digital é organizada pelo professor e sociólogo Sergio Amadeu da Silveira.
Tarcízio Silva
added a research item
Ensaio explora as conexões entre decisões de ordenação urbana e modelos preditivos para alocação de recursos na cidade com dinâmicas do racismo algorítmico.
Tarcízio Silva
added a research item
Para refletir sobre a relação entre tecnologias e desigualdades no mundo em aparente suspensão pela pandemia, este artigo evoca a ideia de imaginários sociotécnicos como essenciais a uma mobilização para futuros mais justos. Contribuições de epistemologias feministas, afrofuturistas e de povos originários sobre tecnologia trazem elementos que apontam para uma refundação de como contamos a história e as estórias a respeito da existência humana no planeta.
Tarcízio Silva
added an update
"Dos autômatos e robôs às redes difusas de agência no racismo algorítmico" publicado no livro "Vestígios do Futuro: 100 Anos de Isaac Asimov".
 
Tarcízio Silva
added 2 research items
Discriminatory impacts and the damages due to algorithmic systems have opened discussions regarding the scope of responsibility of communication technology and artificial intelligence companies. The article presents public controversies triggered by eight public cases of harm and algorithmic discrimination that generated public responses from technology companies, addressing the efforts made by them in framing the debate about responsibility in the course of planning, training and implementation of systems. Following that, it discusses how the opacity of systems is defended by the commercial companies that develop them, alleging prerogatives such as "industry secrets" and algorithmic inscrutability.
Impactos discriminatórios e danos de sistemas algorítmicos têm gerado discussões sobre o escopo da responsabilidade de empresas de tecnologia da comunicação e inteligência artificial. O artigo apresenta controvérsias públicas engatilhadas por 8 casos públicos de danos e discriminação algorítmica que geraram respostas públicas de empresas de tecnologia, abordando o esforço realizado pelas empresas de tecnologia em enquadrar o debate sobre responsabilidades no fluxo de planejamento, treinamento e implementação dos sistemas. Em seguida, discute como a opacidade dos sistemas é defendida pelas empresas comerciais que os desenvolvem, alegando prerrogativas como “segredo de negócio” e inescrutabilidade algorítmica.
Tarcízio Silva
added a research item
Coluna "Racismo Algorítmico: entre a desinteligência artificial e a epistemologia da ignorância" publicada em dossiê especial "Algoritmo" da Revista Select.
Tarcízio Silva
added an update
Tarcízio Silva
added a research item
Material da aula 01 do curso "Raça e Tecnologias Digitais da Comunicação: das redes sociais aos algoritmos"
Tarcízio Silva
added a research item
O livro “Comunidades, Algoritmos e Ativismos Digitais: olhares afrodiaspóricos“, organizado por Tarcizio Silva, reúne 14 capítulos de pesquisadoras e pesquisadores provenientes e com conhecimento científico e experiencial dos Brasis e de países da Afrodiáspora e África, como Congo, Etiópia, Gana, Nigeria, Colômbia, Estados Unidos e Reino Unido. O principal objetivo da publicação é reunir reflexões diversas e multidisciplinares sobre as interfaces dentre os fenômenos da comunicação digital, raça, negritude e branquitude nos últimos 20 anos, oferecendo material de referência para estudantes e pesquisadoras/es em diversos níveis. Através da tradução de textos estrangeiros inéditos em português e atualização e redação de publicações selecionadas de brasileiras/os, o livro colabora com a crescente complexificação do pensamento sobre a comunicação digital e internet resultante da diversificação dos olhares e falas nos espaços acadêmicos. Da matemática na divinação Ifá ao ativismo político, os temas e objetos dos capítulos passam por transição capilar, blackfishing, afroempreendedorismo, Black Twitter, contra-narrativas ao racismo e métodos digitais de pesquisa apropriados à complexidade das plataformas, algoritmos e relações de poder incorporadas nas materialidades digitais racializadas.
Tarcízio Silva
added an update
Tarcízio Silva
added a research item
O campo das Humanidades Digitais evoluiu através da intersecção e diálogo entre as humanidades e o computacional em suas manifestações tanto de processamento e transformação de materiais digitais quanto de potencial de reapropriação e reconfiguração de arquivos, redes e visualizações para fins de transformação social. Algumas autoras e autores da afrodiáspora e África falam das humanidades digitais sobretudo do ponto de vista do uso de artefatos, dispositivos e internet como "tecnologias do resgate". Descobrir, resgatar, conectar e visualizar produções históricas, narrativas, artísticas e epistemologias negras tem sido a missão de pesquisadoras e pesquisadores negros em todo o mundo. A atividade "Humanidades Digitais Negras" reuniu aulas e debates entre pesquisadoras/es das áreas da Comunicação, Mídia, Sociologia, Antropologia e Letras para apresentar o campo e suas práticas aos participantes.
Tarcízio Silva
added a research item
O artigo apresenta uma introdução à Teoria Racial Crítica, framework teórico-metodológico proposto inicialmente por pes-quisadores do Direito para combater a aplicação racista da legis-lação, para discutir debates e objetos contemporâneos da comu-nicação digital. A Teoria Racial Crítica (TRC) transpôs as frontei-ras do Direito e tem sido aplicada em diversos países afrodiaspó-ricos à Educação, Sociologia e outras áreas como a Comunicação, mas ainda tangencial nesta última. Com o objetivo de colaborar para as conexões deste framework teórico, o artigo apresenta e discute, do ponto de vista da comunicação digital, seis pilares de-finidores da TRC: a) a ordinariedade do racismo
Tarcízio Silva
added an update
Resenha de material desenvolvido por Jessie Daniels, Mutale Nkonde e Darakhshan Mir
 
Tarcízio Silva
added a research item
O artigo apresenta uma introdução à Teoria Racial Crítica, framework teórico-metodológico proposto inicialmente por pesquisadores do Direito para combater a aplicação racista da legislação, a debates e objetos contemporâneos da comunicação digital. A Teoria Racial Crítica (TRC) transpôs as fronteiras do Direito e tem sido aplicada em diversos países afrodiaspóricos à Educação, Sociologia e outras áreas como a Comunicação, mas ainda tangencial nesta última. Com o objetivo de colaborar para as conexões deste framework teórico, o artigo apresenta e discute do ponto de vista da comunicação digital seis pilares definidores da TRC: a) a ordinariedade do racismo; b) construção social da raça; c) interseccionalidade e anti-essencialismo; d) reconhecimento do conhecimento experiencial; e) agência no combate efetivo da opressão racial; f) e a interdisciplinaridade.
Tarcízio Silva
added a research item
Recursos de inteligência artificial estão cada vez mais acessíveis a empresas e governos de todos os tipos, sendo aplicados em sistemas de vigilância, plataformas de mídias sociais e outros tipos de agentes artificiais. Um dos campos mais inovadores é o da visão computacional, que permite reconhecer automaticamente objetos, entidades, conceitos ou características extraídas de imagens, inclusive sobre pessoas. A partir da exploração de como a visão maquínica dos provedores de inteligência artificial reconhecem objetos, conceitos e dimensões em redes semânticas, investigamos como o reconhecimento automatizado de imagens e posterior modulação algorítmica de comportamento parte frequentemente de um olhar eurocêntrico quanto a categorias raciais, sobretudo vinculado a inclusão/exclusão e visibilidade/invisibilidade do outro racializado, com impacto efetivo para os usuários de agentes artificiais, plataformas de mídias sociais e bancos de dados. Esta investigação parte da bibliografia de estudos sobre a branquitude e o seu papel enquanto definidora da sociedade e tecnologias de produção e controle. O trabalho apresenta criticamente casos mapeados por ativistas e desenvolvedoras em torno do mundo sobre problemas especificamente ligados à visão computacional. Tratam-se de casos de equivalência de conceitos como visibilidade, humanidade e beleza à experiência de usuários brancos em sistemas como robôs interagentes, buscadores e mídias sociais. Uma vez que categorias e tipologias são manifestações de como os registros informacionais configuram e reproduzem poder, com impacto real nas possibilidades de representação e expressão equitárias entre diferentes segmentos da sociedade, o estudo busca jogar luz sobre estas questões relevantes ao debate sobre algoritmos e suas.
Tarcízio Silva
added a research item
Resumo de conferência realizada no CONEC 2018, com o objetivo de apresentar estado da arte sobre interrogação crítica sobre plataformas e algoritmos digitais, com destaque para a perspectiva da Teoria Racial Crítica nesta empreitada. SILVA, Tarcízio. Interrogando Plataformas e Algoritmos Digitais. In: Congresso Nacional de Estudos Comunicacionais da PUC Minas, 2018, Poços de Caldas, Minas Gerais, Brasil. Anais do 3 CONEC Congresso Nacional de Estudos Comunicacionais da PUC Minas, 2018. p. 32-26. Disponível em < https://conec.pucpcaldas.br/wp-content/uploads/2019/06/anais2018.pdf >
Tarcízio Silva
added a research item
Ambientes como Facebook, Twitter, YouTube e marketplaces de aplicativos mobile são mecanismos centrais do capitalismo de vigilância. Os vieses algorítmicos e affordances racistas nestas plataformas digitais de publicidade estão sendo crescentemente analisados nos últimos 15 anos por pesquisadoras informadas por perspectivas variadas. Como resultado estão em desenvolvimento iniciativas de auditoria de algoritmos e plataformas, construção de datasets e procedimentos mais responsáveis, além de indicações regulatórias. A opacidade presente nas caixas-pretas dos grupos de sistemas automatizados e semi-automatizados baseados em algoritmos que regem visibilidade, classificação, vigilância e regras de uso nas plataformas digitais complexifica e dificulta esta investigação. Esta questão se aplica tanto ao desenho de processos internos quanto à configuração de algoritmos e é agravada pela ideologia da "cegueira racial", tática que compõe historicamente do genocídio negro, que também é epistemológico. O trabalho propõe colaborar ao campo de estudos sobre vieses algorítmicos ao aproximar a investigação sobre vieses raciais nos algoritmos de plataformas digitais ao conceito de microagressões raciais (Pierce, 1970). Estas seriam definidas como mensagens rotineiras que comunicam insultos e desprezo racial e podem ser apresentadas de forma verbal, comportamental ou ambientalmente contra grupos racializados. A pesquisa sobre microagressões raciais propõe modos de analisar, entender e combater este tipo de violência em contextos de socialização, midiáticos ou educacionais com o objetivo de minimizar o impacto na formação e pleno desenvolvimento de populações negras, entre outras. Aplicando a tipologia de microagressões proposta por Tynes et al (2018) a partir de Sue (2007) a mapeamento realizado pelo autor, o artigo discute casos de comunicação algorítmica racista em plataformas digitais ligando aspectos das plataformas a categorias e subcategorias propostas sobre microagressões.
Tarcízio Silva
added a research item
Recursos de inteligência artificial estão cada vez mais acessíveis a empresas e governos de todos os tipos, sendo aplicados em sistemas de vigilância, plataformas de mídias sociais e outros tipos de agentes artificiais. Um dos campos mais inovadores é o da visão computacional, que permite reconhecer automaticamente objetos, entidades, conceitos ou características extraídas de imagens, inclusive sobre pessoas (WANG, ZHANG & MARTIN, 2015). A partir da exploração de como a visão maquínica dos provedores de inteligência artificial reconhecem objetos, conceitos e dimensões em redes semânticas (MINTZ, 2016), investigamos como o reconhecimento automatizado de imagens e posterior modulação algorítmica (SILVEIRA, 2017) de comportamento parte frequentemente de um olhar eurocêntrico quanto a categorias raciais (FANCHER, 2016; NAKAYAMA, 2017; BENTHALL & HAYNES, 2019) sobretudo vinculado a inclusão/exclusão e visibilidade/invisibilidade do outro racializado, com impacto efetivo para os usuários de agentes artificiais, plataformas de mídias sociais e bancos de dados. Esta investigação parte da bibliografia de estudos sobre a branquitude (BENTO, 2012; BASTOS, 2016; CARONE & BENTO, 2017) e o seu papel enquanto definidora da sociedade e tecnologias de produção e controle (MILLS, 2014; MBEMBE , 2017). O trabalho apresenta criticamente casos mapeados por ativistas e desenvolvedoras em torno do mundo sobre problemas especificamente ligados à visão computacional, lidos sob a ótica da Teoria Racial Crítica (NAKAMURA, 2008; LOPEZ, 2013; NOBLE & TYNES, 2016; BUOLAMWINI & GEBRU, 2018; NOBLE, 2018). Tratam-se de casos de equivalência de conceitos como visibilidade, eficácia, humanidade e beleza à experiência de usuários brancos em sistemas como robôs interagentes, buscadores e mídias sociais. Uma vez que categorias e tipologias são manifestações de como os registros informacionais configuram e reproduzem poder (ALI, 2013), com impacto real nas possibilidades de representação e expressão equitárias entre diferentes segmentos da sociedade (COTTOM, 2016), o estudo busca jogar luz sobre estas questões relevantes ao debate sobre algoritmos e suas opacidades (GILLESPIE, 2014; BROUSSARD, 2018).
Tarcízio Silva
added an update
Desenvolvida uma timeline de mapeamento de casos, reportagens e reações ao racismo algorítmico, que pode ser visualizada em https://tarciziosilva.com.br/blog/posts/racismo-algoritmico-linha-do-tempo/
 
Tarcízio Silva
added a research item
Resumo da pesquisa de doutorado, apresentado no curso Colóquios de Pesquisa do PCHS-UFABC
Tarcízio Silva
added an update
Artigo que relaciona análise do discurso em reviews de hóspedes e as respostas de hotéis/restaurantes com as affordances da plataforma TripAdvisor em casos de racismo - https://tarciziosilva.com.br/blog/negacao-de-racismo-no-tripadvisor-estrategias-discursivas/
 
Tarcízio Silva
added an update
Reflexões sobre os problemas da hipersegmentação publicitária, uma das manifestações das capacidades discriminatórias oferecidas por ferramentas como Facebook - https://tarciziosilva.com.br/blog/hipersegmentacoes-de-publicidade-na-era-algoritmica-desafio-etico-para-as-organizacoes/
 
Tarcízio Silva
added an update
Resenha de Artificial (Un)Intelligence: how computer misunderstand the world, de Meredith Broussard - https://tarciziosilva.com.br/blog/desinteligencia-artificial-como-computadores-nao-compreendem-o-mundo
 
Tarcízio Silva
added an update
No artigo Gender Shades – Intersectional Accuracy Disparities in Commercial Gender Classification, as pesquisadoras Joy Buolamwini (MIT Media Lab) e Timnit Gebru (Microsoft Research) apresentam pesquisa sobre vieses interseccionais negativos em sistemas automatizados de classificação. Um agravante é que, na medida em que sistemas de inteligência artificial se baseiam em bases de dados construídas a partir de inputs preexistentes, a tendência é que sistemas derivados intensifiquem os vieses já presentes nas sociedades.
 
Tarcízio Silva
added an update
Os Riscos dos Vieses e Erros na Inteligência Artificial - resenha do relatório " An Intelligence in Our Image – The Risks of Bias and Errors in Artificial Intelligence " de Osonde Osoba e William Welser IV
 
Tarcízio Silva
added an update
O livro da Safiya Noble é um best seller que está ajudando o tema do viés racial algorítmico ganhar tração e popularidade para além da academia. Alguns dos casos relatados são referência para o mapeamento internacional de identificação de discriminação algorítmica assim como histórico de ações realizadas. Resenha:
 
Tarcízio Silva
added 2 research items
O fenômeno das chamadas "fake news" trouxe uma nova camada de complexidade aos estudos de democracia digital. Se estudos de mídias sociais com técnicas de monitoramento cresceram nos últimos anos, o fechamento tanto de APIs quanto a emergência de canais alternativos de circulação de informação-como o Whatsapp-traz novos desafios ao dimensionamento de fake news e desinformação no contexto eleitoral. O artigo é um relato de desenvolvimento e aplicação de metodologia experimental de reconhecimento e mapeamento automatizado de imagens ao contexto político-eleitoral. A partir do levantamento de 500 imagens de difamação e "fake news" sobre o ex-presidente e pré-candidato Luís Inácio Lula da Silva, foi aplicada técnica de varredura online de imagens (reconhecimento de imagens através da Google Vision) similares para o levantamento de websites que as (re)publicaram. Como resultado, apresentamos dados aplicados sobre os principais websites e seus tipos de conexões na rede.
Tarcízio Silva
added a project goal
Objetivos
O objetivo principal do projeto é compreender os modos pelos quais as atuais plataformas digitais de comunicação escondem e engendram processos de discriminação e racialização nas interfaces entre big data, algoritmos, agentes artificiais (inteligência artificial e automatização).
Objetivos Específicos:
Mapear criticamente controvérsias sobre plataformas digitais em suas ligações com relações étnico-raciais no Brasil
Propor a qualificação crítica de metodologias de análise de plataformas e algoritmos com perspectiva de background de carga teórica das Ciências Sociais (Teoria Racial Crítica)
Desenvolver metodologia de investigação de processos de discriminação e racialização em plataformas digitais de comunicação e interação