Conference PaperPDF Available

Teoria Racial Crítica e Comunicação Digital: conexões contra a dupla opacidade

Authors:

Abstract

O artigo apresenta uma introdução à Teoria Racial Crítica, framework teórico-metodológico proposto inicialmente por pesquisadores do Direito para combater a aplicação racista da legislação, a debates e objetos contemporâneos da comunicação digital. A Teoria Racial Crítica (TRC) transpôs as fronteiras do Direito e tem sido aplicada em diversos países afrodiaspóricos à Educação, Sociologia e outras áreas como a Comunicação, mas ainda tangencial nesta última. Com o objetivo de colaborar para as conexões deste framework teórico, o artigo apresenta e discute do ponto de vista da comunicação digital seis pilares definidores da TRC: a) a ordinariedade do racismo; b) construção social da raça; c) interseccionalidade e anti-essencialismo; d) reconhecimento do conhecimento experiencial; e) agência no combate efetivo da opressão racial; f) e a interdisciplinaridade.
Intercom Sociedade Brasileira de Estudos Interdisciplinares da Comunicação
42º Congresso Brasileiro de Ciências da Comunicação Belém - PA 2 a 7/09/2019
1
Teoria Racial Crítica e Comunicação Digital:
conexões contra a dupla opacidade
1
Tarcízio SILVA
2
Universidade Federal do ABC
Resumo: O artigo apresenta uma introdução à Teoria Racial Crítica, framework teórico-
metodológico proposto inicialmente por pesquisadores do Direito para combater a
aplicação racista da legislação, a debates e objetos contemporâneos da comunicação
digital. A Teoria Racial Crítica (TRC) transpôs as fronteiras do Direito e tem sido
aplicada em diversos países afrodiaspóricos à Educação, Sociologia e outras áreas como
a Comunicação, mas ainda tangencial nesta última. Com o objetivo de colaborar para as
conexões deste framework teórico, o artigo apresenta e discute do ponto de vista da
comunicação digital seis pilares definidores da TRC: a) a ordinariedade do racismo; b)
construção social da raça; c) interseccionalidade e anti-essencialismo; d)
reconhecimento do conhecimento experiencial; e) agência no combate efetivo da
opressão racial; f) e a interdisciplinaridade.
Palavras-chave: teoria racial crítica; comunicação digital; algoritmos; plataformas
digitais; raça
Teoria Racial Crítica
Qual o lugar do debate sobre categorias e identidades raciais, do ponto de vista de
construção de comunidades por empatia étnico-racial, de um lado, e das opressões e
dominações racializadas, por outro, nos estudos sobre internet? Em revisão bibliográfica
dos estudos de internet sobre raça e racismo, Daniels (2013) concluiu que a literatura
dos Internet Studies reproduz a exotização da alteridade, resiste à análise honesta do
racismo enquanto sistema e a recusa de ver o papel da branquitude, nunca racializada
quanto os demais grupos minorizados. Assim, precisaríamos de “um forte framework
teórico que reconheça a persistência do racismo online enquanto simultaneamente
reconheça as profundas raízes da desigualdade racial nas estruturas sociais existentes
que moldam a tecnocultura” (DANIELS, 2013, p. 711, trad. livre).
Defendemos que a Teoria Racial Crítica (TRC)
3
é este framework teórico
interdisciplinar contra o que chamamos de dupla opacidade, o modo pelo qual os
1
Trabalho apresentado no GP Comunicação e Cultura Digital, XIX Encontro dos Grupos de Pesquisas em
Comunicação, evento componente do 42º Congresso Brasileiro de Ciências da Comunicação.
2
Mestre em Comunicação e Cultura Contemporâneas (UFBA), doutorando em Ciências Humanas e Sociais
(UFABC), membro do NEAB-UFABC e cofundador do IBPAD. E-mail: eu@tarciziosilva.com.br
Intercom Sociedade Brasileira de Estudos Interdisciplinares da Comunicação
42º Congresso Brasileiro de Ciências da Comunicação Belém - PA 2 a 7/09/2019
2
discursos hegemônicos invisibilizam tanto os aspectos sociais da tecnologia quanto os
debates sobre a primazia de questões raciais nas diversas esferas da sociedade
incluindo a tecnologia, recursivamente. A Teoria Racial Crítica tomou forma nos EUA
durante o final dos anos 1970, reunindo inicialmente professores, advogados, ativistas e
pesquisadores do Direito preocupados tanto com a estagnação dos avanços obtidos
pelos movimentos de direitos civis no país quanto com a aplicação discrepante da lei ao
mesmo tempo em que se defendia sua neutralidade. Um dos eventos fundadores foi o
curso e livro de Derrick Bell, primeiro professor afro-americano na escola de Direito de
Harvard, Race, Racism and American Law. Bell desafiou as concepções liberais do
Direito como “cegueira racial”, integracionismo e “igualdade legal formal” que apenas
serviam à retórica do poder contra qualquer debate racial, em sua leitura.
A saída de Harvard de Bell deflagrou um movimento, por estudantes, para
solicitar a manutenção de um curso sobre raça e racismo no direito do ponto de vista de
algum/a professor/a de grupo minorizado e racializado, como afro-americanos ou
asiáticos-americanos. Entretanto, Harvard negou-se a levar esta solicitação em
consideração. Como resultado, estudantes criaram o “The Alternative Course” (“O
Curso Alternativo”), que se tornou a primeira expressão institucionalizada da Teoria
Racial Crítica ao juntar diversas pensadoras e pensadores que desenvolveram a
perspectiva ao longo das próximas décadas (CRENSHAW et al, 1996).
Desafiando a força institucional da universidade ao desenvolver seu próprio
evento, os proponentes da TRC manifestaram o poder das contra-narrativas como
alternativas a um fazer científico falho por se pretender neutro enquanto representava
apenas interesses de uma elite limitada. Allen, de acordo, identifica na Comunicação,
que a teorização nos campos hegemônicos da disciplina “geralmente não mergulha nas
dinâmicas raciais de poder. Além disto, raramente menciona racismo de modo a
explicitamente analisar questões de níveis macro” (ALLEN, 2007, p.260, trad. livre).
Então seguimos na identificação e descrição de alguns dos principais pressupostos e
objetivos da Teoria Racial Crítica (TRC): a) a ordinariedade do racismo; b) a visão
sobre raça e das relações raciais como construção social; c) interseccionalidade e anti-
3
Originalmente Critical Race Theory, também traduzida por “Teoria Crítica da Raça” ou “Teoria Crítica Racial”.
Intercom Sociedade Brasileira de Estudos Interdisciplinares da Comunicação
42º Congresso Brasileiro de Ciências da Comunicação Belém - PA 2 a 7/09/2019
3
essencialismo; d) a importância do reconhecimento do conhecimento experiencial; e) a
agência da TRC no combate efetivo da opressão racial; f) e a necessária
interdisciplinaridade (FERREIRA, 2014; CAPPER, 2015; DELGADO & STEFANCIC,
2017; FERREIRA & QUEIROZ, 2018).
Ordinariedade do Racismo
Vivemos em um mundo que foi fundamentalmente moldado nos últimos quinhentos
anos pelas realidades da dominação europeia e a gradual consolidação da supremacia
branca global (MILLS, 2014, p.354, trad. livre). No Brasil, as manifestações
contemporâneas e mensuráveis da supremacia branca podem ser citadas do macro ao
micro, de economia e emprego à violência obstetrícia: mulheres negras recebem em
média apenas 50% do que recebem homens brancos
4
; apenas 4,7% do quadro executivo
das maiores empresas do Brasil é composto por pessoas negras
5
; estudantes negros
representam apenas 28,9% na pós-graduação; 75% das vítimas de homicídio no país são
negras
6
; e mulheres negras são 66% das vítimas de violência obstétrica
7
.
Estes dados e outras realidades sociais percebidas pela população negra
brasileira, levaram Nascimento a falar da iniquidade como característica fundamental do
Estado brasileiro, pois “tem sido a cristalização político-social dos interesses exclusivos
de um segmento elitista, cuja aspiração é atingir o status ário-europeu em estética racial,
em padrão de cultura e civilização” (NASCIMENTO, 2019, p. 286), através de um
“pacto narcísico” que inclui um esforço contínuo de exclusão econômica, moral, afetiva
e política dos negros no universo social brasileiro (BENTO, 2002). Então a ideia de que
atos de racismo são apenas aqueles explícitos ligados à discriminação inequívoca e
geralmente discursiva ignora as formas mais insidiosas de racismo que mantém e
reproduzem as desigualdades abissais de forma recursiva. Consequentemente a Teoria
Racial Crítica vê o racismo como “ordinário, não aberracional “ciência normal”, o
modo usual pela qual sociedade funciona, a experiência comum e cotidiana da maior
4
https://www.dieese.org.br/analiseped/2013/2013pednegrosmet.pdf
5
http://www.onumulheres.org.br/wp-content/uploads/2016/04/Perfil_social_racial_genero_500empresas.pdf
6
https://brasil.estadao.com.br/noticias/geral,75-das-vitimas-de-homicidio-no-pais-sao-negras-aponta-atlas-da-
violencia,70002856665
7
https://www.almapreta.com/editorias/realidade/segundo-ministerio-da-saude-62-8-das-mulheres-mortas-durante-o-
parto-sao-negras
Intercom Sociedade Brasileira de Estudos Interdisciplinares da Comunicação
42º Congresso Brasileiro de Ciências da Comunicação Belém - PA 2 a 7/09/2019
4
parte das pessoas de cor deste país” (DELGADO & STEFANCIC, 2017, p.8, trad.
livre), sido definida como a investigação crítica sobre como o Direito “reproduz, reifica
e normaliza racismo na sociedade, em particular para indivíduos de classe baixa e
pessoas racializadas” (LÓPEZ, 2003, p.83, trad. livre). Ao enfatizar o olhar sobre os
processos de reprodução, reificação e normalização do racismo em seu campo de
emergência, a TRC naturalmente foi expandida para outros campos onde a população
afrodiaspórica passou a ter um olhar crítico e lugar de fala e análise sobre a realidade
social.
Ganham lentamente corpo na pesquisa sobre comunicação e sociedade as
questões raciais, ao mesmo tempo que a ameaça oferecida pela supremacia branca
online é risco epistemológico à nossa acumulação e produção de conhecimento sobre
raça, racismo e direitos civis na era digital (DANIELS, 2009, p.8, trad. livre). Por
exemplo, a lassidão da pesquisa sobre raça e racismo online contrastou com a visão
estratégica de membros da KKK que, como documenta Daniels, viam na internet uma
possibilidade de “criar uma reação em cadeia de esclarecimento racial que vai
chacoalhar o mundo pela velocidade de sua conquista intelectual” nas palavras do
supremacista branco David Duke em 1998 (DANIELS, 2018, p.64). Duke é ativo
apoiador do portal neonazista Stormfront, responsável por uma das primeiras grandes
estratégias análogas a fake news - ao comprar o domínio martinlutherking.org, simular
um website sério e publicar informações falsas sobre o ativista negro.
Aqui, esta percepção sobre a ordinariedade do racismo é especialmente
importante quanto aos impactos tecnológicos sobre relações raciais em um mundo
construído sobre a retroalimentação entre capitalismo e supremacia branca
(NASCIMENTO, 2016, 2019; MILLS, 2014; SOUZA, 2017). Podemos falar de uma
dupla opacidade da dificuldade de tratarmos tanto de questões raciais quanto da
incorporação de valores em dispositivos tecnológicos sobretudo os que reúnem mais e
mais dispositivos automatizados como os algorítmicos.
Vinte anos depois da citação acima de Duke, o uso de plataformas digitais como
mídias sociais e mensageiros mobile virou o jogo em eleições e referendos por todo o
mundo, enquanto ainda batalhas discursivas se estes movimentos são ou não
extremistas ou supremacistas. A construção das sociedades modernas é fruto de
colonização e racialização desenvolvida ao longo de séculos e, portanto, “somente
Intercom Sociedade Brasileira de Estudos Interdisciplinares da Comunicação
42º Congresso Brasileiro de Ciências da Comunicação Belém - PA 2 a 7/09/2019
5
entendendo a descolonização e a desracialização eles (acadêmicos da diáspora africana)
poderiam entender o desenvolvimento do capitalismo e da sociedade moderna”
(ZUBERI, 2016, p.476).
Ao ignorar as relações étnico-raciais no processo de design e construção de
dispositivos de comunicação digital, “a indústria tech deixou uma abertura para
nacionalistas brancos e eles estão sempre procurando oportunidades para empurrar sua
ideologia (DANIELS, 2018, p.63, trad. livre) ao paroxismo do final dos anos 2010s.
Raça como Construção Social
Apesar da aparente superação do racismo científico na segunda metade do século XX,
ainda são frequentes as recusas em se discutir raça e racismo, geralmente pautadas por
argumentos a-históricos sobre igualdade biológica. É preciso ainda sublinhar que raça
não é “objetiva, inerente ou fixa, não corresponde a uma realidade biológica ou
genérica; na verdade, raças são categorias que a sociedade inventa, manipula ou
aposenta quando conveniente” (DELGADO, STEFANCIC & HARRIS, 2017, p. 9, trad.
livre). Entretanto, como acontece na maioria das esferas da atividade humana, seu
impacto se dá nas trocas simbólicas que criam, reforçam ou contestam relações de
poder. Raça, neste sentido efetivo e na práxis pode ser vista como “um fenômeno social
sui generis no qual sistemas contestados de significado servem como conexões entre
características físicas, faces e personalidade” (LÓPEZ, 2013, p.240, trad. livre).
É particularmente relevante sublinhar este ponto da TRC por considerar que a
presença ou ausência de variáveis e identificação de leituras raciais por produtores e
usuários de sistemas informacionais online também não é um dado fixo, mas em
constante reinvenção e controvérsias. O significado de raça, racismo e processos de
racialização se transforma na relação entre informação e corporificação nas tecnologias
digitais de comunicação, biometria e vigilância, que possuem fronteiras cada vez menos
nítidas.
Uma postura comum das plataformas de mídias sociais é esconder o caráter
explícito de raça, mas permitir suas manifestações ou manipulações através de proxies
ou atalhos por atores específicos. Sweeney (2013), por exemplo, identificou o
direcionamento de anúncios discriminatórios a afro-americanos através do uso de nomes
Intercom Sociedade Brasileira de Estudos Interdisciplinares da Comunicação
42º Congresso Brasileiro de Ciências da Comunicação Belém - PA 2 a 7/09/2019
6
próprios de cultura negra e africana no buscador Google. Por outro lado, a oferta de
conteúdo de mídia em bancos de imagens como Shutterstock traz como resultado
famílias e representações brancas apenas depois de mobilização de grupos como uma
ONG brasileira o site incluiu a variável de raça/etnia como filtro no buscador
8
.
A escolha de inclusão ou exclusão de variáveis raciais em interfaces de busca de
conteúdo ou anúncios é contextual e deve ser vista como variável analítica relevante.
Um dos casos mais relevantes neste sentido foi a denúncia feita pela ProPublica, em
2016, de que o Facebook permitia excluir racialmente públicos em anúncios de
habitação, prática proibida desde 1968 nos EUA. Mais chocante foi a estratégia de
defesa: a plataforma alegou que as opções tratavam apenas de “Afinidade Multicultural”
mas a exclusão poderia ser realizada nas categorias Afro-Americanos, Asiáticos-
Americanos e Hispânicos. Caucasianos/brancos, porém, não se configurava como uma
categoria possível no sistema, gerando um dos casos mais explícitos de design
discriminatório que se desenrola desde então (SYLVAIN, 2018).
Desse modo não as interfaces digitais para os usuários comuns quanto as
possibilidades ou impossibilidades para os usuários corporativos de exercer influência e
construir mensagens de forma racializada são apresentadas de forma intencionalmente
confusas pelas plataformas, aproveitando-se do fato que “a velocidade com a qual as
funcionalidades de tecnologias da comunicação podem evoluir levam a um estado
persistente de retardamento entre percepção e realidade” (NAPOLI & CAPLAN, 2018,
p. 157).
Interseccionalidade
A perspectiva interseccional nasceu na interface entre Teoria Racial Crítica e estudos
feministas a partir de uma proposição de Kimberlé Crenshaw (1989). A autora partiu de
casos de batalhas legais sobre discriminação laboral nos EUA, onde existia alguma
sensibilidade e precedentes para análise do papel do racismo e do machismo de forma
isolada. Mas a intersecção entre duas ou mais opressões, que penaliza mulheres negras,
por exemplo, não era considerada em suas particularidades. Para Crenshaw, a “adoção
8
http://desabafosocial.com.br/blog/2017/06/12/desabafo-social-interfere-no-mecanismo-de-busca-do-
maior-banco-de-imagem-do-mundo/
Intercom Sociedade Brasileira de Estudos Interdisciplinares da Comunicação
42º Congresso Brasileiro de Ciências da Comunicação Belém - PA 2 a 7/09/2019
7
de frameworks de questão-única não apenas marginaliza as mulheres negras nos
próprios movimentos que as clamam como parte constituinte mas também torna o
objetivo ilusivo de acabar com o racismo e patriarcado ainda mais difícil de atingir”
(1989, p. 152, trad. livre).
A relevância da interseccionalidade, portanto, levou pesquisadoras e
pesquisadores a elaborar a partir dessa prerrogativa, entendendo a relação entre
categorias e marcadores de diferença quanto a raça, gênero, classe, origem geográfica,
neuroatipicidade, status de cidadania e outros. Nos estudos de objetos de comunicação,
a ingerência do digital na vida cotidiana evoca alertas específicos sobre o papel da
interseccionalidade. Na medida em que a privatização da internet complica a
dataficação, o neoliberalismo enfraquece avanços sociais e o capitalismo de dados se
insere na gestão do cotidiano, como aponta Cottom (2016). Ao estudar o modo pelos
quais faculdades privadas online direcionam atividades e comunicação a estudantes
negras marginalizadas, aponta que suas “atividades classificatórias não apenas
reproduzem classes sociais, mas também intersectam planos de raça, classe e gênero.
Focar nos processos pelos quais atenção é estratificada usando affordances técnicas
como geradores de leads e algoritmos de busca pode clarificar estes processos”
(COTTOM, 2016, p.225, trad. livre).
Mais do que uma prerrogativa programática, a interseccionalidade se torna
também aspecto inerente do método da TRC. Ao revisar a contribuição do pensamento
de mulheres negras para a comunicação no Brasil, Correa e colaboradores apontam a
partir dos desdobramentos de Crenshaw que
a emergência dos discursos, expressões e formas de conhecimento dos
sujeitos marginalizados permitem a compreensão de aspectos estruturais e
complexos das interações sociais de forma mais ampla. Desse modo, partindo
das práticas de deslegitimação discursiva e violência epistêmica como
mecanismos do racismo, sexismo e demais formas de opressão estruturais e
estruturantes, estas práticas se ramificam em toda a sociedade, organizando
todos os espaços de poder e visibilidade (CORREA et al, p.156)
Interseccionalidade é essencial, portanto, para entender como o capitalismo se
reinventa para manter e aproveitar ao máximo a “subordinação estrutural, a confluência
entre gênero, classe, globalização e raça” (CRENSHAW, 2002, p.14). Do ponto de
vista empírico da disciplina e ferramental das humanidades digitais, o projeto
interseccional pede que comecemos com as especificidades de um conjunto de dados,
Intercom Sociedade Brasileira de Estudos Interdisciplinares da Comunicação
42º Congresso Brasileiro de Ciências da Comunicação Belém - PA 2 a 7/09/2019
8
identifiquemos as camadas de diferença que intersectam com estes dados e usemos o
conhecimento como base para o desenho do projeto” (RUSAM, 2015, p.30, trad. livre).
Essas camadas de diferença são relevantes para a compreensão de como um dos temas
de pesquisa mais relevantes da comunicação digital hoje os algoritmos e seus vieses
nocivos (OSOBA & WELSER IV, 2017). Estes últimos são efetivamente inscritos em
tecnologias muitas vezes por omissão direcionada por uma falta de noção de alteridade
de desenvolvedores e engenheiros de computação (ALI, 2013).
Quem produz as tecnologias? Quem escreve os códigos? Qual o usuário-padrão
imaginado por estas pessoas? Uma perspectiva interseccional formula estas questões
sobre os objetos de pesquisa e sobre os pesquisadores. Entre as principais empresas do
Vale do Silício, por exemplo, a mediana de profissionais negros é de apenas 2,5%,
enquanto representam cerca de 14% da população estadunidense
9
. Os olhares que um
grupo minorizado pode ter sobre um determinado problema pode, com frequência, abrir
as caixas-pretas de um determinado sistema, como veremos no caso de Buolamwini &
Gebru (2018) na próxima seção. O conceito de “lugar de fala”, popularizado para além
da academia nos últimos anos no Brasil em grande medida por feministas negras
(RIBEIRO, 2017) se aproxima de preocupações interseccionais sobre os objetos de
análise, mas também sobre seus sujeitos. De forma similar, Pompper investiga o
conceito de “diferença” nas Relações Públicas, a partir das propostas da TRC, e
descobriu ser especialmente raros os trabalhos escritos por “pesquisador que
explicitamente descreva seu ou sua raça, etnia e cultura compara aos participantes do
estudo ou que descreva esforços para endereçar diferença a fim de minimizar vieses
potenciais” (POMPPER, 2005, p.154, trad. livre).
Conhecimento experiencial
O reconhecimento do ponto de vista da população e dos pesquisadores negros e de
minorias políticas e sexuais como agentes de construção de conhecimento também é um
pilar da Teoria Racial Crítica. Essa alteridade experienciada continuamente no cotidiano
parte de uma dualidade constante entre o pensamento, oralidades e escrita sobre si por
9
Dados combinados a partir da Comissão de Iguais Oportunidades em Emprego dos EUA e de crowdsourced,
compilados em https://www.revealnews.org/article/heres-the-clearest-picture-of-silicon-valleys-diversity-yet/
Intercom Sociedade Brasileira de Estudos Interdisciplinares da Comunicação
42º Congresso Brasileiro de Ciências da Comunicação Belém - PA 2 a 7/09/2019
9
parte da população negra em contraposição aos ideais totalizantes do positivismo. Para
além disto, pesquisadoras negras evocam a noção de “outro do outro”, ao tratar do ponto
de vista ou lugar de fala (RIBEIRO, 2017), reconhecendo que “conceitos de sabedoria,
conhecimento acadêmico e ciência estão intrinsicamente ligados ao poder e autoridades
raciais (KILOMBA, 2008, p.27, trad. livre).
Zuberi enfatiza este ponto ao tratar de como a Teoria Racial Crítica se desdobrou
nas Ciências Sociais nos EUA advinda do Direito mas, a rigor, boa parte de pensadores
negros desde o final do século XIX que escreveram sobre sociedade como o próprio W.
E. B. Du Bois, Maria H. Stewart e Frederick Douglass pavimentaram o caminho do uso
da fundamentação analítica para combater a supremacia branca na prática.
Assim como os pesquisadores marginalizados, mulheres e pessoas de cor
frequentemente se engajavam na academia como agentes de mudança. Eles
estavam preocupados em desafiar as hierarquias existentes e transformar as
próprias perspectivas dos cientistas sociais. Eu faço este destaque para que
possamos reconhecer que a TCR existia ainda antes que tivesse este nome. A
emergência da TCR como um movimento intelectual e político é um
momento fundamentalmente importante desta articulação. (ZUBERI, 2016,
p.467)
A emergência recente de dois grupos de objetos na pesquisa em comunicação
digital recente são exemplos do conhecimento experiencial de pesquisadoras negras
dedicadas ao campo e da “função das histórias e da cultura e da maneira como as
histórias são historicamente e socialmente posicionadas à medida que contamos
(FERREIRA, 2014, p. 245). Um deles é resultado da convergência entre três aspectos: a
ascensão de pontos de vista de mulheres negras em espaços acadêmicos, a tendência de
valorização da transição capilar como um resgate político da estética afro-brasileira e
mídias sociais como espaço de agregação comunitária e contra-narrativas. Os prolíficos
trabalhos sobre as comunidades relacionadas a transição capilar e cabelo afro nos
últimos 5 anos, realizados por graduandas, pós-graduandas e pesquisadoras negras,
mostram o uso do online na construção dessas comunidades e contra-narrativas
estéticas. A partir de Crenshaw, por exemplo, Souza e Muniz concluem sobre
universitárias da Unilab que “o empoderamento que a afirmação estética trouxe para
elas possibilitou inclusive um questionamento maior das opressões a que estavam
submetidas em contexto universitário e também geográfico” (2017, p. 97).
Sobre os desafios da invisibilidade, Buolamwini publicou diversos experimentos
de análise de viés e discriminação algorítmica nos últimos anos, com destaque para dois
Intercom Sociedade Brasileira de Estudos Interdisciplinares da Comunicação
42º Congresso Brasileiro de Ciências da Comunicação Belém - PA 2 a 7/09/2019
10
projetos. O primeiro deles (BUOLAMWINI, 2017; BUOLAMWINI & GEBRU, 2018)
investigou APIs de visão computacional para entender vieses de raça e gênero na
identificação de rostos e características como o próprio gênero e idade. Estas
tecnologias, de corporações como IBM e Microsoft, são empregadas de aplicativos
mobile de entretenimento a tecnologias de vigilância e, portanto, cada vez mais críticas
nos fluxos de mensuração biopolítica. As pesquisadoras identificaram também um
abismo na acurácia de identificação das variáveis, de um espectro que vai da precisão
altíssima em fotos de homens brancos a taxas de erros enormes em fotos de mulheres
negras. Além do artigo acadêmico, disponibilizaram o site GenderShades.org que
explica claramente os principais resultados do experimento com páginas interativas,
gráficos e vídeos. E desenvolveram um dataset mais eficiente que o usado por aqueles
fornecedores de visão computacional. Depois de publicar os resultados, os fornecedores
supracitados das tecnologias publicaram notas sobre os erros
10
. Um ano depois, a
pesquisadora reproduziu o experimento nas APIs para conferir se os índices melhoraram
(RAJI & BUOLAMWINI, 2019), identificando que o gap entre a acurácia diminuiu
também incluíram outros fornecedores, Amazon e Kairos, para comparação e expansão
do impacto.
O fazer acadêmico nesta trajetória destes experimentos de Buolamwini, como
pudemos ver, foi além da materialidade das métricas tradicionais de publicação e
citações, incluindo divulgação científica e impacto mensurável. Ao “destacar o tema das
disparidades de performance classificatória e amplificar consciência pública do
problema, o estudo foi capaz de motivar empresas a priorizar a questão e gerar
melhorias significativas” (RAJI & BUOLAMWINI, 2019, p. 6). Mas esta jornada
começou antes, do ponto de vista experiencial da estudante. Em um TED de 2016, Joy
Buolamwini comentou como, em uma demonstração de reconhecimento racial durante
um evento,
a demonstração funcionou com toda a gente até chegar a minha vez.
Provavelmente já adivinham. Não conseguiu detectar o meu rosto. Perguntei
aos responsáveis o que é que se passava, e acontece que tínhamos usado o
mesmo software genérico de reconhecimento facial. Do outro lado do mundo,
aprendi que o preconceito do algoritmo pode viajar tão depressa quanto um
download de arquivos da Internet.
11
10
IBM: http://gendershades.org/docs/ibm.pdf e Microsoft: http://gendershades.org/docs/msft.pdf
11
https://www.ted.com/talks/joy_buolamwini_how_i_m_fighting_bias_in_algorithms/transcript?language=pt
Intercom Sociedade Brasileira de Estudos Interdisciplinares da Comunicação
42º Congresso Brasileiro de Ciências da Comunicação Belém - PA 2 a 7/09/2019
11
A ênfase que a Teoria Racial Crítica dá, então, ao conhecimento experiencial
não pode ser subestimada. Além do caso acima ter visto por milhões de pessoas no site
da TED e ter motivado a pesquisadora, trata-se de um caso particular sobre o valor do
conhecimento experiencial particular. Associado à destreza técnica e acadêmica
posterior, este conhecimento permitiu que duas pesquisadoras sozinhas propusessem um
sistema mais eficiente do que dezenas de desenvolvedores da IBM e Microsoft.
Transformação Social
O próximo pilar é imbricado nos anteriores e podemos evocar os casos citados. A
prática política de transformação social, então, é outro pilar do movimento, uma vez que
esta “mede progresso pelo avanço nos trilhos para a transformação social fundamental”
(MATSUDA et al, 1993, pos.202, trad. livre). Desse modo, habilitar mudanças positivas
da realidade social é uma prerrogativa da TRC. Se as tecnologias podem engendrar
processos de racialização e injustiças, também é necessário “pressionar as fronteiras das
políticas públicas de modo que a compreensão dos modos que a marginalização é
mantida possa mudar substancialmente” (NOBLE, 2018, pos. 1301, trad. livre).
Em trabalho sobre websites de universidades e seu papel na representação e
acolhimento de estudantes racializados nos EUA, Mungo pontua que “a presença ou
ausência de pessoas de cor em websites de universidades, o texto que ocorre junto a
suas imagens, os papéis que desempenham e as mensagens sobre raça são todos
elementos importantes (MUNGO, 2016, p.242, trad. livre). Interrogar os modos pelos
quais estes websites são construídos é uma tarefa que envolve tanto a análise de
representação dos personagens escolhidos quanto sua contextualização socio-histórica
com dados quanto reflexão sobre o papel das universidades no combate às
desigualdades.
Este chamado pelo trabalho “além dos muros da academia” não se trata de uma
crítica ao acadêmico ou “academicismo” como se fosse uma posição ruim per si. Como
apontam Ladson-Billings e Donnor, o desafio não é a rejeição do conhecimento
acadêmico ou papel da universidade nem defender que todos devam seguir o lugar e o
ethos acadêmico “mas reconhecer as identidades de fora da academia que devemos
Intercom Sociedade Brasileira de Estudos Interdisciplinares da Comunicação
42º Congresso Brasileiro de Ciências da Comunicação Belém - PA 2 a 7/09/2019
12
recrutar para nós mesmos a fim de sermos pesquisadores mais efetivos em nome de
quem pode usar nossas competências e habilidades” (2008, p.298, trad. livre).
A comunicação como objeto e como fim se entrelaçam no olhar da TRC, uma
vez que os ambientes digitais se tornam um local essencial para disputas de narrativas
do ponto de vista da retórica dos ativismos e participação digitais e também do resgate
de história, dados e informações ou, ainda, promoção de literacias digitais na interface
com a educação (DANIELS, NKONDE & MIR, 2019). Uma “tecnologia do resgate” é
o que define Gallon ao propor uma perspectiva negra sobre as humanidades digitais. Os
esforços de “trazer a humanidade plena de pessoas marginalizadas através do uso de
plataformas e ferramentas digitais” (GALLON, 2015, s.p., trad. livre) aproximam, para
a autora, tanto projetos típicos de humanidades digitais quanto movimentações como o
#BlackLivesMatter e casos de auditoria algorítmica como os citados.
Interdisciplinaridade
Por fim, como também o conceito de interseccionalidade já citado acima evoca, a
interdisciplinaridade é considerada marca essencial para os objetivos de projetos
calcados na Teoria Racial Crítica. Para Obasogie, “ligar métodos das ciências sociais
com a teoria crítica racial fornece uma oportunidade notável de produzir pensamento
acadêmico racial que seja tanto teoricamente sofisticado quanto empiricamente robusto”
(OBASOGIE, 2013, p.185, trad. livre).
Ao transitar do Direito para Educação, História, Sociologia, Comunicação e
outras disciplinas, a TRC demonstrou sua capacidade transdisciplinar que, justamente,
pode ajudar a superar uma “literatura acadêmica hegemônica tende a tratar raça como
um aspecto a-histórico, essencialista e despolitizado da identidade” (ALLEN, 2007,
p.260, trad. livre). Mas, para além de inspirar programas de investigação em outras
disciplinas, a TRC procura ir além para promover “uma análise mais abrangente e
multifacetada de como raça, racismo e (des)igualdade racial se manifestam
(FERREIRA, 2014, p. 243). Uma vez que o digital espraiou-se para diferentes facetas
semânticas e materiais da sociedade, merecem destaque propostas informadas pela TRC
que se debruçam especialmente sobre o aspecto interdisciplinar, podemos citar a
Intercom Sociedade Brasileira de Estudos Interdisciplinares da Comunicação
42º Congresso Brasileiro de Ciências da Comunicação Belém - PA 2 a 7/09/2019
13
Critical Technocultural Discourse Analysis e a aproximação ao conceito de
“microagressões raciais”.
Desenvolvida pelo psiquiatra Chester Pierce nos anos 1970, a trajetória das
pesquisas sobre microagressões tenta entender como racismo e posteriormente outros
tipos de opressões se manifestam em agressões contínuas e aparentemente sutis no
cotidiano de grupos minorizados. Aproximar da TRC permite que se vá “além da
interação agressor-vítima e ilustra que estes atos racistas cotidianos possuem um
propósito, sejam cometidos conscientemente ou não, de perpetuar e justificar um
sistema amplo de dominação racial (HUBER & SOLORZANO, 2014, p.18, trad.
livre). Aplicada a estudos de racismo online e crimes de ódio em suas manifestações
discursivas e algorítmicas, expande-se a tipologia clássica de microagressões para
incluir desinformação e deseducação (TYNES et al, 2019; SILVA, 2019)
A Análise Tecnocultural Crítica de Discurso (Critical Technocultural Discourse
Analysis) foi proposta por Brock (2012, 2016) e performa “análises do design virtual e
material das tecnologias da informação com um olhar investigativo sobre a produção de
significado através das práticas e articulações dos usuários em questão” (BROCK, 2016,
p.2, trad. livre). O entendimento é que a CTDA busca abordar a Internet e objetos de
mídia para pensar multimodalmente: infraestrutura, serviço, plataforma, aplicações,
objeto, sujeito, ação e discurso são indissociáveis e o pesquisador parte da análise crítica
não apenas de conteúdos, mas também como o meio evoca e materializa as relações de
poder - e racialização - que formata os "usuários" e "produtores" em diferentes
engajamentos com o fenômeno em questão.
Conclusões e desdobramentos
Buscamos, neste artigo, apresentar os principais pilares da Teoria Racial Crítica e
colaborações possíveis para debates contemporâneos sobre objetos da comunicação
digital, notadamente potenciais impactos de interfaces e algoritmos digitais em um
mundo plataformizado e cada vez mais opaco.
A partir de seis dos pilares mais característicos da perspectiva da Teoria Racial
Crítica, queremos promover sem pretensões a universalismos ou perspectivas
positivistas seu “reconhecimento como um movimento, assim como através da
Intercom Sociedade Brasileira de Estudos Interdisciplinares da Comunicação
42º Congresso Brasileiro de Ciências da Comunicação Belém - PA 2 a 7/09/2019
14
colaboração de indivíduos e tradições oriundas de outras disciplinas” (ZUBERI, 2016,
p. 482). Concordamos com Silva e Pires quanto ao papel da TRC questiona fatos que
também são relevantes no Brasil ao se discutir a estrutura racialmente hierarquizada da
sociedade e das instituições (2015, p.68). As semelhanças entre a tradição
estadunidense e o pensamento de pensadores negros brasileiros sobre raça permite
evidenciar tanto as estratégias e políticas antirracistas desenvolvidas pelos acadêmicos
negros, como as estratégias de exclusão, silenciamento e apagamento articuladas pelo
supremacismo branco ambos em uma perspectiva transnacional” (FERREIRA &
QUEIROZ, p. 218). Um projeto interdisciplinar que não veja a comunicação apenas
como campo de formatos e meios por uma “tecnofilia acrítica” e possa buscar de fato
seu valor social, cultural e político (SODRÉ, 2012).
Em trabalhos vindouros se buscará a diversificação do debate sobre os pilares da
TRC no campo, fenômenos, objetos e redes da comunicação digital, com vista a somar
aos esforços de conexões epistemológicas das similaridades e problemas em comum das
populações afrodiaspóricas.
Referências Bibliográficas
ALI, Syed Mustafa. Race: the difference that makes a difference. tripleC: Cognition, Communication,
Co-operation, v. 11, n. 1, p. 93-106, 2013.
ALLEN, Brenda J. Theorizing communication and race. Communication Monographs, v. 74, n. 2, p.
259-264, 2007.
BENTO, Maria Aparecida da Silva. Pactos narcísicos no racismo: branquitude e poder nas
organizações empresariais e no poder público. 2002. Tese de Doutorado. Universidade de São Paulo.
BROCK, André. From the blackhand side: Twitter as a cultural conversation. Journal of Broadcasting
& Electronic Media, v. 56, n. 4, p. 529-549, 2012.
BROCK, André. Critical technocultural discourse analysis. New Media & Society, v. 20, n. 3, p. 1012-
1030, 2016.
BUOLAMWINI, J. Gender shades: intersectional phenotypic and demographic evaluation of face
datasets and gender classifiers. 2017. Tese de Doutorado. Massachusetts Institute of Technology.
BUOLAMWINI, Joy; GEBRU, Timnit. Gender shades: Intersectional accuracy disparities in commercial
gender classification. In: Conference on Fairness, Accountability and Transparency. 2018. p. 77-91.
CORRÊA, L. G.; GUIMARÃES-SILVA, P.; BERNARDES, M; FURTADO, L.. Entre o interacional e o
interseccional: Contribuições teórico-conceituais das intelectuais negras para pensar a
comunicação. Revista ECO-Pós, v. 21, n. 3, p. 147-169.
COTTOM, T. M. Black cyberfeminism: Ways forward for intersectionality and digital sociology. In:
Daniels, J.; GREGORY, K.; COTTOM, T. M. (eds). Digital Sociologies. Bristol (Reino Unido): Policy
Press. pp. 233, 2016.
CRENSHAW, Kimberle. A intersecionalidade na discriminação de raça e gênero. VV. AA. Cruzamento:
raça e gênero. Brasília: Unifem, 2002.
CRENSHAW, Kimberle. Demarginalizing the intersection of race and sex: A Black feminist critique of
antidiscrimination doctrine, feminist theory, and antiracist politics [1989]. In: Feminist legal theory.
Routledge, 2018. p. 57-80.
Intercom Sociedade Brasileira de Estudos Interdisciplinares da Comunicação
42º Congresso Brasileiro de Ciências da Comunicação Belém - PA 2 a 7/09/2019
15
DANIELS, Jessie. Race and racism in Internet studies: A review and critique. New Media & Society, v.
15, n. 5, p. 695-719, 2013.
DANIELS, Jessie. the algorithmic rise of the “alt-right”. Contexts, v. 17, n. 1, p. 60-65, 2018.
FERREIRA, Aparecida de Jesus. Teoria Racial Crítica e Letramento Racial Crítico: narrativas e
contranarrativas de identidade racial de professores de Línguas. Revista da Associação Brasileira de
Pesquisadores/as Negros/as (ABPN), v. 6, n. 14, p. 236-263, 2014.
FERREIRA, Gianmarco Loures; QUEIROZ, Marcos Vinícius Lustosa. A trajetória da Teoria Crítica da
Raça: história, conceitos e reflexões para pensar o Brasil. Teoria Jurídica Contemporânea, v. 3, n. 1, p.
201-229, 2018.
GALLON, Kim. Making a case for the Black digital humanities. Debates in the Digital Humanities, p.
42-49, 2016.
HUBER, Lindsay; SOLORZANO, Daniel G. Racial microaggressions as a tool for critical race research.
Race Ethnicity and Education, v. 18, n. 3, p. 297-320, 2015.
LADSON-BILLINGS, G.; DONNOR, J. K. Waiting for the Call: The Moral Activist Role of Critical
Race Theory Scholarship. In: DENZIN, Norman K.; LINCOLN, Yvonna S.; SMITH, Linda Tuhiwai
(Ed.). Handbook of critical and indigenous methodologies. Sage, 2008.
LÓPEZ, Gerardo R. The (racially neutral) politics of education: A critical race theory
perspective. Educational Administration Quarterly, v. 39, n. 1, p. 68-94, 2003.
MATSUDA, Mari J.; LAWRENCE III, C. R.; DELGADO, R.; CRENSHAW, K. W. Words that wound:
Critical race theory, assaultive speech, and the first amendment. Nova Iorque (EUA): Routledge, 1993.
MUNGO, Monita H. Deconstructing racism on college websites. In: Daniels, J.; GREGORY, K.;
COTTOM, T. M. (eds). Digital Sociologies. Bristol (Reino Unido): Policy Press. pp. 233, 2016.
NASCIMENTO, Abdias. O genocídio do negro brasileiro: processo de um racismo mascarado. São
Paulo: Editora Perspectiva SA, 2016.
NASCIMENTO, Abdias. O Quilombismo: documentos de uma militância pan-africanista. São Paulo:
Editora Perspectiva, 2019.
NOBLE, Safiya Umoja. Algorithms of oppression: How search engines reinforce racism. nyu Press,
2018.
OBASOGIE, Osagie K. Foreword: critical race theory and empirical methods. UC IRVINE L. REV., v.
3, p. 183, 185, 2013.
OSOBA, Osonde A.; WELSER IV, William. An intelligence in our image: The risks of bias and
errors in artificial intelligence. Rand Corporation, 2017.
POMPPER, Donnalyn. " Difference" in Public Relations Research: A Case for Introducing Critical Race
Theory. Journal of Public Relations Research, v. 17, n. 2, p. 139-169, 2005.
RAJI, I.; BUOLAMWINI, J.. Actionable auditing: Investigating the impact of publicly naming biased
performance results of commercial ai products. In: AAAI/ACM Conf. on AI Ethics and Society. 2019.
RIBEIRO, Djamila. O que é lugar de fala?. Letramento Editora e Livraria LTDA, 2017.
SILVA, Caroline Lyrio; PIRES, Thula Rafaela de Oliveira. Teoria crítica da raça como referencial teórico
necessário para pensar a relação entre direito e racismo no Brasil. In: Paper apresentado no XXIV
Encontro Nacional do Conselho Nacional de Pesquisa e Pós-Graduação em Direito CONPEDI. Mesa
Direito dos Conhecimentos. Belo Horizonte MG, 2015.
SILVA, Tarcízio. Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação em
código. In: Anais do VI Simpósio Internacional LAVITS. Salvador, Bahia, Brasil. 2019.
SODRÉ, Muniz. Comunicação: um campo em apuros teóricos. Matrizes, v. 5, n. 2, p. 11-27, 2012.
SOUZA, Ana Lucia Silva; MUNIZ, Kassandra da Silva. Descolonialidade, performance e diáspora
africana no interior do Brasil: sobre transições identitárias e capilares entre estudantes da UNILAB.
Cadernos de Linguagem e Sociedade, 18(2), 2017.
SYLVAIN, Olivier. Discriminatory Designs on User Data. Knight First Amendment Institute. 2018.
TYNES, Brendesha M. et al. From Racial Microaggressions to Hate Crimes: A Model of Online Racism
Based on the Lived Experiences of Adolescents of Color. Microaggression Theory: Influence and
Implications, p. 194-212, 2018.
ZUBERI, Tukufu. Teoria crítica da raça e da sociedade nos Estados Unidos. Cadernos do CEAS:
Revista crítica de humanidades, n. 238, p. 464-487, 2016.
Conference Paper
Full-text available
Ambientes como Facebook, Twitter, YouTube e marketplaces de aplicativos mobile são mecanismos centrais do capitalismo de vigilância. Os vieses algorítmicos e affordances racistas nestas plataformas digitais de publicidade estão sendo crescentemente analisados nos últimos 15 anos por pesquisadoras informadas por perspectivas variadas. Como resultado estão em desenvolvimento iniciativas de auditoria de algoritmos e plataformas, construção de datasets e procedimentos mais responsáveis, além de indicações regulatórias. A opacidade presente nas caixas-pretas dos grupos de sistemas automatizados e semi-automatizados baseados em algoritmos que regem visibilidade, classificação, vigilância e regras de uso nas plataformas digitais complexifica e dificulta esta investigação. Esta questão se aplica tanto ao desenho de processos internos quanto à configuração de algoritmos e é agravada pela ideologia da "cegueira racial", tática que compõe historicamente do genocídio negro, que também é epistemológico. O trabalho propõe colaborar ao campo de estudos sobre vieses algorítmicos ao aproximar a investigação sobre vieses raciais nos algoritmos de plataformas digitais ao conceito de microagressões raciais (Pierce, 1970). Estas seriam definidas como mensagens rotineiras que comunicam insultos e desprezo racial e podem ser apresentadas de forma verbal, comportamental ou ambientalmente contra grupos racializados. A pesquisa sobre microagressões raciais propõe modos de analisar, entender e combater este tipo de violência em contextos de socialização, midiáticos ou educacionais com o objetivo de minimizar o impacto na formação e pleno desenvolvimento de populações negras, entre outras. Aplicando a tipologia de microagressões proposta por Tynes et al (2018) a partir de Sue (2007) a mapeamento realizado pelo autor, o artigo discute casos de comunicação algorítmica racista em plataformas digitais ligando aspectos das plataformas a categorias e subcategorias propostas sobre microagressões.
Article
Full-text available
RESUMO: O artigo aborda a formação do campo científico da Teoria Crítica da Raça – TCR, discutindo sua origem, em uma dupla perspectiva, sua trajetória ideológica e social. A seguir, passa-se a detalhar seus temas centrais, com o objetivo de identificar suas proximidades com o referencial teórico brasileiro sobre relações raciais e o possível uso das metodologias e conceitos propostos no contexto nacional. Este trabalho conclui abordando duas possibilidades: a de expansão do uso da TCR para pensar a realidade brasileira, de forma a contribuir para uma análise aprofundada do racismo; e a de reconstrução de uma genealogia mais ampla de uma teoria crítica da raça dentro das ciências jurídicas tendo em vista as contribuições de intelectuais brasileiros. ABSTRACT: This article addresses the formation of the scientific field of the Critical Race Theory – CRT, discussing its origin, in a double perspective, its ideological and social trajectory. Subsequently, the main themes of CRT are presented, with the objective of identifying their proximity to the Brazilian theoretical framework on race relations, and the possible use of the proposed methodologies and concepts in the national context. This paper concludes exploring two possibilities: the use of the TCR to think the Brazilian reality, in order to contribute to a thorough analysis of racism; and the reconstruction of a broader genealogy of a critical theory of race within the legal sciences in view of the contributions of Brazilian intellectuals.
Article
Full-text available
Neste artigo, propomos o entrelaçamento das contribuições teóricas de intelectuais negras com o paradigma relacional da comunicação. Tomando como ponto de partida dois episódios de racismo envolvendo celebridades no Brasil em 2017 (o ataque à filha adotiva de Bruno Gagliasso e Giovanna Ewbank, e a repercussão negativa da palestra de Taís Araújo sobre o preconceito racial contra seus filhos), e também nossas vivências como pesquisadoras negras, exploramos os conceitos de interseccionalidade, desenvolvido por Kimberlé Crenshaw (1989), e de estrangeira de dentro (outsider within), desenvolvido por Patricia Hill Collins (2016), a fim de evidenciarmos como a visão interseccional pode contribuir para complexificar a análise de fenômenos comunicacionais numa sociedade marcada por desigualdades de raça e gênero.
Article
Full-text available
Critical Technocultural Discourse Analysis (CTDA) is a multimodal analytic technique for the investigation of Internet and digital phenomena, artifacts, and culture. It integrates an analysis of the technological artifact and user discourse, framed by cultural theory, to unpack semiotic and material connections between form, function, belief, and meaning of information and communication technologies (ICTs). CTDA requires the incorporation of critical theory—critical race, feminism, queer theory, and so on—to incorporate the epistemological standpoint of underserved ICT users so as to avoid deficit-based models of underrepresented populations’ technology use. This article describes in detail the formulation and execution of the technique, using the author’s research on Black Twitter as an exemplar. Utilizing CTDA, the author found that Black discursive identity interpellated Twitter’s mechanics to produce explicit cultural technocultural digital practices—defined by one investor as “the use case for Twitter.” Researchers interested in using this technique will find it an intervention into normative and analytic technology analyses, as CTDA formulates technology as cultural representations and social structures in order to simultaneously interrogate culture and technology as intertwined concepts.
Conference Paper
Although algorithmic auditing has emerged as a key strategy to expose systematic biases embedded in software platforms, we struggle to understand the real-world impact of these audits, as scholarship on the impact of algorithmic audits on increasing algorithmic fairness and transparency in commercial systems is nascent. To analyze the impact of publicly naming and disclosing performance results of biased AI systems, we investigate the commercial impact of Gender Shades, the first algorithmic audit of gender and skin type performance disparities in commercial facial analysis models. This paper 1) outlines the audit design and structured disclosure procedure used in the Gender Shades study, 2) presents new performance metrics from targeted companies IBM, Microsoft and Megvii (Face++) on the Pilot Parliaments Benchmark (PPB) as of August 2018, 3) provides performance results on PPB by non-target companies Amazon and Kairos and, 4) explores differences in company responses as shared through corporate communications that contextualize differences in performance on PPB. Within 7 months of the original audit, we find that all three targets released new API versions. All targets reduced accuracy disparities between males and females and darker and lighter-skinned subgroups, with the most significant update occurring for the darker-skinned female subgroup, that underwent a 17.7% - 30.4% reduction in error between audit periods. Minimizing these disparities led to a 5.72% to 8.3% reduction in overall error on the Pilot Parliaments Benchmark (PPB) for target corporation APIs. The overall performance of non-targets Amazon and Kairos lags significantly behind that of the targets, with error rates of 8.66% and 6.60% overall, and error rates of 31.37% and 22.50% for the darker female subgroup, respectively.
Chapter
This chapter attempts to synthesize the literatures of microaggressions and proposes a model of online racism that includes both subtle and explicit forms that represent the range of experiences users may have online. Three types of online racism are online racial microaggressions, online racial discrimination, and online hate crimes. The chapter outlines examples of each type. Heeding the call to have the “microaggressed” define their experiences, interview data are utilized from a sample of Adolescents of Color. The chapter outlines the nature and impact of online racism for youth development. Furthermore, it argues that future research on online racism should further determine whether and how adolescents make meaning around each component of the proposed model. More research is needed because there tends to be widespread efforts to have students use mobile technology and the Internet in their learning, without regard to whether the online curricula or the technology reproduces white supremacy as with off‐line curricula.
Thesis
This thesis (1) characterizes the gender and skin type distribution of IJB-A, a government facial recognition benchmark, and Adience, a gender classification benchmark, (2) outlines an approach for capturing images with more diverse skin types which is then applied to develop the Pilot Parliaments Benchmark (PPB), and (3) uses PPB to assess the classification accuracy of Adience, IBM, Microsoft, and Face++ gender classifiers with respect to gender, skin type, and the intersection of skin type and gender. The datasets evaluated are overwhelming lighter skinned: 79.6% - 86.24%. IJB-A includes only 24.6% female and 4.4% darker female, and features 59.4% lighter males. By construction, Adience achieves rough gender parity at 52.0% female but has only 13.76% darker skin. The Parliaments method for creating a more skin-type-balanced benchmark resulted in a dataset that is 44.39% female and 47% darker skin. An evaluation of four gender classifiers revealed a significant gap exists when comparing gender classification accuracies of females vs males (9 - 20%) and darker skin vs lighter skin (10 - 21%). Lighter males were in general the best classified group, and darker females were the worst classified group. 37% - 83% of classification errors resulted from the misclassification of darker females. Lighter males contributed the least to overall classification error (.4% - 3%). For the best performing classifier, darker females were 32 times more likely to be misclassified than lighter males. To increase the accuracy of these systems, more phenotypically diverse datasets need to be developed. Benchmark performance metrics need to be disaggregated not just by gender or skin type but by the intersection of gender and skin type. At a minimum, human-focused computer vision models should report accuracy on four subgroups: darker females, lighter females, darker males, and lighter males. The thesis concludes with a discussion of the implications of misclassification and the importance of building inclusive training sets and benchmarks.