Available via license: CC BY-NC-ND
Content may be subject to copyright.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
29
DOI: http://dx.doi.org/10.20912/rdc.v13i30.2656
ESTRATÉGIAS DE ENFRENTAMENTO AO DISCURSO DE ÓDIO NA
INTERNET: O CASO ALEMÃO
STRATEGIES FOR ADDRESSING HATE SPEECH ON THE INTERNET IN GERMANY
Thiago Dias OlivaI
Dennys Marcelo AntonialliII
I Universidade de São Paulo (USP), São Paulo, SP, Brasil. Doutorando em Direito. E-mail:
thiago.dias.oliva@gmail.com
II Universidade de São Paulo (USP), São Paulo, SP, Brasil. Doutor em Direito. E-mail:
dennys@internetlab.org.br
Resumo: O discurso de ódio, muito embora seja
um problema amplamente reconhecido,
permanece controverso em diversos aspectos que
vão desde a sua definição, os parâmetros para sua
identificação no caso concreto até a resposta que
se deve dar a ele, sobretudo do ponto de vista
jurídico. O ambiente virtual veio acrescentar mais
uma camada de complexidade ao problema,
colocando novos obstáculos à construção de uma
sociedade inclusiva e multicultural. Neste
contexto, o Governo Federal da Alemanha
aprovou lei mais agressiva no combate ao
discurso de ódio na Internet. Em paralelo à
aprovação da nova lei, novas iniciativas
independentes surgem com o objetivo de fazer
frente à crescente disseminação do ódio nas redes.
Para tanto, são desenvolvidas abordagens
alternativas centradas na noção de contradiscurso.
Considerando que o combate à disseminação de
ódio é uma questão premente também no Brasil, o
presente trabalho propõe-se a investigar com
maior detalhamento as estratégias de
enfrentamento ao problema na Alemanha, com o
objetivo de propor reflexões em território nacional
sobre o caminho ideal para combater o problema
por aqui. O estudo será norteado pelas seguintes
perguntas: as iniciativas regulatórias propostas
para combater o discurso de ódio online na
Alemanha representam risco à liberdade de
expressão? Existem outras formas de enfrentar o
problema?
Palavras-chave: Alemanha. Discurso de ódio.
Plataformas de Internet. Redes sociais.
Abstract: Hate speech is widely acknowledged as
a problem. However, fighting against it remains
controversial due the lack of common
understanding regarding its definition, standards
for identifying it in concreto, as well as the best
way of addressing it, especially from the legal
standpoint. The digital environment added new
complexities to the issue, placing new obstacles to
the building of a more inclusive and multicultural
society. In this context, Germany’s Federal
Government approved a more aggressive law
designed to address hate speech on the Internet.
At the same time, new independent initiatives
developed to deal with online hate speech emerge.
For that matter, they employ counter speech
strategies. Considering that hate speech is an
issued to be addressed in Brazil as well, the
present article intends to investigate in more detail
the strategies designed to tackle the problem in
Germany, with the objective of providing insights
for discussing the topic in national territory,
aiming to find the best way to deal with the issue
in the country. The article will be guided by the
following questions: the regulatory policies
designed to tackle online hate speech in Germany
pose risks to free speech? Are there alternative
ways to address the issue?
Keywords: Germany. Hate speech. Internet
platforms. Social media.
Sumário: 1 Introdução; 2 O conceito de discurso de ódio; 3 O modelo de responsabilização das
plataformas na Alemanha; 4 As dificuldades das plataformas; 5 Alternativas: articulação da sociedade
civil; 6 Conclusão; Referências.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
30
1 Introdução
Como lidar com o discurso de ódio na Internet? Se mesmo antes da sua
disseminação nas redes sociais o problema já apresentava obstáculos suficientes à
construção de sociedades verdadeiramente multiculturais, o ambiente virtual veio
acrescentar mais uma camada de complexidade à questão.
Na União Europeia, onde a discussão já está mais avançada – ao menos em
termos de consolidação de diretivas e orientações de órgãos supranacionais sobre a
matéria – a preocupação com o discurso de ódio avançou para o ambiente digital.
Em maio do ano passado, a Comissão Europeia, em conjunto com o Facebook, a
Microsoft, o Twitter e o YouTube, subscreveram um código de conduta para
combater o discurso de ódio
1
. Dentre as diversas disposições do documento, as
plataformas assumiram o compromisso de remover conteúdo tido por “discurso de
ódio ilegal” em até 24 horas contadas de notificação solicitando essa remoção. Além
disso, deveriam tornar mais claro aos seus usuários quais tipos de conteúdo não são
permitidos e promover iniciativas de contradiscurso.
Passado um ano da divulgação do código de conduta, a Comissão Europeia
soltou nota
2
comemorando o aniversário da iniciativa e números que comprovariam
uma postura mais proativa das plataformas para lidar com o problema do discurso de
ódio: em média, em 59% dos casos as empresas teriam respondido às notificações
relatando a existência de discurso de ódio por meio da remoção do conteúdo
indicado (o dobro em relação aos seis meses que antecederam o código, quando o
índice era de apenas 28%). Teria havido também, melhora nos índices de
processamento das notificações em 24 horas: de 40% para 51%, sendo o Facebook a
única plataforma que conseguiu atingir a meta de analisar integralmente as
notificações no prazo de um dia.
Os números atestariam, deste modo, um visível progresso das plataformas na
análise das notificações, na implementação de parcerias com a sociedade civil para
esse fim, bem como na prestação sistemática de informações sobre processos
internos de remoção de conteúdo – ainda que a qualidade dessas informações e o
índice de resposta às notificações varie consideravelmente entre as empresas de
tecnologia.
Para o Governo Federal da Alemanha, no entanto, a iniciativa não pareceu ser
o suficiente haja vista a aprovação, no dia 30 de junho de 2017, de lei mais agressiva
no combate ao discurso de ódio na Internet
3
. Ela fixa multas milionárias em caso de
1
Para ver o documento acessar: <http://www.statewatch.org/news/2017/sep/eu-com-illegal-content-
online-code-of-conduct.pdf> [https://perma.cc/X3Y8-JRFE].
2
COMISSÃO EUROPEIA. Countering online hate speech – Comission initiative with social media
platforms and civil society shows progress. Bruxelas, 1º de junho de 2017. Disponível em:
<http://europa.eu/rapid/press-release_IP-17-1471_en.htm> [https://perma.cc/42XA-PEGR], acesso em 23
jul 2018.
3
ALEMANHA. Gesetzentwurf der Fraktionen der CDU/CSU und SPD - Drucksache 18/12356. Berlin:
Bundestag, 2017. Disponível em: <http://dip21.bundestag.de/dip21/btd/18/123/1812356.pdf>. Acesso
em: 23 jul. 2018.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
31
descumprimento
4
por parte das plataformas, que deverão remover conteúdos
“claramente ilícitos” em até 24 horas.
O projeto de lei que culminou na nova legislação aponta como justificativa o
desenvolvimento de uma cultura do debate mais “agressiva, danosa e odiosa”,
guiada por mudanças maciças no debate público travado nas redes sociais. Essa
situação teria aberto espaço para a disseminação de conteúdos criminosos como o
discurso de ódio, o que colocaria em risco a coexistência pacífica das pessoas em
uma sociedade livre, multicultural e democrática.
Outro setor que compartilha da insatisfação do governo alemão em relação às
iniciativas tomadas pelas plataformas para combater o discurso de ódio parece ser a
sociedade civil: em paralelo à aprovação da nova lei, novas iniciativas
independentes – a exemplo do projeto #Ichbinhier – surgem com o objetivo de fazer
frente à crescente disseminação do ódio nas redes. Para tanto, utilizam-se de
abordagens alternativas centradas na noção de contradiscurso, de modo a promover
o multiculturalismo e a diversidade.
Considerando que o combate à disseminação de ódio é uma questão premente
também no Brasil, o presente trabalho propõe-se a investigar com maior
detalhamento as estratégias de enfrentamento ao problema na Alemanha e suas
dificuldades, com o objetivo de propor reflexões em território nacional. O estudo
será norteado pelas seguintes perguntas: as iniciativas regulatórias propostas para
combater o discurso de ódio online na Alemanha representam risco à liberdade de
expressão? Existem outras formas de enfrentar o problema?
No entanto, antes de responder a essas perguntas e como condição para
desenvolver as análises propostas a partir delas, o artigo definirá, por meio da
análise de doutrina produzida sobre o assunto, os contornos conceituais do termo
“discurso de ódio”.
Na sequência, retornando às perguntas, o presente estudo fará análise das
principais normas aprovadas no país europeu com a finalidade de regular o discurso
na internet, sobretudo nas redes sociais. A análise ficará centrada, sobretudo, no
texto da Lei de Aprimoramento da Implementação de Normas nas Redes Sociais e
nas dificuldades das plataformas digitais no combate ao discurso de ódio. Além
disso, o artigo investigará o propósito e os mecanismos de funcionamento do projeto
#Ichbinhier, iniciativa da sociedade civil que propõe uma abordagem alternativa ao
discurso de ódio disseminado no Facebook, reduzindo seu impacto negativo por
meio de estratégias de contradiscurso.
2 O conceito de discurso de ódio
Sarmento define o “discurso de ódio” ou hate speech como “manifestações
de ódio, desprezo ou intolerância contra determinados grupos, motivadas por
4
CLARK, Liat. Facebook and Twitter face 50€m fines of they don’t tackle hate speech. Wired, 30 de
junho de 2017. Disponível em: <http://www.wired.co.uk/article/facebook-twitter-hate-speech-germany-
fine>. Acesso em: 23 jul. 2018.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
32
preconceitos ligados à etnia, religião, gênero, deficiência física ou mental e
orientação sexual, dentre outros fatores”
5
.
Identificando elementos convergentes na definição jurídica de discurso de
ódio empregada por democracias ocidentais, Waldron, ressalta que esses países
regulam “o uso de palavras que são deliberadamente abusivas e/ou insultantes e/ou
ameaçadoras e/ou humilhantes direcionadas a membros de minorias vulneráveis, de
modo a instigar ao ódio contra elas”
6
.
Como o uso do termo “discurso” para tratar de expressões de ódio demonstra,
o “discurso de ódio” deve ser interpretado como um “ato discursivo”, em virtude de
seu caráter eminentemente comunicativo. Nessa categoria, encontram-se
manifestações escritas – em documento eletrônico, disseminado na internet ou em
papel impresso ou –, orais ou visuais – veiculação/exibição de símbolos ou
imagens. São expressões que se tornam, de forma “permanente ou
semipermanente, parte visível do ambiente em que nós [pessoas em geral] e os
membros de grupos vulneráveis conduzem suas vidas”
7
.
A preponderância do elemento comunicativo na manifestação de ódio é
justamente a principal diferença em relação aos crimes de ódio em sentido
estrito. Para Jeremy Waldron, essa forma de discurso tem por objetivo principal,
a transmissão de duas mensagens: uma, de conteúdo intimidatório, dirigida a
membros de um grupo socialmente vulnerável e outra, visando à instigação ao
ódio, destinada ao restante da sociedade em que o grupo em questão está
inserido
8
.
Há também a transmissão de uma mensagem discriminatória nos crimes
motivados pelo preconceito, mas a ênfase da conduta recai no ato de desvalor contra
a integridade patrimonial ou física da vítima. É importante ressaltar, entretanto, que
o discurso de ódio – da mesma forma que o crime odioso em sentido estrito – é uma
conduta, não constituindo mera opinião.
Françoise Tulkens, ao tratar desse assunto no artigo intitulado “When to say
is to do: Freedom of expression and hate speech in the case-law of the European
Court of Human Rights”, afirma que a Corte Europeia de Direitos Humanos
considera o hate speech como uma conduta, e não uma mera opinião. No
entendimento do autor, essa é uma inversão conceitual essencial para que a
regulação do discurso se mostre viável em um contexto democrático:
em uma democracia, uma pessoa não pode ser incriminada com base na sua
opinião, mas apenas em virtude de um comportamento. Isso significa que as
palavras não devem ser submetidas a nenhuma forma de restrição? Não.
Quando consideramos a questão a partir dessa perspectiva, o foco muda. A
questão não é mais que tipos de opinião ou expressão estão de acordo com
a lei ou não, mas quais atos discursivos são compatíveis com a democracia
5
SARMENTO, Daniel. Livres e Iguais: estudos de Direito Constitucional. Rio de Janeiro: Lumen Juris,
2006, p. 208.
6
Tradução livre de “the use of words which are deliberately abusive and/or insulting and/or threatening
and/or demeaning directed at members of vulnerable minorities, calculated to stir up hatred against
them”. WALDRON, Jeremy. The harm in hate speech. Cambridge: Harvard University, 2012. E-book
versão Kobo. p. 16 do Capítulo 1.
7
WALDRON, Jeremy. Op. cit., E-book versão Kobo. p. 8 do Capítulo 3.
8
WALDRON, Jeremy. Op. cit., E-book versão Kobo. p. 3 do Capítulo 1.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
33
e quais não são. Quando constatada a sua ocorrência, o discurso de ódio é
um ato, e não mera opinião
9
.
Em resumo, o discurso de ódio é uma conduta eminentemente comunicativa,
o que significa tratar-se de uma ação – não se limitando, portanto, ao plano das
ideias e, por isso, gerando efeitos materiais – que tem por objetivo a transmissão de
mensagens. Em virtude dessa capacidade de gerar efeitos materiais, Swiebel e van
der Veur assinalam que o discurso de ódio pode ser considerado um tipo específico
de crime de ódio, constituindo, da mesma forma, um tipo de violência
10
.
O caráter extremo do discurso de ódio não se constata a partir das palavras ou
imagens utilizadas na manifestação da intolerância, mas do seu efeito: intimidar um
grupo social, negando aos seus integrantes, direitos de sua titularidade. Além disso,
insta-os a deixar o espaço público, por meio de sua inferiorização e, em alguns
casos, desumanização
11
.
Além de intimidar um grupo social específico, o conteúdo discriminatório do
discurso de ódio insta outros integrantes da sociedade ao ódio contra os membros da
minoria em questão, alimentando a intolerância. Para atingir esse objetivo, vincula
religião, etnia, procedência nacional, orientação sexual ou outra característica
identitária do grupo social visado a comportamentos ou características avaliados
negativamente pela sociedade. A ideia é trazer à tona a rejeição latente, no tecido
social, a uma determinada minoria.
O destinatário do discurso odioso é, direta ou indiretamente, um grupo social:
uma coletividade percebida enquanto tal pela sociedade e pelos próprios membros
do grupo que compartilham de características identitárias comuns e nutrem
sentimento mútuo de identificação. Swiebel e van der Veur mencionam, a título de
exemplo, as manifestações de ódio dirigidas ao público LGBT em debates políticos
sobre direitos das minorias sexuais ou durante contraprotestos em eventos como
passeatas do orgulho gay
12
.
Cabe ressaltar, contudo, que o discurso de ódio pode tomar a forma de uma
agressão verbal, visual ou escrita dirigida a apenas uma pessoa no espaço público.
Nesse caso, a ação é interpretada como discurso de ódio sempre que, indiretamente,
visar a um grupo social, i.e., quando o ato comunicativo discriminar a vítima tendo
9
Tradução livre. TULKENS, Françoise. When to say is to do: freedom of expression and hate speech in
the case-law of the European Court of Human Rights. Estrasburgo, 2012. Disponível em:
<http://www.ejtn.eu/Documents/About%20EJTN/Independent%20Seminars/TULKENS_Francoise_Prese
ntation_When_to_Say_is_To_Do_Freedom_of_Expression_and_Hate_Speech_in_the_Case_Law_of_the
_ECtHR_October_2012.pdf> [https://perma.cc/KY7L-8WWN]. Acesso em: 23 jul. 2018.
10
SWIEBEL, Joke; van der VEUR, Dennis. Hate crimes against lesbian, gay, bisexual and transgender
persons and the policy response of international governmental organizations. In: Netherlands
Quarterly of Human Rights, Antuérpia, v. 27, n. 4, p. 6, dez. 2009.
11
O discurso de ódio representa um grupo social específico, implícita ou explicitamente, como algo
desprezível e menos que humano. Segundo Mullen e Leader, a tendência de utilizar insultos baseados em
características identitárias de grupos “externos” pode corresponder ao processo por meio do qual as
pessoas prescrevem caráter humano ao grupo ao qual pertencem, “infra-humanizando” outros grupos.
MULLEN, Brian; LEADER, Tirza. Linguistic Factors: Antilocutions, Ethnonyms, Ethnophaulisms, and
Other Varieties of Hate Speech. In: DOVIDIO, John F.; GLICK, Peter; RUDMAN, Laurie A. On the
Nature of Prejudice – fifty years after Allport. Oxford: Blackwell, 2005, p. 199.
12
SWIEBEL, Joke; van der VEUR, Dennis. Op. cit., P. 6.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
34
em vista o seu pertencimento a determinado grupo social. Caso contrário, a conduta
representa insulto individual
13
que, dependendo das suas especificidades, poderia ser
interpretada, no contexto brasileiro, como um delito contra a honra – calúnia,
difamação ou injúria.
Os grupos sociais visados por manifestações de ódio têm natureza
minoritária
14
, i.e., constituem setores “desempoderados” e marginalizados da
sociedade. O propósito do discurso é afirmar a inferioridade de determinado grupo
com a finalidade de negar o reconhecimento de direitos de sua titularidade.
Desta forma, são as minorias que se encontram mais vulneráveis a ele. Algumas
definições de discurso de ódio listam, inclusive, as ideologias que podem
alimentá-lo, de modo que uma determinada manifestação será considerada
“discurso de ódio” apenas quando estiver apoiada em uma ou mais dessas
ideologias.
A conformação de um grupo minoritário deve ser analisada em um contexto,
i.e., na sociedade em que ocorre a agressão verbal, visual ou escrita. Isso porque a
existência de uma “minoria” – e a necessidade de construção de mecanismos
protetivos destinados ao seu “empoderamento” – pressupõe uma relação desigual de
poder entre um grupo dominante ou “majoritário” e outro dominado ou
“minoritário”. Assim, a acepção de minoria empregada no presente estudo não é
numérica, mas política
15
.
Em resumo, o discurso de ódio pode ser definido como um ato discursivo de
caráter extremo, pautado por percepções subjetivas abstratas e negativas em relação
a um grupo minoritário específico, visando, direta ou indiretamente, à reafirmação
de hierarquias construídas socialmente – a subordinação de minorias, sejam elas
religiosas, étnicas, de gênero, sexuais ou quaisquer outras – por meio da intimidação
e da promoção da intolerância. Ainda que não o faça de forma explícita, essa forma
de discurso nega ao grupo minoritário visado a extensão de direitos que, a partir de
uma acepção material da igualdade, são de sua titularidade. É, assim, uma conduta
discriminatória
16
.
Estabelecido o conceito de discurso de ódio, cabe agora entender o modelo
alemão de responsabilização dos provedores de serviços na Internet pela publicação
de conteúdos de terceiro – inclusive mensagens veiculando discurso de ódio.
3 O modelo de responsabilização das plataformas na Alemanha
Na União Europeia (UE), a responsabilidade das plataformas de Internet pela
publicação de conteúdo de terceiros é regulada, a nível supranacional, pela Diretiva
2000/31/CE do Parlamento Europeu e do Conselho, de 8 de junho de 2000. A
normativa estabelece, em seu artigo 14, regra segundo a qual os provedores de
serviço na Internet não devem ser responsabilizados por “informação armazenada a
13
MEYER-PFLUG, Samantha Ribeiro. Liberdade de expressão e discurso de ódio. São Paulo: Revista
dos Tribunais, 2009, p. 102.
14
Ibid., p. 97.
15
OLIVA, Thiago Dias. Minorias sexuais e os limites da liberdade de expressão: o discurso de ódio e a
segregação social dos indivíduos LGBT no Brasil. Curitiba: Juruá, 2015, p. 55.
16
Ibid.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
35
pedido de um destinatário do serviço”, conquanto não tenham “conhecimento efetivo
da atividade ou informação ilegal” e “a partir do momento em que tenha[m]
conhecimento da ilicitude, atue[m] com diligência no sentido de retirar ou
impossibilitar o acesso às informações”
17
. O artigo 15 estabelece, ainda, que os
Estados-Membros não deverão impor aos provedores de serviço “obrigação geral de
vigilância sobre as informações que estes transmitam ou armazenem, ou uma
obrigação geral de procurar ativamente fatos ou circunstâncias que indiciem
ilicitudes”.
Em outras palavras, optou-se por um modelo de responsabilização por meio
do qual as plataformas poderão ser passíveis de responsabilização apenas após
tornaram-se cientes de que hospedam/armazenam conteúdo de caráter ilegal
18
. No
entanto, é o direito interno dos países que, observando essa “zona livre” de
responsabilização estabelecida pela Diretiva, determina em que circunstâncias os
provedores devem ser responsabilizados
19
.
Essa lógica foi incorporada pela Lei Alemã de Telemídia
20
, atualmente em
vigor. Nos termos estabelecidos pela lei, as plataformas tornam-se responsáveis por
conteúdos ilícitos armazenados caso não os removam (ou bloqueiem) assim que
tomem conhecimento da sua existência. A lei aprovada no dia 30 de junho de 2017,
batizada de Lei de Aprimoramento da Implementação de Normas nas Redes Sociais
(ou NetzDG), veio apenas concretizar essa obrigação, criando instrumentos para que
o Estado possa constranger as plataformas a atendê-la.
Uma das exigências da nova lei é a estruturação de sistemas para gestão dos
pedidos de remoção de conteúdo. A obrigação envolve desde a elaboração de
métodos simples para reportar conteúdo tido por ilegal
21
à manutenção de canais
17
É importante mencionar que o preâmbulo da Diretiva, item 42, limita a isenção de responsabilidade aos
casos em que a atividade do provedor de serviços seja limitada ao “processo técnico de exploração e
abertura do acesso a uma rede de comunicação na qual as informações prestadas por terceiros são
transmitidas ou temporariamente armazenadas com o propósito exclusivo de tornar a transmissão mais
eficaz [...] atividade [...] de natureza passiva, o que implica que o provedor de serviços de internet não
tem conhecimento da informação transmitida ou armazenada, nem o controle dela”.
18
No Brasil, o Marco Civil da Internet (Lei Nº 12.965, de 23 de abril 2014) estabelece, em seu artigo 19,
a possibilidade de responsabilização das plataformas (“provedores de aplicação”) por danos decorrentes
de conteúdo gerado por terceiros apenas quando, “após decisão judicial específica, não tomar[em] as
providências para [...] tornar indisponível o conteúdo apontado como infringente”. A exceção à regra se
dá para conteúdo que viole a intimidade de terceiro ao conter cenas de nudez ou de atos sexuais de caráter
privado divulgadas sem a sua autorização. Nesse caso, a plataforma será responsabilizada
subsidiariamente se, notificada pelo participante das imagens ou por seu representante legal, não
indisponibilizar o conteúdo (art. 21) – ou seja, não há necessidade de uma decisão judicial afirmando o
caráter ilícito do conteúdo. É importante ressaltar, ainda, que o regime geral de responsabilização dos
provedores de aplicação também não se aplica a violações de direito autoral (art. 19, §2º).
19
HUSOVEC, Martin. European Intermediary Liability Framework. In: Injunctions Against
Intermediaries in the European Union: Accountable But Not Liable? Cambridge: Cambridge University
Press, 2017, p. 50-72.
20
ALEMANHA. Telemediengesetz (TMG). Berlin: Bundestag, 2007. Disponível em:
<https://www.gesetze-im-internet.de/tmg/TMG.pdf> [https://perma.cc/R78Z-QTQ9]. Acesso em: 23 jul.
2018.
21
A NetzDG define como “conteúdo ilegal” aquele que preenche os requisitos dos tipos penais 86
(disseminação de propaganda de organizações inconstitucionais), 86a (uso de símbolos de organizações
inconstitucionais), 89a (preparações para ação violenta com risco para o Estado), 90 (difamação do(a)
Presidente), 90a (difamação do Estado e de seus símbolos), 90b (difamação de órgãos constitucionais), 91
(encorajamento para a prática de ação violenta que coloque o Estado em risco), 100a (falsificação), 111
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
36
para que o usuário se informe a respeito de eventual pedido de remoção apresentado
por ele. Caso tal sistema não seja adequadamente estruturado pelas redes sociais e
colocado à disposição de seus usuários, elas estarão sujeitas a multas no valor de até
5 milhões de euros
22
.
Nos termos do art. 1º da NetzDG, a lei vincula “provedores de serviço de
telemídia [...] que permitem a usuários trocar entre si conteúdos de qualquer
natureza [...] publicamente acessíveis (redes sociais)”. Plataformas com conteúdo de
caráter jornalístico, produzido pela própria plataforma, não são consideradas “rede
social” para os fins da lei. Igualmente excluídas de seu escopo de aplicação
encontram-se redes sociais com menos de 2 milhões de usuários na Alemanha
23
.
Com o objetivo de fazer com que as redes sociais honrem o compromisso
assumido ao assinar o código de conduta com a Comissão Europeia em 2016, a
NetzDG torna obrigatória a remoção de conteúdos “claramente” ilícitos em até 24
horas do recebimento de pedido nesse sentido – ou dentro de sete dias, no caso de
conteúdos cuja ilicitude é menos evidente
24
. A NetzDG impõe, ainda, dever de
transparência, caracterizado pela elaboração trimestral de relatórios, na língua
alemã, que descrevam com riqueza de detalhes e dados o tratamento dispensado ao
controle do discurso de ódio e de outros conteúdos criminosos.
Segundo o Governo Federal Alemão
25
, a importância da NetzDG decorre da
insuficiência das iniciativas tomadas de forma autônoma pelas plataformas e dos
problemas de implementação das normas já existentes, o que tornou necessária a
introdução de regras de compliance.
Modelos que facilitam as situações de responsabilização das plataformas
aumentam o risco de overblocking – isto é, o estímulo às plataformas para que
(incitação pública ao crime), 126 (violação da paz pública por meio de ameaça à prática de crimes), 129
(formação de organização criminal), 129a (formação de organização terrorista), 129b (atividade terrorista
no exterior), 130 (incitação ao ódio) – tipo penal empregado no combate ao discurso de ódio na
Alemanha –, 131 (disseminação de violência gráfica), 140 (aprovação de ofensas), 166 (difamação de
religiões e de associações religiosas ou ideológicas), 184b (disseminação, aquisição ou posse de
pornografia infantil), 184d (disseminação de performances sexuais por meio de serviços de mídia ou
telecomunicação), 185 (injúria), 186 (difamação), 187 (difamação intencional), 241 (ameaça de prática de
crime) ou 269 (falsificação de dados para fins de prova) do Código Penal Alemão.
22
§4 Bußgeldvorschriften […] (2) Die Ordnungswidrigkeit kann in den Fällen des Absatzes 1 Nummer 7
mit einer Geldbuße bis zu fünfhunderttausend Euro, in den übrigen Fällen des Absatzes 1 mit einer
Geldbuße bis zu fünf Millionen Euro geahndet werden.
23
Tradução livre. Cf.: §1 Anwendungsbereich (1) Dieses Gesetz gilt für Telemediendiensteanbieter, die
mit Gewinnerzielungsabsicht Plattformen im Internet betreiben, die es Nutzern ermöglichen, beliebige
Inhalte mit anderen Nutzern auszutauschen, zu teilen oder der Öffentlichkeit zugänglich zu machen
(soziale Netzwerke). Plattformen mit journalistisch-redaktionell gestalteten Angeboten, die
vomDiensteanbieter selbst verantwortet werden, gelten nicht als soziale Netzwerke im Sinne dieses
Gesetzes. (2) Der Anbieter eines sozialen Netzwerks ist von den Pflichten nach den §§ 2 und 3 befreit,
wenn das soziale Netzwerk im Inland weniger als zwei Millionen Nutzer hat.
24
§ 3 Umgang mit Beschwerden über rechtswidrige Inhalte. […] (2) der Anbieter des sozialen
Netzwerks […] 2. einen offensichtlich rechtswidrigen Inhalt innerhalb von 24 Stunden nach Eingang der
Beschwerde entfernt oder den Zugang zu ihm sperrt; dies gilt nicht, wenn das soziale Netzwerk mit der
zuständigen Strafverfolgungsbehörde einen längeren Zeitraum für die Löschung oder Sperrung des
offensichtlich rechtswidrigen Inhalts vereinbart hat, 3. jeden rechtswidrigen Inhalt innerhalb von sieben
Tagen nach Eingang der Beschwerde entfernt oder den Zugang zu ihm sperrt.
25
ALEMANHA. Bundestag beschließt Gesetz gegen strafbare Inhalte im Internet. Berlin: Bundestag,
2017. Disponível em: <https://www.bundestag.de/dokumente/textarchiv/2017/kw26-de-
netzwerkdurchsetzungsgesetz/513398>. [https://perma.cc/D2JZ-4E5S]. Acesso em: 23 jul. 2018.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
37
censurem mais conteúdo do que o necessário, o que pode representar uma ameaça
para a liberdade de expressão e a manutenção de conteúdos legítimos no ar. No
contexto alemão, esse argumento foi considerado insuficiente para demover o
Parlamento da ideia de combater o volume crescente de mensagens xenófobas que
circulam no país por meio da nova lei.
Ao endurecer o seu modelo regulatório de responsabilidade de
intermediários, depositando nas plataformas a tarefa de atuar de forma mais proativa
no combate a discursos e conteúdos ofensivos, a Alemanha busca promover o
estabelecimento de uma sociedade multicultural.
Na teoria de Will Kymlicka, por exemplo, encontram-se fundamentos que
justificariam a adoção de um modelo jurídico diferenciado para minorias através de
uma “Teoria do Multiculturalismo”. Essa teoria seria dirigida às culturas
minoritárias entendidas, no seu recorte conceitual, como “nações”. Isso porque a
chamada “cultura societal” oferece aos membros da sociedade “estilos significativos
de vida e abrange todo o conjunto de atividades humanas”.
26
4 As dificuldades das plataformas
Ao darmos um passo para trás nessa discussão, veremos que o discurso de
ódio, muito embora seja um problema amplamente reconhecido em muitos países,
permanece controverso em diversos aspectos que vão desde a sua definição, os
parâmetros para sua identificação no caso concreto até a resposta que se deve dar a
ele, sobretudo do ponto de vista jurídico. E essas dificuldades se dão, em grande
medida, pela natureza contextual do discurso de ódio: tanto os grupos tidos por
vulneráveis, quanto a forma de externalização da mensagem intimidatória que
caracteriza essa forma de discurso podem variar de país a país (ou até de região a
região dentro de um mesmo país).
Definir critérios e regras que norteiem a distinção entre conteúdos legítimos e
manifestações de ódio é tarefa tão delicada que pode acabar gerando distorções. Em
matéria
27
publicada no último dia 28 de junho, por exemplo, a ProPublica divulgou
documentos contendo algumas das orientações internas que o Facebook utilizaria
para treinar seus moderadores de conteúdo.
Nos termos dos slides de treinamento divulgados, explica-se quais são as
categorias consideradas como protegidas (gênero, identidade de gênero, raça,
afiliação religiosa, etnia, origem nacional, orientação sexual, séria deficiência ou
doença) e quais não são (classe social, profissão, origem de continente, ideologia
política, aparência, religiões, idade, países). Isso significa que a categoria “criança”
(idade) não é protegida e a categoria “gay” é (orientação sexual), por exemplo.
Quando as categorias são somadas em grupos, a presença de uma “categoria não
protegida” desclassifica o grupo como protegido, desaconselhando-se a remoção do
conteúdo tido como ofensivo nesses casos. Isso significa dizer, por exemplo, que
26
KYMLICKA, Will. Multicultural Citizenship: a liberal theory of minority rights. Oxford: Oxford
University, 1995.
27
ANGWIN, Julia; GRASSEGGER, Hannes. Facebook’s Secret Censorship Rules Protect White Men
from Hate Speech but not Black Children. ProPublica, 28 de junho de 2017. Disponível em:
<https://www.propublica.org/article/facebook-hate-speech-censorship-internal-documents-algorithms>.
Acesso em: 23 jul. 2018.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
38
discursos dirigidos ao grupo “crianças negras” ou ao grupo “motoristas mulheres”
não seriam considerados como discurso de ódio pela plataforma, ao passo que
aqueles dirigidos a “homens brancos” sim.
Em pronunciamento em junho de 2017
28
, o Facebook reconheceu
dificuldades em tornar a plataforma uma “zona livre” de discurso de ódio. Destacou
que vai aumentar de 4,5 para 7,5 mil o número de moderadores de conteúdo, pessoas
contratadas e treinadas especificamente para analisar posts, imagens, vídeos e
comentários, decidindo se devem continuar na plataforma. Além do Facebook,
outras plataformas como Twitter
29
e YouTube
30
anunciaram estar articulando regras
globais e ferramentas para a minimizar o efeito do discurso de ódio nas plataformas
para torná-las espaços mais seguros. Mesmo assim, o desafio de operar
simultaneamente em diversas jurisdições e estimular o fluxo de mensagens entre
pessoas localizadas em países diferentes é grande.
De fato, o conceito de “discurso de ódio” varia de país para país, sendo que
em muitos deles sequer há legislação específica, o que expõe as plataformas a
legislações aplicáveis que podem exigir providências diferentes e, em alguns casos,
contrapostas. Além disso, outras questões de contexto relacionadas à cultura, à
política e ao idioma devem ser levadas em conta pelos moderadores de conteúdo
31
, o
que torna a tarefa ainda mais complexa.
5 Alternativas: articulação da sociedade civil
Paralelamente às medidas do poder público e aos compromissos assumidos
pelas plataformas, outras iniciativas como o #Ichbinhier (ou “#Euestouaqui”, em
português), da sociedade civil, propõem formas alternativas de combate ao discurso
de ódio na Internet.
O grupo
32
, fundado em dezembro de 2016 e inspirado na iniciativa sueca
#jagärhär, tem por objetivo intervir com firmeza sobre comentários que disseminam
o ódio em plataformas na Internet, reduzindo seu potencial de dano. Formulada no
formato de grupo fechado no Facebook, a iniciativa conta com mais de 36 mil
membros que se articulam, de maneira voluntária, com o objetivo de reduzir o
impacto negativo causado pelo discurso de ódio no ambiente digital. Nos termos do
estatuto do grupo:
28
ALLAN, Richard. Hard Questions: Hate Speech. Facebook, 27 de junho de 2017. Disponível:
<https://newsroom.fb.com/news/2017/06/hard-questions-hate-speech/> . Acesso em: 23 jul. 2018.
29
TIKU, Nitasha; NEWTON, Casey. Twitter CEO: ‘We suck at dealing with abuse’. The Verge, 4 de
fevereiro de 2015. Disponível em: <https://www.theverge.com/2015/2/4/7982099/twitter-ceo-sent-memo-
taking-personal-responsibility-for-the>. Acesso em: 23 jul. 2018.
30
JUNIUS, Lie. Our commitment to fighting illegal hate speech online. Google, 31 de maio de 2016.
Disponível em: <https://www.blog.google/topics/google-europe/our-commitment-to-fighting-illegal-
hate_39/>. Acesso em: 23 jul. 2018.
31
BUNI, Catherine; CHEMALY, Soraya. The secret rules of the internet. The Verge. Disponível em:
<https://www.theverge.com/2016/4/13/11387934/internet-moderator-history-youtube-facebook-reddit-
censorship-free-speech>. Acesso em: 23 jul. 2018.
32
A página do grupo pode ser acessada aqui: https://www.facebook.com/groups/718574178311688/. Para
entrar, é preciso responder a três perguntas e ser aprovado por um dos moderadores. As perguntas são as
seguintes: (a) como você ficou sabendo a respeito do #Ichbinhier? (b) quais temas são especialmente
importantes para você? (c) você leu a descrição do grupo e destravou as configurações de privacidade
para que possamos saber um pouco mais sobre você?
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
39
[...] o pluralismo como manifestação da liberdade de opinião é um fundamento
essencial da democracia. Tal pluralismo de opiniões pressupõe que todos
estimem e respeitem todos as pessoas que vivem dentro de um determinado
Estado, e que reconheçam a existência de diferentes opiniões, objetivos e
aspirações.
33
Uma vez aceitos para integrar o #Ichbinhier, os membros do grupo devem
atenuar o conteúdo de posts públicos na plataforma em meio a discussões fazendo
comentários positivos. Para fazê-lo, podem (i) identificar manifestações de ódio na
plataforma, comentá-las e compartilhar seu(s) comentário(s) no grupo; (ii) interagir
de forma positiva com comentários feitos por outros membros do grupo (com
“curtidas” ou “amei”, por exemplo); ou (iii) reportar ao Facebook posts com
conteúdo de ódio que violem leis ou causem danos a pessoas.
Cada contribuição feita pelos membros do grupo é marcada com a hashtag
#Ichbinhier. Quando um membro do grupo é visado por conta de um comentário que
fez, os demais juntam-se a ele na discussão, interagindo em grande escala com o seu
comentário e postando outros em apoio. Ao reagir maciçamente aos comentários de
caráter positivo, esses comentários ganham maior visibilidade na plataforma,
colocando as manifestações de ódio em segundo plano.
Para que o grupo tenha atuação mais eficiente e uniforme, ele conta com
pequenos manuais que auxiliam seus membros a identificar uma manifestação de
ódio, avaliar se ela ultrapassa – à luz do direito alemão – os limites da liberdade de
expressão (para o fim de reportar às autoridades) e a deslegitimá-la
34
.
Iniciativas como como o #Ichbinhier tentam, com a sua abordagem,
desenvolver uma “paridade de armas” em relação a grupos que se articulam com a
finalidade de disseminar o ódio, colocando na prática a ideia – muitas vezes apenas
discutida em abstrato – do contradiscurso
35
.
33
Tradução live: “Pluralismus als Ausdruck der Meinungsfreiheit ist wesentliche Grundlage der
Demokratie. Ein solcher Meinungspluralismus setzt voraus, dass jedermann Achtung und Respekt vor
allen Menschen hat, die in einem Staat leben, und die Existenz unterschiedlicher Meinungen, Ziele und
Hoffnungen anerkennt”.
34
A título de exemplo das orientações transmitidas para combater o ódio em discussões no Facebook,
pode-se mencionar: (i) a construção de alianças (uso de argumentos de outras pessoas engajadas na
mesma discussão, interagindo positivamente com eles), (ii) argumentação objetiva (destaque de forma
neutra dos erros/inverdades nos argumentos das pessoas que propagaram ódio), (iii) compartilhamento de
experiências (uso de histórias pessoais para dar mais valor à argumentação – o que pode levar à reflexão
do outro), (iv) introdução de questionamentos (levar o adversário à contradição fazendo perguntas diretas
sobre os fatos/argumentos apresentados); (v) uso do humor para deslegitimar os argumentos do adversário
(ironia auxilia a trazer à tona o absurdo de uma colocação); (vi) manutenção da calma e desescalada da
discussão (resposta agressiva afasta possíveis aliados e apenas diminui o nível da discussão); (vii)
desistência se não houver saída (caso esteja difícil vencer a discussão, deixá-la de lado para que outra
pessoa venha em auxílio ou dar curta justificativa e sair do debate). Cf. #ICHBINHIER. Tipps für
Umgang mit Hate Speech im Netz. Disponível em:
<https://www.facebook.com/groups/718574178311688/files/>. Acesso em: 23 jul. 2018.
35
O valor da iniciativa como forma de empoderamento digital da sociedade civil no sentido de atuar de
forma independente no combate a um problema social grave -- como é a disseminação do discurso de
ódio –- foi reconhecido recentemente pelo Prêmio Grimme Online. O prêmio, concedido todos os anos
desde 2001 pelo Instituto Grimme -– instituição dedicada à pesquisa e prestação de serviços na área de
mídia e comunicação sediada na Alemanha –- a iniciativas de grande valor na internet, foi atribuído ao
#Ichbinhier, em 2017, na categoria “especial” por sua motivação, pela atuação de seus moderadores e
pelo engajamento de seus membros. Para mais informações, Cf. GRIMME INSTITUT. Grimme Online
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
40
Essas iniciativas suscitam reflexões a respeito das diferentes estratégias que
podem ser encampadas para a promoção de sociedades multiculturais. Sobre este
tema, Parekh propõe o estabelecimento de alguns critérios de orientação para que se
estabeleçam sociedades multiculturais estáveis e coesas: (i) uma estrutura
fundamentada da autoridade consensual; (ii) um conjunto coletivo e aceitável de
direitos constitucionais; (iii) um Estado justo e imparcial; (iv) uma cultura comum
multiculturalmente constituída; (v) uma educação multicultural; (vi) uma visão
plural e abrangente da identidade nacional.
36
Especialmente no que diz respeito ao “conjunto coletivo e aceitável de
direitos constitucionais”, cumpre salientar que o autor advoga no sentido de existir
um denominador comum mínimo entre as diferentes culturas, sendo admissível, nas
sociedades multiculturais, que se tutele a garantia desse conjunto mínimo de direitos
e liberdades. No caso do discurso de ódio, esse mínimo denominador comum estaria
ligado à obrigatoriedade de respeito à diversidade e à identidade dos indivíduos.
O direito à liberdade de expressão, nesse sentido, se tomado de forma
absoluta, estaria fundado em uma concepção de igualdade, que, na prática, não se
sustentaria.
37
6 Conclusão
As dificuldades enfrentadas pelas plataformas no combate ao discurso de
ódio sugerem que, muito embora o problema deva ser combatido de diversas formas,
inclusive por meio da remoção de conteúdo, transferir a responsabilidade de decidir
o que deve ou não ser considerado como discurso de ódio às plataformas pode ser
problemático. Nesse sentido, a utilização de critérios de análise criados pelas
plataformas pode se voltar contra os próprios grupos subalternizados na medida em
que podem dificultar estratégias de contradiscurso (como é o caso da postagem de
Didi Delgado, ativista ligado a questões raciais, que teve a postagem “todos os
brancos são racistas. Parta desse ponto de referência ou você já falhou” removida
do Facebook, como também indica a reportagem da ProPublica)
38
.
Outro problema é a criação de óbices à fiscalização da lei nos países em que
esse tipo de discurso é regulado. Isso porque que, ao contrastar determinada conduta
Award 2017 - #ichbinhier. Disponível em: <http://www.grimme-online-
award.de/2017/preistraeger/p/d/ichbinhier-1/>. Acesso em: 23 jul. 2018.
36
Cf. PAREKH, Bhikhu. Rethinking multiculturalism: cultural diversity and political theory. London:
Macmillan, 2000, 367 p.
37
No campo dos autores ligados ao multiculturalismo, o conceito de igualdade é enfrentado por Parekh,
por exemplo. Para o autor, a igualdade se articula em diversos níveis – da igualdade de respeito a direitos
até igualdade de poder. O autor se dedica então a elencar e descrever as dificuldades trazidas na
implementação do princípio de igualdade em sociedades multiculturais. Cf. PAREKH, Bhikhu.
Rethinking multiculturalism: cultural diversity and political theory. London: Macmillan, 2000, p. 257.
Outros autores, a partir de outros referenciais teóricos, constroem o debate sob a perspectiva da existência
ou não de valores intrínsecos ligados às liberdades. Ronald Dworkin, por exemplo, defende o valor
instrumental da liberdade de expressão para a construção de uma sociedade na qual os indivíduos,
entendidos como moralmente responsáveis, têm o direito de expor e de estarem expostos a quaisquer
discursos, aproximando o debate público da ideia do chamado livre mercado de ideias. Cf. DWORKIN,
Ronald. Freedom’s Law: the moral reading of the American Constitution. Cambridge: Harvard
University Press, 1997, 416 p.
38
ANGWIN, Julia; GRASSEGGER, Hannes. op. cit.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
41
com os termos de uso da plataforma, os moderadores de conteúdo removerão o que
considerarem inadequado, mas provavelmente não reportarão eventual violação da
lei a autoridades públicas
39
, o que também gera um déficit de transparência.
Além de haver discussões sobre quais grupos devem ser protegidos do
discurso de ódio – no Brasil, como sabemos, não há lei criminalizando o discurso de
ódio contra LGBTs, muito embora tenhamos legislação nesse sentido coibindo o
racismo
40
, por exemplo –, existem discussões questionando o uso do direito penal
para essa finalidade
41
, ou mesmo sobre como podemos identificar
42
, na prática, a
ocorrência de um discurso de ódio. A lista de dúvidas é grande e o debate permanece
em aberto.
Nesse cenário de dúvidas quanto à melhor maneira de regular o discurso na
Internet, iniciativas como o #Ichbinhier mostram que existem maneiras alternativas
de lidar com a disseminação de ódio nas redes com riscos menos significativos à
liberdade de expressão. Muito embora tenham caráter complementar – os membros
do #Ichbinhier apoiam-se, por exemplo, nos mecanismos de notificação de
conteúdos que violam os termos de uso do Facebook – estratégias de contradiscurso
estruturam-se em torno da lógica de que, para combater uma ideia abjeta, nada
melhor do que bons argumentos. Caso aplicado em larga escala, esse conceito, além
de reduzir a pressão sobre as plataformas para que removam conteúdos de maneira
excessiva, tem o potencial para desenvolver uma cultura de engajamento em
discussões menos superficiais.
Referências
ALEMANHA. Gesetzentwurf der Fraktionen der CDU/CSU und SPD - Drucksache
18/12356. Berlin: Bundestag, 2017. Disponível em:
<http://dip21.bundestag.de/dip21/btd/18/123/1812356.pdf>. Acesso em: 23 jul 2018.
_______. Telemediengesetz (TMG). Berlin: Bundestag, 2007. Disponível em:
<https://www.gesetze-im-internet.de/tmg/TMG.pdf>. Acesso em: 23 jul 2018.
_______. Bundestag beschließt Gesetz gegen strafbare Inhalte im Internet. Berlin:
Bundestag, 2017. Disponível em
<https://www.bundestag.de/dokumente/textarchiv/2017/kw26-de-
netzwerkdurchsetzungsgesetz/513398>. Acesso em: 23 jul 2018.
39
MCNAMEE, Joe. Guide to the Code of Conduct on Hate Speech. European Digital Rights, 3 de junho
de 2016. Disponível em: <https://edri.org/guide-code-conduct-hate-speech/>. Acesso em: 23 jul. 2018.
40
BRASIL. Lei nº 7.716, de 5 de janeiro de 1989. Brasília: Congresso Nacional. Disponível em:
<http://www.planalto.gov.br/ccivil_03/leis/L7716.htm>. Acesso em: 23 jul. 2018.
41
MACHADO, Marta Rodriguez de Assis; LIMA, Márcia; NERIS, Natália. Racismo e insulto racial na
sociedade brasileira: Dinâmicas de reconhecimento e invisibilização a partir do direito. Novos Estudos, v.
35, 03, n. 106, pp. 11-28.
42
WEBER, Anne. Manual on hate speech. Estrasburgo: Council of Europe, 2009. Disponível em:
<https://rm.coe.int/1680665b3f>. Acesso em: 23 jul. 2018.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
42
ALLAN, Richard. Hard Questions: Hate Speech. Facebook, 27 de junho de 2017.
Disponível: <https://newsroom.fb.com/news/2017/06/hard-questions-hate-speech/>.
Acesso em: 23 jul. 2018.
ANGWIN, Julia; GRASSEGGER, Hannes. Facebook’s Secret Censorship Rules
Protect White Men from Hate Speech but not Black Children. ProPublica, 28 de
junho de 2017. Disponível em: <https://www.propublica.org/article/facebook-hate-
speech-censorship-internal-documents-algorithms>. Acesso em: 23 jul. 2018.
BRASIL. Lei nº 7.716, de 5 de janeiro de 1989. Brasília: Congresso Nacional.
Disponível em: <http://www.planalto.gov.br/ccivil_03/leis/L7716.htm>. Acesso em:
23 jul. 2018.
BUNI, Catherine; CHEMALY, Soraya. The secret rules of the internet. The Verge.
Disponível em: <https://www.theverge.com/2016/4/13/11387934/internet-
moderator-history-youtube-facebook-reddit-censorship-free-speech>. Acesso em: 23
jul. 2018.
CLARK, Liat. Facebook and Twitter face 50€m fines of they don’t tackle hate
speech. Wired, 30 de junho de 2017. Disponível em:
<http://www.wired.co.uk/article/facebook-twitter-hate-speech-germany-fine>.
Acesso em: 23 jul. 2018.
COMISSÃO EUROPEIA. Countering online hate speech – Comission initiative
with social media platforms and civil society shows progress. Bruxelas, 1º de junho
de 2017. Disponível em: <http://europa.eu/rapid/press-release_IP-17-1471_en.htm>.
Acesso em: 23 jul. 2018.
DWORKIN, Ronald. Freedom’s Law: the moral reading of the American
Constitution. Cambridge: Harvard University Press, 1997.
HUSOVEC, Martin. European Intermediary Liability Framework. In: Injunctions
Against Intermediaries in the European Union: Accountable But Not Liable?
Cambridge: Cambridge University Press, 2017, p. 50-72.
JUNIUS, Lie. Our commitment to fighting illegal hate speech online. Google, 31 de
maio de 2016. Disponível em: <https://www.blog.google/topics/google-europe/our-
commitment-to-fighting-illegal-hate_39/>. Acesso em: 23 jul. 2018.
KYMLICKA, Will. Multicultural citizenship: a liberal theory of minority rights.
Oxford: Oxford University, 1995.
MACHADO, Marta Rodriguez de Assis; LIMA, Márcia; NERIS, Natália. Racismo e
insulto racial na sociedade brasileira: dinâmicas de reconhecimento e invisibilização
a partir do direito. Novos Estudos, v. 35, 3, n. 106, p. 11-28.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
43
MEYER-PFLUG, Samantha Ribeiro. Liberdade de expressão e discurso de ódio.
São Paulo: Revista dos Tribunais, 2009.
MCNAMEE, Joe. Guide to the Code of Conduct on Hate Speech. European Digital
Rights, 3 de junho de 2016. Disponível em: <https://edri.org/guide-code-conduct-
hate-speech/>. Acesso em: 23 jul. 2018.
MULLEN, Brian; LEADER, Tirza. Linguistic Factors: Antilocutions, Ethnonyms,
Ethnophaulisms, and Other Varieties of Hate Speech. In: DOVIDIO, John F.;
GLICK, Peter; RUDMAN, Laurie A (Org.). On the Nature of Prejudice – fifty years
after Allport. Oxford: Blackwell, 2005.
OLIVA, Thiago Dias. Minorias sexuais e os limites da liberdade de expressão: o
discurso de ódio e a segregação social dos indivíduos LGBT no Brasil. Curitiba:
Juruá, 2015.
PAREKH, Bhikhu. Rethinking multiculturalism: cultural diversity and political
theory. London: Macmillan, 2000.
SARMENTO, Daniel. Livres e iguais: estudos de Direito Constitucional. Rio de
Janeiro: Lumen Juris, 2006.
SWIEBEL, Joke; van der VEUR, Dennis. Hate crimes against lesbian, gay, bisexual
and transgender persons and the policy response of international governmental
organizations. Netherlands Quarterly of Human Rights, Antuérpia, v. 27, n. 4, p.
6, dez. 2009.
TIKU, Nitasha; NEWTON, Casey. Twitter CEO: ‘We suck at dealing with abuse’.
The Verge, 4 de fevereiro de 2015. Disponível em:
<https://www.theverge.com/2015/2/4/7982099/twitter-ceo-sent-memo-taking-
personal-responsibility-for-the>. Acesso em: 23 jul. 2018.
TULKENS, Françoise. When to say is to do: Freedom of expression and hate speech
in the case-law of the European Court of Human Rights. Estrasburgo, 2012.
Disponível em:
<http://www.ejtn.eu/Documents/About%20EJTN/Independent%20Seminars/TULK
ENS_Francoise_Presentation_When_to_Say_is_To_Do_Freedom_of_Expression_a
nd_Hate_Speech_in_the_Case_Law_of_the_ECtHR_October_2012.pdf>.
[https://perma.cc/KY7L-8WWN]. Acesso em: 23 jul. 2018.
WALDRON, Jeremy. The harm in hate speech. Cambridge: Harvard University,
2012. E-book versão Kobo.
WEBER, Anne. Manual on hate speech. Estrasburgo: Council of Europe, 2009.
Disponível em: <https://rm.coe.int/1680665b3f>. Acesso em: 23 jul. 2018.
Direitos Culturais Santo Ângelo v. 13 n. 30 p. 29-44 maio/agos. 2018
44
Recebido em: 26 de maio de 2018.
Aceito em: 16 de agosto de 2018.
