Content uploaded by Yonatan Lupu
Author content
All content in this area was uploaded by Yonatan Lupu on Jun 12, 2023
Content may be subject to copyright.
!"#$%&'
'()*+"$,$-. ,$*'/'00
-12+'
'( *+"$,$-. ,$*'/'00-
12+'
'/3/,$*'/'-12+'
%'"$/-12+'
'-12+'
/$'4+5 6$7''
2#5
89++.+$ $+++)
$++#+#:).)';
++<+$=7>&#?.+.
<++1+.+'9+7@?71#)
1@+$<+'A71.
9++.+<+$#B=7)7#$# $
C)1 $# 1+9++.+57
+D+)$E2!$'2F$7
C 9+ +$# #00
++)G+<+$#++).
<+',C<+$1!$E2# ++<+
7) $ 1##+.+7#C7 @
<+'=C$$$$1+.+@#
<+$ 7++)1+)'
=#+19++.$>) '
2$ 1#++).+<+.
$++)1?@+1+++#7
++#+$:).)'=).)
:.H@IJ'&$1+ +?+++
<+&#?=7>.$C K+
+.+1$1+1)#
1<+$H@%J'K1$9+
..)1+.)$+'
*<+$7?B( 1<+$.1C 1
C<+CH@%IJ'=+
$1<+$# $K1<+$)+.+
# $K+)++).<+',$
)C1 1<+$'
=C@#<+$77<++.#
.$)'(+1+<+$L+.1-''
(*=+17$ M0>?-''/L1
$ '*<+$$@C+ $C #
$'(+. 1+
N<+#7$17$ . N $$
1<+'2 @#<+$7<+#
1 1+$@$'&9+
00&#?#1A<+'41$
$$17'&<+C)
17+.7.# $ '+1
9#+# + )$$$>+
1)'
=C 1<+$+.+@#''+.O
) P7)$$1 $.
)$'&9+7+#7+@00&#?
7+.79+!$+.+'
=<+$1.1+$'=C#.C)'
(<++C #7$.+.+'
= Q7+.++
++)#++)FK+$ $ '
=+.+7 +)+
$'= F$7+L7.)$N$
7 1++)7+.+<+ '!
++10019+&#?)C.
++)1!$<+'=+.+@+$
# )$7++)7$ #.
n influential
s
? 7?7#R$+'+ 77+.+S
##.C1
# 1#7<+'&9+
!$17$+.19 !$++)+
<+!$&#?++)
+.+'
+.+@#<+$'*+.+<+$
977+.+.
<+OPB=7)7C.+$$+
+71$@7$9++.+'=7
$71+++)7+.+T+ 1
++).#<+'*$7 9
77+.+@+$17$
<+$'= #+77$1
++)19+1'8%I0
++)71+G<+7+++
++)1+0U$*+#0'=)
#+1++).$7?71+
). 17++)+<+H%@UJ'
8..$'&7). +++
<+&#?=7>.1+)7
).$ ++<+"#=$+
%/'=779+
+.+7 1@O++<+P7 ?+
1 O).<+P)$+#C '
1# 1<+7 <+$ ++
<+ ).<+) 7$+$)'
& #+S7?H0@J
7.1+.+<+$H@%J' 7#
C$ C 9
7@+$'
8)#$# )1 $19++.+
',%
+.+# 7++)$#+$
4$@$$9++.+7 #$'
=!$ $+.+7++#1$
$1+$$#$$1-''.7'V
9++.+!$)$+.) $#
)$1+.A7+7 7++7
)$ O'$'.7 $'P'!$#
T
focuses
VKontakte, Rumble, Bitchute,
often
how
b
affects the content on
Using this data set,
removed
subsequently
: Boogaloos, Patriot/ Militia Groups, QAnon, and White Nationalists/ White Supremacists
)@$.+)@@$@$'8:+1+>)@@
.$++1007>1+
?7 M>?-''/'=!$+.+1+
$)T++)1!$.#
+# +$ )9$ '
?!$E2+.+#$+'=+.+..
C1 # )+$1+ +
;)CWEX'&7#.E$@?$-''$.+Q
7$ )+$7+$117'=
+.+# '&71
+.+) $).<++#G?#$ +.
7++<+ 7?17$00-''4)'=
.#?.$@C1:.HGJ'
;)!$E2717+N9++.+
7$;+'=C7
+7+ +)+)1 W7)'X,
)D+ 17O7 CP
$19.. '8#
$F..) 91.77
.+$1+$+))'=
+.+. +
W.+X'=$. 151+.7$
1W)4X)1.
71 @@1 $1"+ '
=.++)7+.+#:@
YYY@))@+)$+$'
?7+7)+)$$#$
+.W(X$1+:7@#1;'=+.+
1+ #+ $$1)
-''$.+#1- ))
$7'++ .$#$ 7'
!7 + #<1#$$.+ K1+$
$)+7-'=1
+.+.+)R:T.
++)#)$$ '=
$$Q)+$1+)$$
'(.)++#1+#+$+'
= + 1+7+ D)$'"$
++#F+'=$.7$+#+
7$72+R$'+1+1+$$
%
Much of the content posted by this movement, and many of the key actors, have been deplatformed by mainstream social media
+.+8Y(! ==(',+1
$+ #+9)1+.+
17)D+'=+.++)
7!$#>)$##)1
.7'
;0U009$@7$9+++.++1
++)71++.++<+5&#?
"#=$+'V +<+K.+N
++)1?@+1$&#?=$+'
=<+7# 7?7#+$++#
1+.+ ',#$# $<+1
+?7#7+.+'=7)1
++)#$$+.+', ?1+++)
++)77 1$'
, ++)# .7$+)
++1 C11+.+#
#.'2 ++ 7+#$1++
+.+7$'8 ++)
9 )C791+.+7
$'&9+1E2++ #)C
E2@C C+.+'2
++ ?7W==+( X
E2#$ 1$@7$9+7
$';7%U++)$
'=;)1+)$'
;1+<+$ 7#H0@J# )$
#$1++)1+$<+',)C
++)# $+$#$;'
8++ +<+1++)',
++ 1+10+
++ '&7C
OP71.1-/$$
+$*+1)$TO#P
+&$$+ O''9+)+D
)+P'=+)17++ ++ 7
++ $',)C%I0++)
'=;)1+)
'
!70U*+#07
++)$+#)1+++',+.@
4$@$$# $"$S/+$$*'8
91+++$.'=;.
and had public discussions
assessed
s
evaluated
s a hate community
using this approach
and our sampling procedure
1+)#)1++)9<+',
$$)1'2$1+#
-#1-'')#
11414$@?$',
+?+)#$$)1'
277# ;77
7'2 7+
7+11<+')1 $1+)7
'1+)#7'-+7'2
+',#..1+;!'
= 7C1+919#?71
++ @ '4++ @ )19
++ $. $++'2++)7
.++ @ $$G0@0@5%0%G
+1+',+
1+1G+7K$C)9)
+'4+1 19+$1+.+)$
## 9#$1+.+7##)+
'
,+1+1G+#@1+$
C1+1$)'8C
+) 7?$!4=9+#$HMJ7 1U'Z'=
;.)1+)$$G+7+
11+1)$7+
)1+7$'
!
A.$#1+$C$+71
%I0++)##.';7CUI0++ @
1.$+'=9+ +
++'
,#$ $$@.# +$##)$#
$+'& 7.$##)++)
7C1 #$11+.+'27&$
$.$## )+@717)D+
+$+.+S$$7+++#'8 $.
.$## $.++ 77)D+
7$ #7'%'M'+++7(DV)+.+7
.$#$#7'''97E27#$)+@
## 10'#+#100-''4)$#
M
from the
0' '& .$##
++)771+71+!$+.+7). 7
$ 0'0'=;..1C$<+@# @<+#'
!
"
,#$ $<+$# 1$!$+.+'=+.+
) $7$ &#?$$# +1
00'&7$1:....$!$&#?#$
<+$!$2HJ'V ++)#&#?$
$7+.$)+$+
$';&#?7+?1C+$
!$++)7+!$@+'&#?
)+.$!$++)$++100'
;+&#?S+.1!$++)9
$1.7N++)'V .7$
7&#?'=+##
I
and remaining at this elevated level throughout 2021
$1+.$+.+) $1+
<+'8+!$++)7+.++#7
$$$'(++ 7#
!$&#?++)'
;1&#?S<+$1!$+.+71779
!$!$@?&#?#$$2100'=
?#&$7#C.$##
++)7?&#?7!$++)';7)$
G0++)+ Q7!$+.+
$191+ ';0U 00
7$C!$'*$!$7
$$#+>)++#7R$71
&#?++)'&1+
$7+#1+%/7+.
!$'8.91!$%/++
$ &#?7#$1
007!$$++'
"#!$
% !
G
new, coded
;2007$!$&#?
++)77# +.)'!$
@+$ $++100C#$$1
$ '#1?7@.';#
&#?S$$K$++71
'!$&#?++)
+). 71 '
;07.!$&#?++)
$C ';1+7# 1
!$@+$&#?<+S+)K'=.)$
7+ 9+++)C$
## 1$!$';+$+)+
## #.
'
8.71C&#?++)#
)). !$++)$)+'
=919.1+$+C))
1.7+++$!$? 1
$+++)!$$)+';)$ 7
1.7O+W#$XW#$$X
P#71@$&#?S7
1'
?7 1+$$!$@+$
.$7+.+).++)'&$7
1+$?1+++)1$!12=#
&+49.O2=&P-''$.+$ $71$$
71$1!$++? '=#>+F+$
1A7? 1!$) ++
!$++'&$%)1+$1++
7$1.9 !$)++A7
OFP$R$7A7O#>+FP O#>+$P
9+)1!$O$P'
=7$$&#?S<+$1!$
+.+'&7.$.<+$7) K).
$!$&#?.10070'
#))..1+C@.71
.&#?++)$C+1!$@
+$&#?0',K)$C$
'
U
preventing a full reemergence of the Boogaloo movement
over
(Aug 2020 - Dec 2021)
, meaning these communities were almost certainly posting Boogaloo content
conclusions
&'!(#
""
0
)!(#
""
,) # 1$E2'&7$ M0>?
-''/#=7>&#?K+.E2
++)1+<+'&$#77.$
## 1++)#$CE2.)+'=?#7
.$1&#?++)$#7=7>7"#
).<+$## E2+.+'
;0UE27). ++"#7+.+7)
$ ).).<+'A7.$100
? 7$>)-''4)1 E2$+
++<+'=#&$7#=7>&#?
7.$##)4)1
F+7100@'
&7$'M +1<+$ &#?=7>7
+9'8=7>#
F M# 0.1E2$ 7
70U'$+1+1=7>++)
).$##)1#$E2++)0
+)$$1+)$ 1+1 '8&#?
7)E2#@.$?7
E2.)+0'
QAnon Movement Deplatforming
2021
QAnon
a
levels of QAnon content
entirely
*+),-%.-!%/
/,
81#$$$ 1$+<+L7
#+1 <+L)17K).
+.+1';7.1C1
#+597<+$1)+.+K).+.$
7+.+',# C$$+)1
11+$@7$9++.+', $+$
1++)7$1<+'
,.? C$'&7C<+$1!$E2
717# $97+.+S
++)<+'=+ 7<+#
)1 ++)7+.++.+O''+ 1
++)$P#7+.+7
7<+'7C$ +F
<+$+ +.+ @
# 7@.'=$$
+7K).)$+.$)
7 ++).'+.+S
@+$ ',1#)).
content
with
spikes in posting activity
in the two cases that we studied
)..19+!$7#$&#?
++)0++)9 Q7!$'
=C$$$$1+.+@#<+$1
<+$+$ ' 77)<+$#K).
+' .$<+$.@).K
.$9+).<+) )$+9
HJ# 1'
,++.+<+$) 1
9+
+..)+'89)1+ #F)
F>)17<+? .
1$<+$';1+$#F9+$
+.1+++<+ $).<+
++<+7 >#17$'=
+# 1';$$7++
<++).<++ #?1?
##771))>+
++';19 +$##>#+7
9+OP.+.) ##)K
' $..$$$# 9++.+
).<+#>#<+S1+K1
$+.++$'
2#)17?+)$)Q 19@#
+ 9++'2++)+19@#9
++17+$+$.'=
7!$7F)$##
.+ ++1+.A7'
$C)+$L77?79 '
$977#!$@+$
&#?0'49+$.++)+ 71+
)$ !$++';+++7
#9++++)77
.++)'=$$ !$$+9
)$#.)+# )$#$$
++'&+.
+7)1+9@#'
8 1++)'&#)1 )
)1++)+1+'=$ 1+
<+. $$'=?$$<+
+# +@1@.. ';1#
)$ 1C + +1
).1$ '81++)+
%
H
Some
as
. However, policies banning movements require significant maintenance;
learn to
plot their
repost violative content
s
+.771'2F.+1# .++#
1+771 #4$@$$++)
<+7+C)1++)',.+ 1
++).++)7$ '8
C$+#++)7)C',11+
)#7)+<+$.9
7K 17+1+
++)#711+1+17?7
)$ '
2+)C$1C $#
++)+ +$11',
C)1 1 1$ 1
++)+711 $.1
+#+ '=C$# $
? +#+11 1$'
2C+)17? 711#7
<+$';771+
# !$E2 F<+$
+7+## +? $
.'
8
!
HJ8?2'A7'A?4'[V'\[[('O0%P'49
+$ $+';' 0 '
4+"(#$+'
HJV]Y'\7/'O00P'&+$+5=7>)@+
)+')''12&3&'
HJ,+V''!('.2'A'\8'O00P'A+52)@
!?)@V++1: $
$$.+'%#4$ 5OPU@I'
H%J!'!$/'".='V'\! ?*'O0GP'*$52
)$'6'78'
HJV]Y'\7/'O0P'&$R+15+
+'47)3O%P@MI'
HMJY*'2'?4'/'A'0'^$@,$V()-^
23.'*8;50'D1'D'
HIJ82'/)/'! '\ Y'O0GP'=K19+.
1';)))9
O''P'
HGJ2'V'A'2#4'!?#'*/14'_>'\$
"'O0P'-$K1<+$7?';&)$:
;'$""O'GI@UP'
HUJ.'! /'$*'\!?+2'O0P'4.)$K).1
<+$+)$ =7>')$:<
$79*O//,P@0'
H0J"!'\!$'O00P'/$9++5/$1
$++)+)' 09"OPM@U'
HJ"'O0GP'! $5/+.)$+)
+'2:0' "OP%%U@%'
HJ' '''''"#''''\'&'
O0P'87?+/8;*@U1
.+<+''(7OP@G'
HJV>='O0P'/$.9++'9
=>5OP@I
H%J!('\,+V''O0P'/ #7>52)1
+C)))+$1 +?$' 0
OP@%'
M
HJ"$3$!&$,$A$/ '0'*)$K.
7.1. .$@7>';($1
2/V)1;1+)?7$+$+$UG0LUG%
VA;-2'2/V'
HMJ_$_'\'O0UP'A)52.#+B$$
1$7>'';OPU@U%'
HIJ*$&'/+2'*S8>&'(V'\=V'O0IP'A+
+5A)1#?';9$
$ ?9%)'$@O'GM@UP'
HGJ!$='(!'\Y)'O0U2$P'.1.+'
;"39A)$:9$)'2!
) :O'G%@G%IP'
HUJ$2'2'?)4'!#('$'(!'!'$'\=?
'2'O0P'=+$=7>B80M-)+$
F+'+ 4'5OPI@0%'
H0J'&'_$V'# .'"#2'EA''V('
*'4'$/'\, 'O0MP'7$ 1.
$$$5;;# ''&*"OMUP%U@%M'
HJ'&' ''''_$V'V('*.?
('\, 'O0UP'A). +1$#
$ '2*&OIIIPM@M'
HJ'&'''' '"#'48'_$V'
V(', '\'O00P'=+))#7@)@
.).7'2*B"OIGP0@'
HJ.'! /'$*'\!?+2'O0P'4.)$K).1
<+$+)$ =7>')$:<
$79*O//,P@0'
H%JA#V'A+A','\,>*''O0P'*<+$
(S). 1$+'2)'C"OP$0'
HJ/!'\_ !'O00P'&#?+.)@$.+
`!$S$'2#$24&00'
HMJ'8>V'" '*'V'/*''''\ .'O0UP'#52
# )+#$'D77D353"'
HIJ2'V'A'2#4'!?#'*/14'_>'\$
"'O0P'-$K1<+$7?';&
""O'GI@UP'
I
HGJ!?>'O00P'E25)+1.? '%
,5'
HUJVV'O00%P''/+#$-. ('
H0JA"'4'8'*/14'Y');'+'\
!?#'O0IV P'Y??$++52++ 1%S
) 1+K7#';9)))9$
;':'
HJ$@/a/'O0GP';%1-
E 'A>-Y'
G