Available via license: CC BY-NC-SA 4.0
Content may be subject to copyright.
73
Fecha de recepción: 01.04.24
Fecha de aceptación: 01.07.24
Resumen: Este artículo profundiza en el cam-
bio estratégico de la manipulación de la opi-
nión pública por medio de la colonización
algorítmica, el imperialismo tecnológico, la
generación de datos y la creación de conte-
nidos sintéticos. Ello es utilizado por organiza-
ciones gubernamentales, grandes corporacio-
nes tecnológicas y poderes económicos para
amenazar la integridad de la democracia a
través de la alteración de los procesos de ra-
cionalización y sentido, así como los ujos de
comunicación implicados, lo que conduce a la
aparición de patologías sociales, anomalías y
distorsiones en la esfera pública digital. El ob-
jetivo de este artículo es mostrar las principales
estrategias vinculadas con las tecnologías digi-
tales disruptivas para la creación de sentido y
la manipulación de la opinión pública y, espe-
cialmente, criticar los impactos y desafíos que
subyacen a este nuevo contexto democrático
algoritmizado, sinteticado y masivo para la
propia opinión pública y la democracia.
Palabras clave: sinteticación, opinión pública
masiva, esfera pública digital, algoresfera, ti-
ranía de la mayoría, inteligencia articial (IA)
generativa, democracia
Abstract: This paper examines the strate-
gic change in the manipulation of public
opinion through algorithmic colonisation,
technological imperialism, data genera-
tion and the creation of synthetic content.
This is utilised by government organisa-
tions, big tech corporations and economic
powers to threaten the integrity of democ-
racy via the alteration of the processes of
rationalisation and meaning-making, as
well as the communication ows involved,
which leads to the appearance of social
pathologies, anomalies and distortions in
the digital public sphere. The aim of this
paper is to show the main strategies relat-
ed to disruptive digital technologies for the
creation of meaning and the manipulation
of public opinion and, especially, critique
the impacts and challenges for public opin-
ion and democracy underlying this new
algorithmised, synthetised and mass demo-
cratic context.
Key words: synthetisation, mass public opin-
ion, digital public sphere, algosphere, tyranny
of the majority, generative articial intelligence
(AI), democracy
Opinión pública masiva: colonización
algorítmica y sinteticación de la
esfera pública
Mass public opinion: algorithmic colonisation
and synthetisation of the public sphere
Carlos Saura García
Investigador predoctoral, Departamento de Filosofía y Sociología, Universitat Jaume i de
Castelló (España). saurac@uji.es. ORCID: https://orcid.org/0000-0001-6047-8573
Patrici Calvo
Profesor titular de Filosofía moral. Departamento de Filosofía y Sociología. Universtat Jaume i
de Castelló (España). calvop@uji.es. ORCID: https://orcid.org/0000-0002-3228-9019
Cómo citar este artículo: Saura García, Carlos y Calvo, Patrici. «Opinión pública masiva: colonización
algorítmica y sintetificación de la esfera pública». Revista CIDOB d’Afers Internacionals, n.º 138
(diciembre de 2024), p. 73-95. DOI: doi.org/10.24241/rcai.2024.138.3.73
Revista CIDOB d’Afers Internacionals
n.º 138, p. 73-95
ISSN:1133-6595 | E-ISSN:2013-035X
DOI: doi.org/10.24241/rcai.2024.138.3.73
Opinión pública masiva: colonización algorítmica y sinteticación de la esfera pública
74
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
Introducción: de la opinión mayoritaria a la
opinión masiva
La dependencia de la ciudadanía de las sociedades modernas de multitud de
plataformas digitales (X, Facebook, Instagram, TikTok, Metaverso, etc.) y el
desarrollo de los fenómenos de la hiperconectividad, la algoritmización y la da-
taficación han originado que la esfera pública digital aumente su tamaño hasta
ocupar prácticamente la totalidad de los espacios de la esfera pública (Hagen
et al., 2017). Este acoplamiento e hibridación de ambas esferas está originando
grandes cambios en los procesos de construcción de la opinión pública y en
el propio sistema democrático (Habermas, 2023). Con la consolidación de la
segunda era de la inteligencia artificial (IA), la opinión pública se ha convertido
en objeto de deseo de organizaciones gubernamentales, grandes corporaciones
tecnológicas y poderes económicos alrededor del mundo (García-Marzá y Cal-
vo, 2022 y 2024; Woolley, 2023).
Estos colectivos han realizado una construcción de la opinión pública de di-
versas formas. Por una parte, a través de los mecanismos de funcionamiento de
la esfera pública digital fuertemente vinculados con las influencias sociales, se
ha intentado imponer un espiral del silencio (Noelle-Neumann, 2010) que po-
tencie que las opiniones de los individuos se acerquen y se alineen alrededor de
la opinión mayoritaria o, en caso de que no sea así, que el valor, la importancia
y el peso de estas opiniones en la esfera pública digital sea silenciado, reducido
o eliminado (Sunstein, 2017 y 2019). Por otra parte, se han desarrollado ins-
trumentos e infraestructuras de introducción de datos y contenidos sintéticos y
difusión artificial de estos en la esfera pública digital para generar ruido, alterar
el funcionamiento de los algoritmos de las plataformas digitales, distorsionar
de forma artificial la opinión pública1 y crear una «opinión pública sintética»
(Saura García y Calvo, 2024).
En la actualidad, empero, la disruptiva e implacable colonización algo-
rítmica de la esfera pública y de la propia democracia ha sufrido un giro
estratégico. Ya no se trata tanto de inundar todo el ciberespacio con datos y
contenidos sintéticos para influir y manipular los procesos de formación de
la opinión pública, así como potenciar el desarrollo de un patrón totalmente
ficticio creado de forma artificial en favor de los intereses de determinados
1. Véanse: Woolley y Howard (2018); Howard (2020); Pérez Zafrilla (2021); Ottaviani (2022);
Woolley (2023) y García-Marzá y Calvo (2024).
Carlos Saura García y Patrici Calvo
75
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
colectivos que introducen los propios datos y contenidos (García-Marzá y
Calvo, 2022; Woolley, 2023); sino que ahora se actúa por medio de diversos
instrumentos e infraestructuras en dos niveles distintos: uno subsistémico (en
la esfera pública digital), en el cual se introducen aquellos datos que permi-
tan la construcción del patrón de opinión pretendido, y otro sistémico (en
la esfera privada y gubernamental), en el cual se detectan exclusivamente los
patrones de opinión de la esfera pública digital deseados2.
En este contexto, el objetivo de este artículo teórico-práctico es detallar
las diversas estrategias, vinculadas con las tecnologías digitales disruptivas,
para la creación de sentido de forma artificial y sintética y para la manipu-
lación de la opinión pública, así como ofrecer una crítica de los impactos y
consecuencias que esto puede tener para la sociedad y los sistemas democrá-
ticos3. Para ello, en primer lugar, partiendo de las reflexiones de pensadores
como Alexis de Tocqueville y John Stuart Mill, se expondrá el concepto de
opinión pública mayoritaria y su influencia en la nueva esfera pública di-
gital, y los peligros que esta implica para la democracia. En segundo lugar,
se detallarán las principales características de la «opinión pública sintética»
promovida por las tecnologías de la segunda era de la IA. En tercer lugar, se
profundizará en el concepto de «opinión pública masiva» y, finalmente, des-
de una perspectiva ético-crítica, se valorarán peligros actuales y potenciales
que subyacen a la nueva situación contextual generada por la irrupción de
la citada «opinión pública masiva», tanto para la democracia como para la
propia opinión pública4.
2. Se entiende por sistema el conjunto de esferas, como el Estado y el mercado, que aplica procesos
de racionalización con respecto a fines, mientras que por subsistema se entiende el conjunto de
ámbitos del mundo de la vida –objetivo, social y personal– que aplica procesos de racionalización
con respecto a sentido (Habermas, 1987).
3. Para el desempeño de este objetivo, el estudio se ha apoyado en un enfoque metodológico herme-
néutico crítico. Siendo propio de la filosofía moral y política (Habermas, 1984), este se aleja de
aquellas posturas mecanicistas y cientificistas basadas en la neutralidad y la objetividad de los datos
y metadatos observables y cuantificables, a fin de abordar el interés del conocimiento por una mayor
emancipación y autonomía del ser humano a través de la comprensión, aprehensión y crítica de la
realidad y justicia social.
4. Cabe destacar que la actual situación de acelerada evolución y desarrollo de las tecnologías digi-
tales disruptivas y de la IA generativa analizadas en este estudio pueden llegar a producir, por
una parte, limitaciones en la actualización del análisis teórico realizado en el texto y, por la otra,
transformaciones o modificaciones de los procedimientos, fenómenos, situaciones e impactos
analizados.
Opinión pública masiva: colonización algorítmica y sinteticación de la esfera pública
76
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
La tiranía de la mayoría en la esfera pública
digital
El exponencial proceso de hiperconectividad, dataficación y algoritmización de
todos los ámbitos, tareas y funciones de las democracias en las sociedades moder-
nas, entendidos en sentido amplio (político, económico y social), está potencian-
do los peligros que amenazan la existencia de las propias democracias ya enuncia-
dos por Alexis de Tocqueville en la primera mitad del siglo xix y por John Stuart
Mill en la segunda mitad del mismo siglo. Entre las citadas amenazas destacan
especialmente las vinculadas con la opinión pública, como son la omnipresencia
de la opinión mayoritaria, la opresión ideológica de las masas, los efectos negati-
vos de la conformidad, la imposición
del silencio, las revoluciones mudas,
etc. (Mill, [1861]1972; Tocqueville,
[1835-1840]1988). Tanto Tocque-
ville primero como Mill después
subrayan los graves problemas que
puede causar en el correcto funciona-
miento de la democracia una tiranía
de la mayoría, haciendo referencia a
la dominación de la opinión pública
por la llamada opinión mayoritaria.
En su análisis de la democracia de los
Estados Unidos en el siglo xix, Tocqueville argumentaba que: «(…) la mayoría tie-
ne un inmenso poder de hecho y un poder de opinión casi igual de grande, y una
vez que ha decidido respecto a una cuestión no hay, por así decir, obstáculos que
puedan, no diré que detener, sino ni siquiera retrasar su marcha y dejarle tiempo
para escuchar las quejas de aquellos que aplasta al pasar» (ibídem: 244).
La dominación de la mayoría expuesta por Tocqueville supone una emergencia
en relación con el libre pensamiento y reflexión, y da lugar a una situación en la
cual el poder de la mayoría restringe la propia libertad de espíritu y la libertad de
discusión de la ciudadanía provocando la desaparición de la crítica y la posibilidad
de cambio dentro de la democracia. La tiranía de la mayoría predomina sobre el
sentido común, el buen juicio y la propia justicia, lo que provoca que los equilibrios
subóptimos se impongan en los procesos de construcción del saber moral y que la
reproducción, la repetición y el silencio se adueñen de los espacios de deliberación y
dialogo (ibídem). Tocqueville resume estos efectos nocivos diciendo que: «la mayo-
ría traza un círculo formidable alrededor del pensamiento. Dentro de esos límites, el
escritor es libre. Pero pobre de él si se atreve a salir de ellos» (ibídem: 250).
El exponencial proceso de hiperconecti-
vidad, datacación y algoritmización de
todos los ámbitos, tareas y funciones de
las democracias en las sociedades moder-
nas, entendidos en sentido amplio (políti-
co, económico y social), está potenciando
los peligros que amenazan la existencia
de las propias democracias ya enunciados
por Alexis de Tocqueville y John Stuart Mill
en el siglo xix.
Carlos Saura García y Patrici Calvo
77
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
Los efectos de la tiranía de la mayoría provocan la marginación de la crítica, el
atrofiamiento de la opinión pública y la progresiva homogeneización de esta dentro
de una opinión mayoritaria conformada a partir de un conjunto de ideas y acciones
intuitivas y automatizadas que han colonizado las formas de pensar, actuar, sentir
y vivir de los ciudadanos. En relación con este tema, tanto Tocqueville como Mill
argumentan que las mayorías no tienen necesidad de poder político para imponer
su dominación social. Por una parte, Tocqueville sostiene que «estar en desacuerdo
con la masa equivale, por decirlo así, a no vivir. Esta no tiene necesidad de emplear
las leyes para doblegar a los que no piensan como ella, le basta con desaprobarlos.
El sentimiento de su aislamiento y su impotencia les abruma y desespera» (ibídem:
307). Por otra parte, Mill subraya el mismo problema cuando afirma que la socie-
dad misma «(…) practica una tiranía social más formidable que muchos tipos de
opresión política, ya que, aunque generalmente no se sustenta con penas tan extre-
mas, deja menos vías de escape, penetra mucho más profundamente en los detalles
de la vida y esclaviza el alma misma» (Mill, 1977 [1859]: 220)5.
Para Tocqueville y Mill, por consiguiente, a la masa le es suficiente con su po-
der, basado en la sensación de legitimación por la mayoría social, para imponer
su homogeneidad intelectual y comportamental y aplicar correctivos disuasorios
sobre las minorías. Es decir, la opinión mayoritaria se expande impulsada por
una masa de personas que impone una espiral del silencio en la cual todo lo que
sea o parezca diferente a la opinión mayoritaria y toda persona que piense o pa-
rezca diferente es excluida, silenciada y reducida (Noelle-Neumann, 2010). De
ahí que tanto Tocqueville (1988 [1835-1840]) como Mill (1972 [1861]) alerten
de la emergencia de las prácticas despóticas y tiránicas de la opinión mayorita-
ria, de sus impactos en el funcionamiento de los sistemas democráticos y de la
necesidad de hacer frente a estas prácticas y evitar la colonización de la opinión
pública y la democracia por parte de una opinión mayoritaria caracterizada por
ser agregativa y robusta a cualquier tipo de crítica y a la cual todos los ciudada-
nos se adhieren y ninguno se atreve a criticar.
En el contexto actual de esfera pública digital, los impactos negativos de las
prácticas despóticas y tiránicas de la opinión mayoritaria sobre la opinión pública
y los sistemas democráticos expuestos por Tocqueville y Mill se ven representa-
dos y potenciados por diversos fenómenos vinculados con las influencias sociales
como, por ejemplo, la conformidad social y las cascadas de opinión (Sunstein,
2017 y 2019; Aral, 2021). Por una parte, la promoción de conformidad en
5. Nota de Ed.: Esta cita y las siguientes cuya referencia original está en una lengua diferente del
castellano son una traducción libre del original.
Opinión pública masiva: colonización algorítmica y sinteticación de la esfera pública
78
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
ecosistemas digitales tiene que ver, principalmente, con la influencia directa de las
creencias y los comportamientos de otras personas. Ello se visualiza claramente
en el papel que juegan las cámaras de resonancia de las plataformas digitales ba-
sadas en mecanismos algorítmicos (Pariser, 2011; Sunstein, 2017; Lanier, 2018;
Williams, 2021). Por otra parte, las cascadas de opinión en la esfera pública digi-
tal se originan como consecuencias de las llamadas influencias informacionales y
reputacionales y hacen referencias a los conjuntos de personas que disminuyen su
crítica y aceptan una opinión o una idea debido a las creencias o acciones trasmi-
tidas por determinadas noticias o personas (Sunstein, 2017 y 2019; Aral, 2021).
De esta forma, los fenómenos de la cohesión y las cascadas de opinión de grupo
en la esfera pública digital acentúan los problemas vinculados con el despotismo y
la tiranía de la opinión mayoritaria expuestos por Tocqueville y Mill en el siglo xix,
pero esta vez en el siglo xxi. En un contexto social totalmente digitalizado como el
actual, dichos efectos producen un gran impacto negativo en la opinión pública y
los sistemas democráticos. Sin embargo, estos representan una sola parte del pro-
ceso de instrumentalización de la esfera pública digital para influenciar, controlar,
manipular la opinión pública. En la actualidad, las grandes corporaciones digita-
les, las grandes organizaciones gubernamentales y los poderes económicos han de-
sarrollado y perfeccionado otra forma de aplicar la tiranía y el despotismo mucho
más sutil, eficiente y eficaz a través de mecanismos tecnológicos. Esta forma busca
aprovechar la generación y difusión de contenidos sintéticos, la alteración del fun-
cionamiento de los algoritmos de las plataformas digitales y la vigilancia social
masiva con el objetivo de potenciar la distorsión de los procesos de construcción
de opinión pública mediante su sintetificación; es decir, a través de verter sobre
ellos conjuntos de datos sintéticos capaces de generar «opinión pública sintética»
(Saura García y Calvo, 2024; García-Marzá y Calvo, 2024).
La construcción de una «opinión pública
sintética»
El constante desarrollo de las tecnologías de la información y la comunica-
ción (TIC) en la primera década del siglo xxi fue esencial para la constitución
de una «sociedad red» basada en las redes de información y comunicación digital
(Castells, 2006). Esta sociedad red potenció y produjo multitud de cambios
políticos, económicos y sociales entre los que destacan la hibridación entre los
medios de comunicación tradicionales y los medios de comunicación digitales,
el incremento de la interacción de la ciudadanía por medio de la dinamización
Carlos Saura García y Patrici Calvo
79
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
y multiplicación de las formas de comunicación o la transformación y digitali-
zación de la opinión y la esfera pública (Papacharissi, 2002 y 2010; Carpentier,
2011; Chadwick, 2013).
La evolución de la nueva situación política, económica y social propiciada
por el desarrollo de las tecnologías digitales y, especialmente, las plataformas
sociales produjo, en un primer momento, un incremento de las posibilidades de
participación democrática de la ciudadanía y un empoderamiento de esta (Papa-
charissi, 2010; Tufekci, 2017). Sin embargo, con el paso del tiempo, el avance
de la hiperconectividad, dataficación y algoritmización de todos los ámbitos,
tareas y funciones de las democracias en las sociedades modernas ha propiciado
que esta situación cambie y se haya revertido, lo que ha dado lugar a impactos
negativos para la soberanía, autonomía y autodeterminación de la ciudadanía,
deformándose la libre e igual participación democrática y concentrándose la
esfera pública digital en un pequeño grupo de plataformas y servicios digitales
propiedad de grandes corporaciones digitales. Ello ha socavado las condicio-
nes básicas para el correcto funcionamiento de los sistemas democráticos (Saura
García, 2022 y 2024; Habermas, 2023; García-Marzá y Calvo, 2024).
Las características de las plataformas digitales gestionadas por las grandes cor-
poraciones tecnológicas del mundo han convertido la esfera pública digital en un
espacio de hibridación donde convergen acciones, actividades, contenidos y opi-
niones procedentes tanto de actores humanos como no humanos (García-Marzá
y Calvo, 2022 y 2024; Millière, 2022). Este hecho está posibilitando la construc-
ción de una «opinión pública sintética» basada en la introducción de grandes can-
tidades de contenidos de forma artificial, en la creación de una infraestructura de
vigilancia social masiva y en la instrumentalización de la llamada algoresfera6. Ante
esta situación, las amenazas para la democracia descritas por Tocqueville y Mill se
acrecientan y se potencian por medio de nuevos fenómenos como el despotismo
tecnológico, el individualismo digital y la tiranía algorítmica.
La «opinión pública sintética» está constituida, en mayor medida, por grandes
conjuntos de contenidos basados en datos sintéticos generados, vertidos y espar-
cidos por usuarios, instrumentos y mecanismos artificiales totalmente computa-
rizados, automatizados y algoritmizados y, en la mayoría de los casos, controlados,
financiados y dirigidos parcial o totalmente por las grandes corporaciones digita-
les, las grandes organizaciones gubernamentales y los poderes fácticos. En menor
6. La algoresfera hace referencia al ecosistema ciberfísico controlado y gobernado por algoritmos que
permite la hiperconectividad digital, la vigilancia masiva y la dataficación comportamental (García-
Marzá y Calvo, 2022).
Opinión pública masiva: colonización algorítmica y sinteticación de la esfera pública
80
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
medida, aquella está constituida por los contenidos naturales introducidos por la
ciudadanía, es decir, por «autores autóctonos», que utilizan la esfera pública digital
para expresar y discutir sus opiniones con el objetivo de ponerse de acuerdo sobre
diferentes cuestiones de este mundo, y por «públicos usufructuarios», que la utili-
zan para lograr sus intereses e instrumentalizar a la ciudadanía (Habermas, 1998 y
2023). Pero el objetivo primario de la «opinión pública sintética» no es adulterar
la opinión pública por medio de contenidos naturales creados por personas reales,
sino inundar la esfera pública digital con datos y contenidos creados artificialmente
con el propósito de generar realidad y
sentido de forma totalmente artificial
en y sobre cualquier tema, así como
de crear una opinión pública maciza
que no se pueda ver afectada o altera-
da por ningún tipo de crítica.
Sobre este punto, cabe destacar
que la capacidad de generar cantida-
des ingentes de contenidos sintéti-
cos y la hibridación de estos con los
creados por humanos provocan que las personas sean incapaces de detectar la
sinteticidad de los contenidos e interpreten todos los contenidos de la esfera pú-
blica digital como naturales, atribuyéndolos directamente a contenidos creados
por personas. A este hecho se le suma la imposibilidad en muchos casos de iden-
tificar y verificar los contenidos engañosos o directamente falsos introducidos
deliberadamente por «públicos usufructuarios» con la intención de persuadir,
manipular o adulterar la opinión pública, es decir, mediante fake news, desinfor-
mación, propaganda computacional, deep fakes, entre otros (Habermas, 2023;
Meikle, 2023; Woolley, 2023) y, ahora, a través de deep-synthetic (Calvo y Saura
García, 2024).
La fabricación de la «opinión pública sintética» se basa, principalmente, en la
creación, inundación y propagación de contenidos creados artificialmente por
la IA generativa en la esfera pública digital. Sin embargo, no hay que pasar por
alto que también utiliza, por una parte, los mecanismos de los fenómenos de in-
fluencia social de las plataformas digitales analizados en la primera sección y, por
la otra, la propagación de contenidos personalizados a cada usuario humano con
el objetivo de maximizar la generación de realidad y sentido a fin de potenciar
los efectos de influencia, control, persuasión y manipulación interesada de la
opinión pública de forma artificial. Los tres pilares fundamentales sobre los que
se construye la «opinión pública sintética» son a) la intoxicación informativa, b)
la colonización algorítmica y la instrumentalización de la esfera pública digital,
y c) la vigilancia social masiva.
El objetivo primario de la «opinión pública
sintética» no es adulterar la opinión pú-
blica por medio de contenidos naturales
creados por personas reales, sino inun-
dar la esfera pública digital con datos y
contenidos creados articialmente con el
propósito de generar realidad y sentido
de forma totalmente articial.
Carlos Saura García y Patrici Calvo
81
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
a) La intoxicación informativa hace referencia al uso por parte de gobiernos, gran-
des corporaciones digitales, partidos políticos, personajes multimillonarios o
«públicos usufructuarios» en general de las nuevas tecnologías digitales disrup-
tivas para adulterar y manipular la opinión pública por medio de la utilización,
principalmente, de bots sociales (Howard, 2020; Ottaviani, 2022; Woolley,
2023). Los bots sociales hacen referencia a cuentas de las plataformas sociales
controladas sobre todo por algoritmos dedicados a crear, introducir y propagar
contenidos artificiales para interactuar con usuarios o con otros bots y alterar
la opinión pública de forma específica (Chang et al., 2021; Hajli et al., 2022).
La fuerte irrupción en noviembre de 2022 de la IA generativa y especialmente
de los modelos de lenguaje extensivo (LLM, por sus siglas en inglés) ha revo-
lucionado el funcionamiento y los impactos de los bots sociales en las platafor-
mas digitales (García-Marzá y Calvo, 2024). Por una parte, ha potenciado la
inundación de contenido sintético y la propagación de fake news, desinforma-
ción o propaganda computacional en la esfera pública digital (Howard, 2020;
Woolley, 2023) y, por la otra, ha aumentado exponencialmente la calidad, la
minuciosidad y la personalización de los contenidos falsos y de los llamados
deep fakes (Woolley, 2020; Meikle, 2023); finalmente, ha producido un nuevo
fenómeno de perversión de la opinión pública: las deep-synthetic (Calvo y Saura
García, 2024), es decir, aquella información que, sin ocultar que se trata de un
conjunto de datos y metadatos sintéticos generados por IA generativa, es capaz
de influir de forma más profunda y eficiente en la voluntad libre de la ciudada-
nía gracias al patrón comportamental que le subyace.
b ) La colonización algorítmica y la instrumentalización de la esfera pública digital
han provocado la transformación de esta última en una algoresfera controla-
da por las grandes corporaciones tecnológicas o por poderes fácticos, persona-
jes multimillonarios o gobiernos (Bartlett, 2018; Moore, 2018; Da Empoli,
2020). Por una parte, la mayoría de los algoritmos que componen esta algores-
fera están gestionados por las grandes corporaciones digitales del planeta –que
a su vez son las creadoras y dominadoras del capitalismo de la vigilancia– con
el objetivo de satisfacer sus intereses económicos (Zuboff, 2020); y, por la otra
parte, dichos poderes fácticos, personajes multimillonarios o gobiernos realizan
campañas de alteración y manipulación de los algoritmos de las plataformas
sociales a partir de la utilización de las API (Application Programming Interface).
Las API hacen posible la intercomunicación entre diversas aplicaciones y
programas, originándose la alteración y manipulación interesada del fun-
cionamiento de los algoritmos de plataformas, como Facebook, Instagram,
X o Google, principalmente por medio de la recreación de movimientos o
contenidos artificiales o sintéticos que engañen a los algoritmos (Aral, 2021;
Woolley, 2023).
Opinión pública masiva: colonización algorítmica y sinteticación de la esfera pública
82
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
c ) La vigilancia social masiva, por su parte, también es ejercida por las grandes
corporaciones digitales y gobiernos o poderes públicos (Jiang y Fu, 2018;
Snowden, 2019; Ebeling, 2022). La infraestructura de la vigilancia social ma-
siva existente ha dado lugar a un panóptico digital que hace posible observar,
dataficar y explotar todos los clics, los movimientos, las reacciones, las opi-
niones, etc., dentro de la esfera pública digital y los ecosistemas ciberfísicos
(Zuboff, 2020), así como vigilar y dataficar a través de dispositivos invasivos
o no invasivos los espacios íntimos de las personas al objeto de explotar gran-
des conjuntos de datos íntimos relacionados con aspectos corporales, senti-
mentales, desiderativos o mentales (Farahany, 2023).
Los efectos conjuntos de estos aspectos han creado una opinión pública sinté-
tica que se mantiene inmóvil y robusta, que no se ve afectada por ningún tipo de
crítica, que quiebra y destruye la opinión pública y que está construida, contro-
lada y dirigida por grandes corporaciones digitales, gobiernos, poderes públicos
y otros poderes fácticos (García-Marzá y Calvo, 2024). Al respecto, destacan las
siguientes consecuencias:
– Rotura de la acción comunicativa. La desintegración de la acción comunicativa
y la personalización de contenidos desembocan en un incremento del indivi-
dualismo digital, la destrucción de los espacios discursivos y la potenciación
del autoadoctrinamiento (Habermas, 2023).
– Dataficación de la opinión. No se realiza una reflexión y valoración de las ma-
nifestaciones, acciones u opiniones de las personas, sino solamente un cálculo
computacional de los datos y metadatos de conjuntos de usuarios –huma-
nos o no humanos– en relación con diversos temas (García-Marzá y Calvo,
2022).
– Monopolización de la esfera pública. La esfera pública digital –y los grandes
conjuntos de datos que emanan de ella– está gestionada, controlada, mer-
cantilizada e instrumentalizada por las grandes corporaciones digitales (Saura
García, 2022).
– Preeminencia de los contenidos sintéticos y artificiales. El uso de las API y de
los bots sociales con IA generativa ha propiciado la inundación de contenidos
sintéticos y la propagación de fake news, deep fakes, desinformación o propa-
ganda computacional automatizada (Woolley, 2020 y 2023).
– Dificultad para diferenciar entre lo sintético y lo real. La imposibilidad de dis-
tinguir entre las acciones, actividades, contenidos u opiniones procedentes de
actores humanos y las producidas por actores no humanos provoca que las
personas en primer lugar los identifiquen todos como realizados por actores
humanos (Woolley, 2020 y 2023).
Carlos Saura García y Patrici Calvo
83
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
– Vigilancia ubicua. Existencia de una infraestructura que monitoriza, vigila y
datafica constantemente la esfera pública digital y también los espacios priva-
dos e íntimos de la ciudadanía (Zuboff, 2020; Farahany, 2023).
Las citadas consecuencias ponen de manifiesto y agravan los principales pro-
blemas que se producen para el correcto funcionamiento y la buena salud de las
democracias enunciados por Tocqueville y Mill, por diversas razones. En primer
lugar, potencian un desequilibrio de los principios de libertad e igualdad de
la ciudadanía, necesarios para el correcto funcionamiento de la opinión públi-
ca y de la democracia. En segundo lugar, promocionan prácticas nocivas para
el correcto funcionamiento de la opinión pública y la democracia, como son el
despotismo tecnológico, la tiranía algorítmica y el individualismo digital. En
tercer lugar, promueven una colonización de la opinión pública real a través de
una «opinión pública sintética», que es impermeable y monolítica ante la crítica
creada de forma artificial por poderes públicos, económicos o fácticos basada en
la omnipresencia de su opinión, la opresión ideológica de las masas y la imposi-
ción del silencio.
Recientemente, la dominación disruptiva de la esfera pública digital, la opi-
nión pública y la propia democracia han sufrido un giro estratégico y, en cierto
modo, inesperado. Ya no se trata solo de inundar todo el ciberespacio con datos
masivos para influir y manipular. Como se ha mencionado anteriormente, ahora
se actúa en dos niveles: uno sistémico y otro subsistémico. Por un lado, uno que
opera en la esfera pública digital (subsistema) –detectando y proporcionando
aquellos datos que permitan la construcción del patrón deseado– y otro que
opera en la esfera privada y gubernamental (sistema) –captando específicamente
los patrones de opinión de la esfera pública digital deseados–.
«Opinión pública masiva»: el impacto de los
políticos algorítmicos
Fruto de los últimos avances tecnológicos en procesamiento del lenguaje na-
tural ((PLN, por sus siglas en inglés), especialmente en el desarrollo y uso de
la IA generativa y algoritmos estocásticos –como el ChatGPT (Generative Pre-
trained Transformer) de Open IA, el Gemini de Google, el Llama de Meta o el
Claude de Anthropic–, desde 2017 los llamados políticos algorítmicos o virtua-
les han ido ganando peso, fuerza y presencia en los procesos políticos de elección
de representantes, toma de decisiones, deliberación y resolución de conflictos,
Opinión pública masiva: colonización algorítmica y sinteticación de la esfera pública
84
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
generación de programas electorales, construcción de opinión política y sentido
social, así como de desarrollo de políticas públicas.
Este proceso comenzó su andadura en 2017 con SAM y Alisa, los primeros inten-
tos de presentar un algoritmo de IA a unas elecciones presidenciales de un país demo-
crático (Nueva Zelanda y Rusia, respectivamente). Continuó su desarrollo en 2019
con IA-Mayor, el primer algoritmo de IA que consiguió participar de facto en unas
elecciones municipales (Tama New Town, Tokio, Japón), y en 2022, con Leaders
Lars, el primer partido político (Det Syntetiske Parti) compuesto íntegramente por
un algoritmo de IA que participó en unas elecciones presidenciales (Dinamarca).
Y se consagró en 2023, con ION, la primera IA nombrada oficialmente como
consejera presidencial de un Gobierno democrático, en Rumania (García-Marzá
y Calvo, 2024)7. El caso ION es especialmente significativo para la democracia,
ya que, dado su reconocimiento público y oficialidad gubernamental, marcó un
punto de inflexión en la aplicación e implementación de un enfoque algorítmico
de democracia: primero, porque ION es el primer ente no-humano que ha sido
nombrado oficialmente como consejero de un Gobierno democrático (Rumanía);
segundo, porque la oficialidad de ION no se esconde detrás de un subterfugio legal,
un alter ego humano u organizacional como en los casos de Alisa, SAM, IA-Mayor
y Leaders Lars; y, tercero, porque sus recomendaciones e informes, aunque no son
vinculantes, tienen línea directa con el máximo representante gubernamental.
Tal y como lo describió el Gobierno rumano en su presentación pública, ION
–que significa nosotros en rumano– es una IA basada en lenguaje extensivo (LLM)
que recopila información directa de la ciudadanía a través de su web oficial, e in-
directa mediante el rastreo de las redes sociales con el objetivo de conocer el sentir
mayoritario y las preferencias e intereses de la ciudadanía rumana digitalmente
hiperconectada. A través de ello, responde preguntas, eleva informes técnicos y
asesora al presidente del Gobierno rumano sobre un tema concreto: «ION –la
aplicación desarrollada por los mejores investigadores y profesores rumanos en
este campo– representará el eslabón perdido de la comunicación en tiempo real
y en el siglo xxi entre ciudadanos y gobiernos, un sistema que utilizará la IA, el
procesamiento de lenguaje natural y la visión por ordenador para captar de forma
rápida y automática las opiniones de los rumanos utilizando los datos disponibles
públicamente en las redes sociales. (...) ION será la versión moderna de la antigua
7. Los últimos casos de políticos virtuales han sido VIC (Virtual Integrated Citizen), un chatbot basado
en ChatGPT que se ha postulado como alcalde de una población de Wyoming, en Estados Unidos
(Elliott, 2024a), y AI Steven, un avatar de IA que se ha postulado como parlamentario del Reino
Unido (Elliott, 2024b), ambos en 2024.
Carlos Saura García y Patrici Calvo
85
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
ágora, un vínculo entre los ciudadanos y los responsables de la toma de decisiones,
donde la voz de todos podrá ser escuchada» (ION, s/f: 1).
En el informe técnico del proyecto ION, disponible en la web del Gobierno
rumano, se describen y justifican los dos objetivos principales del desarrollo e
implementación práctica del proyecto (ibídem: 9):
– Participación directa de la ciudadanía en la toma de decisiones política. ION
identifica, recopila, procesa y agrupa la información más relevante de las re-
des sociales para identificar los principales intereses de la ciudadanía. Para
ello, en primer lugar, sondea las redes en busca de aquella información vincu-
lada con el tema a tratar que ha recibido más likes y comentarios (relevancia).
En segundo lugar, analiza la información recopilada a través de métodos de
PLN y aprendizaje profundo. Finalmente, utiliza técnicas y métodos de data
mining como el clustering para agrupar la información y determinar los inte-
reses y las preferencias de la ciudadanía
– Seguimiento continuo de las repercusiones, los resultados y las dinámicas. ION, una
vez determinados y difundidos entre los políticos los intereses de la ciudadanía al-
rededor de un tema concreto, se preocupa de realizar un seguimiento continuado
de los resultados que estos van teniendo en las políticas públicas y su repercusión
práctica, así como sobre la evolución que tales intereses tienen para evitar anacro-
nismos que aumenten la brecha entre los gobernantes y los ciudadanos.
Más allá de lo anecdótico del caso, ION simboliza la conquista de la última
frontera de la algoritmización de la democracia: la oficialidad de los políticos
virtuales. Si hasta 2023 la participación democrática de los políticos virtuales se
había logrado a través de un subterfugio legal, amparándose en una identidad
humana –Michihito Matsuda y Leader Lars–, con el reconocimiento oficial de
ION como cargo público se han roto no solo barreras legales, sino también las
psicológicas, sociales y culturales. Además, ION ha producido la emergencia de
dos fenómenos subyacentes: la hegemonía de la opinión masiva y el reacopla-
miento del mundo sistémico (Estado y mercado) y el mundo de la vida (objeti-
vo, intersubjetivo y subjetivo) a través de la expansión de la algoresfera y su hibri-
dación e influencia profunda en la esfera política. La «opinión pública masiva»,
consiste en la reducción a datos computables y patrones comportamentales de
todos los resultados que producen cada uno de las tres formas de opinión (ma-
yoritaria, artificial/sintética y pública) que se producen en la esfera pública para,
desde un criterio binario, procesarlos, analizarlos y convertirlos en información
relevante y conocimiento aplicable para la toma de decisiones, la resolución de
conflictos o la elaboración y desarrollo de leyes o políticas públicas; es decir, para
conocer y aplicar el sentido de algo en la democracia.
Opinión pública masiva: colonización algorítmica y sinteticación de la esfera pública
86
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
A diferencia de los bots sociales tradicionales o generativos, que actúan en la
esfera pública digital promoviendo o produciendo datos y metadatos sobre algo
de la democracia, ION actúa en la esfera política extrayendo patrones proceden-
tes de la opinión pública, la opinión masiva y la opinión artificial y sintética,
que se construye a través de interacciones humanas y no humanas en la esfera
pública digital. Estos patrones sirven de modelo a ION y otros políticos algorít-
micos para ofrecer consejos a los poderes públicos que ayuden a tomar decisio-
nes, resolver conflictos, elaborar políticas públicas, desarrollar leyes, etc. Uno de
los mayores problemas de este intento de objetivar la opinión pública a través
de datos y patrones es la actual hege-
monía de la opinión artificial y sin-
tética sobre la opinión mayoritaria y
pública. Los algoritmos empleados
en la esfera digital crecen de manera
exponencial tanto en número como
en capacidad (potencia, sutileza,
precisión, velocidad, realidad, etc.)
y, cuanto mayor es su crecimiento,
menor es la influencia del resto de
las opiniones (mayoritaria y públi-
ca). Con la «opinión pública masi-
va», este factor es todavía más profundo, influyente y distorsionador, puesto que
la hegemonía de la opinión artificial o sintética se entrelaza directamente con
el patrón o modelo que extraen y utilizan los políticos algorítmicos que, como
ION, actúan en la esfera política.
Otra de las complicaciones que emana de la plasmación de esta forma masiva
de opinión pública es la capacidad que tienen los bots sociales generativos de po-
ner en marcha procesos de sintetificación de la realidad capaces de pervertir de
forma muy sutil y difícil de detectar la muestra o patrón que extraen y utilizan
los políticos algoritmos como ION. La irrupción de bots sociales generativos y la
posibilidad que tienen estos de producir grupos de datos sintéticos hiperrealistas
y humaniformes de todo tipo (de imágenes fijas y en movimiento, relatos, diá-
logos, etc.) y, con ello, de hibridar lo humano y lo no humano en las relaciones
sociales que se generan en la esfera pública digital, ha producido un cambio de
estrategia. Si antes se trataba de inundar la esfera pública digital del mayor volu-
men posible de datos sobre algo en la democracia, hoy los bots sociales generativos
están sustituyendo la cantidad e intensidad de ruido por la elección e inclusión
de aquellos datos precisos que permitan influir de forma efectiva y eficiente en
el patrón o modelo. Es decir, los bots sociales generativos que actúan en la esfera
pública digital se preocupan menos de generar ruido masivo –para aumentar su
Los bots sociales generativos que actúan
en la esfera pública digital se preocupan
menos de generar ruido masivo –para au-
mentar su inuencia en la opinión pública
mayoritaria y pública–, y más en calcular
qué datos y en qué volumen, lugar y mo-
mento son necesarios para inuir de for-
ma profunda en el patrón o modelo que
extraerá el sistema a través del análisis de
los políticos algorítmicos como ION.
Carlos Saura García y Patrici Calvo
87
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
influencia en la opinión pública mayoritaria y pública–, y más en calcular qué
datos y en qué volumen, lugar y momento son necesarios para influir de forma
profunda en el patrón o modelo que extraerá el sistema a través del análisis de
los políticos algorítmicos como ION.
Otro de los inconvenientes que subyace a la emergencia y cada vez mayor
influencia de la «opinión pública masiva» es el reacoplamiento del sistema y los
subsistemas. La irrupción de una esfera pública algoritmizada, la algoresfera, y
su expansión a la esfera política mediante la consolidación de la «democracia
algorítmica» (García-Marzá y Calvo, 2024), está revirtiendo el proceso de des-
acoplamiento entre el sistema y el mundo de la vida (objetivo, intersubjetivo y
subjetivo) que, como afirma Habermas (1987), produjo la Modernidad. Este
hecho reduce la crítica y permite a la esfera política y económica lanzar impera-
tivos sistémicos que, como el poder, el dinero o la tecnología inteligente cubran
las necesidades de sentido de algo en la democracia, como la justificación de las
acciones y decisiones de los gobiernos y las empresas. Ante este acoplamiento,
los procesos de racionalidad con arreglo a sentidos característicos del mundo
objetivo, social y personal se están volviendo a hibridar con los procesos de ra-
cionalidad con arreglo a fines característicos del mundo político y económico.
Finalmente, otra de las complicaciones que subyace a la emergencia y cada
vez mayor influencia de la «opinión pública masiva», es su vulnerabilidad frente
al despotismo de las grandes corporaciones gubernamentales y tecnológicas del
sistema. En tanto que estas son quienes controlan los ecosistemas ciberfísicos y
las plataformas digitales que sustentan la algoresfera, acaparan los modelos mate-
máticos artificialmente inteligentes más avanzados y monopolizan la captación,
el acceso y la explotación de los datos y metadatos masivos, encontrándose en
una posición privilegiada para manipular a placer la esfera pública digital y, con
ello, la «opinión pública masiva» que sirve de justificación de sus acciones y de-
cisiones (Innerarity y Colomina, 2020; Coeckelbergh, 2024).
Dictadura algorítmica y despotismo
tecnológico: el poder de la sintetificación
En La democracia en América (1988 [1835-1840]) y La Revolución y el Anti-
guo Régimen (2010 [1856]), Alexis de Tocqueville reconocía el asociacionismo
y la opinión pública de la sociedad civil como piezas fundamentales de una
democracia saludable, madura y dinámica. El asociacionismo permitía abrir es-
pacios de participación para ejercer y sentir la libertad. Por un lado, toda de-
Opinión pública masiva: colonización algorítmica y sinteticación de la esfera pública
88
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
mocracia madura necesita mantener la armonía y simetría de poder entre los
principios de libertad e igualdad, y asociarse entre la ciudadanía para conseguir
objetivos democráticos comúnmente compartidos ofrece la posibilidad de abrir
espacios de partición donde las partes en relación se sienten y se reconocen libres
y democráticamente comprometidas con su sociedad. Por otro lado, a través de
estos espacios de libertad, la sociedad civil construye opinión pública, es decir,
los grilletes de todo sistema político, y también de toda corporación empresarial
que pretenda ejercer su poder sobre la sociedad de forma despótica.
Hoy, empero, la digitalización y algoritmización de la esfera pública, la da-
taficación de la participación ciudadana y la sintetificación de la realidad social,
económica y política ejercida por los gobiernos y las grandes corporaciones tec-
nológicas ha puesto en grave peligro su papel en la democracia. En primer lugar,
la transformación digital de la esfera
pública ha reducido este espacio de
crítica y justificación del uso y ejer-
cicio de poder de los gobiernos y las
grandes corporaciones tecnológicas
a una esfera desplegada –básicamen-
te– en la red. El mayor problema de
ello es que tal reduccionismo permi-
te la colonización algorítmica de la
esfera pública –de tal modo que la
influencia y el poder de la ciudada-
nía se reduce drásticamente–, la hibridación entre lo humano y lo máquina –de
tal forma que no es imposible saber quién es quién en los diferentes juegos de
relaciones interpersonales que se dan–, y la producción masiva de datos sintéticos
hiperrealistas –de tal forma que es imposible diferenciar aquellos paquetes de
datos reales y sintéticos–.
En segundo lugar, esta esfera pública en red –o digital– ha reducido la partici-
pación ciudadana al flujo de datos y metadatos masivos en línea que produce la
sociedad hiperdigitalizada a través de sus comportamientos y comentarios sobre
intereses, opiniones y preferencias individuales. Como argumenta Habermas
(2023: 77-78), «en un “mundo” difícilmente imaginable de noticias falsas que
ya no se puedan identificar como tal –es decir, distinguirse de la información
verdadera– ningún niño podría crecer sin desarrollar síntomas clínicos». Y este
es, precisamente, el caso actual, con una esfera digital caracterizada por ser ple-
biscitaria, excluyente, técnico-económica, anónima, privada y alimentada a base
de likes, dislikes y fake news (ibídem).
Finalmente, la esfera pública en red –o digital– está siendo instrumentalizada
por las grandes corporaciones gubernamentales y las tecnológicas para el control
Las características disruptivas de la «opi-
nión pública masiva», la instrumentali-
zación de esta por parte de gobiernos y
grandes corporaciones digitales y el aco-
plamiento y la hibridación del sistema y
los subsistemas dicultan en gran medida
el control y la reversión de los impactos
negativos sobre el correcto funcionamien-
to de la democracia.
Carlos Saura García y Patrici Calvo
89
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
y dominio de la sociedad a través de acciones despóticas y tiránicas. Como reco-
noce Habermas: «la zona de flujos de comunicación libre [Internet], expandida
a escala global y que, en aquel momento, fue posible gracias a la invención de
la estructura técnica de la red, se presentó como el reflejo del mercado ideal.
(...) Evidentemente, esta imagen tan sugestiva ahora se ve distorsionada por el
control algorítmico de los flujos de comunicación, que alimenta la concentra-
ción de poder de las grandes corporaciones de Internet» (ibídem: 76). Y, sobre
las grandes corporaciones gubernamentales, cabría añadir que, en connivencia
con el poder tecnológico y el poder económico, instrumentalizan los flujos de
comunicación con el objetivo de satisfacer fines estratégicos. Así, en tanto que
sistema, el poder económico, tecnológico y político contamina los flujos de in-
formación con datos sintéticos para proveerse de sentido –un sentido sintético,
adulterado e instrumental– y, de ese modo, legitimar sus acciones y decisiones
de forma rápida, eficaz e implacable.
Estos tres procesos han sido detectados por diferentes informes internacio-
nales como, por ejemplo, el titulado Freedom on the Net 2023: The Repressive
Power of Artificial Intelligence (Funk et al., 2023). Este informe afirma que los
bots sociales generativos –como GPT, DALL.E, Gemini, o Sora– se han con-
vertido en el epicentro de un nuevo, pero exponencialmente más profundo,
progrediente, sutil, invasivo y opresivo, campo de distorsión de la realidad y,
con ello, de la opinión pública: «Estas campañas han contado durante mucho
tiempo con la ayuda de la tecnología de IA para distribuir contenido: las cuentas
automatizadas de bots en las redes sociales han silenciado a los activistas y han
propagado narrativas falsas sobre el fraude electoral entre los votantes, mientras
que los algoritmos de las plataformas han promovido información incendiaria y
poco fiable por encima de fuentes confiables» (ibídem: 8). El informe muestra
cómo durante los últimos años, especialmente en 2023, corporaciones guber-
namentales de todo el mundo han comenzado a utilizar algoritmos generativos
y a promover la algoresfera con fines despóticos, instrumentales y maliciosos. A
través de ello, estas corporaciones gubernamentales tratan de aumentar su com-
petitividad y su poder y control sobre la sociedad, asfixiando los espacios de
libertad con tecnología biométrica, resquebrajando la esfera pública mediante
su colonización algorítmica, reescribiendo la información disponible median-
te procesos de sintetificación de la realidad social y política, intoxicando los
procesos electorales propios o ajenos con desinformación, y promoviendo la
«opinión pública masiva» como un proceso adecuado para dar sentido y legiti-
midad a su autoridad, entre otras cosas.
El informe también subraya cómo los bots sociales generativos utilizan los dis-
tintos canales de comunicación para conseguir sus objetivos, «(...) haciendo que
la verdad sea más fácil de distorsionar y más difícil de discernir» (ibídem: 2).
Opinión pública masiva: colonización algorítmica y sinteticación de la esfera pública
90
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
Por ejemplo, estos no solo utilizan textos. También crean y/o clonan imágenes,
vídeos y voces, tanto de perfiles falsos como de emulaciones hiperrealistas de
personas influyentes de la comunicación, la sociedad y la política (deep fakes)
para construir un relato convincente, agresivo y altamente adictivo e influyente,
capaz de captar la atención y alterar las percepciones del público (Meikle, 2023).
En definitiva, «Las herramientas basadas en IA que pueden generar texto, audio
e imágenes se han vuelto rápidamente más sofisticadas, accesibles y fáciles de
usar, lo que ha provocado una preocupante escalada de estas tácticas de desin-
formación. Durante el año pasado, la nueva tecnología se utilizó en al menos
16 países para sembrar dudas, difamar a los oponentes o influir en el debate
público» (Funk et al., 2023: 1).
Otro informe que analiza este emergente proceso de algoritmización de la
esfera pública y sus impactos es The impact of generative AI in a global election
year (Wirtschafter, 2024). Si bien
rebaja las exacerbadas expectativas
generadas alrededor de los impac-
tos actuales de la IA generativa en
el ámbito democrático, en él se re-
conoce su enorme capacidad de in-
fluencia: «Aunque el contenido ge-
nerado todavía representa una pe-
queña fracción del espacio general
de información en disputa, su uso
probablemente se volverá más co-
mún y ya ha comenzado a socavar
el discurso democrático en torno a
las elecciones. Dos casos recientes [el “Melcogate” de Argentina y el deepfake
preelectoral de Eslovaquia] ilustran el daño único que incluso una pequeña
cantidad de contenido generado puede tener en el espacio de información en
el contexto general de las elecciones» (ibídem). De hecho, el informe confirma
el cambio de estrategia que se ha comentado anteriormente. Con el uso de los
bots sociales generativos se busca reducir el ruido, procurando que solo aquel
grupo de datos sintéticos que incida en el patrón o modelo penetre de forma
profunda en la cultura política de un país o en el imaginario colectivo de la
ciudadanía.
Las características disruptivas de la «opinión pública masiva», la instru-
mentalización de esta por parte de gobiernos y grandes corporaciones digita-
les y el acoplamiento y la hibridación del sistema y los subsistemas dificultan
en gran medida el control y la reversión de los impactos negativos sobre el
correcto funcionamiento de la democracia. A pesar de esta situación, para
Prácticas como la resistencia algorítmica,
las movilizaciones cloud, el activismo de
datos, el whistleblowing o el hackerismo
ético podrían, por una parte, reducir los
impactos negativos de la colonización al-
gorítmica, el despotismo tecnológico y la
sinteticación de la esfera pública y, por
otra parte, empoderar y postular a la
sociedad civil como contrapoder de los
gobiernos y las grandes corporaciones
digitales.
Carlos Saura García y Patrici Calvo
91
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
hacer frente e intentar mitigar los impactos negativos de la digitalización y
algoritmización de la esfera pública, la dataficación de la participación ciuda-
dana y la sintetificación de la realidad social, económica y política que ponen
en peligro el correcto funcionamiento de la democracia, últimamente se han
propuesto diversos cursos de acción a nivel individual y de la sociedad civil.
Prácticas como la resistencia algorítmica, las movilizaciones cloud, el activis-
mo de datos, el whistleblowing o el hackerismo ético podrían, por una parte,
reducir los impactos negativos de la colonización algorítmica, el despotismo
tecnológico y la sintetificación de la esfera pública y, por otra parte, empo-
derar y postular a la sociedad civil como contrapoder de los gobiernos y las
grandes corporaciones digitales (Varoufakis, 2023; Bonini y Treré, 2024; Cal-
vo y Saura García, en prensa).
Conclusión
Los nuevos avances en tecnología inteligente, especialmente los vinculados
con la IA generativa, así como en formas y estrategias de control y opresión
gubernamental y corporativa, principalmente a través de imperativos sistémi-
cos como la colonización algorítmica de la esfera pública y el control de los
datos y metadatos que estos modelos matemáticos inteligentes vierten sobre
ella, han dado pie a una nueva estructura de dominio y opresión de la socie-
dad por parte del sistema; es decir, de las esferas del Estado y del mercado.
Si antaño estos organismos gubernamentales y privados ejercían el control
sobre el subsistema a través de imperativos sistémicos como el poder o el
dinero, hoy se valen de la generación de grupos de datos artificiales y, sobre
todo, sintéticos en la esfera digital y su recopilación y explotación a través de
algoritmos y tecnología inteligente.
Al respecto, el avance de la algoresfera, en tanto que colonización algo-
rítmica de la esfera digital –que hoy aúna la esfera pública, económica y
política–, y la irrupción de la opinión pública artificial, sintética y masiva
han logrado revertir el proceso de desacoplamiento del sistema y el mundo
de la vida promovido por la Modernidad (Habermas, 1987). A través de ello,
están surgiendo alteraciones y anomalías significativas en los componentes
estructurales del mundo de la vida: lo objetivo, en tanto que la totalidad de
entidades sobre las que son posibles afirmaciones verdaderas; lo social, en
tanto que la totalidad de relaciones interpersonales legítimamente reguladas;
y lo subjetivo, en tanto que la totalidad de contenidos relativos a las propias
experiencias corporales y vivencias íntimas de las personas.
Opinión pública masiva: colonización algorítmica y sinteticación de la esfera pública
92
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
El acoplamiento y la hibridación del sistema y los subsistemas amenaza con
intensificar el despotismo sistémico mediante el uso de imperativos como el
poder y el dinero, como diría Habermas (ibídem), para colonizar la crítica y el
acuerdo mediante algoritmos generativos, datos sintéticos y «opinión pública
masiva». A través de ello, por un lado, se desfiguran, deforman o alteran los pro-
cesos de racionalización que los seres dotados de habla y acción establecen para
alcanzar acuerdos intersubjetivos sobre diferentes cosas de este mundo, como
la legitimidad y justicia de las acciones y decisiones de las corporaciones guber-
namentales y tecnológicas. Asimismo, por otro lado, se restringen e intoxican
los flujos de comunicación y construcción de opinión pública mediante ruido
artificial y datos sintéticos (Pérez Zafrilla, 2021). Ambos impactos, al menos,
conducen a la progresiva aparición e intensificación de anomalías en el mundo
de la vida, como anomia, distorsión de la realidad social, sintetificación de lo
verdadero, lo justo y lo felicitante, psicopatologías de la personalidad, etc.
Referencias bibliográficas
Aral, Sinan. The Hype Machine. Nueva York: Penguin Random House, 2021.
Bartlett, Jamie. The People Vs Tech: How the internet is killing democracy (and how
we save it). Nueva York: Penguin Random House, 2018.
Bonini, Tiziano y Treré, Emiliano. Algorithms of resistance: the everyday fight aga-
inst platform power. Cambridge: MIT Press, 2024.
Calvo, Patrici y Saura García, Carlos. «Against synthetic democracy», SSRN,
2024 (en linea) https://doi.org/10.2139/SSRN.4885161
Calvo, Patrici y Saura García, Carlos. «Democracia de la vigilancia: Datos, activismo
y contrapoder». Revista Internacional de Pensamiento Político, vol. 19, (en prensa)
Carpentier, Nico. Media and Participation: A Site of Ideological-Democratic Stru-
ggle. Chicago: Intellect Books, 2011.
Castells, Manuel. La era de la información. La sociedad red. México: Siglo XXI,
2006.
Chadwick, Andrew. The hybrid media system: politics and power. Oxford: Oxford
University Press, 2013.
Chang, Ho-Chun Herbert; Chen, Emily; Zhang, Meiqing; Muric, Goran y Fe-
rrara, Emilio. «Social Bots and Social Media Manipulation in 2020: The Year
in Review». Journal of Computational Social Science, vol. 5, (2021), p. 1.409-
1.425. DOI: 10.48550/arxiv.2102.08436 (en línea) https://link.springer.
com/article/10.1007/s42001-022-00173-9
Coeckelbergh, Mark. Why AI Undermines Democracy and What To Do About It.
Cambridge: Polity Press, 2024.
Carlos Saura García y Patrici Calvo
93
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
Da Empoli, Giuliano. Los ingenieros del caos. Madrid: Ediciones Anaya,
2020.
Ebeling, Mary F. E. Afterlives of data: life and debt under capitalist surveillan-
ce. Berkeley: University of California Press, 2022.
Elliott, Vittoria. Un bot de IA se postula para alcalde de Wyoming en EE UU,
Wired, (12 de junio de 2024a) (en línea) https://es.wired.com/articulos/bot-
de-ia-se-postula-para-alcalde-de-wyoming-en-ee-uu
Elliott, Vittoria. ¿Votarías por un político generado por IA? En Reino Unido sí pue-
de. Wired, (11 de junio de 2024b) (en línea) https://es.wired.com/articulos/
votarias-por-un-politico-generado-por-ia-en-reino-unido-si-puedes
Farahany, Nita A. The Battle for Your Brain. Nueva York: St. Martin’s Press,
2023.
Funk, Allie; Shahbaz, Adrian y Vesteinsson, Kian. Freedom on the Net 2023:
The Repressive Power of Artificial Intelligence, Freedom House, 2023 (en lí-
nea) https://freedomhouse.org/report/freedom-net/2023/repressive-power-
artificial-intelligence
García-Marzá, Domingo y Calvo, Patrici. «Democracia algorítmica: ¿un nuevo
cambio estructural de la opinión pública?». Isegoría, n.º 67 (2022), p. e17.
DOI: 10.3989/ISEGORIA.2022.67.17 (en línea) https://isegoria.revistas.
csic.es/index.php/isegoria/article/view/1239
García-Marzá, Domingo y Calvo, Patrici. Algorithmic democracy: A critical pers-
pective based on deliberative democracy. Cham: Springer, 2024.
Habermas, Jürgen. Conocimiento e Interés. Madrid: Trotta, 1984.
Habermas, Jürgen. Theory of Communicative Action Vol. 2 Lifeworld and System:
A Critique of Functionalist Reason. Boston: Beacon Press, 1987.
Habermas, Jürgen. Between Facts and Norms: Contributions to a Discourse Theory
of Law and Democracy. Cambridge: The MIT Press, 1998.
Habermas, Jürgen. Un nou canvi estructural en l’esfera pública i la política delibe-
rativa. Barcelona: Edicions 62, 2023.
Hagen, Lutz M.; Wieland, Mareike y In Der Au, Anne-Marie. «Algorithmischer
Strukturwandel der Öffentlichkeit». MedienJournal, vol. 41, n.º 2 (2017), p.
127-143.
Hajli, Nick; Saeed, Usman; Tajvidi, Mina y Shirazi, Farid. «Social Bots and
the Spread of Disinformation in Social Media: The Challenges of Artificial
Intelligence». British Journal of Management, vol. 33, n.º 3 (2022), p. 1.238-
1.253. DOI: 10.1111/1467-8551.12554 (en línea) https://onlinelibrary.wi-
ley.com/doi/10.1111/1467-8551.12554
Howard, Philip N. Lie Machines: How to Save Democracy from Troll Armies,
Deceitful Robots, Junk News Operations, and Political Operatives. New Haven:
Yale University Press, 2020.
Opinión pública masiva: colonización algorítmica y sinteticación de la esfera pública
94
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
Innerarity, Daniel y Colomina, Carme. «La verdad en las democracias algorítmi-
cas». Revista CIDOB d’Afers Internacionals, n.º 124 (2020) p. 11-24. DOI: doi.
org/10.24241/rcai.2020.124.1.11 (en línea) https://www.cidob.org/publicacio-
nes/la-verdad-en-las-democracias-algoritmicas
ION-Primul Consilier AI al Guvernului. «ION. De la cetățeni la factorii de decizie:
schimbarea paradigmei guvernării cu ajutorul tehnologiilor emergente [ION. De
ciudadanos a responsables políticos: cambiar el paradigma]». ion.gov.ro, (s/f), p.
1-22 (en línea) https://ion.gov.ro/Document%20tehnic.pdf
Jiang, Min y Fu, King Wa. «Chinese Social Media and Big Data: Big Data, Big
Brother, Big Profit?». Policy & Internet, vol. 10, n.º 4 (2018) p. 372-392.
DOI: 10.1002/POI3.187 (en línea) https://onlinelibrary.wiley.com/doi/
full/10.1002/poi3.187
Lanier, Jaron. Diez razones para borrar tus redes sociales de inmediato. Barcelona: De-
bate, 2018.
Meikle, Graham. Deepfakes. Cambridge: Polity Press, 2023.
Mill, John Stuart. Considerations on Representative Government. Cambridge: Cam-
bridge University Press, 1972 [1861].
Mill, John Stuart. «On Liberty», en: Robson, John M. (ed.) Collected Works of John
Stuart Mill [vol. xviii]. Toronto: University of Toronto Press, 1977 [1859] (en lí-
nea) https://oll.libertyfund.org/titles/robson-the-collected-works-of-john-stuart-
mill-volume-xviii-essays-on-politics-and-society-part-i#lf0223-18_head_051
Millière, Raphaël. «Deep learning and synthetic media». Synthese, vol. 200, n.º 3
(2022) p. 1-27. DOI: 10.1007/S11229-022-03739-2/FIGURES/6 (en línea)
https://link.springer.com/article/10.1007/s11229-022-03739-2
Moore, Martin. Democracy Hacked: How Technology is Destabilising Global Politics.
Londres: Oneworld Publications, 2018.
Noelle-Neumann, Elisabeth. La espiral del silencio. Opinión pública: nuestra piel so-
cial. Barcelona: Paidós, 2010.
Ottaviani, Marta Federica. Brigate Russe: La guerra occulta del Cremlino tra troll e
hacker. Milano: Ledizioni, 2022.
Papacharissi, Zizi. «The virtual sphere: The internet as a public sphere». New Media
and Society, vol. 4, n.º 1 (2002), p. 9-27. DOI: 10.1177/14614440222226244
(en línea) https://journals.sagepub.com/doi/10.1177/14614440222226244
Papacharissi, Zizi. A private sphere: democracy in a digital age. Cambridge: Polity
Press, 2010.
Pariser, Eli. The Filter Bubble: How the New Personalized Web Is Changing What We
Read and How We Think. Nueva York: Penguin Books, 2011.
Pérez Zafrilla, Pedro Jesús. «Polarización artificial: cómo los discursos expresivos
inflaman la percepción de polarización política en internet». RECERCA. Revis-
ta de Pensament i Anàlisi, vol. 26, n.º 2 (2021), p. 1-23. DOI: 10.6035/RE-
Carlos Saura García y Patrici Calvo
95
Revista CIDOB d’Afers Internacionals, n.º 138, p. 73-95. Diciembre 2024
ISSN:1133-6595 – E-ISSN:2013-035X – www.cidob.org
CERCA.4661 (en línea) https://www.e-revistes.uji.es/index.php/recerca/article/
view/4661
Saura García, Carlos. «El lado oscuro de las GAFAM: monopolización de los da-
tos y pérdida de privacidad». Veritas. n° 52 (2022) p. 9-27. DOI: 10.4067/
S0718-92732022000200009 (en línea) http://dx.doi.org/10.4067/S0718-
92732022000200009
Saura García, Carlos. «Digital expansionism and big tech companies: consequences
in democracies of the European Union». Humanities and Social Sciences Com-
munications, vol. 11, nº448 (2024) p.1-8. DOI: 10.1057/s41599-024-02924-7
(en línea) https://www.nature.com/articles/s41599-024-02924-7
Saura García, Carlos y Calvo, Patrici. «Generative AI and Democracy: the syntheti-
fication of public opinion and its impacts». SSRN, 2024 (en línea) https://ssrn.
com/abstract=4911710
Snowden, Edward. Vigilancia Permanente. Barcelona: Planeta, 2019.
Sunstein, Cass R.. #Republic : divided democracy in the age of social media. Princeton:
Princeton University Press, 2017.
Sunstein, Cass R.. Conformity: The Power of Social Influences. Nueva York: New York
University Press, 2019.
Tocqueville, Alexis. La democracia en América (Vol. i y ii). Madrid: Trotta, 1988
[1835-1840].
Tocqueville, Alexis. El Antiguo Régimen y la Revolución. Madrid: Alianza, 2010
[1856].
Tufekci, Zeynep. Twitter and Tear Gas. The Power and Fragility of Networked Protest.
Londres: Yale University Press, 2017.
Varoufakis, Yanis. Technofeudalism: What Killed Capitalism. Londres: Random Hou-
se, 2023.
Williams, James. Clics contra la humanidad: libertad y resistencia en la era de la distrac-
ción tecnológica. Barcelona: Gatopardo, 2021.
Wirtschafter, Valerie. «The impact of generative AI in a global election year». Broo-
kings, (30 de enero de 2024) (en línea) https://www.brookings.edu/articles/the-
impact-of-generative-ai-in-a-global-election-year/
Woolley, Samuel. The reality game: how the next wave of technology will break the
truth. Londres: Endeavour, 2020.
Woolley, Samuel. Manufacturing consensus: understanding propaganda in the era of
automation and anonymity. New Haven: Yale University Press, 2023.
Woolley, Samuel y Howard, Philip N. (ed.) Computational Propaganda: Political
Parties, Politicians, and Political Manipulation on Social Media. Oxford: Oxford
University Press, 2018.
Zuboff, Shoshana. La era del capitalismo de la vigilancia: la lucha por un futuro
humano frente a las nuevas fronteras del poder. Barcelona: Paidós, 2020.
