ArticlePDF Available

Cuando las máquinas sueñan por nosotros. La democracia en el mundo del capitalismo algorítmico: el caso de Cambridge Analytica

Authors:

Abstract and Figures

El capitalismo algorítmico y su proceder sugestivo ha impactado en todas las esferas de la vida y, por ello, no es la excepción la política, al propagar un objetivo principal: conocer íntimamente a los usuarios de las redes sociales a partir de la extracción masiva de datos y su consecuente procesamiento algorítmico, con la intención no solo de prever futuros escenarios de comportamiento y actuación, sino, sobre todo, de construir atmósferas sintéticas en las que estos sean sugestionados e intervenidos como para votar por un candidato en específico, reproducir cierta idea dentro de una contienda electoral y hasta reconfigurar sus visiones del mundo y entendimiento político. Todo ello desarrollándose dentro de un contexto en el cual la figura de los otros es suplantada por la imagen algorítmica del sí mismo que, a su vez, tiene como efecto el suprimir la pluralidad como elemento toral de la democracia como forma de vida.
Content may be subject to copyright.
35
Cuando las máquinas sueñan por nosotros. La democracia
en el mundo del capitalismo algorítmico:
el caso de Cambridge Analytica
When machines dream for us. Democracy in the world
of algorithmic capitalism:
case study of Cambridge Analytica
Abraham González Montaño*10 abraham.gonzalez@sociales.unam.mx
Universidad Nacional Autónoma de México, https://orcid.org/0000-0003-3215-0030
Facultad de Filosofía y Letras,
Ciudad Universitaria, C.P. 04510, Ciudad de México, México
Editor: Rogelio del Prado Flores https://doi.org/10.36105/stx.2024n13.04
Editor Invitado: Alberto Ruiz-Méndez
Fecha de recepción: 12 de enero 2024
Fecha de aceptación: 06 de mayo 2024
re sumen
El capitalismo algorítmico y su proceder sugestivo ha impactado en todas las esferas de la
vida y, por ello, no es la excepción la política, al propagar un objetivo principal: conocer
íntimamente a los usuarios de las redes sociales a partir de la extracción masiva de datos y
su consecuente procesamiento algorítmico, con la intención no solo de prever futuros esce-
narios de comportamiento y actuación, sino, sobre todo, de construir atmósferas sintéticas
en las que estos sean sugestionados e intervenidos como para votar por un candidato en
específico, reproducir cierta idea dentro de una contienda electoral y hasta reconfigurar sus
visiones del mundo y entendimiento político. Todo ello desarrollándose dentro de un con-
texto en el cual la figura de los otros es suplantada por la imagen algorítmica del sí mismo
* Licenciatura en Ciencias Políticas y Administración Pública, estudios de filosofía en la UNAM. Maestría en
Filosofía y Crítica de la Cultura por la Universidad Intercontinental y una especialidad en Políticas para la Igual-
dad en América Latina y el Caribe por la FLACSO. Su artículo más reciente se titula El dispositivo digital en la era
del capitalismo algorítmico: el caso de ChatGPT, publicado en la Revista Sintaxis. Es profesor en la UNIVDEP,
servidor público de la Gaceta Parlamentaria de la Cámara de Diputados del Congreso de la Unión, integrante del
proyecto “¿Debilitamiento o consolidación de las democracias en América Latina?” en la Facultad de Filosofía y
Letras de la UNAM, y miembro activo de la Asociación Filosófica de México.
36 cuando las máquinas sueñan por nosotros. la democracia en el mundo del capitalismo... gonzález montaño
que, a su vez, tiene como efecto el suprimir la pluralidad como elemento toral de la demo-
cracia como forma de vida.
Palabras clave: capitalismo algorítmico, cambridge analytica, pluralidad, democracia,
máquinas.
Abs trAct
Algorithmic capitalism and its suggestive behavior has impacted all spheres of life, includ-
ing politics, by propagating a main objective: to intimately know the users of social net-
works by massive extraction of data and its consequent algorithmic processing, with the
intention not just to predict future behavior scenarios, but to build synthetic atmospheres
which people could be suggested and intervened to vote for a specific candidate, to repro-
duce a particular idea within an electoral contest and even to change their worldviews and
political understanding. All this situation develops in a context where the picture of the
other is replaced by the algorithmic image of itself, and at the same time, has the effect of
suppressing plurality as a fundamental element of democracy as a lifestyle.
Keywords: algorithmic capitalism, cambridge analytica, plurality, democracy, machines.
cAmbr idge AnAlyt icA y los s ueños Algorítmicos
“Estoy persuadido de que todas las variantes posibles de otro mayo 1968 ya han sido progra-
madas por IBM” (p. 319), mencionaba Félix Guattari (1976) hace ya más de medio siglo —en
1972, específicamente— identificando de manera intuitiva el futuro funcionar de las máquinas
digitales conforme a sus operaciones predictivas y sugestivas para incidir en la manera en la
que se entiende el mundo y, sobre todo, a cómo producir mundo (Kitchin, 2017). Esa intuición
se cumplió con la irrupción del capitalismo algorítmico1 y no hay mejor prototipo que revele
mencionada operatividad que el caso de Cambridge Analytica.
1 El capitalismo algorítmico es definido como “aquella estructura tecnoeconómica que produce entornos políti-
co-culturales —conocidos como plataformas digitales— que funcionan como espacios de inscripción. Por ello,
son propicios para la extracción masiva de datos y su procesamiento algorítmico para construir horizontes de
sentido posibles y probables, y así proceder a modular la existencia de los sujetos de manera constante e ininte-
rrumpida por medio de máquinas inteligentes (machine learning) que tienen un objetivo: colonizar todo senti-
miento, pensamiento probable, deseo posible o actuar capitalizable” (González Montaño, 2022, pp. 147-148).
sintaxis, año 7, número 13, julio-diciembre 2024 https://doi.org/10.36105/stx.2024n13.04 37
Cambridge Analytica fue una empresa, derivada de la firma inglesa SCL Group, fundada
en 2013 por Alexander Nix y que tuvo por visión principal —según su extinto sitio web—
“cambiar el comportamiento de la audiencia” a través de un proceder sustentando en cuatro
dimensiones generales: 1) producción y/o obtención de grandes bases de datos; 2) análisis y
procesamiento de la información a través de algo ritmos; 3) perfilaje algorítmico y, 4) creación
de cajas de resonancia virtuales.
Conforme a la primera dimensión, Cambridge Analytica recopiló datos a partir de tres
estrategias: compra de bases de datos a terceros que eran dueños de aplicaciones incorporadas
a Facebook —la más reconocida es la aplicación This is your digital life — (Berghel, 2018); gene-
ración de datos a partir de aplicaciones creadas por el equipo de Cambridge Analytica en clave
de test de personalidad, como lo son la Brújula sexual y la Morsa Musical, y por medio de com-
pra y recapitulación de datos públicos externos a Facebook (Kaiser, 2019).
Recopilada la información, el equipo de Cambridge Analytica tenía por tarea procesarla
de una forma pormenorizada (segunda dimensión). En un primer momento, los ingenieros
ponían en consonancia los datos obtenidos —que, en el caso de los Estados Unidos, se refle-
jaban en cerca de “cinco mil puntos de datos sobre cada estadounidense de más de dieciocho
años; unos doscientos cuarenta millones de personas” (Kaiser, 2019, p. 106)— para luego ha-
cer imágenes algorítmicas de cada usuario por medio de microfocalización de conducta (tér-
mino registrado por Cambridge Analytica), es decir, determinaban no solo las preferencias
electorales-políticas junto con el estilo de vida de los usuarios, sino también sus estados de
ánimo y formas de ser utilizando el modelo de personalidad OCEAN, con el fin de determi-
nar si el usuario analizado era más propenso a actuar con apertura (O, de open), si era concien-
zudo (C), extrovertido (E), afable (A) o neurótico (N) (Villalobos, 2018).
Teniendo ya definidas las imágenes algorítmicas de los usuarios de Facebook, Cambridge
Analytica procedía a operativizar su tercera dimensión llevando a cabo lo que Rouvroy y Berns
(2018) conocen como perfilaje algorítmico (p. 128), es decir, construían modelos algorítmicos
personalizados a cada usuario con el objetivo de generar una maquinaria no solamente predic-
tiva, como mencionan autores como Felipe González (2019) o Biondo y Biotta (2022), sino
también y, sobre todo, sugestiva (González Montaño, 2023) a partir de la elaboración de cajas
de resonancia virtuales (cuarta y última dimensión operativa) donde a los usuarios se les inter-
viene narrativa y visualmente a partir de imágenes, mensajes, fake news, propaganda personali-
zada, etc., para que estos modificaran sus intenciones de voto, pero no solo ello, sino que,
además, a partir de su actividad en línea con publicaciones o compartiendo información inci-
taran a su círculo de amigos a hacerlo también, dando pie a que el ciclo virtuoso de Cambridge
Analytica pudiera repetirse con más datos, más conexiones, perfeccionamiento de los modelos
e imágenes algorítmicas y la creación de nuevas cajas de resonancia llevadas a cabo por y entre
38 cuando las máquinas sueñan por nosotros. la democracia en el mundo del capitalismo... gonzález montaño
los usuarios para terminar por generar más datos, repitiendo el proceso una y otra vez de for-
ma ampliada, como se muestra en la Figura 1.
Figura 1. operatividad de cambridge analytica
Fuente: elaboración propia.
Ahora bien, las dimensiones operativas de Cambridge Analytica pueden llegar a entenderse
desde dos lugares comunes. En primera, suponer, como menciona König y Wenzelburger
(2022), la instauración de un tecnochovinismo donde el humano relega su actividad política
decisional a las máquinas algorítmicas que conduce, invariablemente, a consolidar tanto ludis-
mos digitales como grandes esperanzas técnico-sociales. Y, en segunda, reducir la operación
de Cambridge Analytica a un mero problema de privacidad y (mal)uso de los datos personales
(Albornoz, 2021) (Rodríguez-Andrés, 2018). Nada más alejado a lo que implicó el fenómeno
de Cambridge Analytica.
El proceder descrito de Cambridge Analytica, al contrario de lo anterior, supone un fin
claro al operativizar el objetivo general del capitalismo algorítmico: incidir, modular y suges-
tionar la conducta, preferencias y hasta los sueños de un núcleo potencial de usuarios de las
plataforma digitales (primordialmente Facebook) para votar por un candidato en específico en
la campaña para la Presidencia de los Estados Unidos de América en 2016 (Donald Trump) o
para tomar la decisión de salir de la Unión Europea por parte de la población inglesa después
de haberla integrado cuatro décadas (brexit).
sintaxis, año 7, número 13, julio-diciembre 2024 https://doi.org/10.36105/stx.2024n13.04 39
Cambridge Analytica soñaba con hacer soñar a los usuarios para que, como su lema lo
dictaba, estos modificaran su conducta y votaran por una opción perfilada, pero, además,
impulsaran a otros a hacer lo mismo como producto virulento de los entornos algorítmicos
al consolidarse como cajas de resonancia para difundir narrativas específicas que sirvieran a
dicho fin.
A raíz de lo anterior, Cambridge Analytica revela los elementos perjudiciales que trae
consigo el despliegue del capitalismo algorítmico como nuevo horizonte de construcción de
sentido del siglo xx i (González Montaño, 2022) hacia los entornos democráticos y sus postu-
lados axiológicos que lo sustentan, principalmente el principio de los demás principios, el de
pluralidad.
Ante ello, el objetivo del presente trabajo es ver cómo influyen los postulados programá-
ticos que trae consigo la época del capitalismo algorítmico con la democracia, teniendo como
axioma que la manera en la que opera la época algorítmica resulta contraproducente para la
democracia y su estructura axiológica que la operativiza como bien lo es el disenso-consenso,
la tolerancia, la deliberación y el desacuerdo.
lA plurAlidAd como fundAmento de lA democrAciA
La democracia, como lo deja en claro Wendy Brown (2015), es uno de los términos más ex-
plorados, definidos y redefinidos del siglo xxi por dos razones: uno, suscita enorme contro-
versia y debate; dos, es polémico conforme a su sentido ya sea en el mundo académico como
en el social.
Por ejemplo, “en el imaginario popular, ‘democracia’ es todo, desde elecciones libres hasta
mercados libres, desde protestas contra dictadores hasta la ley y el orden, desde el carácter
central de los derechos hasta la estabilidad de los Estados, desde la voz de la multitud reunida
hasta la protección de la individualidad y el error de los dichos que imponen las multitudes”
(Brown, 2015).
Mientras que, en la visión académica, la democracia se entiende comúnmente de dos ma-
neras clásicas dado que, como menciona Alberto Ruiz (2021), ayudan a “explicar sus elemen-
tos aportados por diferentes tradiciones de pensamiento y, por otro lado, exponer su dinámica
e identificar los retos a los que se enfrenta” (p. 34). La primera propuesta de entendimiento es
de Norberto Bobbio (1986), al mencionar que cuando se habla de democracia “es considerarla
caracterizada por un conjunto de reglas (primarias o fundamentales) que establecen quién
está autorizado para tomar las decisiones colectivas y bajo qué procedimientos” (p. 14). Y la
segunda es desarrollada por Michelangelo Bovero (2002), al definir democracia como “el po-
der (krátos) de tomar decisiones colectivas, es decir, vinculantes para todos, ejercido por el
40 cuando las máquinas sueñan por nosotros. la democracia en el mundo del capitalismo... gonzález montaño
pueblo (dêmos), es decir, por la asamblea de todos los ciudadanos en cuanto miembros del
dêmos, mediante (la suma de) libres decisiones individuales” (p. 17).
Ahora bien, estas dos definiciones clásicas de democracia desde el ámbito académico
comparten un elemento que la caracteriza de manera particular sobre las demás formaciones
políticas de gobierno en la actualidad: el tema de la pluralidad.
La pluralidad como elemento diferenciador de la democracia implica cuatro premisas que
marcan su funcionar característico:
1. Aceptar que la forma democrática de gobierno no tiene un fundamento último
de certeza encarnado en figuras de representación política como lo es la del rey,
príncipe o monarca. Es decir, la pluralidad como posibilidad de posibilidades para
la democracia es renunciar a pensar a la sociedad política como una esfera pre-
concebida, inmutable, con identidades únicas, que tiene por objeto el orden. Al
contrario, la pluralidad refiere a la imprevisibilidad de lo social y sus relaciones, sin
identidades totales y más que orden, gestión del conflicto (Arditi, 2010).
2. Asimismo, si ya no hay un elemento último de certeza para lo social que lo dota de
orden en regímenes democráticos (llámese príncipe, monarca, rey), la pluralidad
implica reconocer que la construcción de sentido político se dará en los marcos de
la incertidumbre, es decir, en las prácticas hegemónicas, al tener por objeto el con-
figurar parámetros de sentido, pero con la singularidad de que dichos parámetros
serán de índole contingente, parcial, que siempre están en disputa o en contienda
y que, por ende, pueden ser revertidos y/o reconfigurados (Laclau, 2005). Dicho
panorama se ve constatado en las apreciaciones que realiza Claude Lefort (2004)
al mencionar que el lugar de la representación del cuerpo político está vacío, es
inocupable porque no le pertenece a nadie más que de manera evanescente cuando
una opción política es elegida popularmente por un tiempo previamente definido.
3. Además, la pluralidad, como elemento sine qua non de la democracia, supone que
no hay una identificación entre la forma democrática de gobierno con algún con-
tenido ideológico, valor político o sentido social específico, por eso la democracia
“no soporta en ningún caso ser rigidizada hasta el punto de identificarse con un
contenido determinado, con una verdad oficial, con un dogma público indiscuti-
ble o inmodificable, sino que por el contrario, coincide con la institucionalización
de la posibilidad de cambiar, periódica y pacíficamente, el propio contenido de
valores políticos finales, es decir, las perspectivas y las orientaciones de gobierno”
(Bovero, 2020, p. 24).
4. Y, por último, la pluralidad presume que para ser partícipe de los asuntos públicos
no se requiere posición social, títulos nobiliarios o posesión material alguna, por
sintaxis, año 7, número 13, julio-diciembre 2024 https://doi.org/10.36105/stx.2024n13.04 41
eso la democracia “es simplemente el poder propio de los que no tienen más título
para gobernar que para ser gobernados” (Rancière, 2006, p. 71).
Ahora bien, para que estas cuatro implicaciones de la pluralidad tengan operatividad tiene que
configurarse una relación política nuclear que diste del modelo clásico schmittiano (Schmitt,
1998), es decir, en los entornos democráticos no pueden desarrollarse relaciones antagónicas
en clave amigo-enemigo que tengan como última ratio la muerte del otro, sino relaciones agó-
nicas que partan de entender la otredad en los terrenos político-democráticos en términos de
adversarios (Mouffe, 1999).
Por lo anterior, la relación política por excelencia en los ámbitos democráticos es la agonís-
tica. Dicha idea tiene, a su vez, tres aristas constitutivas: a) toda relación agónica parte del he-
cho de que a la figura del otro se le tolera (Mouffe, 1999), sin embargo, ello no implica que el
conflicto desaparezca en la relación entre amigo-adversario. Al contrario, toda relación políti-
ca agónica es conflictual por sí misma; b) las relaciones agónicas dentro de los regímenes de-
mocráticos conllevan el axioma de que su desarrollo no tiene como fin exclusivo el construir
consensos —eso supondría que en algún momento futuro los órdenes sociales llegarían al
punto óptimo de la reconciliación absoluta en donde nadie disentirá de nadie— sino, sobre
todo, sublimar los disensos al saber que los agentes sociales también son contingentes, itine-
rantes, en definición constante y que, por ello, el mundo social se abre a la diferencia que im-
plica toda otredad en su irreductibilidad óntica y social expresada en el ejercicio de las liberta-
des políticas. Como dice Chantal Mouffe (2014), el pluralismo y las relaciones agónicas que
posibilita es donde se reconoce que hay “una imposibilidad de una reconciliación final” (p. 33);
c) las relaciones agónicas no hacen desaparecer el riesgo existencial del enfrentamiento entre
un nosotros y un ellos sostenido por Schmitt (1998), sino como dice Arditi (2014), lo siguen
expresando, porque la figura del otro pone en evidencia, en primera, la definición de un noso-
tros, siendo de esta forma los otros un exterior constitutivo y, en segunda, la especificidad de
las relaciones políticas —incluidas las agónicas— que es el enfrentamiento per se.
De esta forma, el nosotros siempre es correlativo a un ellos, mientras que todo ellos es por
un nosotros, evidenciando así que toda relación política conlleva un riesgo existencial porque
ambos lados de la relación no expresan una totalidad identitaria inmóvil, sino todo lo contra-
rio, contingente, con posturas flexibles y sujetas a cambio ya sea porque se llega a un consen-
so, porque radicalizaron sus posturas o porque intentan reducir el conflicto en sus activida-
des. Por lo anterior, en un ambiente democrático:
lo que nunca tuvimos —lo que nunca podremos tener— es una identidad política puramente
autorreferencial capaz de florecer sin la ayuda de algo externo, en ese caso un enemigo.
Los enemigos son nuestro pharmakon: oscilan entre ser un veneno y una cura pues son una
42 cuando las máquinas sueñan por nosotros. la democracia en el mundo del capitalismo... gonzález montaño
amenaza a nuestra forma de vida (o, en términos menos dramáticos, un obstáculo para
nuestra voluntad de poder) y también algo que nos ayuda a convertirnos en lo que somos
(Arditi, 2014, p. 19).
En suma, la pluralidad es el elemento sine qua non de la democracia conforme a su estructura
básica funcional, centrando en la relación entre individuo y la otredad la potencia de la activi-
dad política-democrática en sí, por ello, Tocqueville (2019) mencionaba que “la democracia no
le da al pueblo el gobierno más capaz, pero hace lo que el gobierno más capaz no puede a me-
nudo crear: irradia en todo el cuerpo social una inquieta actividad, una fuerza sobreabundante,
una energía que no existe nunca sin ella y que, por poco que sean favorables las circunstancias,
puede engendrar maravillas. Ésas son sus verdaderas ventajas” (p. 286).
¿con q sueñAn lAs quinAs Algorítmi cAs? los Algor itmos vs
lA democrAciA
En mayo de 2022, el colectivo Computer Lars y la asociación tecnológica MindFuture
Foundation crearon el Partido Sintético en Dinamarca, el cual tiene como líder a una inteli-
gencia artificial —nombrada Leader Lars— que se plantea un objetivo claro: representar a
diversos núcleos poblaciones y sus intereses a partir de un programa político construido
algorítmicamente a través de la recopilación masiva de propuestas partidarias desde 1970
(Jaimovich, 2023).
Ante ello, el Partido Sintético danés parte de una idea central: captar al electorado que no
se siente representado por los políticos tradicionales y así sustituir parlamentarios por algorit-
mos. Dicha idea implica, a su vez, el suponer que los algoritmos no tienen sesgos, son menos
propensos a la corrupción y, por ende, sujetos a rangos de error mínimo conforme a la toma
de decisiones. En palabras de Leader Lars, “la falta de confianza en los políticos y la desinfor-
mación son algunos de los motivos que han llevado a muchas personas, sobre todo los más
jóvenes, a creer que una IA podría hacer mejor las cosas que los humanos” (Jaimovich, 2023).
El caso de Leader Lars, aunque ha sido un caso muy sonado en 2022 y parte de 2023, no es
el primero en el que los algoritmos y las inteligencias artificiales toman posición pública a
partir de la suposición de que pueden hacerlo mucho mejor que los humanos en el campo de
la política. Claro ejemplo de ello es que, en 2018, en el distrito de Tama New Town de Tokio,
se presentó a la elecciones Michihito Matsuda, un androide que prometía, en primera, acabar
con la corrupción y, en segunda, usar la inteligencia artificial mediante el procesamiento algo-
rítmico de grandes bancos de datos de los ciudadanos con el objetivo no solamente de repre-
sentarlos mejor, sino también para actuar de manera objetiva y justa conforme a las políticas
sintaxis, año 7, número 13, julio-diciembre 2024 https://doi.org/10.36105/stx.2024n13.04 43
públicas a implementar durante su mandato, sorteando de esta forma los sesgos emocionales
de los seres humanos que los conducen a malas decisiones y conflictos de interés. Michihito
Matsuda terminó en tercer lugar en las elecciones y el resto es historia (Calvo, 2019).
Al respecto, estos dos ejemplos en donde las inteligencias artificiales y los algoritmos nos
salvarán de los políticos —y hasta de nosotros mismos— representa una idea circundante que
ronda narrativamente la época del capitalismo algorítmico a partir de un “injustificado opti-
mismo tecnológico” (Marza y Calvo, 2022, p. 2), dentro del cual se hacen una serie de suposi-
ciones como lo es la objetividad de las máquinas inteligentes, su tendiente reducción del error
y su eficiencia optimizada conforme a las tareas encomendadas, todo ello encaminado para
cumplir una finalidad toral: que las máquinas sustituyan a los humanos. Sin embargo, por lo
menos en el terreno político, lo que se ha demostrado con casos como el de Cambridge
Analytica es que las máquinas más que soñar con sustituirnos, sueñan con soñar por nosotros.
Mencionada premisa parte de las ideas de Michal Kosinski y David Stillwell, principal-
mente, a través de dos artículos sugerentes: el primero, lleva por título Private traits and at-
tributes are predictable from digital records of human behavior, publicado en 2013; mientras que el
segundo es nombrado como Psychological targeting as an effective approach to digital mass persua-
sión, aprobado para su publicación en 2017.
Con lo que respecta al primer artículo, Michal Kosinski, Thore Graepel y David Stillwell
(2013) sostienen que se puede saber con efectividad no solo la orientación sexual de un usua-
rio dentro de una red social, sino también, conocer pormenorizadamente sus preferencias de
consumo, sus prácticas religiosas, estado civil y hasta sus orientaciones políticas por medio del
procesamiento algorítmico de los datos recopilados a través de los me gusta en Facebook. Su
nivel de confiabilidad, por ejemplo, en que su modelo algorítmico predictivo acertó para defi-
nir si una persona era demócrata o republicana fue del 85%, mientras que definió correctamen-
te la orientación de los varones analizados en un 88%.
Ante dicho panorama, Kosinski, Graepel y Stillwell (2013) dentro de sus conclusiones
destacan que estas predicciones sobre los rasgos distintivos de los usuarios en la red a raíz del
procesamiento algorítmico de grandes bancos de datos podrían desembocar en una implica-
ción negativa grave: incidir en la conducta de los usuarios para que la modifiquen “sin obtener
antes su consentimiento y sin que ni siquiera se dieran cuenta” (p. 5.805).
De hecho, dicha advertencia es profundizada en el segundo artículo mencionado que Ko-
sinski y Stillwell publican junto con Martz y Nave (2017), dentro del cual comprueban que los
mensajes modelados personalmente de acuerdo a la personalidad psíquica definida a partir de
los datos recopilados y procesados algorítmicamente de los usuarios resultan ser más efectivos
para persuadirlos y, en definitiva, influir en el cambio de sus decisiones, hábitos, gustos, prefe-
rencias y conductas, siendo esto demostrado a partir de tres experimentos que tuvo como
epicentro los datos recabados de 3.7 millones de personas (p. 12715).
44 cuando las máquinas sueñan por nosotros. la democracia en el mundo del capitalismo... gonzález montaño
Estas dos investigaciones académicas se inscriben en el contexto de Cambridge Analytica
y su proceder en las elecciones de Estados Unidos y Reino Unido, estableciendo así un hilo
conductor que dista mucho de la casualidad. Aún más, después de la publicación del primer
artículo de Graepel, Stillwell y Kosinski en 2013, a este último lo contacta SCL Group (empre-
sa matriz de donde nace Cambridge Analytica) para ofrecerle financiamiento, el cual rechaza
(Mónaco, 2022).
Por lo anterior, las investigaciones presentadas y el caso de Cambridge Analytica tienen
un hilo conductor que los enlaza: las prácticas algorítmicas que persiguen el fin de modificar,
incidir, persuadir, sugestionar, modular e intervenir en las prácticas, conductas, pensamientos,
hábitos, formas de ser, sentir y hasta construir sentido y afinidad política en los usuarios den-
tro de una red social tienen como epicentro el evadir las prácticas democráticas que conducen
a las personas al debate, al disenso-consenso y, en términos específicos, a la figura del otro que,
como se ha dicho con antelación, es nuclear para la pluralidad y, por ende, para la democracia.
Esa finalidad, a su vez, se despliega a partir de dos procedimientos. En primera, las redes
sociales como Facebook, Instagram y Twitter, principalmente, al tener una arquitectura en la
que el usuario es el núcleo dentro del cual se consumen contenidos y también se producen
masivamente datos, los cuales no solamente se extraen, sino que a la par se procesan algorít-
micamente, hace que dichos entornos se establezcan como espacios proclives para funcionar
como máquinas-espejo, en donde lo único que ve y se le presenta al usuario son sus gustos,
preferencias y deseos particulares sobre su consumo de contenido online. Y, en segunda, el
usuario al solo presentarle modelos personalizados afines a sus gustos e intereses, su esfera de
contacto con la otredad se dará no en términos conflictuales y agónicos de construcción
de sentido político a partir de la diferencia (pluralidad de visiones), sino a través de la lógica de
la mismitud, configurando de esta forma espacios en donde hasta el círculo de “amigos” sea
complementario a las preferencias personales con el fin de evitar la alteridad y así delinear
identidades políticas autorreferenciadas algorítmicamente.
Por todo lo anterior, dentro de las redes sociales que fomentan estructuralmente arquitec-
turas en las que el usuario está absorto sobre sí mismo en lo que deviene es en un extravío ra-
dical de la figura del otro como pharmakon (Arditi, 2014, p. 19), terminando por consolidar
atmósferas-espejo para que empresas como Cambridge Analytica —y de marketing y publici-
dad en general— cumplimenten no solo la tentativa de sugestionar a los usuarios para modi-
ficar sus preferencias políticas, sino también de construir de antemano escenarios predilectos
en donde estos piensen que lo que reproducen es su criterio, pero no hacen más que replicar
lo que las máquinas algorítmicas soñaron de antemano por él, clausurando de esta manera
prácticas democráticas de primer orden como lo es el diálogo, la contrastación de formas de
entender e interpretar el mundo y los cambios, reafirmaciones y reformulaciones de puntos
sintaxis, año 7, número 13, julio-diciembre 2024 https://doi.org/10.36105/stx.2024n13.04 45
de vista en los escenarios políticos al confluir con la pluralidad de participantes agónicos que
suponen contrastación y conflicto.
En otras palabras, las máquinas algorítmicas ponen en jaque a la democracia al construir
espacios en donde solo se presenta al usuario su reflejo algorítmicamente procesado, hasta el
punto en que dicho reflejo lo antecede incidiendo y definiendo por quién votar, qué ideas po-
líticas defender y qué interlocutores escuchar, alejando así lo potencialmente discordante, lo
heterogéneo, el conflicto y la pluralidad democrática que explora mundos dentro del mundo.
En el mundo del capitalismo algorítmico las máquinas sueñan con soñar por los usuarios para
elegir cuál será el próximo “mejor” candidato.
reflexi ones finAles
En un estudio, que tuvo de alcance a poco más de 60 millones de usuarios, realizado en el
trascurso de las elecciones del Congreso de los Estados Unidos de América en 2010 por un
grupo multidisciplinario de la Universidad de California en conjunto con personal especiali-
zado de Facebook, llegaron a plantear un postulado sugerente: el uso de las redes sociales tiene
un impacto e influencia directa en la conducta política de las personas y su círculo de amigos
de frente a los comicios y sus preferencias políticas (Bond et al., 2012).
Dicho postulado, como se ha leído a lo largo del presente artículo, fue profundizado y
confirmado por Kosinski y compañía, pero puesto y llevado a la práctica por Cambridge
Analytica a partir de los grandes bancos de datos recopilados por Aleksandr Kogan por medio
de la aplicación This is your digital life.
A este respecto y dado la conmoción mediática del caso de Cambridge Analytica, Kogan,
al ser expuesto como uno de sus principales artífices, comenta lo siguiente, sugiriendo que él
solo aprovechó la arquitectura y los intereses de Facebook para desarrollar su labor: “Face-
book, Twitter y otras plataformas ganan su dinero a través de la publicidad y, por tanto, hay un
acuerdo con el usuario: tú obtienes este producto alucinante que cuesta miles de millones de
dólares poner en marcha y, a cambio, podemos venderte a los anunciantes para que te envíen
publicidad a medida” (Guimón, 2018) y eso es justamente lo que Cambridge Analytica hizo,
sugestionar a los usuarios para votar por Trump.
Aunado a lo anterior, la declaración de Kogan supone una segunda idea: que hay muchas
otras empresas y compañías que realizan la misma actividad de Cambridge Analytica —aun-
que sus únicas diferencias con esta es que su proceder no es mediatizado públicamente—
dado que no hacen más que desarrollar el objetivo del capitalismo algorítmico a partir de sus
elementos funcionales como lo son las redes sociales: conocer íntimamente a los usuarios a
partir de la explotación de sus datos que, a su vez, estos generan para luego sugestionarlos,
46 cuando las máquinas sueñan por nosotros. la democracia en el mundo del capitalismo... gonzález montaño
interferirlos y reconducirlos a horizontes siempre capitalizables o, en su defecto, anteceder-
los construyendo el escenario más prolífico para el despliegue de sus actividades y conductas
futuras, clausurando así toda posibilidad de debate, crítica, disenso-consenso y contrasta-
ción de posturas políticas con las y los otros, reduciendo de esta forma la pluralidad del mun-
do democrático a entornos meramente autorreferenciales que no causan conflicto ni riesgo
agónico, porque lo primero y lo último que ve el usuario es siempre su reflejo algorítmica-
mente procesado.
En suma, las máquinas algorítmicas no sueñan con sustituirnos, sino en soñar por noso-
tros y, dentro del escenario político, sueñan porque nosotros soñemos por votar por tal o cual
candidato. Por ello, es medular destacar la importancia de nunca creer que es casual todo lo
que nos aparece en los reels o en el feed de nuestras redes sociales. Sin más, solo queda pregun-
tarse: ¿ya tienes en mente por quién votar?
referenciAs
Arditi, B. (2010). Post-hegemonía: la política fuera del paradigma postmarxista habitual. En
Cairo, H. y Franzé, J. (Ed.), Política y cultura. Biblioteca Nueva.
Arditi, B. (2014). Sobre lo político: Schmitt contra Schmitt. Revista De El Colegio de San Luis,
(3), 10–41. https://revista.colsan.edu.mx/index.php/COLSAN/article/view/508
Albornoz, M. (2021). El titular de datos personales, parte débil en tiempos de auge de la Inte-
ligencia artificial. ¿Cómo fortalecer su posición? IUS. Revista del Instituto de Ciencias Jurí-
dicas de Puebla AC, 15(48), 209-242. https://doi.org/10.35487/rius.v15i48.2021.715
Berghel, H. (2018). Malice domestic: the Cambridge Analytica dystopia. Computer, 51(5), 84-
89. https://doi.org/10.1109/MC.2018.2381135
Bobbio, N. (1986). El futuro de la democracia. Fondo de Cultura Económica.
Bovero, M. (2002). Una gramática de la democracia contra el gobierno de los peores. Trotta.
Bovero, M. (2020). Los adjetivos de la democracia. Instituto Nacional Electoral.
Bond, R., Fariss, C., Jones, J. et al. (2012). A 61-million-person experiment insocial influence
and political mobilization. Nature, 489, 295–298. https://doi.org/10.1038/nature11421
Brown, W. (2015). El pueblo sin atributos. La secreta revolución del neoliberalismo. Malpaso Edi-
ciones.
Calvo, P., (2019). Democracia algorítmica: consideraciones éticas sobre la dataficación de la
esfera pública. Revista del CLAD Reforma y Democracia, (74). https://www.redalyc.org/ar-
ticulo.oa?id=357560862001
García Marzá, D. y Calvo, P. (2022). Democracia algorítmica: ¿un nuevo cambio estructural de
la opinión pública? Isegoría, (67), e17. https://doi.org/10.3989/isegoria.2022.67.17
sintaxis, año 7, número 13, julio-diciembre 2024 https://doi.org/10.36105/stx.2024n13.04 47
Guattari, F. (1976). Psicoanálisis y transversalidad. Crítica psicoanalítica de las instituciones. Si-
glo xxi .
Guimón, P. (2018). El académico vinculado a Cambridge Analytica se siente un “chivo ex-
piatorio” de Facebook. El País. https://elpais.com/internacional/2018/03/21/actuali-
dad/1521617918_760407.html
González Biondo, F. M., y Linardelli Blotta, A. V. (2022). Algoritmos, democracias y ciudada-
nías. Democracias 4.0 y gubernamentalidad algorítmica. Ciencia Latina Revista Científica
Multidisciplinar, 6(2), 675-692. https://doi.org/10.37811/cl_rcm.v6i2.1915
González, F. (2019). Big data, algoritmos y política: las ciencias sociales en la era de las
redes digitales. Cinta de moebio, (65), 267-280. https://dx.doi.org/10.4067/s0717-
554x2019000200267
González Montaño, A. (2022). La rebelión de las máquinas en la trama del capitalismo algo-
rítmico: la democracia acechada. Logos Revista de Filosofía, 139(139), 139-154. https://doi.
org/10.26457/lrf.v139i139.3352
González Montaño, A. (2023). El dispositivo digital en la era del capitalismo algorítmico: el
caso de ChatGPT. Revista Sintaxis. https://doi.org/10.36105/stx.2023n.11.04
Jaimovich, D. (2023). Una charla con Leader Lars, el robot que lidera el Partido Sintético en
Dinamarca y que busca darle voz a todos los partidos políticos minoritarios daneses. La
Nación. https://www.lanacion.com.ar/tecnologia/una-charla-con-leader-lars-el-robot-que-
lidera-el-partido-sintetico-en-dinamarca-y-que-busca-darle-nid21032023/
Kaiser, B. (2019). La dictadura de los datos. La verdadera historia desde dentro de Cambridge Analyti-
ca y de cómo el Big Data, Trump y Facebook rompieron la democracia y cómo puede volver a pasar.
HarperCollins México.
Kitchin, R. (2017) Thinking critically about and researching algorithms. Information, Commu-
nication & Society, 120, 14-29. https://doi.org/10.1080/1369118X.2016.1154087
Kosinski, M.; Stillwell, D. y Graepel, T. (2013). Private traits and attributes are predictable
from digital records of human behavior. Proceedings of the National Academy of Sciences,
110(5), 5.802-5.805. https://doi.org/10.1073/pnas.1218772110
König, P. y Wenzelburger, G. (2022). Between technochauvinism and human-centrism: Can
algorithms improve decision-making in democratic politics? European Political Science, 21,
132-149. https://doi.org/10.1057/s41304-020-00298-3
Laclau, E. (2005) La razón populista. Fondo de Cultura Económica.
Lefort, C. (2004). La incertidumbre democrática. Ensayos sobre lo político. Anthropos.
Matz, S.; Stillwell, D.; Nave, G. y Kosinski, M. (2017). Psychological targeting as an effective
approach to digital mass persuasión. Proceedings of the National Academy of Sciences, 114
(28), pp. 12714-12719. https://doi.org/10.1073/pnas.1710966114
48 cuando las máquinas sueñan por nosotros. la democracia en el mundo del capitalismo... gonzález montaño
Mouffe, C. (1999). El retorno de lo político. Comunidad, ciudadanía, pluralismo, democracia radical.
Paidós.
Mouffe, C. (2014). Agonística. Pensar el mundo políticamente. Fondo de Cultura Económica.
Mónaco, J. (2022). El gobierno de los públicos en la era de los big data: pistas a partir del “caso
Kosinski”. Intersecciones en Comunicación, 1(16). https://doi.org/10.51385/ic.v1i16.145
Rancière, J. (2006). El odio a la democracia. Amorrortu.
Rodríguez-Andrés, R. (2018). Trump 2016: ¿presidente gracias a las redes sociales? Palabra
Clave, 21(3), 831-859. http://dx.doi.org/10.5294/pacla.2018.21.3.8
Rouvroy, A. y Berns, T. (2018). Gobernabilidad algorítmica y perspectivas de emancipación:
¿lo dispar como condición de individuación mediante la relación? Revista Ecuador Debate,
104, 124-147. https://www.caapecuador.org/ecuador-debate-n-104/
Ruiz Méndez, A. (2021). La polarización en las democracias contemporáneas. Esbozo de un
modelo analítico de comunicación política populista. Revista Sintaxis, (7), 33–49. https://
doi.org/10.36105/stx.2021n7.02
Schmitt, C. (1998). El concepto de lo político. Alianza.
Villalobos, V. (2018). Cambridge Analytica. De la interfaz al régimen. Revista de la Universidad de
México. https://www.revistadelauniversidad.mx/articles/407cb3d0-59b5-4980-bca2-64ae-
c5e0ced6/cambridge-analytica
Esta obra está bajo Licencia Creative Commons Atribución-NoComercial-SinDerivadas 4.0
Internacional.
ResearchGate has not been able to resolve any citations for this publication.
Article
Full-text available
Los dispositivos digitales, con el desarrollo del capitalismo algorítmico, han irrumpido en todas las esferas de la vida, trayendo consigo la propagación de un objetivo fundamental: modular la existencia de los sujetos a través de un despliegue algorítmico que tendrá por fin el conocer de forma pormenorizada a los usuarios a partir de los datos que comparten en las plataformas virtuales, hasta unirse íntimamente con estos. En este contexto se instala Chat- GPT, reciente dispositivo digital que se configura como una máquina comunicacional sugestiva que induce, interpela, incide y, en definitiva, produce narrativas que se ajustan a las visiones hegemónicas de una época para que así el usuario las haga suyas y, por ende, las reproduzca.
Article
Full-text available
Este artículo se propone confrontar el concepto de opinión pública con la realidad y las expectativas de una sociedad digitalizada para analizar si la actual colonización algorítmica exige un nuevo cambio estructural de la opinión pública o más bien la retirada de este concepto. Los datos y metadatos masivos se han vuelto un arma de doble filo para la sociedad democrática digitalmente hiperconectada. Mientras que, por un lado, el increíble potencial que atesora el big data y sus diferentes técnicas y tecnologías de explotación de los datos y metadatos lo convierten en un producto codiciado por sistema de instituciones que componen tanto el estado como la sociedad civil; por otro, los altos impactos negativos que su uso instrumental e irresponsable está produciendo y puede llegar a producir, hacen del big data una herramienta controvertida y altamente criticada por alejarnos de cualquier intento de construir una ciudadanía digital. Si bien la democracia algorítmica no se apoya solo en la opinión pública, el objetivo es mostrar la incompatibilidad entre opinión pública artificial y democracia. Nuestro hilo conductor es el concepto habermasiano de opinión pública, puesto que será precisamente la fuerza de la sociedad civil, a través del diseño en su seno de espacios de participación, de donde podemos extraer el potencial necesario para enfrentarnos a la actual colonización algorítmica, para recuperar una deliberación autónoma y crítica sin la cual no existe opinión pública alguna y, por tanto, tampoco democracia.
Article
Full-text available
El concepto de capitalismo algorítmico describe la manera en la que las sociedades del siglo xxi funcionan a través de una modulación estructural de la existencia del ser humano a partir de datos-algoritmos, que impactan de manera directa en los ideales democráticos, como la deliberación, el desacuerdo y el consenso. En esta lógica, el capitalismo algorítmico retrata un proceso de cambio radical expresado no solamente en los ámbitos político, económico o cultural de las sociedades actuales, sino, sobre todo, en los espacios íntimos de los seres humanos, como los sentimientos, anhelos, quehaceres, emociones, formas de elegir y hasta de soñar. Su propósito es incidir sobre estos espacios para modificarlos y conducirlos a horizontes siempre capitalizables.
Article
Full-text available
Entre 2013 y 2017, el psicólogo Michal Kosinski y su colega David Stillwell dieron a conocer un conjunto de artículos científicos por los que recibieron contactos y oportunidades de financiamiento de parte tanto de Facebook como de la consultora global Strategic Communications Laboratories Group: la firma de la que Cambridge Analytica era, en esos años, una empresa subsidiaria. El último documento, en particular, comunica los resultados de una indagación sobre “persuasión psicológica de gran escala” en el mundo digital que alcanzó a cerca de 4 millones de personas (Matz, Stillwell, Gedeón y Kosinski, 2017). A partir del análisis de estos hechos, el propósito principal de este texto es brindar algunos elementos que permitan responder a la pregunta por cómo está siendo reformulado el gobierno de los públicos —es decir, de acuerdo a Foucault, el gobierno de las poblaciones consideradas en base a sus opiniones, sus formas de hacer, sus conductas, sus hábitos, sus temores, sus prejuicios, sus exigencias (Foucault, 2006 y 2007)— a comienzos del siglo XXI, en la era de los big data, los algoritmos y las plataformas.
Article
Full-text available
El objetivo de este texto es delinear un modelo de an�lisis de comunicaci�n pol�tica populista a partir de los elementos de un proceso mixto de polarizaci�n pol�tica. Para desarrollarlo, primero se define qu� debemos entender por polarizaci�n pol�tica, enseguida se describe su relaci�n con los medios digitales de comunicaci�n y, finalmente, se expone el estilo de comunicaci�n pol�tica populista como factor que completa ese proceso mixto de polarizaci�n; lo anterior llevar� a concluir que la polarizaci�n es inversamente proporcional a la estabilidad democr�tica y que el modelo de an�lisis nos permitir�a identificar sus riesgos potenciales.
Article
Full-text available
Un área en la que se manifiesta la tensión entre la innovación tecnológica que la Inteligencia Artificial (IA) supone y la protección de datos personales es la del consentimiento del titular. En efecto, la IA desafía el alcance del consentimiento e incluso su necesidad. Se considera, sin embargo, que continúa siendo una opción jurídicamente relevante para habilitar el tratamiento lícito de datos personales por parte del responsable. Por eso es pertinente reflexionar sobre el consentimiento a la luz de la realidad actual.Los objetivos del presente artículo son: analizar la situación desventajosa del titular de datos personales cuando sus datos son tratados por empresas privadas recurriendo a la IA y explorar algunas de las medidas previstas en nuevos instrumentos iberoamericanos de soft law que podrían contribuir a fortalecer al titular promoviendo el respeto de los derechos humanos –especialmente, el derecho a la protección de los datos personales– y de principios éticos. Finalmente, se concluye que aún hay trabajo pendiente en esta materia y se aboga por continuar avanzando, con la participación de todos los actores interesados, hacia la adopción de un marco de gobernanza global para la IA.
Article
Full-text available
The promise of algorithmic decision-making (ADM) lies in its capacity to support or replace human decision-making based on a superior ability to solve specific cognitive tasks. Applications have found their way into various domains of decision-making—and even find appeal in the realm of politics. Against the backdrop of widespread dissatisfaction with politicians in established democracies, there are even calls for replacing politicians with machines. Our discipline has hitherto remained surprisingly silent on these issues. The present article argues that it is important to have a clear grasp of when and how ADM is compatible with political decision-making. While algorithms may help decision-makers in the evidence-based selection of policy instruments to achieve pre-defined goals, bringing ADM to the heart of politics, where the guiding goals are set, is dangerous. Democratic politics, we argue, involves a kind of learning that is incompatible with the learning and optimization performed by algorithmic systems.
Article
Full-text available
Reflexión sobre El futuro de la Democraciaia
Article
Full-text available
Actualmente la convergencia de la Inteligencia Artificial, el Big Data y el Internet de las cosas permite la algoritmización, dataficación e hiperconectividad de todo ámbito de actividad humana, como el económico, el asistencial o el político. Este hecho, junto con la desafección de la sociedad civil hacia los actuales modelos democráticos, está generando nuevas propuestas democráticas basadas en la supuesta objetividad, moralidad, representatividad y neutralidad de los modelos matemáticos basados en redes neuronales artificiales de aprendizaje automático. Utilizando una metodología hermenéutico-crítica en el estudio de fuentes bibliográficas, el objetivo del presente trabajo es mostrar los retos, límites y consecuencias que subyacen a las diversas propuestas democráticas basadas en modelos matemáticos de decisión, datos masivos y la hiperconectividad de la sociedad digital. Currently the convergence of Artificial Intelligence, Big Data and the Internet of Things allows the algorithmization, datafication and hyperconnectivity of the entire scope of human activity, such as economics, welfare or politics. Together with the disaffection of civil society towards the current democratic models, this fact is generating new democratic proposals based on the supposed objectivity, morality, representability and neutrality of mathematical models based on artificial neural networks of machine learning. Using a hermeneutic-critical methodology in the study of bibliographical sources, the objective of the present work is to show the challenges, limits and consequences that underlie the diverse democratic proposals based on mathematical models of decision, massive data and the hyperconnectivity of the digital society.
Article
Full-text available
The article offers a state of art about the empirical study of the relationship between politics and social media during the last decade, from the point of view of the nature of the subject, new research techniques and methods used in the social sciences, the research agendas it has fostered, and some of the ethical dilemmas this research raises. The article is divided in three main parts. Firstly, we develop a discussion of the main research methods to approach the relationship between politics and digital media, big data and algorithms, which we compare with traditional opinion polls. Secondly, we offer a review of the main issues that have guided this research agenda during the last ten years: political representation and campaigns, emerging political communities, and new forms of collective action. Finally, the last section reflects on the ethical dilemmas and debates that arise from the utilization of new research methods in the social sciences.