Entrevistas
Marta Cambronero Deliberar cuando no estamos de acuerdo: conflicto, odio y esfera pública
Marta Cambronero Garbajosa es periodista, doctora en Sociedad de la Información y el Conocimiento por la Universitat Oberta de Catalunya (UOC) e investigadora postdoctoral del grupo Communication Networks & Social Change. Su investigación se centra en la esfera pública digital, el antagonismo político y las respuestas ciudadanas frente a los discursos de odio, cuestiones que abordó en su tesis doctoral Comunicación frente al odio (2025). Conversamos con ella sobre los límites de la deliberación democrática, el papel de las emociones y los algoritmos en la formación de opinión pública y la necesidad de construir espacios donde el conflicto pueda expresarse sin convertirse en violencia o exclusión. Una conversación que también explora qué papel puede desempeñar la inteligencia artificial en una democracia que necesita aprender a sostener el desacuerdo.
La esfera pública después de Habermas
Platoniq: Hablemos entonces del discurso público y de la esfera pública, sobre todo de la digital. Durante mucho tiempo imaginamos la esfera pública como un espacio donde distintas posiciones compiten mediante argumentos. ¿Te sigue sirviendo esta imagen para entender una conversación pública atravesada por plataformas, algoritmos, métricas y también afectos personales, recreados o incluso simulados?
Marta: Sí. La idea inicial que tenemos de esfera pública es la que definió Habermas en su obra fundacional. A partir de ahí se ha trabajado muchísimo sobre el concepto, pero casi siempre lo más interesante que se ha producido ha sido precisamente alrededor de las críticas que se han hecho a ese concepto.
Hay algo previo que creo que es importante tener en cuenta, porque sirve para aclarar el resto de las discusiones en torno a la esfera pública: comprender el método de Habermas. Él no lo especifica ni lo explica claramente en su obra, por eso también ha costado tantos años comprenderlo. Hay que leer a mucha gente para ver si realmente funciona así y, aun así, no existe acuerdo entre todos los que lo estudian.
Lo que hace es utilizar el método de la crítica inmanente, típico de la Escuela de Frankfurt, que aprendió de Adorno, y que consiste en comparar lo que un sistema proclama con lo que realmente hace. A partir de esa dialéctica, observa cómo toda la modernidad se ha construido, por un lado, con una visión ilustrada de las posibilidades del ser humano, de aquello que podría llegar a ser capaz de hacer. Y, por otro, con la constatación de que esas posibilidades siempre han estado amenazadas o, de alguna manera, entran en contradicción con lo que después encontramos empíricamente, en la realidad.
En su primer trabajo, Habermas habla de dos transformaciones fundamentales de la esfera pública que impiden que ésta se produzca tal como el propio sistema proclama que debería hacerlo.
La primera gran transformación es la dominación de la burguesía sobre los discursos de la esfera pública de la era moderna. Es decir, consigue hacer pasar sus intereses de clase como si fueran los intereses del conjunto de la sociedad. En ese momento había una pugna: el movimiento obrero no solo estaba naciendo, sino que llegó a ser pujante. Ahora sabemos cómo se resolvió históricamente, pero en aquel momento había discursos de varias clases en disputa, no se sabía qué iba a suceder. Lo mismo se puede decir de las sufragistas. Se impuso el discurso de la burguesía masculina.
La segunda es el paso de un sistema de comunicación distribuido a uno centralizado y controlado. Se pasó de pequeños periódicos que aparecían aquí y allá, sin demasiada estabilidad, de la importancia de las tertulias literarias en la generación de opinión pública… Todo eso muta hacia otro modelo: aparecen los grandes medios de comunicación de masas. Primero las agencias informativas y después se intensifica todo ese proceso con la radio, la televisión, las grandes cabeceras de prensa y todo el conglomerado de las industrias culturales. La segunda gran transformación es, por tanto, mediática.
Esta previa es importante porque Habermas dice que para que exista deliberación necesitamos que existan determinadas condiciones. Independientemente de que esta visión normativa se cumpla en la realidad o no, o se cumpla a veces y quizá con matices, el valor de su marco analítico es imprescindible para pensar la esfera pública.
Platoniq: Creo que se entiende muy bien. A veces no está nada claro y te ha quedado súper claro.
Marta: Entonces, ¿qué pasa? Pasa que no existe un momento concreto en el que la democracia o las condiciones deliberativas que permiten sostener una democracia legítima desde la opinión pública empiecen a deteriorarse. Nunca existieron bien del todo. Lo que vemos en los últimos años es que el umbral que nos separa de esas condiciones óptimas para la deliberación está cada vez más lejos. Es decir, que la posibilidad de ajustar las formas reales de formación de la opinión pública al modelo normativo están cada vez más lejos. Y entonces aparece una sensación de que los modelos normativos ya no sirven.
A eso le sumas que los algoritmos actuales son mucho más opacos. Tampoco es que la forma anterior de organizar la información pública fuera especialmente transparente, pero…
Platoniq: Por lo menos te podías acercar a algún espacio donde alguien te lo explicara.
Marta: Exacto. Eso ahora no pasa. No podemos auditar los algoritmos. Ni siquiera está muy claro que hayan sido diseñados específicamente para producir los efectos que finalmente producen. Todavía estamos intentando entender por qué funcionan así. Lo que sí sabemos es que, si hablamos de algoritmos de visibilidad de contenidos, han sido diseñados principalmente para maximizar el beneficio. Están pensados, sobre todo, para el sistema de publicidad digital. Por eso no sabemos hasta qué punto todos los daños que producen son un subproducto que nadie había pensado explícitamente. Se han diseñado para algo como: «Quiero saber qué te interesa, quiero saber dónde estás poniendo tu atención, porque eso para mí significa valor de cambio para los anunciantes. Yo puedo decirles: la atención de esta persona, en este momento, vale tanto». Y esto multiplicado por millones de personas y millones de operaciones cada segundo.
Platoniq: Consigues lo que deseas, pero aparecen efectos secundarios no controlados.
Marta: Sí, tiene efectos secundarios. Y ahí es donde se están dedicando grandes esfuerzos durante los últimos años: intentar entender si existe influencia y de qué tipo. Es decir: queremos saber si algunos fenómenos que socialmente nos preocupan, por ejemplo, el incremento de la polarización, la pérdida de consensos en torno a determinados valores democráticos o la erosión del apoyo a los derechos humanos y a derechos básicos de poblaciones especialmente vulnerables, están siendo influidos o no por esta forma actual de arena pública, en la que existe un predominio de estos algoritmos.
Hablamos de algoritmos, aunque evidentemente hay más actores y elementos. Y todavía estamos intentando comprender si existen efectos directos entre ellos.
Emociones, miedo y formación de opinión
Platoniq: Volviendo un poco a Habermas: no sé si me equivoco, pero una de tus críticas sería que ofrece una visión demasiado racional de la esfera pública. ¿Qué peso tienen hoy emociones como el miedo, la indignación, el resentimiento o el sentimiento de pertenencia en la formación de opinión pública? Sobre todo, de nuevo, a través de las redes.
Marta: Pensar que la opinión se produce únicamente de manera racional es, de nuevo, una visión normativa de cómo se forma la opinión pública e incluso de cómo se forma la opinión personal.
Si tenemos buenas condiciones para la racionalidad, para que no esté contaminada o sometida a manipulaciones, podemos estar de acuerdo en que la discusión basada únicamente en argumentos racionales sería algo positivo. Ahora bien, de nuevo, lo empírico, la realidad, desborda los modelos normativos. No siempre los cumple. Y no es una cuestión de voluntad; a veces es simplemente que el ser humano es así. Es racional y es emocional.
Lo que sucede es que nos hemos centrado en comprobar si cumplíamos o no con el modelo normativo porque, idealmente, sería estupendo. Pero sencillamente no funciona así.
Cuando nos formamos una opinión sobre algo, distintos componentes interaccionan entre sí. Una emoción puede estar contribuyendo a configurar una idea racional. Y este es quizá un camino que conviene explorar mucho más en el presente, porque a veces caemos en una dicotomía: «Es que ahora las emociones dominan la política». Bueno, no ahora. Siempre han estado ahí. Lo que sucede es que nos hemos centrado en comprobar si cumplíamos o no con el modelo normativo porque, idealmente, sería estupendo. Pero sencillamente no funciona así.
En concreto, respecto al miedo: yo tampoco soy especialista en miedo, aunque haya hecho mi tesis sobre discursos de odio. Lo que sí puedo decir es que es una de las emociones más poderosas, más potentes y también más complejas. En realidad, todas las emociones son complejas. No van solas. Suelen ir unidas a otras emociones y, cuando hablamos de emociones negativas, normalmente también a expectativas que no se han cumplido.
Platoniq: Algunas emociones también parecen tener más capacidad de agregación que otras. Lo digo a nivel de identificación y, sobre todo, pensando en ciertas estrategias de extrema derecha: no tanto crear afectos que no existían como simularlos, provocarlos o activarlos.
Marta: Creo que la izquierda ha hecho uso de las emociones en algunos momentos. Se ha apoyado mucho, por ejemplo, en la alegría…
Platoniq: Me refería quizá a las negativas. Tendría que haberlo dicho así.
Marta: Hay ciertos miedos, ciertas opiniones o ciertas interpretaciones de lo que sucede que producen vergüenza, porque nos hemos educado dentro de determinados valores. Quedamos de alguna manera reprimidos bajo esa vergüenza. En el momento en que ciertas opciones políticas dicen: «Aquí no tienes que sentir vergüenza» —evidentemente no lo formulan exactamente así—, el mecanismo sería algo como: «Aquí no tienes que avergonzarte de sentir esto. Aquí puedes ser abiertamente xenófobo. Aquí puedes pensar primero en los tuyos y olvidarte de los demás». Esa parte sí que está construida, aunque no es necesariamente menos auténtica que la agregación por miedo a la extrema derecha que se activa en la izquierda.
Cuando la deliberación encuentra antagonistas
Platoniq: Es cuando vamos hacia el antagonismo.
Marta: Exacto. El problema aparece cuando la sociedad nos demuestra empíricamente que la disfunción es estructural, que no se puede examinar todo únicamente mediante un modelo normativo deliberativo. Y en ese punto la teoría del antagonismo político explica mejor algunos de estos fenómenos.
Mientras nos mantenemos dentro de cierto consenso democrático existen problemas, por supuesto, porque siempre hay actores reprimidos, movimientos sociales que quieren cambiar las cosas y demás. Pero, entre los actores dominantes, todos se mantienen dentro de cierto perímetro. Hay determinadas cosas que se dan por garantizadas. No tienes a alguien con poder intentando dinamitar el propio sistema.
En ese contexto sí puedes decir: «Vamos a intentar llegar a acuerdos racionales a través de la comunicación». Esto sería la teoría de la acción comunicativa de Habermas: «vamos a exponernos nuestros argumentos, negociar y buscar acuerdos». Pero ¿qué sucede cuando aparecen actores con poder cuyo objetivo es precisamente dinamitar las bases o fundamentos del sistema? Pues que ahí es más difícil saber qué hacer. Esto se explica mejor desde la teoría del antagonismo político. ¿Cómo mantener ese espacio de comunicación democrática si no consigues ser más que el otro lado, que lo que quiere cargárselo?
Platoniq: Ahí entran cuestiones de hegemonía y quizá una política más basada en el conflicto y la confrontación, que no es precisamente lo que la deliberación intenta cultivar. En nuestro caso hablamos mucho de conflicto creativo: colocar posiciones que quizá salen de la pura racionalidad y trabajar también procesos de escucha de la posición del otro.
Ya que estamos en el capítulo Habermas y hablando de conflicto, ¿cómo ves las asambleas como una especie de minimundo, una representación en pequeño del mundo? ¿Dónde está el margen para reconocer el valor de un posible antagonismo en determinados momentos de una asamblea?
Marta: Esto es muy interesante. De hecho, algunos de los proyectos que estoy planteando en distintos espacios van exactamente en esa línea. Hay que educar también esa capacidad de escucha ante aquello que no nos parece bien. Decir «no pasa nada» no sería correcto. Claro que puede pasar algo grave si determinados discursos acaban siendo hegemónicos o tomando el poder. Pero es muy importante comprender cuáles son los mecanismos que hacen que esos discursos enganchen con personas que están muy cerca de ti, que pueden ser familiares tuyos, compañeros de trabajo o personas con las que coincides comprando en el supermercado.
El reto es cómo generar metodologías, cómo fabricar, construir, en el buen sentido, maneras de poder estar ahí, de escuchar eso sin legitimarlo y sin contaminarse de ello.
El reto es cómo generar metodologías, cómo fabricar, construir, en el buen sentido —antes hablábamos de una fabricación política del uso de emociones negativas— maneras de poder estar ahí, de escuchar eso sin legitimarlo y sin contaminarse de ello. Ese es uno de los grandes retos. No se trata de un «dejar hacer». Se trata de decir: «Voy a escucharte y voy a rebatirte políticamente». Porque, si no te escucho y no sé qué está sucediendo ahí, tampoco puedo responder de una manera que te pueda hacer cambiar de opinión.
¿Qué capacidades democráticas necesitamos?
Platoniq: Para volver al tema de las capacidades democráticas: ¿qué capacidades crees que necesita hoy una persona, una ciudadana o un ciudadano, para poder intervenir realmente en la esfera pública?
Marta: Por un lado, la capacidad de discernimiento entre lo que es cierto y lo que no. Implica fact-checking, pero va más allá. No solo consiste en discernir entre lo cierto y lo falso, sino también entre lo importante y lo que no lo es. Y también en saber qué estás haciendo comunicativamente: a quién le estás diciendo qué por qué medios y con qué efectos. Esto es importante porque es lo que te permite comprender si puedes estar sirviendo a una táctica o a una estrategia ajena sin darte cuenta. Los mecanismos de comunicación y manipulación dentro de esta esfera pública antagonista se han vuelto tan enrevesados que tú, defendiendo algo con toda la razón del mundo y con toda la buena voluntad, puedes estar, sin saberlo ni quererlo, ayudando, o siendo funcional, a la estrategia de un adversario político. Por tanto, esa capacidad de discernimiento es fundamental: dónde estás, qué estás haciendo, qué no estás haciendo, qué están haciendo los demás, sería una. Y quizá sea la más importante.
Después está otra de la que ya hemos hablado: ser capaz de escuchar a quien no piensa como tú sin que se te lleven los demonios, por decirlo así. Poder estar en desacuerdo y poder escuchar el desacuerdo.
Conflicto, discurso de odio y violencia discursiva
Platoniq: Vuelvo un poco a algo que trabajas bastante y que tiene que ver con esta posible confusión alrededor de la «fabricación» del discurso de odio.
La democracia necesita conflicto. A mí me gusta mucho Chantal Mouffe, por ejemplo. Pero también necesitamos poner límites a ese conflicto. ¿Qué riesgo existe al meter dentro de una misma categoría cosas como el discurso de odio, la violencia discursiva, el antagonismo político, la protesta o simplemente posiciones incómodas?
Marta: Ya que el conflicto es inevitable, hagamos algo bueno con él. Claro. En cuanto a los conceptos que comentas, aquí sirve pensarlo con Judith Butler. Ella explica en Lenguaje, poder e identidad, a través del análisis de tres casos diferentes, cómo el daño no lo produce el discurso en sí mismo, sino en la manera en que un actor subordina al otro a través del lenguaje. Al final es una cuestión de poder y de cómo se ejerce de manera discursiva o simbólica. En ese sentido, violencia discursiva y discurso de odio podrían ser prácticamente sinónimos. «Discurso de odio» es en realidad una categoría legal muy específica, que nace después de la Segunda Guerra Mundial para poner determinados límites a la libertad de expresión. Unos límites muy específicos destinados a proteger determinadas categorías sociales o grupos especialmente vulnerables.
Esa categoría ha ido creciendo. O, mejor dicho, se han ido definiendo cada vez más características por las que una persona debe ser protegida ante posibles ataques verbales. Por ejemplo, en la legislación española una de esas razones es la ideología. No dice «ideología de izquierdas». Dice ideología. Es decir, una persona a la que alguien le llama «fascista» podría denunciar un discurso de odio si dice que se lo han dicho con ánimo de insultarle. Esa es la realidad formal de la categoría «discurso de odio».
Creo que cuando decimos que estamos en contra de los discursos de odio nos estamos refiriendo muchas veces precisamente a la violencia discursiva en el sentido que le da Butler: criticamos que se utilicen las palabras no para el diálogo, la comprensión mutua o la construcción de acuerdos, sino para dinamitar todo eso y exhibir poder, dominación y antagonismo político. Y en ese sentido, todos los conceptos que has mencionado están relacionados.
Platoniq: Relacionado con eso: ¿cómo podemos crear espacios donde el desacuerdo pueda hacerse fuerte sin acabar en hostigamiento, exclusión o silenciamiento, tanto online como físicamente?
Marta: En un contexto como el de las asambleas deliberativas o en el tipo de espacios que hacéis vosotros, por ejemplo. Son espacios idóneos donde poder entrenar esa escucha que necesitamos para poder separar qué hay de posición política y qué hay de esa dimensión más performativa, de ese envoltorio agresivo y excluyente. Una cosa es la posición política: «pienso que las personas autóctonas o locales tienen que tener cubiertos sus derechos antes de recibir a una nueva población», con la que puedes no estar en absoluto de acuerdo por muy buenos motivos, y otra es deshumanizar a la categoría que queda excluida de manera exacerbada. Y no es que sea menos grave la deshumanización por ser implícita. De hecho, es más peligrosa porque la pueden digerir mejor distintos tipos de públicos. Lo que digo es que necesitamos espacios controlados desde los que poder examinar en detalle esa diferencia y, desde ahí, trabajar en propuestas políticas y discursivas que puedan despojar de fuerza a las que está proponiendo la ultraderecha.
IA situada y comunidades afectadas
Platoniq: Abro aquí un pequeño aperitivo antes de convocarte a la sesión sobre el experimento en el que estamos trabajando. Estamos desarrollando un prototipo de IA, GRID le hemos llamado, que funciona con múltiples agentes con conocimiento situado. Cada uno tiene su personalidad, pero también una serie de materiales de entrenamiento separados por agentes. Además, pedimos a entidades concretas, si hablamos de migración, de homelessness, etc., que participen en ese entrenamiento. Es decir, hacemos el entrenamiento con una entidad, juntándonos físicamente. Es un proceso bastante analógico.
Tenemos también una personalidad que es «el filósofo», de la que se encarga mi compañero Cristian. Tenemos, no sé, cincuenta años de fanzines y libros no publicados, cosas que no queremos simplemente entregar a Anthropic para que las compre y las despiece. Son materiales muy ad hoc. Por tanto, ninguno de estos agentes contiene «todo el conocimiento». Son corpus muy específicos, con un sesgo muy claro: hacer aparecer perspectivas feministas, antirracistas, interseccionales o minoritarias. La pregunta es la siguiente: ¿cómo hacer esto sin convertirlas en una cuota dentro del corpus que damos a ese agente? Y en este sentido ¿cómo hacemos para que la IA no «hable en nombre de» esas comunidades sin que el proceso mediante el cual construimos ese conocimiento sea visible?
Marta: Aquí lo ideal sería contar con esas comunidades desde el minuto cero de la creación, en el codiseño. No solamente en el entrenamiento. También en la creación de categorías.
Platoniq: En la ontología.
Marta: Sí, exactamente. En la ontología. Porque aquí puede existir también una brecha de conocimiento. Y no solamente respecto a comunidades antirracistas o feministas, sino respecto a cualquier ciudadano o ciudadana. Incluso entre personas que se dedican a la investigación hay quienes saben más y quienes saben menos sobre grandes modelos de lenguaje. No todo el mundo tiene el mismo conocimiento. Y creo que ahí también se puede intervenir: facilitar que sea posible decidir en todos los niveles de construcción del agente aunque no se disponga de todo el conocimiento técnico.
Habría que generar mecanismos de facilitación para eso. Y luego, claro, tener en cuenta de verdad las aportaciones y asegurarse de que se han incorporado de manera adecuada, con mecanismos para que las comunidades participantes puedan validar o, si es el caso, modificar las decisiones de diseño.
Líneas rojas para la IA deliberativa
Platoniq: En nuestro caso, tenemos una versión completamente separada de cualquier LLM tipo ChatGPT y otra que sí utiliza ese tipo de motor. La independiente puede funcionar con recursos mínimos, en una instalación local. Es bastante más lenta, evidentemente, y los tipos de respuesta también son diferentes.
Lo estamos intentando construir precisamente pensando en paliar un problema: prácticamente ninguna asamblea ciudadana trata temas que potencialmente puedan ser realmente conflictivos. Y no hablo solamente de migración o violencia. Podría ser algo tan aparentemente sencillo como la gestión de la basura en una ciudad, si ningún político quiere utilizar ese tema como objeto de deliberación.
Lo que queremos crear es esa fase anterior al momento en que ya existe un mandato institucional con una pregunta cerrada. Porque normalmente hay una serie de zonas rojas que no se quieren tocar política o normativamente. Queremos abrir un espacio anterior, destinado más bien a crear la agenda que después permitirá convocar una asamblea más representativa.
Aquí quizá la pregunta más general, que va bastante más allá de nuestro caso concreto, sería esta: respecto a los experimentos, como la Habermas Machine, si el objetivo no es que la IA delibere por nosotros, sino que nos ayude a deliberar, disentir y actuar mejor, ¿qué líneas rojas pondrías?
Marta: Uno de los riesgos que veo en la Habermas Machine y en otros experimentos similares es que se haga pasar por deliberación lo que en realidad es una deliberación realizada por máquinas. En cambio, que se haga desde un espacio vinculado con asambleas ciudadanas reales, y que esté a nuestro servicio, al servicio de las personas, me parece que puede ser interesante.
Después está el riesgo de que la propia herramienta esté guiando en exceso la conversación. Puede hacerlo por un mal diseño, por un diseño intencionadamente nocivo o simplemente como consecuencia de un efecto no previsto. En este último caso también se trataría de un problema de diseño que seguramente se podría subsanar manteniendo el diseño abierto a mejoras. No sé si es exactamente una línea roja, pero sí algo que habría que vigilar mucho.
Platoniq: En un escenario en el que la gente se informa a través de la IA, ¿crees que hemos individualizado demasiado el problema de la desinformación? Es decir, ¿estamos pidiendo a los ciudadanos que sean más críticos sin exigir al mismo tiempo cambios en las infraestructuras que organizan la información?
Marta: Absolutamente. La desinformación ya es un elemento estructural más del sistema de comunicación digital. Es el propio sistema de publicidad digital —en el sentido de notoriedad, visibilidad— el que la pone en circulación. Y digo el sistema, porque son varios elementos dentro de él que interactúan de tal manera que la acaban difundiendo de manera masiva. Por ejemplo, quien depende mucho del número de visualizaciones, como influencers, algunos políticos y algunos periodistas, tiende a colar alguna información falsa o torticera de vez en cuando para que no se apague la llama del engagement. El modelo de monetización no discierne la calidad de lo que se dice; lo que le importa es vender anuncios a las personas que están visualizando el contenido.
Se pueden poner filtros, claro, como los que se ponen con los moderadores de contenido y entrenadores de IA a quienes las empresas explotan para que no nos llegue contenido mucho peor. El problema es que poner filtros para que no pase la desinformación no es tan fácil, porque una buena parte de la desinformación que hoy circula no es información falsa cuya falsedad es verificable, sino que es del tipo cherry picking; es decir, consiste en quedarse con lo más favorable de un hecho, ignorando u ocultando lo demás. La línea que separa esta técnica de manipulación informativa del framing o encuadramento posicionado de la comunicación política es muy fina. Los falsos positivos podrían afectar gravemente a la libertad de expresión y a la actividad deliberativa.
Lo que pasa es que la competencia mediática tiene un límite necesario cuando lo que tenemos enfrente son tecnologías cada vez más opacas, como los algoritmos de recomendación.
Por eso es muy importante que las personas tengamos una alta competencia mediática para identificar la mentira fabricada e interesada. Lo que pasa es que la competencia mediática tiene un límite necesario cuando lo que tenemos enfrente son tecnologías cada vez más opacas, como los algoritmos de recomendación. Además, dado que la desinformación aparece mezclada con el resto de contenidos, evitar el consumo de ciertos canales informativos no se puede hacer sin algún coste, pasa por perderse cosas que le hacen estar a una en el mundo. No es tan fácil saber cuál es la solución; no parece haber una solución única. Lo que parece claro es que el modelo de engagement de los espacios digitales comerciales y que haya gente que quiere monetizar allí a cualquier precio tienen mucho que ver con el problema.
Platoniq: Desde tu trabajo sobre antagonismo, ¿qué tendría que hacer la IA para no domesticar el conflicto político?
Marta: Esta pregunta es muy difícil. Asumo que os referís a un agente de IA desarrollado con este fin específico como el que estáis creando en Platoniq, no a un ChatGPT u otro genérico. En un entorno controlado como el de las asambleas deliberativas ciudadanas, imagino que quien esté allí participa sin romper la dinámica más básica, por lo que aquí hablaríamos más de agonismo que de antagonismo. Creo que la IA puede ser muy útil allí para trabajar la escucha sin aplanar el disenso. La IA podría ayudar, por ejemplo, con la síntesis de posiciones políticas, señalando la parte que hay de coincidencia y la parte que hay de divergencia entre ellas. También podría reformular las posiciones de las personas sin traicionar la idea de fondo en la búsqueda de un mayor acercamiento, que es un poco lo que se propone con la Habermas Machine.
¿Qué tendría que hacer la IA para no domesticar otro tipo de conflicto más antagonista? Pues no lo sé, la verdad. Ojalá una IA que domesticase este tipo de conflicto, pero no funciona así. Hay decisiones que no puede tomar la IA, eso está claro. Por ejemplo, en un contexto polarizado afectivamente, ¿le muestras la síntesis de posturas a los dos polos de opinión, a todo un polo de opinión o sólo a aquellas personas que el algoritmo calcula que son más moderadas? Porque si se lo muestras a todas, es posible que obtengas aún mayor hostilidad entre grupos, que al final es peor que mantenerse en la no escucha y en el no encuentro mutuo. Una cosa es no domesticar el conflicto y otra muy distinta es exacerbarlo. No queremos eso. ¿Y cómo calculas quiénes son las personas moderadas? Hay ciertos límites éticos y políticos acerca de estas metodologías que habría que tener en cuenta. Si queremos rediseñar de verdad con criterios democráticos, hay una discusión previa que no hemos tenido y que va de si queremos que los algoritmos y la IA midan este tipo de cosas, que hagan cierta ingeniería social con nosotros. Quizá dependa de cosas como quién gobierna esa IA. A mucha gente le parecerá mal, pero seguramente sea algo necesario si se quiere desarrollar una arena pública masiva alternativa a la comercial dedicada a construir el entendimiento democrático. Mientras lo digo, tengo muchas dudas al respecto porque es un asunto incipiente y muy complejo. ¿Quizá no es lo que necesitemos? ¿Quizá es mejor que la IA no haga nada de esto? ¿Quizá ni siquiera sea posible por los límites del planeta? Lo que es seguro es que son preguntas que en algún momento será importante poder responder.
