Entrevistas
José Luis Martí Lo que la IA no puede decidir por nosotros. Los límites de la deliberación artificial
José Luis Martí, profesor de filosofía del derecho y teoría política, lleva años investigando los límites y las posibilidades de la democracia deliberativa. En esta conversación aborda algunas de las tensiones más urgentes de la participación democrática: la diferencia entre participar más y participar mejor, los límites de los presupuestos participativos y las asambleas ciudadanas, la necesidad de generar capacidades democráticas duraderas y el papel que puede, o no debe, asumir la inteligencia artificial en los procesos deliberativos. A partir de experimentos como Habermolt, Martí cuestiona la idea de que la democracia pueda reducirse a agregar preferencias o maximizar la eficiencia, y defiende una concepción en la que el desacuerdo, la autonomía y la igualdad siguen dependiendo de la participación activa de las personas.
Más participación no significa más democracia
Olivier: En tu último artículo señalas una paradoja: hemos multiplicado los canales, las plataformas y las consultas, pero buena parte de la participación sigue funcionando de manera agregativa. ¿El siguiente salto democrático consiste en crear más oportunidades para participar o en mejorar la calidad de esos espacios? ¿Hemos confundido más participación con más democracia?
José Luis: Sí. En primer lugar, me parece evidente, aunque a veces lo olvidemos, que una mayor participación, más participación en un sentido cuantitativo, no implica una mejor participación y, por tanto, tampoco implica que estemos mejorando la calidad de las instituciones democráticas.
No estoy en contra de multiplicar las posibilidades de participación, pero tenemos que tener muy claro que cada nuevo espacio que abrimos debe hacerse con la máxima calidad posible. Porque, si no, estamos generando una self-fulfilling prophecy. Hacemos participación de mala calidad y todos los enemigos de la democracia participativa nos dicen: «¿Veis? La participación no sirve para mejorar la calidad de las decisiones. No podemos permitirnos que la gente participe, porque en el fondo lo que queremos es una mejor gobernanza».
Para mí son importantes las dos cosas: abrir nuevos espacios de participación, sí, pero hacerlo poniendo el foco en que esos espacios tengan la lógica democrática correcta. Desde mi punto de vista, esa lógica es deliberativa y está orientada a la construcción de consensos por parte de la ciudadanía, con una inspiración bottom-up: una construcción de consenso que viene desde abajo.
El problema es que no se pone el foco en la deliberación de la ciudadanía y, lo que es peor, se fomenta la competición entre propuestas ciudadanas, como si todos fuéramos enemigos en una batalla democrática
En un artículo reciente criticaba algunos procesos participativos de Barcelona, aunque esto es común también en otros municipios, porque ponen el acento en la agregación de preferencias. Eso, en sí mismo, no está mal, pero es solamente un primer estadio de cualquier política democrática de calidad. El problema es que no se pone el foco en la deliberación de la ciudadanía y, lo que es peor, se fomenta la competición entre propuestas ciudadanas, como si todos fuéramos enemigos en una batalla democrática, en lugar de promover entendimientos y acuerdos generalizados sobre cómo tomar mejores decisiones.
Olivier: Me interesa distinguir competición y consenso: el conflicto también puede ser una dimensión creativa de la deliberación. En tu artículo criticas especialmente los presupuestos participativos. ¿No crees que sus límites están en el propio diseño, que pide a la ciudadanía proponer pequeños proyectos técnicamente ejecutables en lugar de intervenir en decisiones más atrevidas?
Quizás deberíamos potenciar instrumentos como las iniciativas ciudadanas, que permiten organizarse para reclamar cambios legislativos concretos. En los presupuestos participativos casi pedimos a la ciudadanía que actúe como técnica de la ciudad, pero no que intervenga sobre las normas que determinan cómo funciona esa ciudad.
José Luis: Sí, sin ninguna duda. Soy un gran partidario de las iniciativas ciudadanas. Creo que son un instrumento poco desplegado y poco aprovechado, y que existe un enorme campo para mejorarlas y desarrollarlas en el futuro.
En parte, esto ha sucedido porque a los poderes públicos no les ha convenido fomentar su uso, pero también por el desconocimiento de la ciudadanía y por una idea falsa que encuentro con frecuencia: muchos ciudadanos creen que, cuando se movilizan para participar, deben tener la última palabra en la decisión. Entienden que participar significa que ellos van a poder decidir.
En algunas ocasiones es así. Si hacemos una consulta vinculante, tendrán poder de decisión. Pero, en muchos otros casos, participar democráticamente significa aportar una determinada cantidad de energía individual a un proyecto colectivo, sin que eso implique automáticamente tomar la decisión final. En una iniciativa ciudadana, por ejemplo, el poder último de decisión permanece en manos de los órganos ordinarios de gobierno, pero eso no reduce el valor democrático de la participación.
Respecto al conflicto que mencionabas antes, el conflicto es el motor de la política democrática. No existe democracia si no hay desacuerdos, perspectivas diversas y sensibilidades diferentes. Cuando enfatizo la importancia del consenso no estoy pensando en una sociedad ideal donde todos pensamos igual. Eso sería un infierno y sería muy poco democrático. La democracia necesita pluralismo, diversidad y, por tanto, conflicto.
En los orígenes de los presupuestos participativos, en Porto Alegre, la idea era que un conjunto relativamente amplio de ciudadanos pudiera reunirse y discutir cómo decidir determinadas partidas de gasto o inversión pública. Disponían de tiempo para examinar propuestas alternativas, dar argumentos e intentar generar el máximo consenso posible, sabiendo que siempre habría personas que no estarían de acuerdo.
Esto se pierde en el modelo de presupuesto participativo «eficiente» que se ha generalizado. Abrimos un espacio en una plataforma virtual, dejamos que la ciudadanía explique por qué deberían votar su propuesta y los demás ciudadanos votan la opción que mejor les parece. Pero votan sin haberse informado realmente, porque es imposible leer todos los proyectos que compiten, y nadie entra a discutir los argumentos a favor y en contra. Al final se convierte en un voto un poco a ciegas, muy impulsivo, que enfatiza la competición en lugar de permitir que los ciudadanos intenten convencerse unos a otros.
La economía de la participación democrática
Olivier: En Palma hubo proyectos ganadores de presupuestos participativos que se ejecutaron, pero resultaron prácticamente inutilizables. ¿No deberíamos implicar a quienes participaron también en el seguimiento y la ejecución? Incluso quienes defendieron proyectos que no ganaron podrían participar en visitas o mecanismos de evaluación, desarrollando capacidades que van más allá de presentar propuestas y votar.
José Luis: Se puede integrar, por supuesto. Hay muchísimo margen de mejora en cómo hacemos seguimiento de los procesos participativos para que no sean algo que sucede durante un día o una semana y después concluye y todo el mundo se olvida. Eso también representa un derroche de recursos públicos. Tenemos que contemplar estos procesos dentro de una perspectiva más amplia, aprender de lo que ya se ha hecho e intentar que los errores que cometamos hoy sirvan para el futuro y no vuelvan a repetirse. Eso implica seguimiento y una implicación continuada de los ciudadanos.
Ahora bien, hay un segundo problema que considero más grave. Los presupuestos participativos terminan discutiendo propuestas que son casi irrelevantes. No son las cuestiones políticamente más importantes para el ayuntamiento ni tampoco las que más preocupan a la ciudadanía. Hay un aspecto que todavía tenemos pendiente de desarrollar si queremos llegar a una verdadera madurez de la democracia participativa: lo que yo llamo la economía de la participación democrática.
La participación democrática se nutre de las energías y de la ilusión de la ciudadanía, y esas energías y esa ilusión son limitadas. Pueden ser mayores o menores y, desde luego, los poderes públicos deberían contribuir a fomentarlas, empezando por las escuelas. Pero siempre serán limitadas y precisamente por eso tenemos que hacer economía de ellas.
Mi miedo es que destinar demasiada energía a proyectos que no son realmente transformadores ayude a construir la caricatura de la democracia participativa: la idea de que la ciudadanía sirve para decidir si debe haber más papeleras, bancos en una plaza o qué especie de árbol plantar, pero no para pronunciarse sobre cuestiones realmente importantes como la crisis de la vivienda, la inmigración, la seguridad, la educación o cualquier otro gran problema.
Por supuesto que debe haber seguimiento. Pero, si mantenemos esta forma tan limitada de entender los presupuestos participativos, casi me parecería peor dedicar todavía más energías a ellos. Creo que deberíamos transformar radicalmente esta manera de entender la participación.
Asambleas ciudadanas: ¿transformación o simulacro?
Olivier: Has mencionado la vivienda, la inmigración y la seguridad, pero no el cambio climático. Muchas asambleas ciudadanas se presentan como soluciones para abordar grandes desafíos, aunque rara vez se atreven con conflictos tan directos como la vivienda o la migración.
Parece más fácil deliberar sobre el cambio climático, que nos afecta de una forma relativamente general y donde el conflicto puede resultar menos inmediato, que abordar cuestiones donde existen intereses claramente enfrentados. ¿No existe un bloqueo político a la hora de definir los mandatos de estas asambleas? Yo preferiría incluso que esos mandatos comenzaran redactándose con las personas directamente afectadas por un problema, en lugar de venir definidos exclusivamente desde las instituciones.
José Luis: Claro. Si organizamos una asamblea ciudadana y planteamos un tema extremadamente abstracto y complejo, de algún modo ya estamos predestinando esa asamblea a producir recomendaciones muy abstractas y genéricas, que no tendrán ningún enemigo claro, pero tampoco contendrán propuestas reales y profundas de transformación.
Por supuesto, el cambio climático es otro problema gravísimo. También lo son la salud global, la lucha contra las pandemias y la regulación de la inteligencia artificial. Todos ellos son temas sobre los que la ciudadanía debería estar pensando a todos los niveles, incluido el municipal.
Lo que ocurre con las asambleas ciudadanas es que se han convertido en una moda. En el sector de la participación he escuchado muchísimas veces a gente defenderlas como la solución a todos nuestros problemas. A mí me parecen un instrumento muy interesante y tienen ventajas claras, pero también inconvenientes. Uno de ellos es que son caras.
Pensemos en la Asamblea Ciudadana por el Clima organizada bajo el auspicio del Gobierno francés, seguramente una de las más caras y complejas que se han organizado. Costó alrededor de cinco millones de euros y sus propuestas no tuvieron seguimiento ni recibieron un retorno significativo por parte del Gobierno. Más allá de la transformación de los participantes individuales, que seguramente cambiaron su visión de la política y de la complejidad democrática—, su impacto real sobre Francia fue prácticamente nulo.
En aquella primera asamblea había existido un compromiso de presentar las propuestas ante la Asamblea Legislativa francesa. Efectivamente, se presentaron, pero no se aprobaron en los términos propuestos ni tuvieron el impacto esperado. Para mí es muy indicativo de que, si no existe un proyecto claro respecto a para qué deben servir las asambleas, terminan siendo una oportunidad perdida.
El conjunto de la sociedad puede observar cómo otros ciudadanos discuten en un determinado contexto y sentirse interpelado por ese proceso para formar también sus propios juicios
En realidad, una de sus grandes ventajas es el potencial que tienen para transformar a la sociedad. El conjunto de la sociedad puede observar cómo otros ciudadanos discuten en un determinado contexto y sentirse interpelado por ese proceso para formar también sus propios juicios. Pero esto depende fundamentalmente de que la asamblea tenga visibilidad, aparezca en televisión, en las redes y la gente sepa siquiera que existe. Y esto rara vez sucede.
Olivier: Creo que también es una cuestión de porosidad: muchas asambleas funcionan como circuitos cerrados y apenas aprovechan las capacidades democráticas adquiridas por sus participantes. En Francia y España algunos se organizaron después de las asambleas climáticas. Nosotros mismos estuvimos involucrados en un intento de federar a antiguos participantes para desarrollar propuestas educativas y actividades regionales que permitieran redimensionar las recomendaciones nacionales.
Me parece que ahí existe una oportunidad enorme. Si ya hemos financiado el proceso, ¿por qué no añadir recursos para que esas personas puedan transmitir lo aprendido a otros ciudadanos? A veces se argumenta que podrían acabar constituyendo una especie de lobby ciudadano, como si eso fuera peligroso. Pero la calidad democrática también debería medirse por esa capacidad de «contaminación democrática»: por cómo las capacidades adquiridas se mantienen y se transmiten.
Además, existe una obsesión institucional por convertir temporalmente a los participantes en pequeños políticos. Los llevamos al Parlamento, a espacios poco propicios para un conflicto creativo, donde predominan las voces de los expertos. Las recomendaciones terminan diferenciándose muy poco de lo que esos mismos expertos presentaron inicialmente. Si hablamos de clima, ¿por qué no hacer también asambleas en los bosques? ¿Por qué reproducir siempre los escenarios y formalidades de la política institucional?
José Luis: Estoy completamente de acuerdo. Una de las grandes defensoras de las asambleas ciudadanas a nivel mundial es Hélène Landemore, profesora de Yale, que ha reflexionado mucho sobre cómo podríamos transformar radicalmente nuestras instituciones democráticas. Precisamente discutí con ella en un panel de la Asociación Americana de Ciencia Política sobre esta idea de extender o proliferar las asambleas ciudadanas hasta el punto de reducir o incluso eliminar las elecciones, los partidos políticos y los políticos profesionales.
Pero el contrasentido, y es exactamente el punto que tú acabas de señalar, es que acabamos convirtiendo a esos ciudadanos en políticos. Es verdad que han sido seleccionados por sorteo y que no han tenido que presentarse a unas elecciones, hacer campaña ni disponer de los recursos que eso implica. A priori son ciudadanos de a pie, como cualquiera que participa en un jurado popular. Pero, si después permanecen cuatro años como miembros de un Parlamento, convertidos en diputados, los estamos convirtiendo en políticos.
Y esto me parece un contrasentido, porque lo que deberíamos defender desde la democracia participativa es precisamente que todos los ciudadanos —en esos bosques de los que hablabas, en las plazas, las calles o los bares— tengamos voz. No que un porcentaje minúsculo sea elegido por sorteo y, de pronto, se convierta en político durante un periodo determinado.
Inteligencia artificial: ¿eficiencia para qué?
Cristian: Pasemos a la IA. Cada vez tenemos más argumentos, conocimientos y experiencias procedentes de procesos participativos, y la IA podría ayudarnos a recuperarlos, sintetizarlos y hacer visibles conflictos que de otra manera quedarían dispersos. Pero también puede competir precisamente con algunas de las capacidades que queremos que desarrollen los ciudadanos. Cristian, te dejo la pregunta sobre el papel de la IA en la deliberación.
Si agentes artificiales deliberan para superar las limitaciones humanas, especialmente nuestra atención limitada, ¿no estamos intentando resolver un problema que quizá es imposible o incluso indeseable resolver?
Nuestra atención es un cuello de botella de cualquier proceso participativo, pero también forma parte constitutiva de nuestra experiencia democrática. Somos seres limitados, imperfectos, incapaces de procesarlo todo. ¿No se basa la democracia precisamente, en cierto sentido, en esa imperfección? Si una herramienta multiplica nuestras capacidades hasta superarlas, ¿no estaríamos hablando de algo distinto de la democracia?
José Luis: La IA ya es hoy tan buena —y seguramente lo será todavía más en los próximos años— que nos confronta con preguntas muy profundas sobre la esencia de la democracia y la propia esencia humana. Mi actitud general es que debemos aprovecharla al máximo, porque es una herramienta extraordinariamente potente. Ahora bien, tenemos que aprovecharla en la dirección correcta.
Los humanos somos ineficientes. Tenemos miles de ineficiencias psicológicas, de información y de motivación. Somos imperfectos, siempre lo hemos sido y siempre lo seremos, haya IA o no. Poner el acento en la eficiencia está bien, pero, si nos tomamos realmente en serio esa noción, la pregunta inmediata es: ¿eficiencia para qué? La eficiencia no es más que una relación entre medios y fines. Antes tenemos que determinar correctamente cuáles son los fines.
A mí no me interesa —y, de hecho, me parecería una distopía y claramente el camino equivocado— una pseudodemocracia en la que aparentemente gobernamos para satisfacer los intereses o las preferencias de la gente, pero lo hacemos sin la gente. Eso me parece una contradicción desde el punto de vista de la teoría democrática clásica. La democracia tiene que contar con la gente. Es el gobierno del pueblo, por más imperfecto que sea ese pueblo.
Tenemos que recordar los valores que justifican la democracia: la autonomía y la igualdad de la ciudadanía. Libertad para participar uno mismo en el gobierno colectivo e igualdad para realizar esa participación en un contexto de igualdad efectiva. Incluso aunque un gobierno de inteligencia artificial fuera más eficiente en muchos aspectos, eso no significa que fuera mejor.
El riesgo que veo hoy es que la IA puede llevarnos a obsesionarnos con la eficiencia y la posibilidad de superar algunos problemas clásicos de la democracia. Uno de ellos es la escala. Experimentos como Habermolt pretenden resolver el problema de cómo escalar masivamente la participación y la deliberación mediante agentes artificiales.
Pero la pregunta es: ¿para qué queremos escalar? Si conseguimos un sistema masivo que pierde el contacto con la ciudadanía y deja de ser el gobierno de la ciudadanía, entonces sí, habremos escalado, pero ya no tendremos democracia. Si lo único que nos preocupa es agregar preferencias y gobernar eficientemente, ni siquiera necesitábamos la democracia: para eso ya tenemos las dictaduras.
Habermolt y la democracia de las langostas
Olivier: Me encantó el título de tu artículo con Beth Simone Noveck In Lobsters We Trust — or We Don’t Trust. ¿Puedes explicar la metáfora de la langosta y de su caparazón? ¿Qué tiene que ver con la democracia? Nosotros usamos mucho el pulpo como metáfora, con sus distintos brazos ciudadanos. ¿Cuál sería el animal contrario a la langosta?
José Luis: Habermolt es un spin-off de un experimento previo llamado Habermas Machine. En ambos utilizan el nombre de Habermas, equivocadamente, de hecho. Habermas tuvo tiempo de responder al primer uso de su nombre y advertir que el proyecto tenía muy poco de habermasiano y, en algunos sentidos, era incluso contrario a Habermas.
Habermolt mantiene «Habermas» y añade molt, la palabra inglesa que hace referencia a la muda del caparazón de algunos animales, en particular de las langostas. Para seguir creciendo, la langosta tiene que deshacerse de su caparazón y sustituirlo por otro mayor. Esa es la metáfora de su scaling up democrático: para construir una democracia a escala masiva tendríamos que deshacernos del pequeño caparazón de la democracia que hemos conocido hasta ahora y pasar a utilizar uno mayor.
La agregación permite escalar fácilmente. Puedes hacer unas elecciones entre diez millones de personas, cien millones o mil millones; la mecánica es la misma. Con la deliberación ocurre justamente lo contrario. Para que funcione realmente bien necesitas grupos de diez o doce personas. Las asambleas deliberativas con ochenta o cien personas ya funcionan peor desde el punto de vista estrictamente deliberativo.
Ellos creen que la «democracia de langostas», gracias a los agentes de inteligencia artificial, puede agregar y deliberar a una escala prácticamente ilimitada. Los agentes pueden deliberar entre ellos veinticuatro horas al día, siete días a la semana. Esa es la metáfora que utilizan.
Olivier: Sería entonces una especie de lobster carnívoro que acaba comiéndose a las pequeñas gambitas de la paella, que serían los ciudadanos deliberando en pequeñas asambleas.
José Luis: Totalmente. No sé exactamente cuál sería la metáfora contraria, pero creo que la democracia debería verse más bien como alguna especie animal que funcione mediante un enjambre, un colectivo o una red. Ya sabes que ha proliferado bastante la metáfora de la democracia de las abejas, precisamente por la inteligencia colectiva de un panal. Algo así tendría más sentido, aunque tampoco me entusiasme particularmente esa metáfora. En todo caso, tendría que ser algo más colectivo y no una langosta que va sola por el mar, a la suya.
Las preferencias no están dadas: se construyen deliberando
Cristian: Volviendo a la filosofía política, ¿cuál es la distancia entre las preferencias de las personas y su legítima representación política? El experimento pretende escalar la deliberación a partir de preferencias individuales. Pero ¿se reduce representar a alguien a reproducir sus preferencias o existe algo más?
José Luis: Claro. Ese es uno de los núcleos del problema. Cuando empecé mi tesis doctoral, a finales de los años noventa, uno de los puntos centrales del debate sobre democracia deliberativa era precisamente este: ¿qué son las preferencias?
Durante mucho tiempo predominó una manera de pensar la democracia influida por Schumpeter, Downs y distintos economistas. Podríamos llamarla un modelo económico de la democracia. Veía las elecciones como una forma de arbitrar desacuerdos y generar competencia entre élites, dejando que la ciudadanía, como consumidora última, eligiera el paquete político más adecuado para sus intereses.
Todos estos modelos llevaban implícita una premisa: que los ciudadanos tenemos un conjunto de preferencias políticas y vitales que ya están dadas, como si hubieran sido previamente generadas. Era una manera muy simplista de pensar la política, porque partía de una premisa falsa: las personas no tenemos un paquete de preferencias previamente identificado e inamovible. Las preferencias cambian y, sobre todo, se conforman en el debate y en la contraposición con los demás.
Todas mis opiniones, aunque sea entre comillas un «experto» en política democrática, son provisionales. Las termino de conformar discutiendo con los demás, que pueden ser otros expertos o ciudadanos con una mirada más fresca y menos prejuiciosa. Nadie dispone de información perfecta ni ha reflexionado sobre todos los temas. La deliberación nos permite contrastar lo que creemos saber y, en ocasiones, modificarlo.
Y no se trata únicamente de preferencias, sino también de creencias respecto a los valores que debemos proteger. Yo no tengo simplemente una «preferencia» por un mundo donde se respeten los derechos humanos. Creo que ese mundo es mejor. No es una preferencia en el mismo sentido en que puedo preferir el helado de vainilla. Es otra cosa.
Por eso la deliberación transforma preferencias; no se limita a agregarlas. Algunos experimentos de inteligencia artificial están recuperando errores que la teoría democrática diagnosticó y criticó hace décadas, ignorando precisamente el desarrollo del paradigma deliberativo.
Pensemos en los políticos que gobiernan mediante encuestas, intentando descubrir cuáles son las preferencias de la ciudadanía. La inteligencia artificial permite convertir esa técnica en algo muchísimo más eficiente, preciso y riguroso, pero sigue siendo una técnica de encuesta: observar cómo reacciona la gente ante una pregunta.
Con inteligencia artificial y relativamente pocas interacciones puedo descubrir, e incluso predecir, cuál será la respuesta que dará una persona. Pero ¿qué valor tiene saber lo que responderá impulsivamente?
Puedo preguntar si deberíamos bajar la edad electoral de dieciocho a dieciséis años, introducir un impuesto especial a los ricos o prohibir los coches de combustión. Con inteligencia artificial y relativamente pocas interacciones puedo descubrir, e incluso predecir, cuál será la respuesta que dará una persona. Pero ¿qué valor tiene saber lo que responderá impulsivamente?
Lo que tiene verdadero valor democrático es saber qué pensaría la gente después de haber reflexionado, deliberado y confrontado su visión con la de los demás. Eso es lo importante, no simplemente conocer la respuesta que daría a una encuesta.
El falso consenso y la subordinación a la inteligencia artificial
Cristian: No quería terminar sin entrar en otro de los núcleos —quizá incluso el corazón— de todo esto: la gestión del disenso y del desacuerdo, o la manera en la que alcanzamos acuerdos y consensos.
En Habermolt la IA agrega preferencias y produce formulaciones aparentemente consensuales que después revisan los usuarios. Si utilizamos esa herramienta para multiplicar nuestras posibilidades deliberativas, pero la decisión final sigue siendo humana, ¿se salva el experimento?
José Luis: No, para nada. Creo que esa es la dirección equivocada. La buena dirección de la investigación en inteligencia artificial es desarrollar algoritmos y herramientas que nos ayuden a los seres humanos a desarrollar nuestra propia inteligencia, tanto individual como colectiva.
Hay muchos ejemplos. Estoy involucrado en un proyecto para desarrollar algoritmos que ayuden a personas con discapacidad cognitiva a participar en procesos deliberativos: les permiten comprender lo que dicen los demás y expresarse mejor. Eso es la IA como ayuda. Y ahí prácticamente no existen fronteras. Podemos avanzar hacia una inclusión efectiva de todas las personas en procesos deliberativos e incluso hacer posible una deliberación simultánea entre millones de personas gracias a la capacidad de síntesis y presentación de argumentos de la inteligencia artificial. La cuestión es ampliar las capacidades democráticas humanas, no sustituirlas.
El camino equivocado es cualquier experimento que borre del mapa a los seres humanos. Y eso es lo que hace Habermolt. Uno de los rasgos esenciales de la deliberación es que yo delibero contigo: tú piensas A y yo pienso B. Nos explicamos mutuamente por qué pensamos lo que pensamos y estamos abiertos a convencernos. Si me presentas un buen argumento, puedo llegar a convencerme de que tienes razón. Y viceversa.
Para que una deliberación entre agentes de IA fuera genuina, tendrían que poder dejarse convencer ante una buena razón. Pero si un agente cambia sus instrucciones porque se ha dejado convencer, ya no está representando lo que piensa el ciudadano al que supuestamente representa. Ahí hay un problema fundamental en la propia concepción de la deliberación.
Después está la cuestión de cómo construir acuerdos sobre la base de declaraciones supuestamente más consensuales. Veo dos grandes problemas. El primero es muy básico: tú piensas A y yo pienso B. Los dos podemos estar de acuerdo con un statement que diga «A o B». Pero no hemos resuelto absolutamente nada. No hemos llegado a ningún acuerdo real; simplemente hemos dado nuestra aprobación a una formulación que reconstruye nuestro desacuerdo.
La herramienta puede generar statements que, mediante pequeños cambios de palabras, reformulando una frase o introduciendo matices, obtengan una aprobación más amplia. Pero ¿ha resuelto eso el desacuerdo previo entre los ciudadanos? No. Ha encontrado una manera de enmascararlo. En ese sentido, el consenso es fake.
Existen aplicaciones virtuosas de algo parecido. Las constituciones generan artículos suficientemente abstractos para producir acuerdos, incluso acuerdos aparentes, entre la ciudadanía. Lo que hacemos ahí es posponer la gestión del conflicto al legislativo o al poder judicial, que acaba determinando cómo interpretar esos principios generales. Puede ser un mecanismo virtuoso porque en política necesitamos cierta estabilidad institucional. Pero tenemos que ser conscientes de que no estamos resolviendo el conflicto, sino enmascarando el desacuerdo o posponiendo su gestión.
El segundo problema tiene que ver con cuestiones epistémicas. Cualquier persona que utilice ChatGPT, Gemini, Claude u otros modelos de lenguaje puede entender a qué me refiero. Si me dicen que una herramienta es extraordinariamente potente y genera buenas respuestas, aunque yo tenga dudas sobre la formulación que propone, estaré predispuesto a votar a favor. Cuanto más confíe en su capacidad, mayor será esa predisposición.
Si consulto una herramienta sobre un tema en el que no soy experto y todo el mundo me asegura que funciona extraordinariamente bien, tengo razones para pensar que probablemente sabe más que yo. Mi reacción será confiar en ella, salvo que produzca algo que me parezca claramente inaceptable. No resulta extraño, entonces, que los participantes de estos experimentos terminen aprobando las formulaciones de los agentes artificiales. Existe un sesgo favorable a la herramienta.
Esto genera una discontinuidad epistémica entre el ser humano y la inteligencia artificial que, en último término, es insalvable. Algo parecido ocurre en la democracia representativa: puedo pensar que mi representante sabe más que yo porque dedica su tiempo a estudiar los problemas. Pero existe una premisa fundamental: si yo dedicara suficiente tiempo, esfuerzo y aprendizaje a examinar las mismas cuestiones, podría llegar a discutir con ese representante si lo que ha hecho está bien o mal.
Es lo mismo que ocurre cuando voy al médico. El médico sabe más medicina que yo porque ha dedicado su vida a estudiarla y por eso me pongo en sus manos. Pero lo hago bajo la premisa de que, si dedicara suficiente tiempo a estudiar medicina, podría llegar a comprender las decisiones que está tomando.
Cuando el representante es un agente de inteligencia artificial, se genera una distancia diferente. Por mucho tiempo y esfuerzo que dedique, no existe una posibilidad real de llegar a comprender toda la complejidad del «razonamiento» que ha llevado al agente a proponer una determinada solución. Esa separación epistémica acaba situándonos en una subordinación prácticamente total.
En ese mundo podría tener sentido que nosotros delegáramos en el juicio de la inteligencia artificial. Pero, si llegamos a ese punto, ya no podemos hablar de democracia. Estaríamos delegando nuestro poder de gobierno en esas herramientas y nos estaríamos borrando a nosotros mismos de la fotografía.
