Hypothesis
El reto democrático de la inteligencia artificial no consiste solamente en hacer la participación más eficiente. Consiste en decidir qué funciones queremos que desempeñe, desde qué conocimientos habla y de qué manera puede complementar sin sustituir las voces, el juicio y la responsabilidad de quienes deliberan.
GRID nace de esa pregunta. Explora si una IA situada y polifónica puede ampliar nuestra capacidad de interrogación y deliberación cuando se utiliza de forma colectiva dentro de un escenario real de debate. No pretende resolver el desacuerdo, sino hacerlo más visible, más discutible y más habitable.
Tres preguntas clave
¿Desde dónde habla una IA cuando parece hablar desde “ningún lugar”? ¿Y qué ocurre si, en lugar de ocultar esa posición, la hacemos explícita?
- ¿Es posible hacer explícito el lugar desde donde "habla" una IA?
- ¿Es posible diseñar un sistema que conserve aquello que hace políticamente productiva una conversación: la pregunta incómoda, la contradicción, la posición minoritaria, la experiencia difícil de traducir?
- ¿Podemos hacer explícitos y discutibles los valores que introducimos en un agente?
Story of me: ¿Por qué creemos que esta cuestión es relevante?
La IA ya está entrando en la infraestructura de la participación democrática. La OCDE identifica nueve familias de aplicaciones: desde la traducción y la transcripción hasta la facilitación, la simulación y la arquitectura de procesos, pero insiste en que su adopción debe preservar valores democráticos, transparencia, protección del espacio cívico y participación ciudadana en la gobernanza de estos sistemas.
Desde la teoría de la deliberación, Rountree y Gastil plantean una advertencia similar: la IA puede servir como herramienta de deliberation-making, pero no debe convertirse en una herramienta de decisión ni sustituir el encuentro entre personas. Simular la deliberación humana para evitarla sería, en su formulación, un atajo antidemocrático.
GRID se coloca deliberadamente en ese límite. No quiere decidir cómo termina una conversación, sino permitirnos estudiar cómo cambia cuando introducimos dentro de ella una determinada máquina. La pregunta no es solo si la IA puede ayudar a deliberar, sino si podemos convertir su propia mediación en objeto de deliberación.
La investigación de Jäske y sus colegas sobre la Asamblea Ciudadana sobre Energía de Finlandia ofrece una pista importante. El mismo modelo resultó útil para organizar y sintetizar materiales, pero perdió detalles y parte del filo crítico cuando tuvo que formular preguntas para personas expertas. La conclusión es clara: no tiene sentido evaluar “la IA” en abstracto. Hay que observar qué función desempeña, qué valores deliberativos están en juego y qué efectos produce en cada punto del proceso.
Para GRID, esto se traduce en un protocolo experimental. Más que preguntar si un agente ofrece una respuesta “buena”, nos interesa observar si distintos agentes recuperan conocimientos y argumentos realmente diferentes; qué preguntas, conflictos o posiciones desaparecen cuando el sistema resume y sintetiza; cómo cambia la interpretación de quien participa; en qué momento la asistencia se convierte en sustitución; y si una persona puede identificar, cuestionar y modificar el corpus, las instrucciones y las decisiones de mediación que han dado forma a una respuesta.
Ese último punto es decisivo. Pequeñas decisiones de prompting pueden reducir la complejidad y el carácter crítico de una aportación. Por eso GRID entiende la transparencia no como un requisito técnico, sino como una condición política.
Contra la Habermas Machine: no automatizar el consenso
GRID adopta una posición deliberadamente distinta de la Habermas Machine, el experimento desarrollado por Google DeepMind. No porque encontrar puntos de acuerdo carezca de valor, sino porque nos interesa preguntarnos qué ocurre cuando el acuerdo se convierte en el objetivo que la propia máquina está diseñada para optimizar.
La Habermas Machine recibe las posiciones de un grupo y produce formulaciones colectivas sucesivas, buscando aquellas que obtienen mayor aprobación. Sus experimentos muestran que esas formulaciones pueden percibirse como más claras, informativas y aceptables que las elaboradas por mediadores humanos, y que pueden aumentar la convergencia entre participantes.
GRID parte de la hipótesis contraria. No queremos construir una máquina que encuentre la mejor formulación del consenso, sino una máquina que permita observar qué ocurre con el desacuerdo cuando una IA interviene. Por eso su arquitectura introduce perspectivas diferentes, Joker, Filósofo y Deliberator, y una capa de autoconciencia capaz de cuestionar las operaciones de las otras tres. El objetivo no es que terminen diciendo lo mismo, sino comprobar cuándo ven cosas distintas, qué conocimientos movilizan, qué experiencias dejan fuera y qué sucede cuando esas diferencias vuelven a ponerse delante de las personas participantes.
La diferencia también afecta al lugar donde reside la autoridad. En la Habermas Machine, la IA propone una formulación colectiva cada vez más aceptable. En GRID, cualquier síntesis debería poder ser interrumpida, discutida, rechazada o reescrita por el colectivo. La IA no determina cuándo se ha alcanzado suficiente acuerdo ni qué desacuerdos son prescindibles. Esas siguen siendo cuestiones políticas.
La Habermas Machine pregunta: “¿qué formulación puede reunirnos?” GRID pregunta: “¿qué hace esta máquina para producir esa formulación, qué deja fuera y quién puede discutirlo?”
GRID no aspira a una inteligencia artificial sin sesgos ni a una democracia neutral. Quiere construir un dispositivo en el que sea posible observar, comparar y discutir qué conocimientos, criterios, exclusiones y concepciones de democracia entran en juego cuando una IA participa en la producción de sentido.
Story of us: Datos objetivos que respaldan la idea
La cuestión que plantea GRID ya no pertenece a la especulación. El informe Artificial Intelligence and the Future of Citizen Participation, publicado por la OCDE junto a Bertelsmann Stiftung, analiza cincuenta casos de uso de IA en procesos participativos de veintidós países. A partir de ellos identifica nueve grandes tipos de aplicación: producción de información, sense-making, traducción, transcripción, asistencia virtual, moderación, facilitación, simulación y arquitectura de procesos participativos.
Algunas de estas funciones ya están extendidas: interpretar y organizar grandes volúmenes de contribuciones ciudadanas, acompañar a participantes mediante interfaces conversacionales o reducir barreras lingüísticas mediante traducción. Los procesos deliberativos aparecen, además, como uno de los principales espacios de experimentación. El debate ya no es si la IA llegará a mediar procesos democráticos, sino qué funciones queremos delegarle y bajo qué condiciones.
Hay experimentos que desplazan aún más la pregunta: no solo qué puede hacer una IA, sino desde dónde habla. En España, Afroféminas ha desarrollado proyectos especialmente sugerentes. Su GPT Socrático no se limita a dar respuestas: devuelve preguntas y convierte la conversación en un ejercicio de pensamiento crítico. Salud Negra IA construye un agente alrededor de un campo concreto: la salud de las mujeres negras, desde una posición explícitamente antirracista y afrofeminista.
Estos casos hacen visible algo que normalmente queda oculto tras la interfaz: una IA no tiene por qué aspirar a hablar desde un conocimiento universal. Puede declarar desde qué corpus, qué posición epistemológica y qué comunidad de problemas ha sido construida. La cuestión deja de ser únicamente qué modelo utilizamos para incluir quién selecciona el conocimiento, qué queda fuera y qué responsabilidad humana existe detrás de esa selección.
Los beneficios potenciales son reales: reducir costes, ampliar la accesibilidad, sintetizar miles de aportaciones o sostener procesos que de otro modo serían difíciles de gestionar. Pero la misma literatura introduce un límite político fundamental: la IA no puede sustituir la voluntad política de tomar en serio la perspectiva ciudadana, la decisión democrática ni la responsabilidad humana.
Tampoco las personas artificiales deberían emplearse como sustitutos de la participación de comunidades vulnerables o marginadas. Una simulación sigue siendo una construcción del modelo, y convertirla en representación política puede profundizar precisamente la ausencia que se pretendía corregir. Describir a un colectivo no equivale a representarlo democráticamente.
Por eso, en GRID el Joker no representa a “los oprimidos”, el Filósofo no representa a “los filósofos” y el Deliberator no representa a “la ciudadanía razonable”. No son personas sintéticas llamadas a ocupar el lugar de colectivos ausentes. Son posiciones metodológicas y epistemológicas: maneras distintas de formular preguntas, interpretar una situación y orientar una intervención.
Story of now: ¿Cómo damos respuesta desde la Fundación?
Una arquitectura polifónica y situada
La arquitectura de GRID parte de una pregunta concreta: ¿qué ocurre si, en lugar de pedir a una única IA que adopte la voz aparentemente neutral de “el facilitador”, mantenemos dentro del sistema distintas maneras humanas de mirar, preguntar y acompañar una deliberación?
Detrás de las personalidades de GRID no hay solo prompts. Hay personas, prácticas y comunidades concretas. El Filósofo se construye en diálogo con Cristian Palazzi, responsable de incidencia en Platoniq y doctor en Filosofía. El Joker recoge aprendizajes vinculados a Katy Rubin, discípula de Augusto Boal y experta en Teatro Legislativo, y a Olivier Schulbaum, director estratégico de Platoniq. El Deliberator nace del trabajo colectivo de los partners del proyecto europeo INSPIRE.
Esto no significa crear avatares digitales de esas personas ni hablar en su nombre. Significa reconocer que cada personalidad tiene una genealogía humana: alguien formuló antes esas preguntas, desarrolló determinadas prácticas y tomó decisiones sobre qué significa facilitar, interpretar o intervenir. Una arquitectura situada debería poder responder a la pregunta: ¿quién está detrás de la manera en que esta máquina me devuelve el problema?
El Joker es la personalidad más práctica, provocadora y escénica. Mira los problemas como relaciones de poder que pueden hacerse visibles, representarse y transformarse mediante intervención colectiva. No se limita a explicar una situación: pregunta qué escena la muestra, quién puede actuar, qué reglas o instituciones la sostienen y qué podría ensayarse de otra manera. Su función es perturbar consensos demasiado fáciles e introducir imaginación democrática.
El Filósofo es la personalidad conceptual e interpretativa. Antes de aceptar una pregunta tal como llega, examina sus supuestos: qué idea de democracia contiene, qué entiende por poder, qué conocimiento considera válido, qué sujeto imagina y qué voces quedan fuera. Trabaja con genealogías, teoría crítica, pensamiento poscolonial y decolonial, feminismos y epistemologías situadas. No busca cerrar rápidamente un problema, sino hacerlo más preciso y mostrar lo que una respuesta evidente podría estar ocultando.
El Deliberator tiene una genealogía deliberadamente colectiva. Procede del aprendizaje acumulado por organizaciones, facilitadores, participantes y partners de INSPIRE. Se ocupa de cómo organizar una conversación democrática para que la pluralidad pueda convertirse en pensamiento y acción colectivos: quién participa y quién falta, cómo se distribuye la palabra, qué información necesita el grupo, qué barreras existen y qué relación tendrá la deliberación con decisiones reales.
A estas tres personalidades se añade una capa de autoconciencia. No es una cuarta voz al mismo nivel, sino una vigilancia crítica transversal que pregunta también hacia dentro: ¿por qué GRID está mirando el problema de esta manera? Obliga al sistema a reconocer qué conocimiento privilegia, qué relaciones de poder puede normalizar, qué experiencia convierte en “dato”, qué conflicto suaviza y qué voces siguen ausentes.
Hacer visibles a las personas detrás de las personalidades no elimina el sesgo: lo vuelve trazable y discutible. La polifonía de GRID no pretende demostrar que juntando suficientes perspectivas alcanzaremos una visión completa. Pretende algo más modesto y, quizá, más útil: mantener visibles varias posiciones, mostrar de dónde proceden y permitir que quienes participan puedan elegirlas, contrastarlas, cuestionarlas o decidir que ninguna es suficiente.
La elaboración del corpus
Buena parte de la conversación sobre IA y participación se concentra en cómo usar esta tecnología para ampliar la escala, reducir costes, sintetizar aportaciones o acelerar procesos colectivos. GRID plantea otra pregunta: ¿cómo se alimenta una IA, y qué diferencia produce esa alimentación en lo que puede ver y decir?
Ya hemos empezado a ver empresas cuyo modelo de negocio es precisamente ofrecer a las compañías tecnológicas bases de datos limpios, en materia de seguridad, salud, leyes o cultura general. Sobre este último tema ha surgido ya una polémica que debería preocuparnos. Según las últimas investigaciones, Anthropic ha desguazado más de dos millones de ejemplares con la intención de su modelo de IA aprenda a escribir mejor. ¿Estamos ante la paulatina desaparición de los fondos libreros que alimentan las tiendas de segunda mano, las bibliotecas de barrio o las investigaciones para tesis doctorales? El tiempo lo dirá, pero lo que es seguro es que, una vez más, la concepción depredadora de los modelos actuales parece insostenible a largo plazo.
El corpus de GRID parte de una base de datos offline de libros en PDF acumulada durante más de veinte años. Contiene actualmente 6.328 ítems, de los cuales GRID utiliza 97 referencias seleccionadas de acuerdo con los valores de la democracia deliberativa.
Esas referencias se organizan en dos grandes familias epistemológicas. La primera reúne el Teatro Legislativo: canon, metodologías y casos vinculados al Teatro del Oprimido, la facilitación, la participación performativa, el conflicto, la experiencia encarnada y la traducción de experiencias colectivas hacia la acción política. La segunda reúne la filosofía política y crítica, la teoría poscolonial y decolonial, los feminismos, la pedagogía crítica, las teorías del poder, la representación y la epistemología.
El material se organiza en tres “estanterías”: Canon, para marcos teóricos y normativos; Métodos, para procedimientos y herramientas; y Casos, para experiencias situadas y evidencia práctica. El canon sirve para interpretar; los métodos, para pasar de las ideas a dispositivos concretos; los casos, para contrastar qué ocurrió cuando esas metodologías se pusieron en práctica.
Técnicamente, GRID no “lee todo el corpus” ni elige una referencia por su fama. Mediante recuperación semántica —RAG— busca los fragmentos con mayor proximidad conceptual a la pregunta y construye la respuesta a partir de ellos. El recorrido es sencillo: pregunta, búsqueda de fragmentos relevantes, selección y generación fundamentada.
Pero esa operación nunca es neutra. El corpus consultado, las categorías utilizadas, los problemas reconocidos y las soluciones consideradas plausibles condicionan aquello que GRID puede hacer visible. Una misma situación puede aparecer como un problema de consenso, de diseño institucional, de desigualdad estructural o de conflicto político según el marco desde el que se interprete. El conocimiento con el que construimos un agente no es solo contenido: es también una infraestructura de interpretación.
La voz del colectivo y su interacción con GRID
La arquitectura de GRID parte de una distinción fundamental: la voz del colectivo no es algo que la IA pueda generar por sí sola. La pregunta es, más bien, cómo puede GRID servir de herramienta a esa voz.
En las metodologías que alimentan su corpus, el conocimiento colectivo emerge de la interacción entre experiencias situadas, desacuerdos, cuerpos, relatos y posibilidades de acción. En Teatro Legislativo, las personas dejan de ser audiencia para convertirse en spect-actors: intervienen, prueban estrategias y producen conocimiento a partir de situaciones que les afectan. La participación adquiere especial valor cuando las personas afectadas no son tratadas como fuentes de información, sino como co-creadoras capaces de transformar experiencia vivida en lenguaje y acción política.
GRID se relaciona con esa voz como interlocutora y facilitadora, no como representante. Ante las aportaciones de un grupo, puede recuperar conceptos, casos o métodos relevantes; señalar tensiones y perspectivas ausentes; o devolver interpretaciones distintas desde el Joker, el Filósofo y el Deliberator. Pero esas devoluciones permanecen abiertas a ser corregidas, rechazadas o reformuladas por quienes participan.
El ciclo podría describirse así: el colectivo aporta experiencia y formula el problema; GRID devuelve diferentes lecturas fundamentadas y trazables; el colectivo las contrasta, discute y modifica; y la síntesis final vuelve al colectivo. GRID no intenta hablar con la voz del colectivo, sino crear condiciones para que este pueda escuchar, contrastar y elaborar mejor sus propias voces.
Su función no es producir consenso automáticamente, sino devolver diferencias de forma suficientemente visible para que puedan ser interrogadas: qué interpretación nos resulta útil, cuál no nos representa, qué experiencia falta y qué deberíamos preguntar a quienes no están presentes. La autoridad sobre el significado y sobre cualquier decisión posterior permanece en las personas participantes.
Del corazón de la bestia al radical server
Hay todavía una capa de la infraestructura que queremos hacer visible: dónde ocurre materialmente la inteligencia artificial que utilizamos.
Platoniq trabaja desde una tradición de experimentación cívica y tecnológica. Sus proyectos no suelen partir de una solución cerrada, sino de una pregunta que se pone a prueba en situación real: ¿qué herramientas necesita una comunidad para entenderse, decidir y actuar? GRID se inscribe en esa manera de hacer. No es un producto terminado ni una demostración de capacidades técnicas, sino un dispositivo de investigación que se construye mientras se utiliza, se observa, se corrige y se discute con quienes participan.
Por eso la primera versión de GRID se ha desarrollado deliberadamente en el corazón de la bestia: ChatGPT. Esta decisión nos permite trabajar con modelos extremadamente capaces, rápidos y continuamente actualizados, sin tener que construir desde cero la enorme infraestructura computacional que los hace posibles. Nos concentra en aquello que realmente queremos experimentar: el corpus, las personalidades, las reglas de recuperación, la trazabilidad de las fuentes y la relación entre inteligencia artificial y deliberación.
Pero esa comodidad introduce una dependencia fundamental. Aunque decidamos qué documentos consulta GRID, cómo organizamos el corpus o qué instrucciones damos al agente, el motor que realiza la inferencia sigue fuera de nuestro control. No decidimos cómo ha sido entrenado el modelo base, qué actualizaciones recibe ni qué transformaciones puede sufrir. Controlamos una parte de la epistemología de GRID, pero no toda su infraestructura.
Esta tensión no es un obstáculo: es parte del experimento. Nos obliga a preguntarnos hasta dónde puede llegar una herramienta deliberativa cuando su capacidad depende de una infraestructura remota, propietaria y en constante movimiento.
En paralelo, desarrollamos una segunda arquitectura que llamamos radical server. La idea es llevar el experimento en la dirección opuesta: reducir radicalmente la infraestructura necesaria hasta intentar ejecutar el sistema en hardware cotidiano bajo nuestro control; en nuestro caso, el procesador de una televisión.
No se trata de construir un ChatGPT pequeño ni de competir con OpenAI en capacidad general. La pregunta es otra: ¿cuánta inteligencia necesitamos realmente para facilitar una conversación democrática situada? Un modelo gigantesco está diseñado para responder a millones de personas sobre prácticamente cualquier tema. GRID tiene una tarea mucho más limitada: recuperar un corpus concreto, interpretar una pregunta desde determinadas perspectivas, contrastar marcos y devolver materiales útiles para una deliberación.
El radical server explora si, al reducir el universo de conocimiento y hacer explícitas las reglas con las que ese conocimiento se moviliza, podemos reducir también la cantidad de computación, energía y dependencia tecnológica necesarias. No busca saberlo todo, sino saber dónde buscar, reconocer los límites de aquello que contiene y trabajar intensamente con un archivo seleccionado y gobernado por la comunidad que lo utiliza.
Esta segunda vía también forma parte del método experimental de Platoniq: prototipar en condiciones reales, aceptar limitaciones y convertirlas en preguntas. Un modelo local puede ser menos capaz, más lento o cometer errores distintos. Pero puede abrir la posibilidad de infraestructuras deliberativas que no envíen continuamente las conversaciones a grandes centros de datos y que puedan funcionar en centros comunitarios, escuelas, bibliotecas o espacios con conectividad limitada.
Tampoco queremos romantizar lo local. Descentralizar la infraestructura no elimina el poder: desplaza el lugar en el que ese poder debe ser discutido. Habrá que decidir quién mantiene el modelo, quién selecciona el corpus, quién puede modificarlo, cómo se actualiza y cómo se hacen visibles sus límites.
ChatGPT funciona como laboratorio de máxima capacidad: nos permite descubrir rápidamente qué puede llegar a hacer GRID. El radical server funciona como laboratorio de mínima infraestructura: nos obliga a preguntarnos cuál es la cantidad mínima de modelo, energía, datos y dependencia tecnológica necesaria para producir una herramienta deliberativa útil.
La tensión entre ambos prototipos es, en sí misma, el experimento. No buscamos únicamente comparar rendimiento, sino investigar algo más político: qué tipo de inteligencia artificial puede existir cuando la escala, la propiedad de la infraestructura y los límites del conocimiento se convierten también en decisiones democráticas.
Call To Action
La cuestión quizá no sea si la IA puede deliberar como nosotros. La cuestión es si somos capaces de ver, comparar y discutir colectivamente cómo está interviniendo en nuestra manera de deliberar.
Queremos poner GRID a prueba en contextos reales de deliberación. Si trabajas en participación, facilitación, investigación democrática o gobernanza de IA, nos interesa explorar contigo cómo evaluar qué hace visible y qué oculta cada forma de mediación, qué cambia al introducir distintos corpus o arquitecturas y dónde debería permanecer la frontera entre asistencia y decisión humana.
En lugar de construir un único agente que aspire a saberlo todo, queremos experimentar con una ecología de agentes parciales, trazables y potencialmente contradictorios: sistemas capaces de declarar desde qué corpus hablan, mostrar sus diferencias y convertir esas diferencias en material para la deliberación.
¿Te sumas?
