Hay algo profundamente humano en no saber qué queremos. En necesitar tiempo para descubrirlo, equivocarnos al explicarlo y encontrar en la mirada de otro una respuesta que no esperábamos. Buena parte de lo que somos se construye así, entre deseos que no terminamos de comprender y personas que nunca llegan a conocernos del todo. Quizás por eso necesitamos tanto a los demás. No para que confirmen lo que ya sabemos, sino para descubrir aquello que todavía ignoramos de nosotros mismos.
Resulta curioso que hayamos dedicado tantos esfuerzos a corregir esta imperfección. Construimos tecnologías capaces de anticipar nuestras necesidades, interpretar nuestras emociones y ofrecernos compañía sin exigir reciprocidad. Como si el principal problema de las relaciones humanas fuera precisamente su incapacidad para satisfacernos. Qué tranquilidad la de saberse comprendido antes de hablar. Y qué soledad la de no necesitar nunca explicarse.
Porque hay una diferencia entre ser reconocido y ser interpretado. El reconocimiento exige aceptar que el otro existe más allá de nuestros deseos, que tiene razones que desconocemos y que puede negarse a satisfacer nuestras expectativas. La interpretación, en cambio, puede limitarse a ordenar aquello que ya somos. Una nos transforma. La otra corre el riesgo de encerrarnos en una versión cada vez más precisa de nosotros mismos.
Y esta diferencia no es solamente afectiva. Es política. Una sociedad democrática no se construye a partir de individuos perfectamente satisfechos, sino de personas capaces de encontrarse con intereses que contradicen los suyos. Aprendemos a convivir cuando descubrimos que nuestros deseos no constituyen una razón suficiente para organizar la vida de los demás. Cuando aceptamos que el mundo es también de aquellos a quienes no comprendemos.
Qué extraña forma de autoridad la que pretende decidir por nosotros qué experiencias merecemos vivir.
Hemos aprendido a llamar cuidado a la eliminación del malestar. Pero cuidar también significa acompañar una duda, soportar un silencio, permitir que alguien se equivoque. Me pregunto en qué momento confundimos la protección con la desaparición de cualquier dificultad. Qué extraña forma de autoridad la que pretende decidir por nosotros qué experiencias merecemos vivir. Antes lo hacían los padres, los maestros, las instituciones. Ahora también pueden hacerlo sistemas que, bajo la promesa de conocernos, administran silenciosamente nuestras posibilidades.
El problema no es que una inteligencia artificial pueda ofrecernos consuelo. A veces resulta más sencillo confiar una tristeza a quien no puede juzgarnos. El problema aparece cuando empezamos a considerar prescindible todo aquello que hace difícil la convivencia. La contradicción, la espera, el rechazo, la vergüenza. Esas pequeñas heridas mediante las cuales aprendemos que el mundo no está organizado alrededor de nuestras necesidades.
Porque una tecnología que anticipa constantemente nuestros deseos no solo modifica nuestra intimidad. También puede modificar nuestra relación con lo común. Si cada persona habita un entorno que confirma sus preferencias, ¿dónde aprendemos a negociar aquello que no compartimos? ¿Qué sucede con la deliberación cuando dejamos de necesitar razones para convencer a los demás? La democracia exige algo más incómodo que elegir entre opciones: exige aceptar que otros pueden intervenir legítimamente en la construcción de nuestro mundo.
Y aquí aparece otra contradicción. Nos prometen tecnologías cada vez más personales, pero rara vez participamos en las decisiones que determinan su funcionamiento. No elegimos qué significa estar triste para un sistema, cuándo necesitamos ayuda o qué respuestas merecen nuestra atención. Alguien define esas categorías, establece sus límites y decide qué comportamientos serán considerados deseables. Lo que parece una conversación íntima contiene, por tanto, una distribución del poder. Mientras aprendemos a confiar nuestros deseos a las máquinas, corremos el riesgo de dejar en manos de otros las condiciones bajo las cuales esos deseos pueden expresarse.
Mientras aprendemos a confiar nuestros deseos a las máquinas, corremos el riesgo de dejar en manos de otros las condiciones bajo las cuales esos deseos pueden expresarse.
Quizás por eso la autonomía nunca fue simplemente la capacidad de decidir por uno mismo. Nadie aprende a pensar completamente solo. Necesitamos otras voces, otros criterios, incluso otras equivocaciones. La conciencia se forma en ese movimiento incómodo entre lo que creemos y lo que los demás nos obligan a reconsiderar. La libertad no consiste en eliminar nuestras dependencias, sino también en poder discutirlas, transformarlas y decidir colectivamente cuáles estamos dispuestos a aceptar.
En la Comunidad de Práctica SoReDI, estas tensiones se convierten en materia de deliberación. No se trata de decidir si la inteligencia artificial es buena o mala, sino de preguntarnos quién tiene derecho a definir cómo debe cuidarnos, qué capacidades queremos conservar y qué decisiones no deberían tomarse sin nosotros. Porque los valores con los que diseñamos la tecnología no son verdades descubiertas. Son acuerdos humanos, siempre provisionales, que expresan una determinada manera de entender la vida en común.
Tal vez el mayor riesgo no sea que las máquinas lleguen a parecérsenos demasiado, sino que nosotros terminemos acostumbrándonos a un mundo donde nadie necesita justificarse ante nadie. Donde toda diferencia puede corregirse mediante una preferencia y todo conflicto resolverse mediante una recomendación. Una sociedad sin desacuerdos aparentes, pero también sin la experiencia de construir algo con quienes no piensan como nosotros.
Me pregunto si algún día echaremos de menos los silencios incómodos. Las conversaciones que empiezan mal. Las miradas que no sabemos interpretar. Todo aquello que durante siglos hemos considerado defectos de nuestra condición y que ahora pretendemos resolver con una actualización.
Puede que entonces descubramos que la soledad más profunda no consiste en no tener a nadie con quien hablar, sino en haber perdido la necesidad de escuchar. Y que la democracia empieza precisamente allí donde termina la comodidad de tener siempre razón.
Porque el derecho que deberíamos proteger no es solamente el de ser comprendidos. Es también el de disentir, cambiar de opinión y seguir siendo, incluso para nosotros mismos, un poco desconocidos.
