Siempre sobrevuela la duda acerca de nuestra libertad. ¿Quería realmente lo que he escogido o estaba determinado, o incluso demasiado condicionado? La ruta hasta el trabajo, la serie de esta noche, el restaurante del sábado… Todo son decisiones pequeñas, pero que configuran la mayor parte de nuestra día. Ocurre que, en estos últimos años, hemos delegado estas decisiones a los algoritmos. Es más cómodo y ni siquiera nos enteramos. Simplemente abrimos Netflix y ya aparecen las sugerencias que nos gustan (¿no es terrorífico que seamos tan predecibles?). Parece una renuncia menor, casi cómica —nadie sufre por dejar de elegir restaurante, por favor—. Pero ¿qué ocurre cuando esa misma lógica, la de ceder el criterio a cambio de comodidad, empieza a decidir cosas que sí importan, como a quién contratamos, qué creemos o quién nos gusta?
A esa pregunta, es decir, a qué le pasa a la libertad cuando delegamos el juicio en una máquina, lleva años respondiendo Francesc Torralba (Barcelona, 1967), filósofo, teólogo y una de las voces más prolíficas del pensamiento contemporáneo en español, con más de un centenar de libros publicados y ganador del Premio Ratzinger 2023. En Filosofía&CO no es la primera vez que hablamos con él. Ya en 2018 le preguntamos por la «globalización de la indiferencia» y por qué la filosofía había abandonado la plaza pública para encerrarse en la academia; meses después lo hicimos buscando su reflexión sobre la esperanza, esa «virtud que no caduca», frente al nihilismo que amenaza con hacernos desistir. Ambas conversaciones giraban, en el fondo, sobre lo mismo: qué hacemos cuando el mundo nos ofrece razones de sobra para dejar de implicarnos.
La indiferencia y la desesperanza son, podríamos decir, primas hermanas de la delegación algorítmica porque todas son formas de renunciar a decidir. Solo que esta última viene con la diferencia inquietante de que no la elegimos del todo. Nadie firma un contrato consciente para dejar que un sistema de recomendación erosione su criterio. Ocurre poco a poco, clic a clic, hasta que un día, como Torralba explica en esta entrevista, hemos cedido «una capacidad genuinamente humana» sin haber discutido nunca sus condiciones.
En esta ocasión hablamos con él sobre inteligencia artificial, sesgos algorítmicos, la «mierdificación» cultural que homogeneiza lo que consumimos y esa distinción, cada vez más borrosa, entre lo humano y lo maquínico. Son, no por casualidad, las mismas preguntas que se trabajan en el Máster Universitario en Filosofía y Debates Contemporáneos sobre las Artes y la Tecnología de La Salle-URL, donde Torralba es profesor y donde uno de los tres itinerarios, «Tecnoética, empresas tecnológicas y transformación digital», se dedica enteramente a ellas. El máster —un año, modalidad presencial en Barcelona, próxima convocatoria el 19 de octubre— propone pararse a pensar antes de automatizar el pensamiento. No es una pausa nostálgica ni un rechazo de la tecnología (Torralba es el primero en advertir contra la tecnofobia), es, como él mismo dirá más adelante, la construcción de una tecnoética capaz de acompañar una disrupción que, lo sepamos o no, ya no tiene marcha atrás.
Quedan, con todo, preguntas por responder. Por ejemplo, si las máquinas deciden mejor que nosotros, ¿por qué seguir decidiendo? Y si renunciamos a decidir, ¿qué queda, exactamente, de nosotros? Torralba defiende que nos deshumanizamos. Y quizá esa respuesta debería bastar. O quizá no.
En primer lugar, me gustaría que nos ayudase a cartografiar mejor esta «libertad robada», si queremos llamarla así. ¿Dónde ocurre? ¿En qué espacios? ¿Dónde están decidiendo las máquinas por nosotros?
La libertad exige la capacidad de elegir, de poder escoger, de poder optar sin presiones, coacciones o chantajes. Cuando uno delega esta facultad a un sistema de inteligencia artificial, renuncia a una capacidad genuinamente humana. La libertad exige discernimiento, asumir riesgos y habitualmente uno se ve confrontado a la angustia. La máquina no se angustia, ni siente culpa por las decisiones que toma, porque ignora cualquier emoción.
Esta cesión de libertad ocurre cada vez que delegamos esta facultad a un artefacto y obedecemos ciegamente a sus consignas. Ocurre en decisiones simples, como dónde aparcar, en qué restaurante comer, o cuál es la mejor ruta para llegar a una ciudad. El drama es cuando transferimos esta capacidad decisoria a sistemas de inteligencia artificial para opciones fundamentales de la vida, para salir de encrucijadas existenciales complejas.
Una vez vistos estos espacios, cartografiados estos cruces donde las máquinas deciden por nosotros, quería preguntarle si realmente las máquinas deciden. ¿No corremos el riesgo de antropomorfizarlas cuando hablamos así, esto es, de reificarlas? ¿Son realmente algo? ¿No hay humanos detrás de ellas? ¿Qué ocurre con ellos, con los humanos que están detrás de las máquinas que supuestamente deciden por nosotros?
Las máquinas más complejas tienen incorporados un conjunto de algoritmos que, a su vez, reflejan los criterios y valores de los tecnólogos que los han elaborado. No hay decisión neutra, ni objetiva. La persona humana es un sujeto y, en cuanto tal, es heredera de una historia y de una educación. Sus decisiones obedecen a una biografía. La máquina tampoco decide con objetividad, porque ha sido diseñada por sujetos que transfieren en ella sus sistemas de valores, creencias, prioridades, prejuicios y estereotipos y, además, lo hacen de un modo inconsciente.
Cedemos la facultad de decidir a sistemas de inteligencia artificial ignorando los criterios que están encarnados en los algoritmos que han sido programados para dicho fin. Esta opacidad es un escándalo. Debemos exigir a las empresas tecnológicas transparencia y explicabilidad, pues solo así sabemos cómo deciden y por qué priorizan lo priorizan. De otro modo, se producen sesgos, discriminaciones que vulneran el principio de equidad, fundamental en la ética.
«Cuando uno delega la libertad a un sistema de inteligencia artificial, renuncia a una capacidad genuinamente humana»
Más allá de esos sesgos y de la pérdida de libertad, otro problema de nuestra relación con las máquinas es que reducen de alguna forma nuestro mundo y nuestro contacto con lo extraño, ¿no cree? En la medida en que los algoritmos están pensados para engancharnos y darnos constantemente lo que nos gusta, tendemos a recibir como recomendación productos culturales idénticos a los que ya hemos visto, lo que provoca que los creadores repitan fórmulas de éxito para aparecer en estos algoritmos. Es lo que algunos autores han llamado mierdificación de la cultura o aplanamiento cultural. ¿Cómo se ve afectada nuestra libertad en estos casos?
En efecto, el algoritmo está diseñado para seducir al consumidor, para que compre, para que gaste, para fidelizarlo, con lo cual le ofrece lo que se le interesa. La consecuencia final de ello es la endogamia y la polarización. Si uno muestra interés por el jazz, el algoritmo le ofrecerá todo tipo de productos relacionados con el jazz, desde conciertos a camisetas, pero no le va a ofrecer nada relacionado con la samba o el cante flamenco. Esto conduce a la endogamia y a la reiteración de patrones.
La apertura de mente requiere confrontarse con lo que es distinto, nuevo, singular, incluso con lo que le violenta intelectualmente. Cuando uno se relaciona con lo distinto, se ve obligado a pensar, a reflexionar, a meditar sobre sus opciones. Cuando uno reitera los mismos circuitos, acaba desconociendo su ciudad y confunde su circuito con la ciudad entera.
Me parece fundamental defender el diálogo con el otro, la cultura del encuentro, porque eso obliga a salir de las propias coordenadas mentales y descubrir nuevos mundos. El sistema está preparado para generar consumidores compulsivos, para que compren más de lo que necesitan, para que sientan el deseo de acaparar y de poseer. No debemos ser ingenuos. El sentido crítico es una herencia fundamental de la Ilustración que no podemos olvidar. La tecnología al servicio de grandes corporaciones privadas tiene un claro interés mercantil, lucrativo y diseñan los sistemas tecnológicos para alcanzar este fin y, además, lo consiguen con gran éxito. Para poner remedio a ello, falta juicio crítico, capacidad de discernimiento y, especialmente contención de la pulsión consumista.
SI TE está gustando ESTE ARTÍCULO, TAMBIÉN TE PUEDE INTERESAR…
Como estamos viendo, nuestra agencia no solo se ve mermada porque las máquinas tomen decisiones por nosotros, sino también porque reducen el mundo a partir del cual podemos ampliar nuestras decisiones. Esta reducción del mundo es un elemento por el que me interesa preguntarle también, específicamente por eso que Stiegler llamó «proletarización del saber» y que refiere al hecho de que las máquinas en el estadio cultural actual son realmente opacas. La consecuencia de esto es que no solo estamos desposeídos de muchas de ellas (no nos pertenece Microsoft, es una empresa privada), es que tampoco sabríamos muy bien qué hacer con ellas porque no sabemos cómo funcionan sus máquinas. ¿Es acaso posible conjugar una simbiosis más amable y de mayor conocimiento entre la máquina actual y nosotros? ¿O el grado de complejización actual de la tecnología exige que nos relacionemos con las máquinas como si fueran algo mágico que escapa a nuestra comprensión?
Se requiere el desarrollo de la ética algorítmica. Si los algoritmos toman decisiones por nosotros, tenemos que conocer cómo proceden y cómo se activan. La opacidad hace imposible esta tarea. La caja negra es ignorada por prácticamente toda la ciudadanía. Los sistemas de inteligencia artificial toman decisiones que afectan a personas y a familias, pero no sabemos cómo las toman.
El sistema decide, pero no sabemos en base a qué principios, intereses o valores. Además, existe el problema del lenguaje. El lenguaje tecnológico es críptico para la mayoría de ciudadanos. La hiper especialización conduce a la incomprensión. Se constituyen tribus lingüísticas que se comprenden endogámicamente, pero si uno no forma parte de tal comunidad queda excluido, con lo cual el abuso de poder es fácil, como también la lógica del dominio.
Cuando uno sabe, es fácil que sea objeto de abuso o de instrumentalización, mientras que cuando conoce el terreno, puede plantear observaciones, enmiendas y resistencia crítica. Necesitamos hallar un lenguaje común, una democratización del saber, un acceso universal para que no sea coto cerrado de una élite que actúa según sus intereses corporativos.
Y ese lenguaje común pasa, precisamente, por repensar dónde termina lo humano y empieza lo maquínico, ¿no cree? Aunque hay algunos autores, especialmente los poshumanistas y los que beben de los nuevos materialismos, que señalan cada vez con más énfasis que quizá cometemos un error humanista al mantener la distinción entre la máquina y el humano… ¿En qué medida somos también nosotros máquinas? ¿En qué medida siempre es maquínica nuestra relación con el mundo?
La distinción entre máquina y persona constituye uno de los temas centrales de la antropología filosófica. En el siglo XIX el debate estaba puesto en la diferencia entre lo humano y lo animal, pero en el siglo XXI, está centrado en la distinción entre la inteligencia humana y la artificial. El ser humano es un ser encarnado, frágil, capaz de amar, capaz de articular múltiples lenguajes, un ser dotado de conciencia. No somos máquinas, no estamos programados.
Tenemos capacidad de tomar distancia del mundo que nos circunda gracias a nuestra inteligencia espiritual, separarnos de nuestros impulsos e instintos, de nuestras tendencias atávicas e interrogarnos sobre el sentido de nuestra existencia y sobre el valor de nuestras opciones fundamentales. Somos seres de experiencia: sentimos alegría, tristeza, nostalgia, experimentamos amor, desamor, la muerte de un ser querido, culpa, resentimiento y remordimiento.
La máquina no tiene experiencia. Procesa datos, imita conductas humanas, simula emociones, pero no siente, ni piensa. Organiza la información, relaciona campos de datos y dispone de bancos de memoria infinita, pero no es capaz de pensar, sentir, odiar, amar, esperar, tampoco puede desesperarse ni experimentar el vacío existencial.
Somos seres de conciencia, pero la conciencia se dice de múltiples modos: tenemos conciencia existencial, moral, cósmica, social, también trascendente, en la medida en que nos interrogamos por Dios, por el fundamento de nuestra existencia. La máquina no sabe que existe, no sabe que no existía porque no tiene conciencia de su nacimiento, ni sabe que va a morir. Nosotros somos seres capaces de tomar conciencia de nuestro ser-en-el-mundo.
«La apertura de mente requiere confrontarse con lo que es distinto, nuevo, singular, incluso con lo que le violenta intelectualmente»
Dentro de lo inoperante de la distinción máquina/ser humano, pienso en cómo la inteligencia artificial está afectando a nuestro lenguaje. A la redacción nos llegan muchos textos, y aunque al principio sí que nuestra pregunta era detectivesca y consistía en intentar discernir cuáles habían sido escritos con IA y cuáles no (distinción máquina/humano), ahora nos damos cuenta de que esa distinción no nos ayuda porque muchos humanos, de tanto consumir IA, escriben como las máquinas. Si no es lo humano en cuanto tal lo que tenemos que salvar, porque lo humano puede contaminarse con el aplanamiento cultural de la máquina, ¿qué es lo que nos tiene que preocupar que se pierda en este contacto con las máquinas?
Es fundamental pensar qué es lo irreemplazable de la condición humana. Si un profesor repite mecánicamente lo que sabe, ¿qué le hace distinto de la máquina? Todo lo que será reemplazable, lo será tarde o temprano por un factor claro: ganar en agilidad, rapidez y reducir costes. La colonización tecnológica del mundo de la vida nos exige pensar dónde radica la singularidad humana, qué es lo irreemplazable.
Esta reflexión atañe al mundo de la educación, pero también al campo sanitario, social, empresarial y espiritual. La máquina puede ser cómplice, ayuda y puede agilizar muchas tareas mecánicas y automatizables y, en este sentido, bienvenida sea, pero nos obliga a pensar en lo que nos hace irreemplazables.
No podemos competir con la máquina en velocidad de cálculo, ni en el manejo de información y datos, pero sí podemos desarrollar habilidades que la máquina ignora. Debemos explorar a fondo las habilidades que se derivan de nuestra inteligencia emocional, intrapersonal, social y, sobre todo, espiritual. Nuestra inteligencia es polifacética, pero solo lo es si desarrollamos las potencias latentes que existen en nosotros.
Y ya que hablamos de esas potencias latentes que hay que desarrollar: hasta ahora en la entrevista hemos preguntado desde el miedo a la pérdida o desde la necesidad de protección, pero algunos señalan que esto podría pecar de un humanismo tecnófobo. En este sentido, y por girar las preguntas desde otros ángulos, ¿en qué momentos o en qué medida las máquinas sí que nos dan cierta libertad?
Es fundamental evitar la caída en la tecnofobia o, peor todavía, en el odio a la tecnología (misotecnia). La tecnología no es neutra, ni un mero objeto. Es un sistema complejo que altera profundamente la vida humana, social y profesional. Puede mejorar la calidad de existencia de muchas personas, pero también empeorarla, generar adicción, tecnodependencia y todo tipo de distorsiones, abusos y dramas.
La máquina nos libera de tareas mecánicas, repetitivas, pesadas que ocupan tiempo y talento humano, pero, a su vez, requieren de cuidado, atención y formación especializada. Es fundamental distinguir la técnica como instrumento de la técnica como sistema. La técnica ha dejado de ser un objeto. Vivimos, crecemos, trabajamos y morimos en el marco de un sistema tecnológico que se ha convertido en el útero social, en la esfera donde transcurre toda nuestra existencia. Cuando falla, se produce el desconcierto, el temor, el colapso, la radical desorientación. Lo vivimos con el apagón que sufrió nuestro país.
La máquina da libertad, pero, a su vez, genera nuevas formas de dependencia. Somos todos tecnodependientes hasta tal punto que cuando el sistema falla, nos quedamos atónitos, sin recursos, completamente dejados de la mano de Dios. Entonces experimentamos nuestra vulnerabilidad y la dependencia que tiene nuestro sistema de los tecnólogos para salir del colapso. Los tecnólogos se han convertido en los nuevos mesías.
«No podemos competir con la máquina en velocidad de cálculo, ni en el manejo de información y datos, pero sí podemos desarrollar habilidades que la máquina ignora»
Fijarnos en estos elementos positivos no tiene por qué hacer que pensemos que los miedos son inútiles (¡faltaría!), pero ¿y si lo estamos proyectando de manera errónea? ¿Por qué ese miedo a que las máquinas decidan por nosotros y no, por ejemplo, las grandes empresas o la Unión Europea?
Errare humanum est. Delegar la facultad de decidir de un modo absoluto al artefacto tampoco salva del error, porque la máquina en tanto que constructo humano está también sujeta al error. No existe el riesgo cero. Se puede minimizar anticipando consecuencias, pero siempre cabe la posibilidad del naufragio.
La democracia representativa requiere de transformaciones sustantivas para ser digna de confianza. Existen enemigos de la sociedad abierta que pueden deshacer el sistema democrático desde dentro, pero delegar las decisiones colectivas a las máquinas representa la pérdida de la soberanía popular, el regreso a la Edad de las Cavernas. El pueblo es soberano, pero cuando el pueblo se mueve acríticamente por las redes sociales y se cree ciegamente lo que ocurre ahí sin reflexión crítica, se convierte en un juguete en manos de tecnócratas sin rostro.
Y en este ánimo de dudar de la propia pregunta —pensando en ese pueblo convertido en juguete de tecnócratas sin rostro que menciona—, ¿y si no hubiera tanto un «robo de libertades», sino más bien una cesión? Esto es, ¿en qué medida deseamos que las máquinas decidan por nosotros? ¿Por qué deseamos esa alienación?
Porque nos libera de la angustia, de la culpa, del remordimiento. Kierkegaard lo expresa con claridad: la angustia es un fenómeno humano. El animal ignora la angustia, aunque sí que conoce el miedo. La máquina no conoce ni el miedo, ni la angustia. Nosotros, en cambio, nos angustiamos y experimentamos miedo frente a lo desconocido. Tenemos miedo de equivocarnos, de naufragar, de ser dependientes, de ser criticados, de no gustar, de envejecer, de quedarnos solos en el ancho mundo.
Si delegamos la facultad de decidir a la máquina, nos ahorramos la angustia frente al vértigo de las posibilidades, nos deshacemos de la culpa por haber optado mal, del remordimiento y del resentimiento, pero al obrar de este modo renunciamos al don de la libertad. Como decía san Agustín, el ser humano es un ens capax libertatis. Si renunciamos a esta capacidad, nos deshumanizamos.
«El pueblo es soberano, pero cuando el pueblo se mueve acríticamente por las redes sociales y se cree ciegamente lo que ocurre ahí sin reflexión crítica, se convierte en un juguete en manos de tecnócratas sin rostro»
Termino con esa deshumanización de la que habla, y con eso irreemplazable de lo humano de lo que hablábamos antes. Usted es profesor del Máster en Filosofía y Debates Contemporáneos sobre las Artes y la Tecnología de La Salle-URL, donde buena parte de estas preguntas se trabajan a fondo con sus alumnos. Pensando en el futuro, ¿cree usted que es posible volver a un pasado premaquínico? ¿Tiene sentido seguir pensando lo humano fuera de la máquina? ¿O deberíamos pensar en que las máquinas van a quedarse y que necesitamos adaptarnos a eso? En fin, ¿cómo pensamos un futuro con las máquinas?
No creo que sea posible un retorno a la etapa preindustrial. Quizás algunas comunidades humanas optarán por ello, pero la disrupción tecnológica que estamos viviendo es exponencial y acelerada y no tiene marcha atrás. Vivimos un cambio de época y no una época con algunos cambios. Eso nos exige elaborar una ética global de la inteligencia artificial, una tecnoética universal.
La primera encíclica de León XIV, firmada el 15 de mayo y publicada el 25 de mayo, Magnifica humanitas, representa un instrumento intelectual de primer orden para enfrentarnos a este reto colectivo. No creo en la actitud nostálgica que mitifica el pasado, tampoco en la actitud idolátrica que bendice el presente como el mejor de los tiempos posibles. La ambigüedad es constitutiva en cada época. También nuestro presente tiene claroscuros como los tuvo el pasado más lejano.
Javier Correa Román (Madrid, 1995) es doctor en Filosofía por la Universidad Autónoma de Madrid. Redactor de FILOSOFÍA&CO, es autor de cinco libros, los últimos publicados: Estética y Emancipación. Hacia una teoría del arte de lo común (2021), Micropolítica del amor. Deseo, capitalismo y patriarcado (2024), y, en Libros de FILOSOFÍA&CO, Arte en la era digital (2023) y Nihilismo (2025). Es librero de malaletra.
Leave a Comment