Durante el confinamiento por covid se intensificó el uso de las tecnologías digitales y esto supuso una revelación: nos descubrió que podían hacerse en línea muchas cosas que nunca hubiéramos imaginado. Una buena parte del trabajo, la enseñanza, las consultas médicas, las compras o incluso las relaciones interpersonales y cumbres de jefes de Estado se realizaron a distancia a través de una pantalla. Esto demuestra que la pantalla no es solo un objeto. Ha conseguido crear una situación en la que la actividad humana, nuestras relaciones con la realidad y con los otros se apoyan cada vez más en sistemas digitales y en paredes de cristal.
Ahora bien, cuando hablamos de pantallas, lo hacemos siempre en un tono moralizante, somos adictos a ellas… El gran fallo de esta narrativa es que se queda en la superficie de los fenómenos. El hecho antropológico y civilizatorio determinante es que la humanidad ha iniciado una trayectoria que acabará vinculando todos los aspectos de nuestras vidas individuales y colectivas a sistemas de inteligencia artificial, que gestionan cada vez más nuestros asuntos, y a las innumerables pantallas diseminadas por la sociedad.
Que tenemos necesidad de contactos físicos es obvio. Y el hecho de que el teletrabajo no se convierta en mayoritario debería ayudarnos a no considerar inevitable el poderoso proceso de pixelización y de automatización que está en marcha.
El triple error del metaverso
Mark Zuckerberg, casi en solitario, en octubre de 2021, con una simple declaración y rebautizando su empresa (Meta sustituyó a Facebook), quiso introducir a la humanidad en una dimensión ubicua destinada a ser casi total. Y, teniendo en cuenta el aura que rodea a los gurús de Silicon Valley, este anuncio desencadenó inmediatamente una oleada de inversiones, la voluntad de los gobiernos de subirse al carro, la creación de escuelas especializadas y un torrente de comentarios.
Es una muestra de la excitación e incluso de la histeria que rodea a esta industria que, en cuanto una de sus grandes figuras apunta en una nueva dirección, reúne sus tropas, como ovejas, en filas apretadas para ir inmediatamente en esa misma dirección.
Sin embargo, el amo de Meta cometió un triple error. Pecó de determinismo tecnológico, quiso ir más rápido que la música y no tuvo en cuenta la reacción ansiógena suscitada por los cascos llamados de «realidad virtual». Dado que las cosas no han ido como inicialmente se suponía, el otro error, el nuestro, es creer que esta perspectiva es cosa del pasado, cuando en realidad es un movimiento que sigue en marcha, aunque ahora de forma más discreta. Como los cascos que Apple ha puesto a la venta hace poco.
Zuckerberg hubiera hecho mejor absteniéndose de hacer semejante declaración y, como hizo la industria digital, seguir avanzando en lo que yo llamo un «capitalismo de la fijeza de los cuerpos». Comenzó con el auge de la economía de los datos y de las plataformas, han convertido a cada consumidor en un Rey Sol que tiene al alcance de la mano productos y servicios (plataformas de contactos, entrega de artículos, vehículos que vienen a buscarnos allí donde estemos, aplicaciones de visionado de vídeos…). Muchas de nuestras relaciones con la realidad se han liberado progresivamente de las restricciones impuestas anteriormente a nuestra vida cotidiana. Y todo indica que esta dinámica no hará sino intensificarse.
La humanidad ha iniciado una trayectoria que acabará vinculando todos los aspectos de nuestras vidas individuales y colectivas a sistemas de inteligencia artificial, que gestionan cada vez más nuestros asuntos, y a las innumerables pantallas diseminadas por la sociedad
Resultados espectaculares… o no tanto
Cuando ChatGPT estuvo disponible de manera pública, hace casi un año, la mayoría de los comentarios destacaba que los resultados eran «espectaculares». Y lo eran. Sin embargo, esta constatación quedaba matizada por el hecho de que se trataba de resultados incipientes y que había que hacer progresos para llegar a parecerse a un discurso humano. Y esta es nuestra gran ilusión: creer que se trata de dispositivos que utilizan un lenguaje parecido al nuestro.
La característica de estos sistemas es que diseccionan corpus textuales disponibles en bases de datos o en Internet para obtener de ellos leyes semánticas. Estos enunciados, cuya única fuente son registros ya existentes, son simplemente el producto de análisis estadísticos y de algoritmos probabilísticos, en contraste con nuestra relación con el lenguaje, que se basa en una tensión entre un vasto léxico, reglas gramaticales y nuestra capacidad de generar frases; en una relación con el tiempo que no es el de un apego exclusivo al pasado, sino de una dinámica conjugada con el presente y en constante evolución; y que no es de tipo probabilístico, sino indeterminista.
Eso implica una inventiva constante y el ejercicio de nuestra libertad tanto subjetiva como colectiva, manifiesta en la pluralidad de nuestras formas de expresarnos. En cambio, esta producción sintética es un pseudolenguaje, o una lengua muerta, industrializada y estandarizada.
El utilitarismo que impera en las sociedades modernas desde hace más de un siglo se ha infiltrado hasta tal punto en nuestras mentes que hemos adoptado estas tecnologías con la mayor docilidad sin preocuparnos de las consecuencias civilizatorias, ya que, desde hace unos veinte años, los creadores de las tecnologías digitales han sabido jugar muy bien con nuestra tendencia a la pereza y nuestra pasión por la comodidad.
Ahora bien, lo que el uso de esos sistemas va a producir, y que nosotros no queremos ver, es una renuncia a nuestras facultades más fundamentales y a nuestra responsabilidad a hablar en primera persona.
La «vegetalización de la humanidad»: esfuerzo cero
Los próximos veinte años serán los del promptismo generalizado. Con un simple prompt (instrucción) se verá satisfecho el menor de nuestros deseos, que hasta ahora había requerido una movilización intelectual y creativa por nuestra parte
Lo que se va a imponer es la lógica del esfuerzo cero. Tumbados en el sofá, diremos: «ChatGPT, escríbeme la tesis, una solicitud o una carta de amor…». Prácticas que, además, conllevarán una intensificación del uso de las pantallas y un consumo energético descomunal. Prevalecerá un lenguaje personalizado, en función de las peticiones formuladas por los individuos, a fin de orientar los comportamientos de acuerdo con los intereses de las distintas empresas que serán mencionadas, las que hayan pagado un precio muy alto por aparecer en los corpus generados.
Este sistema ya funciona en Bing o Bard, los bots conversacionales de los motores de búsqueda de Microsoft y de Google, cuya misión es indicarnos continuamente cuál es la acción correcta, una receta de cocina, la agenda del día…, de modo que nuestras vidas dependen cada vez más de empresas privadas.
Dentro de tres o cuatro años podremos constatar en qué nos habremos convertido. Pero será demasiado tarde. Debemos saber que nuestros hijos pronto nos dirán: «¿Por qué tengo que ir a la escuela, aprender gramática, leer libros, si existe un sistema que produce un texto con un simple prompt?».
Los primeros resultados públicos de ChatGPT eran espectaculares. Sin embargo, eran incipientes y había que hacer progresos para llegar a parecerse a un discurso humano. Y esta es nuestra gran ilusión: creer que se trata de dispositivos que utilizan un lenguaje parecido al nuestro
Un huracán que amenaza al trabajo
Es elocuente que Sam Altman, el cofundador de la empresa OpenAI, elaborara en mayo de 2023 una lista de treinta y cuatro oficios que no se verían amenazados por el uso de ChatGPT. A primera vista, podría parecer una broma: «Matarifes y envasadores de carne, ayudantes de techador, instaladores y reparadores de líneas eléctricas, buceadores, mecánicos de motos…». Es legítimo preguntarse por qué razón no elaboró más bien un inventario de las profesiones destinadas a desaparecer, ya que, a diferencia del proceso gradual de robotización de las empresas iniciado en los años 1980, en el que desaparecieron oficios de alto riesgo siguiendo una lógica virtuosa, lo que está en peligro ahora son los trabajos que requieren altas habilidades cognitivas.
Conviene recordar que son trabajos que movilizan una libre actividad de las mentes y con ello contribuyen a la realización de las personas y a una buena autoestima. Y lo que traerán consigo las inteligencias artificiales generativas no es una pretendida «complementariedad hombre-máquina», sino un huracán que barrerá un gran número de profesiones altamente cualificadas. Citemos unas cuantas sin correr demasiados riesgos: periodistas, traductores, correctores, dobladores de voz, profesores, abogados, guionistas… Lo que está amenazado es el trabajo en su más alta acepción, como obra, el «faber», tal como lo entendió Hannah Arendt.
Imágenes sintéticas que se confunden con la realidad
Esas lógicas de prompt no solo se aplican al lenguaje, sino también a la imagen y al sonido. Con una simple instrucción podemos obtener ya imágenes sintéticas que respondan a cualquiera de nuestros deseos o caprichos. ¿Acaso la sociedad no está suficientemente golpeada ya por la psiquiatría, las fake news, el complotismo y los rencores?
Le podemos pedir, por ejemplo, a DALL-E que genere una imagen del vecino, con el que se tienen ciertas discrepancias, golpeando a una vecina y luego publicarla. No se sabrá cuál es la naturaleza de esa imagen. Muy pronto este régimen de indistinción será mayoritario. Ahora bien, la sociedad no consiste solo en compartir principios comunes, sino que también tiene referentes comunes. Sin ellos no nos entendemos, cada uno evoluciona solo en su islote y tiende a desdeñar a los demás.
El promptismo también nos permitirá encargar películas, series y música hechas a nuestra medida. Nuestro interés por las obras, por el genio de la alteridad está condenado a disminuir. ¿Somos conscientes de la catástrofe cultural que se avecina?
Dentro de tres o cuatro años podremos constatar en qué nos habremos convertido. Pero será demasiado tarde. Debemos saber que nuestros hijos pronto nos dirán: «¿Por qué tengo que ir a la escuela, aprender gramática, leer libros, si existe un sistema que produce un texto con un simple prompt?»
¿Es urgente una regulación?
Uno de los grandes malentendidos de la época es creer que estableciendo algunos límites lo esencial quedará preservado. La regulación —tal como la entiende el legislador en las democracias liberales— solo busca garantizar la primacía económica. Sin preocuparse nunca de las consecuencias civilizatorias.
En este sentido se ha impuesto una ecuación: la de la tensión entre los riesgos y las supuestas ventajas. Sin embargo, esta ecuación es incoherente, ya que si nos centramos en algunos de los pretendidos inconvenientes, la automatización de los asuntos humanos no hará más que intensificarse. En realidad, la única cuestión político-jurídica que deberíamos plantearnos es la siguiente: ¿dónde mantenemos todavía el control y dónde ya no lo mantenemos? Y la proliferación de sistemas de IA precisamente lo que hace es que cada vez tengamos menos control.
Y ahí es donde la ley europea de IA se equivoca del todo al establecer una «escala de riesgos». Se trata de un proyecto que, por ejemplo, pretende obligar a las empresas que desarrollan sistemas generativos —que se alimentan de textos, imágenes y músicas de Internet— a pagar derechos de autor. ¡Estamos locos! En vez de oponernos a esa renuncia de nosotros mismos y al régimen de la indistinción, ¡estamos pensando en distribuir la riqueza producida! El resto del texto es muy parecido.
Siguiendo en esta misma línea, el gobierno francés ha nombrado un grupo de «expertos» en IA. Entre ellos se encuentra, por ejemplo, Yann LeCun, que trabaja para Meta. Desde un punto de vista legal y en una república ¡existe un conflicto de intereses!
Estamos repitiendo el mismo error, el de una evaluación «por arriba», una práctica que se viene repitiendo desde hace decenios y que ha acabado devastando los cuerpos, las mentes y la biosfera. Por el contrario, quienes deberían manifestarse son los que sufren las consecuencias de esta tecnologización, cada vez más enloquecida, en la gestión empresarial, la escuela, el hospital, la administración, la justicia… Tendríamos una comprensión de los fenómenos completamente diferente y la sociedad podría decidir en conciencia.
Ha llegado el momento de abandonar una visión estrictamente contable y a corto plazo de las cosas para defender y celebrar los principios fundamentales que nos animan: el respeto a la dignidad, la integridad y la creatividad humanas. En una época en que celebramos constantemente lo vivo, es hora de honrar lo vivo que hay en nosotros, de donde fluye todo lo demás. De lo contrario, veremos una humanidad cada vez más ausente de sí misma.
Sobre el autor
Éric Sadin es escritor y filósofo francés, uno de los pensadores actuales más importantes sobre tecnologías digitales. Dicta conferencias en varios países del mundo y sus libros se han traducido a diversos idiomas. Colabora de manera habitual en artículos de opinión en periódicos como Le Monde, Libération, El País, Página/12, Corriere della Sera, Die Zeit, entre otros. Ha publicado diferentes libros, el más reciente, Hacer disidencia. Una política de nosotros mismos (Herder Editorial, 2023).
*Texto aparecido originalmente en forma de entrevista en el diario francés Le Figaro, realizada por Alexandre Devecchio, el 16 de octubre de 2023.
Deja un comentario