Suscríbete
Número especial - MICHEL FOUCAULT - Revista FILOSOFÍA&CO

·

ESPECIAL FOUCAULT

Monográfico

Michel Foucault

El pensador que rompió el canon

Nuevo

Revista FILOSOFÍA&CO | ESPECIAL FOUCAULT

Ver revista

¿Qué diría Heidegger de la inteligencia artificial?

Solemos tranquilizarnos diciendo que la IA no es consciente o que basta con darle un buen uso. Para Heidegger, ese es justamente el error. La técnica nunca es un instrumento neutral, sino una manera de hacer aparecer el mundo que acaba moldeando también a quien la usa.

0 comentarios

Imagen creada a partir de los vectores de Freepick (licencia CC).
Imagen creada a partir de los vectores de Freepick (licencia CC).

0 comentarios

El problema de la técnica en la era digital

heidegger
La pregunta por la técnica, de Martin Heidegger (Herder).

Ya en su célebre ensayo de 1954, La pregunta por la técnica, Heidegger advertía que la técnica no es un simple instrumento o un medio neutral, sino un modo de revelar la verdad y habitar el mundo. Es en este texto donde el filósofo acuña una serie de expresiones complejas y de difícil traducción: «provocación», «reserva», «emplazamiento»… Estas nociones ciertamente fueron forjadas al hilo de la técnica industrial y su naturaleza esencialmente físico-extractiva.

En efecto, lo que Heidegger sobre todo tenía presente era el contraste entre la técnica clásica (el molino de viento, la agricultura tradicional) y la técnica moderna (la central hidroeléctrica, la minería a tajo abierto). Mientras la técnica clásica se pliega a la naturaleza y la «deja ser», la técnica moderna la «provoca» a efectos de convertirla en reserva (stock). No entraremos en el detalle argumental de este importante ensayo, pero nos interesa destacar algunos puntos clave.

Respecto de esta interpretación, la revolución de la inteligencia artificial nos interpela y nos plantea una serie de interrogantes: ¿es aplicable, sin grandes pérdidas, el concepto heideggeriano de técnica a la IA? ¿Es necesario descartar definitivamente el modelo forjado en consonancia con la técnica industrial? ¿Es preciso resignificarlo? ¿Nos sirven todavía como claves interpretativas los conceptos de provocación, emplazamiento y reserva?

No podemos desarrollar aquí todos los matices que implicaría responder a tales preguntas, pero al menos apuntemos lo esencial: resulta imperativo resignificar estos tres conceptos.

Número especial - MICHEL FOUCAULT - Revista FILOSOFÍA&CO

MICHEL FOUCAULT

El pensador que rompió el canon

Comencemos por el primero de ellos. La expresión «provocación» (Herausfordern), en su composición adverbial en alemán, tiene el sentido de un cierto «exigir (fordern) hacia afuera (heraus)». Algo así como un «sacar o arrancar hacia el exterior». Lo que resulta claro en el uso del término es que la técnica moderna, lejos de simplemente abandonarse a la naturaleza —como el molino se abandona a las fuerzas del viento—, «saca hacia afuera» las energías de la Tierra y las «exige» para acumularlas.

Aquí radica la primera diferencia respecto de la técnica tradicional: mientras la técnica moderna «provoca» la naturaleza para acumular energías, la tradicional se abandona (anheimgegeben) a ella. Frente al «abandono» de la técnica antigua, ocurre la «provocación» de la técnica industrial moderna. En el ejemplo de la labranza, el campesino tradicional se entrega a las fuerzas del crecimiento y guarda de la naturaleza. Abandonar y provocar se revelan así como dos actitudes contrapuestas. Pero lo que la técnica industrial «provoca» —exige y extrae— son, fundamentalmente, recursos naturales.

¿Nos sirven todavía como claves interpretativas los conceptos de provocación, emplazamiento y reserva?

La reserva recursiva

¿Pero qué sucede con la técnica digital? ¿Podemos seguir empleando este modelo y su respectiva conceptuación? Pensamos que sí, a condición de realizar una ampliación interna y una resignificación de las categorías fundamentales desplegadas por Heidegger. Esta actualización es urgente porque la provocación digital no arranca ya a la naturaleza sus fuerzas hidráulicas o minerales, sino que extrae, a través de dispositivos y plataformas, fragmentos de la experiencia humana, patrones y trazos de la vida cotidiana, reconvirtiéndolos en insumos para el cálculo y la predicción.

Una resignificación semejante debemos realizar respecto del concepto de reserva (Bestand). La expresión alemana en juego se deja también traducir por «lo disponible», «fondo», «existencias». Heidegger distingue entre reserva (Bestand) y objeto (Gegenstand). Objeto es lo que se manifiesta como independiente de nosotros mismos; en cambio, reserva es lo que solamente tiene valor en cuanto integra una cadena de suministro.

Evidentemente, ahora la reserva ya no es primariamente el carbón o la energía de los ríos, sino los datos abstractos de nuestra experiencia: es la reserva informacional —algorítmica— de nuestra existencia. No obstante, esta reserva —a diferencia de la industrial— no es lineal, sino recursiva. Se trata, pues, de una reserva peculiar, una reserva recursiva.

La IA generativa no opera como un stock inerte de carbón. Es un bucle que, lejos de permanecer pasivo, se autoproduce y se autocorrige constantemente mediante la introducción de nuevos datos. Es un depósito que se retroalimenta de su propio funcionamiento. En la técnica industrial, si se extrae una tonelada de mineral y se quema para calentar una fábrica, esa tonelada desaparece como recurso disponible. Lejos de toda recursividad, la trayectoria industrial es estrictamente lineal: extracción, almacenamiento, consumo y desecho.

Otra cosa muy distinta sucede con la tecnología digital. Aquí el recurso acumulado es recursivo: lejos de agotarse, genera nuevos datos y retorna sobre sí de forma constante. El uso no consume el recurso disponible, sino que, al contrario, lo autoproduce y perfecciona indefinidamente.

Para ilustrar este bucle, basta pensar en una aplicación de streaming. Cada recomendación que la plataforma nos hace se alimenta de cada canción que escuchamos, nos saltamos, repetimos, guardamos o marcamos como favorita. Si escucho frecuentemente un género de música, ese dato retornará para afinar todavía más la reserva de datos. El sistema adapta y corrige constantemente lo que nos ofrecerá mañana. Lejos de agotarse linealmente como el carbón, cada uso y comportamiento que tenemos hace crecer circularmente el recurso y lo vuelve más preciso. La reserva es aquí un verdadero bucle informacional.

Por consiguiente, planteamos dos resignificaciones a las categorías de Heidegger. En primer lugar, la provocación ya no es físico-material, sino abstracto-cuantitativa. Es el registro binario del mundo de la vida. La verdadera materia prima de la era digital no son los recursos naturales, sino los datos de la experiencia humana.

En segundo lugar, la reserva ya no es el depósito pasivo de los recursos, sino la autoproducción recursiva de los datos extraídos de la subjetividad. Se trata de una nueva forma de explotación: una «minería de la subjetividad». Una minería que, lejos de agotarse bajo la forma del consumo o el desecho, aumenta exponencialmente unos datos que vuelven constantemente sobre sí mismos.

Naturalmente, aquello que se extrae de la subjetividad no es la vida vivida en sí misma, sino aquello que resulta «datificable» bajo el registro binario. Sin embargo, esta limitación en nada resta su poder configurador. La palabra para este poder es lo que Heidegger llama «imposición» o «estructura de emplazamiento» (Gestell), concepto clave para comprender el verdadero alcance de la IA.

La verdadera materia prima de la era digital no son los recursos naturales, sino los datos de la experiencia humana

La imposición

En alemán cotidiano, un Gestell es un objeto físico que sirve para sostener algo: un estante, un perchero, la montura de unas gafas o el chasis de un coche. Es algo que encuadra, soporta y organiza los objetos. Por lo tanto, Gestell es la reunión de todo lo que es puesto, emplazado, ordenado.

La idea de una «estructura de emplazamiento» surge en gran medida para dar cuenta de la insuficiencia de la concepción puramente instrumental de la técnica. Siguiendo La pregunta por la técnica, hay, pues, que afirmar que la tecnología moderna no se deja comprender como un mero medio neutral para un fin, sino como un modo histórico de desocultamiento que determina anticipadamente la manera en que lo ente puede aparecer. Es como una lente oculta que instala de forma cuasi invisible el modo en que se nos presenta el mundo.

Pero si el emplazamiento industrial era el «encuadre» que nos obligaba a desvelar la tierra bajo la figura de recursos disponibles para la producción, en el caso de la técnica digital es el dispositivo el que nos exige ver el mundo como dato informacional.

En este sentido, la IA no se limita a ser un software extraordinariamente eficiente. Es una estructura de emplazamiento (Gestell) que modifica radicalmente nuestra subjetividad. La IA no solo «hace tareas» dentro de nuestro entorno, reconfigura las coordenadas de lo que entendemos por «mundo». Podemos decir que la IA es «solo inteligente, pero no consciente», o señalar que «debemos darle un buen uso» para confortarnos, pero con ello eludimos su capacidad para modificar nuestra propia realidad (incluida nuestra «carne»).

Esta es la razón por la cual el gesto de proteger la especificidad humana y su conciencia resulta insuficiente. Es verdad que somos muy distintos de una máquina —estamos hechos de «carne» y no de silicio—, pero esa afirmación no nos protege contra una dictadura maquinal, precisamente porque la máquina retorna desde donde salió y emplaza nuestra subjetividad bajo su propia figura. Este peligro es el que Heidegger advirtió y hoy sigue más vigente que nunca.

Somos muy distintos de una máquina, pero esa afirmación no nos protege contra una dictadura maquinal, porque la máquina retorna desde donde salió y emplaza nuestra subjetividad bajo su propia figura

Los límites de la ética

De ahí que la apropiación puramente ético-normativa resulte también insuficiente, justo en la medida en que concibe la tecnología digital como un instrumento neutral al que bastaría asignarle buenos fines para eliminar el peligro. El problema de la IA no es simplemente el de la relación de medios y fines, como si bastara con modificar los objetivos para su plena validación.

Pensar la IA únicamente bajo esta lógica asume que la técnica es una herramienta que el ser humano controla a voluntad. Bajo este supuesto moralista o regulatorio, bastaría con asignarle metas nobles (salud, educación, justicia) para resolver el dilema. Sin embargo, este enfoque reduccionista ignora que el medio transforma la naturaleza del fin y la manera en que experimentamos la realidad.

Un ejemplo paradigmático es el intento de integrar la IA a la educación. Dicha integración a menudo se despliega como una simple modificación del uso, como si el problema radicara en la utilidad y no en la mutación estructural que introduce la propia técnica digital. Resultan aún más paradójicos estos intentos regulatorios cuando nos percatamos de que las mismas normativas terminan por asumir la lógica de aquello que intentan regular. Es aquí donde Heidegger objetaría: no se trata de una herramienta imparcial, sencillamente porque la técnica misma es ya un modo de develar el mundo bajo un determinado aspecto. Un aspecto que, a la par, oculta otros modos de hacer presente la vida.

Comprender la IA desde la perspectiva de Heidegger no significa, por supuesto, un simple rechazo tecnófobo, sino develar las implicancias y la profundidad del fenómeno: solamente si reconocemos que la IA no es un mero medio neutral, podremos realizar una crítica y una apropiación a la altura de las exigencias de nuestro tiempo. Esta es la lección de Heidegger.

Sobre el autor

Gustavo Cataldo Sanguinetti es profesor honorario del Departamento de Humanidades de la Universidad Andrés Bello (Chile), donde ha ocupado distintos cargos de dirección, entre ellos los de director del Departamento de Humanidades y del Grupo de Estudios de Filosofía. Ha participado en diversos proyectos de investigación FONDECYT (Fondo Nacional de Desarrollo Científico y Tecnológico) y ha realizado labores de evaluación para instituciones de acreditación públicas y privadas. Ha publicado en libros colectivos y revistas nacionales y extranjeras. Se especializa en filosofía antigua (Aristóteles), estética (idealismo alemán), y fenomenología y hermenéutica (Martin Heidegger). Sus últimas investigaciones abordan la analítica existenciaria heideggeriana, las estéticas de la filosofía clásica alemana, la estética de la música y la recepción de la Antigüedad clásica en el idealismo alemán.

Otros artículos que te pueden interesar

Leave a Comment