Cómo ChatGPT está transformando nuestra relación con la realidad

El 30 de noviembre de 2022, Open AI lanzó ChatGPT, lo cual desató una oleada de debates y cuestionamientos. La relación con la “realidad” que mantiene nuestra sociedad explica, en parte, el surgimiento y éxito de inteligencias artificiales como ChatGPT.

Ya en los años setenta, el economista Harry Braverman señalaba cómo las tecnologías de la información contribuían a acentuar la distancia entre la mano y el cerebro, marcando la desaparición progresiva de gestos y saberes tradicionales, así como de ciertos oficios manuales. Se comprendía ya entonces que la informática transformaría nuestra relación con la realidad, actuando como una membrana o interfaz que se interpone entre nosotros y el mundo para indicarnos qué es importante y qué tiene valor.

Lo que no anticipábamos en aquel entonces era que estas membranas o interfaces, alguna vez controlables e inteligibles en programas que aún podíamos explicar y debatir, se tornarían cada vez más inteligentes y opacas. Con sistemas de inteligencia artificial, como el que sustenta a ChatGPT, perdemos el control sobre la membrana.

¿Otra forma de delegación?

La socióloga Madeleine Akrich propone ver la tecnología como un actor al que decidimos delegar tareas. Este concepto de delegación es interesante porque, ¿qué le estamos delegando a ChatGPT? Le confiamos la tarea de responder nuestras preguntas al buscar entre miles de millones de puntos de datos para encontrar la “información correcta”. En este sentido, ChatGPT simplemente da un paso más en las delegaciones que ya hemos confiado a las máquinas.

Pero quizás este sea un paso demasiado grande porque, al utilizar la metáfora del delegado para pensar en ChatGPT, lo que estamos aceptando es confiar la búsqueda de información –y, por ende, nuestra relación con el mundo– a un delegado del cual no sabemos ni qué pregunta ni cómo funciona. Es como si acordáramos confiar nuestro destino a un completo desconocido del que no sabemos nada. Se está instaurando poco a poco un régimen de plausibilidad donde la distinción entre la materialidad de los hechos y la fabricación de hechos por el algoritmo se vuelve difusa, llevándonos a un mundo donde nada ni nadie puede estar seguro.

De hecho, la incertidumbre vinculada a la inflación informativa que hemos vivido desde hace décadas ya había preparado el terreno para este régimen de posverdad lleno de noticias falsas y grandes conspiraciones. Esta relación problemática con la verdad de los hechos es precisamente lo que permite todas las manipulaciones, ya que estos textos producidos de manera indiscriminada ya no se topan con la consistencia de la realidad que la filósofa Hannah Arendt describía como “materialidad fáctica”, ni con la firmeza del debate.

Con herramientas como ChatGPT, nos encontramos “al borde del mundo”, en palabras del urbanista y ensayista Paul Virilio, en su último límite. La realidad no es más que un vestigio, un residuo…

Individualismo de masas

Este régimen de plausibilidad es tanto más crítico cuanto que nos considera de manera individual. De hecho, el segundo papel que le confiamos a este “delegado” es el de responder a “nuestras” preguntas “teniendo en cuenta” nuestras reacciones y opiniones, encerrándonos gradualmente, a través de este sistema de aprendizaje, en un bucle de refuerzo. Por ejemplo, al sugerir en la conversación con ChatGPT que amas o detestas las novelas de Louis-Ferdinand Céline, obtendrás dos valoraciones totalmente diferentes del escritor.

También en este caso, lo que permite que ChatGPT exista y encuentre su lugar en los distintos ámbitos de la sociedad es que forma parte de un contexto social muy presente que Paul Virilio denomina “individualismo de masas”. Con este término, se refiere a la capacidad de los medios informáticos avanzados de “procesar nuestras mentalidades de manera individual”. De hecho, estas tecnologías solo sirven para abrir el camino hacia el “control remoto universal”, una metáfora que nos ayuda a reflexionar sobre estas aplicaciones que ya no dejan al individuo “tiempo perdido, es decir, tiempo libre para reflexionar”, para una introspección prolongada.

La rapidez con la que opera ChatGPT contribuye, según sus palabras, a “una especie de ilusión estroboscópica que emborrona toda percepción y, por ende, todo conocimiento verdadero”. Nuestra mente, ya bien acostumbrada al zapping […] a la asociación desenfrenada de su navegación en Internet […] se conforma con recopilar información aquí y allá, buscando fragmentos aislados de significado. Esto plantea la pregunta de cómo se puede crear y avanzar en una sociedad bajo un individualismo tan efímero y detallista.

Mercancía ficticia

Este nuevo delegado que es ChatGPT simboliza muy bien este régimen socioeconómico que el filósofo André Gorz describió como capitalismo cognitivo. En este sistema, como resumen los filósofos italianos Toni Negri y Carlo Vercellone, “la cuestión central de la valorización del capital se relaciona directamente […] con la transformación del conocimiento en una mercancía ficticia”.

Recordando que para el economista Karl Polanyi una mercancía cumple dos criterios: ser producida (criterio de producción) para su venta (criterio de validación). Este conocimiento no es mercancía, pertenece a lo común y es característico del capitalismo cognitivo privatizar tanto su acceso como su explotación.

Este régimen trata el conocimiento como un depósito lleno de datos que deben ser buscados y explotados, encerrando progresivamente el conocimiento en un ciclo donde nada se crea y todo se convierte en explotación y gestión. Al igual que otros sistemas industriales que han explotado la tierra y la naturaleza hasta la extenuación, sistemas como ChatGPT también pueden contribuir al empobrecimiento de nuestra cultura, transformando este bien común que es el conocimiento en un vasto suministro de trivialidades e inercia.

Más allá del agotamiento del conocimiento y la cultura, estas herramientas de IA conllevan el riesgo de una pérdida generalizada de nuestra relación con la realidad. Así, según Paul Virilio, “tras el accidente de la sustancia, con el siglo que viene inauguramos un accidente sin paralelo, un accidente de la realidad”, una auténtica “desrealización que lleva a adultos y adolescentes hacia un mundo paralelo sin consistencia, donde todos se acostumbran gradualmente a habitar el accidente de un continuo audiovisual independiente del espacio real de su vida”.

Este accidente es un abismo completo, ya que implica perder el equilibrio con respecto a la materialidad de los hechos, pero también la incapacidad de recuperarlo debido al carácter autónomo y, por lo tanto, difícil de controlar de estas tecnologías denominadas inteligentes.

Habitar el mundo: hacia una ecología gris

En 1960, en “El ojo y el espíritu”, el filósofo Maurice Merleau-Ponty escribió “La ciencia manipula las cosas y renuncia a habitarlas. […] solo se enfrenta ocasionalmente al mundo real”.

Frente a ChatGPT, seguramente leeríamos en Paul Virilio, al igual que en André Gorz, la misma invitación a redescubrir el camino sensible del conocimiento, a reconectar con la experiencia conmovedora del mundo vivido. Conocer y comprender, nos recuerdan estos autores, es no saber. Conocer y comprender requiere enfrentarse al mundo, tocarlo, sentirlo, aprehenderlo de forma distinta que en la planicie de las pantallas. Allí, nos dice Paul Virilio, se pierde el sentido de la realidad y su finitud, y todas las verdades se vuelven posibles.

La era industrial nos condujo al calentamiento global. La era artificial podría llevarnos a un calentamiento de las mentes, a una pérdida generalizada del “sentido de la orientación” en donde nuestra relación con el mundo, con los otros y con nosotros mismos se volvería incontrolable. Es evidente, nos señala Paul Virilio, que esta pérdida de orientación marca el comienzo de una profunda crisis que afectará a nuestras democracias.

Ante este gran reto, el concepto de ecología gris de Paul Virilio es una invitación a politizar lo que sucede con la “realidad”, con nuestra cultura, es decir, con nuestra relación con el mundo, de la misma manera que la ecología verde lo ha estado haciendo desde hace tiempo con la naturaleza.

La ecología gris nos insta a retomar con determinación y seriedad el control democrático sobre el desarrollo de estas tecnologías. Sin esta determinación, destaca Paul Virilio, retomando a Hannah Arendt: “Quizás nunca más seamos capaces de comprender, es decir, de pensar y expresar las cosas que, no obstante, somos capaces de hacer.”

Califica Esta Página

BLOG