*

X
Los algoritmos están siendo usados -como hechizos mágicos invisibles- para explotar las debilidades emocionales y psicológicas del ser humano para extraer su atención, energía y capital. Esto es muy similar a lo que se creía que eran los demonios

Vivimos inmersos en un ambiente digital que afecta e incluso moldea nuestra conducta de maneras que a veces pasan desapercibidas. Lo primero que debemos hacer ante una tecnología o un nuevo medio, según enseñó Marshall McLuhan, es pensar críticamente y reconocer que la tecnología no es neutral, es decir, que no depende solamente del contenido. El medio es el mensaje y, como ha notado Douglas Rushkoff, los programas nos programan. Debemos pensar en la tecnología como una droga que altera nuestra conciencia para decidir hasta qué punto queremos seguir alterándonos o para orientarnos al menos en el viaje. Incluso, quizá no sea exagerado pensar en los algoritmos que son la base de las plataformas tecnológicas actuales como una suerte de demonios.

En una conversación reciente entre el teórico de medios Douglas Rushkoff y el programador y ocultista Mark Pesce, este último sugirió que podemos pensar en los algoritmos como una versión moderna de lo que era entendido en la Edad Media y en el Renacimiento como un demonio. Y es que un algoritmo responde en tiempo real a nuestras conductas y "busca debilidades en la mente humana para explotarla a favor del consumo". Estos algoritmos corren invisiblemente, y están siendo programados "para encontrar nuestras debilidades y excavarlas para que actuemos en contra de nuestros propios intereses".

Pesce explica que que algoritmos como el de Facebook están "observando tus respuestas y construyendo un simulacro de ti mismo contra el cual pueden medir cuál es tu estado emocional para así alimentarte de ciertas cosas". En otras palabras, se trata de una "inteligencia artificial para esencialmente leer y alterar tus estados emocionales... si esto fuera el siglo XIV, lo que estoy evocando: algo que altera tus emociones y a lo cual le entregas energía y te la regresa de otra forma, lo pensaríamos en términos de una demonología". La tecnología como demonología La tecnología como demonología. Y debemos preguntarnos: ¿qué tipo de contrato hemos firmado y hemos prometido por recibir algunos dulces de dopamina digital? Quizá lo que perdemos en este acuerdo no es menos que nuestra alma. Pues como escribió Goethe, si invocas demonios o espíritus, lo mínimo que debes saber es cómo desaparecerlos después. Pero esto es algo que no sabemos. 

Por su parte, Rushkoff sugiere que podemos pensar en la tecnología -a través de la cual se expresan los valores capitalistas- como una aspiradora gigante que extrae nuestra humanidad y elimina de la ecuación las cosas que no entran dentro del modelo de crecimiento infinito de la economía o de la visión mecanicista de la realidad (el mundo como máquina y la vida como algoritmo). Una industria multibillonaria está aprendiendo cada instante, cada punto de data, a explotar nuestras vulnerabilidades como humanos y está blandiendo toda su panoplia de artefactos de persuasión y manipulación para hacernos pasar más tiempo en sus plataformas, para volvernos más adictos y hacernos más inseguros o más enojosos o más ensimismados (porque estos estados son más conducentes al consumo).   

Desde hace algunas décadas el investigador rumano Ioan Petru Culianu notó que en la época moderna, la publicidad y la propaganda habían reemplazado a la magia. Ciertamente, el surgimiento de agencias de marketing, de corporaciones que utilizan logos (a veces con emblemas utilizados por la masonería o el ocultismo) o de políticos "carismáticos" que contratan agencias para que diseñen su discurso e imagen para crear ciertos efectos emocionales, pueden insertarse dentro de esta lógica, la cual Culianu encuentra anticipada en Giordano Bruno y su texto Sobre los vínculos en general. En este texto el filósofo y mago renacentista traza un paralelo entre lo que hace el mago y el amante: ambos tejen una serie de vínculos "pneumáticos" y eróticos o libidinales usando la simpatía y la resonancia entre esos vínculos y las características de la persona u objeto que quieren afectar (las cuales deben estudiar). Ambos se informan, estudian a su presa, lanzan su red, disponen sus carnadas y seducen para ganar control del mecanismo pneumático de su objeto deseado. Esta misma dinámica, como debe de ser evidente ya, la podemos aplicar a la publicidad y ahora también a los algoritmos y al "machine learning" que entre otras cosas aprende a crear un vínculo con la persona, haciendo de la tecnología un simulacro de conectividad humana.

Te podría interesar:

'No somos robots', exclaman empleados de Amazon (pero la automatización se acerca)

AlterCultura

Por: pijamasurf - 04/02/2019

Empleados de Amazon declaran: "No somos robots"

Desde finales del año pasado, los empleados de Amazon han iniciado protestas en diferentes partes de Estados Unidos, buscando organizarse en sindicatos para ejercer presión sobre la que se ha convertido en la compañía más afluente del mundo. Amazon cuenta con más de 600 mil empleados y unos 100 mil más son contratados durante las vacaciones de invierno.

Los trabajadores han cuestionado las condiciones de trabajo que esta empresa provee, argumentando que en ocasiones deben trabajar hasta 60 horas a la semana, y en ambientes poco propicios. El grito de protesta que sobresale es el que recoge The Guardian, de uno de los manifestantes: "No somos robots. Somos seres humanos". Esta sentencia es altamente emblemática no sólo de lo que ocurre en Amazon sino, en general, en el paisaje de la economía digital global. Las grandes compañías de tecnología cada vez más funcionan bajo un modelo basado en la mecanización y en la automatización de sus servicios e incluso de su visión del mundo. La confianza en la omnisciencia del algoritmo sugiere que el ser humano es en muchos sentidos reemplazable por las máquinas y la organización de la sociedad es optimizable mediante las mismas máquinas. Mientras que los empleados de Amazon gritan "No somos robots" compañías como Amazon, Google o Facebook cada vez invierten más en robots y en procesos automatizados sin considerar realmente el bienestar de los seres humanos. La carrera es simplemente seguir creciendo, dominar más, y para esto la visión sentimental-empática de los seres humanos no es más que un obstáculo (aunque los mismos algoritmos descubren que justamente estas cualidades humanas permiten que los seres humanos puedan ser persuadidos a realizar conductas que aseguran que la economía digital siga creciendo).

Este 2019 ha llegado con dos libros esenciales que tratan este tema desde la perspectiva de los humanos: Team Human, de Douglas Rushkoff, un manifiesto en favor del humanismo, del auténtico contacto entre seres humanos sin un propósito utilitario en un mundo cada vez más regido por la mentalidad transaccional del capitalismo digital, y The Age of Surveillance Capitalism, de la profesora Shoshana Zuboff, quien hace una advertencia sobre la tendencia a la automatización. Como explicó en una reciente entrevista:

Ya no es suficiente automatizar los flujos de información que nos rodean; la meta ahora es automatizarnos a nosotros. Estos procesos están meticulosamente diseñados para producir ignorancia al constreñir la conciencia individual y eliminar cualquier posibilidad de autodeterminación. Como me explicó un científico informático: "Podemos ingeniar el contexto en torno a un comportamiento particular y de esa forma forzar un cambio... Estamos aprendiendo cómo escribir música y luego dejar que la música los haga bailar". 

Algo así como lo que Platón notó en La república, que la música, la poesía y lo que hoy llamaríamos los medios podían usarse para regular el comportamiento de la sociedad, pero, a diferencia de la utopía platónica, sin que exista ningún rey-filósofo o ningún consejo ilustre que oriente a la sociedad hacia fines deseables como lo bello, bueno o verdadero. El único eje rector aquí es la ambición económica y una sensación de nihilismo generalizado. ¿La música antimusical de los algoritmos nos hará bailar ritmos diseñados para distraernos del ritmo de nuestra propia alma?