*

X
Ante los desarrollos recientes en inteligencia artificial y robótica, Musk lanza una alerta

En las últimas semanas se anunciaron al menos dos desarrollos robóticos sumamente sorprendentes. 

Por un lado, a finales de octubre, se dio a conocer a “Sophia”, quizá el robot más antropomórfico construido hasta hoy que, además, llegó acompañado de una estrategia publicitaria de alto impacto: se trata también del primer robot en la historia en recibir la ciudadanía de un país, en su caso Arabia Saudita, cuyo gobierno lanzó de esta forma el anuncio de que se encuentra abierto a acoger empresas e iniciativas dedicadas al desarrollo de inteligencia artificial. 

“Sophia” fue diseñada y construida por la compañía de origen hongkonés Hanson Robotics, en donde se le programó para sostener conversaciones con seres humanos. Sus programadores incorporaron desarrollos tecnológicos modernos como el reconocimiento facial y de voz, la búsqueda de nueva información y el aprendizaje sobre la marcha, pero al mismo tiempo puede considerarse una versión de su antecesora ELIZA, el legendario programa que fue uno de los primeros en pasar la prueba de Turing (conversar con un ser humano sin que éste se dé cuenta de que sostiene una plática con una máquina). En ese sentido, a pesar de todas las escenas sorprendentes que se han visto en medios, puede decirse que “Sophia” está diseñada para generar la ilusión de una conversación, y no tanto para conversar en sí, según lo entendemos los seres humanos.

Por otro lado, a mediados de noviembre, el laboratorio Boston Dynamics igualmente hizo públicas algunas escenas de su robot estrella, “Atlas”, realizando movimientos que “la mayoría de las personas no pueden hacer”, según se repitió en diversos medios, esto es, saltar del piso hacia una superficie elevada y, lo más notable, hacer un salto hacia atrás. 

Al ver tanto a “Sophia” como a “Atlas”, es un poco inevitable pensar en las varias películas de ciencia ficción construidas sobre la posibilidad distópica de la inteligencia artificial y los desarrollos robóticos. Por más optimismo o esperanza con que se presenten estas invenciones –se dice, por ejemplo, que “Sophia” podría asistir a personas mayores en casas de retiro, a los visitantes de un parque público, y que Atlas podría usarse en misiones de rescate–, lo cierto es que en la historia de la humanidad se encuentra evidencia suficiente para sospechar de esas buenas intenciones y, en ese sentido, no resulta complicado imaginar a “Sophia” y a “Atlas” en escenarios de guerra y violencia como los de la distopía Matrix, por ejemplo:

Elon Musk es una de las personas que comparten dicha suspicacia frente a la inteligencia artificial, e incluso más que una simple reticencia. De acuerdo con un reportaje publicado recientemente por la revista Rolling Stone, el también inventor y fundador de la compañía automotriz Tesla considera que existe sólo un 10% de probabilidades de desarrollar inteligencia artificial que sea segura para el ser humano. En el resto de escenarios, la inteligencia artificial representa un riesgo mayor para la supervivencia de nuestra civilización, según Musk.

Paradójicamente, Musk también es inversor en DeepMind, el ambicioso proyecto de investigación en inteligencia artificial de Google que cuenta con vastos recursos para sus investigaciones. Según se publica en Rolling Stone, Musk decidió invertir en el proyecto para “tener un ojo” en los desarrollos de Google. 

Según puede colegirse de sus proyectos y sus posiciones frente a ciertos fenómenos contemporáneos, Musk actúa bajo ciertas directrices filantrópicas y, a diferencia de muchos de sus colegas multimillonarios, se ha pronunciado en diversas ocasiones a favor del uso benéfico de la ciencia y la tecnología, en provecho de la humanidad y no en su contra. 

Él, por ejemplo, es una de las pocas personas que estando dentro del círculo de acción de los dueños y desarrolladores de empresas como Facebook, Google o Amazon, señala el inmenso poder que han acumulado estas corporaciones a través de la recolección de datos personales, mismo que hasta ahora se encuentra escasamente regulado y que quizá con el tiempo se vuelva incontrolable.

No es posible saber hasta dónde llegará el desarrollo de la inteligencia artificial o el uso de la información personal que concedemos con tan sólo pasar unos cuantos minutos en las redes sociales, pero quizá la alerta de Musk podría tomarse más en serio antes de que, como dijo en otra ocasión, veamos robots en las calles matando seres humanos.

 

También en Pijama Surf: 10 obras distópicas indispensables para entender el mundo en el que vivimos

500 años después de Lutero, un llamado a reformar y cuestionar el enorme poder de los gigantes de la tecnología

La tecnología se ha convertido en la religión tácita de nuestros días. Sus productos y los hábitos que genera se han esparcido por todo el mundo, como la más exitosa "evangelización" en la historia de la humanidad. Y es que aunque no parecen enarbolar explícitamente una ideología, todos los productos o plataformas y las conductas alrededor tienen una ideología implícita. "Salirse de lo que experimentamos como ideología, es la misma forma de nuestra esclavización a ella", dice Zizek, haciendo referencia a la perfecta reproducción de la ideología bajo el disfraz de su ausencia. Como Hollywood antes, Silicon Valley es también un "aparato de estado ideológico", usando el término de Zizek. Las ideologías que están codificadas en la tecnología moderna son el consumismo, el materialismo, la alienación, la automatización y el utilitarismo. 

John Naughton ha escrito un importante artículo en The Guardian y un manifiesto en el que considera que estamos en un punto de inflexión, en el cual necesitamos una especie de Martín Lutero para contrarrestar el excesivo poder que tiene la "iglesia de la tecnología". Como el dios cristiano, Google, Facebook, Apple, Amazon, Microsoft, saben todo de nosotros y son capaces de:

moldear nuestras políticas,  incrementar nuestro apetito, aflojar nuestra lengua, aumentar nuestro pánico moral, y mantenernos entretenidos (y así pasivos)... Nos involucramos con diferentes medios digitales unas 150 veces al día y, con cada momento de contacto, añadimos a la insondable riqueza de este sacerdocio. Y lo adoramos, porque de alguna manera, estamos hipnotizados por él.

Naughton señala que es sumamente difícil mostrarle a las personas, que están enganchadas por el deslumbrante poder de la tecnología, que lo que está ocurriendo puede ser peligroso para su más esencial humanidad. Sin embargo, alguien alguna vez hizo algo similar. Un 31 de octubre hace 500 años, Lutero pegó en la puerta de una iglesia sus 95 tesis, desafiando no sólo la teología de la iglesia sino también su modelo de negocios. Este acto acabó creando una revolución en las creencias religiosas del mundo occidental y fue un fuerte golpe a la autoridad de la iglesia católica. Lutero entendió el nuevo ecosistema de la imprenta y así logró esparcir su mensaje -su meme; atacar al poder en dos formas, su ideología y su modelo económico o modelo de negocios; sin estos dos, el ataque no será muy efectivo. 

Naughton, como muchos más, fue al principio del Internet un entusiasta de esta nueva tecnología, pensando que la libertad de información que suponía iba a a modificar positivamente el mundo, que era una fuerza para distribuir conocimiento y libertad. Pensaba que iba a cambiar el mundo:

Estábamos en lo cierto en algo: sí cambió el mundo, pero no como esperábamos. Las mismas estructuras de poder despertaron, se reafirmaron y tomaron control de la tecnología. Una nueva generación de gigantes corporativos surgió y llegó a detentar un enorme poder. Vimos cómo millones -y luego miles de millones- de personas alegremente entregaron su información personal y sus huellas en línea para que esto fuera monetizado por estas compañías. Vimos cómo las personas, cuya creatividad pensábamos que iba a ser liberada, en cambio hicieron de la red un canal de TV billonario y se transformaron en una generación de activistas de sofá. Vimos a gobiernos, que al principio se encontraban dormidos en relación al Internet, desarrollar la más completa máquina de vigilancia de la historia humana. Y nos preguntamos: ¿cómo la mayoría de los ciudadanos parecían tan poco alarmados por las implicaciones de todo esto -que el mundo estaba aparentemente marchando sonámbulo hacia una pesadilla? ¿Por qué las personas no pueden ver lo que está pasando? ¿Y qué hace falta para que hagan algo al respecto?

Tal vez la tecnología digital y sus "CEOs gurús" no puedan compararse con la iglesia católica todavía, pero el enorme poder que están detentado, sin contrapeso y sin ninguna base moral sólida, es sin duda algo alarmante. El peligro de esto ha sido ya anticipado por analistas como Evgeny Morozov o Yuval Noah Harari, entre otros. Este último, en su libro Homo Deus, plantea un escenario posible en el que la élite que controla la tecnología logra aumentar sus capacidades biológicas y cognitivas y crea un sigma o una brecha insalvable en la humanidad, siendo esta élite similar a los dioses y siendo el pueblo una especie aparte, similar a animales de carga que proveen la fuerza bruta para realizar el sueño de divinización de los elegidos por el gran dios de silicio. 

Así las cosas, Naughton ha creado un sitio en el cual, desde el 31 de octubre, 500 años después, ha pegado 95 tesis que cuestionan el paradigma tecnoeconómico y tecnoideológico actual, haciendo críticas puntuales a las diferentes corporaciones y proponiendo algunas alternativas. Aquí el enlace: http://95theses.co.uk/