*

X
Deep fake para textos: la máquina a la medida para la era de la posverdad

Los últimos 3 años en Internet han estado dominados por la incipiente conciencia del peligro de las fake news y la persuasión de votantes o consumidores a través de algoritmos que se alimentan en tiempo real de su información para manipular su conducta en línea. Este riesgo, que algunos consideran que atenta contra la democracia y la autonomía, podría tener un nuevo actor con el desarrollo de programas que logran escribir artículos que pueden hacerse pasar fácilmente por escritos por humanos, hasta un punto indistinguible o casi indistinguible. 

Hace un par de semanas la plataforma OpenAI anunció que estaba preocupada por el potencial uso nocivo de su modelo GPT2, que ha sido llamado "deep fake para textos". La compañía, que tiene a Elon Musk entre sus inversionistas, dijo que no hará pública la información de su investigación por miedo a que esta tecnología tenga ramificaciones negativas. El modelo GPT2 es capaz de generar texto plausible una vez que se le ha alimentado con un texto, algo así como una idea a desarrollar que conecta con otra información.

El sistema se diferencia de otros programas en que mantiene el mismo tema y sintaxis y crea pasajes estándar que parecen redactados por una persona. Esta plataforma se entrenó con más de 10 millones de artículos. Por una parte, esto es altamente interesante, pues este modelo puede realizar tareas como traducir y resumir textos. Pero por otro lado tiene un potencial que aunque podemos imaginar a dónde podría llevar, realmente es casi ilimitado en las posibilidades de usos que se le pueden dar para engañar y manipular. Por ejemplo, el sistema puede generar innumerables reseñas positivas o negativas de productos. Podría producir innumerables mensajes de spam, e incluso estudiar bases de datos para generar correos que busquen estafar a las personas. O teorías de la conspiración, o textos orientados a provocar a ciertos grupos sociales o políticos. Podría producir sitios enteros de fake news o de información con fines propagandísticos. 

Aunque esta cautela es bienvenida, por otro lado es evidente que esta tecnología en algunos años será desarrollada por otras personas y probablemente pueda ser usada con fines nocivos. Así que es importante prepararnos y educarnos. Lo que parece indudable es que estamos llegando a un punto en el que la tecnología que creamos está capacitada para rapazmente explotar algunas de nuestras vulnerabilidades mentales y nuestro nivel moral e intelectual como civilización no está a la altura para salvaguardar los usos de esta tecnología, lo cual es preocupante. Parece que vivimos en los tiempos que Philip K. Dick imaginó:

Las realidades falsas crearán humanos falsos. O bien, los seres humanos falsos generarán realidades falsas y luego las venderán a otros seres humanos, convirtiéndolas, eventualmente, en falsificaciones de sí mismos. Así que terminamos con humanos falsos inventando realidades falsas y luego vendiéndolas a otros humanos falsos.

Te podría interesar:

Muere periodista de Fox News de gripe a los 26 años; medios sostienen que estaba en contra de las vacunas

Medios y Tecnología

Por: pijamasurf - 03/01/2019

Bre Payton ha sido retratada en numerosos medios como una activista antivacunas, algo que es poco justo

El pasado 28 de diciembre la periodista Bre Payton, de 26 años, murió, según reportan diversos medios, a causa de gripe H1N1. Payton era una popular conductora estadounidense cuya carrera estaba en ascenso, era comentarista en la cadena de derecha Fox News y escribía en el sitio The Federalist. Quizás por esta asociación con medios conservadores, su muerte ha sido vinculada rápidamente por numerosos medios con una supuesta oposición a las vacunas. Un añejo debate conspiratorio, en el que algunas personas han tomado la posición de que las vacunas no sólo pueden ser dañinas sino que son parte de un plan encubierto del gobierno de Estados Unidos o de organizaciones internacionales... o del poder del Big Pharma. La muerte de Payton fue retratada en numerosos medios como una especie de lección, algo así como esto es lo que pasa cuando no crees en las vacunas. Sin embargo, en realidad se trataba de un bulo, de una fácil reacción que confundió y exageró las cosas.

La única razón -además de que trabajaba para Fox News- por la que se pudo crear esta historia es un tuit de 2011, cuando Payton tenía 19 años:

"@latimes: Whooping cough: State urges more people to get vaccinated http://lat.ms/jlJcoa" // NOOO! vaccines are from the devil!

Las vacunas son del diablo, dijo cuando tenía 19 años, en lo que parece ser una hipérbole o una broma. Curiosamente, en este caso los medios liberales fueron los que mostraron la característica central del fundamentalismo: tomar las cosas literalmente y no saber entender el contexto, los matices o los tropos del lenguaje. Y aunque esto no fuera una broma, de ninguna manera puede ser tomado como una posición categórica en contra de las vacunas.

La lista de medios que repitieron este bulo es innumerable; en España, como documenta el sitio Libertad Digital, todos los medios de mayor difusión digital hicieron eco de la noticia:

la noticia de su muerte no había pasado a los medios españoles, cosa lógica dado que aquí era una completa desconocida. Hasta la mañana de este viernes. Desde entonces numerosos medios, desde La Vanguardia hasta El País (El País ya ha corregido su nota, dejando un disclaimer), pasando por ABCEl Mundo, El PeriódicoEl Comercio y hasta Mundo Deportivo han publicado informaciones asegurando que se trataba de una periodista antivacunas. Algunos, como Sport o 20 Minutos, llegan tan lejos como para afirmar que se trataba de una activista antivacunas.  

Según el sitio Libertad Digital, el bulo habría empezado en Chile y de ahí se expandió a todos los países de habla hispana, si bien también fue recogido por tabloides británicos y demás.