*

X
En busca de poder evaluar qué noticias son falsas o hate speech, Facebook desarrolla un índice para medir la reputación de sus usuarios

Facebook tiene un problema enorme: con más de 2 mil millones de usuarios y una cantidad innumerable de contenido generado diariamente, es sumamente difícil determinar si las historias que circulan en su plataforma son verdaderas o falsas o si contribuyen a generar un clima de odio, racismo y demás.

En el último año ha crecido la presión para que Facebook resuelva de alguna manera el problema de las fake news y su injerencia política. Una de las medidas que ha tomado la red social es hacer que circulen menos las historias publicadas por las páginas de medios de comunicación y evaluar la reputación de cada medio (si son promotores de fake news o no). Aun así, tiene que lidiar con innumerables historias que se viralizan y que pueden ser falsas. Esto supera la capacidad actual de su algoritmo, por lo cual depende, en buena medida, de usuarios que reportan los contenidos como inapropiados. Obviamente, esto ha hecho surgir armadas de trolls que buscan empujar ciertas agendas y, en general, presenta el problema de que las preferencias personales suelen nublar los juicios. Un seguidor de Trump podría, por ejemplo, decir que todas las noticias del New York Times son fake news.   

Por esto, según han informado medios como el Washington Post y Slate, Facebook ha empezado a crear un sistema de reputaciones que evaluará a cada usuario de 0 a 1.0. Esta evaluación será tomada en cuenta cuando se revise una denuncia de contenido inapropiado aunque, de acuerdo con Facebook, no será el único factor a considerarse en la circulación de un contenido. Este puntaje será dinámico, según informó la red social a la revista Slate, y no será usado para crear un sistema de crédito social externo a la plataforma, como se teme. Aquí yace el peligro y la polémica, pues, por ejemplo, en China existe un sistema de reputación en línea que el gobierno toma en cuenta para todo tipo de acciones. Una persona en este sistema con un bajo puntaje difícilmente obtendrá crédito, e incluso podría encontrar dificultades para viajar al extranjero. 

Evidentemente, Facebook debe lidiar con el problema de las fake news si quiere impedir que los gobiernos empiecen a regular su uso pero, por otro lado, evaluar a los usuarios tiene complejas aristas que podrían ser utilizadas de manera perversa. Si se fuera a repetir un data breach como el de Cambridge Analytica, quizás diversas empresas podrían obtener el ranking de los usuarios. Por otra parte, no queda claro si los usuarios tendrán acceso a su puntaje, y está el tema orwelliano de ser evaluados por cada acción. Y, además, el sistema de reputación no resuelve del todo el hecho de que pueda seguir existiendo una especie de juego manipulador en el que se cultive a ciertos usuarios para poder influir en la circulación de las publicaciones en momento estratégicos, ya que, aunque Facebook ha hecho más difícil crear cuentas falsas, sigue habiendo cientos de miles de cuentas creadas para hacer avanzar ciertas agendas. Así, podría surgir una cuidadosa manufactura de las reputaciones. Claro que esto no descalifica lo que intenta Facebook, solamente muestra la complejidad a la que se enfrenta al intentar lidiar con este asunto.  

Te podría interesar:

Glitches apocalípticos de la Matrix: Google Translate emite un extraño mensaje sobre el fin del mundo

Medios y Tecnología

Por: pijamasurf - 08/22/2018

Un aparente error en Google Translate emite un mensaje sobre el fin del mundo y el regreso de Jesús

El sitio Daily Grail ha descubierto un extraño bug o glitch en Google Translate. Google es algo así como la Biblia moderna, y ahora también emite mensajes apocalípticos. Hasta hace unos días, cuando uno iba a Google Translate y ponía la palabra "dog" (perro, que por cierto, en ingles, al revés es God) en hawaiano y pedía traducirla al inglés, Google traducía una frase totalmente apocalíptica:

Doomsday Clock is three minutes at twelve We are experiencing characters and a dramatic developments in the world, which indicate that we are increasingly approaching the end times and Jesus’ return.

El Reloj del Fin del Mundo ha llegado a 3 minutos antes de las 12. Estamos experimentando personajes y dramáticos desarrollos en el mundo, lo que indica que nos estamos acercando cada vez más al regreso de Jesús. 

Al parecer esto ya fue arreglado; sin embargo, sigue ocurriendo cuando se traduce "dog" del hawaiano al yoruba. Una especie de cibersantería. Es probable que se trate de un programador trickster dentro de Google, pero de cualquier manera no será insignificante para algunas personas. Tampoco es del todo posible descartar que se trata de principios autónomos de inteligencia artificial, pues como han revelado los fundadores de Google, esta empresa no se trata de un buscador sino de crear una inteligencia artificial. O quizás, como dice Greg en The Daily Grail, tal vez sea Dios esforzándose por hacer llegar su mensaje a un mundo distraído. Después de todo, a veces Dios se manifiesta en los lugares menos esperados.

 

Foto: Trandocutin