Facebook informa aumento en eliminación de discurso de odio

Facebook Inc informó el martes que eliminó un fuerte aumento en las publicaciones que promueven la violencia y el discurso de odio en su aplicación, citando mejoras en la tecnología que reconoce automáticamente texto e imágenes.

Las redes sociales más grandes del mundo. La compañía eliminó alrededor de 4,7 millones de publicaciones relacionadas con grupos de odio en su aplicación insignia en el primer trimestre, frente a los 1,6 millones del cuarto trimestre de 2019. También eliminó 9,6 millones de publicaciones que contenían discursos de odio, en comparación con los 5,7 millones del período anterior.

Esto marca un aumento de seis veces en la eliminación de contenido odioso desde la segunda mitad de 2017, el primer período en que Facebook reveló los datos.

coronavirus

La compañía también dijo que colocó una etiqueta de advertencia en alrededor de 50 millones de piezas de contenido relacionado con COVID-19 después de tomar medidas inusualmente agresivas para prohibir la información errónea dañina sobre el nuevo coronavirus al comienzo de la pandemia.

«Sabemos muy bien que estas etiquetas de advertencia son efectivas. El 95 % de las personas ven contenido con una etiqueta y no hacen clic para ver ese contenido», dijo el CEO Mark Zuckerberg dijo a los periodistas en una conferencia de prensa.

Facebook publicó los datos como parte de su quinto Informe de cumplimiento de estándares comunitarios, que se lanzó en 2018 junto con reglas de etiqueta más estrictas en respuesta a la reacción violenta contra la regulación laxa del contenido en su plataforma. Estos incluyen las aplicaciones móviles Messenger y WhatsApp de Facebook.

Amplió su informe el año pasado para incluir información sobre cómo hace cumplir las reglas de la aplicación para compartir fotos Instagram, y dijo el martes que comenzaría a publicar datos trimestralmente.

inteligencia artificial

En una publicación de blog que anuncia el informe, Facebook destacó las mejoras en su «tecnología de detección activa», que utiliza AI detecta contenido ilegal Porque se publica y elimina antes de que otros usuarios lo vean.

«Ahora podemos detectar texto incrustado en imágenes y videos para comprender su contexto completo, y hemos creado una tecnología de coincidencia de medios para encontrar contenido que es idéntico o casi idéntico a nuestras fotos, videos, texto e incluso audio». ‘, decía el comunicado.

Las mejoras en la tecnología también podrían eliminar de manera proactiva más contenido relacionado con las drogas y la explotación sexual, dijo la compañía.

Con menos moderadores disponibles durante la pandemia, Facebook confía más en herramientas automatizadas para moderar contenido como Teorías de la conspiración sobre el coronavirus Ha sido circulado en Internet.

vuelve a la oficina

Zuckerberg dijo en la conferencia telefónica que los contratistas en algunas partes del mundo están comenzando a regresar a sus oficinas, pero advirtió que el ajuste del coronavirus podría tener un mayor impacto en las cifras del segundo trimestre.

La investigadora de desinformación y exanalista de la CIA, Cindy Otis, señaló que el abuso relacionado con el coronavirus aumentó de manera similar en abril después del período de tiempo cubierto por el informe.

Ella insta a Facebook a revelar que tan rapido borra las publicacionesque es un indicador clave de la eficacia de su sistema, ya que a menudo parece actuar solo después de que el contenido se ha vuelto viral y se ha extendido a otras plataformas.

“La pandemia es el evento más grande en la historia de la desinformación y la información errónea”, dijo, “y eso no parece reflejarse en los números que brindan”.