Tras los últimos ataques terroristas, la utilización de las redes sociales por parte de los extremistas se ha convertido en una gran preocupación. Facebook ha explicado a través de un comunicado oficial que combate el terrorismo a través de un algoritmo de Inteligencia Artificial que analiza imágenes y textos antes de que se publiquen, además de un equipo de 150 expertos.
Para evitar que los contenidos lleguen a publicarse, Facebook utiliza varias herramientas de Inteligencia Artificial cuyo uso es "reciente", según confiesa la compañía. Facebook se enfoca especialmente en detectar contenidos relacionados con el Estado Islámico y Al Qaeda, aunque no se ha pronunciado sobre otras organizaciones terroristas.
Una de las aplicaciones del software de Inteligencia Artificial de la red social es la de analizar imágenes y vídeos, que compara con contenidos de propaganda difundidos anteriormente por el Estado Islámico. De esta forma, se consigue evitar que se viralicen este tipo de vídeos y que alcancen difusión.
De la misma forma que tiene lugar con las imágenes, Facebook dispone también de sistemas con los que analiza los textos de las publicaciones. La Inteligencia Artificial, que se basa en métodos de machine learning a partir de otras publicaciones de terroristas, sería capaz de detectar los 'posts' relacionados con el terrorismo antes de su publicación.
Facebook ha anunciado también otras herramientas complementarias, como el estudio de páginas de la red social con un alto número de amigos relacionados con el terrorismo y la colaboración entre las demás plataformas propiedad de la compañía, como Instagram y Whatsapp. Además, la red social utiliza técnicas para evitar que los terroristas se creen varias cuentas tras ser bloqueados.
Equipo de contraterrorismo y otras herramientas
A pesar del uso de algoritmos, Facebook ha asegurado que dispone también de personal especializado encargado de supervisar los contenidos sensibles en la red social. Además del sistema de denuncias, que son revisadas por una comunidad de 3.000 trabajadores, Facebook ha creado un equipo de 150 especialistas en contraterrorismo.
Los expertos de la red social se utilizan sobre todo en los casos en que los algoritmos informáticos no funcionan, con el objetivo de diferenciar las publicaciones de terroristas con contenidos periodísticos o de denuncia. El equipo de Facebook incluye "expertos académicos en antiterrorismo, antiguos fiscales, expolicías, analistas e ingenieros", que hablan un total de casi 30 lenguas, según la compañía.
Por último, la compañía de Mark Zuckerberg ha confirmado también que colabora con otras grandes empresas del sector como Microsoft, Twitter y YouTube, instituciones de la Unión Europea y del Reino Unido, y otros programas contra el terrorismo.