Facebook utilizará IA para abordar el extremismo en línea

En una publicación de blog reciente, Facebook anunció su intención de comenzar a utilizar la inteligencia artificial para encontrar y eliminar contenido terrorista, antes de que llegue a los usuarios. Esto se produce después de que el gigante de las redes sociales haya sido ampliamente criticado en todo el mundo, por parecer hacer muy poco para prevenir y eliminar dicho contenido, y no hacer lo suficiente para abordar el extremismo en línea.
En la publicación del blog, Facebook deja en claro que esta herramienta tecnológica es solo una parte de lo que debe ser un esfuerzo de múltiples socios para abordar el extremismo en línea; junto con la introducción de la inteligencia artificial, Facebook trabajará junto con otros expertos de la industria, los gobiernos en todo el mundo, y pidiendo a su propia comunidad de usuarios que informen sobre incidentes que infrinjan los estándares de la comunidad y que permanezcan atentos mientras están en línea.
Al comentar sobre esto, Homer Strong, director de ciencia de datos de Cylance, dice que ‘en general, esta dirección es prometedora. Un problema importante con el uso de humanos para proporcionar una verdad fundamental para la IA es que los humanos tampoco son perfectos. Es necesario que haya procesos para evaluar el juicio humano en paralelo al juicio de la máquina. De lo contrario, la IA puede terminar aprendiendo las subjetividades de los revisores individuales, distrayendo a la IA de aprender correctamente ». Y añade: «Tanto la confianza como la decisión de una IA suficientemente sofisticada pueden pasarse por alto utilizando técnicas de aprendizaje contradictorio. Es más probable que un terrorista bloqueado por Facebook cambie a otra plataforma en lugar de eludir la IA, pero Facebook nunca puede eliminar por completo el contenido terrorista ».
Lea el blog completo aquí