Facebook está desarrollando un sistema automático de censura en los vídeos que se retransmitan en directo a través de Facebook Live, y para ello va a utilizar inteligencia artificial: se trata de un algoritmo capaz de detectar desnudos, y que solucionaría de manera eficaz el problema del control de este tipo de contenidos.
Guerra a los contenidos prohibidos en Facebook
Recientemente hemos conocido que Facebook va a endurecer su política de contenidos para evitar que los usuarios compartan enlaces a noticias falsas. El anuncio no ha estado exento de polémica, ya que muchos consideran que deberían ser los propios usuarios los que utilizaran su criterio para decidir si creer o no creer en ciertas noticias.
En cualquier caso, en el tema de los desnudos la red social ha sido siempre mucho más estricta que con las noticias, y ha llegado muchas veces a extremos que han generado indignación: desde la eliminación de fotos de madres amamantando a sus bebés hasta la censura de la famosa fotografía de la guerra de Vietnam (también por desnudo)…
Pero el principal problema para el control por parte de Facebook reside en Facebook Live, la herramienta de retransmisión de vídeos en directo. Dado que sería muy difícil controlar en tiempo real todos los vídeos que se están emitiendo para determinar si su contenido es legal y adecuado a las normas de la red social, la empresa ha decidido utilizar inteligencia artificial para detectar automáticamente los desnudos y censurar al momento los contenidos inapropiados.
Esta decisión es la respuesta de la red social a los problemas que se han detectado en el uso de Facebook Live: se sabe, por ejemplo, que la empresa ya está trabajando en otro algoritmo que pueda detectar automáticamente la emisión de contenidos extremistas para evitar la difusión de vídeos que inciten al odio, la discriminación o el terrorismo.
Un algoritmo especial para censurar desnudos
La utilización de un algoritmo capaz de detectar y censurar desnudos en tiempo real supone un auténtico reto informático. En primer lugar, el algoritmo tiene que ser lo suficientemente rápido como para impedir que el contenido se retransmita durante mucho tiempo y a muchas personas. Por otra parte, en Facebook aseguran que la herramienta informática sería solo una ayuda para detectar al momento los desnudos y notificar a responsables de la compañía, por lo que la decisión final sobre la eliminación de la retransmisión quedaría en manos de personas y no de programas.
La creación de este algoritmo, por tanto, está aún en fase de pruebas e investigación, y Facebook no ha confirmado cuándo empezará a funcionar para detectar desnudos en las retransmisiones de vídeos en directo a través de Facebook Live.
Por otra parte, la empresa no ha confirmado aún si utilizará también inteligencia artificial para detectar las noticias falsas publicadas en la red social. Lo más seguro es que, en caso de aplicar algoritmos también para esto, será necesaria la intervención final de una persona para decidir sobre su eliminación.
