Facebook e Instagram recurren a la inteligencia artificial para identificar a quien ejerza la ‘pornovenganza’

El término «pornovenganza» es una de las traducciones más habituales de lo que los anglosajones llaman «revenge porn»; esto es, la difusión no autorizada a través de medios tecnológicos de fotografías o vídeHoy en día, ninguna imagen es revisada por los moderadores de contenido si antes un usuario de la red social no ha reportado dicho contenido como ‘inapropiado’. Pero confiar en este método significaba resignarse a no tomar medidas hasta que después de que la difusión del material hubiera comenzado.

 

Es posible, eso sí, que la víctima remita preventivamente a Facebook las imágenes en cuestión para que el servicio pueda identificar cualquier carga no autorizada: se crea un código digital de la imagen para poder identificar copias del mismo material, al tiempo que se elimina el material original de sus servidores… pero el historial de agujeros de seguridad de Facebook proporciona poca seguridad, y no es una vía muy usada.

 

De modo que, para contrarrestar la imagen que la red social fundada por Zuckerberg tiene de quedarse corta a la hora de retirar material sensible -en unos casos- o de pasarse eliminando obras de arte por incurrir en desnudos -en otros-, ahora han decidido poner en marcha una nueva herramienta basada en machine learning, diseñada para buscar e identificar material de pornovenganza de manera automática, con el fin de que pueda ser sometido a revisión humana.

 

La compañía ha entrenado su IA alimentándola con imágenes que Facebook anteriormente confirmadas de pornovenganza, siendo capaz de detectar la combinación de desnudez (total o parcial) con textos despectivos que podrían intentar hacer daño a otra persona.

 

Desde Facebook afirman confiar en aumentar el número de detecciones de este tipo de material, pero también reconocen que no lo identificará en todos los casos y animan a seguir usando las vías de denuncia ya vigentes.os de carácter íntimo, normalmente por parte de antiguas parejas de la persona que protagoniza el material, con el objeto de dañar su reputación.

 

Y, por desgracia, desde que casi todo el mundo cuenta con teléfonos móviles equipados con cámara y conexión a Internet, la ‘pornovenganza’ se ha convertido en un problema grave cuyos efectos exceden con mucho el ámbito de las redes sociales.

 

facebook-provoca-problemas-y-nos-complica-la-vida

Facebook, primer interesado en evitar nuevas crisis de reputación

Por eso Facebook ha querido atajar la presencia de esta clase de material en su plataforma (y en Instagram), antes de que pueda convertirse en la causa de una nueva crisis de reputación para ellos, y ha anunciado la puesta en marcha de tecnología destinada a la búsqueda y eliminación de material multimedia íntimo publicado sin autorización.

 

Fuente:  https://www.xataka.com/inteligencia-artificial/facebook-e-instagram-recurren-a-inteligencia-artificial-para-identificar-a-quien-ejerza-pornovenganza

Autor:  MARCOS MERINO

Otras entradas que pueden interesarte

Richard Melendez Escrito por:

2 comentarios

  1. Quill
    21 marzo, 2019
    Responder

    Esto si seria Terrible

  2. Rafael
    21 marzo, 2019
    Responder

    Atacar eso de manera inmediata sería un punto a favor de Facebook

Responder a Quill Cancelar la respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *