Pretenden erradicar fotos y vídeos con desnudos de menores

Meta anunció que financiará una iniciativa que busca eliminar las nudes de menores en Facebook e Instagram. Conocida como Take It Down, la nueva plataforma permitirá que las imágenes explícitas publicadas sin el consentimiento de la víctima se eliminen en automático. La herramienta puede identificar, borrar y prevenir que las fotos y videos se publiquen en redes sociales como Facebook, Instagram, OnlyFans, Yubo o en PornHub.

Take It Down es un segundo intento de Meta por erradicar la pornografía infantil. Hace algunos años, Facebook anunció una prueba piloto en la que los usuarios podían subir fotos o videos desnudos a Messenger. El contenido no solo sería catalogado como explícito, sino que también se etiquetaría como no consensuado; esto permitiría a la plataforma identificar y bloquear las imágenes a futuro.

Si bien la intención era buena, el programa era una invasión a la privacidad, ya que requería que el usuario compartiera sus imágenes con Facebook. Take it Down toma un camino diferente, puesto que no es necesario subir las fotografías. La herramienta solicita adjuntar fotos o videos para asignarles un valor hash, una huella digital que se utiliza para identificar una copia exacta en internet.

De acuerdo con la web de Take It Down, si Facebook o Instagram detectan una imagen o video que coincide con el valor hash, puede tomar medidas para limitar la difusión y eliminarlos. La herramienta funciona para cualquier contenido compartido en Facebook, Instagram y Messenger, siempre que las imágenes no estén cifradas El servicio puede ser utilizado por menores de 18 años de todo el mundo que hayan compartido en línea imágenes de desnudos o sexualmente explícitas.

Meta y otras compañías buscan acabar con el porno de venganza

El anuncio de esta plataforma llega en un momento importante para Meta y otras compañías que intentan lidiar con el porno de venganza. La práctica, definida como una forma de ciberviolencia sexual de género por Leire Lasuen (PantallasAmigas), toma fuerza con la explosión de las redes sociales. En algunos casos, la víctima no soporta las burlas y vejaciones, recurriendo al suicidio como única salida.

La operación de Take it Down corre a cargo del Centro Nacional para Niños Desaparecidos y Explotados (NCMEC). Aunque las organizaciones financiadas por Meta y otras empresas se encuentran en Estados Unidos, la plataforma está disponible para usuarios de todo el mundo. En la web de preguntas frecuentes se establece que cualquier menor de 18 años que aparezca en imágenes desnudo o sexualmente explícitas, podrá acceder al servicio, sin importar su ubicación.

«Este problema ha sido increíblemente importante para Meta durante mucho, mucho tiempo porque el daño causado es bastante grave en el contexto de adolescentes o adultos», dijo Antigone Davis, directora de seguridad global de Meta. «Estamos trabajando con el NCMEC para promoverlo en nuestras plataformas, además de integrarlo en Facebook e Instagram para que las personas puedan acceder fácilmente cuando denuncien contenido potencialmente infractor», mencionó.

Por ahora, Take it Down solo está disponible para Facebook, Instagram, OnlyFans, Yubo y PornHub. Se desconoce si redes sociales como Twitter, Snapchat o TikTok se sumarán a la iniciativa. Es importante mencionar que su uso no se limita a menores; los padres de las víctimas, así como adultos que compartieron imágenes íntimas cuando eran menores, también podrán hacerlo.