El suicidio y las autolesiones son problemas graves de salud mental que pueden tener consecuencias devastadoras, tanto para las víctimas como para sus seres queridos.
En respuesta a la creciente preocupación por el contenido relacionado con estos temas en las redes sociales, Meta lanzó un nuevo programa llamado Thrive, en colaboración con la Mental Health Coalition y otras grandes empresas tecnológicas como Snapchat y TikTok.
Thrive tiene como objetivo crear una red de colaboración entre plataformas para detectar y eliminar de manera más efectiva contenido dañino que incite al suicidio o la autolesión.
Thrive, de Meta: un sistema colaborativo para evitar suicidio y autolesiones
El programa Thrive permite a las empresas tecnológicas participantes compartir «señales» — hashes, o códigos numéricos que representan imágenes o videos que violan las normas— sobre contenido que muestra suicidios, autolesiones gráficas o que fomenta desafíos virales peligrosos relacionados con estos temas.
La infraestructura técnica que sustenta este sistema se desarrolló por Meta, basada en la misma tecnología que ya utiliza en su programa Lantern, en colaboración con Tech Coalition.
Este enfoque colaborativo marca un importante avance, ya que reconoce que el contenido problemático no se limita a una sola plataforma. El intercambio de señales entre empresas permitirá que las redes sociales investiguen y tomen medidas rápidas si este contenido se propaga a través de otras plataformas.
Prioridades de Thrive
El programa Thrive se enfocará inicialmente en imágenes y videos gráficos que muestren suicidios y autolesiones, así como en contenido que promueva estos actos o fomente desafíos virales peligrosos. Este tipo de contenido tiene una tendencia a propagarse rápidamente, lo que aumenta el riesgo de daño para las personas vulnerables, especialmente los adolescentes.
Meta asegura que las señales compartidas a través de Thrive no incluyen información identificable sobre usuarios o cuentas, sino que se centran exclusivamente en el contenido que viola las normas. Este sistema busca eliminar lo más rápido posible material gráfico y prevenir su propagación en diversas plataformas, asegurando un entorno más seguro para los usuarios.
Medidas preventivas y de apoyo en Meta contra el suicidio y las autolesiones
Entre abril y junio de este año, Meta ya tomó medidas contra más de 12 millones de publicaciones relacionadas con el suicidio y la autolesión en Facebook e Instagram.
Aunque se permite que las personas hablen sobre sus experiencias personales con el suicidio o la autolesión, Meta restringe la visibilidad de este tipo de contenido, especialmente para los adolescentes.
Las publicaciones que incluyan contenido gráfico o promocional se eliminan automáticamente, y Meta está trabajando para que este contenido sea más difícil de encontrar en las búsquedas, garantizando un entorno más saludable para sus usuarios más jóvenes.
Además de la eliminación de contenido perjudicial, Meta conecta a quienes buscan ayuda con organizaciones de apoyo locales como la Suicide and Crisis Lifeline y la Crisis Text Line en los Estados Unidos, brindando recursos y apoyo a quienes más lo necesitan.
Colaboración con la industria y el futuro de Thrive
La colaboración con Snap y TikTok, junto con el trabajo conjunto con la Coalición de Salud Mental, refuerza la misión de Thrive de ofrecer protección a las personas en diversas plataformas.
Este enfoque colaborativo es un paso significativo para mejorar la seguridad en línea y garantizar que el contenido relacionado con el suicidio y la autolesión sea detectado y eliminado rápidamente, sin importar en qué plataforma aparezca.
Thrive es solo el comienzo de un esfuerzo global más amplio para abordar uno de los problemas de salud mental más urgentes en la era digital. Meta y sus socios de la industria seguirán perfeccionando esta iniciativa, mejorando las herramientas disponibles y ampliando las señales que se compartan para abarcar un rango más amplio de contenido.
Con este programa, Meta reafirma su compromiso con la seguridad de los usuarios en sus plataformas y más allá, utilizando la tecnología no solo para conectar personas, sino también para protegerlas en un mundo cada vez más digital.
Para saber más acerca de las aplicaciones de Meta, CLICK aquí.