La empresa Meta ha anunciado la implementación de nuevas herramientas, basadas en inteligencia artificial, para proteger a los menores de edad de situaciones de "sextorsión" y abuso de imágenes privadas en la red social Instagram.
Estas funciones están siendo probadas para prevenir que posibles estafadores y delincuentes puedan contactar e interactuar con los jóvenes de forma inapropiada, según informó la compañía.
Una de las herramientas que se introducirá será la detección automática de imágenes con desnudos enviadas a través de mensajes en la aplicación, las cuales serán difuminadas por defecto para los menores de 18 años.
Además, se enviarán mensajes de sensibilización a los usuarios para prevenir el chantaje con fotos de carácter sexual, también conocido como "sextorsión", y se les recordará la importancia de ser cautelosos al enviar contenido sensible.
Estas medidas se implementarán inicialmente en algunos países de América Central y América Latina a partir de mayo, para luego ser extendidas a nivel global en los próximos meses.
Para llevar a cabo estas actualizaciones, Meta utilizará el "aprendizaje automático" a través de inteligencia artificial para analizar y detectar imágenes con desnudos en mensajes de Instagram, siempre protegiendo la privacidad de los usuarios y accediendo a las imágenes solo en caso de denuncia.
Además, se utilizará la inteligencia artificial para identificar posibles cuentas involucradas en estafas de "sextorsión" y restringir sus interacciones con cuentas de menores de edad para prevenir situaciones de riesgo.
Las cuentas identificadas como sospechosas no podrán enviar mensajes privados a menores, tendrán limitaciones en su alcance en la plataforma y no aparecerán en búsquedas, detalló Capucine Tuffier, responsable de protección de la infancia en Meta Francia.
Además, la empresa brindará apoyo y asistencia a los jóvenes que hayan sido abordados por posibles chantajistas, dirigiéndolos a expertos o líneas de ayuda especializadas en este tipo de situaciones.
Somos EL TESTIGO. Una forma diferente de saber lo que está pasando. Somos noticias, realidades, y todo lo que ocurre entre ambos.
Todo lo vemos, por eso vinimos aquí para contarlo.