Inteligencia artificial de Facebook detectará mensajes suicidas

Inteligencia artificial de Facebook

Salvar vidas identificando prontamente mensajes de posibles suicidas es lo mejor que podría pasar. Una nueva tecnología está en marcha, y es a través del uso de la Inteligencia artificial de Facebook para detectar mensajes suicidas en esta plataforma.

Esta Inteligencia artificial de Facebook utiliza patrones proclives al suicidio movilizando ayuda psicológica para estos usuarios de riesgo y a sus familiares o personas más allegadas, poniéndose en contacto con especialistas en primeros auxilios locales.

Esta Inteligencia artificial para detectar suicidas lleva algún tiempo en pruebas en Estados Unidos y desde esta semana inició su despliegue en todo el mundo excepto en la Unión Europea, debido a que la legalización por proteger la privacidad de sus usuarios ha impedido el uso de información sensible personal.

Inteligencia artificial de Facebook

¿Cómo la Inteligencia artificial de Facebook ayuda a detectar al suicida?

Esta nueva Inteligencia artificial utilizada por Facebook analiza de manera proactiva y sin incurrir en delitos todo el contenido que ha sido publicado en esta red social, desde textos e imágenes así como videos publicados por emisores en vivo. En este contenido se buscan comentarios insinuantes como ¿Estás bien? o ¿Necesitas ayuda? Además de patrones identificados en publicaciones hechas manualmente por posibles suicidas.

Si se encuentra algún indicio, esta tecnología actúa automáticamente y pone en marcha toda la maquinaria de prevención. Señalando a los moderadores humanos los aspectos claves que indican dicha conducta, facilitando así la tarea de identificar estos patrones, haciendo que las opciones de reporte se encuentren accesibles para aquellos usuarios que están observando dichas publicaciones.

Inteligencia artificial de Facebook

Identificar patrones es la clave

La Inteligencia artificial de Facebook para detectar suicidas, ha encontrado en algunos casos riesgo que han pasado desapercibidos por humanos, de esta manera el personal tendrá a su disposición de manera instantánea herramientas lingüísticas necesarias para la comunicación con personas con alto riesgo suicida y además de contacto directo con el personal y autoridades cercanas, especialmente con líneas telefónicas para la prevención y detección de suicidas.

Desde hace ya algún tiempo, Facebook ha reforzado y formado un equipo de revisión, un ejemplo de ello fue durante el pasado mes de mayo al contratar a 3 mil supervisores que se ocupan de este tipo de casos las 24 horas del día, además de contar con la colaboración de asociaciones locales dedicadas a ayudar a personas con riesgo suicida.

Inteligencia artificial de Facebook

¿Preocupación por el mal uso de la Inteligencia artificial?

La idea de salvar vidas puede evitar casos como los de la menor Katelyn Nicole Davis,  y en un futuro, también ayudará a detectar diferentes tipos de acosos, como: bullying, odio, abuso infantil, intimidación y el uso inapropiado de las redes sociales.  Así lo explica Mark Zuckerberg, al referirse al escaneo masivo de los mensajes que pueden preocupar a algunos usuarios de levantar sospechas sobre otros posibles usos malintencionados, específicamente sobre temas políticos y en países con gobiernos autoritarios.

Por su parte,  Alex Stamos, Jefe de Seguridad de Facebook, indicó que el “uso espeluznante, escalofriante y malicioso de la IA será siempre un riesgo, por lo que es importante establecer buenas normas hoy en día en torno al equilibrio del uso de datos frente a la utilidad“.

La entrada Inteligencia artificial de Facebook detectará mensajes suicidas aparece primero en ArrobaGeek.

Source: ArrobaGeek.com
Website: Inteligencia artificial de Facebook detectará mensajes suicidas