Pour détecter plus rapidement les internautes suicidaires et pour les empêcher de passer à l’acte, Facebook, le géant américain des réseaux sociaux, vient d’annoncer le lancement d’une nouvelle fonctionnalité de l'intelligence artificielle qui va être déployée partout dans le monde sauf dans l'Union Européenne où la législation sur la protection des données des utilisateurs la rend inutilisable.
En effet, ce programme a « appris » à détecter des contenus en analysant des messages précédemment signalés comme suicidaires par des humains. Le logiciel observe aussi les commentaires, comme « est-ce que tu vas bien ? » ou « est-ce que tu as besoin d’aide? ». Une fois détecté, le post dangereux est donc signalé à l'équipe de modération qui se chargera de tenter d'entrer en contact avec la personne, de contacter des proches ou de prévenir les secours si le danger est imminent.
L’outil vient d’être lancé aux États-Unis, et devrait arriver dans d’autres pays prochainement, à l’exception de l’Europe. À ce jour, il aurait permis de sauver plus de 100 personnes. Mais si l’initiative est à saluer, il ne faut pas perdre de vue que cette IA récoltera énormément de données sur les humeurs de ses utilisateurs, qu’ils aient des tendances suicidaires ou pas.
