Viol diffusé en direct : Facebook n'a toujours pas trouvé de solution contre les vidéos violentes

On le sait : pour Mark Zuckerberg, l'avenir de Facebook est dans la vidéo. Mieux : la vidéo en direct.

VOIR AUSSI : Quel impact le fait de voir la mort sur Facebook a-t-il sur notre santé mentale ?

Mais que faire de cet avenir quand on sait qu'il peut être le véhicule des pires horreurs ? Récemment, un Facebook Live a réuni 40 internautes qui ont assisté au viol d'une jeune fille de 15 ans, à Chicago, sans que personne ne réagisse. En juillet dernier, c'était la mort d'un citoyen américain, Philando Castile, alors qu'un policier venait de lui tirer quatre balles à bout portant, filmé par sa petite amie sous le choc (le temps qu'elle soit retirée de Facebook, la vidéo présentant le message de prévention "Attention, vidéo graphique. Les vidéos ayant un contenu explicite peuvent choquer, offenser et perturber. Voulez-vous vraiment voir ça ?" avait accumulé près de 5 millions de vues).

Comment prévenir ce type d'usage malfaisant quand on est un géant de la tech hébergeant l'outil de diffusion en question ? Si la violence n'a rien de nouveau dans notre monde, c'est bien sa force de propagation qui prend une nouvelle dimension avec le live. "Il y a 10 ans, les contenus étaient majoritairement textuels ou photographiques. Aujourd'hui, ce sont les vidéos", avait fait remarquer le créateur de Facebook lors du Mobile World Congress. De toute évidence, ce nouveau paradigme amène des défis en matière d'encadrement légal. 

"Nous prenons très au sérieux la question des vidéos montrant les agressions sexuelles parce qu'en étant partagées, celles-ci glorifient la violence", a fait savoir un porte-parole de Facebook interrogé par Mashable. Il ajoute : "La réflexion va d'ailleurs au-delà des vidéos elles-mêmes : nous souhaitons également bannir de notre service tout individu enfreignant les normes de la communauté."

Une modération qui a ses limites

"Nous avons une équipe dédiée 24 heures sur 24 et 7 jours sur 7, chargée de prendre en main tout problème dès que celui-ci est signalé", pouvait-on lire dans un communiqué du réseau social mis en ligne en juillet 2016. S'appliquent aux vidéos les mêmes règles qu'ailleurs sur la plateforme : un flux en direct peut se voir supprimé s'il ne respecte pas le règlement du réseau social. Et lorsque la vidéo en question n'a pas été signalée en direct, elle peut aussi être supprimée a posteriori. Reste qu'entre le moment où elle est rapportée aux administrateurs et le moment où elle est réellement retirée, il peut se passer un certain laps de temps, parfois suffisant pour que la séquence gagne tristement en notoriété.

À moins d'automatiser la surveillance des vidéos (peut-être en intégrant du machine learning, comme par exemple le système Cloud Video Intelligence API de Google qui permet de reconnaître des objets – par exemple, des armes – dans une vidéo) ? Mais là encore, comment distinguer les vidéos faisant la promotion de la violence et les vidéos d'actualités (par exemple, de manifestations) qui informent sur le monde dans lequel nous vivons ?

Pour reprendre les deux exemples avec lesquels nous avons commencé cet article (le viol collectif à Chicago et la mort de Philando Castile), il faut sans doute opérer une disctinction entre le plaisir sadique de montrer la violence et l'urgente nécessité de documenter une injustice. Dans le dernier cas, rappelons qu'à défaut de statuer sur le rôle de Facbook, Mark Zuckerberg avait partagé ces quelques mots : "Je nous souhaite de ne pas avoir à revoir une vidéo comme celle-ci, mais il est certain qu'elle nous rappelle comme il est impératif de se réunir pour construire un mode plus ouvert et connecté – et tout le chemin qu'il nous reste à faire."

Au-delà de ces constats que nous partagons tous, il reste désormais aux acteurs d'Internet la mission de réfléchir collectivement à des solutions face à la diffusion de la violence en ligne. Dans un monde où l'instantané s'impose toujours plus comme horizon numérique, ce challenge pressant relève du vivre ensemble.

– Retrouvez la version originale sur Mashable.

Quelque chose à ajouter ? Dites-le en commentaire.