Cloudflare bloque Kiwi Farms en raison du « danger imminent » posé par les campagnes de harcèlement et les menaces provenant du forum

Après avoir expliqué qu'elle n'avait pas l'intention de le faire

Cloudflare a publié un billet de blog expliquant les circonstances dans lesquelles les sites Web abusifs sont éligibles au service. Rédigé par le PDG Matthew Prince et la vice-présidente Alissa Starzak, responsable mondiale des politiques publiques, le message est intitulé « Politiques et approche d'abus de Cloudflare ». Il essaie de clarifier pourquoi l'entreprise modère parfois le contenu abusif et parfois non. Face au tollé provoqué par sa réaction, Cloudflare a cédé et bloqué Kiwifarms tout en assurant que « ce n'est pas la fin ». Du côté de Kiwifarms, l'heure est à la déception. Dans un billet intitulé « Matthew Prince a menti », le service regrette le précédent qui a été créé : « Chez Cloudflare, avec suffisamment de pression, une seule publication d'un compte étrange peut menacer une communauté de 9 ans et les dizaines de milliers de personnes qui l'utilisent chaque jour depuis des années. Il n'y a jamais eu d'incident violent dans notre histoire, ce que l'on ne peut pas dire pour de nombreux autres sites encore sur Cloudflare. Ce récit ressemble à un mensonge tourné pour sauver la face. ».

La société de sécurité technologique Cloudflare a annoncé qu'elle abandonnait le site Web de Kiwi Farms en raison du « danger imminent » posé par les campagnes de harcèlement en ligne et les menaces provenant du site. Cette décision intervient quelques jours seulement après que le directeur général de Cloudflare, Matthew Prince, a initialement soutenu la décision de l'entreprise de protéger le site après qu'il ait été lié à des campagnes de harcèlement réelles. Le site, connu comme un forum permettant aux harceleurs d'organiser des campagnes contre leurs cibles, a été lié à au moins trois suicides. Samedi, Prince avait fait marche arrière, déclarant au Washington Post : « Nous pensons qu'il y a un danger imminent, et le rythme auquel les forces de l'ordre sont capables de répondre à ces menaces que nous ne pensons pas être assez rapide pour suivre ». Il a noté que les contributeurs du forum affichaient les adresses personnelles des personnes et demandaient qu'elles soient abattues. Les visiteurs du site sont désormais accueillis par le message suivant*: « En raison d'une menace imminente et urgente pour la vie humaine, l'accès au contenu de ce site est bloqué via l'infrastructure de Cloudflare ».

L'annonce met en doute l'avenir du forum Internet marginal, bien que certains de ses membres aient déjà anticipé que Cloudflare pourrait agir et ont commencé à explorer d'autres options.

La streameuse, Clara Sorrenti, connue des fans sous le nom de Keffals, a répondu samedi dans un tweet. « Cloudflare a abandonné Kiwi Farms. Notre campagne publiera bientôt une déclaration », a-t-elle déclaré.

Le PDG de Cloudflare, Matthew Prince, a annoncé cette décision dans un billet de blog et n'a pas mentionné Sorrenti par son nom, mais a déclaré que les abus de Kiwi Farms s'étaient intensifiés en réponse à sa campagne.

Le propriétaire de Kiwi Farms, Josh Moon, a publié un message sur le compte Kiwi Farms Telegram et a déclaré que la décision de Cloudflare avait été « prise sans aucune discussion ».

« Le message que j'ai reçu est un vague avis de suspension. Le message de Matthew Prince n'est pas clair », peut-on lire sur le message. « S'il y a une menace pour la vie sur le site, je n'ai reçu aucune communication d'aucune application de la loi ».

Contexte

Tout a commencé le 5 août, lorsque Keffals, qui s’est fait connaître sur la plate-forme Twitch avec des streams de jeux vidéo, est victime d’un swatting. Cette pratique consiste à faire croire à la police que des événements graves se déroulent à l’adresse de la victime, de façon que les forces de l’ordre et plus particulièrement le SWAT (le GIGN américain) s’y rendent. Keffals s’est ainsi retrouvée sans raison tenue en joue à son domicile de London, dans l’Ontario, et « mégenrée » à de nombreuses reprises – le message anonyme ayant mis la police sur sa piste ayant volontairement utilisé son ancien état civil.


Après avoir raconté cette première épreuve dans une vidéo postée le 9 août sur YouTube (vidéo ci-dessus), la vidéaste et son fiancé font l’objet d’une deuxième attaque, leurs harceleurs ayant réussi à identifier l’hôtel dans lequel ils se sont réfugiés grâce à une simple photo de leur chat sur un lit. Depuis, comme le raconte Clara Sorrenti dans une deuxième vidéo publiée le 18 août, le couple vit « dans un lieu tenu secret ». Elle y accuse les membres du forum Kiwi Farms, considérés par le New York Magazine comme « la plus grande communauté de harceleurs sur le Web », d’avoir rendu son adresse publique – une pratique connue sous le nom de doxing. Elle révèle aussi faire l’objet d’une campagne de haine « depuis plusieurs mois » et dit « craindre à l’avenir une escalade dans la violence à son endroit ».

Cloudflare cède et explique pourquoi

Nous avons bloqué Kiwifarms. Les visiteurs de l'un des sites Kiwifarms qui utilisent l'un des services de Cloudflare verront une page de blocage Cloudflare et un lien vers ce message. Kiwifarms peut déplacer ses sites vers d'autres fournisseurs et, ce faisant, revenir en ligne, mais nous avons pris des mesures pour bloquer l'accès à leur contenu via notre infrastructure.

C'est une décision extraordinaire à prendre pour nous et, compte tenu du rôle de Cloudflare en tant que fournisseur d'infrastructure Internet, une décision dangereuse avec laquelle nous ne sommes pas à l'aise. Cependant, la rhétorique sur le site de Kiwifarms et les menaces spécifiques et ciblées se sont intensifiées au cours des dernières 48 heures au point que nous pensons qu'il existe une urgence sans précédent et une menace immédiate pour la vie humaine contrairement à ce que nous avons vu auparavant de Kiwifarms ou de tout autre client auparavant.

Menaces croissantes

Kiwifarms a souvent été l'hôte de contenus révoltants. Un contenu révoltant ne crée pas à lui seul une situation d'urgence qui nécessite l'action que nous prenons aujourd'hui. Commençant il y a environ deux semaines, une campagne de pression a commencé dans le but de déplateformer Kiwfarms. Cette campagne de pression ciblait Cloudflare ainsi que d'autres fournisseurs utilisés par le site.

Cloudflare fournit des services de sécurité aux Kiwifarms, les protégeant des attaques DDoS et autres cyberattaques. Nous n'avons jamais été leur hébergeur. Comme nous l'avons souligné mercredi dernier, nous ne pensons pas que la suppression des services de sécurité soit appropriée, même pour des contenus révoltants. Dans un monde respectueux de la loi, la réponse au contenu, même illégal, n'est pas d'utiliser d'autres moyens illégaux comme les attaques DDoS pour le faire taire.

Nous n'agissons pas non plus directement à cause de la campagne de pression. Bien que nous ayons de l'empathie pour ses organisateurs, nous nous engageons en tant que fournisseur de sécurité à protéger nos clients même lorsqu'ils vont profondément à l'encontre de l'opinion populaire ou même de notre propre morale. La politique que nous avons formulée mercredi dernier reste notre politique. Nous continuons de croire que le meilleur moyen de reléguer les cyberattaques dans les poubelles de l'histoire est de donner à chacun les outils pour les prévenir.

Cependant, à mesure que la campagne de pression s'intensifiait, la rhétorique sur le site de Kiwifarms augmentait également. Se sentant attaqués, les utilisateurs du site sont devenus encore plus agressifs. Au cours des deux dernières semaines, nous avons contacté de manière proactive les forces de l'ordre dans plusieurs juridictions, soulignant ce que nous pensons être des actes criminels potentiels et des menaces imminentes pour la vie humaine qui ont été publiés sur le site.

Procédure légale

Alors que les forces de l'ordre dans ces régions s'efforcent d'enquêter sur ce que nous et d'autres avons signalé, malheureusement, le processus avance plus lentement que le risque croissant. Bien que nous pensions que dans toutes les autres situations auxquelles nous avons été confrontés - y compris le Daily Stormer et 8chan - il aurait été approprié, en tant que fournisseur d'infrastructure, que nous attendions une procédure judiciaire, en l'occurrence la menace imminente et urgente pour la vie humaine qui continue de l'escalade nous amène à prendre cette mesure.

Les cas difficiles font de mauvaises lois. Il s'agit d'un cas difficile et nous déconseillons à quiconque d'y voir un précédent. Les politiques que nous avons énoncées mercredi dernier restent nos politiques. Pour un fournisseur d'infrastructure comme Cloudflare, la procédure judiciaire reste la bonne façon de traiter les contenus révoltants et potentiellement illégaux en ligne.

Mais nous avons besoin d'un mécanisme lorsqu'il y a une menace d'urgence pour la vie humaine pour que les fournisseurs d'infrastructures travaillent rapidement avec les autorités légales afin de garantir que les décisions que nous prenons sont fondées sur une procédure régulière. Malheureusement, ce mécanisme n'existe pas et nous prenons donc seuls cette décision d'urgence inconfortable.

Pas la fin

Enfin, nous sommes conscients et inquiets que notre action ne puisse qu'attiser les flammes de cette situation d'urgence. Kiwifarms lui-même trouvera très probablement une autre infrastructure qui lui permettra de revenir en ligne, comme le Daily Stormer et 8chan l'ont fait eux-mêmes après que nous les ayons résiliés. Et, même s'ils ne le font pas, les individus qui ont utilisé le site pour terroriser de plus en plus se sentiront encore plus isolés et attaqués et pourraient se lâcher davantage. Il existe un risque réel qu'en prenant cette mesure aujourd'hui, nous ayons encore aggravé l'urgence.

Nous continuerons à travailler de manière proactive avec les forces de l'ordre pour les aider dans leurs enquêtes sur le site et les personnes qui y ont publié ce qui pourrait être du contenu illégal. Et nous reconnaissons que même si notre blocage de Kiwifarms résout temporairement la situation, cela ne résout en aucun cas le problème sous-jacent. Cette solution nécessitera beaucoup plus de travail dans la société. Nous espérons que notre action d'aujourd'hui contribuera à susciter des conversations en vue de résoudre le problème plus large. Et nous sommes prêts à participer à cette conversation.

« Matthew Prince a menti », estime Kiwifarms

Le PDG de Cloudflare, Matthew Prince, a déclaré qu'une menace imminente pour la vie humaine était la raison pour laquelle il a révoqué notre service.


Il élabore dans son article et affirme que la rhétorique violente s'est intensifiée.


Cela semble être basé sur l'une des deux choses suivantes*:

1. Un post fait sur 4chan's /pol/ avec une photo prise à l'extérieur d'un appartement en Irlande qui fait référence au forum.


2. Une série de publications faites par un utilisateur, @Washizu Iwao (anciennement @Serotonin).


Cela signifie qu'une communauté avec 16 000 connexions quotidiennes est punie pour le comportement d'un seul utilisateur, ou d'une personne qui n'est même pas sur notre site Web.

Le message de @Washizu Iwao a été publié à 21h42, heure de l'UE. Il a été signalé sept fois. L'utilisateur a également été banni. L'utilisateur a lui-même supprimé le message avec la raison "retardé" 14 minutes après sa publication, et 2 minutes après que #DropKiwiFarms a tweeté à ce sujet.

Notre site Web ne rapporte rien. Tous nos modérateurs sont bénévoles. Il a fallu 29 minutes à Facebook (avec une équipe de modérateurs rémunérés 24 heures sur 24, 7 jours sur 7) pour supprimer la fusillade de Christchurch de Facebook Live.

Cet utilisateur s'est inscrit en 2020, mais le compte est resté inactif jusqu'en juillet 2022.


Il a fait un seul message à faible portée dans un tableau sur le sujet avant de redevenir inactif jusqu'au 21 août. Chaque message ultérieur était dans le fil Keffals.

Cette personne n'est pas un membre actif de la communauté. Cela semble être un compte dormant auquel quelqu'un a eu accès en juillet et qu'il a gardé sous la main pour l'utiliser comme ça.

Le 31 août, Matthew Prince a publié une déclaration ferme défendant son rôle de fournisseur de services et non d'organisme de réglementation. 3 jours plus tard, quelque chose lui a fait peur. Je ne sais pas ce que c'était, mais cela a atteint le résultat souhaité. Dans une explication publiée tard un samedi, dans laquelle nous pouvons lire de la précipitation et de l'irrationnalité, il tente d'atténuer son retournement de veste entre les deux déclarations opposées en disant que nous sommes le pire site qu'il ait jamais vu - parce qu'un message (qui a déjà été supprimé à l'époque) a proféré une menace violente.

Le précédent a été créé. Chez Cloudflare, avec suffisamment de pression, une seule publication d'un compte étrange peut menacer une communauté de 9 ans et les dizaines de milliers de personnes qui l'utilisent chaque jour depuis des années. Il n'y a jamais eu d'incident violent dans notre histoire, ce que l'on ne peut pas dire pour de nombreux autres sites encore sur Cloudflare. Ce récit ressemble à un mensonge tourné pour sauver la face.

Contrairement à tout autre moment où Cloudflare a refusé de continuer à proposer ses services, la page d'erreur de notre domaine est unique. Elle existe pour défendre la prise de décision de Cloudflare et pour diffamer notre communauté en tant qu'organisation dangereuse sans substance autre que les propres mots de Matthew Prince. Il n'a jamais jugé nécessaire de saisir un domaine et de le convertir en une déclaration de relations publiques pour Cloudflare avant aujourd'hui.

Même maintenant, je n'ai reçu aucune communication de Cloudflare ou de tout organisme chargé de l'application de la loi concernant #DropKiwiFarms ou ses membres.

Cela me préoccupe et devrait profondément préoccuper tout le monde quant à l'état d'Internet.

J'aurai plus à dire plus tard. Je n'ai pas encore déplacé mes domaines de Cloudflare, car une partie de moi pense que Matthew reconnaîtra cela comme une erreur de jugement. La décision est tout simplement trop stupide pour que je l'accepte comme réalité.

Un site controversé

Les origines de Kiwi Farms remontent à 2007 sur 4Chan. Les membres de ce forum ont pour spécialité de se moquer, de harceler en meute et de pousser à bout des internautes, en particulier les personnes transgenres, en surpoids ou atteintes du syndrome d’Asperger. Au moins une personne prise pour cible par Kiwi Farms s’est suicidée en 2016, rappelait, à l’époque, le New York Magazine. Les membres du forum ont décliné toute responsabilité et continué, depuis, à harceler de nombreuses personnes qu’ils considèrent comme « excentriques ».

Au cours des dix dernières années, Kiwi Farms a été liée à de multiples attaques de doxing ou de swatting. Au moins deux personnes se sont suicidées après avoir été ciblées par des utilisateurs de Kiwi Farms, selon des messages des victimes elles-mêmes ou d’amis cités dans des reportages.

Le site dropkiwifarms.net a d'ailleurs été créé pour appeler Cloudflare à cesser de proposer ses services à Kiwi Farms. Sur le site, il est apporté la description ci-dessous de Kiwi Farms :

Sources : Cloudflare, kiwifarms, drop kiwifarms

Et vous ?

Que pensez-vous de la décision de Cloudflare ?
Que pensez-vous lorsque Cloudflare assure que la pression n'a rien à voir dans leur décision qui a été prise uniquement sur la base d'un danger imminent ?
Que pensez-vous des propos de Kiwi Farms qui indique ne pas avoir été notifié d'un quelconque danger par les forces de l'ordre ou par Cloudflare ?
Que pensez-vous des propos de Kiwi Farms qui indique ne pas avoir été notifié d'un arrêt des services de Cloudflare ?
« Contrairement à tout autre moment où Cloudflare a refusé de continuer à proposer ses services, la page d'erreur de notre domaine est unique. Elle existe pour défendre la prise de décision de Cloudflare et pour diffamer notre communauté en tant qu'organisation dangereuse sans substance autre que les propres mots de Matthew Prince. Il n'a jamais jugé nécessaire de saisir un domaine et de le convertir en une déclaration de relations publiques pour Cloudflare avant aujourd'hui ». Qu'en pensez-vous ?
La situation crée-t-elle, selon vous, un précédent ? Dans quelle mesure ?