Les modérateurs bénévoles de la communauté r / blackladies de Reddit — un forum de discussion en ligne qui compte actuellement plus de 40 000 membres — ont écrit une lettre ouverte décrivant leurs frustrations avec le site Web populaire en août 2014. Ils avaient présenté leur babillard électronique, connu sous le nom de subreddit, comme un espace sûr pour les femmes noires, mais étaient inondés de commentaires haineux et de liens vers du contenu raciste provenant de comptes anonymes. « Ils sont implacables, venant en barrages », ont écrit les modérateurs. « Nous avons un problème d’utilisateur raciste et Reddit ne prendra aucune mesure. »

Plusieurs mois plus tard, Alexis Ohanian, l’un des co-fondateurs de Reddit, a rejoint un fil de commentaires sur r / blackladies discutant de la lettre. Ohanian, qui était récemment revenu dans l’entreprise en tant que président exécutif, a déclaré que la protection des communautés comme la leur contre les abus était une « priorité absolue. »Il a sollicité des suggestions sur la façon de le faire et a exprimé son intérêt pour un « dialogue continu avec tous les mods qui ont signé la lettre ouverte. »

L’utilisateur de Reddit, TheYellowRose, un modérateur de r / blackladies qui a aidé à écrire la lettre, a déclaré lors d’une récente interview téléphonique que le dialogue promis par Ohanian ne s’était jamais matérialisé. Pour TheYellowRose, qui a demandé à n’être identifiée que par son pseudonyme car elle est encore régulièrement victime d’abus racistes et craint la violence physique si son identité est révélée, l’enthousiasme initial d’Ohanian pour l’idée semblait n’être qu’un exemple de plus des dirigeants de l’entreprise essayant de dire les bonnes choses sans confronter sérieusement la façon dont leur site hébergeait des extrémistes et leur donnait un endroit pour s’organiser.

Reddit a fait face à plusieurs points d’inflexion potentiels dans son approche du racisme au cours des six années qui ont suivi, mais n’a jamais entrepris un calcul suffisamment complet pour satisfaire ses critiques. Il fait face à un autre grand moment au lendemain de l’assassinat de George Floyd. Encore une fois, la pression vient en partie des bénévoles qui modèrent les innombrables forums de discussion de Reddit. Le 1er juin, Steve Huffman, un autre cofondateur qui est directeur général depuis 2015, a envoyé une note aux employés de Reddit exprimant son soutien au mouvement Black Lives Matter. « Nous ne tolérons pas la haine, le racisme et la violence, et bien que nous ayons du travail à faire pour les combattre sur notre plateforme, nos valeurs sont claires », a-t-il écrit.

Beaucoup ou les utilisateurs du site ont estimé avoir entendu cela trop de fois auparavant. Plusieurs jours plus tard, les modérateurs de plus de 800 forums de discussion ont commencé à signer une lettre ouverte appelant l’entreprise à interdire les discours de haine, à fermer les sous-rédacteurs racistes et misogynes et à offrir un meilleur soutien aux modérateurs en embauchant plus de community managers. « Nous aimerions les voir prendre au sérieux le problème de la suprématie blanche qu’ils ont », a déclaré Therese Singer, une professeure d’anglais à la retraite dans les années 60 qui passe plusieurs heures par jour à modérer des dizaines de forums Reddit. Elle a demandé à être identifiée par son nom de jeune fille car elle craignait des représailles en ligne.

Cette fois, Ohanian ne cherche pas à trouver lui-même une solution. Ohanian – maintenant mieux connue comme l’épouse de l’icône du tennis Serena Williams, l’une des célébrités noires les plus célèbres au monde — a démissionné du conseil d’administration de Reddit le 5 juin, rompant les liens avec l’entreprise. Il a demandé à Reddit de nommer un membre noir du conseil d’administration pour le remplacer. « Il est attendu depuis longtemps pour faire la bonne chose. Je fais cela pour moi, pour ma famille et pour mon pays « , a-t-il tweeté. Ohanian a refusé une demande d’entrevue.

Le geste d’Ohanian était conçu comme un geste public pour remédier à un manque de diversité si nécessaire. Mais le mouvement était aussi un aveu de défaite personnelle et une illustration de la relation dysfonctionnelle entre les fondateurs de Reddit. Huffman a déclaré dans une interview cette semaine qu’Ohanian ne lui avait pas informé à l’avance de son départ prévu et qu’ils n’avaient pas parlé depuis.

Huffman a déclaré que l’entreprise allait, pour la première fois, mettre en œuvre une politique interdisant explicitement les discours de haine. Pour remplacer Ohanian au conseil d’administration, il a nommé Michael Seibel, le PDG de Y Combinator, le célèbre incubateur de startups qui a été l’un des premiers investisseurs de Reddit. Seibel, que Huffman connaît depuis des années, est noir. Lors d’un forum pour les entrepreneurs noirs organisé par Bloomberg, Seibel a déclaré qu’il existait une responsabilité inhérente pour un site de l’échelle de Reddit de maintenir certaines normes. « Cela me fait vraiment chier quand les gens disent simplement: « Hé, ce n’est qu’un site Web, les gens vont faire tout ce qu’ils vont faire » », a-t-il déclaré.

TheYellowRose n’a pas été impressionné par le geste d’Ohanian. « Il était en mesure de faire quelque chose et à la place, il est parti. J’aurais aimé qu’il ait fait quelque chose et qu’il ait ensuite donné son siège à quelqu’un d’autre, au lieu de simplement partir « , a-t-elle déclaré. « Nous avons espéré et souhaité qu’avoir une fille noire et une femme noire l’aiderait à voir la lumière, pour ainsi dire, et à faire quelque chose. »

Quant à savoir si Huffman peut aider à réformer Reddit, a déclaré TheYellowRose, « Je suppose que cela dépend de l’objectif de Reddit. Si c’est pour être un havre de liberté d’expression où les nationalistes blancs peuvent continuer à recruter des gens, oui, c’est le bon gars. Si c’est un endroit où tout le monde devrait se sentir en sécurité et bienvenu, alors il a du travail à faire. »

Les politiques de modération de contenu d’entreprises comme Facebook, Twitter et YouTube d’Alphabet ont été au centre du débat politique national. Reddit a beaucoup des mêmes problèmes. Mais le site a gardé un profil un peu plus bas en partie parce que, bien qu’il soit l’un des sites Web les plus populaires sur Internet, il n’est jamais devenu un énorme succès en tant qu’entreprise.

Huffman et Ohanian ont lancé Reddit en 2005, et l’ont vendu à Conde Nast un an plus tard. Cela les a rendus personnellement riches, mais a transformé le site en une petite propriété médiatique au sein d’un conglomérat plus large, au lieu d’une entreprise technologique à part entière. Alors que Facebook a radicalement changé au cours de la dernière décennie, il y a eu moins de changements majeurs à Reddit, qui fonctionne désormais de manière indépendante mais compte toujours Advance Publications Inc., la société mère de Conde Nast, en tant qu’actionnaire principal. Il reste une série de forums de discussion dont les utilisateurs pseudonymes votent sur les publications qui devraient être les plus en évidence.

Depuis ses débuts, Reddit a développé une réputation de free-for-all, quelque chose que ses fondateurs ont tour à tour adopté ou promis de contrôler. En 2012, Ohanian l’a qualifié de « bastion de la liberté d’expression. »Trois ans plus tard, décrivant l’intention de l’entreprise de nettoyer les coins les plus offensants du site, Huffman avait un message différent. « Ni Alexis ni moi n’avons créé Reddit pour être un bastion de la liberté d’expression, mais plutôt comme un lieu où une discussion ouverte et honnête peut avoir lieu », a-t-il écrit en juillet 2015.

L’entreprise dévie des responsabilités importantes — et du stress — sur les modérateurs, qui ne sont pas rémunérés. À la suite de l’assassinat de Michael Brown en 2014 à Ferguson, dans le Missouri, par exemple, les modérateurs du subreddit r / blackladies ont compilé une série de messages racistes qu’ils avaient reçus et les ont présentés à un administrateur du personnel, demandant au site de prendre des mesures contre leurs harceleurs. « Il ne fait aucun doute qu’il y a des trolls idiots qui commentent votre subreddit », a répondu l’administrateur dans un message consulté par Bloomberg. « Cela se produit dans chaque subreddit et c’est vraiment aux mods de s’en occuper. »

La tentative de Reddit de contrôler le discours sur sa plate-forme repose en partie sur la vision fataliste selon laquelle cela est inutile, car le site n’est qu’un reflet du monde en général. En fait, des chercheurs de Georgia Tech ont montré que Reddit pouvait être efficace lorsqu’il prenait des mesures. En 2015, la société a supprimé un certain nombre de subreddits racistes, dont un notoire appelé Coontown. Le résultat a été que de nombreux comptes abusifs qui avaient été publiés régulièrement sur ces forums ont complètement fermé, et les comptes restants qui avaient été publiés sur les forums interdits ont publié des discours de haine à des fréquences considérablement plus basses.

Des outils développés indépendamment ont également été couronnés de succès.Les modérateurs de r / blackladies et d’autres subreddits ont fait l’éloge d’un outil qui permet aux modérateurs d’empêcher tout utilisateur ayant publié sur certains autres subreddits de commenter dans le leur. Cela a coupé la capacité des personnes qui utiliseraient certains subreddits pour planifier des campagnes de harcèlement contre d’autres, bien que cela ait parfois empêché certaines personnes de poster à certains endroits même si elles n’étaient pas impliquées dans des abus.

À l’approche de l’élection présidentielle de 2016, une sorte d’omni-canal pour l’extrême droite du site a émergé sous la forme du r/The_Donald. Apparemment un subreddit pour les partisans de Donald Trump, il est devenu un endroit pour tester sur le marché des mèmes de droite et organiser des campagnes de harcèlement, souvent contre les communautés non blanches du site. « Reddit a ignoré r / The_Donald pendant des mois et des années car ils enfreignaient perpétuellement les conditions d’utilisation du site presque quotidiennement », a déclaré Robert Allam, largement considéré comme l’un des posters et modérateurs Reddit les plus prolifiques de tous les temps.

Reddit a « mis en quarantaine » The_Donald en 2019, le rendant invisible dans les recherches. Ses modérateurs ont ensuite essayé de reconstituer la communauté sur leur propre site Web, et elle s’est essentiellement effondrée sur Reddit.

La réponse hésitante de Reddit à subreddit était emblématique d’un schéma plus large de la direction de l’entreprise résistant à l’action jusqu’à ce que cela devienne intenable. Lors d’une réunion du conseil d’administration en mars 2018, par exemple, Huffman et son équipe de direction ont fait une présentation sur les subreddits controversés, y compris un forum appelé r / watchpeopledie, où les utilisateurs ont posté des vidéos de personnes — souvent des citoyens non blancs de pays en développement – mourant.

Huffman et son équipe se vantaient d’avoir convaincu les modérateurs de la communauté de ne pas encourager les gens à publier des vidéos de suicide, ce qui les mettait en conformité technique avec la politique de Reddit contre l’automutilation, selon deux personnes présentes. Ohanian, alors membre du conseil d’administration, a repoussé. Il a fait valoir que la société devrait fermer complètement des communautés comme celle-ci, plutôt que d’essayer de les amener à apporter des modifications pour les mettre dans la lettre des directives de contenu de Reddit. Mais Ohanian n’a pas pu convaincre Huffman ou le conseil d’administration de l’accompagner, et r / watchpeopledie est resté sur Reddit.

Huffman défend la décision. « L’argument avancé par cette communauté est que ce n’est pas une communauté glorifiant la violence, c’est un exutoire pour les gens », a-t-il déclaré cette semaine, expliquant sa pensée à l’époque.

Pourtant, Reddit a mis le babillard en quarantaine en septembre 2018 après des critiques continues. Puis, en mars 2019, un tireur a tué 51 personnes à Christchurch, en Nouvelle-Zélande, et la vidéo a proliféré sur le subreddit. Reddit a finalement mis r / watchpeopledie hors ligne. « Partager cette vidéo en elle-même était un acte de violence, c’était un acte de terrorisme », a déclaré Huffman. « Avec cette communauté, nous avons atteint ce point de basculement. »

Le dernier mandat de Huffman en tant que PDG a été marqué par des controverses périodiques. Peu de temps après l’élection de 2016, il a secrètement édité des commentaires en direct d’utilisateurs sans méfiance qui s’étaient moqués de lui ou l’avaient critiqué, supprimant son nom d’écran. Huffman a rapidement été contraint de s’excuser. L’année suivante, il a parlé à un journaliste du New Yorker de ses plans apocalyptiques, disant que si la société s’effondrait, « Je serai probablement responsable, ou du moins pas un esclave, quand la poussée viendra à pousser. »

La direction de Reddit a également lancé des produits avec peu de prévoyance apparente sur le potentiel d’abus. L’année dernière, Reddit a créé des icônes que les utilisateurs pouvaient acheter pour taguer les publications. L’un d’eux était un singe, que certains utilisateurs ont rapidement commencé à utiliser comme moyen de harceler les utilisateurs noirs. Plus tôt cette année, il a introduit une nouvelle fonctionnalité de chat public liée aux subreddits sans donner aux modérateurs le pouvoir de les superviser; les salles de chat ont rapidement été la cible de harcèlement et l’entreprise a dû les fermer après que les modérateurs se soient plaints. Reddit a supprimé le singe après avoir été abusé et dit qu’il ramènera la fonctionnalité de chat après quelques mises à jour.

Cela a conduit à la désillusion de certaines personnes familières avec le fonctionnement interne de Reddit. Les employés se sont plaints du manque de diversité dans l’entreprise, selon une personne familière avec le sujet. « Vous avez besoin que les gens qui gèrent des plates-formes fassent preuve d’empathie avec les utilisateurs qui vivent de la haine, du racisme, du harcèlement par la violence et de la misogynie, pour réellement vouloir s’en débarrasser et faire le travail pour réparer ces plates-formes », a déclaré Ellen Pao, qui a été PDG par intérim de Reddit en 2014 et 2015.

Alors que Huffman s’est efforcé de signaler à ses critiques que cette période sera différente, certains des autres dirigeants de Reddit semblaient déjà atténuer les attentes. Lors de l’événement de lundi, Seibel a déclaré qu’il avait rejoint le conseil d’administration parce que Huffman était un ami personnel et qu’il avait l’intention de faire preuve de déférence. Il a dit qu’il ne pensait pas que son travail « était de dire à Reddit quoi faire et quoi ne pas faire. »

L’avocat général de Reddit, Ben Lee, a expliqué les plans de Huffman pour une politique de discours de haine en disant que la société prévoyait de clarifier ses valeurs. « Nos politiques existantes sont assez similaires aux politiques de haine sur d’autres plateformes, cependant, elles seront mises à jour pour interdire la promotion de la haine basée sur l’identité et d’autres caractéristiques, vulnérabilités, etc. », a-t-il déclaré dans un communiqué. « Nous allons également intensifier l’application de la loi pour faire face au changement de politique. »La société estime qu’il reste moins de communautés haineuses sur sa plate-forme et ciblera les utilisateurs individuels de mauvaise foi.

Les dirigeants de Reddit vont faire face à un public dont les cicatrices des rounds passés de ce même combat se sont durcies dans un profond sentiment de scepticisme. « Nous espérons que Reddit ne se contentera pas de partager des platitudes vides — mais prendra une position significative contre la haine et prendra ces recommandations à cœur », ont écrit les modérateurs qui ont signé la lettre ouverte ce mois-ci.

Pourtant, beaucoup d’entre eux continuent d’espérer que s’engager avec les dirigeants de l’entreprise peut conduire au changement. Huffman a tenu plusieurs conversations vidéo d’une heure avec des groupes de modérateurs au cours de la semaine dernière. L’une des personnes présentes était Theyelowrose. « C’était presque surréaliste de lui parler », a-t-elle écrit par la suite dans un e-mail, « après des années à ne le connaître qu’à partir d’images miniatures. »

Plus de couverture technologique incontournable de Fortune:

• Le PDG d’Intel révèle une nouvelle stratégie: Go big or go home
• « Je me sentais comme si j’étais distingué. »Deux personnes qui se réclament de préjugés raciaux sur Facebook décrivent leurs expériences
• Les utilisateurs de Slack peuvent désormais envoyer un message à qui bon leur semble sur la plate-forme, même s’ils travaillent dans différentes entreprises
• Vous pouvez désormais acheter une Tesla avec Bitcoin – à un coût stupéfiant, avertissent les critiques
• Jetez un coup d’œil à l’intérieur de la maison du NFT vendue 500 000 $ – et non, ce n’est pas réel