I moderatori volontari della comunità r / blackladies di Reddit-una bacheca online che attualmente conta oltre 40.000 membri-hanno scritto una lettera aperta che delinea le loro frustrazioni con il popolare sito web nell’agosto 2014. Avevano lanciato il loro message board, noto come subreddit, come uno spazio sicuro per le donne nere, ma venivano inondati da commenti odiosi e link a contenuti razzisti da account anonimi. “Sono implacabili, arrivano a sbarramenti”, hanno scritto i moderatori. “Abbiamo un problema utente razzista e Reddit non agirà.”

Diversi mesi dopo Alexis Ohanian, uno dei co-fondatori di Reddit, si è unito a un thread di commenti su r / blackladies discutendo la lettera. Ohanian, che aveva recentemente tornato alla società come il suo presidente esecutivo, ha detto proteggere le comunità come la loro da abusi era una “priorità assoluta.”Ha sollecitato suggerimenti su come farlo e ha espresso interesse per un “dialogo in corso con tutti i mod che hanno firmato la lettera aperta.”

L’utente di Reddit TheYellowRose, un moderatore di r / blackladies che ha contribuito a scrivere la lettera, ha detto in una recente intervista telefonica che il dialogo promesso da Ohanian non si è mai materializzato. Per TheYellowRose, che ha chiesto di essere identificato solo con il suo nome di schermo, perché lei è ancora regolarmente sottoposti ad abuso razzista e paure violenza fisica se la sua identità è stata rivelata, Ohanian iniziale entusiasmo per l’idea sembrava solo un altro esempio di azienda leader cercando di dire le cose giuste, senza affrontare seriamente i modi il loro sito ospitava gli estremisti e ha dato loro un posto per organizzare.

Reddit ha affrontato diversi potenziali punti di inflessione nel suo approccio al razzismo nei sei anni da allora, ma non ha mai intrapreso una resa dei conti abbastanza completa per soddisfare i suoi critici. Sta affrontando un altro grande momento dopo l’uccisione di George Floyd. Ancora una volta, la pressione sta arrivando in parte dai volontari che moderano le innumerevoli bacheche di Reddit. A giugno 1, Steve Huffman, un altro co-fondatore che è stato amministratore delegato dal 2015, ha inviato una nota ai dipendenti di Reddit esprimendo supporto per il movimento Black Lives Matter. “Non tolleriamo l’odio, il razzismo e la violenza, e mentre abbiamo del lavoro da fare per combatterli sulla nostra piattaforma, i nostri valori sono chiari”, ha scritto.

Molti o gli utenti del sito sentivano di averlo sentito troppe volte prima. Diversi giorni dopo, i moderatori di oltre 800 bacheche hanno iniziato a firmare una lettera aperta che invitava l’azienda a vietare l’incitamento all’odio, a chiudere i subreddit razzisti e misogini e ad offrire un supporto migliore ai moderatori facendo cose come assumere più community manager. “Ci piacerebbe vederli prendere sul serio il problema della supremazia bianca che hanno”, ha detto Therese Singer, un’insegnante di inglese in pensione alla fine degli anni ‘ 60 che trascorre diverse ore al giorno moderando dozzine di forum Reddit. Ha chiesto di essere identificato con il suo nome da nubile perché temeva ritorsioni online.

Questa volta, Ohanian non sta cercando di trovare una soluzione da solo. Ohanian – ora meglio conosciuto come il coniuge dell’icona del tennis Serena Williams, una delle celebrità nere più famose al mondo—si è dimesso dal consiglio di Reddit il 5 giugno, rompendo i legami con l’azienda. Ha chiesto a Reddit di nominare un membro del consiglio nero per sostituirlo. “È atteso da tempo per fare la cosa giusta. Lo sto facendo per me, per la mia famiglia e per il mio paese”, ha twittato. Ohanian ha rifiutato una richiesta di intervista.

La mossa di Ohanian era intesa come un gesto pubblico per affrontare una mancanza di diversità tanto necessaria. Ma la mossa è stata anche un’ammissione di sconfitta personale e illustrazione della relazione disfunzionale tra i fondatori di Reddit. Huffman ha detto in un’intervista questa settimana che Ohanian non gli aveva detto della sua partenza programmata in anticipo, e che non avevano parlato da allora.

Huffman ha detto che la società, per la prima volta, implementerà una politica che vieta esplicitamente l’incitamento all’odio. Per sostituire Ohanian nel consiglio ha nominato Michael Seibel, CEO di Y Combinator, il famoso incubatore di startup che è stato uno dei primi investitori di Reddit. Seibel, che Huffman ha conosciuto per anni, è nero. In un forum per imprenditori neri ospitato da Bloomberg, Seibel ha detto che c’era una responsabilità intrinseca per un sito di scala di Reddit per mantenere determinati standard. “Mi fa davvero incazzare quando le persone stanno solo dicendo:’ Hey questo è solo un sito web, le persone faranno tutto ciò che faranno'”, ha detto.

Theellowrose non è rimasto colpito dal gesto di Ohanian. “Era in grado di fare qualcosa e invece se ne andò. Vorrei che avesse fatto qualcosa e poi dato il suo posto a qualcun altro, invece di andarsene”, ha detto. “Speravamo e desideravamo che avere una figlia nera e una moglie nera lo aiutasse a vedere la luce, per così dire, e a fare qualcosa.”

Sul fatto che Huffman possa aiutare a riformare Reddit, ha detto TheYellowRose, “Immagino che dipenda da quale sia l’obiettivo di Reddit. Se deve essere un rifugio per la libertà di parola in cui i nazionalisti bianchi possono continuare a reclutare persone, sì, è la persona giusta. Se è un posto dove tutti dovrebbero sentirsi al sicuro e benvenuti, allora ha del lavoro da fare.”

Le politiche di moderazione dei contenuti di aziende come Facebook, Twitter e YouTube di Alphabet sono state al centro del dibattito politico nazionale. Reddit ha molti degli stessi problemi. Ma il sito ha mantenuto un profilo un po ” più basso in parte perché, pur essendo uno dei siti web più popolari su Internet, non è mai diventato un enorme successo come un business.

Huffman e Ohanian hanno iniziato Reddit nel 2005 e lo hanno venduto a Conde Nast un anno dopo. Questo li ha resi personalmente ricchi, ma ha trasformato il sito in una piccola proprietà multimediale all’interno di un conglomerato più ampio, invece di una società di tecnologia a sé stante. Mentre Facebook è cambiato drasticamente negli ultimi dieci anni, ci sono stati meno importanti cambiamenti a Reddit, che ora opera in modo indipendente, ma conta ancora Advance Publications Inc., la società madre di Conde Nast, come azionista principale. Rimane una serie di bacheche i cui utenti pseudonimi votano su quali post dovrebbero essere visualizzati in modo più visibile.

Fin dai suoi primi giorni, Reddit ha sviluppato una reputazione come un free-for-all, qualcosa che i suoi fondatori hanno alternativamente abbracciato o promesso di controllare. Nel 2012, Ohanian lo ha definito un ” bastione della libertà di parola.”Tre anni dopo, descrivendo l’intenzione della società di ripulire gli angoli più offensivi del sito, Huffman ha avuto un messaggio diverso. “Né Alexis né io abbiamo creato Reddit per essere un bastione della libertà di parola, ma piuttosto come un luogo in cui può accadere una discussione aperta e onesta”, ha scritto a luglio 2015.

L’azienda devia la responsabilità significativa—e lo stress—sui moderatori, che non sono pagati. All’indomani dell’uccisione di Michael Brown nel 2014 a Ferguson, nel Missouri, ad esempio, i moderatori del subreddit r/blackladies hanno compilato una serie di messaggi razzisti che avevano ricevuto e li hanno presentati a un amministratore dello staff, chiedendo al sito di intraprendere qualche azione contro i loro molestatori. “Non c’è dubbio che ci sono alcuni troll idioti che commentano il tuo subreddit”, ha risposto l’amministratore in un messaggio visualizzato da Bloomberg. “Questo accade in ogni subreddit e in realtà è per le mod da affrontare.”

Il tentativo di Reddit di sorvegliare il discorso sulla sua piattaforma è stato parzialmente basato sulla visione fatalistica che farlo è inutile, perché il sito è solo un riflesso del mondo in generale. In effetti, i ricercatori della Georgia Tech hanno dimostrato che Reddit può essere efficace quando agisce. Nel 2015 la società ha rimosso un certo numero di subreddits razzisti, tra cui uno noto chiamato Coontown. Il risultato è stato che molti account abusivi che avevano pubblicato regolarmente su quei forum si sono chiusi del tutto, e gli account rimanenti che avevano pubblicato sui forum vietati hanno pubblicato discorsi di odio a frequenze drasticamente più basse.

Anche gli strumenti sviluppati in modo indipendente hanno avuto successo.I moderatori di r / blackladies e altri subreddits hanno elogiato uno strumento che consente ai moderatori di impedire a qualsiasi utente che abbia pubblicato su alcuni altri subreddits di commentare nel loro. Questo ha tagliato la capacità di persone che userebbero alcuni subreddits per pianificare campagne di molestie contro gli altri, anche se ha occasionalmente ostacolato la capacità di alcune persone di postare in determinati luoghi, anche se non erano coinvolti in abusi.

Nel periodo che precede le elezioni presidenziali del 2016, è emersa una sorta di omni-canale per l’estrema destra del sito sotto forma di r/The_Donald. Apparentemente un subreddit per i sostenitori di Donald Trump, è diventato un luogo per testare sul mercato memi di destra e organizzare campagne di molestie, spesso contro le comunità non bianche del sito. “Reddit ha ignorato r / The_Donald per mesi e anni mentre infrangevano perennemente i termini di servizio del sito quasi quotidianamente” ha detto Robert Allam, ampiamente considerato tra i poster e i moderatori Reddit più prolifici di tutti i tempi.

Reddit ha” messo in quarantena ” The_Donald nel 2019, rendendolo invisibile nelle ricerche. I suoi moderatori hanno quindi cercato di ricostituire la comunità sul proprio sito web, ed è essenzialmente crollato su Reddit.

La risposta vacillante di Reddit a subreddit era emblematica di un modello più ampio di leadership della società che resisteva all’azione fino a quando non diventava insostenibile. In una riunione del consiglio a marzo 2018, ad esempio, Huffman e il suo team esecutivo hanno presentato una presentazione su subreddit controversi, incluso un forum chiamato r/watchpeopledie, in cui gli utenti hanno pubblicato video di persone—spesso cittadini non bianchi dei paesi in via di sviluppo-che muoiono.

Huffman e il suo team si sono vantati di aver convinto i moderatori della comunità a non incoraggiare le persone a pubblicare video suicidi, portandoli in conformità tecnica con la politica di Reddit contro l’autolesionismo, secondo due persone che erano presenti. Ohanian, allora membro del consiglio, respinse. Ha sostenuto che la società dovrebbe chiudere del tutto comunità come questa, piuttosto che cercare di convincerli a apportare modifiche per portarli all’interno della lettera delle linee guida sui contenuti di Reddit. Ma Ohanian non riuscì a convincere Huffman o il consiglio ad andare con lui, e r/watchpeopledie rimase su Reddit.

Huffman difende la decisione. “L’argomento che quella comunità ha fatto è che questa non è una comunità che glorifica la violenza, questo è uno sbocco per la gente”, ha detto questa settimana, spiegando il suo pensiero in quel momento.

Tuttavia, Reddit ha messo in quarantena la bacheca a settembre 2018 dopo continue critiche. Poi a marzo 2019 un uomo armato ha ucciso 51 persone a Christchurch, in Nuova Zelanda, e il video è proliferato sul subreddit. Reddit ha finalmente preso r / watchpeopledie offline. “Condividere quel video è stato un atto di violenza, è stato un atto di terrorismo”, ha detto Huffman. “Con quella comunità, abbiamo raggiunto questo punto critico.”

L’ultimo mandato di Huffman come CEO è stato segnato da polemiche periodiche. Poco dopo le elezioni del 2016, ha segretamente modificato i commenti in diretta da utenti ignari che lo avevano deriso o criticato, rimuovendo il suo nome utente. Huffman fu rapidamente costretto a scusarsi. L’anno seguente, ha detto a un giornalista del New Yorker dei suoi piani apocalittici, dicendo che se la società crollasse, “Probabilmente sarò al comando, o almeno non uno schiavo, quando arriva il momento di spingere.”

La gestione di Reddit ha anche lanciato prodotti con poca lungimiranza apparente sul potenziale di abuso. L’anno scorso, Reddit ha creato icone che gli utenti potevano acquistare per taggare i post. Uno di questi era una scimmia, che alcuni utenti iniziarono presto ad usare come un modo per molestare gli utenti neri. All’inizio di quest’anno ha introdotto una nuova funzione di chat pubblica legata ai subreddits senza dare ai moderatori l’autorità di supervisionarli; le chat room sono state presto prese di mira da molestie e la società ha dovuto chiuderle dopo che i moderatori si sono lamentati. Reddit rimosso la scimmia dopo che è stato abusato e dice che riporterà la funzione di chat dopo alcuni aggiornamenti.

Questo ha portato alla disillusione tra alcune persone che hanno familiarità con il funzionamento interno di Reddit. I dipendenti si sono lamentati della mancanza di diversità in azienda, secondo una persona che ha familiarità con la questione. ” Hai bisogno di persone che gestiscono piattaforme per entrare in empatia con gli utenti che stanno vivendo odio, razzismo, molestie violente e misoginia, per volerne davvero liberarsene e fare il lavoro per risolvere effettivamente queste piattaforme”, ha detto Ellen Pao, che è stata CEO ad interim di Reddit in 2014 e 2015.

Mentre Huffman ha lavorato per segnalare ai suoi critici che questa volta sarà diverso, alcuni degli altri leader di Reddit sembravano già smorzare le aspettative. All’evento lunedì, Seibel ha detto di essersi unito al consiglio perché Huffman è un amico personale e ha pianificato di essere deferente. Ha detto che non pensava che il suo lavoro “è quello di dire a Reddit cosa fare e cosa non fare.”

Il consigliere generale di Reddit, Ben Lee, ha spiegato i piani di Huffman per una politica di incitamento all’odio dicendo che la società ha pianificato di chiarire i suoi valori. “Le nostre politiche esistenti sono abbastanza simili alle politiche di odio su altre piattaforme, tuttavia, saranno aggiornate per vietare la promozione dell’odio in base all’identità e ad altre caratteristiche, vulnerabilità, ecc., “ha detto in una dichiarazione. “Intensificheremo anche l’applicazione per affrontare il cambiamento di politica.”La società ritiene che ci siano meno comunità odiose rimaste sulla sua piattaforma e si rivolgerà a singoli utenti in malafede.

I dirigenti di Reddit affronteranno un pubblico le cui cicatrici dei turni passati di questa stessa lotta si sono indurite in un profondo senso di scetticismo. “Speriamo che Reddit non condivida solo banalità vuote, ma prenderà una posizione significativa contro l’odio e prenderà a cuore queste raccomandazioni”, hanno scritto i moderatori che hanno firmato la lettera aperta questo mese.

Tuttavia, molti di loro continuano a sperare che impegnarsi con la leadership dell’azienda possa portare a cambiamenti. Huffman ha tenuto diverse chat video di un’ora con gruppi di moderatori nella scorsa settimana. Una delle persone presenti era TheYellowRose. “Era quasi surreale parlare con lui”, ha scritto in una e-mail in seguito, ” dopo anni in cui lo conoscevano solo dalle immagini in miniatura.”

Più copertura tecnologica da leggere da Fortune:

• Il CEO di Intel rivela una nuova strategia: Go big or go home
• ” Mi sentivo come se fossi stato individuato.”Due persone che affermano pregiudizi razziali su Facebook descrivono le loro esperienze
• Gli utenti Slack possono ora inviare messaggi a chiunque vogliano sulla piattaforma, anche se lavorano in diverse aziende
• Ora puoi comprare una Tesla con Bitcoin—ad un costo sbalorditivo, i critici avvertono
• Dai un’occhiata all’interno della casa NFT che ha venduto per $500.000-e no,