Die freiwilligen Moderatoren von Reddits r / blackladies—Community — einem Online-Message-Board mit derzeit über 40.000 Mitgliedern – schrieben im August 2014 einen offenen Brief, in dem sie ihre Frustrationen über die beliebte Website darlegten. Sie hatten ihr Message Board aufgeschlagen, bekannt als Subreddit, als sicherer Ort für schwarze Frauen, wurden aber mit hasserfüllten Kommentaren und Links zu rassistischen Inhalten von anonymen Konten überflutet. „Sie sind unerbittlich und kommen in Sperrfeuer“, schrieben die Moderatoren. „Wir haben ein rassistisches Benutzerproblem und Reddit wird keine Maßnahmen ergreifen.“Einige Monate später schloss sich Alexis Ohanian, einer der Mitbegründer von Reddit, einem Kommentarthread auf r / blackladies an, in dem er den Brief diskutierte. Ohanian, der kürzlich als Executive Chairman zum Unternehmen zurückgekehrt war, Sagte, der Schutz von Gemeinschaften wie ihrer vor Missbrauch habe „oberste Priorität.“ Er bat um Vorschläge, wie es geht, und äußerte Interesse an einem „laufenden Dialog mit allen Mods, die den offenen Brief unterschrieben haben.“Reddit-Benutzer TheYellowRose, ein r / Blackladies-Moderator, der beim Schreiben des Briefes geholfen hat, sagte kürzlich in einem Telefoninterview, dass Ohanians versprochener Dialog nie zustande gekommen sei. Für TheYellowRose, die darum bat, nur mit ihrem Pseudonym identifiziert zu werden, weil sie immer noch regelmäßig rassistischem Missbrauch ausgesetzt ist und körperliche Gewalt befürchtet, wenn ihre Identität preisgegeben wird, schien Ohanians anfängliche Begeisterung für die Idee nur ein weiteres Beispiel dafür zu sein, dass die Führungskräfte des Unternehmens versuchten, die richtigen Dinge zu sagen, ohne sich ernsthaft mit der Art und Weise auseinanderzusetzen, wie ihre Website Extremisten beherbergte und ihnen einen Ort gab, an dem sie sich organisieren konnten.

Reddit hat in den sechs Jahren seitdem mehrere potenzielle Wendepunkte in seiner Herangehensweise an Rassismus erlebt, hat aber nie eine vollständige Abrechnung vorgenommen, um seine Kritiker zufrieden zu stellen. Es steht vor einem weiteren großen Moment nach der Ermordung von George Floyd. Wieder einmal kommt der Druck zum Teil von den Freiwilligen, die Reddits unzählige Message Boards moderieren. Am 1. Juni schickte Steve Huffman, ein weiterer Mitbegründer, der seit 2015 Chief Executive ist, eine Notiz an Reddit-Mitarbeiter, in der er die Black Lives Matter-Bewegung unterstützte. „Wir tolerieren keinen Hass, Rassismus und Gewalt, und obwohl wir auf unserer Plattform noch viel zu tun haben, um diese zu bekämpfen, sind unsere Werte klar“, schrieb er.

Viele der Benutzer der Website hatten das Gefühl, dies schon zu oft gehört zu haben. Einige Tage später unterzeichneten Moderatoren von über 800 Message Boards einen offenen Brief, in dem sie das Unternehmen aufforderten, Hassreden zu verbieten, rassistische und frauenfeindliche Subreddits zu schließen und Moderatoren besser zu unterstützen, indem sie beispielsweise mehr Community-Manager einstellen. „Wir möchten, dass sie das Problem der weißen Vorherrschaft, das sie haben, ernst nehmen“, sagte Therese Singer, eine pensionierte Englischlehrerin Ende 60, die täglich mehrere Stunden damit verbringt, Dutzende von Reddit-Foren zu moderieren. Sie bat darum, mit ihrem Mädchennamen identifiziert zu werden, weil sie online Vergeltungsmaßnahmen befürchtete.

Diesmal versucht Ohanian nicht, selbst eine Lösung zu finden. Ohanian – heute bekannt als Ehefrau der Tennisikone Serena Williams, einer der berühmtesten schwarzen Prominenten der Welt — trat am 5. Juni aus dem Vorstand von Reddit zurück und brach die Beziehungen zum Unternehmen. Er bat Reddit, ein schwarzes Vorstandsmitglied zu ernennen, um ihn zu ersetzen. „Es ist längst überfällig, das Richtige zu tun. Ich mache das für mich, für meine Familie und für mein Land“, twitterte er. Ohanian lehnte eine Interviewanfrage ab.

Ohanians Schritt war als öffentliche Geste gedacht, um einen dringend benötigten Mangel an Vielfalt anzugehen. Der Schritt war aber auch ein Eingeständnis einer persönlichen Niederlage und ein Beispiel für die dysfunktionale Beziehung zwischen den Gründern von Reddit. Huffman sagte diese Woche in einem Interview, Ohanian habe ihm nicht im Voraus von seiner geplanten Abreise erzählt, und dass sie seitdem nicht mehr gesprochen hätten.

Huffman sagte, das Unternehmen werde zum ersten Mal eine Richtlinie umsetzen, die Hassreden ausdrücklich verbietet. Um Ohanian im Vorstand zu ersetzen, ernannte er Michael Seibel, den CEO von Y Combinator, dem berühmten Startup-Inkubator, der einer der frühen Investoren von Reddit war. Seibel, den Huffman seit Jahren kennt, ist schwarz. Auf einem von Bloomberg veranstalteten Forum für schwarze Unternehmer sagte Seibel, dass es eine inhärente Verantwortung für eine Website von Reddits Größe gebe, bestimmte Standards einzuhalten. „Es macht mich wirklich wütend, wenn die Leute nur sagen:’Hey, das ist nur eine Website, die Leute werden tun, was sie tun werden'“, sagte er.

TheYellowRose war von Ohanians Geste nicht beeindruckt. „Er war in der Lage, etwas zu tun, und stattdessen ging er. Ich wünschte, er hätte etwas getan und dann seinen Platz jemand anderem gegeben, anstatt einfach zu gehen „, sagte sie. „Wir haben gehofft und gewünscht, dass eine schwarze Tochter und eine schwarze Frau ihm helfen würden, sozusagen das Licht zu sehen und etwas zu tun.“

Ob Huffman helfen kann, Reddit zu reformieren, sagte TheYellowRose: „Ich denke, das hängt davon ab, was Reddits Ziel ist. Wenn es ein redefreier Hafen sein soll, in dem weiße Nationalisten weiterhin Leute rekrutieren können, ja, er ist der Richtige. Wenn es ein Ort ist, an dem sich jeder sicher und willkommen fühlen sollte, dann hat er etwas zu tun.“Die Richtlinien zur Moderation von Inhalten von Unternehmen wie Facebook, Twitter und Alphabets YouTube standen im Mittelpunkt der nationalen politischen Debatte. Reddit hat viele der gleichen Probleme. Aber die Seite hat ein etwas niedrigeres Profil zum Teil gehalten, weil, obwohl sie eine der beliebtesten Websites im Internet ist, Es ist nie ein großer Erfolg als Unternehmen geworden.

Huffman und Ohanian gründeten Reddit im Jahr 2005 und verkauften es ein Jahr später an Conde Nast. Dies machte sie persönlich reich, verwandelte die Website jedoch in ein kleines Medieneigentum in einem breiteren Konglomerat, anstelle eines Technologieunternehmens für sich. Während sich Facebook in den letzten zehn Jahren drastisch verändert hat, gab es weniger große Änderungen an Reddit, das jetzt unabhängig arbeitet, aber immer noch Advance Publications Inc. zählt., Muttergesellschaft von Conde Nast, als Großaktionär. Es bleibt eine Reihe von Message Boards, deren pseudonyme Nutzer darüber abstimmen, welche Beiträge am prominentesten angezeigt werden sollen.

Von seinen frühesten Tagen an entwickelte Reddit einen Ruf als Free-for-all, etwas, das seine Gründer abwechselnd angenommen oder versprochen haben zu kontrollieren. Im Jahr 2012 bezeichnete Ohanian es als „Bastion der Redefreiheit.“ Drei Jahre später beschrieb Huffman die Absicht des Unternehmens, die anstößigeren Ecken der Website zu säubern, und hatte eine andere Botschaft. „Weder Alexis noch ich haben Reddit geschaffen, um eine Bastion der Redefreiheit zu sein, sondern als Ort, an dem offene und ehrliche Diskussionen stattfinden können“, schrieb er im Juli 2015.

Das Unternehmen lenkt erhebliche Verantwortung — und Stress — auf Moderatoren ab, die unbezahlt sind. Nach der Ermordung von Michael Brown im Jahr 2014 in Ferguson, Missouri, stellten die Moderatoren des r / blackladies-Subreddits beispielsweise eine Reihe rassistischer Nachrichten zusammen, die sie erhalten hatten, und stellten sie einem Mitarbeiteradministrator vor, der die Website aufforderte, Maßnahmen gegen ihre Belästiger zu ergreifen. „Es besteht kein Zweifel, dass es einige idiotische Trolle gibt, die Ihren Subreddit kommentieren“, antwortete der Administrator in einer Nachricht von Bloomberg. „Das passiert in jedem Subreddit und es liegt wirklich an den Mods, damit umzugehen.“Reddits Versuch, die Rede auf seiner Plattform zu überwachen, basierte teilweise auf der fatalistischen Ansicht, dass dies sinnlos ist, weil die Seite nur ein Spiegelbild der Welt insgesamt ist. Tatsächlich haben Forscher von Georgia Tech gezeigt, dass Reddit effektiv sein kann, wenn es Maßnahmen ergreift. Im Jahr 2015 entfernte das Unternehmen eine Reihe von Subreddits, darunter einen berüchtigten namens Coontown. Das Ergebnis war, dass viele missbräuchliche Konten, die regelmäßig in diesen Foren gepostet hatten, vollständig geschlossen wurden, und verbleibende Konten, die in den verbotenen Foren gepostet hatten, veröffentlichten Hassreden mit drastisch niedrigeren Frequenzen.

Unabhängig entwickelte Tools waren ebenfalls erfolgreich.Moderatoren bei r / blackladies und anderen Subreddits verwenden ein Tool, mit dem Moderatoren verhindern können, dass Benutzer, die auf bestimmten anderen Subreddits gepostet haben, Kommentare in ihren Subreddits abgeben. Dies hat die Fähigkeit von Menschen abgeschnitten, die bestimmte Subreddits verwenden würden, um Belästigungskampagnen gegen andere zu planen, obwohl es gelegentlich die Fähigkeit einiger Menschen behindert hat, an bestimmten Orten zu posten, selbst wenn sie nicht an Missbrauch beteiligt waren.

Im Vorfeld der Präsidentschaftswahlen 2016 entstand mit dem r / The_Donald eine Art Omni-Channel für die extreme Rechte der Website. Angeblich ein Subreddit für Anhänger von Donald Trump, wurde es ein Ort, um rechte Meme zu vermarkten und Belästigungskampagnen zu organisieren, oft gegen die nicht-weißen Gemeinschaften der Website. „Reddit ignorierte r / The_Donald monatelang und jahrelang, da sie fast täglich gegen die Nutzungsbedingungen der Website verstießen“, sagte Robert Allam, der weithin als einer der produktivsten Reddit-Poster und Moderatoren aller Zeiten gilt.

Reddit hat The_Donald 2019 „unter Quarantäne gestellt“ und es bei Suchanfragen unsichtbar gemacht. Die Moderatoren versuchten dann, die Community auf ihrer eigenen Website wiederherzustellen, und es brach im Wesentlichen auf Reddit zusammen.

Reddits schwankende Reaktion auf Subreddit war ein Symbol für ein breiteres Muster der Führung des Unternehmens, die sich dem Handeln widersetzte, bis dies unhaltbar wurde. Bei einer Vorstandssitzung im März 2018 zum Beispiel hielten Huffman und sein Führungsteam eine Präsentation über kontroverse Subreddits, darunter ein Forum namens r / watchpeopledie, in dem Benutzer Videos von Menschen — oft nicht-weißen Bürgern von Entwicklungsländern — veröffentlichten, die starben. Huffman und sein Team rühmten sich, die Moderatoren der Community davon überzeugt zu haben, die Leute nicht dazu zu ermutigen, Selbstmordvideos zu posten, und brachten sie in technische Übereinstimmung mit Reddits Politik gegen Selbstverletzung, so zwei anwesende Personen. Ohanian, damals Vorstandsmitglied, stieß zurück. Er argumentierte, dass das Unternehmen solche Communities insgesamt schließen sollte, anstatt zu versuchen, sie dazu zu bringen, Änderungen vorzunehmen, um sie in den Buchstaben der Inhaltsrichtlinien von Reddit zu bringen. Aber Ohanian konnte Huffman oder den Vorstand nicht davon überzeugen, mit ihm zu gehen, und r / watchpeopledie blieb auf Reddit.

Huffman verteidigt die Entscheidung. „Das Argument, das diese Gemeinschaft gemacht hat, ist, dass dies keine Gemeinschaft ist, die Gewalt verherrlicht, dies ist ein Ventil für Leute“, sagte er diese Woche und erklärte sein Denken zu der Zeit.Trotzdem hat Reddit das Message Board im September 2018 nach anhaltender Kritik unter Quarantäne gestellt. Im März 2019 tötete ein Bewaffneter 51 Menschen in Christchurch, Neuseeland, und das Video verbreitete sich auf dem Subreddit. Reddit hat r / watchpeopledie endlich offline genommen. „Das Teilen dieses Videos selbst war ein Akt der Gewalt, das war ein Akt des Terrorismus“, sagte Huffman. „Mit dieser Community haben wir diesen Wendepunkt erreicht.“

Huffmans jüngste Amtszeit als CEO war von regelmäßigen Kontroversen geprägt. Kurz nach der Wahl 2016 bearbeitete er heimlich Live-Kommentare von ahnungslosen Benutzern, die ihn verspottet oder kritisiert hatten, und entfernte seinen Bildschirmnamen. Huffman musste sich schnell entschuldigen. Im folgenden Jahr erzählte er einem Reporter des New Yorker von seinen Weltuntergangsplänen und sagte, wenn die Gesellschaft zusammenbricht, „werde ich wahrscheinlich das Sagen haben, oder zumindest kein Sklave, wenn es darauf ankommt.“

Reddits Management hat auch Produkte mit wenig Voraussicht über das Missbrauchspotenzial auf den Markt gebracht. Letztes Jahr hat Reddit Symbole erstellt, die Benutzer kaufen können, um Beiträge zu markieren. Einer von ihnen war ein Affe, den einige Benutzer bald benutzten, um schwarze Benutzer zu belästigen. Anfang dieses Jahres wurde eine neue öffentliche Chat-Funktion eingeführt, die an Subreddits gebunden war, ohne den Moderatoren die Befugnis zu geben, sie zu überwachen; Die Chatrooms wurden bald belästigt und das Unternehmen musste sie schließen, nachdem sich die Moderatoren beschwert hatten. Reddit hat den Affen entfernt, nachdem er missbraucht wurde, und sagt, dass er die Chat-Funktion nach einigen Updates zurückbringen wird.

Dies hat bei einigen Leuten, die mit Reddits Innenleben vertraut sind, zu Ernüchterung geführt. Mitarbeiter haben sich laut einer mit der Angelegenheit vertrauten Person über die mangelnde Vielfalt im Unternehmen beschwert. „Sie brauchen Leute, die Plattformen betreiben, um sich in die Benutzer hineinzuversetzen, die Hass, Rassismus, Gewalt, Belästigung und Frauenfeindlichkeit erleben, um sie tatsächlich loszuwerden und die Arbeit zu erledigen, um diese Plattformen tatsächlich zu reparieren“, sagte Ellen Pao, die 2014 und 2015 als Interims-CEO von Reddit tätig war.

Während Huffman daran gearbeitet hat, seinen Kritikern zu signalisieren, dass dieses Mal anders sein wird, schienen einige der anderen Reddit-Führer bereits die Erwartungen zu dämpfen. Bei der Veranstaltung am Montag, Seibel sagte, er sei dem Vorstand beigetreten, weil Huffman ein persönlicher Freund sei, und geplant, ehrerbietig zu sein. Er sagte, er glaube nicht, dass es seine Aufgabe sei, „Reddit zu sagen, was zu tun ist und was nicht.“

Reddits General Counsel Ben Lee erklärte Huffmans Pläne für eine Hassrede-Politik, indem er sagte, das Unternehmen plane, seine Werte zu klären. „Unsere bestehenden Richtlinien sind den Hassrichtlinien auf anderen Plattformen sehr ähnlich, sie werden jedoch aktualisiert, um die Förderung von Hass aufgrund von Identität und anderen Merkmalen, Schwachstellen usw. zu verbieten.“ , sagte er in einer Erklärung. „Wir werden auch die Durchsetzung verstärken, um die Richtlinienänderung anzugehen.“ Das Unternehmen glaubt, dass es weniger hasserfüllte Communities auf seiner Plattform gibt und einzelne bösgläubige Benutzer ansprechen wird.

Reddits Führungskräfte werden einem Publikum gegenüberstehen, dessen Narben aus den vergangenen Runden desselben Kampfes sich zu einem tiefen Gefühl der Skepsis verhärtet haben. „Wir hoffen, dass Reddit nicht nur leere Plattitüden teilt, sondern einen sinnvollen Standpunkt gegen Hass einnimmt und sich diese Empfehlungen zu Herzen nimmt“, schrieben die Moderatoren, die den offenen Brief in diesem Monat unterschrieben hatten.

Dennoch hoffen viele von ihnen immer noch, dass die Auseinandersetzung mit der Führung des Unternehmens zu Veränderungen führen kann. Huffman hat in der vergangenen Woche mehrere einstündige Videochats mit Gruppen von Moderatoren geführt. Einer der Anwesenden war TheYellowRose. „Es war fast surreal, mit ihm zu sprechen“, schrieb sie später in einer E-Mail, „nachdem ich ihn jahrelang nur von Miniaturbildern kannte.“

Weitere Must-Read-Tech-Berichterstattung von Fortune:

• Intels CEO enthüllt neue Strategie: Go big or go home
• „Ich fühlte mich wie ausgesondert.“ Zwei Leute, die rassistische Vorurteile bei Facebook behaupten, beschreiben ihre Erfahrungen
• Slack-Benutzer können jetzt jedem, den sie wollen, auf der Plattform Nachrichten senden, auch wenn sie bei verschiedenen Unternehmen arbeiten
• Sie können jetzt einen Tesla mit Bitcoin kaufen – zu erstaunlichen Kosten, warnen Kritiker
• Werfen Sie einen Blick in das NFT-Haus, das für 500.000 Dollar verkauft wurde – und nein, es ist nicht echt