Neuer Bericht legt nahe, dass Instagram zu einem wichtigen Vermittler pädophiler Netzwerke geworden ist

Das ist weder gut für Meta und seine laufenden Bemühungen, illegale Inhalte zu überwachen, noch für die Milliarden Nutzer seiner Apps.

Laut einer neuen Untersuchung des Wall Street Journal in Zusammenarbeit mit der Stanford University und der University of Massachusetts ist Instagram zu einem wichtigen Verbindungsinstrument für ein „riesiges Pädophilennetzwerk“ geworden, dessen Mitglieder illegale Inhalte offen in der App teilen.

Und der Bericht liefert mit seinem Überblick über die Ergebnisse sicherlich einen guten Eindruck:

„Instagram hilft dabei, ein riesiges Netzwerk von Konten zu verbinden und zu fördern, die sich offen der Provision und dem Kauf von Inhalten zum Thema Sex mit Minderjährigen widmen. Pädophile nutzen schon lange das Internet, aber im Gegensatz zu den Foren und Dateiübertragungsdiensten, die sich an Menschen richten, die Interesse an illegalen Inhalten haben, beherbergt Instagram diese Aktivitäten nicht nur. Seine Algorithmen fördern sie. Instagram verbindet Pädophile und führt sie über Empfehlungssysteme zu Content-Verkäufern, die hervorragend darin sind, diejenigen zu verknüpfen, die Nischeninteressen teilen.“

Diese Beschreibung wäre für die Mitglieder des Trust and Safety-Teams von Meta ein kalter Schlag ins Gesicht gewesen, als sie sie heute Morgen im WSJ gelesen hätten.

In dem Bericht heißt es, dass Instagram die Werbung für Konten erleichtert, die illegale Bilder über „Menüs“ mit Inhalten verkaufen.

„Bestimmte Konten laden Käufer dazu ein, bestimmte Handlungen in Auftrag zu geben. Einige Menüs enthalten Preise für Videos von Kindern, die sich selbst verletzen, und „Bilder von Minderjährigen, die sexuelle Handlungen mit Tieren durchführen“, fanden Forscher des Stanford Internet Observatory heraus. Zum richtigen Preis stehen Kinder für persönliche „Treffen“ zur Verfügung.“

Der Bericht identifiziert Metas Abhängigkeit von automatisierten Erkennungstools als Haupthindernis für seine Bemühungen und hebt gleichzeitig hervor, dass die Algorithmen der Plattform durch die Verwendung verwandter Hashtags im Wesentlichen schädlichere Inhalte für interessierte Benutzer fördern.

Verwirrenderweise gibt es bei Instagram sogar ein Warn-Pop-up für solche Inhalte, anstatt sie direkt zu entfernen.

Es ist sicherlich eine beunruhigende Zusammenfassung, die ein erhebliches Problem innerhalb der App hervorhebt – obwohl es auch erwähnenswert ist, dass Metas eigene Meldung von Verstößen gegen Community-Standards in letzter Zeit auch einen deutlichen Anstieg der Durchsetzungsmaßnahmen in diesem Bereich zeigte.

Dies könnte darauf hindeuten, dass Meta sich dieser Probleme bereits bewusst ist und weitere Maßnahmen ergreift. Wie auch immer, als Ergebnis dieses neuen Berichts hat Meta versprochen, mehr Maßnahmen zu ergreifen, um diese Bedenken auszuräumen, und eine neue interne Taskforce einzurichten, um diese und andere Netzwerke aufzudecken und zu beseitigen.

Die Probleme hier gehen offensichtlich über die Markensicherheit hinaus und es sind weitaus wichtigere und wirkungsvollere Maßnahmen erforderlich, um junge Benutzer zu schützen. Instagram ist bei jungen Zielgruppen sehr beliebt, und die Tatsache, dass zumindest einige dieser Nutzer sich in der App im Wesentlichen selbst verkaufen – und dass ein kleines Forscherteam dies entdeckte, als die Systeme von Meta es übersahen – ist ein großes Problem, das erhebliches Aufsehen erregt Mängel in Metas Prozess.

Hoffentlich spiegeln die neuesten Daten im Community Standards Report die umfassenderen Bemühungen von Meta wider, dieses Problem anzugehen – es müssen jedoch einige große Schritte unternommen werden, um dieses Element anzugehen.

Erwähnenswert ist aus dem Bericht auch, dass die Forscher herausfanden, dass Twitter in seiner Analyse weitaus weniger CSAM-Material bereitstellte und dass das Twitter-Team schneller auf Bedenken reagierte als das Meta-Team.

Elon Musk hat geschworen, CSAM mit höchster Priorität anzugehen, und es scheint, zumindest aus dieser Analyse, dass es in dieser Hinsicht tatsächlich einige Fortschritte machen könnte.