Tech News

Technik & Digital

X möchte die Inhaltsmoderation nach Problemen mit KI-Bildern und Bot-Farmen verbessern


Die Inhaltsmoderation auf

Letzte Woche erlangten KI-generierte Bilder von Sängerin Taylor Swift, die von NFL-Fans sexuell missbraucht wurde, auf X großen Anklang und erreichten über 27 Millionen Aufrufe und 260.000 Likesbevor das ursprüngliche Konto gesperrt wurde.

Berichten zufolge erwägt Swift nun rechtliche Schritte gegen

Das ist nicht gerade eine große Bestätigung der Wirksamkeit des Community Notes-Ansatzes. Und obwohl dieser Inhalt gegen X verstößt Richtlinie zu sensiblen Medienund würde daher unabhängig von der Veröffentlichung von Community Notes entfernt werden. Die Tatsache, dass eigene Content-Moderatoren.

Welches X ansprechen möchte. Heute gab X bekannt, dass es in Texas ein neues Content-Moderationszentrum mit 100 Personen aufbaut, das sich auf Inhalte über sexuellen Missbrauch von Kindern konzentrieren wird, aber auch mit der Verwaltung anderer Elemente beauftragt sein wird.

Das ist scheinbar ein Eingeständnis, dass man sich in dieser Hinsicht nicht darauf verlassen kann, dass Community Notes die ganze schwere Arbeit übernimmt. Gleichzeitig konzentriert sich der neue Ansatz von Moderationsentscheidungen, wie es in der Vergangenheit auch bei Twitter der Fall war.

Community Notes befasst sich zumindest theoretisch mit diesem Problem, aber es muss eindeutig noch mehr getan werden, um die breitere Verbreitung schädlichen Materials zu bekämpfen. Gleichzeitig wurden auch die Behauptungen von X, Bots auszurotten, genauer unter die Lupe genommen.

Wie The Guardian berichtet, hat die deutsche Regierung Berichten zufolge in der App ein riesiges Netzwerk russischer Bots aufgedeckt, die sich koordinierten, um bei deutschen Nutzern eine anti-ukrainische Stimmung zu schüren.

Laut The Guardian:

Mithilfe spezieller Überwachungssoftware deckten die Experten über einen Zeitraum von einem Monat ab dem 10. Dezember eine riesige Spur von Beiträgen auf, die einem raffinierten und konzertierten Angriff auf die Unterstützung Berlins für die Ukraine gleichkamen. Über 1 Mio. deutschsprachige Beiträge wurden von schätzungsweise 50.000 Fake-Accounts verschickt, was einer Rate von zwei pro Sekunde entspricht. Der überwältigende Ton der Botschaften war die Vermutung, dass die Regierung von Olaf Scholz dadurch die Bedürfnisse der Deutschen vernachlässige Unterstützung für die Ukrainesowohl in Form von Waffen und Hilfsgütern als auch durch die Aufnahme von mehr als einer Million Flüchtlingen.

X hat daran gearbeitet, Bot-Farmen dieser Art auszurotten, indem es die „Zahlungsverifizierung“ als Mittel nutzt, um sicherzustellen, dass hinter jedem Profil in der App echte Menschen stehen, indem es Benutzer zum X Premium-Verifizierungsprogramm drängt und einen neuen Test durchführt eine Gebühr von 1 $ für die Nutzung der App.

Theoretisch dürfte dies dazu führen, dass Bot-Programme wie dieses zunehmend kostenintensiver werden und dadurch ihre Verwendung eingeschränkt wird. Wenn die Gebühr von 1 US-Dollar beispielsweise in Deutschland gelten würde (sie wird derzeit in Neuseeland und auf den Philippinen getestet), hätte der Beginn dieser Operation 50.000 US-Dollar gekostet.

Offensichtlich war dies jedoch auch nicht das von X erhoffte Hindernis, da verschiedene verifizierte Bot-Profile immer noch automatisierte Nachrichten in der App posten.

X möchte die Inhaltsmoderation nach Problemen mit KI-Bildern und Bot-Farmen verbessern

Im Wesentlichen haben die Lösungen von Dies hat zu Misstrauen bei Werbepartnern und Regulierungsbehörden sowie zu größeren Bedenken hinsichtlich der Abkehr der Plattform von der menschlichen Moderation geführt.

X muss sich eindeutig an beiden Fronten verbessern, und wie bereits erwähnt, hat es dies offenbar anerkannt, indem es Pläne für mehr menschliche Moderatoren angekündigt hat. Damit gehen aber auch höhere Kosten einher, und da die Margen von

Die Moderation von Inhalten ist eine große Herausforderung für jede Plattform, und es schien immer unwahrscheinlich, dass X in der Lage sein würde, 80 % seines Teams auszusortieren und dennoch die operative Kapazität zur Überwachung dieser Elemente aufrechtzuerhalten.

Vielleicht kann das Unternehmen durch verbessertes maschinelles Lernen die Kosten dennoch niedrig halten und seine Überwachungssysteme verbessern. Aber es ist eine weitere Herausforderung für die Musk-eigene App, die dazu führen könnte, dass sich mehr Nutzer und Marken woanders umsehen.





Source link