Meta gibt einen neuen Überblick über seine sich entwickelnden Bemühungen zur Bekämpfung von Massenmanipulationsbemühungen
Meta hat einen neuen Überblick über seine sich entwickelnden Bemühungen zur Bekämpfung koordinierter Einflussnahmen in seinen Apps veröffentlicht, die nach den US-Präsidentschaftswahlen 2016, bei denen festgestellt wurde, dass in Russland ansässige Agenten Facebook nutzen, um US-Wähler zu beeinflussen, zu einem zentralen Schwerpunkt der Plattform wurden .
Seitdem sagt Meta, dass es mehr als entdeckt und entfernt hat 200 verdeckte Beeinflussungsoperationen, während sie gleichzeitig Informationen über das Verhalten jedes Netzwerks mit anderen in der Branche teilen, damit sie alle aus denselben Daten lernen und bessere Ansätze entwickeln können, um solche Probleme anzugehen.
Laut Meta:
„Ob sie aus Nationalstaaten, Handelsunternehmen oder nicht zugeordneten Gruppen stammen, der Austausch dieser Informationen hat es unseren Teams, investigativen Journalisten, Regierungsbeamten und Branchenkollegen ermöglicht, internetweite Sicherheitsrisiken besser zu verstehen und aufzudecken, auch vor kritischen Wahlen.”
Meta sagt, dass es festgestellt hat, dass es Operationen beeinflusst, die auf über 100 verschiedene Nationen abzielen, wobei die Vereinigten Staaten das am stärksten betroffene Land sind, gefolgt von der Ukraine und Großbritannien.
Das weist wahrscheinlich auf den Einfluss hin, den die USA auf die globale Politik haben, während es sich auch auf die Popularität sozialer Netzwerke in diesen Regionen beziehen könnte, was sie zu einem größeren Einflussvektor macht.
In Bezug auf die Herkunft dieser Gruppen waren Russland, der Iran und Mexiko die drei produktivsten geografischen Quellen der CIB-Aktivitäten.
Russland ist, wie bereits erwähnt, das am weitesten verbreitete Zuhause für solche Operationen – obwohl Meta auch feststellt, dass, während viele russische Operationen auf die USA abzielten, mehr Operationen aus Russland tatsächlich auf die Ukraine und Afrika abzielten, als Teil der globalen Bemühungen der Nation, die Öffentlichkeit zu beeinflussen und zu beeinflussen politische Stimmung.
Meta stellt auch fest, dass im Laufe der Zeit immer mehr dieser Arten von Operationen tatsächlich auf ihr eigenes Land abzielen, im Gegensatz zu einer ausländischen Einheit.
„Zum Beispiel haben wir über eine Reihe von Regierungsbehörden berichtet, die es auf ihre eigene Bevölkerung in Malaysia abgesehen haben, Nicaragua, Thailand und Uganda. Tatsächlich konzentrierten sich zwei Drittel der Operationen, die wir seit 2017 unterbrochen haben, ganz oder teilweise auf das heimische Publikum.”
In Bezug auf die Entwicklung dieser Operationen stellt Meta fest, dass sich CIB-Gruppen zunehmend KI-generierten Bildern zuwenden, um beispielsweise ihre Aktivitäten zu verschleiern.
„Seit 2019 ist die Zahl der Netzwerke, die Profilfotos verwenden, die mit Techniken der künstlichen Intelligenz wie Generative Adversarial Networks (GAN) erstellt wurden, rasant gestiegen. Diese Technologie ist im Internet leicht verfügbar und ermöglicht es jedem – einschließlich Bedrohungsakteuren –, ein einzigartiges Foto zu erstellen. Mehr als zwei Drittel aller CIB-Netzwerke, die wir in diesem Jahr gestört haben, enthielten Konten, die wahrscheinlich GAN-generierte Profilbilder hatten, was darauf hindeutet, dass Bedrohungsakteure darin möglicherweise eine Möglichkeit sehen, ihre gefälschten Konten authentischer und origineller aussehen zu lassen, um sich zu entziehen Erkennung durch Open-Source-Ermittler, die sich möglicherweise auf umgekehrte Bildsuchen verlassen, um Profilfotos von Archivfotos zu identifizieren.“
Das ist interessant, besonders wenn man den stetigen Aufstieg der KI-Generationstechnologie betrachtet, die von Standbildern über Videos bis hin zu Text und mehr reicht. Während diese Systeme wertvollen Nutzen haben, gibt es auch potenzielle Gefahren und Schäden, und es ist interessant zu überlegen, wie solche Technologien verwendet werden können, um nicht authentische Aktivitäten zu verschleiern.
Der Bericht bietet einen wertvollen Einblick in das Ausmaß des Problems und wie Meta daran arbeitet, die sich ständig weiterentwickelnden Taktiken von Betrügern und Manipulationsoperationen im Internet anzugehen.
Und sie werden nicht aufhören – weshalb Meta auch eine stärkere Regulierung sowie fortgesetzte Maßnahmen von Industriegruppen gefordert hat.
Meta aktualisiert auch seine eigenen Richtlinien und Prozesse gemäß diesen Anforderungen, einschließlich aktualisierter Sicherheitsfunktionen und Unterstützungsmöglichkeiten.
Dazu gehört auch mehr Live-Chat-Kapazität:
„Während unsere skalierten Tools zur Kontowiederherstellung darauf abzielen, die meisten Probleme mit dem Kontozugriff zu lösen, wissen wir, dass es Personengruppen gibt, die von zusätzlicher, von Menschen gesteuerter Unterstützung profitieren könnten. In diesem Jahr haben wir sorgfältig einen kleinen Test einer Live-Chat-Supportfunktion auf Facebook entwickelt und beginnen, positive Ergebnisse zu sehen. Beispielsweise haben wir im Oktober unsere Live-Chat-Supportoption mehr als einer Million Menschen in neun Ländern angeboten, und wir planen, diesen Test auf mehr als 30 Länder weltweit auszudehnen.”
Das könnte ein großes Update werden, wie jeder, der jemals mit Meta zu tun hatte, weiß, dass es eine fast unmögliche Aufgabe sein kann, einen Menschen an die Leitung zu bekommen, um zu helfen.
Es ist schwierig, dies zu skalieren, insbesondere wenn fast 3 Milliarden Benutzer bedient werden, aber Meta arbeitet jetzt daran, mehr Support-Funktionen bereitzustellen, um die Menschen besser zu schützen und ihnen zu helfen, Online-Schäden zu vermeiden.
Es ist ein endloser Kampf, und mit der Fähigkeit, so viele Menschen zu erreichen, können Sie damit rechnen, dass schlechte Schauspieler weiterhin Metas Apps ins Visier nehmen, um ihre Botschaften zu verbreiten.
Daher ist es erwähnenswert, wie Meta seinen Ansatz verfeinert, während auch der Umfang der bisher an diesen Elementen durchgeführten Arbeiten erwähnt wird.
Sie können Metas vollständig lesen Koordinierter Bericht zur Durchsetzung nicht authentischen Verhaltens für 2022 hier.