Wie Facebook Beeinflussungsversuche von russischen und anderen Akteuren auf die US-Präsidentenwahlen verhindern will
Bei der Präsidentenwahl 2016 haben russische Kriminelle versucht, über Facebook das Ergebnis zu beeinflussen. Vier Jahre später hat das soziale Netzwerk massiv aufgerüstet – auch dank Mitarbeitern aus den Nachrichtendiensten. Ein Gespräch mit dem Chef der Global Threat Disruption, David Agranovich.
Das Debakel von 2016 zeigt Wirkung: Bei Facebook arbeiten mittlerweile über 200 Spezialisten im Bereich Cybersecurity.
Russland lieferte im Jahr 2016 ein Drehbuch dafür, wie man die amerikanische Präsidentenwahl dank Facebook beeinflussen kann: Akteure wie die Internet Research Agency streuten kurz vor der Wahl über Facebook Falschmeldungen in besonders umkämpften Gliedstaaten und versuchten so, Trumps Anhänger zu mobilisieren und diejenigen Clintons zu demotivieren. Auf Facebook gekaufte Werbung half ihnen, solche Fake-News noch breiter zu streuen. Gleichzeitig wurden E-Mails, die russische Hacker von den Servern der demokratischen Parteileitung gestohlen hatten, auf Facebook und anderen Plattformen sowie über traditionelle Medienhäuser in der Gesellschaft verbreitet. In dem politisch tief gespaltenen Land war das, als ob man Benzin in ein bereits loderndes Feuer gekippt hätte.
Die Idee, dass Falschnachrichten auf Facebook die Präsidentenwahl beeinflusst haben könnten, nannte der CEO Mark Zuckerberg zunächst «verrückt» – ein Kommentar, für den er sich später entschuldigte, als immer neue Beweise russischer Einflussnahme ans Licht kamen. Bei Kongressanhörungen gab sich Zuckerberg in den folgenden Monaten reuig und versprach, Facebook nachzubessern.
Vier Jahre später hat sich tatsächlich einiges getan. Innerhalb seiner Cybersecurity-Abteilung hat Facebook ein eigenes Expertenteam für versuchte Einflussnahme geschaffen, für das es mehr als 200 Experten aus den Nachrichtendiensten, dem Verteidigungsministerium, der Wissenschaft sowie Investigativjournalisten und Hacker einstellte. Sie alle suchen nach «coordinated inauthentic behavior», also koordinierten Täuschungsversuchen. Mehr als 50 solche Operationen, wie es in der oft kriegsähnlichen Sprache des Teams heisst, wurden inzwischen aufgedeckt.
Einer der Spezialisten ist David Agranovich. Als Leiter der Global Threat Disruption koordiniert er seit zwei Jahren das Aufdecken und Aushebeln von Versuchen der Einflussnahme auf allen Facebook-Plattformen. Dafür pendelt er zwischen den Standorten des Teams in San Francisco, Washington, Dublin und zahlreichen anderen Metropolen.
Herr Agranovich, wie stellen Sie sicher, dass sich Facebooks Debakel vom Wahljahr 2016 im Herbst nicht wiederholt?
Wir sind nun in einer grundlegend anderen Situation. Wir suchen proaktiv nach Versuchen zur Beeinflussung und haben Experten in unseren Teams, die solche Angriffe im grösseren Kontext von Manipulationsversuchen sehen und verstehen. Auch künstliche Intelligenz unterstützt unsere Arbeit. Zudem haben wir Kommunikationskanäle mit anderen sozialen Netzwerken und deren Expertenteams etabliert, ebenso mit Wissenschaftern, Strafverfolgern und Regierungsbehörden wie dem Ministerium für Inlandsicherheit. Mit ihnen allen haben wir einen regen Austausch und treffen uns auch regelmässig. So stellen wir sicher, dass wir nicht jeweils in Silos arbeiten. Wir haben viel von 2016 gelernt.
Inwiefern haben auch die Angreifer ihre Taktiken geändert?
Wir beobachten drei grosse Trends: Erstens versuchen die Akteure nun, länger unentdeckt zu bleiben – sowohl von uns als auch von anderen Plattformen und Regierungsbehörden. Vergangenen Oktober haben wir etwa ein Netzwerk aufgedeckt, das in Verbindung zu Mitarbeitern der russischen Propagandamaschine Internet Research Agency (IRA) stand. Die hatten sich wirklich gut versteckt, aber sie hatten auch eine entsprechend niedrige Reichweite. Zweitens geben sich ausländische Akteure häufig als Bürger der anvisierten Länder aus. Und drittens erfolgen die versuchten Einflussnahmen immer häufiger plattformübergreifend, also nicht mehr nur auf Facebook, sondern auch mit eigenen Webseiten oder über traditionelle Medien.
Welcher Versuch der Einflussnahme hat Sie als Letztes überrascht?
Die Aktion der Russen bei den Zwischenwahlen 2018. Damals gab es jede Menge Diskussionen innerhalb der Tech-Branche und mit Wissenschaftern darüber, wie eine russische Einflussnahme aussehe, welche Netzwerke mit russischen Nutzerkonten es gebe und inwiefern sie versuchen würden, andere Nutzer im direkten Diskurs in ihren politischen Ansichten zu beeinflussen. Und das Ganze hat sich dann komplett gedreht. Der Ansatz war, gerade so aktiv zu sein, dass eine russische Einflussnahme wie ein echtes Problem wirkt – und dann on- und offline die Botschaft zu verbreiten, dass die Wahlergebnisse wegen genau dieser Einflussnahme nicht glaubhaft seien.
Statt also die Meinungen links und rechts im politischen Spektrum zu beeinflussen, wurde versucht, die Menschen die Glaubwürdigkeit des politischen Prozesses an sich hinterfragen zu lassen. Ich würde das sogar als einen vierten Trend bezeichnen, den wir sehen: «perception hacking», also die Beeinflussung der Wahrnehmung. Die Erwartungshaltung, dass es eine versuchte Einflussnahme geben wird, wird dazu genutzt, das Vertrauen in den demokratischen Prozess und die Institutionen zu schwächen – seien es die Medien, die Regierung oder die Wissenschaft, die genau diesen Prozess schützen wollen.
Sehen Sie jetzt schon einen Anstieg von Täuschungsversuchen mit Blick auf die US-Präsidentenwahl im Herbst?
Wir haben beobachtet, dass solche Beeinflussungsversuche immer schon lange vor dem eigentlichen Wahltermin beginnen. Den Akteuren geht es auch nicht nur um den einzelnen Wähler, sondern um breite Stimmungen. Wir erwarten, dass die Akteure sehr hartnäckig sein werden und ihre Aktionen auf Plattformen wie unserer starten, aber auch offline fortsetzen werden. Wir müssen sehr wachsam sein.
Haben es die Angreifer diesmal auf bestimmte Kandidaten abgesehen?
Nein. Die Vorgänge, die wir bisher aufgedeckt haben, zielten entweder darauf ab, eine Gefolgschaft für eine bestimmte eigene Seite auf Facebook aufzubauen, oder, und das trifft vor allem für russischstämmige Inhalte zu, die politische Spaltung zu vertiefen und Chaos im Land zu schüren. Womöglich haben die Nachrichtendienste der Regierung andere Quellen, aber wir sehen keinen direkten Angriff gegen oder Werbung für einen Kandidaten.
Welcher Akteur bereitet Ihnen mit Blick auf die USA die grössten Sorgen?
Da bemühen wir uns, ein möglichst breites Feld von Akteuren zu beobachten. Wir schauen also nicht nur auf Russland oder Iran oder China und nicht nur auf nationale Akteure. Wenn wir auf eines achten, dann darauf, dass wir neue Bedrohungen und neue Fallen nicht übersehen. Es ist gut, wenn man Einflussversuche von Russland erwartet, auch von Iran und auch von inländischen Akteuren. Und dann versuchen wir, die Aktionen so früh wie möglich auszuschalten.
Besonders die russische IRA war im Wahljahr 2016 ein wichtiger Akteur. Inwiefern hat sich deren Drehbuch inzwischen geändert?
Wie das russische Ökosystem aussieht, ist eine offene Frage. Ist die IRA immer noch die IRA, oder gibt es eine andere nebulöse Gruppe von Akteuren, die Russlands geopolitische Ziele umzusetzen versucht? Wenn es einen konsistenten Trend bei der IRA gibt, dann den, dass ihre Aktionen inkonsistent sind.
Die andere interessante Beobachtung ist, dass wir seit 2018 eine Bewegung zurück zur traditionellen Arbeitsweise russischer Nachrichtendienste im Kalten Krieg sehen. Bei einer Operation, die wir jüngst in Ghana aufgedeckt haben, hatten sie eine echte Nichtregierungsorganisation in Ghana gegründet, um ihre Online-Aktionen in den USA von dort aus versteckt durchzuführen. Das erinnert an die klassische sowjetische Nachrichtendienstarbeit. Die Friktion, die wir und andere Plattformen für ihre Online-Aktivitäten geschaffen haben, hat sie dazu gezwungen, auf ihre Praktiken der achtziger und neunziger Jahre zurückzugreifen.
Welchen Stellenwert hat Russland bei versuchten Einflussnahmen?
In den Jahren 2016 und 2017 fokussierte sich die Öffentlichkeit auf Einflussversuche aus Russland. Das lag auch daran, dass der russische Militärgeheimdienst GRU da sehr aktiv war, ebenso die russische Propagandafabrik Internet Research Agency und natürlich der Sonderermittler Robert Mueller. Aber es gibt ein viel breiteres Feld von Akteuren, die Beeinflussungsversuche unternehmen, auch speziell mit Blick auf die USA. Natürlich haben wir Aktionen aus Russland aufgedeckt, aber auch aus Iran und aus mehreren Ländern, die Europa angreifen. Das ist eine gute Lektion aus den letzten zwei Jahren: Es gibt eine bemerkenswerte Vielfalt von Akteuren in diesem Feld.
Was sind die gängigsten Falschwahrnehmungen, die die Öffentlichkeit hinsichtlich der Bedrohungen hat, mit denen Facebook kämpft?
Erstens, dass es nur ein Russland-Problem sei. Ich kenne das Land gut, habe dort eine Zeitlang gelebt, spreche die Sprache, aber ehrlich gesagt neigen viele dazu, sich zu sehr auf die aus Russland kommenden Aktionen zu fokussieren. Tatsächlich gibt es auch innerhalb Amerikas viele Akteure und Aktionen, die an den Rändern des politischen Spektrums angesiedelt sind. Das wird manchmal fälschlicherweise als ausländischer Einflussversuch ausgelegt, tatsächlich sind es aber Mitbürger und ihre eigenen Ansichten. Zweitens gibt es die Tendenz dazu, Fake-News und unwahre Inhalte mit versuchter Einflussnahme gleichzusetzen. Ehrlich gesagt sind bei solchen Aktionen die geteilten Inhalte oft gar nicht grundfalsch. Es ist häufig entweder eine Meinung oder etwas Wahres, das nur falsch dargestellt wird. Die Diskussionen darum verlieren sich dann schnell in Fact-Checking-Debatten. Und auch wenn das sehr wichtig ist, ist es doch eine grundlegend andere Bedrohungslage als ausgeklügelte Versuche zur Einflussnahme.
Die Corona-Pandemie hat in Amerika viele Ängste und eine grosse Verunsicherung ausgelöst. Inwiefern sehen Sie bereits, dass Angreifer auf Facebook diese Krise für ihre Zwecke ausnutzen, auch im Hinblick auf die Präsidentenwahl?
Böswillige Akteure greifen erfahrungsgemäss immer populäre Themen auf, um ihre Zuhörerschaft auszuweiten, ob Betrüger, Spammer oder andersartige Manipulatoren. Bezüglich «coordinated inauthentic behavior» haben wir im April acht Netzwerke aufgedeckt und von der Plattform geworfen. Sie alle hatten auch Inhalte zu Covid-19 geteilt, aber das war nicht ihr Hauptfokus, sondern eher Mittel zum Zweck. Zwei der Netzwerke waren in den USA ansässig, sie standen in Verbindung zu Gruppen der Anti-Zuwanderungs-Bewegung und der rechten Verschwörungstheorie Qanon. Wir entdeckten sie als Teil unserer internen Ermittlungen zu vermutetem «coordinated inauthentic behavior» im Vorfeld der US-Wahlen.
Inwiefern hilft Ihnen künstliche Intelligenz (KI) bei dieser Arbeit?
Wir haben automatisierte Systeme auf allen Plattformen, die nach allen möglichen Formen von auffälligem Verhalten suchen. Man darf nicht vergessen, dass Versuche der Einflussnahme einen ganz kleinen Prozentsatz des schlechten Verhaltens ausmachen, das es in sozialen Netzwerken gibt; der Grossteil ist Spam. In unserem Fall helfen uns die Algorithmen bei zwei Dingen: erstens, Netzwerke und Akteure zu finden, die wir schon einmal von der Plattform geworfen haben und die nun versuchen zurückzukommen.
Oder, zweitens, sie helfen uns, komplexe Netzwerke mit koordinierter Tätigkeit zu entdecken, bei denen es aber noch einen Experten braucht, der sich das genauer anschaut. Interessanterweise ist in solchen Fällen die künstliche Intelligenz einfach noch nicht fortgeschritten genug, um zu verstehen, welches Verhalten unsere Nutzungsrichtlinien verletzt und was einfach nur politischer Aktivismus ist. In solchen Fällen brauchen wir Experten, die sich den Kontext anschauen und entscheiden, in welchen Fällen man womöglich einschreiten muss.
Inhalte auf Facebook, Instagram und Whatsapp werden immer stärker verschlüsselt, so dass nur die jeweiligen Nutzer sie sehen können. Inwiefern stört das Ihre Bestrebungen, versuchte Einflussnahme aufzudecken?
Das Interessante daran ist, dass wir für unsere Untersuchungen gar nicht die Inhalte sehen müssen. Wir spüren dem koordinierten, nicht authentischen Verhalten unabhängig davon nach. Wir beobachten das Verhalten von verdächtigen Akteuren auf all unseren Plattformen und tauschen uns dazu mit anderen Behörden aus, das ist wahnsinnig wichtig – nicht wegen der Verschlüsselung, sondern weil die Akteure sich eben plattformübergreifend bewegen. Das hilft uns, die Lücken zu füllen, wenn sich die Akteure von unseren Plattformen wegbewegen.
Was bleibt die grösste Herausforderung für Sie sechs Monate vor der Wahl?
Dass wir nicht nur störende Aktionen aufdecken, sondern mit anderen zusammenarbeiten müssen, um Versuche der Einflussnahme wirklich zu verhindern. Ein gutes Beispiel dafür sind die sogenannten Hack-and-Leak-Aktionen, wie wir sie 2016 mit den geleakten E-Mails der demokratischen Parteileitung gesehen haben, nachdem der russische Militärgeheimdienst GRU diese gestohlen hatte. Das war eine unglaublich effektive Aktion, in den sozialen Netzwerken wie auch in den traditionellen Medien – und das bis zum Wahltag. Solchen Hack-and-Leak-Aktionen können wir bei Facebook nur bedingt etwas entgegensetzen. Wir bieten Politikern, die Opfer eines Hackerangriffs wurden, ein Programm namens Facebook Protect an, mit dem wir den Zugriff auf ihre Konten noch besser schützen. Aber wir müssen mit anderen Plattformen und traditionellen Medien zusammenarbeiten, um sicherzustellen, dass geleakte Informationen nicht einfach ohne Kontext veröffentlicht werden. Hier sind wir nach wie vor verwundbar, weil das Gegenmittel darin besteht, dass viele Akteure zusammenarbeiten. Dass wir alle unsere jeweiligen Informationen tatsächlich breit angelegt teilen, ist das, was mir am meisten Sorgen bereitet.
David Agranovich
Leiter der Global Threat Disruption, Facebook
Wer sich an die US-Kongress-/Senatsanhörungen mit den Top-Dogs von Facebook erinnert, wird nicht verwundert sein, dass Facebook mit Blick auf die US-Pr-Wahlen (Nov.2020) technisch / personell massiv aufgerüstet hat. Facebook kam wegen den 2016-Vorkommnissen (Russian hoax?) schwer unter die Räder. Mit der Androhung, den ganzen Laden in Bezug auf die USA zu schliessen, sollte Facebook spätestens ab Jahr 2020 diesbezüglich versagen. Die Schutzbehauptung, Facebook sein nur ein "information board" zur freien Verfügung der Kundschaft weltweit (also nur ein "provider of infrastructure") verfing nicht mehr. Facebook's Verantwortung wird gemessen an der redaktionellen Verantwortung z.B. vergleichbar mit einer NYT oder Washington Post. Ist in etwa so, wie wenn von einer Giraffe verlangt wird, sie solle sich auf die US-Pr-Wahlen 2020 hin doch wie einen Elefant verhalten. Um Beeinflussungsversuche aus Russland und/oder von anderen Akteueren zu verhindern. "A journey to hell" kann man da nur sagen. Facebook sei jedenfalls viel Glück gewünscht!
Fr. Clinton hatte mit 1.3 Mrd. $ ein fast doppelt so grosses Wahlkampfbudget wie Trump (Quelle SRF). Clinton erhielt reichlich Geld aus dem Ausland, z.B. Saudi Arabien, z.B. die deutsche Bundesregierung (Fr. Merkel) die einige Millionen an die Clinton Stiftung gezahlt hatte (Quelle Welt). Die linke Huffington Post hatte die vermeintlichen Facebook Aktivitäten der Russen zugunsten Trumps quantifiziert. Ich hatte den Wert dieser Unterstützung seinerzeit auf 1.6 - 2 Mio. $ geschätzt. Fazit: Die Medien suchen eine Mücke zum Elefanten aufzublasen während sie umgekehrt den Elefanten (ausländische Unterstützung für Clinton) verschwinden zu lassen suchen. Man kann dies als Manipulation bezeichnen. Trump hatte 2016 einen asymetrischen Wahlkampf geführt. Seine Anhänger hatten sehr viele preiswerte Aktivitäten über Facebook und Kettenmails abseits der etablierten linken Medien gestartet. Ich hatte seinerzeit Mails...."What Trump really said about....If you enjoyed this mail plaese forward it to 6 of your buddies" von US Bekannten erhalten. Das ist den Linken ein Dorn im Auge. So wird das deutsche Facebook mittlerweile von 1450 (Quelle Handelsblatt 2018) Personen zensiert. Ich vermute, dass Facebook eine ähnliche Zensur aufzubauen beabsichtigt. Meine Kenntnisse zu den Befugnissen des US Systems sind begrenzt. Ich kann nur hoffen, dass der US Präsident und die Gerichte eine solche Zensur in den USA verhindern können.