Billige Online-Fake-Accounts befeuern Desinformation, Studie sieht florierenden Schattenmarkt

Forscher haben erfasst, wie viel es in jedem Land der Welt kostet, falsche Onlinekonten einzurichten. Regierungen und Aufsichtsbehörden ringen zugleich mit Desinformation und Betrug im Netz.

Die Universität Cambridge hat am Donnerstag den Cambridge Online Trust and Safety Index (COTSI) gestartet. Die Website ist nach Angaben der Universität das erste globale Werkzeug, das in Echtzeit die Preise für die Verifizierung gefälschter Konten auf mehr als 500 Plattformen nachverfolgt, darunter TikTok, Instagram, Amazon, Spotify und Uber.

Solche Konten dienen oft zum Aufbau von Bot-Armeen. Sie imitieren echte Menschen und beeinflussen die Debatte im Netz. Die Studienautoren sagen, sie lassen sich einsetzen, um Gespräche zu fluten, Betrugsmaschen oder Produkte zu bewerben oder politische Botschaften koordiniert zu pushen.

Die Studie erscheint in einem kritischen Moment für Vertrauen im Netz. Große soziale Plattformen haben ihre Moderation zurückgefahren und zahlen Nutzern für Engagement. Das könnte falsche Interaktionen begünstigen.

Zu Wochenbeginn verhängte das Vereinigte Königreich Sanktionen gegen russische und chinesische Firmen, die als „bösartige Akteure“ in der Informationskriegsführung gelten.

Die Studie zeigt auch: Der Aufstieg generativer KI (GenAI) verschärft das Problem.

„Wir sehen einen florierenden Untergrundmarkt, über den inauthentische Inhalte, künstliche Popularität und politische Einflusskampagnen leicht und offen verkauft werden“, schrieb Jon Roozenbeek, Seniorautor der Studie und Sozialpsychologe mit Schwerpunkt Computational Social Science an der Universität Cambridge, in einer Erklärung.

„Das geschieht zum Beispiel, indem man online eine Graswurzel-Unterstützung simuliert oder gezielt Kontroversen erzeugt, um Klicks zu sammeln und die Algorithmen auszutricksen“, ergänzte er.

Anbieter betreiben Anlagen mit Tausenden SIM-Karten und Millionen vorgefertigter Verifizierungen. Damit erzeugen sie falsche Konten für nur wenige Cent.

Die über ein Jahr verfolgten Lieferantendaten zeigen: Am günstigsten ist die Verifizierung im Vereinigten Königreich, in den Vereinigten Staaten und in Russland. In Japan und Australien liegt sie deutlich höher, weil strengere SIM-Regeln die Kosten treiben.

Im Schnitt kostet eine SMS-Verifizierung für ein einziges Fake-Konto in Russland 0,08 Dollar (0,06 Euro), im Vereinigten Königreich 0,10 Dollar (0,086 Euro) und in den Vereinigten Staaten 0,26 Dollar (0,22 Euro). In Japan sind es 4,93 Dollar (4,25 Euro).

Zu den Plattformen mit den weltweit niedrigsten Preisen für Fake-Konten zählen Meta, Shopify, X, Instagram, TikTok, LinkedIn und Amazon.

Einige Anbieter liefern laut Studie sogar Kundensupport, Mengenrabatte und Dienste, die Likes, Kommentare und Follower in die Höhe treiben.

„Generative KI ermöglicht es Bots, ihre Botschaften menschlicher wirken zu lassen und sie auf andere Konten zuzuschneiden. Bot-Armeen werden überzeugender und schwerer zu erkennen“, sagte Roozenbeek.

Die Studie verweist zudem auf enge Verbindungen zu russischen und chinesischen Bezahlsystemen. Die Grammatik auf vielen Anbieter-Webseiten deutet auf russische Urheberschaft hin.

Preissprünge rund um Wahlen

Die Studie liefert Hinweise, dass politische Einflusskampagnen Preisspitzen im Markt für Fake-Konten treiben. Die Nachfrage nach „Influence Operations“ steigt.

„Über Desinformation wird quer durch das politische Spektrum gestritten. Unabhängig von der Form inauthentischer Online-Aktivität läuft vieles durch diesen Manipulationsmarkt. Deshalb können wir dem Geld folgen“, sagte Anton Dek, Research Associate am Cambridge Centre for Alternative Finance.

In Ländern mit bevorstehenden nationalen Wahlen stiegen die Preise für Fake-Konten auf Telegram und WhatsApp deutlich. In den 30 Tagen vor Öffnung der Wahllokale legten sie um zwölf beziehungsweise fünfzehn Prozent zu.

Diese Messenger zeigen Telefonnummern an. Einflussakteure müssen ihre Konten deshalb lokal registrieren. Das treibt die Nachfrage.

Für Plattformen wie Facebook oder Instagram zeigte sich kein ähnlicher Trend. Günstig in einem Land erstellte Fake-Konten können anderswo Zielgruppen ansprechen.

Das Team hinter der Studie, darunter Experten für Desinformation und Kryptowährungen, ist überzeugt: Strengere SIM-Regeln und verpflichtende Ausweiskontrollen würden die Produktion falscher Konten verteuern und den Markt eindämmen.

Das neue Werkzeug lässt sich auch nutzen, um Regulierungseingriffe in verschiedenen Ländern zu testen.

„Der COTSI-Index wirft ein Licht auf die Schattenwirtschaft der Online-Manipulation, indem er einen versteckten Markt in messbare Daten übersetzt“, sagte Sander van der Linden, Co-Autor der Studie und Professor für Sozialpsychologie an der Universität Cambridge.

„Die Kosten von Online-Manipulation zu verstehen, ist der erste Schritt, um das Geschäftsmodell hinter Desinformation aufzubrechen.“

Anfang des Jahres verbot das Vereinigte Königreich als erstes Land in Europa SIM-Farmen. Das Cambridge-Team sagt, COTSI werde nun helfen, die Folgen dieser Politik zu messen.

Dieser Text wurde mit Hilfe von künstlicher Intelligenz übersetzt. Ein Problem melden : [feedback-articles-de@euronews.com].