Eigentlich sind Chatbots dazu da, Menschen zu beraten und ihnen relevante Informationen zu liefern. Vor allen Dingen im Kundenbereich sind wir darauf angewiesen, den Bots zu vertrauen. Wie können wir verhindern, auf einen bösen Bot hereinzufallen, der absichtlich falsche Informationen streut?
Chatbots oder kurz „Bots“ sind eigentlich freundliche kleine Helfer, die uns das Leben erleichtern wollen. Es gibt aber auch Botsoftware, die so programmiert ist, dass sie unerwünschte Leistungen erbringt. Am bekanntesten unter den bösen Bots sind Spambots, die versuchen über Emails, Kommentare oder Social-Media-Posts Klicks auf bestimmte Links zu erzeugen. Im harmlosesten Fall erscheint hinter dem Link Werbung, im schlimmsten Fall infiziert man sein Endgerät mit Malware.
Die Bots, die vorgeben menschlich zu sein, erscheinen mittlerweile aber viel subtiler und häufig erkennen wir den Unterschied zu einem Kommentar eines echten Menschen gar nicht mehr. Dabei wollen wir gerade auf Ratingwebsites oder bei Bewertungsportalen eine menschliche Meinung hören und von seiner Erfahrung profitieren. Angebote mit vielen positiven Rezensionen erscheinen einfach attraktiver. Zudem katapultieren sie das Produkt oder den Service auf die Bestenlisten der Verkaufsportale. Indem die Ratings manipuliert werden, werden also gleichzeitig die Empfehlungs-Algorithmen der Webseiten manipuliert. So lassen sich entweder die eigenen Produkte bewerben oder die der Konkurrenz schlechtmachen. Besonders oft gefälscht werden Rezensionen von elektronischen Geräten, aber gerade bei Reiseportalen muss man aufpassen: Eine schlechte Kamera ist ärgerlich, aber ein dreckiges Ferienhaus mit leerem Pool vermiest den hart verdienten Urlaub.
Dennoch gibt es verschiedene Strategien den Fälschungs-Bots auf die Spur zu kommen. Dabei kann man über die schneller erkennbaren Inhalte der Aussagen oder äußere Merkmale wie Profilbilder gehen oder die Metadaten über das User-Verhalten, also extralinguistische Features checken:
1. Inhalt
• Abgegebene Bewertungen vergleichen: Wenn einige dieser Kriterien zutreffen, kann es sich wahrscheinlich um einen Bot handeln, denn Menschen reagieren gewöhnlich spontaner und individueller wohingegen Bots einem bestimmten Muster an Nachrichten folgen
– Mehrfache Benutzung derselben Formulieren
– Häufige Einbettung (der gleichen) Links
– Markennamen stehen in Großbuchstaben
• Ausschließlich ein Produkt ist positiv bewertet und alle Konkurrenzprodukte negativ
• Bot-Accounts nutzen selten die Möglichkeit sich weiter einzubringen als über Rezensionen, z.B in Diskussionsforen
• Profilbilder sind häufig wahllos aus Suchmaschinen kopiert oder erst gar nicht vorhanden
2. Metadaten
• Entropie über den zeitlichen Verlauf vergleichen, z.B. ob der Abstand zwischen zwei Tastendrücken immer gleich bleibt oder variiert und Muster der Mausbewegungen messen
• Botnets identifizieren: Wenn ein Bot gefunden ist, kann man anhand der IP Adresse, alle verwandten Bots ausfindig machen
• Timestamps vergleichen
• Bewertungen über Sterne oder andere Bewertungsmaßstäbe eines Produkts auswerten und Ausreißer ausfindig machen. Denn die gefälschte sehr schlechte bzw. gute Bewertung fällt auf unter den zahlreichen echten guten bzw. schlechten Bewertungen
• Geo-Location herausfinden. Wer zum Beispiel nah an einem Hotel wohnt, hat hier höchstwahrscheinlich nicht übernachtet.
• IP Adresse: Eine sehr hohe Anzahl verschiedener Bewertungen von derselben Adresse sind eher nicht authentisch
• Die Dauer der Eingabe eines Textes entspricht nicht der Zeit, die ein Mensch dafür benötigen würde
Die Erkennung von Fälscher-Bots auf Ratingwebseiten ist natürlich nicht immer so einfach und kann nur als sicher gelten, wenn eine Vielzahl der Maßnahmen berücksichtigt werden. Viele der Methoden basieren auf statistischen Ausreißern, die nicht dem durchschnittlichen menschlichen Verhalten entsprechen. Da dieses jedoch oft unberechenbar ist, läuft man Gefahr echte Beiträge von echten Menschen als maschinengeneriert zu identifizieren. Ein nichtvorhandenes Profilbild kann auf einen Bot hindeuten, mag aber auch nur bedeuten, dass der User seinen negative Kommentar möglichst anonym hinterlassen wollte.
Daher scheint es erfolgsversprechender, die Metadaten auszuwerten, um Fälscher-Bots zu erkennen. Das ist Aufgabe der großen Anbieter unter den Online-Shops oder Bewertungsportalen, diese Pflicht wahrzunehmen. Denn Daten sammeln sie genug, um ihre echten Kunden und Anbieter vor falschen Bewertungen zu schützen.
Mehr zur Boterkennung auch in Social Media oder Computergames kann man hier lesen.
