Welche Erkenntnisse liefert die wissenschaftliche Studie von Trustami und der Technischen Universität Berlin zum Thema Bewertungsbetrug auf Online-Plattformen, welche rechtlichen Maßnahmen sind denkbar und notwendig, um Bewertungsbetrug nachhaltig einzudämmen und wie sehen die aktuellen Herausforderungen vor dem Hintergrund künstlicher Intelligenz aus? Zu diesen Fragen tauschten sich 13 VertreterInnen der Initiative „Gemeinsam gegen Bewertungsbetrug“ im Rahmen eines digitalen Workshops am 28. März aus.
Gefälschte Bewertungen werden als relevantes Problem erkannt
Gefälschte Bewertungen sind für EndverbraucherInnen, Unternehmen und Portale gleichermaßen ein großes Problem. Insbesondere diese, die nicht nur durch Beeinflussung verfälscht sind, sondern jene Bewertungen, die komplett frei erfunden und von sogenannten Bewertungsagenturen verkauft werden. Denn sie verschaffen dem manipulierenden Unternehmen einen ungerechtfertigten Wettbewerbsvorteil, untergraben das Vertrauen von KundInnen in einen Anbieter und führen zu falschen Kaufentscheidungen. Alle Befragten sehen Fake Reviews als relevantes Problem. Ein Großteil der Befragten schätzt, dass die Relevanz von Fake Reviews zukünftig zunehmen wird und bereits heute Handlungsbedarf besteht.
Als Hauptgründe für eine Zuspitzung des Problems nennt die Studie zum einen neue technologische Entwicklungen, die eine automatische Generierung von Fake Reviews ermöglichen, welche kaum oder gar nicht mehr von realen Bewertungen zu unterscheiden sind. Außerdem werden die Möglichkeiten, derartige Bewertungen zu generieren, stetig an Möglichkeiten zur Aufdeckung gefälschter Bewertungen angepasst (Wettrüsten zwischen Fabrication Tools und Detection Tools). Auch die massenhafte Generierung von Bewertungen durch Bewertungsagenturen stellen zunehmend ein Problem dar. Echte Menschen schreiben gegen eine Vergütung Bewertungen, die für andere NutzerInnen nicht als solche erkennbar sind (Geschäftsmodell der Bewertungsagenturen).
Trustami und die TU Berlin streben mindestens zwei weitere Studien an, welche diese Einführungsstudie u.a. um folgende Themen ergänzen: Bewusstsein von VerbraucherInnen bzgl. Fake Reviews, technische Prüfverfahren zur Erkennung von Fake Reviews und Auswirkungen bzw. Schaden von Fake Reviews. Am Ende der Studienreihe soll ein Maßnahmenplan stehen, welcher verschiedenen Akteuren als Leitlinie zum Umgang mit gefälschten Bewertungen dienen kann.
Rechtlicher Rahmen bei gewerbsmäßigem Bewertungsbetrug derzeit unzureichend
Das Urteil aus dem Jahr 2019, in dem das Landgericht München gekaufte Fake Reviews für eindeutig rechtswidrig erklärt hat, sowie die Pflicht für Plattformen, die mit Bewertungen arbeiten, diese auf Authentizität zu prüfen (nicht zuletzt geregelt durch die Omnibusrichtlinie aus dem Mai 2022) sind keine ausreichenden Maßnahmen, um kriminellen Personen bzw. Agenturen in ihrem Handeln mit gefälschten Bewertungen nachhaltig Einhalt zu gebieten.
Die Omnibus-Richtlinie hat zwar noch einmal klargestellt, dass Fake-Bewertungen rechtswidrig sind und die Anklageerhebung somit etwas vereinfacht, an der mangelnden Handhabe gegen professionelle Fake-Agenturen ändert sich durch die Richtlinie allerdings nichts. Den organisierten Bewertungsbetrug durch aus dem Ausland agierende Bewertungsagenturen können Unternehmen auch weiterhin nicht nachhaltig unterbinden. Für Portale stellen diese aber die größte Schwierigkeit dar. Denn selbst wenn es zu einem wirksamen Urteil kommt, fehlen letztlich doch die abschreckenden Maßnahmen und Sanktionen gegen organisierten Bewertungsbetrug.
Künstliche Intelligenz wird dieses Problem noch weiter verschärfen, denn dadurch können Agenturen massenhaft gefälschte Bewertungen generieren. Vor diesem Hintergrund diskutierten die Mitglieder über zwei Lösungsansätze. Zum einen die Verschärfung rechtlicher Konsequenzen: nicht nur zivilrechtlich, sondern auch strafrechtlich gegen Bewertungsbetrug vorzugehen. Rechtliche Konsequenzen wie Bußgelder, Einträge in das polizeiliche Register und/oder Freiheitsstrafen könnten den organisierten Bewertungsbetrug eindämmen.
Denn bei einem geschätzten wirtschaftlichen Schaden von 3.8 Milliarden Euro (2022, Quelle Trustami) kann der Schutz der VerbraucherInnen nicht vollends auf die Schultern der Portalbetreiber abgewälzt werden. Zum anderen wurden vom Verband der Elektronik- und Informationstechnik (VDE) die Identitätsinfrastrukturen als Schlüssel zur Souveränität vorgestellt. Durch Verifikation mit einem elektronischen Ausweis kann sichergestellt werden, dass es sich garantiert um einen echten Menschen handelt.
Neue Herausforderungen durch künstliche Intelligenz wie ChatGPT & Co.
Welche neuen Herausforderungen im Zusammenhang mit generativer KI im Rahmen von Fake-Bewertungen entstehen können und werden, erläuterte Sebastian Hallensleben vom VDE eindrücklich. Künstliche Intelligenz ist an sich nichts Neues. Neu ist jedoch, dass generative KI nun für jedermann zugänglich ist, beispielsweise in Form von ChatGPT. Der sprach- und textbasierte Chatbot ist Ideengeber und Nachschlagewerk, kann Texte und Hausarbeiten erstellen. Und natürlich kann ChatGPT auch Bewertungen schreiben.
Das ist einerseits eine Chance für Unternehmen, denn Sprachassistenten werden es den UserInnen künftig noch leichter machen, Bewertungen zu verfassen. Wenige Stichworte genügen, um eine ausführliche Bewertung durch den Chatbot erstellen zu lassen. Dieser Mechanismus birgt aber natürlich auch Risiken. Durch künstliche Intelligenz können massenhaft gefälschte Kommentare und Bewertungen generiert und in den Umlauf gebracht werden. Auch Fake-Profile mit Chatfunktion können durch KI generiert werden. Die große Herausforderung der Zukunft wird lauten: Wie erkenne ich zuverlässig, dass Inhalte von echten Menschen stammen? Wie bekomme ich als echter Mensch noch faire Aufmerksamkeit?
Vor diesem Hintergrund waren sich die TeilnehmerInnen des Workshops einig: Durch den Einsatz von KI wird der Bewertungsbetrug noch weiter zunehmen. Umso mehr gilt es: Aufmerksamkeit für diese Problematik erzeugen und hilfreiche Maßnahmen gegen organisierten Bewertungsbetrug in Politik und Gesellschaft erwirken. Neben einer Fortsetzung der Studie ist auch eine Weiterführung des Workshops in Planung.