Thomas Mayer, Teamlead Data Intelligence and Machine Learning bei HolidayCheck, erklärt im Interview, welche Chancen und Risiken der technologische Fortschritt für Bewertungsplattformen mit sich bringt.
Wie setzen Sie KI bei der Erstellung von Bewertungen ein?
Wir sehen in KI einen großen Nutzen für das Bewertungsmanagement. Das beginnt bei der Erstellung von Bewertungen und reicht bis zur automatischen Auswertung von Bewertungsinhalten. Insbesondere beim Erstellen von Bewertungen ist es unser Ziel, dass sich UrlauberInnen nicht mehr durch ein statisches System mit immer gleichen Fragen klicken müssen. Es soll sich vielmehr wie ein Gespräch anfühlen – fast so, als ob man FreundInnen vom Urlaub erzählt und ihnen Tipps gibt. Mit Hilfe von KI können wir dann zum Beispiel ganz gezielt Fragen zur Unterkunft stellen, die bisher noch niemand beantwortet hat. Wir arbeiten aber auch daran, bestimmte Aspekte wie Transfer, Poolanlage oder Qualität des Essens bereits während des Aufenthalts abzufragen, um vor allem die Befindlichkeiten der Gäste zeitnah einzufangen. So können UrlauberInnen nach ihrer Rückkehr aus dem Urlaub eine Gesamtbewertung erstellen lassen, die auf den einzelnen Beobachtungen während ihrer Reise basiert. KI hilft dabei, Informationen zu erfassen, zu verarbeiten oder zusammenzufassen, ohne den Inhalt zu verfälschen. Darauf liegt unser Hauptaugenmerk.
In welchen Bereichen unterstützt Sie die KI noch?
Großes Potenzial sehen wir insbesondere bei der Prüfung von eingehenden Bewertungen. Zwar arbeiten wir hier bereits seit Jahren erfolgreich mit KI, zum Beispiel bei der Analyse der eigentlichen Texte sowie der Metadaten. Aufgrund der rasanten technologischen Entwicklung sind wir uns aber sicher, dass wir diesen Prüfprozess mit Hilfe von KI in Zukunft noch weiter verbessern können.Bei sehr beliebten Hotels haben wir zudem die Herausforderung, dass wir Tausende von Bewertungen erhalten. Weder der Hotelier noch die UrlauberInnen können diese Masse an Daten erfassen und die für sie relevanten Erkenntnisse daraus ziehen. KI hingegen lernt sehr schnell und erkennt Muster, die Menschen nur mit großem Aufwand erkennen würden. Zu diesem Zweck arbeiten wir an der automatischen Auswertung von Bewertungsinhalten, deren Sentiments sowie deren Zuordnung zu bestimmten Themen. So können wir einen strukturierten Überblick über die Stärken und Schwächen eines Hotels erstellen, der auf den Bewertungen und Meinungen unserer UrlauberInnen basiert.
KI hat ja nicht nur Vorteile. Wo sehen Sie die Nachteile und Gefahren in Bezug auf Bewertungen?
Generative KI ermöglicht die automatische Erstellung von Texten, Bildern und teilweise auch schon Videos, die kaum noch von wahrheitsgemäßen Inhalten zu unterscheiden sind. Da das Erstellen solcher Inhalte automatisch funktioniert, ist die Methode einfach skalierbar und kann dadurch im großen Stil angewendet werden. Vor allem generierte Texte sind dann nicht mehr oder nur sehr schwer von Texten eines Menschen zu unterscheiden. Aber auch Bilder sind mittlerweile so fotorealistisch, dass ohne großen Aufwand Sachverhalte vorgetäuscht werden können. Die große Herausforderung bleibt es deshalb für HolidayCheck, weiterhin Methoden zu finden, um mithilfe von verschiedenen Anhaltspunkten KI-generierte Inhalte erfassen zu können.
Sehen Sie einen deutlichen Zuwachs bei Betrugsversuchen mithilfe von KI?
Bisher konnten wir keine relevanten Betrugsversuche durch KI auf unserer Plattform feststellen. Wir erkennen zwar vereinzelt Texte, die mit Hilfe von KI geschrieben wurden. Das ist aber zunächst auch in Ordnung, denn Bewertungen, die z.B. mit Hilfe von ChatGPT geschrieben wurden, können nicht automatisch als Betrugsversuch gewertet werden. Bei Fake-Bewertungen geht es nicht nur darum, einen Text zu schreiben, sondern ihn auch durch unser Sicherheitssystem zu schleusen, das die Bewertung anhand von rund 100 Parametern analysiert. Das heißt, KI-generierte Texte werden bei uns nicht grundsätzlich als Fake klassifiziert, sondern nur dann, wenn sie tatsächlich nicht auf menschlichen Beobachtungen und Meinungen beruhen.. Das bedeutet KI kann eine Komponente der Fake-Erkennung sein, aber nie alleiniges Kriterium.
Wie kann KI Sie bei der Betrugsprävention helfen?
Um KI in der Betrugsprävention sinnvoll einsetzen zu können, ist ein fundiertes Wissen über die Möglichkeiten und Grenzen der neuen Technologie unerlässlich. So beinhaltet unsere Falschgelderkennung bereits seit rund 10 Jahren auch eine KI-Komponente, die nicht nur laufend ergänzt und verbessert, sondern auch mit aktuellen Daten trainiert wird. Die eingesetzte KI-Methode ist State of the Art für die Klassifikation strukturierter Daten – also das Erkennen von Mustern über viele Auswertungen hinweg.
Wo sehen Sie bei KI Politik und Wirtschaft in der Pflicht?
Die Politik muss einen gesunden Mittelweg finden, um einerseits Innovation und technologische Entwicklung nicht unnötig zu behindern, andererseits aber in der Lage zu sein, bestehende und zukünftige Probleme bestmöglich zu lösen. Das bedeutet: Die Politik muss das Thema KI mit der gebotenen Dringlichkeit behandeln und ein Umfeld schaffen, in dem solche Technologien gefördert werden können.
Eine ähnliche Verpflichtung sehen wir für die Wirtschaft. Deutschland muss aus meiner Sicht viel agiler und schneller werden, um Forschung und Wirtschaft nicht langfristig zu behindern. Wir dürfen keine Zeit verlieren, um im internationalen Wettbewerb konkurrenzfähig zu bleiben. Deshalb ist es wichtig, die negativen Aspekte nicht aus den Augen zu verlieren, aber noch wichtiger wird es sein, die Chancen rechtzeitig zu erkennen, um Innovationen auch in Deutschland (wieder) möglich zu machen.
Wie wird die Zukunft von Bewertungen aussehen – schreiben wir Menschen sie dann noch selbst?
In Zukunft werden wir uns wahrscheinlich nicht mehr die Mühe machen, Bewertungen selbst zu schreiben. Wir werden in vielen Bereichen sehen, dass KI uns z.B. durch Spracheingabe bei der Erstellung von Texten unterstützt. Unabhängig von den Möglichkeiten, die uns die KI bieten wird, legt HolidayCheck größten Wert darauf, dass die Bewertungen weiterhin auf den Meinungen und Beobachtungen von Menschen basieren. Nur so können wir auch in Zukunft authentische Bewertungen auf unserer Seite garantieren.
Können Verbraucherinnen und Verbraucher Fake-Bewertungen überhaupt noch selbst erkennen?
Unser Prüfprozess bei HolidayCheck sortiert Bewertungen bereits sehr genau aus, so dass nur circa 1 Prozent der falschen Bewertungen vom System nicht erkannt werden. Der Grund dafür ist, dass diese in der Regel kein Muster aufweisen. Ein Muster ergibt sich immer dann, wenn mehrere gefälschte Bewertungen für ein oder mehrere Hotels abgegeben werden. Aber auch diese bleiben in der Regel nicht dauerhaft auf der Website, da wir kontinuierlich an der Mustererkennung arbeiten und so auch Fakebewertungen oftmals nachträglich entdecken und löschen. Bezogen auf HolidayCheck bedeutet dies, dass UrlauberInnen auf unserer Plattform wahrscheinlich keine Fake-Bewertungen erkennen können. Das liegt aber nicht nur an der geringen Anzahl, sondern daran, dass längst nicht mehr nur der Text für die Fake-Erkennung relevant ist. So gibt es zahlreiche zu überprüfende Parameter, die erst im Zusammenhang auffällig werden und für UrlauberInnen unsichtbar bleiben.
