Es gibt immer mehr Berichte über Betrugsversuche, die mit Hilfe von künstlicher Intelligenz gemacht werden. Zum Beispiel wurden Stimmen imitiert, Deep-Fake-Videos oder Texte in Schweizerdeutsch erstellt. Vergangene Woche wurde dem BACS eine Manipulation eines Eintrags bei einem Bewertungssystems gemeldet, bei dem künstliche Intelligenz zum Einsatz kam.
Bewertungssysteme bieten Kunden in der digitalen Welt die Möglichkeit, sich umfassend über ein Unternehmen oder ein Produkt zu informieren, bevor sie eine Kaufentscheidung treffen. Insbesondere im Gastgewerbe sowie bei Onlineshops sind sogenannte Rezensionen ein entscheidender Faktor bei der Kaufentscheidung. Eine Vielzahl potenzieller Kunden nimmt vor der Buchung bzw. dem Kauf eine Bewertung anderer Kunden zur Kenntnis, um sicherzustellen, dass ihre Erwartungen erfüllt werden. Daher kommt diesen Rezensionen ein erhebliches Gewicht zu. Positiv bewertete Angebote gewinnen das Vertrauen neuer Kunden und steigern den Umsatz. Negativ bewertete Angebote schrecken potenzielle Kunden hingegen ab. Doch gerade weil Bewertungen Entscheidungen beeinflussen können, besteht auch die Gefahr des Missbrauchs. Sowohl Unternehmen als auch unzufriedene Kunden können versuchen, Bewertungssysteme zu manipulieren. Unternehmen könnten beispielsweise gefälschte positive Bewertungen erstellen oder negative Bewertungen löschen lassen, um ihr Image zu verbessern. Des Weiteren besteht die Möglichkeit, dass unzufriedene Kunden oder sogar Konkurrenten negative Bewertungen absichtlich hinterlassen, um dem Unternehmen zu schaden.
Mehr Vertrauen in Fotos und Videos
Ein besonderer Fall erregte die Aufmerksamkeit des BACS. Dabei wurden mit künstlicher Intelligenz erstellte Fotos eingesetzt, um einen möglichst negativen Eindruck eines Unternehmens zu vermitteln. Die Bilder zeigten eine Vielzahl von Mängeln, darunter schmutzige Toiletten, verdorbenes Essen und stark verschmutzte Zimmer. Es ist derzeit noch unklar, ob hier real existierende Bilder manipuliert oder völlig neue Bilder erstellt worden sind. Das Motiv ist derzeit noch unbekannt. Obgleich die Situation in diesem Fall derart übertrieben dargestellt ist, dass eine Fälschung leicht zu erkennen sein dürfte, veranschaulicht sie gleichwohl das Missbrauchspotenzial, das mit KI-generierten Bildern erzeugt werden kann. Mittels künstlicher Intelligenz können mit wenigen Mausklicks Würmer in das Bild eines Salats oder Schimmelspuren in einem Hotelzimmer eingefügt werden.
Mit künstlicher Intelligenz manipulierte Bilder in einer Rezension (die Bilder wurden aus Gründen der Anonymität verändert).
Die Skepsis gegenüber Texten im Internet ist bei vielen Userinnen und Usern mittlerweile weit verbreitet. Dies trifft ebenfalls auf Rezensionen zu. Insbesondere im Kontext von Betrugsdelikten zeigt die Bevölkerung eine zunehmende Sensibilität, was dazu führt, dass nicht jeder Geschichte Glauben geschenkt wird. Andererseits wird den Bildern und Videos in der Regel eher vertraut, obschon auch diese mittels KI manipuliert werden können. Das BACS prognostiziert, dass das Vertrauen in Bilder und Videos in Zukunft signifikant abnehmen wird, da KI-Anwendungen zunehmend verfügbar und immer einfacher zu bedienen sind. Dies erfordert eine grössere Skepsis gegenüber Bildern und eine ebenso kritische Hinterfragung der dargestellten Inhalte wie bei Texten bereits gängige Praxis. Medienkompetenz gewinnt somit zunehmend an Bedeutung.