Die zunehmende Nutzung von KI-basierten Tools hat seine Vor- und Nachteile. Auf der einen Seite bietet es Raum für Entdeckungen und Kreativität. Auf der anderen Seite erlaubt es auch Verbrechen, Täuschung und Betrug.

Im März 2019 haben sich Kriminelle genau eines solchen Tools bedient. Eine kommerzielle, sprachgenerierende KI-Software gab sich als Geschäftsführer einer deutschen Muttergesellschaft mit Besitz eines britischen Energieunternehmens aus. Durch manipulative Sprach-Technologie ist es den Angreifern gelungen, das bekanntlich deutsche Akzent- und Stimmmuster des Geschäftsführers zu imitieren. So konnte der Vorstandsvorsitzende des Unternehmens getäuscht und dazu gebracht werden, innerhalb einer Stunde den Betrag in Höhe von 243.000 Dollar an einen ungarischen Lieferanten zu überweisen. Es wurde mehrfach versucht, auch weitere Betrugs-Überweisungen in ähnlicher Form zu inszenieren.

Wie sich herausstellte, wurden der vom Geschäftsführer nach Ungarn überwiesene Betrag schließlich nach Mexico und an weitere Standorte transferiert. Behörden konnten bislang keine verantwortliche Person oder Gruppe ausmachen. Der Name des Unternehmens und der beteiligten Personen wurden nicht veröffentlicht, da aktuell ermittelt wird.

Dies ist der erste Fall, der über KI-basierten Sprachbetrug „Voice Phishing“ berichtet

Solche Angriffe sind nur der Anfang dessen, was in Zukunft große Schwierigkeiten für Unternehmen und Organisationen bedeuten könnte. Es ist unwahrscheinlich, dass dies ein Einzelfall bleibt. Im Gegenteil: Sie werden an Häufigkeit gewinnen, sobald Social-Engineering-Angriffe erfolgreich sind. Die Nachahmung von Stimmen erhöht zudem die Gefahr, dass Angreifer private Informationen eines Betroffenen erfassen und diese für weitere Zwecke missbrauchen.

Herr Josu Franco, Technologie- und Strategieberater von Panda Security, zitierte Edward Osborne Wilson, „the father of sociobiology“ mit den folgenden Worten: „Das eigentliche Problem der Menschheit? Wir haben paläolithische Emotionen, mittelalterliche Institutionen und göttliche Technologien. Es ist außerordentlich gefährlich, da sich diese Form der Bedrohung zu einer allgemeinen Krise entwickeln könnte.“

Eine moderne, dynamische Cybersecurity-Lösung kann den Human Factor in der IT-Sicherheit minimieren – das Risiko Mensch lässt sich jedoch nie ganz ausschließen.