CEO-Fraud mit geklonter Stimme: Schulung und Zahlungsverfahren
Ein Anruf, die Stimme der Geschäftsführung, eine eilige Überweisung. Wir zeigen eurem Team, wie echt eine geklonte Stimme heute klingt, und richten ein Zahlungsverfahren ein, das auch dann hält, wenn die Stimme überzeugt.
Termin aussuchen
Mit KI erzeugtes Bild. Mehr zur KI-Transparenz
Beim Abspielen lädt YouTube (Google) das Video. Dabei werden Ihre IP-Adresse und Geräteinformationen an Google übertragen. Details ·
Transkript anzeigen
Hallo, ich bin's. Ich sitze noch im Termin und kann nicht lange reden. Es muss heute noch eine Zahlung raus, an einen neuen Lieferanten. Achtundvierzigtausend fünfhundert Euro. Bitte vertraulich, auch nicht mit der Buchhaltung drüber reden. Die Kontodaten schicke ich Ihnen gleich per Mail. Danke Ihnen! Diesen Anruf hat kein Chef geführt. Das war ich, eine KI-Stimme. Ich bin frei erfunden und ahme niemanden nach. Ein Angreifer nimmt dafür die Stimme Ihrer Geschäftsführung. Das BSI beschreibt genau diesen Fall: Jemand ruft mit der Stimme der Führungskraft an, um eine Geldtransaktion auszulösen. Früher hat es gereicht, die Stimme zu erkennen. Heute beweist der Klang allein nichts mehr. Auch auf eine Software, die solche Anrufe sicher erkennt, sollten Sie sich nicht verlassen. Was hilft, ist ein Verfahren, das gar nicht erst fragt, ob die Stimme echt klingt. Erstens: zurückrufen, und zwar über die Nummer, die bei Ihnen hinterlegt ist. Nie über die aus dem Anruf oder der Mail. Zweitens: ein Codewort für eilige Anweisungen der Geschäftsführung. Und drittens: Bei jeder ungewöhnlichen Zahlung entscheidet eine zweite Person mit. Diese zweite Person lässt sich auch fest einbauen. Dann geht jede Zahlungsanweisung über ein Formular an AgentGuard, und AgentGuard hält sie an. Wer sie eingereicht hat, kann sie nicht selbst freigeben. Auch nicht, wenn es eilt. Das muss jemand anderes tun. Die Freigabe gilt nur für genau das, was diese Person gesehen hat: diesen Betrag, diesen Empfänger, diesen Zweck. Ändert danach jemand eine Ziffer in der IBAN, passt die Anweisung nicht mehr zur Freigabe und geht nicht raus. Entscheidet niemand, verfällt sie. Ehrlich gesagt: Was jemand selbst im Online-Banking eintippt, sieht AgentGuard nicht. Dafür bleibt das schriftliche Verfahren. Beides zusammen hält auch dann, wenn die Stimme überzeugt. Wir zeigen Ihrem Team, wie echt eine geklonte Stimme heute klingt. Immer angekündigt, nur mit schriftlicher Einwilligung, und danach gelöscht. Eine Stimme, die eine echte Person nachbildet, muss man nach der KI-Verordnung als künstlich offenlegen. Überraschungsanrufe gibt es bei uns deshalb nicht. Und den Anruf von vorhin? Den hätten Sie jetzt zurückgerufen.
Worum es geht
Ein Anruf am Freitagnachmittag. Die Stimme klingt nach eurer Geschäftsführung, der Ton ist eilig, es geht um eine vertrauliche Zahlung, die heute noch raus muss. Früher reichte es, die Stimme zu erkennen. Heute lässt sich eine Stimme mit KI so nachbilden, dass der Klang allein nichts mehr beweist.
Das BSI beschreibt genau diesen Fall: Ein Angreifer könnte eine Person mit der Stimme von deren Führungskraft anrufen, um eine Geldtransaktion auszulösen. Als zentrale Gegenmaßnahme nennt das BSI die Schulung der Personen, die betroffen sein können (BSI: Deepfakes, Gefahren und Gegenmaßnahmen).
Wir arbeiten selbst täglich mit synthetischen Stimmen, unsere Filme spricht eine KI-Stimme. Wir wissen deshalb, wie gut solche Stimmen inzwischen klingen, und zeigen es eurem Team, bevor es ein Angreifer tut.
Die Pakete
Workshop „CEO-Fraud mit geklonter Stimme“
1.290 € netto · halber Tag · je Gruppe bis 15 Personen, vor Ort oder online
- Wie Betrug mit gefälschten Anrufen und Mails abläuft und woran man ihn erkennt, und woran nicht mehr
- Angekündigte Vorführung: eine geklonte Stimme eurer eigenen Geschäftsführung, angelegt nur mit deren schriftlicher Einwilligung
- Übung: Rückruf über eine bekannte Nummer, auch wenn der Anrufer drängt
- Teilnahmeliste und Inhalte als Nachweis, auch für die KI-Kompetenz nach Art. 4 KI-VO
- Löschung der geklonten Stimme nach dem Workshop, schriftlich bestätigt
Verfahren gegen fingierte Zahlungsaufträge
690 € netto · Vorlage plus Abstimmungstermin mit Buchhaltung
- Schriftliche Regel für Zahlungen außerhalb der Routine: Rückruf über eine hinterlegte Nummer, nie über die Nummer aus dem Anruf oder der Mail
- Codewort für eilige Anweisungen der Geschäftsführung
- Vier-Augen-Prinzip und Betragsschwellen
- Vorgehen bei Verdacht, mit Ansprechpartnern und Reihenfolge
- Abgestimmt mit eurer Buchhaltung, auf Wunsch auch mit eurer Bank
Ausbau: Freigabestrecke mit AgentGuard
ab 2.900 € netto Einrichtung, zuzüglich Wartung · Umfang nach eurem Zahlungsablauf
Zahlungsanweisungen gehen nur noch über ein Formular oder einen KI-Agenten an euer ERP oder eure Banking-Schnittstelle. AgentGuard hält jede Anweisung an, bis eine zweite Person sie freigibt. Die Freigabe gilt nur für genau den Betrag, den Empfänger und die Beschreibung, die diese Person gesehen hat. Wird nicht entschieden, verfällt die Anweisung. Jeder Schritt steht in einem signierten Protokoll.
Wie das aussieht, könnt ihr selbst durchklicken: Demo der Zahlungsfreigabe, mit fiktiven Daten, nur im Browser.
Warum keine Überraschungsanrufe
Sicherheitsschulungen arbeiten oft mit unangekündigten Simulationen. Mit einer geklonten Stimme tun wir das nicht. Eine KI-erzeugte Stimme, die einer echten Person ähnelt, ist nach der KI-Verordnung ein Deepfake (Art. 3 Nr. 60 KI-VO). Wer ein System einsetzt, das solche Inhalte erzeugt, muss offenlegen, dass sie künstlich erzeugt sind (Art. 50 Abs. 4 KI-VO), und zwar spätestens bei der ersten Aussetzung (Art. 50 Abs. 5 KI-VO). Dazu verbieten die Nutzungsregeln unseres Stimmanbieters, die Stimme einer anderen Person ohne Einwilligung nachzubilden oder andere darüber zu täuschen, dass eine Stimme von einer KI stammt.
Die Vorführung wirkt trotzdem, denn sie zeigt mit der Stimme einer Person, die alle kennen, wie wenig der Klang allein beweist.
Was ihr danach in der Hand habt
- Ein Team, das eine geklonte Stimme einmal gehört hat und weiß, dass der Klang allein nichts beweist
- Ein schriftliches Verfahren für ungewöhnliche Zahlungen, das eure Buchhaltung kennt und anwendet
- Einen Nachweis über die Schulung
- Auf Wunsch eine Freigabestrecke, bei der keine Zahlungsanweisung ohne zweite Person weitergeht
Für wen das passt
Für jedes Unternehmen, in dem Zahlungen auf Zuruf ausgelöst werden können. Besonders häufig sind das Betriebe mit vielen Lieferantenzahlungen wie der Großhandel, Unternehmen mit Zahlungen ins Ausland wie der Maschinenbau, und alle, die Gelder für andere verwalten, etwa Hausverwaltungen und Steuerberatungen.
Wofür wir nicht die Richtigen sind
- Unangekündigte Testanrufe oder Phishing-Simulationen mit geklonten Stimmen. Aus den genannten Gründen bieten wir das nicht an.
- Software, die Deepfake-Anrufe automatisch erkennt. Wir verkaufen Schulung und Verfahren, keine Erkennung, auf die man sich nicht verlassen sollte.
- Auswertung einzelner Mitarbeitender. Wir bewerten nicht, wer in einer Übung wie reagiert hat. Wo eine solche Auswertung gewünscht ist, gehört sie mit eurem Betriebsrat abgestimmt, und dafür sind wir nicht die Richtigen.
- Rechtsberatung zu Haftungsfragen nach einem Betrugsfall. Das klärt ihr mit eurer Rechtsberatung und eurer Versicherung.
Mehr zur Pflicht, KI-Inhalte zu kennzeichnen, steht in unserem Beitrag zur KI-Kennzeichnungspflicht. Unsere Schulungen im Überblick findet ihr unter KI-Schulung für Mitarbeitende.
Klingt nach eurem Fall? In 30 Minuten wisst ihr, ob CEO-Fraud mit geklonter Stimme: Schulung und Zahlungsverfahren passt.
Termin aussuchenHäufige Fragen
Was ist CEO-Fraud mit geklonter Stimme?
Ein Angreifer ruft mit einer KI-erzeugten Stimme an, die wie die Geschäftsführung oder eine andere Führungskraft klingt, und verlangt eine dringende Zahlung. Das BSI beschreibt genau dieses Szenario: Ein Angreifer könnte eine Person mit der Stimme von deren Führungskraft anrufen, um eine Geldtransaktion auszulösen.
Macht ihr unangekündigte Testanrufe mit der geklonten Stimme?
Nein. Eine geklonte Stimme ist nach der KI-Verordnung ein Deepfake, und wer so etwas einsetzt, muss offenlegen, dass der Inhalt künstlich erzeugt ist, spätestens bei der ersten Aussetzung (Art. 50 Abs. 4 und 5 KI-VO). Auch die Regeln unseres Stimmanbieters verbieten es, die Stimme einer anderen Person ohne Einwilligung oder so nachzubilden, dass andere über die KI-Herkunft getäuscht werden. Deshalb führen wir die Stimme im Workshop vor und sagen vorher, was gleich zu hören ist.
Was passiert mit der geklonten Stimme nach dem Workshop?
Wir legen die Stimme nur mit schriftlicher Einwilligung der betreffenden Person an, nutzen sie ausschließlich für die Vorführung und löschen sie danach. Die Löschung bestätigen wir schriftlich.
Erkennt eine Software solche Anrufe?
Darauf solltet ihr euch nicht verlassen, und wir verkaufen das auch nicht. Das BSI nennt die Schulung der betroffenen Personen als zentrale Maßnahme gegen Deepfake-Angriffe. Wirksam ist ein Verfahren, das nicht von der Frage abhängt, ob eine Stimme echt klingt: Rückruf über eine bekannte Nummer, Codewort und eine zweite Person bei jeder ungewöhnlichen Zahlung.
Was kann AgentGuard dabei leisten und was nicht?
AgentGuard prüft Zahlungen, die über einen KI-Agenten oder eine angebundene Freigabestrecke laufen. Eine Freigabe gilt nur für genau den Betrag, den Empfänger und die Beschreibung, die die freigebende Person gesehen hat, und ohne Entscheidung verfällt sie. Eine Überweisung, die jemand selbst im Online-Banking eingibt, sieht AgentGuard nicht. Dafür ist das schriftliche Verfahren da.
Passt das zu eurem Projekt?
30-Minuten-Erstgespräch — wir hören eurem Use-Case zu und sagen klar, ob CEO-Fraud mit geklonter Stimme: Schulung und Zahlungsverfahren der richtige Hebel ist oder etwas anderes besser passt.
Termin aussuchen