Generative KI macht Cyberangriffe vor allem schneller, skalierbarer und sprachlich glaubwürdiger. Mittelständler sollten deshalb nicht versuchen, jede gefälschte Nachricht am Schreibstil zu erkennen. Wirksamer sind robuste Zahlungs-, Zugriffs- und Freigabeprozesse, die auch dann halten, wenn E-Mail, Stimme oder Video überzeugend wirken.

Das Bundesamt für Sicherheit in der Informationstechnik beschreibt Social Engineering und die Generierung bösartigen Codes als zentrale Bereiche missbräuchlicher LLM-Nutzung. Phishing-Nachrichten lassen sich in hoher sprachlicher Qualität, personalisiert und in verschiedenen Sprachen erzeugen. Quelle: BSI

Was sich durch KI verändert

Phishing verliert seine alten Warnzeichen

Fehlerfreie Sprache ist kein Vertrauenssignal mehr. Angreifer können öffentliche Informationen aus LinkedIn, Unternehmenswebsites oder Pressemitteilungen in Nachrichten einbauen. Eine E-Mail kann Projekte, Rollen und den Ton der Geschäftsführung plausibel aufgreifen.

Identitäten lassen sich medial imitieren

Stimme und Video reichen nicht mehr als alleiniger Identitätsnachweis. Das BSI weist darauf hin, dass Deepfakes für gezieltes Phishing, CEO-Fraud und die Umgehung entfernter Identifikationsverfahren genutzt werden können. Quelle: BSI zu Deepfakes

Angriffsvorbereitung wird günstiger

KI senkt den Aufwand für Recherche, Übersetzung und Variation. Dadurch können auch kleinere Unternehmen häufiger mit gut angepassten Nachrichten konfrontiert werden. Der Schutz muss deshalb im Prozess liegen, nicht nur in einem Spamfilter.

Fünf Kontrollen mit hoher Wirkung

1. Kritische Vorgänge identifizieren

Zahlungen, Bankdatenänderungen, neue Benutzerkonten, Passwort-Resets und Datenexporte brauchen besondere Regeln. Listen Sie die Vorgänge auf, bei denen eine überzeugende Täuschung den größten Schaden verursachen würde.

2. Rückbestätigung über einen unabhängigen Kanal

Ungewöhnliche Anweisungen müssen über einen bekannten zweiten Kanal bestätigt werden. Nutzen Sie eine gespeicherte Telefonnummer, eine interne Teams-Nachricht oder ein Vier-Augen-Verfahren. Kontaktdaten aus der verdächtigen Nachricht sind dafür ungeeignet.

3. Technische Identität absichern

Mehrfaktor-Authentifizierung, getrennte Administratorkonten und restriktive Berechtigungen begrenzen den Schaden gestohlener Zugangsdaten. E-Mail-Domains sollten mit SPF, DKIM und DMARC abgesichert und Zuständigkeiten für Warnmeldungen festgelegt werden.

4. Realistische Übungen durchführen

Schulungen sollten echte Unternehmenssituationen nachbilden. Ein Beispiel ist die scheinbar dringende Änderung einer Lieferantenbankverbindung kurz vor Feierabend. Trainiert wird nicht die Suche nach Tippfehlern, sondern der sichere Rückfrageprozess.

5. Vorfälle entscheidungsfähig vorbereiten

Ein Incident-Plan muss Namen, Erreichbarkeit und erste Maßnahmen enthalten. Beschäftigte sollten wissen, wen sie bei verdächtigen Anmeldungen, Zahlungen oder Datenabflüssen sofort informieren. Betroffene NIS2-Unternehmen benötigen zusätzlich geregelte Meldewege.

Ein 60-Minuten-Managementtest

Eine kurze Tischübung zeigt schnell, ob Regeln nur auf Papier existieren. Szenario: Die Buchhaltung erhält eine Sprachnachricht des vermeintlichen Geschäftsführers und eine passende E-Mail mit einer dringenden Auslandszahlung. Prüfen Sie gemeinsam:

  • Wer darf die Zahlung freigeben?
  • Wie wird die Identität unabhängig bestätigt?
  • Wer sperrt bei Verdacht Konten und Zugänge?
  • Welche Protokolle werden gesichert?
  • Wer entscheidet über externe Meldungen?

Offene Antworten werden zu konkreten Aufgaben mit Eigentümer und Termin.

Fazit

KI-gestützte Täuschung macht menschliche Rückfragen nicht überflüssig, sondern wichtiger. Unternehmen schützen sich mit unabhängiger Bestätigung, starken Identitäten, begrenzten Rechten, realistischen Übungen und einem einsatzfähigen Vorfallplan.

OneMillion Digital unterstützt Mittelständler in Gifhorn und der Region Braunschweig/Wolfsburg/Hannover bei sicheren KI- und Automatisierungsarchitekturen. Eine erste Einordnung ist über die Kontaktseite möglich.

Häufige Fragen

Wie nutzen Angreifer generative KI?

Generative KI kann Recherche, Übersetzung, Personalisierung, Phishing-Texte, gefälschte Bilder sowie die Imitation von Stimme oder Schreibstil unterstützen.

Kann man KI-Phishing zuverlässig am Text erkennen?

Nein. Sprachqualität und persönlicher Kontext sind keine verlässlichen Echtheitsmerkmale. Kritische Anweisungen brauchen einen unabhängigen Bestätigungsweg.

Was schützt am besten vor CEO-Fraud?

Ein verbindliches Vier-Augen-Verfahren, feste Zahlungsgrenzen und Rückbestätigung über bekannte Kontaktdaten wirken stärker als spontane Plausibilitätsprüfung.

Welche Konten brauchen Mehrfaktor-Authentifizierung?

Mindestens E-Mail, Microsoft 365 oder Google Workspace, VPN, Administratorzugänge, Buchhaltung, Banking und alle Systeme mit sensiblen Daten.

Prüft OneMillion Digital KI-Systeme auf Sicherheitsrisiken?

OneMillion Digital berücksichtigt Datenflüsse, Rollen, Berechtigungen, Protokollierung und Betriebsmodell bei der Entwicklung und Integration von KI-Software.

Quellen und weiterführende Beiträge