Sie würden doch merken, wenn Sie manipuliert werden. Oder?

eine Teams-Nachricht vom IT-Support: Es gäbe ein Problem mit der Anmeldung, man müsse das Konto kurz verifizieren, dauert nur eine Minute. Der Ton ist freundlich. Das Profilbild stimmt. Sogar der Name der Kollegin aus dem letzten Ticket wird erwähnt. Kurzes Zögern. Aber ehrlich: Um 14:47 Uhr an einem Freitag will niemand ein Anmeldeproblem mit ins Wochenende nehmen. Klick: in diesem Moment ist der erste Schritt des Angriffs gelungen, Technische Schutzmaßnahmen allein können solche Situationen nicht verhindern. Kein System wurde gehackt. Keine Schwachstelle ausgenutzt. Keine einzige Zeile Code geschrieben.
Vergessen Sie das Bild vom Hacker im Kapuzenpulli, der nachts um drei grüne Zeichenketten über den Bildschirm jagt. Unternehmen haben in den vergangenen Jahren massiv in Technologie investiert. Netzwerke sind abgesichert, Identitäten professionell verwaltet, Endgeräte besser geschützt denn je. Trotzdem gelingen Angriffe. Nicht, weil die Technologie versagt, sondern weil die Angreifer längst woanders ansetzen: bei etwas, das in keinem Systemplan steht. Bei unserem Vertrauen. Bei unseren Entscheidungen. Bei unseren Informationen. Schauen wir genauer hin.

Was ist da um 14:47 Uhr eigentlich passiert? Die unbequeme Antwort: Alles, was uns jahrelang über Phishing beigebracht wurde, hätte in dieser Situation nicht geholfen. Die krude Grammatik? Verschwunden. Die schlecht übersetzte Mail über ein überraschendes Millionenerbe? Längst Vergangenheit. Sein Nachfolger hat Ihre Organisationsstruktur auf LinkedIn studiert, kennt den Namen Ihrer Vorgesetzten und schreibt fehlerfreies Deutsch, dank generativer KI in Sekunden, auf Wunsch auch in acht weiteren Sprachen und im Tonfall Ihrer Branche.
Phishing hat sich industrialisiert. Was früher sprachliches Talent, Recherche und Geduld erforderte, erledigen heute Sprachmodelle im Akkord. Die Einstiegshürde für einen überzeugenden Angriff ist so niedrig wie nie. Die Angreifer beschränken sich längst nicht mehr auf die E-Mail. Ihr Arbeitstag findet in Teams statt, per SMS, im Videocall, über QR-Codes auf Veranstaltungseinladungen, also findet auch der Angriff genau dort statt. Entscheidend ist dabei nicht nur der Kanal, sondern das Vertrauen, das wir mit ihm verbinden.
Das Überraschendste an alldem: Menschen fallen nicht auf Phishing herein, weil sie unaufmerksam sind. Sie fallen darauf herein, weil der Angriff wie Arbeit aussieht. Wer täglich zweihundert Rechnungen freigibt, dem fällt Rechnung Nummer 201 nicht auf. Gerade, weil sie aussieht wie die zweihundert davor. Angreifer nutzen keine Wissenslücken. Sie nutzen Routine.

Ortswechsel. Ein Mann in Warnweste steht vor dem Bürogebäude, Leiter unter dem Arm, Werkzeugkoffer in der Hand, leicht genervter Blick. Das universelle Gesicht von „Ich habe heute noch drei weitere Termine". Was glauben Sie, wie viele Türen ihm aufgehalten werden? Vermutlich mehr, als uns lieb sein sollte. Und manchmal reicht eine einzige. Zum Beispiel die zum Serverraum. Mit einem freundlichen „Kein Problem!". Willkommen beim Social Engineering. Der Disziplin, in der die erfolgreichsten Angreifer keine besseren Hacker sind, sondern bessere Psychologen. Warum wochenlang eine Firewall knacken, wenn ein sicheres Auftreten und der Satz „Ich soll hier die Klimaanlage prüfen" denselben Zugang verschaffen?
Das Handwerkszeug dieser Angreifer ist erstaunlich unspektakulär, und es hat sich seit Jahrzehnten kaum verändert: Autorität. Zeitdruck. Hilfsbereitschaft. Neugier. Routine. Angst. Sechs Knöpfe, die in jedem Menschen verbaut sind, ohne Deinstallationsoption. Neu ist nicht das Prinzip. Neu ist die Präzision.
Denn dieselbe KI, die Phishing-Mails poliert, kann inzwischen Stimmen klonen. Der Anruf der Finanzleiterin, die „ausnahmsweise sofort" eine Überweisung braucht? Klingt exakt wie die Finanzleiterin. Der bekannte Name im Absender garantiert keine Echtheit mehr, die vertraute Stimme auch nicht, und selbst das Gesicht im Videocall kann synthetisch sein. Dahinter steckt ein Denkfehler, der in vielen Sicherheitskonzepten schlummert: Social Engineering greift gar nicht Menschen an, es greift Entscheidungen an. Genauer: Entscheidungen, die unter Zeitdruck, mit unvollständigen Informationen und innerhalb von Vertrauensbeziehungen getroffen werden. Also ziemlich genau die Art von Entscheidungen, aus denen ein normaler Arbeitstag besteht. Menschen vertrauen Abläufen mehr als Technologie: Was aussieht wie ein etablierter Geschäftsprozess, wird selten hinterfragt. Die Konsequenz ist ein neuer Grundsatz: Vertrauen ist essenziell, Verifizierung ist unverzichtbar. Nein, Nachfragen ist kein Misstrauen.
Auch Pilotinnen und Piloten gehen vor jedem Start ihre Checkliste durch, obwohl sie fliegen können. Der Rückruf über die bekannte Nummer, die kurze Rückfrage über einen zweiten Kanal, das ist keine Paranoia. Das ist Professionalität.

Letzte Szene. Dienstag, 17:12 Uhr. Der Vertragsentwurf muss bis morgen zusammengefasst sein, der Kopf ist leer, der Feierabend nah. Zum Glück gibt es diesen einen Kollegen, der nie müde wird: Vertrag ins KI-Tool kopiert, „Fass mir das bitte zusammen", dreißig Sekunden später steht das Ergebnis. Feierabend gerettet. KI ist der hilfsbereiteste Kollege, den Sie je hatten. Sie beschwert sich nie, kennt keine Meetings und liefert immer. Sie hat nur eine einzige Schwäche: Sie fragt nie zurück: „Bist du sicher, dass du mir das zeigen solltest?" An dieser Stelle biegen viele Diskussionen falsch ab. Die Frage ist nämlich nicht, ob KI gefährlich ist. KI verstärkt, beschleunigt und skaliert viele bereits bekannte Risiken rund um Vertraulichkeit, Datenschutz, geistiges Eigentum und Compliance. Jede Nutzung beginnt mit derselben simplen Handlung: Jemand gibt Informationen ein. Und genau in diesem Moment entscheidet sich, ob KI ein Produktivitätswunder ist oder ein Sicherheitsvorfall mit Ansage. 
Das eigentliche Risiko ist dabei subtiler, als man denkt. Es ist der Kontext. Der einzelne Prompt wirkt harmlos: ein Absatz aus einem Vertrag hier, eine Umsatzzahl da, ein Stück Quellcode dort. Jedes Krümelchen für sich wirkt unkritisch. Alle zusammen: ein erstaunlich vollständiges Bild davon, wie Ihr Unternehmen arbeitet, plant und verhandelt. Informationsschutz ist deshalb immer auch Kontextschutz. Die entscheidende Frage in Unternehmen lautet daher nicht mehr „Dürfen unsere Mitarbeitenden KI nutzen?“. Die Antwort darauf gibt der Alltag längst selbst. Sie lautet: „Welche Informationen dürfen wir in welchem Tool und unter welchen Bedingungen verarbeiten?“ 
Pauschale Verbote allein lösen das Problem nicht. Menschen nutzen KI, weil sie ihnen hilft, produktiver und schneller zu arbeiten. Entscheidend sind deshalb klare Leitplanken: freigegebene Tools, ein bewusster Umgang mit klassifizierten Informationen und eindeutige Regeln dafür, welche Aufgaben und Entscheidungen KI übernehmen darf. Dabei gilt weiterhin ein grundlegendes Prinzip: Verantwortung lässt sich nicht an eine KI delegieren. Das bedeutet aber nicht, dass jeder einzelne Schritt von einem Menschen entschieden oder freigegeben werden muss. KI-Systeme können innerhalb klar definierter Grenzen eigenständig handeln und Entscheidungen treffen.
Entscheidend ist, dass wir Menschen diese Grenzen bewusst setzen: Welche Ziele darf die KI verfolgen? Auf welche Daten und Systeme darf sie zugreifen? Welche Aktionen darf sie selbstständig ausführen? Welches Risiko akzeptieren wir – und wann muss sie stoppen, eskalieren oder einen Menschen einbeziehen? Je autonomer eine KI handelt und je größer die möglichen Auswirkungen ihrer Entscheidungen sind, desto wichtiger werden klare Verantwortlichkeiten, nachvollziehbare Entscheidungen und wirksame Kontrollmechanismen. Die Verantwortung bleibt beim Menschen – auch dann, wenn nicht mehr jede einzelne Entscheidung von einem Menschen getroffen wird.