Künstliche Intelligenz verändert nicht nur, wie Unternehmen arbeiten. Sie verändert auch, wie angegriffen wird. Ein praxisnaher Überblick über neue Risiken und sichere KI-Nutzung.
Kaum eine Technologie hat sich so schnell verbreitet wie generative KI. Vom Kundenservice-Chatbot über die automatische Dokumentenanalyse bis zum Coding-Assistenten: KI steckt heute in immer mehr Geschäftsprozessen.
Mit dem Nutzen wächst aber auch die Angriffsfläche. KI-Systeme können selbst zum Ziel werden, und gleichzeitig nutzen Angreifer KI, um Phishing, Betrug, Deepfakes und Schadcode überzeugender und schneller zu erzeugen.
KI-Sicherheit hat zwei Dimensionen. Zum einen wird KI selbst zum Angriffsziel: Sprachmodelle, RAG-Systeme und autonome Agenten lassen sich manipulieren, falsch instruieren oder mit schädlichen Daten beeinflussen.
Zum anderen wird KI zum Werkzeug der Angreifer. Phishing, Deepfakes, Social Engineering und Schadcode lassen sich mit generativen Verfahren schneller, billiger und überzeugender erstellen. Wer KI absichern will, muss beide Seiten betrachten.
Versteckte Anweisungen bringen Modelle dazu, Regeln zu umgehen oder unerwünschte Aktionen auszuführen
Sensible Informationen können über Prompts, Antworten oder angebundene Systeme nach außen gelangen
Modelle, Bibliotheken, Plug-ins und Datenquellen können manipuliert oder kompromittiert sein
Manipulierte Trainings- oder Referenzdaten verändern das Verhalten eines KI-Systems
Agenten mit zu vielen Rechten können Aktionen ausführen, die niemand ausreichend kontrolliert hat
Interne Anweisungen und Konfigurationen können ausgelesen und für Angriffe genutzt werden
Generative Modelle senken die Hürde für überzeugende Angriffe drastisch. Phishing-Mails werden sprachlich sauberer, persönlicher und in vielen Sprachen verfügbar. Mit wenigen Sekunden Audiomaterial lassen sich Stimmen klonen, und Deepfakes erschweren die Erkennung gefälschter Anrufe oder Videokonferenzen.
Technische Schutzmaßnahmen allein reichen hier nicht aus. Prozesse wie das Vier-Augen-Prinzip bei Zahlungen, Rückrufe über bekannte Kanäle und klare Freigaben werden wichtiger denn je.
Das größte Risiko entsteht oft nicht durch Angreifer, sondern im eigenen Haus. Mitarbeitende kopieren Verträge, Quellcode oder Kundendaten in frei verfügbare KI-Dienste, um schneller zu arbeiten. Was gut gemeint ist, kann zum unkontrollierten Abfluss vertraulicher Informationen führen.
Bevor Unternehmen Verbote aussprechen, sollten sie verstehen, welche KI-Dienste bereits genutzt werden. Ein freigegebener, sicherer Standard-Dienst mit klaren Regeln ist oft wirksamer als ein pauschales Verbot, das im Alltag umgangen wird.
Der EU AI Act schafft einen verbindlichen Rechtsrahmen für den Einsatz künstlicher Intelligenz. Für Unternehmen wird damit wichtiger, KI-Anwendungen zu klassifizieren, Verantwortlichkeiten zu dokumentieren und Risiken über den gesamten Lebenszyklus nachvollziehbar zu steuern.
Festlegen, wer KI wofür einsetzen darf und wer verantwortlich ist
Definieren, welche Daten in welche KI-Systeme dürfen und welche nicht
KI-Systeme und Agenten nur mit den Rechten ausstatten, die sie wirklich brauchen
Prompts und Modellantworten als nicht vertrauenswürdige Daten behandeln
Kritische Aktionen wie Zahlungen, Löschungen oder Veröffentlichungen nicht vollständig automatisieren
Nachvollziehbar machen, wer welche KI-Funktionen nutzt und wo Auffälligkeiten entstehen
Klären, wo Daten verarbeitet werden, ob sie zum Training genutzt werden und welche Zertifizierungen vorliegen
