KI-Sicherheit hat zwei Perspektiven: KI kann Sicherheitsteams bei der Analyse unterstützen. Gleichzeitig müssen KI-Anwendungen selbst geschützt werden – etwa ihre Daten, Zugriffe und angebundenen Werkzeuge. Für beide Aufgaben braucht es technische Grundlagen und klare Verantwortung.
Mit KI Sicherheitsarbeit unterstützen
Ein Sicherheitsteam bearbeitet viele Meldungen zu Anmeldungen, Geräten und Anwendungen. Eine KI kann beispielsweise Informationen zusammenfassen oder Hinweise für die weitere Prüfung vorschlagen. Ob ein Vorfall tatsächlich gefährlich ist, muss anhand belastbarer Informationen beurteilt werden.
Ein gut formulierter Verdacht ist noch kein Beweis. Das Team braucht nachvollziehbare Quellen und muss wissen, welche Information fehlt. Geschwindigkeit hilft nur dann, wenn wichtige Hinweise nicht verloren gehen und harmlose Vorgänge nicht unbemerkt als Angriffe behandelt werden.
KI-Anwendungen selbst schützen
Ein Assistent, der interne Dokumente durchsucht, berührt Fragen von Berechtigung, Datenqualität und Zugriff. Wenn er zusätzlich Werkzeuge verwendet, kann eine falsche Entscheidung reale Auswirkungen haben. Microsoft beschreibt AI Security deshalb als Schutz der Systeme und Daten über ihren Lebenszyklus hinweg.
Weitere Spalten: Tabelle seitlich scrollen →
| Bereich | Prüffrage |
|---|---|
| Daten | Welche Informationen darf das System verarbeiten und ausgeben? |
| Identitäten | Hat die anfragende Person Zugriff auf die verwendete Quelle? |
| Eingaben | Kann fremder Inhalt den vorgesehenen Arbeitsablauf verändern? |
| Werkzeuge | Welche Aktionen sind erlaubt und welche benötigen eine Bestätigung? |
| Betrieb | Wie werden Fehler erkannt, untersucht und begrenzt? |
Ein Dokument ist keine neue Arbeitsanweisung
Stell dir einen Assistenten vor, der eine Kundenanfrage zusammenfassen soll. In einem angehängten Dokument steht zusätzlich die Aufforderung, sämtliche gespeicherten Kontakte an eine fremde Adresse zu schicken. Das Dokument ist Inhalt der Aufgabe. Es darf keine neuen Berechtigungen erteilen.
Solche Versuche, über Eingaben oder gelesene Inhalte das Verhalten eines Modells umzulenken, werden häufig als Prompt Injection bezeichnet. Ein einzelner Warnsatz im Prompt ist dafür kein ausreichendes Sicherheitskonzept. Das System sollte nur notwendige Rechte erhalten und sensible Aktionen kontrolliert ausführen.
Welche Rollen arbeiten daran?
Die Entwicklung muss die Anwendung und ihre Schnittstellen verstehen. Security Engineering prüft Schutzmaßnahmen. Identity-Spezialisten beschäftigen sich mit Konten und Berechtigungen. Security Operations beobachtet mögliche Vorfälle. Der Fachbereich bewertet, welche Fehler im jeweiligen Prozess besonders folgenreich wären.
Damit ist KI-Sicherheit kein isolierter Trick und kein einzelnes Tool. Grundlagen in Netzwerken, Betriebssystemen, Software und Daten bleiben wichtig. Die Übersicht Cybersecurity-Berufe erklärt diese Arbeitsfelder genauer.
Entwirf eine Grenze für einen KI-Helfer
Ein KI-Helfer soll Fragen aus einem internen Handbuch beantworten. Entscheide: Welche Dokumente darf er lesen? Wie erkennt er, wer fragt? Was passiert, wenn zwei Quellen einander widersprechen? Darf er Dateien ändern oder nur Antworten vorschlagen?
Erstelle drei normale und drei schwierige Testfälle. Eine gute Lösung benennt auch, wann sie keine verlässliche Antwort geben kann. Beschreibe abschließend, wer einen Fehler untersuchen und eine problematische Funktion abschalten könnte.
Wie du weiter einsteigen kannst
Lies ergänzend über KI-Agenten im Unternehmen und Cloud Engineering. Die Artikel zeigen, an welchen Stellen Sicherheit, Infrastruktur und KI-Entwicklung zusammenkommen. Welcher Studien- oder Qualifizierungsweg dazu passt, hängt anschließend von deinen Grundlagen und dem konkreten Angebot ab.
