News

Shadow AI

Kaum ist der Kampf gegen Shadow IT halbwegs gewonnen, taucht eine neue Quelle von Risiken auf: Shadow AI, der unautorisierte Einsatz von KI-Anwendungen, verlangt zunehmend nach Aufmerksamkeit.

Die Arbeitswelt steckt voller zeitraubender Routineaufgaben: Meetingprotokolle schreiben, Präsentationen erstellen, Kundendaten auswerten und vieles mehr. Da liegt die Versuchung nahe, einfach ein frei verfügbares KI-Sprachmodell zu nutzen. Was soll schon passieren? Spoiler: Eine ganze Menge, denn solche Fälle sind Paradebeispiele für Shadow AI. Dieser Begriff bezeichnet den unregulierten KI-Einsatz in Organisationen: Sensible Daten können über Prompts abfließen, halluzinierter KI-Output kann ohne Prüfung in produktiven Prozessen landen. Und wirklich kritisch wird es, wenn IT-Administrationstätigkeiten ohne entsprechende Sorgfalt an KI-Agenten übertragen werden. Es wurden bereits Fälle bekannt, in denen ganze Datenbanken samt Backups in Sekundenschnelle unwiederbringlich vernichtet wurden. Kurz gesagt, Shadow AI ist brandgefährlich.

Gegen Shadow AI hilft vor allem, wenn es für den Einsatz von KI in der Organisation klare Richtlinien gibt. Es muss verbindlich festgelegt sein, welche KI-Systeme und KI-Agenten genutzt werden dürfen und wie dabei mit Unternehmens- und Personendaten umzugehen ist. Doch Richtlinien allein reichen nicht aus, die Nutzung nicht erlaubter Systeme muss auch technisch unterbunden werden. Dafür lassen sich die Konfigurationen der Firewalls entsprechend anpassen, während EDR- und SIEM-Systeme den Einsatz unerwünschter KI-Anwendungen erkennen und entsprechende Sicherheitsvorfälle melden.

Die Mittel zur Eindämmung von Shadow AI sind also vorhanden. Der entscheidende Schritt ist, sie auch einzusetzen. Und an diesem Beispiel zeigt sich einmal mehr, wie wichtig es ist, in allen Security-Themen einen fundierten, wohlüberlegten Ansatz zu wählen. Am Anfang muss die Frage stehen, welcher KI-Einsatz in welcher Form erlaubt und gefördert werden soll. Und das lässt sich nicht auf die banale Frage reduzieren, welcher Schalter in einer Firewall umgelegt werden muss.