Künstliche Intelligenz ist im Arbeitsalltag angekommen – oft schneller, als Organisationen sie kontrollieren können. Viele Mitarbeitende nutzen KI-Tools ohne offizielle Freigabe. Laut IDC nutzen 56 % der Mitarbeitenden nicht autorisierte AI-Tools am Arbeitsplatz, während nur 23 % offiziell bereitgestellte KI-Tools verwenden.
Shadow AI – häufig auch als Schatten-KI bezeichnet – ist eine Unterkategorie von Shadow IT und beschreibt die Nutzung von KI-Tools wie Chatbots, AI-Tools, Code-Assistenten oder Textgeneratoren ohne Freigabe oder Kontrolle durch die IT-Abteilung.
Shadow AI entsteht häufig dann, wenn Mitarbeitende produktiver mit KI arbeiten möchten, Unternehmen jedoch keine offiziell freigegebenen und sicheren KI-Tools bereitstellen. Sie umfasst nicht nur Chatbots, sondern auch KI-gestützte Entwicklungs-, Analyse- und Automatisierungswerkzeuge.
Für Schweizer Unternehmen ist das besonders relevant, da der Einsatz von KI dezentral in Fachabteilungen stattfindet und damit klassische System- und Standortgrenzen aufweicht. Gleichzeitig greifen mehrere regulatorische Rahmenwerke: nDSG, DSGVO sowie künftig der EU AI Act. Im Finanzsektor ergänzt die FINMA diese Anforderungen durch klare Erwartungen an Risiko- und Technologie-Governance.
Shadow AI wird damit nicht nur zu einem IT-Thema, sondern zu einer Frage von Compliance, Governance und operativer Kontrolle.
Gefahren im Fokus
Shadow AI führt zu Kontrollverlusten in zwei zentralen Dimensionen: Daten und geistigem Eigentum. Ursache ist die Verwendung externer KI-Dienste ausserhalb definierter Sicherheits- und Governance-Strukturen.
Schatten-KI entsteht häufig über browserbasierte SaaS-Dienste, die ausserhalb zentraler Sicherheitskontrollen genutzt werden.
Datenlecks & Compliance
Sensible Inhalte wie Kundeninformationen, Quellcode oder interne Analysen werden in externe KI-Lösungen eingegeben, ohne zentrale Kontrolle über Verarbeitung oder Speicherung. Einige KI-Dienste speichern Eingaben serverseitig oder nutzen Inhalte zur Modellverbesserung, sofern dies nicht explizit deaktiviert wird. Dies ist in kostenlosen Versionen oftmals jedoch nicht möglich und führt so zu Compliance Verstössen.
Studien zeigen zudem, dass 38 % der Beschäftigten sensible Arbeitsinformationen ohne Freigabe in KI-Tools eingegeben haben.
Risiken:
Verlust der Kontrolle über personenbezogene und vertrauliche Daten
Unklare Verarbeitung durch Drittanbieter (inkl. möglicher Trainingsnutzung)
Verstösse gegen interne Richtlinien sowie nDSG/DSGVO. Verstösse gegen die DSGVO können Bussgelder von bis zu 20 Millionen EUR oder 4 % des weltweiten Jahresumsatzes nach sich ziehen.
Damit verschiebt sich das Risiko von klassischen Datenabflüssen hin zu interaktiver Datenexfiltration über KI-Schnittstellen.
Unternehmen tragen zudem Verantwortung für KI-generierte Inhalte und Entscheidungen, wenn diese geschäftliche Prozesse oder operative Entscheidungen beeinflussen.
Sicherheitslücken & IP-Risiken
Shadow AI gefährdet geistiges Eigentum (IP, Intellectual Property) wie Quellcode, Architekturinformationen oder interne Geschäftslogik durch externe Verarbeitung sensibler Inhalte.
Das Risiko entsteht insbesondere durch den Einsatz nicht freigegebener KI-Tools zur Verarbeitung dieser Informationen ausserhalb der Unternehmenskontrolle.
Zentrale Risikotreiber:
Nutzung nicht autorisierter KI-Modelle und APIs
Verarbeitung sensibler Inhalte in externen KI-Systemen
Unsichere Integrationen in bestehende Systeme
Fehlende Kontrolle auf Prompt-, Agenten- oder Plugin-Ebene
Exposition von API-Schlüsseln oder Tokens
Datenabflüsse über KI-Systeme können zudem das Vertrauen von Kunden, Partnern und Aufsichtsbehörden nachhaltig beeinträchtigen. Angriffe wie Prompt Injection können KI-Systeme dazu bringen, Sicherheitsrichtlinien zu umgehen oder sensible Informationen offenzulegen. Zusätzlich entstehen Risiken durch KI-Ökosysteme und Drittanbieter-Integrationen.
Strategie: Ermöglichen statt blockieren
Mitarbeiterinnen und Mitarbeiter nutzen KI-Lösungen häufig, um Produktivität, Effizienz und Geschwindigkeit im Arbeitsalltag zu erhöhen. Ein Verbot von KI-Einsatz ist operativ nicht durchsetzbar, da Mitarbeitende KI-Tools auch ausserhalb zentraler IT-Kontrollen weiter verwenden – etwa über private Accounts oder externe Dienste. Dadurch wird Nutzung nicht verhindert, sondern in Shadow-AI-Kanäle verlagert. Verbote bannen also die Gefahr nicht.
Die wirksame Strategie basiert daher auf kontrollierter Nutzung innerhalb definierter Sicherheits- und Governance-Grenzen. Dazu gehört auch die Bereitstellung sicherer und offiziell freigegebener KI-Tools durch die IT-Teams, um den Einsatz unkontrollierter Schatten-KI zu reduzieren.
Governance & Policy
Governance definiert den Rahmen für den Einsatz von KI im Unternehmen. KI-Governance ist keine isolierte Disziplin, sondern Teil bestehender Cybersecurity- und Datenschutzprozesse.
Sie regelt Risikoklassifikation, zulässige Datenkategorien sowie die Freigabe von KI-Tools und Workflows. Gleichzeitig stellt sie sicher, dass KI in bestehende Sicherheits- und Datenschutzstrukturen integriert ist. Zusätzlich braucht es einen kontinuierlichen Austausch zwischen IT-Abteilung, Security-Teams und Fachbereichen über Risiken, Anwendungsfälle und zulässige KI-Nutzung.
Ziel ist die Reduktion unkontrollierter Nutzung durch klare Leitplanken und verbindliche Entscheidungsprozesse.
Regelmässige Audits und kontinuierliche Überprüfung des KI-Einsatzes helfen dabei, nicht genehmigte KI-Tools frühzeitig zu identifizieren.
Technische Kontrolle & Visibilität
Governance entfaltet ihre Wirkung erst durch technische Durchsetzung und kontinuierliche Sichtbarkeit im laufenden Betrieb. Unternehmen benötigen Transparenz darüber, welche KI-Dienste und externen Endpunkte tatsächlich genutzt werden.
Erforderlich sind:
Zugriffskontrollen auf Applikations- und API-Ebene
Durchsetzung definierter Richtlinien im Betrieb
Transparenz über KI-Einsatz, KI-Services und Modelle im Netzwerk
SASE- und API-Security-Architekturen unterstützen dies, indem sie KI-Nutzung als eigenen sicherheitsrelevanten Kontext behandeln.
Ohne durchgängige Sichtbarkeit und technische Durchsetzung von KI-Nutzung bleibt Shadow AI im Unternehmen ein nicht steuerbares Risiko, das sich über SaaS- und API-basierte Nutzungskanäle kontinuierlich ausweitet.
Praktische Umsetzung: Technologie als Enabler
Die technische Umsetzung kombiniert Sicherheitsmechanismen entlang Netzwerk-, API- und Applikationsschicht.
Auf der einen Seite steht die Nutzung externer KI-Dienste (AI you use) wie SaaS-Anwendungen. Moderne SASE-Architekturen wie Cato Networks ermöglichen die Erkennung und Klassifikation von KI-Nutzung im Datenverkehr sowie deren Steuerung im Nutzungskontext.
Auf der anderen Seite steht der Schutz eigener oder bereitgestellter KI-Anwendungen (AI you build). Hier verschiebt sich der Fokus von der Nutzungskontrolle hin zur Absicherung der zugrunde liegenden APIs und Interaktionen mit KI-Systemen. Moderne KI-Anwendungen basieren häufig auf APIs und erweitern dadurch die externe Angriffsfläche von Unternehmen.
Lösungen wie die AI Firewall von Cato setzen dabei auf die Durchsetzung von Sicherheitsrichtlinien auf Input- und Output-Ebene von KI-Anwendungen, um unerwünschte Datenflüsse oder missbräuchliche Nutzung zu verhindern. Auf der Ebene der Schnittstellen und Interaktionen adressieren spezialisierte API-Security-Plattformen wie Wallarm die Absicherung von KI-Integrationen selbst – etwa durch die Analyse von Anfragen, die Erkennung von Angriffsmustern und die Kontrolle von Zugriffen auf APIs oder MCP-basierte Architekturen. So können beispielsweise Prompt Injection Angriffe erkannt und blockiert werden.
So entsteht eine Kontrollarchitektur, in der externe KI-Nutzung und interne KI-Systeme über unterschiedliche, aber gleichwertige Sicherheitsmechanismen adressiert werden.
Fazit
Shadow AI wird als Phänomen nicht verschwinden – im Gegenteil, die Nutzung wird weiter zunehmen. Unternehmen stehen damit vor der Wahl, Nutzung zu verhindern oder kontrolliert zu gestalten.
Die einzige nachhaltige Option ist kontrollierte Integration durch Governance, technische Durchsetzung und kontinuierliche Sichtbarkeit.
Untätigkeit führt dabei nicht zu Stabilität, sondern zu zunehmender Intransparenz und operativem Kontrollverlust.
Nur so lassen sich Risiken reduzieren und gleichzeitig produktive KI-Nutzung ermöglichen.
Next Steps
Viele Unternehmen unterschätzen das tatsächliche Ausmass von Shadow AI im eigenen Umfeld.
Ohne Transparenz über bestehende Nutzung entstehen jedoch unkontrollierte Risiken in den Bereichen Daten, Compliance und Sicherheit.
Consulteer InCyber unterstützt bei der Standortbestimmung, der Bewertung von Risiken sowie der Entwicklung einer kontrollierten KI-Governance. Darüber hinaus begleiten wir die operative Umsetzung durch passende Sicherheitsarchitekturen und Managed Security Services, um KI-Nutzung nicht nur zu definieren, sondern dauerhaft sichtbar, kontrollierbar und sicher betreibbar zu machen.
