Mittelstand nutzt KI – doch oft bleibt sie im Silo
Drei von vier mittelständischen Unternehmen setzen künstliche Intelligenz bereits produktiv ein. Eine Studie von CANCOM und ServiceNow zeigt aber: Integration, Sicherheit und Governance werden zur Hürde für den breiten Einsatz.
Künstliche Intelligenz ist im deutschen Mittelstand kein Zukunftsthema mehr. Viele Unternehmen sind über Versuche hinaus und setzen AI bereits im produktiven Betrieb ein. Doch der Sprung von einzelnen Anwendungen zur unternehmensweiten Skalierung gelingt bislang nur wenigen. Laut der Studie „AI zwischen Vision und Umsetzung – Wie der Mittelstand den Schritt von Pilotprojekten zur breiten Umsetzung schafft“ von CANCOM und ServiceNow nutzen 76 Prozent der befragten Unternehmen AI produktiv. Vollständig in Kernprozesse integriert ist sie jedoch erst bei 26 Prozent.
Für die Untersuchung befragte das Analystenhaus techconsult Anfang 2026 im Auftrag von CANCOM und ServiceNow IT- und Business-Entscheider aus mittelständischen Unternehmen mit 500 bis unter 2.000 Mitarbeitenden in Deutschland. Das Ergebnis zeigt einen klaren Reifegradbruch: AI ist strategisch angekommen, bleibt operativ aber häufig fragmentiert.
Vom Pilotprojekt zur Prozessfrage
Besonders deutlich wird das bei der organisatorischen Verankerung. Unternehmen mit einem klaren „AI-First“-Ansatz haben AI laut Studie wesentlich häufiger vollständig operationalisiert als Firmen, die nur einzelne Fachbereiche digitalisieren. Gleichzeitig verfolgen 49 Prozent der Befragten weiterhin isolierte Bereichsstrategien. Dadurch entstehen Datensilos, Parallelstrukturen und zusätzliche Sicherheitsrisiken.
Simon Russin, Vice President Enterprise Applications bei CANCOM, sieht darin die nächste große Bewährungsprobe: „Die Studie zeigt deutlich, dass AI im Mittelstand die Experimentierphase verlassen hat. Der nächste Schritt ist nun die kontrollierte und skalierbare Integration in unternehmenskritische und wertschöpfende Prozesse.“ Wer AI nur abteilungsweise einführe, baue sich „Schatten-KI ins eigene Haus“.
Diese Gefahr ist bereits sichtbar. Fast jedes zweite Unternehmen betreibt AI in isolierten Silos, 16 Prozent nutzen sogar unkontrollierte Schatten-KI. Damit wächst nicht nur der technische Wildwuchs, sondern auch das Risiko von Datenschutz-, Sicherheits- und Compliance-Verstößen.
Governance wird zum Wettbewerbsfaktor
Die größten Hürden bei der AI-Integration liegen laut Studie mit 38 Prozent in IT-Sicherheit und Risikomanagement, gefolgt von Kosten und Budgetrestriktionen mit 28 Prozent sowie fehlendem Know-how mit 25 Prozent. Hinzu kommen Anforderungen an Datensouveränität mit 23 Prozent und regulatorische Unsicherheiten mit 22 Prozent.
Mit dem schrittweise wirksam werdenden EU AI Act gewinnt diese Gemengelage zusätzlich an Bedeutung. Was bislang oft freiwillige Governance war, wird zunehmend zur Pflicht. Auch die Datenschutz-Grundverordnung (DSGVO) und die Richtlinie zur Netzwerk- und Informationssicherheit 2 (NIS2) erhöhen die Anforderungen an nachvollziehbare, sichere und kontrollierte AI-Prozesse. Bereits 28 Prozent der Unternehmen nennen nachweisbare Compliance-Fähigkeit ausdrücklich als Kriterium bei der Wahl ihres IT-Dienstleisters.
Agentic AI rückt näher
Parallel wächst das Interesse an Agentic AI. 21 Prozent der befragten Unternehmen nutzen oder testen bereits agentenbasierte Ansätze, weitere 36 Prozent planen die Einführung innerhalb der kommenden zwölf Monate. Der Mittelstand versteht solche Systeme dabei weniger als Bruch mit bisherigen IT-Modellen, sondern als nächste Stufe von Automatisierung und Prozessoptimierung.
Alwin Schauer, AVP Alliances & Channels Ecosystem bei ServiceNow, sieht deshalb integrierte Plattformen im Zentrum: „Unternehmen benötigen heute mehr als isolierte AI-Anwendungen. Gefragt sind integrierte Plattformen, die Daten, Prozesse und AI sicher miteinander verbinden.“ Gerade mit Blick auf Agentic AI würden Transparenz, Kontrolle und Governance zu zentralen Voraussetzungen für den produktiven Einsatz autonomer Systeme.
Plattformen statt Einzelprojekte
Die Studie macht deutlich: Erfolgreiche AI-Skalierung hängt nicht allein an einzelnen Modellen oder Anwendungen. Entscheidend sind konsolidierte Datenstrukturen, tragfähige Plattformarchitekturen und kontrollierte Betriebsmodelle. Unternehmen, die AI weiterhin als Fachbereichsprojekt behandeln, riskieren wachsende Komplexität und schwer beherrschbare Schattenstrukturen.
Damit verändern sich auch die Erwartungen an externe Partner. Gefragt sind strategische Transformationspartner mit technischer AI-Expertise, Branchenverständnis und ganzheitlichem Architekturansatz. Laut Studie achten 40 Prozent der Unternehmen auf AI-Kompetenz, 35 Prozent auf Branchenwissen und 34 Prozent auf einen übergreifenden Architekturansatz. Geschwindigkeit allein überzeugt nur noch 23 Prozent. Für den Mittelstand wird AI damit zur Architektur-, Sicherheits- und Governance-Frage zugleich.
Die vollständige Studie steht hier zum Download bereit.
Newsletter Abonnieren
Abonnieren Sie jetzt IT-SICHERHEIT News und erhalten Sie alle 14 Tage aktuelle News, Fachbeiträge, exklusive Einladungen zu kostenlosen Webinaren und hilfreiche Downloads.
