Reicht ein lokaler KI-Server für KI-Souveränität?
Wenn ein Anbieter einen lokalen KI-Server als Lösung für KI-Souveränität anbietet, klingt das zunächst nachvollziehbar: Die KI läuft im eigenen Rechenzentrum, also bleibt die Kontrolle im Unternehmen. Aber beantwortet der Standort des Servers wirklich die entscheidenden Fragen?
Wissen wir, welche Daten wir überhaupt haben? Welche davon dürfen in welchen Prozess einfließen? Können unsere Mitarbeitenden mit den Ergebnissen umgehen? Und was passiert, wenn der Server ausfällt, die Kosten steigen oder wir den Anbieter wechseln wollen?
Ein lokaler Server kann auf einzelne dieser Fragen eine Antwort sein. Er ist aber noch keine Strategie. Für mich steht bei KI-Souveränität deshalb ein anderer Gedanke im Mittelpunkt: Ich bin souverän, wenn ich die Kontrolle behalte. Dazu muss ich wissen, was ich habe, wie ich es einsetzen kann und welche Risiken damit verbunden sind. Erst daraus ergibt sich, welcher technische Stack passt.
Was bedeutet KI-Souveränität?
Der Begriff wird in unterschiedlichen Zusammenhängen verwendet. Der IBM-Beitrag zu KI-Souveränität↗ ist ein hilfreicher Ausgangspunkt, weil er den Blick über den Serverstandort hinaus auf Daten, Modelle, Infrastruktur und Abläufe lenkt. Die vier Bereiche in diesem Artikel sind jedoch meine eigene Ordnung der Fragen, die ein Unternehmen beantworten sollte.
Souveränität bedeutet dabei nicht, jede Technologie selbst zu entwickeln oder alle Abhängigkeiten abzuschaffen. Das wäre für die meisten Unternehmen weder realistisch noch automatisch sinnvoll. Es geht darum, Abhängigkeiten zu kennen, Entscheidungen bewusst treffen zu können und sich Handlungsmöglichkeiten zu erhalten.
Dafür schaue ich auf vier Bereiche: Datensouveränität, Regulatorik und Governance, operative Souveränität sowie technische Souveränität. Sie hängen zusammen. Eine technische Entscheidung kann keine fehlende Datenübersicht ersetzen. Und eine gute Richtlinie nützt wenig, wenn niemand sie kennt oder die IT den gewählten Prozess nicht zuverlässig betreiben kann.
Datensouveränität: Wissen, welche Daten wofür bereitstehen
KI ohne passende Daten hilft wenig. Bevor wir darüber sprechen, welches Modell eine Aufgabe erledigen soll, sollten wir deshalb wissen, welche Daten vorhanden sind und in welchem Zustand sie sich befinden.
Dazu gehören ein überblick über die Datenbestände und sinnvolle Datenklassen: Welche Informationen sind öffentlich, intern, vertraulich oder besonders schützenswert? Welche Anforderungen gelten aus rechtlichen, vertraglichen oder strategischen Gründen? Wer darf auf welche Informationen zugreifen? Und für welche Zwecke dürfen sie verwendet werden?
Auch die Aufbereitung gehört dazu. Daten können vorhanden und trotzdem für eine KI kaum nutzbar sein: etwa weil sie veraltet, uneinheitlich, unvollständig oder schlecht auffindbar sind. Für einen brauchbaren Einsatz müssen sie in einem geeigneten Format vorliegen, verständlich eingeordnet und mit passenden Zugriffsregeln versehen sein.
Bei personenbezogenen Daten kommt zusätzlich der Datenschutz ins Spiel. Die Europäische Kommission beschreibt den Anwendungsbereich der DSGVO↗ als Regeln für die Verarbeitung personenbezogener Daten. Der Standort eines Servers beantwortet für sich genommen nicht, ob eine konkrete Verarbeitung zulässig oder angemessen ist. Dafür müssen Unternehmen unter anderem den Zweck, die Daten und die konkrete Verarbeitung betrachten.
Die praktische Frage lautet also nicht nur: “Wo liegen unsere Daten?” Sondern auch: “Welche Daten haben wir, wie gut sind sie aufbereitet, wer darf sie nutzen und für welchen KI-Prozess sind sie geeignet?”
Regulatorik und Governance: Regeln müssen im Alltag ankommen
Unternehmen können gesetzliche Rahmenbedingungen nicht einfach selbst festlegen. Sie können aber dafür sorgen, dass sie relevante Anforderungen kennen, Zuständigkeiten klären und passende Regeln für den eigenen Umgang mit KI schaffen.
Der EU AI Act↗ folgt einem risikobasierten Ansatz. Welche Pflichten relevant sind, hängt unter anderem davon ab, wofür ein KI-System eingesetzt wird und welche Rolle ein Unternehmen dabei hat. Daraus folgt keine pauschale Antwort wie “Cloud ist erlaubt” oder “lokal ist sicher”. Es braucht eine Betrachtung des konkreten Anwendungsfalls und der dazugehörigen Anforderungen.
Governance macht diese Betrachtung im Arbeitsalltag handhabbar. Dazu gehören zum Beispiel:
- klare Regeln, welche Daten in welche KI-Dienste eingegeben werden dürfen;
- eine Einschätzung der Risiken, bevor ein KI-Prozess produktiv eingesetzt wird;
- benannte Verantwortliche für Freigabe, Betrieb und überprüfung;
- ein Plan, wie das Unternehmen auf Fehler, Datenpannen oder einen Ausfall reagiert;
- verständliche Vorgaben, die Mitarbeitende auch tatsächlich anwenden können.
Eine Richtlinie allein reicht nicht. Mitarbeitende müssen wissen, welche Informationen wohin gehören und welche KI sie für welche Aufgabe verwenden dürfen. Neue Kolleginnen und Kollegen brauchen dieselbe Orientierung wie das bestehende Team. Sonst bleibt Governance ein Dokument, das neben dem tatsächlichen Arbeitsalltag existiert.
Operative Souveränität: Können Menschen und IT den Prozess tragen?
Operative Souveränität hat für mich zwei Seiten: die Menschen, die mit KI arbeiten, und die IT, die die nötigen Dienste bereitstellt.
Mitarbeitende brauchen klare Prozesse
Wenn Mitarbeitende Daten und KI-Systeme sicher nutzen sollen, müssen die Regeln verständlich und die Prozesse bekannt sein. Dazu gehört auch zu wissen, wann ein Ergebnis geprüft werden muss, wann eine menschliche Entscheidung nötig ist und an wen man sich bei Unsicherheit wenden kann.
Schulungen sind dabei kein einmaliger Termin zum Projektstart. Regeln ändern sich, neue Werkzeuge kommen hinzu und Mitarbeitende wechseln ihre Aufgaben. Unternehmen brauchen daher einen Weg, Wissen regelmäßig aufzufrischen und bei neuen Mitarbeitenden zugänglich zu machen.
Die IT muss den Betrieb absichern
Auf der IT-Seite geht es darum, ob die verfügbaren KI-Dienste die Prozesse tatsächlich tragen können. Wie kritisch ist der Prozess? Welche Verfügbarkeit wird benötigt? Was passiert bei einem Ausfall? Lässt sich die Lösung skalieren, wenn mehr Mitarbeitende oder weitere Prozesse dazukommen?
Auch Kosten gehören zur Entscheidung. Ein Dienst kann zum Beispiel nach Nutzung oder über ein festes Kontingent abgerechnet werden. Eine lokal betriebene Lösung verursacht andere Kosten, etwa für Hardware, Betrieb, Wartung und Auslastung. Ob eine Variante günstiger ist, lässt sich deshalb nicht allein am Preis pro Token oder am Kaufpreis eines Servers ablesen. Entscheidend ist, welche Kosten und Betriebsaufgaben für den konkreten Einsatz anfallen.
Schließlich sollten Unternehmen einen Wechsel mitdenken. Können Daten und Konfigurationen in brauchbarer Form exportiert werden? Wie aufwendig wäre es, ein Modell oder einen Dienst zu ersetzen? Ein Exit-Szenario ist nicht nur für den Fall gedacht, dass ein Anbieter verschwindet. Es hilft auch, wenn sich Preise, Anforderungen oder die eigene Strategie ändern.
Technische Souveränität: Kontrolle über die Abhängigkeiten behalten
Technische Souveränität betrifft die Grundlagen, auf denen KI läuft: Modelle, Rechenleistung, Chips, Rechenzentren, Netzwerke und die physische Infrastruktur. Wer diese Komponenten kontrolliert, hat mehr Einfluss darauf, wo und wie eine KI betrieben wird.
Das heißt aber nicht, dass jedes Unternehmen eigene Rechenzentren oder leistungsfähige Grafikprozessoren besitzen muss. Entscheidend ist, welche Kontrolle tatsächlich gebraucht wird und welche Abhängigkeiten akzeptabel sind. Ein lokales Modell kann sinnvoll sein, wenn konkrete Anforderungen an Datenverarbeitung, Verfügbarkeit oder Integration dafür sprechen. Es bringt aber auch Betriebsaufgaben mit sich: Die Lösung muss gewartet, abgesichert und an neue Anforderungen angepasst werden.
Umgekehrt ist ein Cloud-Dienst eines weltweiten Anbieters nicht automatisch unsouverän. Auch dort kommt es darauf an, welche vertraglichen und technischen Kontrollen bestehen, wie Daten verarbeitet werden und ob die Lösung zu den eigenen Anforderungen passt. Und auch vor allen Dingen: Welche Daten und Prozesse ich überhaupt konkret mit welcher KI benutzen möchte. “Lokal” und “Cloud” sind daher keine ausreichenden Qualitätsurteile. Sie beschreiben zunächst, wo eine Lösung betrieben wird, nicht ob das Unternehmen sie insgesamt einsetzen und kontrollieren kann.
Erst die Anforderungen klären, dann den Stack wählen
Stellen wir uns beispielhaft einen internen Assistenten vor, der Fragen zu Unternehmensrichtlinien beantwortet. Bevor wir dafür einen lokalen Server beschaffen oder einen Cloud-Dienst auswählen, sollten wir klären:
- Welche Dokumente darf der Assistent verwenden, und sind sie aktuell und vollständig?
- Welche Mitarbeitenden dürfen welche Inhalte sehen?
- Welche Regeln gelten für die Verarbeitung der Informationen?
- Wer überprüft die Antworten und kümmert sich um falsche oder veraltete Inhalte?
- Wie wichtig sind Verfügbarkeit, Skalierung und ein möglicher Anbieterwechsel?
- Welche Betriebs- und Nutzungskosten entstehen bei den infrage kommenden Varianten?
Erst wenn diese Fragen beantwortet sind, lässt sich sinnvoll vergleichen, ob ein Cloud-, Hybrid- oder lokaler Betrieb besser passt. Vielleicht ist ein lokales Modell für einen bestimmten Prozess erforderlich. Vielleicht erfüllt ein Cloud-Dienst die Anforderungen besser und ist günstiger und sicherer einsetzbar. Vielleicht braucht das Unternehmen mehrere Varianten für unterschiedliche Datenklassen und Prozesse.
Das Ergebnis muss nicht ein einziger KI-Stack für alles sein. Souverän ist eine Organisation dann, wenn sie begründet entscheiden und die Entscheidung bei veränderten Anforderungen erneut überprüfen kann.
Kontrolle ist die Voraussetzung für die richtige Entscheidung
Ein lokaler KI-Server kann ein Teil einer KI-Souveränitätsstrategie sein. Er löst aber nicht automatisch Fragen zu Datenqualität, Datenschutz, Governance, Mitarbeitenden, Ausfallsicherheit, Kosten oder Anbieterwechsel.
Der sinnvollere Startpunkt ist deshalb nicht die Frage “Welche KI kaufen wir?”, sondern: Was haben wir, wie dürfen und wollen wir es einsetzen, und welche Risiken müssen wir beherrschen? Aus den Antworten ergeben sich die Anforderungen an den Stack. So wird technische Infrastruktur zu einer bewussten Entscheidung statt zu einem Ersatz für eine Strategie.
Weiterführend: MCP, Agenten und LLMs: Science Fiction oder Realität? erklärt einige der KI-Begriffe und technischen Entwicklungen, auf die Unternehmen bei solchen Entscheidungen treffen.