Für die meisten mittelständischen Unternehmen war KI früher ein reines IT-Thema. Heute ist sie auch ein rechtliches. In dem Moment, in dem Ihr Unternehmen beginnt, Kundenfragen zu beantworten, Dokumente zu entwerfen oder Dateien mit KI zusammenzufassen, verarbeiten Sie Daten — oft personenbezogene Daten — und wo diese Verarbeitung stattfindet, ist zu einer Compliance-Entscheidung geworden. Die gute Nachricht: Die Regeln sind erlernbar, und genau die Entscheidungen, die Sie rechtskonform machen, geben Ihnen zugleich mehr Kontrolle.
Diese Lektion bietet Orientierung, keine Rechtsberatung. Sie hilft Ihnen, die richtigen Fragen zu stellen und die Abwägungen zu verstehen. Für alles Verbindliche ziehen Sie Ihre:n Datenschutzbeauftragte:n oder eine qualifizierte juristische Beratung hinzu.
Souveränität und Residenz: Wer kontrolliert die Daten
Zwei Begriffe fallen häufig, und sie bedeuten nicht dasselbe.
Data Residency (Datenresidenz) ist schlicht der Ort, wo Ihre Daten physisch liegen — in welchem Land, in welchem Rechenzentrum. Datensouveränität ist der weiter gefasste Gedanke: wer letztlich die Kontrolle über die Daten hat und welche Rechtsordnung dafür gilt. Sie können Daten in Frankfurt liegen haben, die dennoch von einem Unternehmen kontrolliert werden, das den Zugriffsgesetzen einer ausländischen Regierung unterliegt. Residenz ist Geografie; Souveränität ist Rechtsordnung plus Kontrolle.
Stellen Sie es sich wie das Mieten eines Schließfachs vor. Residenz ist, in welcher Stadt der Banktresor steht. Souveränität ist, wer einen Generalschlüssel besitzt und welche Gerichte die Bank zwingen können, Ihr Fach zu öffnen.
Souveränität bedeutet, dass Ihre Daten — und deren Verarbeitung — unter Ihrer Kontrolle und in einem Rechtsrahmen bleiben, den Sie verstehen. Das ist die eigentliche Frage hinter „Wo läuft unsere KI?“
Für KI ist das deshalb so wichtig, weil ein typischer Cloud-KI-Dienst Ihren Prompt (und alles, was Sie hineinkopieren) an die Server eines Anbieters sendet — möglicherweise über Grenzen hinweg, möglicherweise unter Gesetzen, die Sie nie gelesen haben. Manchmal ist das völlig unproblematisch. Manchmal ist es ein Problem. Den Unterschied zu kennen, ist die eigentliche Kompetenz — und für ein kleines oder mittleres Unternehmen ist es oft der Unterschied zwischen einer selbstbewussten KI-Einführung und gar keiner Einführung.
DSGVO und Cloud-KI: nicht kostenlos, nicht verboten
Sobald Ihre KI personenbezogene Daten berührt — einen Kundennamen, eine E-Mail, eine Bestellhistorie, ein Support-Ticket — gilt die DSGVO. Solche Daten an einen ausländischen Cloud-KI-Dienst zu senden, ist nicht automatisch illegal und nicht automatisch unbedenklich. Es löst Pflichten aus, für deren Erfüllung Sie als Verantwortliche:r geradestehen:
- Eine Rechtsgrundlage. Sie brauchen überhaupt erst einen rechtmäßigen Grund, die Daten zu verarbeiten.
- Eine Auftragsverarbeitungsvereinbarung (AVV / DPA). Der KI-Anbieter wird zu Ihrem Auftragsverarbeiter. Sie benötigen einen Vertrag, der ihn bindet, ausschließlich nach Ihren Weisungen zu handeln und die Daten zu schützen.
- Einen Übermittlungsmechanismus. Verlassen die Daten die EU — etwa in ein US-Rechenzentrum — brauchen Sie eine anerkannte Garantie (etwa das EU-US Data Privacy Framework oder Standardvertragsklauseln) und oft eine Folgenabschätzung der Übermittlung.
- Transparenz und Betroffenenrechte. Die Personen, deren Daten Sie verarbeiten, haben Rechte — auf Auskunft, auf Zugang, auf Löschung — und Sie müssen ihnen nachkommen können.
Nichts davon ist exotisch; es ist dieselbe Sorgfalt, die Sie bereits bei Ihrem CRM oder Ihrem Lohnabrechnungsdienstleister anwenden. Der Haken bei KI ist Menge und Überraschung: Mitarbeitende kopieren gedankenlos sensibles Material in ein Chatfenster, und plötzlich liegen Kundendaten in einem System, das niemand geprüft hat. Die Lösung liegt weniger im Verbot von Werkzeugen als in der Wahl von Werkzeugen, bei denen der Datenpfad bekannt und steuerbar ist.
Die EU-KI-Verordnung (AI Act): risiko- statt größenbasiert
Die EU-KI-Verordnung (AI Act) ist das weltweit erste umfassende KI-Gesetz, und ihre Logik ist erfrischend einfach: Pflichten skalieren mit dem Risiko, nicht mit der Unternehmensgröße. Jeder KI-Einsatz fällt in eine von vier Klassen.
| Risikoklasse | Was sie umfasst | Was es für Sie bedeutet | |---|---|---| | Verboten | Social Scoring, bestimmte manipulative oder biometrische Anwendungen | Schlicht untersagt — Finger weg | | Hochrisiko | Anhang-III-Anwendungen: Einstellung, Kreditvergabe, kritische Infrastruktur usw. | Schwerste Pflichten — Dokumentation, Aufsicht, Tests | | Begrenzt | Chatbots, KI, die mit Menschen interagiert | Transparenz: Menschen müssen wissen, dass sie es mit KI zu tun haben | | Minimal | Spamfilter, die meisten alltäglichen Assistenten | Im Grunde uneingeschränkt |
Die meisten Mittelstands-Anwendungen — ein interner Assistent, ein Website-Agent, der Produktfragen beantwortet — liegen in der begrenzten oder minimalen Klasse. Die zentrale Pflicht dort ist Ehrlichkeit: machen Sie deutlich, wenn jemand mit einer Maschine spricht. Sie bauen weit seltener ein „Hochrisiko“-System, als die Schlagzeilen vermuten lassen — dennoch sollten Sie jeden Einsatz bewusst einordnen.
Die Termine, auf die es ankommt
- August 2024 — die Verordnung trat in Kraft.
- August 2025 — die Pflichten für Allzweck-KI (GPAI-Modelle) sind bereits in Kraft. Wenn Sie auf einem Foundation-Modell aufbauen, gilt dieser Teil schon jetzt.
- 2. August 2026 — die Verordnung wird vollständig anwendbar. Das ist das Datum, um das herum Sie planen sollten.
- Bis 2027 — einige an Anhang III gebundene Hochrisiko-Pflichten haben eine längere Übergangsfrist, sodass eine Handvoll Pflichten später greift. Das ist ein gestaffelter Ausläufer für bestimmte Fälle, keine pauschale Verschiebung der gesamten Verordnung.
Kurz gesagt: Die KI-Verordnung ist kein Zukunftsproblem, das Sie beiseiteschieben können. Die GPAI-Regeln gelten heute, der Großteil der Verordnung greift am 2. August 2026, und nur bestimmte Hochrisiko-Pflichten aus Anhang III ziehen sich bis 2027 hin. Für eine tiefere, auf den Mittelstand zugeschnittene Darstellung lesen Sie den Leitfaden zur EU-KI-Verordnung. Und denken Sie daran, warum es sich lohnt, das richtig zu machen: Umfragen zeigen durchgängig, dass rechtliche Unsicherheit die am häufigsten genannte Hürde für die KI-Einführung im deutschen Mittelstand ist — eine Mehrheit der Unternehmen nennt sie. Klarheit ist ein Wettbewerbsvorteil.
Audit-Trails und Governance
DSGVO und KI-Verordnung teilen ein Leitmotiv: Rechenschaftspflicht. Sie sollten zeigen können, was Ihre KI getan hat. Ein Audit-Trail ist genau das — eine Aufzeichnung der Eingaben, der Antworten des Systems und der menschlichen Entscheidungen darum herum.
Ein guter Audit-Trail erlaubt Ihnen, im Nachhinein zu beantworten: Was wurde gefragt? Was hat das System gesagt? Woher stammte die Antwort? Hat ein Mensch sie geprüft? Diese Aufzeichnung macht aus „Wir glauben, es ist in Ordnung“ ein „Wir können belegen, dass es in Ordnung ist“ — die Grundlage jeder Zertifizierung und jedes Gesprächs mit einer Aufsichtsbehörde. Sie ist zugleich, wie Sie eine schlechte Antwort erkennen und korrigieren, bevor sie zum Muster wird — was unmittelbar an die Praktiken zur menschlichen Prüfung und Korrektur aus dem vorherigen Modul über verantwortungsvolle KI anknüpft.
Warum On-Premises- oder EU-Hosting Ihre Position stärkt
Hier trifft Architektur auf Compliance. Wenn das Modell und die Wissensbasis auf Ihrer eigenen Hardware (einer Appliance), in Ihrer eigenen gemanagten Umgebung oder in einer EU-Region liegen, schrumpfen mehrere schwierige Probleme erheblich:
- Die Frage der grenzüberschreitenden Übermittlung entfällt oft — verlässt nichts die EU, gibt es keine internationale Übermittlung zu rechtfertigen.
- Souveränität ist real, nicht vertraglich — Sie kontrollieren die Schlüssel, nicht eine Klausel in irgendwelchen AGB.
- Audit-Trails bleiben im Haus — Ihre Protokolle darüber, wer was gefragt hat, gehören Ihnen und bleiben in Ihrer Rechtsordnung.
Wo Ihr Modell und Ihr Wissen liegen, ist nicht mehr nur eine IT-Entscheidung. Es ist eine Compliance-Haltung. Lokales oder EU-regionales Hosting hält sowohl Daten als auch Verarbeitung unter Ihrer Kontrolle.
Das ist der Kern des souveränen Designs, um das herum die Plattform gebaut ist: ein lokales Modell, das viele Wissensbasen bedient, wobei die interne Wissensbasis die vertrauenswürdige Obermenge bildet und der öffentliche Agent eine gesteuerte Projektion davon ist. Eine menschliche Korrekturschleife führt Antworten in diese Wissensbasis zurück — sie verbessert die Genauigkeit, während jeder Datensatz dort bleibt, wo Sie ihn verantworten können. Compliance ist dann kein nachträglicher Aufsatz mehr, sondern eine Eigenschaft der Systemgestaltung.
Diese Garantien bündeln wir unter einem Compliance-Dach, das wir Cloud Shield nennen: die Kombination aus souveränem Hosting, gesteuerter Projektion, Audit-Trails und der Korrekturschleife, mit der Sie KI innerhalb Ihrer Rechtsordnung halten und das auf Anfrage belegen können — und so die Pflichten aus DSGVO und EU-KI-Verordnung zu Voreinstellungen der Architektur machen statt zu Papierkram, dem Sie nachträglich hinterherlaufen.
Im nächsten Modul gießen wir all das in einen praktischen Plan — wie Sie KI im Mittelstand tatsächlich einführen, wie Sie die richtige Bereitstellungsform wählen und sie ohne Drama ausrollen.