KI-Compliance 2025: Warum kein großes Sprachmodell DSGVO und EU AI Act vollständig erfüllt – und was das für KMU bedeutet

Eine aktuelle Untersuchung sorgt in der europäischen Tech-Branche für Aufsehen: Keines der derzeit großen, frei verfügbaren KI-Sprachmodelle – darunter die bekanntesten Produkte von OpenAI, Google, Anthropic, Meta und Mistral – erfüllt vollständig die Anforderungen der Datenschutz-Grundverordnung (DSGVO) und des im August 2024 in Kraft getretenen EU AI Act. Für Konzerne mit eigener Rechtsabteilung ist das ein kalkulierbares Risiko. Für deutsche kleine und mittlere Unternehmen, die KI-Tools im Alltag einsetzen oder einführen wollen, ist es eine Nachricht, die echte Konsequenzen hat.

Denn die Haftung wandert nicht automatisch zum Modellanbieter. Wer als Arztpraxis, Steuerkanzlei oder Handwerksbetrieb personenbezogene Daten in ein Sprachmodell tippt, ist als Verantwortlicher im Sinne der DSGVO selbst in der Pflicht – und ab dem schrittweisen Inkrafttreten des AI Act zusätzlich als „Betreiber“ („Deployer“) eines KI-Systems. Das gilt unabhängig davon, ob das Modell auf einem Server in Kalifornien, Irland oder Frankfurt läuft.

Dieser Artikel ordnet die Studienlage ein, erklärt die zentralen Konfliktpunkte zwischen großen KI-Modellen und europäischem Recht und zeigt, wie Sie als Entscheider in einem KMU pragmatisch zu rechtskonformen Lösungen kommen – ohne KI aus Angst vor Bußgeldern komplett zu meiden.

Was die aktuelle Compliance-Analyse konkret zeigt#

Untersucht wurden die marktführenden Foundation Models entlang eines Kriterienkatalogs, der sowohl klassische Datenschutzpflichten als auch die neuen Anforderungen aus dem EU AI Act abbildet. Geprüft wurden unter anderem die Rechtmäßigkeit der Trainingsdaten, die Transparenz gegenüber betroffenen Personen, Auskunfts- und Löschrechte, die Dokumentation des Modells und die Risikobewertung nach AI Act.

Das Ergebnis ist ernüchternd: Kein einziges der untersuchten Modelle erreicht in allen Kategorien eine vollständige Konformität. Besonders kritisch sind drei Punkte:

• Trainingsdatenherkunft: Die meisten großen Modelle wurden mit Daten trainiert, die per Web-Scraping aus öffentlich zugänglichen Quellen stammen. Darin enthalten sind unweigerlich personenbezogene Daten – Namen, E-Mail-Adressen, Lebensläufe, Forenbeiträge – für deren Verarbeitung in der Regel keine Rechtsgrundlage nach Art. 6 DSGVO vorliegt.
• Betroffenenrechte: Wer wissen möchte, ob und welche Daten über ihn in einem Modell stecken (Art. 15 DSGVO), oder eine Löschung verlangt (Art. 17 DSGVO), bekommt von kaum einem Anbieter eine praktikable Antwort. Das liegt auch an der technischen Realität: Trainingsdaten sind in Modellgewichten „eingebrannt“, nicht in einer durchsuchbaren Datenbank gespeichert.
• Transparenz und Dokumentation: Der AI Act verlangt für General-Purpose-AI-Modelle technische Dokumentationen, Zusammenfassungen der Trainingsdaten und Maßnahmen zur Einhaltung des Urheberrechts. Diese Pflichten werden teils unvollständig, teils gar nicht erfüllt.

Für den europäischen Markt heißt das: Die Modelle funktionieren, sie sind nützlich – aber sie bewegen sich in einer rechtlichen Grauzone, die sich mit jedem Monat weiter verengt.

DSGVO und EU AI Act: Zwei Regelwerke, ein Spannungsfeld#

Viele Mittelständler verwechseln DSGVO und AI Act oder denken, der eine ersetze den anderen. Das ist falsch. Beide Regelwerke greifen parallel und ergänzen sich.

Die DSGVO bleibt der Grundpfeiler#

Die DSGVO gilt seit 2018 und regelt jede Verarbeitung personenbezogener Daten – auch dann, wenn diese Verarbeitung durch ein KI-Modell erfolgt. Sobald Sie als Anwaltskanzlei einen Mandantenschriftsatz in ChatGPT einfügen, um eine Zusammenfassung erstellen zu lassen, ist das eine Übermittlung personenbezogener Daten an einen Auftragsverarbeiter – mit allen Konsequenzen: Auftragsverarbeitungsvertrag, Rechtsgrundlage, Informationspflichten, ggf. Datenschutz-Folgenabschätzung.

Der EU AI Act kommt obendrauf#

Der AI Act stuft KI-Systeme in Risikoklassen ein: verbotene Praktiken, Hochrisiko-KI, KI mit Transparenzpflichten und KI mit minimalem Risiko. Für die meisten KMU-Anwendungen – etwa einen KI-Rezeptionisten in der Arztpraxis, eine E-Mail-Automatisierung in der Kanzlei oder ein Lead-Scoring im Vertrieb – greifen primär Transparenzpflichten. Das heißt: Anrufer und Kunden müssen wissen, dass sie mit einer KI interagieren. Hochrisiko-Pflichten greifen unter anderem bei Bewerber-Screening, Bonitätsprüfungen und bestimmten Einsätzen im Gesundheitswesen.

Zeitlich gestaffelt treten die Pflichten ein: Verbotene Praktiken sind seit Februar 2025 untersagt. Pflichten für General-Purpose-AI gelten ab August 2025. Die Hochrisiko-Vorgaben werden bis 2026 und 2027 voll wirksam. Wer jetzt KI-Systeme einführt, sollte sie also so auswählen, dass sie auch in zwei Jahren noch nutzbar sind.

Warum die Modell-Compliance-Lücke ein KMU-Problem ist#

Manche Geschäftsführer winken ab: „Wenn nicht einmal OpenAI alles richtig macht, kann mir doch keiner einen Vorwurf machen.“ Diese Logik trägt nicht. Aufsichtsbehörden konzentrieren sich in der Praxis nicht primär auf Modellanbieter in den USA, sondern auf die Verantwortlichen in der EU – also auf das nutzende Unternehmen.

Ein Bußgeld nach DSGVO kann bis zu 20 Mio. Euro oder 4 % des weltweiten Jahresumsatzes betragen. Für ein KMU sind das existenzgefährdende Größenordnungen. Realistischer als das Maximalbußgeld ist allerdings ein anderes Szenario: Eine betroffene Person beschwert sich bei der Landesdatenschutzbehörde, weil sie vermutet, dass ihre Daten in einem KI-Tool verarbeitet wurden. Es folgt ein Auskunftsersuchen an Ihr Unternehmen. Können Sie dann nicht sauber darlegen, welche Daten Sie wann mit welcher Rechtsgrundlage in welches System eingegeben haben, beginnt der Ärger.

Hinzu kommen weiche Folgen: Reputationsschäden, Vertrauensverlust bei Mandanten und Patienten, mögliche Schadensersatzforderungen nach Art. 82 DSGVO. Gerade in vertrauenssensiblen Branchen – Medizin, Recht, Steuerberatung – wiegt das schwerer als ein behördliches Bußgeld.

Die fünf häufigsten Compliance-Fallen beim KI-Einsatz im KMU#

In der Beratungspraxis tauchen immer wieder dieselben Muster auf. Wer sie kennt, kann sie vermeiden.

1. Schatten-KI durch Mitarbeitende#

Die häufigste Falle: Angestellte nutzen ChatGPT, Claude oder Gemini auf eigene Faust für Recherchen, Übersetzungen oder das Aufbereiten von Texten – ohne dass die Geschäftsführung davon weiß. Dabei landen Mandantenakten, Patientendaten oder interne Vertragsentwürfe in Systemen, deren Auftragsverarbeitungsvertrag das Unternehmen nie unterzeichnet hat. „Schatten-KI“ ist 2025 das, was Schatten-IT in den 2010er-Jahren war.

2. Falsche Rechtsgrundlage#

Viele Verantwortliche stützen die Datenverarbeitung pauschal auf „berechtigtes Interesse“ (Art. 6 Abs. 1 lit. f DSGVO). Bei besonders sensiblen Daten – Gesundheitsdaten, Daten aus Mandatsbeziehungen, Sozialdaten – reicht das nicht. Hier braucht es in der Regel eine Einwilligung oder eine spezifische gesetzliche Grundlage, und beim KI-Einsatz oft zusätzlich eine Datenschutz-Folgenabschätzung.

3. Fehlende Datenminimierung#

Wer einen 40-seitigen Patientenbericht oder Mandantenakt komplett in ein Sprachmodell wirft, verletzt das Prinzip der Datenminimierung. KI funktioniert auch mit anonymisierten oder pseudonymisierten Texten. Das ist Aufwand – aber es ist Pflicht.

4. Unklare Auftragsverarbeitung#

Auch wenn ein Anbieter einen AVV bereitstellt: Lesen Sie ihn. Verbleibt das Modell-Training mit Ihren Daten in den USA? Werden Eingaben zum Verbessern des Modells genutzt? Wie lange werden Logs gespeichert? Diese Punkte unterscheiden sich erheblich zwischen kostenlosen Verbraucherversionen und kostenpflichtigen Business-Tarifen mit EU-Hosting.

5. Keine Transparenz gegenüber Kunden#

Ab August 2026 müssen Nutzer eindeutig wissen, wenn sie mit einer KI interagieren. Der KI-Rezeptionist, der Anrufe in der Praxis annimmt, muss das offenlegen. Chatbots auf der Kanzlei-Website ebenfalls. Wer dies versäumt, riskiert nicht nur Bußgelder, sondern auch wettbewerbsrechtliche Abmahnungen.

Beispiel-Szenario: Eine Steuerkanzlei in Köln führt KI ein#

Nehmen wir eine mittelständische Steuerkanzlei mit zwölf Mitarbeitenden in Köln. Die Partner stehen unter Druck: Fachkräftemangel, steigende Mandantenzahl, immer komplexere Steuerthemen. KI verspricht Entlastung – aber wie geht das rechtssicher?

Die Kanzlei beginnt mit einer Bestandsaufnahme. Welche Mitarbeitenden nutzen heute bereits KI-Tools? Die Auswertung ist überraschend: Sieben von zwölf Personen nutzen privat oder beruflich kostenlose KI-Tools, teilweise mit echten Mandantenunterlagen. Schritt eins ist deshalb eine klare Richtlinie: Was darf rein, was nicht – und über welche Tools.

Im zweiten Schritt definiert die Kanzlei drei konkrete Anwendungsfälle: Telefonische Erstanfragen sollen über einen KI-Rezeptionisten qualifiziert werden. Eingehende E-Mails sollen vorsortiert und mit Standardantworten versehen werden. Interne Recherchen zu Steuerrecht sollen über ein abgesichertes Tool laufen.

Für jeden dieser Anwendungsfälle prüfen die Partner gemeinsam mit dem Datenschutzbeauftragten: Welche Daten fließen ein? Welche Rechtsgrundlage trägt das? Welche Risikoklasse nach AI Act? Wird eine Datenschutz-Folgenabschätzung nötig? Ergebnis: Beim Rezeptionisten und der E-Mail-Vorqualifizierung reicht eine schlanke Dokumentation samt Transparenzhinweis. Bei der internen Steuerrecherche entscheidet man sich für ein Tool mit EU-Hosting, vertraglich ausgeschlossener Trainingsnutzung und revisionssicherem Logging.

Ein Jahr später bilanziert die Kanzlei: Die durchschnittliche Bearbeitungszeit pro Mandantenanfrage ist um 28 % gesunken, die Partner gewinnen Zeit für komplexe Beratungsfälle – und beim Praxisbesuch der Aufsichtsbehörde im Rahmen einer Stichprobe gibt es keinen Befund.

Der Schlüssel war nicht, KI zu vermeiden, sondern KI mit klarem Rahmen einzuführen.

Was wirklich hilft: Kriterien für rechtskonforme KI-Lösungen#

Die pauschale Antwort „nutzt einfach kein ChatGPT“ ist weder realistisch noch produktiv. Statt KI grundsätzlich zu meiden, sollten KMU ihre Lösungen anhand klarer Kriterien auswählen.

Datenhaltung in der EU#

Achten Sie darauf, dass die verarbeitenden Server innerhalb der EU stehen und der Anbieter explizit auf Datenübermittlung in Drittstaaten verzichtet – oder, falls unvermeidbar, ein gültiges Schutzniveau (Angemessenheitsbeschluss, Standardvertragsklauseln plus Transfer Impact Assessment) sicherstellt.

Keine Trainingsnutzung Ihrer Daten#

Vertraglich muss klar geregelt sein, dass Ihre Eingaben nicht zur Verbesserung der Modelle verwendet werden. Bei kostenlosen Versionen ist genau das oft der Geschäftsmodellkern – also Finger weg im professionellen Einsatz.

Granulare Zugriffs- und Löschkonzepte#

Sie müssen jederzeit wissen, welche Daten in welchem System liegen, und sie auf Anfrage löschen können. Tools, bei denen Sie nicht einmal Ihre eigenen Eingabe-Logs einsehen können, sind für sensible Branchen ungeeignet.

Transparente Modellgrundlage#

Für Hochrisiko-Anwendungen müssen Sie nachweisen können, wie das KI-System trainiert wurde und welche Maßnahmen gegen Bias und Halluzinationen greifen. Anbieter, die hier mauern, werden ab 2026 zum Compliance-Risiko.

Branchen-Spezialisierung statt Universal-Modell#

Ein generalistisches Sprachmodell, das alles ein bisschen kann, ist selten die beste Wahl. Branchenspezifische Lösungen – etwa ein KI-Rezeptionist, der nur für Terminvereinbarung und Rückfragen-Triage trainiert ist – sind enger zu kontrollieren, dokumentieren und absichern.

Genau an dieser Stelle setzt OPTIMAZED an: Unsere KI-Rezeptionisten, E-Mail-Automatisierungen und Lead-Qualifizierungs-Workflows laufen auf EU-Servern, Kundendaten werden nicht für Modelltraining genutzt, und wir liefern für jeden Einsatz eine vollständige Dokumentation, mit der Sie gegenüber Behörden und Mandanten auskunftsfähig sind.

Sieben konkrete Schritte für die nächsten 90 Tage#

Wenn Sie als Geschäftsführer oder Inhaber jetzt handeln möchten, hilft ein klarer Fahrplan. Diese sieben Schritte haben sich in der Praxis bewährt:

1. KI-Inventur durchführen. Befragen Sie alle Abteilungen, welche KI-Tools tatsächlich genutzt werden – inklusive privater Accounts mit Firmendaten. Erstellen Sie eine simple Tabelle: Tool, Nutzer, Anwendungsfall, Datenart.
2. Verbindliche Nutzungsrichtlinie schreiben. Eine ein- bis zweiseitige Policy, die regelt: Welche Tools sind freigegeben? Welche Daten dürfen nie eingegeben werden? Wer ist Ansprechpartner?
3. Auftragsverarbeitungsverträge prüfen. Für jedes freigegebene Tool muss ein AVV vorliegen. Bei kostenpflichtigen Business-Tarifen ist das meist Standard, aber lesen Sie die Anlagen.
4. Risiko-Klassifizierung nach AI Act. Ordnen Sie jeden Anwendungsfall einer Risikoklasse zu. In den meisten KMU-Szenarien landen Sie bei „minimal“ oder „Transparenzpflicht“ – aber Bewerber-Screening oder Kreditentscheidungen können kippen.
5. Datenschutz-Folgenabschätzung wo nötig. Bei systematischer Verarbeitung sensibler Daten oder Hochrisiko-Einsatz ist die DSFA Pflicht. Es gibt gute Vorlagen der Aufsichtsbehörden.
6. Mitarbeitende schulen. Eine 90-minütige Schulung mit Praxisbeispielen wirkt mehr als ein 30-seitiges Handbuch. Wiederholen Sie sie jährlich.
7. Verantwortlichkeiten klären. Wer entscheidet über neue Tools? Wer dokumentiert? Wer ist Schnittstelle zum Datenschutzbeauftragten? Schreiben Sie es auf.

Dieser Fahrplan kostet überschaubaren Aufwand und schützt Sie vor den teuersten Fehlern.

Ausblick: Was 2026 und 2027 auf KMU zukommt#

Der regulatorische Druck wird steigen, nicht sinken. Mit dem vollständigen Inkrafttreten der Hochrisiko-Regeln des AI Act ab 2026 wird die Marktaufsicht aktiver werden. Bereits jetzt richten Bundesländer eigene KI-Aufsichtsstellen ein. Parallel verschärfen Gerichte die Auslegung der DSGVO – das Urteil zum Schufa-Scoring 2023 hat gezeigt, dass automatisierte Entscheidungen sehr eng gefasst werden.

Für KMU bedeutet das zweierlei: Erstens wird der Wettbewerbsvorteil derer, die jetzt rechtssicher aufstellen, größer. Wer als Arztpraxis, Kanzlei oder Handwerksbetrieb dokumentiert KI-konform arbeitet, gewinnt Vertrauen – und kann mit diesem Compliance-Plus auch werben. Zweitens wird der Markt für Tools sortieren: Anbieter, die sich nicht europäisch aufstellen, werden zurückgedrängt. Schon heute zeigt sich, dass viele große US-Modelle ihre europäischen Versionen funktional einschränken müssen, um lokale Regeln einzuhalten.

Der Trend geht zu spezialisierten, dokumentierten und EU-gehosteten KI-Lösungen mit klar abgegrenztem Einsatzzweck. Universal-Chatbots, die alles können sollen, werden seltener die erste Wahl für sensible Branchen sein.

Fazit: Compliance ist kein Bremsklotz, sondern Filterfunktion#

Die Nachricht, dass kein großes KI-Modell DSGVO und EU AI Act vollständig erfüllt, ist kein Grund, KI im KMU zu meiden. Sie ist ein Grund, KI bewusst auszuwählen. Wer heute auf generische Consumer-Tools setzt und sensible Daten unkontrolliert einfließen lässt, baut sich ein Risiko, das in zwölf bis 24 Monaten teuer werden kann. Wer dagegen den Aufwand investiert, Anwendungsfälle sauber zu definieren, EU-konforme Anbieter auszuwählen und Mitarbeitende zu schulen, holt sich genau die Produktivitätsgewinne, die KI verspricht – ohne den juristischen Kater.

Die drei wichtigsten Take-aways:

• Haftung liegt beim KMU, nicht beim Modellanbieter. Sie sind der Verantwortliche im Sinne der DSGVO und der Betreiber im Sinne des AI Act. Punkt.
• Compliance entscheidet sich bei der Toolauswahl. EU-Hosting, vertraglich ausgeschlossene Trainingsnutzung, dokumentierte Modellgrundlage – das sind die Mindestkriterien. Wer hier nachverhandelt, spart später am Bußgeld.
• Handeln Sie jetzt, nicht 2026. Inventur, Richtlinie, Schulung, Risikobewertung: Diese vier Schritte sind in 90 Tagen machbar – und ersparen Ihnen im Ernstfall einen Krisenmodus, in dem es teuer und hektisch wird.

KI bleibt eine der größten Effizienzhebel für deutsche KMU im kommenden Jahrzehnt. Aber sie wird nur denen nutzen, die sie mit der gleichen Sorgfalt einführen, mit der sie auch Buchhaltung, IT-Sicherheit oder Personalrecht behandeln. Compliance ist dabei keine Schikane, sondern eine Filterfunktion: Sie trennt die Werkzeuge, mit denen man auf Jahre arbeiten kann, von denen, die morgen wieder vom Markt verschwunden sind.