EU-Verfahren gegen Anthropic und OpenAI: Was KMU jetzt tun sollten
Was passiert ist und was wir sicher wissen
Beginnen wir mit dem, was die Meldung hergibt, und mit dem, was sie nicht hergibt. Nach dem Bericht von Golem.de hat die EU-Kommission ein offizielles Verfahren gegen die beiden KI-Unternehmen Anthropic und OpenAI eingeleitet. Anlass ist ein Sicherheitsvorfall bei Hugging Face, einer der zentralen Plattformen, auf denen KI-Modelle, Datensätze und Werkzeuge bereitgestellt und weitergegeben werden. Die Kommission hatte die beiden Anbieter zunächst um Auskünfte gebeten, und zwar auf freiwilliger Basis. Diese Auskünfte hielt sie für unzureichend. Deshalb ermittelt sie jetzt förmlich. Der Vorgang wird im Zusammenhang mit dem AI Act, dem europäischen KI-Gesetz, eingeordnet.
Mehr steht in der uns vorliegenden Zusammenfassung nicht. Wir kennen keine technischen Details des Angriffs, keine Aussage darüber, welche Daten oder Modelle betroffen waren, und keine Einschätzung, wie schwer die Vorwürfe wiegen. Wer Ihnen jetzt mit großer Sicherheit erklärt, was genau passiert ist und wer woran schuld ist, spekuliert. Wir tun das bewusst nicht. Ein offizielles Verfahren ist zunächst eine Untersuchung, kein Urteil. Ob am Ende Pflichtverletzungen festgestellt werden, ist offen.
Trotzdem lohnt sich der Blick darauf, was der Vorgang über die Lage sagt. Drei Punkte sind auch ohne Details klar: Erstens interessiert sich die EU ernsthaft dafür, wie KI-Anbieter mit Sicherheitsvorfällen umgehen. Zweitens reicht es der Kommission nicht, wenn Unternehmen nach eigenem Ermessen Informationen herausgeben. Drittens hängen KI-Dienste an einer Kette von Plattformen, Zulieferern und Werkzeugen, von denen Sie als Kunde meist nur das letzte Glied sehen.
Warum die Stufe „freiwillig zu förmlich“ so wichtig ist
Die Unterscheidung wirkt formal, ist aber der eigentliche Kern der Nachricht. Am Anfang steht oft ein höfliches Auskunftsersuchen. Das Unternehmen kann antworten, wie umfassend es mag. Reicht die Antwort nicht, kann die Behörde auf ein förmliches Verfahren umschalten. Dann gelten andere Spielregeln: Fristen, Dokumentationspflichten, möglicherweise Sanktionen bei mangelnder Mitwirkung. Dass die Kommission diesen Schritt gegangen ist, bedeutet, dass die bisherigen Informationen aus ihrer Sicht Lücken ließen.
Für Sie als Kunden ist das ein Warnsignal ganz eigener Art. Wenn schon eine EU-Behörde Mühe hat, belastbare Auskünfte zu einem Vorfall zu bekommen, sollten Sie nicht davon ausgehen, dass ein einzelnes Unternehmen aus dem Mittelstand im Ernstfall mehr erfährt. Die Frage lautet also nicht nur, ob ein Anbieter sicher ist. Sie lautet auch: Wie transparent geht er mit Vorfällen um, und was bekomme ich vertraglich garantiert, wenn etwas schiefgeht?
Das gilt unabhängig davon, wie das Verfahren ausgeht. Selbst wenn sich am Ende zeigt, dass beide Unternehmen ordentlich gearbeitet haben, bleibt die Erkenntnis: Die Informationsrechte des Kunden sind in der Regel schwächer, als man bei einem so wichtigen Baustein der eigenen Arbeit annehmen würde.
Hugging Face und die unsichtbare KI-Lieferkette
Viele Mittelständler kennen den Namen Hugging Face nicht und nutzen trotzdem indirekt die Dinge, die dort liegen. Das Prinzip ist ähnlich wie bei Software-Bibliotheken: Entwickler und Dienstleister greifen auf vorgefertigte Modelle, Datensätze und Hilfsprogramme zurück, statt alles selbst zu bauen. Solche Plattformen sind praktisch, weil sie Innovation beschleunigen. Sie sind aber auch ein Verteilpunkt. Was dort kompromittiert wird, kann sich weit verbreiten.
Wenn ein Angriff auf eine solche Plattform erfolgreich ist, hängt das Risiko für Sie von mehreren Fragen ab, die Sie von außen nicht beantworten können: Hat Ihr Anbieter ein betroffenes Modell oder Werkzeug eingesetzt? Ist Ihr Anwendungsfall überhaupt berührt? Und würde Ihr Anbieter Sie informieren? Genau hier liegt das Lieferkettenproblem. Sie kaufen vielleicht eine Funktion in Ihrer Branchensoftware, einen Chatbot auf Ihrer Website oder eine Assistenzfunktion im Ticketsystem. Unter der Haube arbeiten mehrere Ebenen: der Anbieter Ihrer Software, der dahinterliegende Modellanbieter, dessen Infrastruktur und die Plattformen, über die Komponenten bezogen werden. Ein Vorfall auf einer unteren Ebene taucht bei Ihnen vielleicht nie als Meldung auf, kann aber Ihre Daten oder die Verlässlichkeit der Ergebnisse berühren.
Das ist kein Grund zur Panik. Es ist ein Grund, die eigene KI-Nutzung einmal sauber zu kartieren. Dazu gleich mehr.
Was der AI Act von Ihnen als Anwender will
Der AI Act wird in der Mittelstandsdebatte gern in zwei Extremen behandelt: entweder als Bürokratiemonster, das alles lähmt, oder als Thema für Konzerne, das einen selbst nicht betrifft. Beides stimmt so nicht. Das Gesetz unterscheidet Rollen und Risikoklassen. Anbieter von KI-Systemen und Modellen tragen die schwersten Pflichten. Unternehmen, die solche Systeme im eigenen Betrieb einsetzen, gelten als Betreiber und haben eigene, in der Regel leichtere Pflichten, die aber nicht null sind.
Was daraus für den Alltag folgt, hängt vom Einsatz ab. Ein Textassistent, der Entwürfe für Newsletter schreibt, liegt in einer ganz anderen Ecke als ein System, das Bewerbungen vorsortiert oder Kreditwürdigkeit bewertet. Wer KI bei Personalentscheidungen oder in sensiblen Bereichen einsetzt, sollte genauer hinsehen und sich rechtlich beraten lassen. Für den üblichen Mittelstandsfall, also Textarbeit, Recherche, Übersetzung, Kundenkommunikation und interne Wissenssuche, geht es vor allem um Transparenz und Sorgfalt: Wissen die Beschäftigten, was sie tun dürfen? Ist klar, wer Ergebnisse prüft? Wird dokumentiert, welche Dienste im Einsatz sind?
Die Meldung aus Brüssel zeigt zugleich, dass die Aufsicht nicht nur auf dem Papier existiert. Behörden fragen nach, und sie fragen bei den großen Anbietern an. Das hat eine indirekte Wirkung auf Sie: Anbieter, die unter Druck geraten, ändern oft ihre Vertragsbedingungen, Berichtspflichten und Zusagen. Wer seine Verträge einmal im Jahr durchsieht, bekommt solche Änderungen mit. Wer einfach weiterklickt, akzeptiert sie stillschweigend.
Wichtig ist uns hier eine ehrliche Abgrenzung: Wie genau die Kommission das Verfahren rechtlich stützt und welche Pflichten konkret geprüft werden, geht aus der Meldung nicht hervor. Dazu sollten Sie keine Gewissheit vortäuschen, auch nicht gegenüber der eigenen Geschäftsführung.
Datenschutz: Die eigentliche Dauerbaustelle
Selbst ohne AI Act gilt für Ihre KI-Nutzung die Datenschutz-Grundverordnung, und dort liegt im Alltag das größere Risiko. Sobald in einen KI-Dienst personenbezogene Daten fließen, also Kundennamen, E-Mails, Bewerbungsunterlagen, Support-Tickets oder Vertragsdetails, sind Sie als Unternehmen verantwortlich. Das Auslagern an einen Anbieter ändert daran nichts, es verschiebt nur die Fragen:
- Gibt es einen Auftragsverarbeitungsvertrag, und deckt er den konkreten Dienst wirklich ab?
- Wo werden die Daten verarbeitet und gespeichert, und welche Unterauftragnehmer sind beteiligt?
- Werden Ihre Eingaben zum Training von Modellen genutzt, und lässt sich das abschalten?
- Wie lange werden Eingaben und Ergebnisse aufbewahrt, und können Sie sie löschen?
- Was passiert bei einer Datenpanne, und innerhalb welcher Frist werden Sie informiert?
Der letzte Punkt ist der unterschätzte. Sie haben bei einer Verletzung des Schutzes personenbezogener Daten selbst knappe Meldefristen gegenüber der Aufsichtsbehörde. Wenn Ihr Dienstleister Sie erst nach Tagen oder gar nicht informiert, geraten Sie in Erklärungsnot, obwohl Sie den Vorfall nicht verursacht haben. Genau deshalb ist die Frage der Informationspflichten im Vertrag so zentral, und genau deshalb ist das Muster „Auskunft nur freiwillig und lückenhaft“ aus der Brüsseler Meldung für Sie als Kunden relevant.
Ein praktischer Gedanke dazu: Je weniger personenbezogene Daten Sie in externe KI-Dienste geben, desto kleiner ist die Angriffsfläche. Vieles, was Mitarbeiter in einen Chat kopieren, lässt sich vorher anonymisieren oder auf das Nötige kürzen. Das kostet Disziplin, aber kein Geld.
Konkrete Lieferkettenrisiken im Mittelstandsalltag
Abstrakte Risikolisten helfen wenig. Deshalb ein paar Szenarien, wie sich die Lage in einem typischen Betrieb darstellen kann.
Schatten-KI. Ein Vertriebsmitarbeiter nutzt privat ein Konto bei einem Chat-Dienst, um Angebote zu formulieren, und fügt dabei Kundendaten ein. Die Geschäftsführung weiß nichts davon. Wenn bei diesem Dienst etwas passiert, erfährt Ihr Unternehmen es nicht, und es gibt auch keinen Vertrag, auf den Sie sich berufen könnten. Das ist in vielen Firmen das größte Risiko, weil es unsichtbar ist.
Eingebettete KI in Fachsoftware. Ihr Warenwirtschaftssystem, Ihr Ticketsystem oder Ihr Website-Baukasten bekommt eine neue KI-Funktion. Sie wird per Update aktiviert, vielleicht sogar standardmäßig. Plötzlich laufen Daten über einen Modellanbieter, den Sie nie ausgewählt haben. Ihr Vertrag ist mit dem Softwarehersteller, nicht mit dem Modellanbieter.
Selbst gebaute Automatisierungen. Ein technikaffiner Mitarbeiter hat über eine Automatisierungsplattform einen Workflow gebaut, der E-Mails zusammenfasst und beantwortet. Das funktioniert großartig, bis ein Schlüssel abläuft, eine Schnittstelle sich ändert oder ein Dienst ausfällt. Zugangsdaten für solche Verbindungen liegen oft an Stellen, die nie jemand geprüft hat.
Importierte Modelle und Komponenten. Wenn Sie oder ein Dienstleister Modelle oder Werkzeuge aus öffentlichen Plattformen beziehen und selbst betreiben, hängt die Sicherheit davon ab, ob die Herkunft geprüft wird. Ein kompromittiertes Paket auf einer Verteilplattform ist genau das Szenario, das Lieferkettenangriffe so unangenehm macht. Ob und wie das im konkreten Hugging-Face-Fall eine Rolle spielt, wissen wir aus der Meldung nicht, aber das Muster ist bekannt genug, um es in die eigene Risikobetrachtung aufzunehmen.
Abhängigkeit von einem Anbieter. Wenn Ihre Prozesse an genau einem KI-Dienst hängen und dieser wegen eines Vorfalls, einer Auflage oder einer Vertragsänderung zeitweise nicht oder nur eingeschränkt zur Verfügung steht, steht auch Ihr Ablauf. Ohne Plan B ist das ein Betriebsrisiko, kein Technikdetail.
So wählen Sie KI-Anbieter mit klarem Kopf aus
Die Versuchung ist groß, sich bei der Anbieterwahl nach Bekanntheit, Preis oder Demo-Eindruck zu richten. Besser funktioniert eine kurze, feste Kriterienliste, die Sie für jeden neuen Dienst abarbeiten. Sie muss nicht lang sein. Fünf bis acht Punkte reichen, wenn sie ehrlich beantwortet werden.
1. Transparenz über Vorfälle. Veröffentlicht der Anbieter Sicherheitsvorfälle, und wie schnell? Gibt es eine Statusseite, einen Ansprechpartner für Sicherheitsfragen, einen dokumentierten Meldeprozess?
2. Datenverarbeitung und Standort. Wo laufen Ihre Daten? Gibt es eine Option für Verarbeitung in der EU? Welche Unterauftragnehmer sind eingebunden, und werden Änderungen angekündigt?
3. Training mit Kundendaten. Ist ausgeschlossen oder abschaltbar, dass Ihre Eingaben zur Weiterentwicklung der Modelle genutzt werden? Gilt das für alle Tarife, auch für günstige?
4. Nachweise. Welche Zertifizierungen und Prüfberichte kann der Anbieter vorlegen? Prüfen Sie, ob sie den konkreten Dienst abdecken und nicht nur das Unternehmen allgemein.
5. Regulatorische Reife. Wie geht der Anbieter mit dem AI Act um? Gibt es dokumentierte Aussagen zu Rollen, Pflichten und Unterstützung für Betreiber? Wie reagiert er, wenn Behörden nachfragen?
6. Exit-Fähigkeit. Können Sie Ihre Daten und Konfigurationen exportieren? Wie aufwendig wäre ein Wechsel?
7. Support und Erreichbarkeit. Gibt es im Ernstfall einen echten Ansprechpartner oder nur ein Ticketformular?
Wichtig: Eine gute Antwort auf diese Fragen ist nicht automatisch ein Beweis für Sicherheit. Aber eine ausweichende oder fehlende Antwort ist ein Befund. Gerade im Licht der Brüsseler Meldung, in der Auskünfte als unzureichend bewertet wurden, ist Verbindlichkeit das, worauf Sie achten sollten.
Was in den Vertrag gehört
Die großen Anbieter verhandeln mit kleinen Kunden selten individuell. Trotzdem lohnt es sich, die Standardbedingungen gezielt zu lesen und, wo es Spielraum gibt, nachzufragen. Folgende Punkte sollten Sie finden oder einfordern:
Meldefristen bei Sicherheitsvorfällen. Eine konkrete Frist, innerhalb der der Anbieter Sie über Vorfälle informiert, die Ihre Daten betreffen können. „Unverzüglich“ ist besser als nichts, eine konkrete Stundenangabe ist besser als „unverzüglich“.
Auftragsverarbeitung. Ein sauberer Vertrag nach DSGVO, inklusive Liste der Unterauftragnehmer und Verfahren bei Änderungen.
Nutzung Ihrer Daten. Ausdrückliche Regelung, dass Eingaben und Ergebnisse nicht für das Training genutzt werden, oder eine klar dokumentierte Abschaltmöglichkeit.
Auditrechte oder Nachweispflichten. Auch wenn Sie nie selbst prüfen werden: Das Recht auf Nachweise zeigt, wie ernst der Anbieter Rechenschaft nimmt.
Haftung und Verfügbarkeit. Realistische Zusagen zu Verfügbarkeit, dazu Regeln für den Fall von Ausfällen. Lesen Sie die Haftungsbegrenzungen genau. Oft sind sie sehr niedrig angesetzt, was Sie bei der Frage berücksichtigen sollten, welche Prozesse Sie überhaupt davon abhängig machen.
Beendigung und Datenrückgabe. Wie lange bleiben Daten nach Kündigung gespeichert, wie werden sie gelöscht, und wie bestätigt der Anbieter das?
Änderungsklauseln. Viele Anbieter behalten sich einseitige Änderungen vor. Klären Sie, wie Änderungen angekündigt werden und ob Sie ein Sonderkündigungsrecht haben.
Wenn Sie die Verträge mit Ihrem IT-Dienstleister oder Datenschutzbeauftragten gemeinsam durchgehen, finden Sie meist in einer Stunde die Punkte, die Nachverhandlung oder zumindest eine bewusste Risikoentscheidung brauchen.
Was das für den Mittelstand bedeutet
Aus alldem lässt sich eine überschaubare Liste machen. Sie müssen nicht alles auf einmal erledigen, aber die ersten Schritte sind schnell getan.
1. Machen Sie eine Bestandsaufnahme. Listen Sie auf, welche KI-Dienste in Ihrem Unternehmen genutzt werden: offiziell beschaffte, in Software eingebettete und die, die Mitarbeiter auf eigene Faust verwenden. Fragen Sie offen und ohne Schuldzuweisung. Wer Angst vor Ärger hat, verschweigt. Notieren Sie je Dienst, welche Daten hineingehen und wer den Vertrag hält.
2. Legen Sie eine einfache KI-Regel fest. Eine Seite genügt: Welche Dienste sind erlaubt, welche Daten dürfen nie eingegeben werden (zum Beispiel Gesundheitsdaten, Bewerberunterlagen, vertrauliche Verträge), wer prüft Ergebnisse, bevor sie nach außen gehen. Diese Regel ist zugleich ein Baustein, um Sorgfalt nachzuweisen.
3. Prüfen Sie Verträge und Auftragsverarbeitung. Gehen Sie für jeden Dienst die Punkte aus dem vorigen Abschnitt durch. Wo etwas fehlt, fragen Sie schriftlich nach und legen die Antwort ab. Wenn keine ausreichende Antwort kommt, ist das eine Entscheidungsgrundlage für einen Wechsel.
4. Reduzieren Sie die Daten, die hinausgehen. Anonymisieren oder kürzen Sie Eingaben, wo es geht. Nutzen Sie, wo verfügbar, Tarife und Einstellungen, die Training mit Ihren Daten ausschließen. Prüfen Sie, ob für sensible Anwendungsfälle ein Betrieb in einer EU-Umgebung oder eine eigene Lösung sinnvoll ist.
5. Planen Sie für den Ausfall. Überlegen Sie für jeden geschäftskritischen Ablauf, was passiert, wenn der KI-Dienst eine Woche nicht verfügbar ist. Ein manueller Notbetrieb oder ein zweiter Anbieter muss nicht perfekt sein, er muss existieren.
6. Sichern Sie die Zugänge. Zugangsdaten und API-Schlüssel gehören in einen Passwortmanager oder ein Geheimnisverwaltungssystem, nicht in Tabellen oder Chatverläufe. Zwei-Faktor-Anmeldung überall einschalten, Schlüssel regelmäßig rotieren, ehemalige Mitarbeiter sofort entfernen. Das sind klassische Aufgaben im Rahmen Ihrer IT-Sicherheit, und sie schützen auch dann, wenn ein Anbieter ein Problem hat.
7. Verfolgen Sie die Regulierung im Blick, nicht im Detail. Wenn Sie in einem Sektor arbeiten, der unter die NIS2-Regeln fallen könnte, oder Zulieferer für solche Unternehmen sind, werden Lieferkettenanforderungen ohnehin enger. Einen Überblick, was das für kleinere Betriebe praktisch heißt, finden Sie auf unserer Seite zu NIS2 & IT-Sicherheit. Der Zusammenhang ist direkt: Wer Lieferanten und Dienste dokumentiert und bewertet, erfüllt eine Grundforderung beider Regelwerke.
8. Holen Sie sich einen Ansprechpartner vor Ort. Gerade kleinere Betriebe in der Region haben selten eine eigene Sicherheitsabteilung. Ein verlässlicher IT-Dienstleister, der die Bestandsaufnahme begleitet und Verträge mitliest, ist deutlich mehr wert als jede Hochglanzbroschüre. Wenn Sie im Raum Nordwest sitzen, sprechen Sie uns über unseren IT-Service Friesland an.
9. Verfolgen Sie das Verfahren, aber warten Sie nicht darauf. Beobachten Sie die Entwicklung, aber machen Sie Ihre Hausaufgaben unabhängig vom Ausgang. Egal, was Brüssel am Ende feststellt: Die Fragen nach Transparenz, Datenfluss, Vertrag und Notfallplan bleiben auch danach richtig.
Einordnung: Kein Grund zur Panik, aber zur Sorgfalt
Es wäre falsch, aus dieser Meldung zu folgern, dass KI-Dienste grundsätzlich unsicher oder unbrauchbar seien. Das gibt sie nicht her, und es wäre auch praktisch unklug: Viele Betriebe gewinnen durch KI echte Zeit, etwa bei Texten, Auswertungen oder Routineantworten. Der Nutzen bleibt, und ihn aufzugeben, nur weil die Aufsicht genauer hinsieht, wäre eine Überreaktion.
Genauso falsch wäre es, die Nachricht als reine Angelegenheit von Großkonzernen abzutun. Die Kette, an der Ihre KI-Nutzung hängt, ist lang, und ein Vorfall an einer Stelle kann bis zu Ihnen durchschlagen, ohne dass Sie es merken. Die EU-Untersuchung macht sichtbar, was bisher im Verborgenen lag: dass Informationsflüsse zwischen Plattformen, Modellanbietern und Behörden nicht selbstverständlich funktionieren.
Behandeln Sie KI wie jeden anderen kritischen Zulieferer. Sie würden auch keinen Lieferanten für ein Kernbauteil ohne Vertrag, ohne Qualitätsnachweis und ohne Plan B einsetzen. Mit etwas Struktur lässt sich das für KI in wenigen Wochen nachholen, ohne dass dafür ein großes Projekt nötig wäre.
Häufige Fragen
Muss ich meine KI-Nutzung wegen des EU-Verfahrens sofort einstellen?
Nein. Das Verfahren richtet sich gegen die Anbieter und ist zunächst eine Untersuchung, kein Verbot. Sinnvoll ist aber, jetzt zu klären, welche Dienste Sie nutzen, welche Daten dort landen und was Ihr Vertrag bei Sicherheitsvorfällen zusagt.
Bin ich als kleines Unternehmen überhaupt vom AI Act betroffen?
Das hängt von Ihrer Rolle und Ihrem Einsatz ab. Wer KI-Dienste im eigenen Betrieb nutzt, gilt in der Regel als Betreiber und hat andere, meist leichtere Pflichten als die Anbieter. Bei sensiblen Einsatzfeldern wie Personalentscheidungen sollten Sie sich fachlich beraten lassen.
Woran erkenne ich, ob mein Anbieter vom Hugging-Face-Vorfall betroffen ist?
Aus der vorliegenden Meldung lässt sich das nicht ableiten, da keine Details zum Umfang bekannt sind. Fragen Sie Ihren Anbieter oder Dienstleister schriftlich, ob und wie er betroffen ist, und halten Sie die Antwort fest. Bleibt sie aus oder ist sie ausweichend, ist das selbst ein Hinweis für Ihre Bewertung.
Was ist die wichtigste Vertragsklausel bei KI-Diensten?
Aus unserer Sicht die Pflicht zur zeitnahen Information bei Sicherheitsvorfällen, die Ihre Daten betreffen können. Sie haben selbst Meldefristen gegenüber der Datenschutzaufsicht und sind darauf angewiesen, rechtzeitig zu erfahren, was passiert ist. Dazu kommen der Ausschluss des Trainings mit Ihren Daten und eine saubere Auftragsverarbeitung.
Reicht es, nur europäische Anbieter zu wählen?
Der Standort allein garantiert keine Sicherheit. Er kann bei Datenschutz und Zuständigkeit Vorteile bringen, ersetzt aber nicht die Prüfung von Transparenz, Vertrag und Nachweisen. Beurteilen Sie jeden Anbieter anhand derselben Kriterienliste.
Wie gehe ich mit Mitarbeitern um, die private KI-Konten für die Arbeit nutzen?
Setzen Sie auf klare Regeln statt auf Verbote, die niemand einhält. Bieten Sie einen freigegebenen Dienst an, erklären Sie, welche Daten nicht eingegeben werden dürfen, und schaffen Sie eine Atmosphäre, in der Nachfragen erlaubt sind. So wird aus Schatten-KI nachvollziehbare KI.