EU Sovereign AI: Was LLM-Clouds versprechen und wo sie scheitern

Europäische KI-Infrastruktur wird oft als einfache Lösung präsentiert: einmal umstellen, DSGVO erfüllt, fertig. In unserem Lab nutzen wir seit Monaten einen europäischen LLM-Anbieter im Dauerbetrieb. Dieser Artikel zeigt, was tatsächlich funktioniert, wo die Versprechen dünn werden und was der Betrieb wirklich kostet.

Was EU Sovereign AI bedeutet

Der Begriff beschreibt KI-Dienste, deren Verarbeitung vollständig unter europäischer Jurisdiktion stattfindet. Das umfasst drei Ebenen: den Anbieter mit Sitz in der EU, die physische Infrastruktur in europäischen Rechenzentren und den Verzicht auf Unterauftragsverarbeiter außerhalb der EU.

Das klingt selbstverständlich, ist es aber nicht. Viele Dienste werben mit einem EU-Rechenzentrum, leiten Anfragen bei Auslastung jedoch an Kapazitäten in den USA weiter. Prüfen Sie deshalb nicht nur, wo der Anbieter sitzt, sondern wo Ihre Prompts tatsächlich verarbeitet werden und ob ein Scheitern der EU-Kapazität zu einem Drittlandtransfer führen kann.

Wie unser Setup aussieht

Unser Lab betreibt mehrere Agenten, die dauerhaft laufen. Sie nutzen ein Sprachmodell für Textaufgaben und ein weiteres Modell für die Speicherverwaltung, also das Zusammenfassen und Ablegen von Kontext.

Wir beziehen beide Modelle über einen europäischen Anbieter, der Open-Weight-Modelle auf eigenen Servern betreibt. Der entscheidende Vorteil: Sobald ein Modellhersteller neue Gewichte veröffentlicht, kann der Anbieter das Modell kurzfristig bereitstellen. Wir haben erlebt, dass ein neues Modell am Veröffentlichungstag bereits verfügbar war.

Die Fallstricke im Detail

Router-Abhängigkeit

Viele europäische Anbieter sind keine reinen Hoster, sondern Router. Sie verteilen Anfragen auf mehrere Backend-Provider. Das bringt Ausfallsicherheit, aber auch zwei Probleme.

Erstens bleibt die genaue Route intransparent. Welcher Provider eine Anfrage tatsächlich bearbeitet, ist oft nicht sichtbar. Zweitens hängt die Qualität der Antwort davon ab, welches Backend gerade gewählt wird. Ein Modell kann über zwei Anfragen hinweg unterschiedlich stark antworten, obwohl der Modellname identisch ist.

Lizenzfragen

Open-Weight bedeutet nicht automatisch freie kommerzielle Nutzung. Einige Modelle stehen unter Forschungs- oder Nicht-Kommerziell-Lizenzen. Der Anbieter übernimmt in der Regel die Verantwortung für die Nutzung, doch die Haftungsfrage sollte vor einem produktiven Einsatz schriftlich geklärt sein.

Für ein Hobby-Lab ist das unkritisch. Sobald daraus ein Kundenangebot wird, ist die Lizenzkette ein Punkt, der früh geprüft werden muss.

Wo die Souveränität an Grenzen stößt

Ein europäischer Anbieter ist kein eigener Server. Unser Anbieter betreibt die Modelle nicht selbst, sondern verteilt die Anfragen über ein Netz aus Partnerrechenzentren. Aktuell sind das neun Partner in acht Ländern.

Die Zusage ist eindeutig: Anfragen und Antworten verlassen die EU nicht, es gibt keine Ausweichkapazität in den USA oder Asien, und kein Partner darf die Daten zum Training verwenden. Das ist keine reine Werbung, sondern eine Bedingung für die Aufnahme in das Netzwerk.

Trotzdem bleiben drei offene Punkte.

Erstens bestimmt der Router dynamisch, welcher Partner eine Anfrage bedient. In der Antwort steht, wer es am Ende war. Vorab weiß man es nicht. Für den Datenschutz ist das unkritisch, solange die EU-Grenze gilt. Für eine engere Zusage wie nur Deutschland genügt es nicht.

Zweitens gibt es bisher kein öffentliches Feld, mit dem man eine Anfrage auf ein einzelnes Land beschränken kann. Der Anbieter kann das intern steuern, garantiert es aber nicht über die Schnittstelle.

Drittens ersetzt die technische Gestaltung keinen Vertrag. Ohne Auftragsverarbeitungsvertrag nach Artikel 28 der DSGVO ist ein Kundeneinsatz nicht zulässig, selbst wenn die Infrastruktur stimmt. Der Vertrag muss ausdrücklich angefordert werden.

Die Frage nach der Eigentümerstruktur

Ein Rechenzentrum in Europa ist noch keine Garantie gegen Zugriff von außen. Entscheidend ist, wem der Betreiber gehört und welcher Jurisdiktion die Muttergesellschaft unterliegt.

Ein Beispiel: Der US-amerikanische CLOUD Act erlaubt US-Behörden den Zugriff auf Daten, die von einem US-Unternehmen oder einer von ihm kontrollierten Tochtergesellschaft verarbeitet werden. Das gilt unabhängig davon, ob die Server in Frankfurt oder Helsinki stehen. Ein EU-Rechenzentrum mit US-Mutter schützt also weniger, als es auf den ersten Blick wirkt.

In der Praxis heißt das: Prüfen Sie die Beteiligungsstruktur jedes Providers in der Kette. Wer sind die Gesellschafter, gibt es eine US-Mutter oder einen mehrheitlich US-finanzierten Eigentümer, und unterliegt der Betreiber einem Gesetz, das Zugriff von außerhalb der EU erzwingen kann.

Das ist ein Restrisiko, kein nachgewiesener Fall. Für ein Hobby-Lab mag das theoretisch klingen. Sobald personenbezogene Daten von Kunden verarbeitet werden, gehört die Frage in die Risikobewertung, auch ohne konkreten Anlass.

Der wahre Preis

Hier wird es konkret. Unser Tarif kostet 69 Euro im Monat zuzüglich Mehrwertsteuer. Darin enthalten sind feste Token-Kontingente für die Textmodelle. Klingt überschaubar.

Nicht enthalten sind die Kosten für die Speicherverwaltung. Die läuft über eine separate API mit eigener Abrechnung. Der tatsächliche Monatsbetrag liegt also über den beworbenen 69 Euro. Wer Angebote vergleicht, sollte diesen zweiten Posten immer mitrechnen.

Eigenhosting: Die ehrliche Rechnung

Die naheliegende Frage lautet: Warum nicht einfach selbst hosten? Die Antwort ist eine Zahl.

Ein Modell mit 30 Milliarden Parametern benötigt in der Standard-Quantisierung rund 20 Gigabyte Grafikkartenspeicher, zuzüglich Kontextpuffer. Eine passende GPU mit 24 Gigabyte kostet in einem europäischen Rechenzentrum als Dauerbetrieb zwischen 150 und 230 Euro im Monat. Dazu kommen Betriebsaufwand, Modellaktualisierungen und Ausfallrisiko.

Dem gegenüber steht ein Token-Kontingent, das im dreistelligen Millionenbereich pro Monat liegt. Die folgende Übersicht zeigt, warum Eigenhosting für unseren Bedarf nicht wirtschaftlich ist:

Die stundenweise Miete klingt zunächst günstig, hat aber einen Haken. Die Instanz muss bei jedem Zugriff gestartet werden, es gibt keine Ausfallsicherheit und keine Garantie auf Verfügbarkeit des gewählten Modells.

Wann Eigenhosting sinnvoll ist

Eigenhosting lohnt sich nicht bei gelegentlicher Nutzung. Es lohnt sich, wenn ein Modell dauerhaft unter Volllast läuft, wenn ein fein abgestimmtes Modell mit eigenen Daten benötigt wird oder wenn die niedrigste erreichbare Latenz entscheidend ist.

Für alle anderen Fälle bleibt die Frage: Wie hoch ist der Aufwand, eine vollständige Inferenzinfrastruktur zu betreiben, und steht dieser Aufwand in einem sinnvollen Verhältnis zum Nutzen?

Was übrig bleibt

Europäische LLM-Anbieter sind eine tragfähige Grundlage für datenschutzsensible KI-Anwendungen. Sie beseitigen jedoch nicht die Frage nach der Datenroute, die Lizenzfrage oder die Notwendigkeit, die echten Gesamtkosten zu prüfen.

Wer KI in Europa betreibt, sollte die Versprechen der Anbieter nicht als erledigt betrachten, sondern als Ausgangspunkt für die eigenen Fragen. Genau in dieser Lücke zwischen Versprechen und Betrieb entsteht die eigentliche Entscheidung.

---

Dieser Beitrag beschreibt Erfahrungen aus einem Hobby-Lab. Bei Fragen oder eigenem Betriebserfahrungen freuen wir uns über einen Austausch.