Die EU-Cybersicherheitsagentur ENISA lässt chinesische Open-Weight-KI-Modelle in vollständig isolierten Systemen ohne Internetverbindung testen. Das hat der Exekutivdirektor der Behörde, Juhan Lepassaar, bestätigt. Welche Modelle untersucht werden und nach welchen Methoden vorgegangen wird, bleibt jedoch geheim.

Hinter der stillen Evaluierung steckt mehr als eine rein technische Übung: Europa will einerseits die Datensicherheit wahren, andererseits eine konkrete Grundlage für anstehende rechtliche Regelungen schaffen. Drei zentrale Ziele der Tests im Überblick.

2

Datenlecks von vornherein ausschließen

Der kritischste Grund für den Einsatz sogenannter Air-Gapped-Systeme statt einer API-Anbindung ist die chinesische Gesetzgebung: Das 2017 in Kraft getretene Nationale Geheimdienstgesetz verpflichtet alle in China ansässigen Unternehmen, den Geheimdienstanfragen des Staates bedingungslos zu unterstützen.

Das bedeutet: Daten, die an Server von Anbietern wie DeepSeek oder Alibaba übermittelt werden, sind faktisch für den chinesischen Staat zugänglich. ENISA lädt die Modellgewichte deshalb auf die eigene Infrastruktur und trennt die Verbindung nach außen vollständig – so lassen sich Fähigkeiten und Schwachstellen der Modelle prüfen, ohne Unternehmensdaten zu riskieren.

Versteckte Bedrohungen im Modell?

2

Auch wenn ein Open-Weight-Modell lokal läuft und keine Daten nach außen sendet, können in den aus dem Training stammenden Parametern versteckte Backdoors, Schwachstellen oder Manipulationsspuren stecken. Genau dieser Frage geht ENISA nach.

Zu den Bedrohungen, die die Agentur kartieren will, zählen:

  • Schädliche Inhalte: Wie leicht lassen sich Sicherheitsfilter abschalten? Geben die Modelle Anleitungen zu Cyberkriminalität oder chemisch-biologischen Bedrohungen?
  • Manipulierte Schlussfolgerungen: Lassen sich Modellarchitekturen von Angreifern übernehmen? Sind die Entscheidungsmechanismen für versteckte Eingriffe offen?
  • Strukturelle Schwachstellen im Code: Aus dem Trainingsprozess resultierende Verwundbarkeiten und mögliche versteckte Steuerungen sollen mit konkreten Daten belegt werden.

Grundlage für den EU AI Act

2

Strategisch am wichtigsten: Die Ergebnisse fließen direkt in die Audits im Rahmen des EU AI Act. Chinesische Anbieter haben die freiwilligen Verhaltensregeln in Europa nicht unterzeichnet – das schafft eine erhebliche Lücke bei den Risikobewertungen.

Die Erkenntnisse aus den isolierten Netzen geben dem europäischen KI-Büro eine offizielle Sanktionsgrundlage. Auf dieser Basis könnte die EU den Verkauf bestimmter Modelle auf dem Markt einschränken, Modelle als Hochrisiko einstufen und ihnen strenge Pflichten auferlegen oder verbindliche Regeln festlegen, welche Systeme in kritischen Bereichen wie Energie, Finanzen, Gesundheit und öffentlicher Verwaltung eingesetzt werden dürfen.

Die geheimen ENISA-Tests bilden damit sowohl das technische als auch das rechtliche Fundament des europäischen Ansatzes zur KI-Sicherheit. Wann die Ergebnisse veröffentlicht werden, ist bislang unklar.