Zum Inhalt springen

KI-Kompass / Meldungen

Cloudflare Workers AI: KI-Antworten enthielten Daten anderer Kunden

Allgemein

Durch einen Konfigurations- und einen Softwarefehler gab das Modell GLM 5.3 in 155 Antworten fremde Daten aus: was du daraus mitnehmen kannst.

Quelle: Cross-request KV cache exposure in the GLM-5.3 Workers AI model, and our remediation with SGLang (Cloudflare Blog),

Hinweis: Meine Domain und diese Website laufen über Cloudflare. Cloudflare bezahlt mich nicht, die Links sind keine Affiliate-Links.

Technische Zeichnung: Anfragen von A und danach von B laufen in einen gemeinsamen KV-Cache aus Speicherseiten, schraffierte Seiten enthalten Reste von A. Der Lesebereich für B umfasst auch einige dieser Reste, die Antwort an B enthält eine schraffierte Zeile, markiert mit 155 ×.

Anlass: Cloudflare hat am 26. Oktober 2026 einen Bericht zu einem Vorfall in Workers AI veröffentlicht, seinem Dienst für KI-Modelle per Schnittstelle. Zwischen dem 27. August und dem 9. September 2026 erhielten laut Cloudflare einige wenige Kunden des Modells GLM 5.3 Antworten mit Daten aus Anfragen anderer Kunden. Betroffen waren 155 Antworten, alle auf sehr lange Eingaben mit mehr als 681.280 Token (Textstücken). Ein Sicherheitsforscher hatte den Fehler am 8. September gemeldet. Am 9. September nahm Cloudflare das Modell vom Netz, behob den Fehler und schaltete es am Abend wieder frei. Andere Modelle waren laut Cloudflare nicht betroffen, Hinweise auf gezielten Missbrauch gebe es nicht. Das sind Angaben des Anbieters.

Was das bedeutet: Die fremden Daten stammten aus dem KV-Cache, einem Zwischenspeicher im Grafikspeicher, in dem das Modell die schon verarbeitete Eingabe ablegt. Er wird zwischen Anfragen nicht geleert, sondern überschrieben. Mit Cloudflares Einstellungen fiel er kleiner aus als die zugesagte Eingabelänge, und ein Fehler in SGLang, der Software, die das Modell ausführt, brach zu lange Anfragen nicht ab. So las das Modell Reste früherer Anfragen mit. Cloudflare legt Ursache, Ablauf und Korrekturen ausführlich offen. Der Bericht nennt eine Aktualisierung der Statusseite am 9. September. Ob die Betroffenen einzeln informiert wurden, steht darin nicht.

Was du tun kannst:

  1. Vertrag prüfen: Vertrauliche oder personenbezogene Daten nur mit Auftragsverarbeitungsvertrag (AVV) und klarer Regel, wie schnell der Anbieter dich über Vorfälle informiert. Nach Art. 33 Abs. 2 DSGVO muss er das „unverzüglich“ tun.
  2. Sparsam eingeben: Nur das Nötige in den Prompt, Namen, Patientendaten oder Seriennummern vorher durch Platzhalter ersetzen (pseudonymisieren).
  3. Nachfragen: Vom Anbieter wissen wollen, wie er Zwischenspeicher zwischen Kunden trennt und wie er das testet.

Einordnung: Cloudflare räumt ein, die Abweichung vor dem Start gekannt und bei Tests nur Statuscodes und Leistung geprüft zu haben, nicht die Antworten selbst. Für QM-Teams eine vertraute Lehre: Validierung prüft das Ergebnis.

KI im eigenen Team einführen? Dafür gibt es meine Workshops. Workshops ansehen