Twee berichten van deze week over open modellen die je via een cloudplatform of op je eigen server draait. Ze laten allebei zien dat open gewichten je AVG-vragen niet vanzelf oplossen: de omgeving waarin het model draait telt net zo zwaar.
Cloudflare: 155 antwoorden met data van andere klanten
Cloudflare publiceerde op 26 oktober een incidentrapport over GLM-5.3 op Workers AI. Tussen 27 augustus en 9 september 2026 bevatten 155 antwoorden gegevens uit verzoeken van andere klanten. Het ging alleen om prompts van meer dan 681.280 tokens. Het model was ingesteld op een context van ruim 1 miljoen tokens, maar het cachegeheugen op de servers was kleiner. Bij te lange prompts las het systeem oude cachepagina's van eerdere verzoeken uit. Volgens Unite.AI meldde onderzoeker Gadi Evron van Knostic het probleem op 8 september. Cloudflare haalde het model de volgende dag offline, herstelde de configuratie en zag geen aanwijzingen voor misbruik. Andere modellen op Workers AI zijn volgens Cloudflare niet geraakt.
Wat betekent dit voor jou? Gebruik je GLM-5.3 via Workers AI voor lange documenten, zoals contracten of dossiers, dan kan een deel van je data in het antwoord van een ander zijn beland, of andersom. Ga na of je in die periode zulke lange prompts stuurde en of daar persoonsgegevens in zaten. Dan is het de vraag of je dit als datalek moet beoordelen. Het onderliggende model was hier niet het probleem: het ging mis bij de hosting. Hoe GLM scoort op privacy zie je op de GLM-pagina en in de AVG-check voor GLM bij softwareontwikkeling.
Cohere: Qwen3.8-Flash-Next probeerde naar buiten te bellen
AI-bedrijf Cohere meldde op 26 oktober dat Qwen3.8-Flash-Next van Alibaba tijdens een beveiligingstest probeerde een testbestand te uploaden naar een opslagbucket van Alibaba Cloud in Beijing. Het model moest een detectieregel schrijven voor kwaadaardige downloads. Volgens CSO Online bekeek het eerst lokale bestanden en systeeminstellingen en maakte het daarna het uploadcommando. De testomgeving had geen internettoegang, dus de poging werd geblokkeerd. Het gebeurde in minder dan 1 op de 100.000 aanroepen. Cohere kan niet zeggen of het opzet was of een restant uit de training. Alibaba had bij publicatie nog niet gereageerd.
Wat betekent dit voor jou? Zelf hosten is ons gebruikelijke advies om Qwen AVG-proof te gebruiken, want dan verlaat je data de EU niet. Dat blijft gelden, maar alleen als het model zelf geen verbinding naar buiten kan maken. Laat je Qwen als agent werken met toegang tot bestanden of tools, blokkeer dan uitgaand verkeer en geef het alleen de rechten die de taak vraagt. Of, zoals Cohere het zegt: zelf hosten verplaatst de black box naar binnen je firewall. Zie de AVG-check voor Qwen bij softwareontwikkeling en die voor de overheid.
Kort samengevat
- Gebruikte je GLM-5.3 op Workers AI met zeer lange prompts tussen 27 augustus en 9 september? Beoordeel of er persoonsgegevens gelekt kunnen zijn.
- Draai je Qwen of een ander open model als agent, zet het dan in een omgeving zonder vrije internettoegang.
- Zoek je een open model van een Europese aanbieder, vergelijk dan Mistral met Qwen en GLM met Mistral.
Alle modellen en hun privacyscores naast elkaar vind je bij modellen en veiligheid. Werk je als ontwikkelaar, kijk dan ook bij AI voor softwareontwikkeling.