Hoe veilig is Ada voor klantenservice?

Claude Code was kwetsbaar voor Plugin4Shell, de zero-click RCE via plugin-updates die Air Security op 18 september 2026 publiceerde. Anthropic bevestigde op 17 juni 2026 de fix in Claude Code 2.1.179. Oudere installaties blijven kwetsbaar: een aangepaste upstream-repo van een geinstalleerde plugin kan code uitvoeren met de rechten van de ontwikkelaar (broncode, cloud-credentials, SSH-sleutels, interne repo's). AVG-relevantie: dit raakt art. 32 (passende beveiligingsmaatregelen) voor iedere organisatie die Claude Code inzet op machines waar persoonsgegevens of klantcode staan. Maatregel: controleer dat alle installaties op 2.1.179 of hoger draaien en leg die versiecheck vast in je beheerproces. Het model zelf en de dataverwerking door Anthropic zijn hierbij niet in het geding. bron

Anthropic publiceerde op 10 september 2026 zijn meest uitgebreide openbare misbruikrapport tot nu toe. Vijf gedocumenteerde gevallen: (1) pogingen om Claude te gebruiken bij biologisch-wapensonderzoek; (2) wapengerelateerde software-ontwikkeling; (3) cyberaanvallen; (4) grootschalige model-extractie (distillation attacks) — meer dan 151 miljoen uitwisselingen toegeschreven aan Alibaba-gelieerde labs; (5) een Russia-gelinkte hackgroep die Claude inzette voor operaties gericht op Oekraïense ambtenaren. Anthropic bevestigde dat de aanvallen zijn verstoord, maar publiceerde geen volledige technische details. AVG/AI Act-relevantie: (1) Organisaties die Claude inzetten voor omgevingen met hoge informatiegevoeligheid moeten toegangslogging en anomaliedetectie op API-niveau inrichten; (2) het rapport onderstreept dat de meldplicht voor AI-beveiligingsincidenten (Art. 53 AI Act) actief wordt opgevolgd; (3) voor DPIA's bij agentic Claude-inzet is expliciet risicobeheersing van misbruik door derden nu met documentatie onderbouwbaar. bron

OpenAI lanceerde GPT-6 Astra op 3 september 2026 en classificeerde het model als 'kritiek' onder zijn eigen Preparedness Framework: het kan zonder stap-voor-stap-begeleiding zero-day-kwetsbaarheden vinden en uitbuiten in geharde systemen. OpenAI past activatieclassificatoren en versterkte isolatiemaatregelen toe. AI Act/AVG-relevantie: (1) Organisaties die GPT-6 Astra inzetten bij verwerking van persoonsgegevens moeten in hun DPIA expliciet de hogere autonomie en het offensieve cyberpotentieel adresseren; (2) Voor hoog-risico-toepassingen (HR-besluitvorming, toegangsbeheer, financiële screening) geldt een strengere conformiteitsbeoordeling onder AI Act Bijlage III (uitgesteld naar 2 december 2027 via Digital Omnibus, maar vrijwillige voorbereiding aanbevolen); (3) Gefaseerde uitrol via Daybreak Access-programma — controleer of jouw organisatie gebruikmaakt van een versie waarvoor aanvullende veiligheidsafspraken van kracht zijn. Prijzen: $10/1M input, $50/1M output (API). bron