Na de incidenten met testagents bij Anthropic deze week mengt Microsoft-topman Satya Nadella zich in de discussie over controle op AI. Zijn advies is concreet genoeg om naast je eigen AI-gebruik te leggen. Daarnaast kijken we naar onze eigen data: in de arena-ranglijst veranderde de afgelopen maand meer dan in de maanden ervoor.
Nadella: ga ervan uit dat een model kan ontsporen
Nadella schreef zaterdag 10 oktober op X dat het tijd is om de "trust architecture" van AI opnieuw te bekijken, meldt TechCrunch. Zijn uitgangspunt: "We must assume a model is compromised and contain it from the start." Hij vergelijkt dat met een noodrem.
Volgens TechCrunch en de Taipei Times komt zijn advies neer op deze punten:
- Een bevoegd persoon moet een model altijd midden in een taak kunnen pauzeren of stoppen.
- Houd het model los van de software die zijn werk aanstuurt, en leg controles buiten het model.
- Leg elke belangrijke actie van een model vast in onvervalsbare, leesbare logs.
- Vertrouw voor kritieke beslissingen niet op één model.
- Laat AI-systemen onafhankelijk auditen, en maak grote fouten of inbreuken openbaar.
Nadella reageert daarmee op een reeks incidenten, waaronder het bericht dat Anthropic zijn testagents niet betrouwbaar kon controleren. Het is een opiniestuk op X, geen nieuw Microsoft-product of -beleid.
Wat betekent dit voor jou?
Je hoeft geen AI-lab te zijn om dit toe te passen. Laat je een agent e-mails versturen, formulieren invullen of klantgegevens opzoeken, stel jezelf dan drie vragen. Kun je hem stoppen terwijl hij bezig is? Kun je achteraf zien wat hij precies deed? En gaat een handeling naar buiten eerst langs een mens? Een log van agent-acties helpt ook als je onder de AVG moet uitleggen wat er met persoonsgegevens is gebeurd. Werk je bij een bank, een verzekeraar of de overheid, dan is "niet op één model vertrouwen" voor kritieke beslissingen een goed uitgangspunt.
De arena in een maand: Gemini springt, Mistral en DeepSeek klimmen
Wij houden dagelijks de hoogste LMArena-score per modelfamilie bij. Vergelijk je de stand van 11 oktober met die van 11 september, dan vallen drie dingen op:
- Gemini ging van 1494 naar 1525 punten (+31). Die sprong kwam in één keer op 2 oktober, met Gemini 4 Argon (high). Dat staat nu op plek 1, 18 punten boven Claude Opus 5.5 (high) met 1507. Let op: Argon heeft nog maar 4892 stemmen en een marge van ±9 punten.
- DeepSeek steeg van 1459 naar 1475 (+16). Het hoogste model is deepseek-v4.1-flash-max, met een MIT-licentie en $0,30/$1,20 per miljoen tokens (input/output).
- Mistral steeg van 1414 naar 1429 (+15), met Mistral Large 4 voor $0,68/$2,09 per miljoen tokens. Het staat op plek 115 van 414 en zit daarmee nog ver onder de top.
Claude bleef gelijk op 1507, ChatGPT ging van 1483 naar 1485 en Kimi zakte één punt naar 1488.
Hoe hoog een model in de ranglijst staat, zegt niets over wat er met je data gebeurt. DeepSeek scoort hoog en is goedkoop, maar het wordt aangeboden vanuit China. Mistral is een Europese aanbieder. Op /veiligheid/ zie je per model hoe het met je gegevens omgaat. Prijs en kwaliteit vergelijk je op /modellen/.
Kort samengevat
- Nadella wil een noodrem, logs, meerdere modellen en externe audits voor AI-agents. Het is advies, geen beleid.
- Gemini 4 Argon staat sinds 2 oktober bovenaan de arena, maar met relatief weinig stemmen.
- DeepSeek en Mistral klommen deze maand het hardst na Gemini. Check bij beide het AVG-profiel voordat je ze inzet.