Drie berichten van de afgelopen dagen hebben één ding gemeen: AI doet steeds meer zelfstandig werk, en daarmee groeit de schade als het misgaat. Een codeeragent verwijdert in anderhalve minuut een heel project. De president van De Nederlandsche Bank verwacht dat AI-fraude ook hier toeslaat. En goedkope Chinese modellen worden steeds meer gebruikt. Wat betekent dat voor je werk?
Claude Code verwijdert 48.218 bestanden in 103 seconden
Een ontwikkelaar meldde op Reddit dat een Claude Code-agent op 21 september 48.218 bestanden uit een live project wiste, inclusief de Git-geschiedenis. Dat schrijft Cybersecurity News. De agent moest een kopie van het project opnieuw opbouwen en schreef daarvoor een Python-script dat de oude kopie opruimde. Die kopie bevatte 614 Windows-koppelingen (junctions) naar de echte projectmap. Het script zag die koppelingen niet als koppeling en ruimde via die weg ook de echte bestanden op. Daarna meldde de agent zelf: "I broke something."
Een kanttekening: de claim komt uit een Reddit-bericht met bijgevoegd verslag, niet uit onafhankelijk forensisch onderzoek. Het bericht is inmiddels verwijderd, en een reactie van Anthropic wordt in de berichtgeving niet genoemd.
Het advies uit het artikel geldt voor elke codeeragent: behandel hem als geautomatiseerd systeem met rechten, niet als gesprekspartner. Laat verwijderacties eerst als proefrun draaien, verplaats bestanden liever dan ze direct te wissen, en laat de agent werken in een afgeschermde map met zo min mogelijk rechten. Werk je in softwareontwikkeling? Zorg dan dat je back-ups buiten het bereik van de agent staan. Hoe Claude met je data omgaat, lees je op de modelpagina.
DNB: "Het gaat gewoon een keer gebeuren"
Olaf Sleijpen, president van De Nederlandsche Bank, zei zondag bij WNL Op Zondag dat AI samen met cyberrisico's in zijn top drie van risico's voor de financiële sector staat. Aanleiding is de fraude bij het Italiaanse Intesa Sanpaolo. Daar deden oplichters zich via WhatsApp voor als de topman en bootsten ze met AI de stem van een advocaat na. De buit liep in de tientallen miljoenen euro's. Een vergelijkbare zaak in Nederland sluit Sleijpen niet uit.
Werk je in de financiële advisering of als accountant? Spreek dan af dat spoedverzoeken om geld over te maken altijd via een tweede, vooraf vastgelegd kanaal worden gecontroleerd. Ook als je de stem of de afzender herkent.
Chinese modellen: goedkoper en steeds vaker gebruikt
Chinese open-weight modellen lopen volgens een Mozilla-rapport gemiddeld zo'n 4,4 maanden achter op de gesloten Amerikaanse topmodellen, en zijn per taak tot vijf keer goedkoper, meldt Android Headlines. Dat zie je terug in de OpenRouter-ranglijst die wij dagelijks ophalen. Op 26 september had DeepSeek daar een aandeel van 21,32% van alle tokens, GLM 8,34%. ChatGPT kwam op 11,63% en Claude op 2,4%.
Lage kosten zeggen niets over je data. De dienst van DeepSeek slaat data op in China en gebruikt die standaard voor training. GLM loopt internationaal via een Singaporese entiteit. Beide modellen zijn wel open-weight, dus je kunt ze zelf of bij een Europese provider laten draaien. Voor gevoelige gegevens is dat de enige verdedigbare route. Wat per model geldt, zie je op /veiligheid/.
Wat je nu kunt doen
- Geef codeeragents alleen schrijfrechten in een afgeschermde werkmap, en houd back-ups buiten hun bereik.
- Leg een terugbelprocedure vast voor betaalverzoeken, los van het kanaal waarlangs het verzoek binnenkwam.
- Kies je een goedkoop model? Vergelijk op /modellen/ eerst waar je data terechtkomt.