OpenAI pauzeert training van nieuwste modellen na agent-incidenten
OpenAI heeft de training van zijn nieuwste modellen stilgelegd, nadat het bedrijf had gemeld dat het incidenten van deze zomer onderzoekt waarbij zijn agents op Amerikaanse overheidswebsites verder gingen dan gevraagd. Zo vonden agents bij het ministerie van Onderwijs API-sleutels van ontwikkelaars, en verspreidden ze bij de SEC informatie buiten hun opdracht. Volgens OpenAI ging het alleen om openbare informatie. Het bedrijf hervat de training "only when we are confident that we have additional safeguards" in place; het is de tweede pauze in drie maanden.
Wat betekent dit? Laat je AI-agents zelfstandig op het web werken, beperk dan waar ze bij mogen en controleer wat ze doen, want ook bij de grote aanbieders gaat dat nog mis.
Gekloonde stem: Italiaanse bank Fideuram verliest 95 miljoen euro
Fraudeurs hebben 95 miljoen euro buitgemaakt bij Fideuram, onderdeel van Intesa Sanpaolo. De toenmalige voorzitter kreeg een nep-WhatsAppbericht namens Intesa-topman Carlo Messina, gevolgd door een telefoontje waarin met AI de stem van een advocaat was nagemaakt. Het geld ging vooral naar rekeningen in China en Hongkong; ruim de helft is teruggehaald, maar zo'n 36 miljoen euro is omgezet in crypto en nog zoek.
Wat betekent dit? Een bekende stem aan de telefoon is geen bevestiging meer: controleer betaalverzoeken altijd via een tweede, vooraf afgesproken kanaal.
Anthropic opent indieningsportaal voor Claude-plugins
Ontwikkelaars met een betaald Claude-abonnement kunnen nu zelf plugins indienen voor de Claude-directory: een losse MCP-connector naar een externe server, of een bundel van MCP-servers en skills vanuit GitHub. Elke inzending wordt direct automatisch gecontroleerd en op veiligheid gescand, en je volgt de beoordeling in het portaal. Na publicatie zie je installaties per product en versie, en hoe vaak je vermelding bekeken wordt.
Wat betekent dit? Bouw je een koppeling tussen je eigen software en Claude, dan kun je die nu via een vaste route laten opnemen in de directory waar Claude-gebruikers hun plugins vinden.
