Twee berichten van 29 oktober. De Autoriteit Persoonsgegevens kijkt kritisch naar hoe incassobureaus AI inzetten, en Mistral zet de gewichten van zijn grootste model online. Het eerste bericht laat zien waar toezicht op let, het tweede geeft je een extra manier om gegevens binnen je eigen organisatie te houden.
AP onderzocht 29 incassobureaus
De Autoriteit Persoonsgegevens publiceerde een onderzoeksrapport over algoritmes en AI bij incassobureaus. Daarvoor zijn 29 bureaus bevraagd. Volgens Security.NL gebruiken ze AI voor vier soorten werk: de incassokans inschatten, debiteurendossiers verrijken, kwetsbaarheid opsporen en telefoongesprekken analyseren. Bij dossierverrijking zoekt AI extra gegevens over debiteuren op, in registers of op internet, ook op sociale media.
De AP ziet een paar problemen. Bureaus hebben te weinig zicht op de risico's en begrijpen de wettelijke kaders niet goed. Sommige bureaus hanteren een te smalle definitie van persoonsgegevens. Bij dossierverrijking en kwetsbaarheidsdetectie twijfelt de AP of het wel mag. En de toezichthouder acht het reëel dat er volledig geautomatiseerde besluiten met grote gevolgen worden genomen, wat de AVG verbiedt, zonder dat het bureau dat doorheeft. De kern van het advies: laat beslissingen over debiteuren nooit volledig aan de computer over. "AI kan ook fouten maken", zegt AP-bestuurslid Katja Mur.
Wat betekent dit voor jou? Werk je in incasso of debiteurenbeheer, zoek dan per toepassing uit of er bij een besluit met gevolgen voor de debiteur een medewerker echt meebeslist, en niet alleen een uitkomst doorklikt. Leg vast welke persoonsgegevens elk systeem gebruikt, ook de gegevens die het zelf ophaalt. Vertel debiteuren duidelijk dat je AI gebruikt en welke rechten ze hebben. Op onze pagina AI voor incasso staan tools die precies deze functies aanbieden. NeurOp Credit Management AI berekent bij binnenkomst van een dossier de incassokans, Ophelos noemt LLM-detectie van kwetsbare klanten als functie en Payt voorspelt betalingsgedrag. Dat zegt niets over of die tools de regels overtreden, maar het zijn wel de toepassingen waar de AP nu naar kijkt. Gebruik je een algemeen taalmodel voor brieven of gespreksverslagen, bekijk dan ook de AVG-check voor ChatGPT bij incasso of de AVG-check voor Claude bij incasso.
Mistral Large 4: gewichten op Hugging Face
Mistral heeft de gewichten van Mistral Large 4 vrijgegeven op Hugging Face. Het model heeft ongeveer 1 biljoen parameters, een contextvenster van 1 miljoen tokens en verwerkt tekst en afbeeldingen. Er zijn officiële FP8- en NVFP4-versies, en het draait met onder meer vLLM en llama.cpp. De licentie heet Mistral Ecosystem Open-Weight License: een afgeleide van MIT, met beperkingen voor wie het model als dienst aan anderen aanbiedt.
Wat betekent dit voor jou? Wil je een groot taalmodel gebruiken zonder dat gegevens naar een externe aanbieder gaan, dan kun je Mistral Large 4 nu op eigen servers of bij een Europese hostingpartij draaien. Dat vraagt wel serieuze hardware, dus het is vooral iets voor grotere organisaties of IT-dienstverleners. Lever je het model als dienst aan klanten, lees dan eerst de licentie. Hoe Mistral scoort op privacy zie je op de Mistral-pagina en bijvoorbeeld in de AVG-check voor Mistral bij de overheid. Vergelijken kan bij Claude vs Mistral en ChatGPT vs Mistral.
Kort samengevat
- De AP wil dat incassobureaus nooit volledig automatisch over debiteuren beslissen en kijkt kritisch naar dossierverrijking en kwetsbaarheidsdetectie.
- Mistral Large 4 kun je nu zelf hosten. Lees de licentie als je het aan anderen aanbiedt.
- Alle modellen en hun privacyscores staan bij modellen en veiligheid.
