Twee berichten van 10 november laten zien hoe ver je gegevens reizen als je AI gebruikt. Bij Fireworks AI, een bedrijf dat AI-modellen draait voor andere softwaremakers, blijkt een inbraak groter dan eerst gemeld. En OpenAI opent met Businesses in ChatGPT een plek waar bedrijven zien hoe vaak ChatGPT ze noemt.
Fireworks AI: tweede inbraak, meer gegevens buitgemaakt
Fireworks meldde op 9 oktober al dat aanvallers bij een beperkt aantal klantaccounts API-sleutels en tokens hadden buitgemaakt. Volgens het beveiligingsbericht van Fireworks werd de inbraak op 6 oktober ontdekt en zijn de getroffen klanten per e-mail ingelicht.
Nu blijkt er een tweede route te zijn geweest. The Register meldt dat op 23 oktober een externe cloudaanbieder werd gehackt waar Fireworks ontwikkelmachines had staan. Via die weg kwamen aanvallers op 24 oktober bij factuurgegevens (adressen, facturen, betaalgeschiedenis), en bij een deel van de klanten bij datasets en onvolledige modelgewichten. Notion, Cursor en Harvey onderzoeken volgens The Register wat de gevolgen voor hen zijn. Notion schreef klanten dat minder dan 1 procent van de Notion-werkruimtes mogelijk is geraakt. Het gaat om AI-chats die niet aan een gebruiker gekoppeld zijn, maar de tekst van die chats kan zelf wel persoonsgegevens bevatten. Volgens The Hacker News is het advies om wachtwoorden en API-sleutels meteen te vervangen als je die in die periode in een getroffen werkruimte hebt geplakt.
Wat betekent dit voor jou? Je kiest een tool, maar die tool gebruikt vaak weer andere bedrijven om het model te draaien. Die subverwerkers staan in de verwerkersovereenkomst of op de trustpagina van de aanbieder. Een voorbeeld uit onze index: Ivo noemt Fireworks AI zelf als een van zijn subverwerkers. Werk je met Harvey of een andere tool voor advocaten, vraag dan bij je leverancier na of je gegevens via Fireworks liepen. Gebruik je Cursor in softwareontwikkeling, vervang dan uit voorzorg sleutels die in je code of prompts stonden. Meer over Cursor en privacy lees je in de AVG-check van Cursor.
Businesses in ChatGPT: zien hoe vaak ChatGPT je noemt
OpenAI bracht op 10 november Businesses in ChatGPT uit als bèta. Volgens Trending Topics staat de Business Hub open voor bedrijven in alle landen waar ChatGPT beschikbaar is, ook in Europa. Je claimt daar je bedrijfsprofiel, past je gegevens aan en ziet hoe vaak ChatGPT je noemt, hoeveel klikken je website krijgt en bij welke onderwerpen je site wordt aangehaald. Bedrijven zien geen gesprekken zelf: de cijfers zijn samengevoegd en verschijnen pas vanaf een minimum aantal gesprekken.
De Business Agents, waarmee klanten binnen ChatGPT met jouw eigen AI-assistent praten, zijn voorlopig alleen voor webwinkels en online diensten in de VS. Bedrijven kunnen zo'n agent ook sponsoren als bestemming voor advertenties in ChatGPT. Die plaatsingen krijgen een label.
Wat betekent dit voor jou? Heb je een webwinkel of doe je marketing, dan kun je nu al je profiel claimen en zien hoe ChatGPT over je bedrijf praat. Controleer daarbij welke productgegevens je deelt. Hoe ChatGPT met gegevens omgaat in jouw vak lees je op de pagina van ChatGPT en in de AVG-check voor e-commerce. Wil je zelf al een AI-assistent voor je klanten, bekijk dan de opties voor e-commerce.
In brief
- Bij Fireworks AI zijn ook factuurgegevens, datasets en delen van modelgewichten buitgemaakt; Notion, Cursor en Harvey onderzoeken de gevolgen.
- Vervang sleutels en wachtwoorden die je in getroffen tools hebt gebruikt, en vraag je leverancier naar zijn subverwerkers.
- De Business Hub van ChatGPT is ook in Europa open; Business Agents alleen in de VS.
- All models and privacy scores can be found under models and safety.
