AI en de AVG: waar blijven de gegevens van uw bedrijf?

Een AI-toepassing die persoonsgegevens verwerkt, valt onder de AVG, net als uw boekhouding of uw CRM. De vraag bij AI en de AVG is dus wie welke gegevens waar verwerkt, en wat daarover op papier staat. U blijft verantwoordelijk, ook als een leverancier het werk doet.

AI en de AVG: welke gegevens verwerkt een AI-toepassing?

Persoonsgegevens zijn alle gegevens over een geïdentificeerde of identificeerbare natuurlijke persoon (artikel 4, punt 1, AVG): een naam onder een mail, een telefoonnummer op een werkbon, het IBAN van een zzp'er op een factuur. Verwerken is vrijwel alles wat u ermee doet, van raadplegen en opslaan tot doorsturen en wissen (artikel 4, punt 2). Een AI die een inkomende mail alleen leest om hem in te delen, verwerkt dus doorgaans al persoonsgegevens.

In een AI-toepassing komen gegevens op drie plekken terecht:

• de invoer: mails, bijlagen, formulieren en documenten die het systeem leest;
• de uitvoer: samenvattingen, conceptantwoorden en ingevulde velden;
• wat blijft staan: logbestanden, gespreksgeschiedenis en tussenresultaten, bij u of bij de leverancier.

De AVG vraagt dat u niet meer gegevens verwerkt dan nodig is voor het doel (artikel 5, lid 1, onder c). Vergeet die derde categorie niet. Zie ook AI implementeren in uw bedrijf.

Opslag en verwerking: waar staan de gegevens, en waar draait de AI?

Juridisch is opslaan ook verwerken; in de praktijk zijn het twee vragen. Waar worden de gegevens opgeslagen? En waar worden ze verwerkt: op welke servers draait het AI-model dat ze leest? Uw documenten kunnen in Nederland staan, terwijl elke vraag aan het model naar een datacenter elders gaat.

Veel bekende AI-diensten zijn Amerikaans. Kiest u daarvoor, dan verwerkt een Amerikaanse partij uw gegevens. Het alternatief: gegevens kunnen in Europa worden opgeslagen én verwerkt, bijvoorbeeld op servers in Finland en Frankrijk, door AI-modellen die daar ook draaien. Dan blijven ze onder Europese privacyregels.

Verwerkingsverantwoordelijke en verwerker: wie is waarvoor aanspreekbaar?

De verwerkingsverantwoordelijke bepaalt waarvoor en hoe persoonsgegevens worden verwerkt (artikel 4, punt 7). De verwerker verwerkt ze in opdracht van die verantwoordelijke (artikel 4, punt 8). Laat u een AI-toepassing bouwen voor uw eigen processen, dan bent u doorgaans verwerkingsverantwoordelijke en is de bouwer of beheerder verwerker. Zo werkt het ook bij Operium.

Gebruikt een leverancier uw gegevens ook voor eigen doeleinden, zoals het verbeteren van zijn eigen product? Dan is hij voor dat deel geen verwerker meer en geldt hij zelf als verwerkingsverantwoordelijke (artikel 28, lid 10). Vraag dus na of uw invoer wordt bewaard of hergebruikt.

In augustus 2024 waarschuwde de Autoriteit Persoonsgegevens (AP) na meerdere gemelde datalekken: medewerkers hadden gegevens van klanten of patiënten in een AI-chatbot gezet. De meeste bedrijven achter chatbots slaan alle ingevoerde gegevens op, schrijft de AP. Voert een medewerker tegen de afspraken in persoonsgegevens in, dan is dat volgens de AP een datalek, dat u in veel gevallen moet melden. Leg dus vast welke AI-diensten medewerkers mogen gebruiken, en met welke gegevens.

Wat regelt een verwerkersovereenkomst bij AI?

Werkt u met een verwerker, dan is een schriftelijke verwerkersovereenkomst verplicht (artikel 28, leden 3 en 9). Ontbreekt die, dan zijn volgens de AP beide partijen in overtreding. Bij AI verdienen deze onderdelen extra aandacht:

Onderdeel volgens artikel 28	Waar u bij AI op let
Onderwerp, duur, aard en doel; soort gegevens en betrokkenen	Welke processen, mailboxen en mappen het systeem leest
Verwerken alleen op uw schriftelijke instructie	Geen gebruik van uw invoer voor andere doeleinden
Subverwerkers alleen met uw toestemming	Wie het AI-model levert en waar dat draait
Beveiliging (artikel 32)	Wie toegang heeft tot logbestanden en gespreksgeschiedenis
Bijstand bij datalekken en rechten van betrokkenen	Hoe snel de verwerker u informeert
Wissen of teruggeven na afloop	Ook kopieën, logbestanden en tussenresultaten

Welke vragen u een leverancier vooraf stelt, staat in een AI-bureau kiezen.

Doorgifte buiten de EU: waarom dat aandacht vraagt

Persoonsgegevens mogen alleen naar een land buiten de Europese Economische Ruimte (EER) onder de voorwaarden van hoofdstuk V van de AVG (artikel 44). Dat kan onder meer met een adequaatheidsbesluit van de Europese Commissie (artikel 45) of met passende waarborgen, zoals haar standaardcontractbepalingen (artikel 46), zo nodig met extra maatregelen zoals versleuteling.

Voor de VS geldt sinds 10 juli 2023 het EU-VS Data Privacy Framework (Uitvoeringsbesluit (EU) 2023/1795). Dat dekt alleen Amerikaanse organisaties die meedoen, en volgens de AP niet automatisch elk product van zo'n organisatie. De voorganger, het Privacy Shield, verklaarde het Hof van Justitie in 2020 ongeldig (zaak C-311/18, Schrems II). En in augustus 2024 legde de AP Uber een boete op van 290 miljoen euro, omdat gegevens van chauffeurs zonder passende waarborgen naar de VS gingen.

Blijven opslag, verwerking en subverwerkers binnen de EER, dan komt u aan deze toets niet toe.

Hoe lang bewaart een AI-systeem uw gegevens?

De AVG noemt geen vaste bewaartermijn: gegevens mogen niet langer herleidbaar worden bewaard dan nodig is voor het doel (artikel 5, lid 1, onder e). Volgens de AP bepaalt u de termijn zelf, legt u de onderbouwing vast en houdt u hem zo kort mogelijk. Andere wetten kunnen een minimum opleggen: voor uw administratie geldt de fiscale bewaarplicht van zeven jaar (artikel 52, lid 4, Algemene wet inzake rijksbelastingen).

De factuur die het systeem inleest en boekt, hoort bij uw administratie en valt in de regel onder die zeven jaar. Voor sommige gegevens geldt een langere termijn, zoals voor gegevens over onroerende zaken (artikel 34a Wet op de omzetbelasting 1968). Logbestanden en tussenresultaten van het systeem zelf vallen daar niet vanzelf onder. Geef die een eigen, korte termijn en laat het systeem ze daarna automatisch verwijderen.

Rechten van betrokkenen gelden ook in een AI-systeem

Klanten en medewerkers houden hun rechten, onder meer op inzage (artikel 15), rectificatie (16), wissing (17) en bezwaar (21). U reageert binnen een maand; bij complexe of veel verzoeken mag u met twee maanden verlengen, als u dat binnen die eerste maand meldt (artikel 12, lid 3). De verwerkersovereenkomst verplicht de verwerker u daarbij te helpen (artikel 28, lid 3, onder e).

In een AI-toepassing moet u dus kunnen terugvinden wat het systeem over één persoon heeft vastgelegd, en dat kunnen corrigeren of wissen.

Voor besluiten die uitsluitend geautomatiseerd worden genomen, geldt daarnaast artikel 22. Hoe u de mens daarbij aan het roer houdt, leest u in human in the loop.

De AI-verordening wordt gefaseerd van toepassing

Naast de AVG geldt de AI-verordening, Verordening (EU) 2024/1689. Die laat de AVG onverlet (artikel 2, lid 7): voor persoonsgegevens gelden beide. Ze trad op 1 augustus 2024 in werking; de Digitale omnibus inzake AI (Verordening (EU) 2026/1744 van 8 juli 2026) verschoof een deel van de data. De stand nu:

• 2 februari 2025: verboden AI-praktijken en de regels over AI-geletterdheid (enkele later toegevoegde verboden gelden vanaf 2 december 2026);
• 2 augustus 2025: regels voor aanbieders van AI-modellen voor algemene doeleinden;
• 2 augustus 2026: de algemene toepassingsdatum, met onder meer de transparantieplichten;
• 2 december 2027: eisen voor AI-systemen met een hoog risico uit bijlage III, zoals systemen voor werving en selectie;
• 2 augustus 2028: eisen voor AI met een hoog risico in producten onder bijlage I.

Een toepassing die facturen inleest of conceptmails schrijft, staat niet in bijlage III.

Dit artikel legt de AVG en de AI-verordening uit; het is geen juridisch advies voor uw situatie.

Eerst in kaart, dan bouwen

In de gratis QuickScan kijken we in twee werkdagen op hoofdlijnen naar uw processen, ook naar welke gegevens erin omgaan en waar die zouden staan en draaien. Wat we daarna met uw gegevens doen, leggen we vooraf vast in een verwerkersovereenkomst. Plan een QuickScan of een gesprek.