AI in schuldhulpverlening: wat mag wel en wat niet onder AVG en AI Act

Inleiding: waarom dit gesprek niet meer optioneel is

De afgelopen twee jaar is AI-gebruik in het sociaal domein van pilot naar praktijk verschoven. Gemeenten experimenteren met triage van vroegsignalen. Schuldhulp-organisaties testen AI-samenvattingen van klantgesprekken. Bewindvoerders krijgen AI-suggesties voor inkomensbeheer.

Tegelijk is het juridische landschap strenger geworden. De AVG was er al, maar sinds augustus 2024 is ook de AI-Verordening (AI Act) van kracht. De inwerkingtreding is gefaseerd, en de meeste verplichtingen gaan in 2026 daadwerkelijk tellen. Dit artikel zet op een rij wat er feitelijk mag, wat niet, en hoe een verantwoorde inzet van AI eruitziet voor mensen die met financiële kwetsbaarheid werken.

Geschreven voor schuldhulpverleners, bewindvoerders, beleidsmedewerkers gemeente, en bestuurders die snappen dat “niet doen” óók een keuze met gevolgen is.

Probleemverkenning: drie spanningen

1. Efficiëntie versus zorgvuldigheid

Schuldhulp en bewind zijn beroepen waar tijd schaars is en dossiers complex. AI belooft tijdwinst: samenvatten, schrijven, classificeren. Tegelijk gaat het om beslissingen die mensen direct raken: toegang tot hulp, beheer van geld, voortzetting van regelingen. Foute beslissingen kosten meer dan tijd.

2. Persoonsgegevens versus modelvoeding

Veel AI-tools zijn cloud-gebaseerd en getraind buiten Nederland. Persoonsgegevens van schulddossiers zijn doorgaans bijzonder gevoelig: een financiële situatie, vaak gecombineerd met gezondheidsgegevens of indicaties verstandelijke beperking. Onnadenkend kopiëren van dossierteksten in een publieke chatbot is een AVG-incident in wording.

3. Beslissingen versus ondersteuning

De AI Act maakt scherp onderscheid tussen AI die mensen ondersteunt en AI die zelfstandig beslissingen neemt of voorbereidt over toegang tot diensten. Dat tweede valt voor schuldhulp/sociale diensten al snel in de hoog-risicocategorie met zware verplichtingen.

Diepte: het juridische kader op tafel

AVG: zes grondslagen, drie hoofdregels

Onder de AVG mag persoonsgegevens-verwerking alleen plaatsvinden op één van zes grondslagen. Voor schuldhulp zijn relevant:

• Wettelijke verplichting (art. 6.1.c): bijvoorbeeld uitvoering Wgs door gemeente;
• Algemeen belang / taak van overheidshand (art. 6.1.e): gemeente, soms uitgevoerd door derden;
• Toestemming (art. 6.1.a): vaak gebruikt door particuliere coaches, maar in machtsongelijke relaties twijfelachtig (vrijwilligheid);
• Vitaal belang (art. 6.1.d): zelden toepasselijk in schuldhulp.

Drie hoofdregels die specifiek door AI worden geraakt:

1. Doelbinding. Gegevens verzameld voor schuldhulp mogen niet zomaar voor AI-training worden gebruikt.
2. Dataminimalisatie. Geef de AI alleen wat strikt nodig is voor de specifieke taak.
3. Recht op menselijke tussenkomst (art. 22 AVG) bij uitsluitend geautomatiseerde besluitvorming met aanzienlijke gevolgen.

AI Act: vier risicocategorieën

De AI Act classificeert AI-systemen in vier categorieën:

• Onaanvaardbaar risico (verboden): bijv. social scoring door overheden, AI die kwetsbaarheid uitbuit.
• Hoog risico: o.a. AI voor toegang tot essentiële publieke diensten, kredietwaardigheidsbeoordeling, sociale uitkeringen.
• Beperkt risico: chatbots, contentgeneratie, met transparantieverplichtingen.
• Minimaal risico: routine-AI zonder directe rechtsgevolgen.

Voor schuldhulp en gemeentelijke vroegsignalering vallen veel toepassingen in de hoog-risicocategorie. Dat brengt onder meer mee: verplichte risicobeoordeling, kwaliteitsmanagement, logging, menselijke supervisie, transparantie naar betrokkenen, en registratie in een Europees AI-register.

Wat mag wel: praktische scenarios

Een paar voorbeelden van AI-inzet die binnen de huidige kaders verantwoord uitvoerbaar zijn, mits goed ingericht:

Wel: AI-samenvatting van een eigen klantgesprek

Een schuldhulpverlener neemt, met toestemming van de klant, een gesprek op of typt aantekeningen, en laat een lokale of EU-gehoste AI een samenvatting maken. Voorwaarden:

• toestemming gedocumenteerd;
• verwerking op infrastructuur binnen EU met verwerkersovereenkomst;
• samenvatting wordt door de hulpverlener gelezen en gecorrigeerd vóór opslag;
• geen training van het model op de data van de klant.

Wel: AI-ondersteuning bij brief schrijven aan schuldeiser

Een coach typt een ruwe versie, AI stelt verbeteringen voor. Eindversie wordt door de coach geredigeerd. Klantgegevens worden geanonimiseerd voor de AI-stap als mogelijk.

Wel: AI voor wettelijke informatie opzoeken

“Wat is de actuele beslagvrije voet bij een eenoudergezin met twee kinderen?” Zo’n vraag stel je aan een AI die getraind is op Nederlandse wet- en regelgeving, met bronvermelding. Belangrijk: de AI antwoordt op feiten over de wet, niet over een specifieke klant.

Wel: triage-ondersteuning met menselijke supervisie

AI ordent inkomende vroegsignalen op risico-indicatoren. De definitieve beslissing over actie (huisbezoek, brief, niets) ligt bij een medewerker met toegang tot de onderliggende data. AI is hulpmiddel, geen beslisser.

Wat niet mag: rode lijnen

Niet: dossiers in een publieke chatbot plakken

ChatGPT, Claude, Gemini in hun publieke variant: persoonsgegevens daar invoeren is een onrechtmatige verwerking. Ook na “anonimiseren” blijft het risico hoog door re-identificatie. De data kan bovendien voor modeltraining worden gebruikt.

Niet: volledig geautomatiseerd beslissen over toegang tot hulp

Een AI-systeem dat zelfstandig bepaalt wie wel of geen schuldhulptraject krijgt, valt onder art. 22 AVG én AI Act hoog-risico. Niet doen zonder uitgebreid wettelijk én ethisch kader, en zelfs dan met verplichte menselijke tussenkomst per casus.

Niet: gezichts- of emotieherkenning bij intake

Verboden of streng gereguleerd onder de AI Act. Het verleidelijke “we zien aan de klant of die meent wat hij zegt” is precies wat de wetgever heeft willen uitsluiten.

Niet: AI inzetten zonder DPIA

Voor hoog-risico verwerkingen is een DPIA (Data Protection Impact Assessment) verplicht. Geen DPIA = geen rechtmatige verwerking, ongeacht hoe goed het systeem werkt.

Checklist: AI-inzet verantwoord inrichten

Vooraf

• Heldere usecase gedefinieerd: welke taak ondersteunt AI?
• Risicocategorie vastgesteld (AI Act)
• DPIA uitgevoerd waar nodig
• Grondslag AVG bepaald
• Bias-toets uitgevoerd op trainings-/inputdata waar relevant

Techniek

• Hosting binnen EU
• Verwerkersovereenkomst met AI-leverancier
• Geen modeltraining op klantdata
• Logging van AI-outputs en menselijke aanpassingen
• Mogelijkheid om AI-suggestie te overrulen zichtbaar in UI

Personeel

• Medewerkers getraind op verantwoord AI-gebruik
• Duidelijke richtlijn: wat wel, wat niet
• Klachtenroute bij twijfel
• Rol van menselijke supervisor expliciet belegd

Betrokkene (klant)

• Geïnformeerd over AI-inzet in dienstverlening
• Recht op menselijke beoordeling herkenbaar gemaakt
• Recht op inzage in eigen dossier inclusief AI-bijdragen

Wettelijk kader en bronnen

• AVG (Verordening 2016/679): grondslagen, doelbinding, recht op menselijke tussenkomst.
• AI Act (Verordening 2024/1689): risicoclassificatie en verplichtingen. Gefaseerd in werking 2024–2027.
• UAVG: Nederlandse uitvoeringswet AVG.
• Wgs: voor gemeentelijke verwerkingen onder wettelijke taak.
• Autoriteit Persoonsgegevens: handhavingspraktijk en richtsnoeren.
• Algoritmeregister Rijksoverheid: verplicht voor overheidstoepassingen die op individuen impact hebben.

Dit artikel is geen juridisch advies. Een juridisch deskundige met AVG- en AI Act-kennis is voor elke nieuwe AI-toepassing in het sociaal domein vrijwel altijd kosten-baten-positief.

Veelgestelde vragen

1. Mag ik ChatGPT gebruiken voor mijn klantnotities? Niet in de publieke versie met klantgegevens. Met een betaalde Enterprise/API-variant met opt-out van training en EU-hosting kan het, mits onderbouwd met DPIA en verwerkersovereenkomst.

2. Wat is een DPIA en wie maakt die? Een Data Protection Impact Assessment beschrijft risico’s van een verwerking voor betrokkenen en de mitigerende maatregelen. Vaak gemaakt door de DPO/FG of een privacy-jurist, in overleg met de eigenaar van het proces.

3. Geldt de AI Act ook voor kleine schuldhulp-organisaties? Ja. De Act maakt geen onderscheid naar bedrijfsomvang voor hoog-risicocategorie. Wel zijn er proportionele eisen voor kleinere aanbieders.

4. Mag een AI-systeem advies geven aan mijn klant rechtstreeks? Onder voorwaarden. Het mag geen autonome beslissingen nemen, moet transparant zijn (klant weet dat hij met AI praat), en kwetsbare doelgroepen vragen om extra waarborgen.

5. Wat als de AI iets verkeerd zegt over de wet? Verantwoordelijkheid blijft bij de professional. AI is hulpmiddel, geen autoriteit. Altijd controleren via primaire bron (wet, jurisprudentie, beleidsregel).

6. Mag de gemeente AI gebruiken voor triage vroegsignalering? Ja, met waarborgen. Triage-AI valt waarschijnlijk in hoog-risicocategorie. DPIA, registratie in algoritmeregister, menselijke supervisie en logging zijn dan verplicht.

7. Wat is “menselijke tussenkomst” precies? Een mens met bevoegdheid en informatie om de beslissing te beoordelen en aan te passen. Een mens die alleen op een knop drukt zonder werkelijke ruimte om af te wijken telt niet als tussenkomst onder AVG/AI Act.

8. Wie controleert dit allemaal? In Nederland: Autoriteit Persoonsgegevens voor AVG. Voor de AI Act komt er een nationale toezichthouder, vermoedelijk uitgebreid bij de AP en/of een nieuwe autoriteit [citeer-nodig: nationale uitvoeringswet AI Act].

9. Wat is het verschil tussen AI en algoritme in deze context? Niet alle algoritmes zijn AI; AI is een specifiek type, vooral lerende systemen (machine learning). Beide vallen onder AVG; AI Act geldt specifiek voor AI-systemen zoals gedefinieerd in art. 3 AI Act.

10. Wanneer kunnen schuldeisers AI inzetten tegen mijn klant? Schuldeisers gebruiken vaak al AI voor scoring en aanmaningen. Dat valt onder dezelfde AVG/AI Act-kaders. De Schuldeisersgedragscode (sinds 2024) bevat normen voor verantwoorde invordering, ook bij geautomatiseerde processen.

Volgende stap

Voor schuldhulp- en bewindspraktijken die AI verantwoord willen inzetten biedt het professionals-portaal een AVG-conform startpunt met logging en menselijke supervisie ingebouwd. Voor gemeenten gelden aanvullende eisen. Zie ook Wat is de Wgs.

Verwante lezing: Vroegsignalen schulden voor werkgevers (HR-context) en Mantelzorgers en de financiën van een naaste.