Wat AI-gegenereerde content betekent voor het sociaal domein

De afgelopen maanden krijg ik bij gemeenten steeds dezelfde vraag, alleen in andere bewoordingen: “Moeten wij hier iets mee?” Met “hier” bedoelen ze dan ChatGPT, of die nepnaaktfoto’s die op een school rondgingen, of de oudere inwoner die geld overmaakte na een telefoontje met de gekloonde stem van haar zoon, of de man die zegt dat z’n beste gesprekspartner een chatbot is.

Het korte antwoord is ja. Het langere antwoord is: niet met paniek, en ook niet met een nieuw programma. Wel met een paar gerichte keuzes. Daar gaat dit stuk over.

Wat er nu echt speelt

AI-gegenereerde content is geen toekomstmuziek meer in de leefwereld van je inwoners. Het is dagelijkse kost, en het raakt niet één doelgroep maar de hele breedte van het sociaal domein. Drie dingen vallen me op in de praktijk.

Beeld en stem die niet kloppen, maar wel echt voelen. Met een gratis app maak je in twintig seconden een nepnaaktfoto van iemand, of kloon je een stem voor een belletje. Dat raakt jongeren op school, maar net zo goed ouderen die worden opgelicht met de stem van een kleinkind, of inwoners van wie een gemanipuleerd filmpje rondgaat. Het pijnlijke is dat mensen iets overkomt wat nooit echt gebeurd is, terwijl veel professionals niet weten hoe ze moeten reageren. Soms wordt onbedoeld het slachtoffer aangekeken in plaats van de maker.

Chatbots als gesprekspartner. Een groeiende groep mensen praat met AI over dingen die ze niet aan een mens vertellen: eenzaamheid, somberheid, schaamte. En dit is geen randverschijnsel meer, in geen enkele leeftijdsgroep. Uit onderzoek rond digitalisering en welzijn blijkt dat ongeveer 20 procent van de jongeren tussen 12 en 17 jaar AI-chatbots gebruikt, en in een peiling van 3Vraagt (EenVandaag) geeft 1 op de 10 mensen van 16 tot 34 jaar aan AI al eens te hebben ingezet om over mentale klachten te praten. Dat is niet per definitie slecht. Maar een chatbot signaleert geen crisis, verwijst niet door en houdt iemand soms juist weg bij echte hulp. De drempel is laag, het vangnet ontbreekt.

Desinformatie die op maat gemaakt is. Nepberichten en gemanipuleerde beelden verspreiden zich het snelst in groepsapps, precies waar gemeenten en professionals geen zicht hebben. Mensen zien niet het nieuws, ze zien wat hun netwerk doorstuurt. Dat raakt het vertrouwen in instanties, in zorg, in de gemeente zelf, en het treft kwetsbare inwoners het hardst.

En tegelijk biedt diezelfde technologie kansen, iets wat ik te weinig terughoor. Een AI-tool kan ingewikkelde informatie over schulden, zorg of rechten omzetten in begrijpelijke taal voor mensen die moeite hebben met taal, regels of digitale informatie. Dat is precies de laagdrempeligheid waar we het in het sociaal domein al jaren over hebben.

Waarom dit beleid raakt

Het verleidelijke is om dit weg te zetten als digitaal en het bij één ambtenaar of de ICT-afdeling te parkeren. Maar het gaat niet over techniek. Het gaat over veiligheid, welzijn en weerbaarheid van je inwoners, kernthema’s van elk sociaal domein.

Een deepfake of een gekloonde stem is een veiligheidskwestie en hoort thuis in de veiligheidsketen. Iemand die wegzakt in gesprekken met een bot is een welzijnsvraag. Digitale weerbaarheid is allang geen losse les of campagne meer, maar een basisvaardigheid om mee te draaien in de samenleving. De technologie verandert snel, de onderliggende vragen niet.

Drie aanpassingen die u deze maand kunt doen

Geen meerjarenplan nodig. Drie dingen die concreet en haalbaar zijn.

1. Update uw incidentprotocol op AI-beeld en -stem. Loop met scholen, sociaal werk en uw loketten na: weet een professional wat te doen als er nepbeeld van een inwoner opduikt, of als iemand is opgelicht met een gekloonde stem? Waar wordt het gemeld, wie steunt het slachtoffer, en is duidelijk dat de schuld bij de maker ligt? Vaak bestaat het protocol wel, maar staat AI-gegenereerd materiaal er niet in. Eén alinea toevoegen kost een middag en voorkomt dat professionals straks improviseren op het ergste moment.
2. Maak AI onderdeel van het gewone gesprek, niet van een apart project. U heeft geen nieuw programma nodig. U heeft sociaal werkers, consulenten en wijkteams nodig die durven vragen: met wie praat je eigenlijk online, en heb je weleens iets gezien waarvan je niet wist of het echt was? Een korte werksessie waarin u uw professionals daarin meeneemt, doet meer dan een dure campagne. Zij zitten al aan tafel bij de inwoners.
3. Zet uw eigen AI-gebruik op orde, met transparantie en een privacycheck. Veel gemeenten experimenteren zelf al met AI in hun communicatie en dienstverlening. Prima, maar leg twee dingen vast voordat u live gaat: label AI-gegenereerde content als zodanig, en doe een privacycheck voordat u een chatbot inzet die met inwoners praat. U kunt inwoners niet vragen kritisch te zijn op AI als u zelf onzichtbaar AI gebruikt. Het goede voorbeeld is hier beleid op zich.

Tot slot

Veel gemeenten voelen dat AI iets vraagt van hun organisatie, maar missen nog de kennis om goed in te schatten wat de risico’s en kansen zijn voor inwoners. Daardoor ontstaat soms twijfel tussen afwachten en handelen. De uitdaging is om die kennis snel op te bouwen, zodat gemeenten inwoners beter kunnen beschermen én ondersteunen.

U hoeft hier geen techneut voor te zijn. U moet alleen de vraag durven stellen wat dit betekent voor de mensen in uw gemeente, en uw professionals het mandaat en de kennis geven om te handelen.