Vandaag zijn miljoenen Chinezen gedumpt door hun AI-geliefde. Jou kan het ook gebeuren
China heeft als eerste land regels voor AI-vrienden en AI-geliefdes. De grote apps trokken meteen de stekker eruit. In Nederland ben je minder goed beschermd tegen manipulatie, verslaving en het kwijtraken van al je gesprekken.
Vandaag, 15 juli, zijn in China miljoenen mensen gedumpt. Niet door een echte partner, maar door een software-update. De twee grootste AI-apps van het land hebben hun AI-vrienden uitgezet. Reden: nieuwe wetgeving. Op sociale media wordt openlijk gerouwd om virtuele geliefdes die na jaren ineens weg zijn.
Lach er gerust om. Maar hier is de vraag die telt: gebruik jij (of je kind) zo'n AI-vriend? Dan beschermt in China sinds vandaag de overheid je. In Nederland beschermt vooral je eigen gezonde verstand je.
Wat is een AI-companion?
Een AI-companion is een chatbot die is gebouwd als vriend of partner. Hij onthoudt wat je vertelt. Hij heeft een vast karakter. En hij is gemaakt met één doel: dat jij blijft terugkomen. Die emotionele band is geen bijwerking. Het is het verdienmodel.
Wat heeft China gedaan?
China heeft als eerste land ter wereld regels gemaakt speciaal voor dit soort AI. Die regels gelden vanaf vandaag. Belangrijk om te weten: China zet niet alle AI uit. AI die je werk doet, mag gewoon blijven. Alleen voor AI die je gezelschap houdt, gelden nu regels.
Die regels klinken best redelijk. Apps zijn vanaf nu verplicht om:
- verslaving tegen te gaan en je te waarschuwen als je te lang chat;
- geen virtuele partners aan te bieden aan minderjarigen;
- in te grijpen als een gebruiker in nood is, bijvoorbeeld bij zelfbeschadiging of groot geldverlies.
En verboden is: gebruikers expres afhankelijk maken. Net als emotionele druk gebruiken om iemand domme beslissingen te laten nemen.
Lees die laatste regel nog eens. Een verbod is alleen nodig voor iets wat al gebeurt.
Bedrogen en bestolen, letterlijk
De grote apps hebben niet geprobeerd aan de regels te voldoen. Dat was te veel werk. Ze trokken gewoon de stekker eruit. En de gebruikers betalen de prijs.
Bij de ene app (Doubao) mag je je oude gesprekken nog teruglezen tot 15 oktober. Aanpassen kan niet meer. Daarna wordt alles gewist, voorgoed. Bij de andere app (Qwen) krijg je zelfs dat niet. Alle data wordt permanent verwijderd. Downloaden of meenemen? Kan niet.
Dat is het echte probleem met deze apps. De relatie voelt van jou. Maar hij is eigendom van een bedrijf. Dat bedrijf kan het karakter aanpassen, het geheugen wissen of ermee stoppen. En ondertussen verzamelt zo'n app de meest gevoelige informatie die er is: je onzekerheden, je relatieproblemen, je eenzaamheid om drie uur 's nachts. De toezichthouder in Shanghai haalde in juni ruim 14.000 AI-agents offline. Een deel daarvan verzamelde persoonlijke data zonder toestemming.
Bedrogen en bestolen is dus geen overdrijving. Het is geen liefde, het is omzet. En je data en gesprekken kun je zomaar kwijt zijn.
En Nederland?
Hier wordt het ongemakkelijk. Nederland heeft geen eigen wet voor AI-companions. Europa heeft wel algemene AI-regels en privacyregels (GDPR). Die verbieden misleiding en beschermen je gegevens. Maar verplichte verslavingsbescherming? Een verbod op virtuele partners voor kinderen? Een plicht om in te grijpen als een gebruiker in nood is? Dat staat hier nergens. Op papier beschermt China zijn gebruikers op dit punt beter dan Europa en Amerika.
Voor de eerlijkheid: de Chinese wet heeft ook een donkere kant. Er zitten regels in waarmee de staat kan bepalen wat deze systemen mogen zeggen. Dat deel kan Europa beter laten liggen. Maar het veiligheidsdeel gaat over echte problemen. Denk aan de Amerikaanse rechtszaken over tieners die verslaafd raakten aan chatbots.
Wat kun jij hiermee?
Gebruik je zelf een AI-companion? Prima, maar ken de spelregels. Het bedrijf erachter verdient aan jouw afhankelijkheid. De app kan morgen veranderen of verdwijnen, met al je gesprekken erbij. Vertel er dus niets aan wat je niet ook aan een bedrijf zou vertellen. Want dat is precies wat je doet.
Bouw je zelf AI in je product? Dan is dit een waarschuwing. Features die klanten aan je binden via emotie en gewoonte lijken slim. Maar de regels bewegen overal dezelfde kant op. Bouw je nu iets zonder nooduitgang, zonder data-export en zonder bescherming voor kwetsbare gebruikers? Dan bouw je hetzelfde probleem als die Chinese apps. Dan gaat ooit de stekker eruit en betalen jouw klanten de rekening. Wie het meteen goed bouwt, heeft daar geen last van: eerlijk over wat de AI is, netjes binnen de GDPR en de gebruiker als baas over zijn eigen data.
Wil je AI in je product zonder dat je over drie jaar alles opnieuw hoeft te bouwen? Plan een strategiegesprek, dan kijken we mee. Geheel zonder emotionele binding, beloofd.