De markt voor verzonnen companions verkoopt personages. De kloonmarkt verkoopt mensen - of eigenlijk modellen die klinken als zij. Het idee is commercieel vanzelfsprekend, en het eerste opvallende experiment is een nuttige casus over alles wat mis kan gaan.
Het verhaal van CarynAI
Minder dan een jaar van lancering tot stopzetting.
In mei 2023 lanceerde influencer Caryn Marjorie CarynAI, een spraakchatbot gebouwd door een bedrijf met de naam Forever Voices. Hij was getraind op meer dan 2.000 uur van haar videocontent en rekende gebruikers 1 US$ per minuut, en verdiende naar verluidt in de eerste week meer dan 70.000 US$, met duizenden anderen op een wachtlijst. Gebruikers spraken ermee via Telegram.
Problemen volgden snel:
- Hij ging waar zij niet wilde. Gebruikers werden seksueel agressief en de kloon ging daarin mee - en begon soms zelf expliciete gesprekken. Marjorie zei dat ze ontzet was.
- Hij verdween van de ene op de andere dag. In oktober 2023 ging de chatbot offline nadat de CEO van het exploiterende bedrijf was gearresteerd; gebruikers verloren zonder waarschuwing toegang.
- De opvolger loste het niet op. Een tweede versie met een ander bedrijf was ontworpen om eerder vriendelijk dan romantisch te zijn. Gebruikers duwden hem toch richting seks, en Marjorie zette hem begin 2024 stop, omdat ze zei geen controle meer te voelen over haar AI-zelf.
Waarom klonen lastiger zijn dan personages
| Kwestie | Verzonnen personage | Kloon van een echt persoon |
|---|---|---|
| Toestemming | Niet nodig | Nodig van de persoon voor elk gebruik van hun gelijkenis |
| Wat het mag zeggen | De regels van de app | De regels van de app en de reputatie van de persoon |
| Verwachtingen van gebruikers | "Dit is een personage" | "Dit is bijna hij of zij" - een sterkere parasociale aantrekking |
| Juridische blootstelling | Contentregels | Ook portret-, privacy- en deepfakewetten |
| Als het misgaat | Een productprobleem | De naam van een echt persoon eraan verbonden |
De parasociale aantrekking is het sleutelverschil. Mensen hebben al het gevoel influencers te kennen; een kloon die persoonlijk antwoordt, hen onthoudt en de stem van de persoon gebruikt, versterkt dat gevoel enorm - het mechanisme staat uitgelegd in waarom mensen vallen voor chatbots.
Geautoriseerde en ongeautoriseerde klonen
Geautoriseerde klonen worden gemaakt met instemming van de persoon en delen meestal de omzet met hem of haar. De persoon kan grenzen stellen, al kan het model zich, zoals CarynAI liet zien, er niet aan houden.
Ongeautoriseerde klonen gebruiken de naam, foto's of stem van een echt persoon zonder toestemming. Aan de milde kant overtreden ze platformregels en portretrechten. Aan de ernstige kant - seksuele content - zijn ze misbruik. Seksuele deepfakes van echte mensen zijn op veel plaatsen strafbaar, in de VS maakte de TAKE IT DOWN Act het publiceren ervan in 2025 tot een federaal misdrijf, en in Nederland is het zonder toestemming verspreiden van seksueel beeldmateriaal strafbaar. Is dit jou overkomen, dan helpt Offlimits gratis en anoniem (020-2615275, chat via chathulplijn.offlimits.nl), onder meer bij het laten verwijderen van beelden en het voorbereiden van aangifte bij de politie. Onze gids over toestemming in NSFW-AI-chat zet de grenzen uiteen.
Voordat je betaalt om met een kloon te chatten
- Controleer of hij geautoriseerd is. De persoon hoort ernaar te linken vanaf zijn of haar eigen geverifieerde accounts. Een kloon die alleen wordt gepromoot door een onbekende site of een messenger-bot is dat waarschijnlijk niet.
- Controleer wie hem exploiteert. Een bedrijf met naam, een privacybeleid en een afrekenpagina - geen Telegram-kanaal en cryptobetalingen.
- Controleer het prijsmodel. Facturering per minuut loopt bij spraak razendsnel op; ken je maximum.
- Onthoud wat het is. De persoon leest je berichten niet. Wat de kloon zegt, weerspiegelt een model, niet de opvattingen of gevoelens van de persoon over jou.
- Verwacht dat het niet blijft. Kloondiensten zijn kortlevend geweest. Dezelfde voorzorgen als bij elke app gelden - zie als je AI-companion van de ene op de andere dag verandert.
De bredere richting
Klonen verspreiden zich voorbij influencers - naar coaches, auteurs en gewone mensen die "digitale tweelingen" van zichzelf maken. De technologie wordt makkelijker; de problemen die ze oproept niet. Het meest duurzame model is waarschijnlijk datgene wat CarynAI miste: de duidelijke toestemming van de persoon, strikte grenzen die het systeem ook echt aanhoudt en gebruikers die er nooit aan twijfelen dat ze met software praten.