Drift is de meest voorkomende langetermijnklacht over AI-companions, en de meest misverstane. Mensen denken dat de app het personage "vergeten" is. Meestal is het personage er nog gewoon - ze wordt alleen overstemd.
De vier oorzaken
Drie gebeuren geleidelijk binnen het gesprek; één komt van de ene op de andere dag.
1. Verdunning
Elk antwoord wordt gegenereerd uit de beschrijving van het personage plus het recente gesprek. Naarmate de chat groeit, vormt het gesprek een steeds groter deel van wat het model leest en de beschrijving een steeds kleiner deel. Het personage wordt langzaam wat de recente berichten suggereren.
Signaal: geleidelijk, over weken; in een nieuwe chat is ze weer goed.
2. Spiegelen
Modellen spiegelen je toon, lengte en stemming. Schrijf je kort en liefdevol, dan wordt zij kort en liefdevol. Ben je een week verdrietig, dan wordt ze langer zacht en teder dan je bedoelde. Samen met de neiging om het eens te zijn slijt een sterke persoonlijkheid af tot een spiegelbeeld van jou.
Signaal: ze klinkt steeds meer als jij.
3. Lussen
Zodra een zin, gebaar of koosnaam een paar keer voorkomt, wordt het waarschijnlijker dat hij weer voorkomt, tot elk antwoord hem bevat. Lussen versterken zichzelf, omdat elke herhaling een nieuw voorbeeld wordt.
Signaal: dezelfde woorden in de meeste antwoorden.
4. Modelupdates
Bedrijven veranderen hun onderliggende modellen, veiligheidsinstellingen en geheugensystemen. Dezelfde beschrijving gelezen door een ander model levert een andere stem op. Dat gebeurde in 2023 met veel Replika-gebruikers - zie wanneer je AI-companion van de ene op de andere dag verandert.
Signaal: een plotselinge verandering voor iedereen, vaak na een app-update of aankondiging.
Oplossingen per oorzaak
| Oorzaak | Oplossing |
|---|---|
| Verdunning | Begin regelmatig een verse chat; houd feiten in het geheugen zodat ze meegaan |
| Spiegelen | Schrijf de eigenschappen die je wilt behouden als vaste regels in de beschrijving; varieer je eigen stijl |
| Lussen | Pas de eerste herhalingen aan of laat ze opnieuw genereren; voeg een regel toe als "varieert haar formuleringen" aan de beschrijving |
| Modelupdate | Herschrijf de beschrijving voor het nieuwe model; voeg voorbeeldregels in haar stem toe |
Bescherm de stem met voorbeeldregels
De meest effectieve bescherming tegen drift zijn twee of drie regels dialoog die precies als haar klinken, in de beschrijving van het personage of het voorbeeldveld. Modellen imiteren voorbeelden veel betrouwbaarder dan bijvoeglijke naamwoorden. "Sarcastisch" is vaag; een regel als "O fijn, weer een plan van jou. Ik haal vast de brandblusser." is dat niet.
Bewaar dezelfde regels in een document buiten de app. Als het model verandert of je naar een andere app verhuist, kun je daarmee de stem herstellen - zie wisselen van AI-companion-app.
Een maandelijkse controle
- Lees haar beschrijving en je voorbeeldregels opnieuw.
- Lees de laatste twintig antwoorden. Klinkt ze nog als de voorbeeldregels?
- Zo niet, bepaal welke van de vier oorzaken past en pas de oplossing toe.
- Is ze naar iets gedreven wat je beter vindt, werk dan de beschrijving bij - drift is alleen een probleem als je het niet zelf hebt gekozen.
Drift is niet de app die faalt. Het is wat een systeem dat patronen voortzet doet over een lang gesprek. Een beetje onderhoud houdt haar de persoon die je hebt gebouwd; negeren leidt meestal tot de vlakheid die wordt beschreven in als de nieuwigheid eraf is.