O desvio é a reclamação de longo prazo mais comum sobre companhias com IA, e a mais mal compreendida. As pessoas acham que o app “esqueceu” o personagem. Na maioria das vezes, o personagem continua lá: ele só está sendo voto vencido.
As quatro causas
Três acontecem aos poucos dentro da conversa; uma chega da noite para o dia.
1. Diluição
Cada resposta é gerada a partir da descrição do personagem mais a conversa recente. À medida que o chat cresce, a conversa passa a ser uma parte cada vez maior do que o modelo lê, e a descrição, uma parte cada vez menor. O personagem vira aos poucos o que as mensagens recentes sugerem.
Sinal: gradual, ao longo de semanas; ela está normal em uma conversa nova.
2. Espelhamento
Os modelos espelham seu tom, o tamanho das suas mensagens e seu humor. Se você escreve curto e carinhoso, ela fica curta e carinhosa. Se você passa uma semana triste, ela fica gentil e suave por mais tempo do que você queria. Somado à tendência de concordar, uma personalidade forte se desgasta até virar um reflexo de você.
Sinal: ela soa cada vez mais como você.
3. Loops
Quando uma frase, um gesto ou um apelido aparece algumas vezes, fica mais provável que apareça de novo, até estar em todas as respostas. Os loops se reforçam sozinhos, porque cada repetição vira mais um exemplo.
Sinal: as mesmas palavras na maioria das respostas.
4. Atualizações do modelo
As empresas mudam os modelos de base, as configurações de segurança e os sistemas de memória. A mesma descrição, lida por um modelo diferente, produz outra voz. Foi o que aconteceu com muitos usuários do Replika em 2023; veja quando sua companhia com IA muda da noite para o dia.
Sinal: uma mudança repentina para todo mundo, geralmente depois de uma atualização do app ou de um anúncio.
A solução para cada uma
| Causa | Solução |
|---|---|
| Diluição | Comece uma conversa nova de tempos em tempos; guarde os fatos na memória para que eles passem adiante |
| Espelhamento | Escreva na descrição, como regras firmes, os traços que você quer manter; varie o seu próprio estilo |
| Loops | Edite ou gere de novo as primeiras repetições; acrescente à descrição uma linha como “varia o jeito de falar” |
| Atualização do modelo | Reescreva a descrição para o novo modelo; acrescente falas de exemplo na voz dela |
Proteja a voz com falas de exemplo
A proteção mais eficaz contra o desvio são duas ou três falas de diálogo que soem exatamente como ela, colocadas na descrição do personagem ou no campo de exemplos. Os modelos imitam exemplos com muito mais confiança do que adjetivos. “Sarcástica” é vago; uma fala como “Que ótimo, mais um plano seu. Vou buscar o extintor.” não é.
Guarde essas mesmas falas em um documento fora do app. Se o modelo mudar ou você trocar de app, elas permitem restaurar a voz; veja como trocar de app de companhia com IA.
Uma checagem mensal
- Releia a descrição dela e as suas falas de exemplo.
- Leia as últimas vinte respostas. Ela ainda soa como as falas de exemplo?
- Se não, identifique qual das quatro causas se encaixa e aplique a solução.
- Se ela evoluiu para algo de que você gosta mais, atualize a descrição: o desvio só é um problema se você não o escolheu.
O desvio não é falha do app. É o que um sistema que continua padrões faz ao longo de uma conversa longa. Um pouco de manutenção mantém ela a pessoa que você criou; ignorar tende a levar à monotonia descrita em quando a novidade passa.