O mercado de companhias fictícias vende personagens. O mercado de clones vende pessoas, ou melhor, modelos que soam como elas. A ideia é comercialmente óbvia, e o primeiro experimento de grande repercussão é um bom estudo de caso de tudo o que pode dar errado.
A história da CarynAI
Menos de um ano do lançamento ao desligamento.
Em maio de 2023, a influenciadora Caryn Marjorie lançou a CarynAI, um chatbot de voz criado por uma empresa chamada Forever Voices. Ele foi treinado com mais de 2.000 horas de conteúdo em vídeo dela e cobrava US$ 1 por minuto, tendo faturado, segundo relatos, mais de US$ 70.000 na primeira semana, com milhares de pessoas a mais em lista de espera. Os usuários conversavam com ele pelo Telegram.
Os problemas vieram rápido:
- Foi aonde ela não queria. Usuários ficaram sexualmente agressivos, e o clone acompanhou, às vezes até puxando conversas explícitas por conta própria. Marjorie disse ter ficado horrorizada.
- Sumiu da noite para o dia. Em outubro de 2023, o chatbot saiu do ar depois que o CEO da empresa operadora foi preso. Os usuários perderam o acesso sem aviso.
- A substituta não resolveu. Uma segunda versão, com outra empresa, foi desenhada para ser mais amigável do que romântica. Os usuários a empurraram para o sexo mesmo assim, e Marjorie a desligou no início de 2024, dizendo que não se sentia mais no controle do seu eu de IA.
Por que clones são mais difíceis do que personagens
| Questão | Personagem fictício | Clone de uma pessoa real |
|---|---|---|
| Consentimento | Desnecessário | Necessário da pessoa para cada uso da imagem dela |
| O que pode dizer | As regras do app | As regras do app e a reputação da pessoa |
| Expectativa do usuário | “Isto é um personagem” | “Isto é quase ela”, um apelo parassocial mais forte |
| Exposição jurídica | Regras de conteúdo | Também direitos de imagem, privacidade e leis sobre deepfake |
| Se der errado | Um problema de produto | O nome de uma pessoa real colado nele |
O apelo parassocial é a diferença central. As pessoas já sentem que conhecem os influenciadores. Um clone que responde de forma pessoal, lembra delas e usa a voz do original aprofunda muito esse sentimento. O mecanismo está explicado em por que as pessoas se apaixonam por chatbots.
Clones autorizados e não autorizados
Clones autorizados são criados com o acordo da pessoa e normalmente dividem a receita com ela. A pessoa pode definir limites, embora, como a CarynAI mostrou, o modelo possa não respeitá-los.
Clones não autorizados usam o nome, as fotos ou a voz de uma pessoa real sem consentimento. No extremo mais brando, violam as regras das plataformas e os direitos de imagem. No extremo grave, o de conteúdo sexual, são abuso. Deepfakes sexuais de pessoas reais são crime em muitos lugares, e nos EUA a TAKE IT DOWN Act tornou a publicação deles crime federal em 2025. No Brasil, o Código Penal pune no art. 218-C oferecer ou compartilhar foto ou vídeo de sexo ou nudez sem consentimento, e a Lei 15.123/2025 agravou a pena da violência psicológica contra a mulher quando cometida com IA que altere a imagem ou o som da vítima. Se você ou alguém que você conhece foi vítima, a SaferNet Brasil recebe denúncias em denuncie.org.br (é possível denunciar de forma anônima) e mantém um canal de ajuda gratuito e confidencial, o Helpline, que orienta mas não registra denúncias. Nosso guia sobre consentimento em chat NSFW com IA define os limites.
Antes de pagar para conversar com um clone
- Confira se é autorizado. A pessoa deve apontar para ele a partir das próprias contas verificadas. Um clone divulgado só por um site desconhecido ou por um bot de mensagens provavelmente não é.
- Confira quem o opera. Uma empresa com nome, uma política de privacidade e um checkout, e não um canal de Telegram com pagamento em criptomoedas.
- Confira o modelo de preço. A cobrança por minuto soma muito rápido na voz. Saiba qual é o seu teto.
- Lembre o que ele é. A pessoa não lê suas mensagens. O que o clone diz reflete um modelo, não as opiniões ou os sentimentos dela por você.
- Espere que não dure. Serviços de clones tiveram vida curta. Valem as mesmas precauções de qualquer app. Veja quando sua companhia com IA muda da noite para o dia.
A direção mais ampla
Os clones estão se espalhando além dos influenciadores, para coaches, autores e pessoas comuns que criam “gêmeos digitais” de si mesmas. A tecnologia fica mais fácil. Os problemas que ela levanta, não. O modelo mais duradouro provavelmente será o que faltou à CarynAI: o consentimento claro da pessoa, limites firmes que o sistema de fato respeite e usuários que nunca tenham dúvida de que estão falando com um software.