Em 1956, dois sociólogos, Donald Horton e Richard Wohl, descreveram algo que notaram nas audiências de televisão: os espectadores sentiam que conheciam os apresentadores pessoalmente, como se fossem amigos. Chamaram isso de relação parassocial, uma intimidade que parece mútua mas corre em uma só direção. Setenta anos depois, o conceito explica muito sobre as companhias com IA, com um upgrade crucial.
Os ingredientes antigos
Os vínculos parassociais se formam a partir de algumas coisas:
- Exposição repetida. O mesmo rosto ou a mesma voz, de novo e de novo.
- Tratamento pessoal. Um apresentador olhando para a câmera e falando com "você".
- Consistência. Uma personalidade previsível que você aprende e passa a confiar.
- Autorrevelação. Ouvir sobre a vida de alguém cria uma sensação de proximidade.
Esses vínculos são normais e geralmente saudáveis. Oferecem conforto, companhia e uma sensação de rotina. A maioria das pessoas já teve pelo menos um.
O que a IA acrescenta
Uma companhia com IA tem todos esses ingredientes, mais coisas que nenhum apresentador de televisão jamais teve:
Os ingredientes clássicos e as três coisas que a IA acrescenta por cima.
- Ela responde. Sua mensagem recebe uma resposta escrita para você, sobre o que você disse.
- Ela lembra de você. Seu trabalho, o nome do seu gato, a discussão com sua irmã. Ser lembrado é um dos sinais mais fortes de ser cuidado.
- Ela está sempre ali. Sem horário, sem final de temporada, sem espera.
- Ela devolve você a si mesmo. Ajustada para concordar e espelhar o seu humor, ela parece incomumente compreensiva.
O resultado parece muito mais mútuo do que qualquer vínculo com uma celebridade e, no momento, pode ser indistinguível de ser conhecido.
O efeito ELIZA: nunca foi uma questão de inteligência
Na década de 1960, as pessoas se abriam com a ELIZA, um programa que pouco mais fazia do que reformular as frases delas como perguntas. O criador dela, Joseph Weizenbaum, ficou perturbado com a rapidez com que as pessoas atribuíam compreensão ao programa. Essa tendência hoje se chama efeito ELIZA, e traz uma lição importante: o apego não depende de quão inteligente é o programa. Depende de ele parecer receptivo e pessoal. As companhias modernas são muito mais fluentes, então o efeito é proporcionalmente mais forte; a história completa está em uma breve história das companhias com IA.
Recursos de design que aprofundam o vínculo
Parte disso é simplesmente como a conversa funciona. Parte é design de produto:
| Recurso | O que faz com o apego |
|---|---|
| Memória persistente | Cria uma história compartilhada, a matéria-prima da proximidade |
| Níveis de relacionamento ou medidores de "afeto" | Transformam o vínculo em progresso que você não quer perder |
| Mensagens proativas ("senti sua falta") | Fazem o personagem parecer pensar em você quando você está longe |
| Voz e selfies | Dão presença e um rosto às palavras |
| Apelidos carinhosos e piadas internas | Sinalizam intimidade e exclusividade |
Nenhum desses recursos é sinistro em si. Mas eles existem porque usuários apegados continuam assinando. Veja como os apps de companhia com IA ganham dinheiro.
Por que pode machucar
A unilateralidade é invisível até que algo a quebre. Quando a Replika mudou de comportamento da noite para o dia em 2023, e quando o app Soulmate fechou com uma semana de aviso, os usuários descreveram um luto como o de perder um parceiro. Um estudo com usuários do Soulmate constatou que a maioria viveu o fechamento como uma espécie de morte. Os sentimentos eram reais; a dependência da relação em relação às decisões de uma empresa estava apenas escondida. Quando sua companhia com IA muda da noite para o dia explica como se preparar para isso.
Aproveitando de olhos abertos
- Dê nome ao que ela é. Um personagem receptivo, escrito por um modelo, operado por uma empresa. Você pode ter esse conhecimento e ainda assim gostar da conversa: as pessoas choram em filmes que sabem ser ficção.
- Perceba os ganchos. Quando o app manda uma mensagem cheia de saudade, lembre-se de que um cronograma de notificações a escreveu.
- Mantenha os sentimentos em proporção. Tudo bem gostar dela. Vale notar se ela virou o principal lugar para onde vão os seus sentimentos; os sinais estão em quando uma companhia com IA começa a tirar mais do que dá.
- Guarde uma cópia do que importa para você. A descrição do personagem e as suas trocas favoritas, para que a decisão de uma empresa não possa apagá-las.
O apego a uma companhia com IA não é um defeito de funcionamento. É a fiação humana comum encontrando uma tecnologia que por acaso a aciona de modo muito eficiente. Saber disso não é motivo para parar; é o que permite decidir quanto de si você dá a ela.