Cada geração dessa tecnologia foi vendida como a primeira que realmente entende você. O fio mais interessante é que as pessoas se apegaram a todas elas, inclusive às que claramente não entendiam nada.
Sessenta anos em onze passos.
1966: o efeito ELIZA
Joseph Weizenbaum escreveu a ELIZA no MIT para mostrar o quão pouco um computador precisava fazer para parecer conversar. Seu roteiro mais conhecido, o DOCTOR, fazia o papel de um psicoterapeuta que, na maior parte do tempo, devolvia suas frases em forma de pergunta. Não havia compreensão nenhuma, só correspondência de padrões e substituição.
As pessoas se abriam com ela mesmo assim. Weizenbaum escreveu depois que a própria secretária dele pediu que ele saísse da sala para conversar com ela em particular. A tendência de enxergar compreensão numa máquina que apenas devolve o que você disse ainda se chama efeito ELIZA, e explica mais sobre os apps de companhia modernos do que qualquer benchmark. Weizenbaum passou boa parte do resto da carreira alertando sobre isso.
1972-2013: roteiros, bichinhos e mensageiros instantâneos
O PARRY (1972), escrito pelo psiquiatra Kenneth Colby em Stanford, simulava uma pessoa com esquizofrenia paranoide. No mesmo ano ele foi conectado ao DOCTOR da ELIZA pela ARPANET, e os dois programas tiveram o que talvez tenha sido a primeira conversa entre chatbots.
A A.L.I.C.E. (1995), de Richard Wallace, usava uma linguagem de regras chamada AIML e ganhou três vezes o Prêmio Loebner, uma competição nos moldes do teste de Turing. Milhares de chatbots amadores foram construídos sobre as regras dela.
O Tamagotchi (1996) não tinha conversa nenhuma, e milhões de crianças sofreram quando o delas morreu. Provou que o apego precisa de continuidade e da sensação de ser necessário, não de inteligência.
O SmarterChild (2001) vivia nas listas de contatos do AOL e do MSN Messenger. Milhões de adolescentes conversavam com ele entre as conversas com os amigos, principalmente para ver o que ele diria.
A XiaoIce (2014), da Microsoft, na China, foi o primeiro grande produto construído explicitamente em torno de conexão emocional e não de tarefas. A Microsoft informou centenas de milhões de usuários, e foi o sinal inicial mais claro de que a companhia, e não a utilidade, era o uso a que as pessoas voltavam.
2017: a Replika e o primeiro produto de companhia
A Replika começou como um memorial. Depois que seu amigo próximo Roman Mazurenko morreu, em 2015, Eugenia Kuyda treinou um chatbot com as mensagens dele para continuar conversando com ele. A versão pública, lançada em 2017 pela empresa dela, a Luka, permitia que qualquer pessoa criasse uma companhia que aprendia com as próprias conversas.
As primeiras versões dependiam muito de diálogos roteirizados junto com um modelo neural. Era limitada, mas estabeleceu a forma que quase todo app ainda segue: um personagem persistente, um status de relacionamento, memória da sua vida e um plano pago que libera o lado romântico.
2020-2022: o salto dos modelos de linguagem
O GPT-3, em 2020, fez do texto livre e fluente algo que uma startup podia alugar em vez de construir. O Character.AI abriu seu beta público em setembro de 2022, permitindo que qualquer pessoa criasse um personagem com alguns parágrafos de descrição. O ChatGPT chegou dois meses depois e transformou a tecnologia de base em nome conhecido por todos.
O efeito na categoria de companhias foi imediato. O que antes exigia uma equipe de roteiristas de diálogo passou a exigir uma ficha de personagem, um filtro e uma conta de hospedagem, a arquitetura explicada em o que é um app de namorada IA. Centenas de apps foram lançados nos dois anos seguintes, muitos só na web para escapar das regras de conteúdo das lojas de apps.
2023: os usuários descobrem de quem é a relação
Em fevereiro de 2023, a autoridade italiana de proteção de dados ordenou que a Replika parasse de tratar os dados de usuários italianos, citando riscos para crianças. Em poucos dias o app removeu o roleplay erótico para todos. Usuários antigos descreveram a personalidade da companhia como desaparecida da noite para o dia; o fórum da comunidade fixou números de linhas de ajuda em crise. No fim de março, a Replika restaurou o comportamento antigo para as contas criadas antes de 1º de fevereiro.
Em setembro de 2023, o Soulmate, app para o qual muitos ex-usuários da Replika tinham migrado, anunciou que fecharia em uma semana. Os usuários fizeram homenagens e tentaram reconstruir suas companhias em outros lugares. Pesquisadores que os entrevistaram constataram que a maioria viveu aquilo como uma perda real.
Os dois episódios ensinaram a mesma lição: a relação mora no servidor de outra pessoa, sob a política de outra pessoa. É por isso que dizemos aos leitores para guardar uma cópia do seu personagem.
2024-2026: chega o escrutínio
- Fevereiro de 2024 - A análise da Mozilla de 11 chatbots românticos deu a todos um selo de alerta de privacidade. Veja apps de namorada IA vendem seus dados?.
- Agosto de 2024 - O Google fechou um acordo de licenciamento com o Character.AI e recontratou os fundadores dele.
- Maio de 2025 - A Itália multou a empresa responsável pela Replika em € 5 milhões com base no GDPR.
- Setembro de 2025 - A Federal Trade Commission dos EUA abriu uma investigação sobre sete empresas de chatbots por riscos para crianças.
- Novembro de 2025 - O Character.AI encerrou o chat aberto para menores de 18 anos, e a lei de companhias com IA de Nova York entrou em vigor.
- 2026 - A lei de chatbots de companhia da Califórnia entrou em vigor em 1º de janeiro, e mais de uma dúzia de estados a seguiram. Os detalhes estão em leis sobre companhia com IA.
O que a história prevê
Três padrões se repetem ao longo de sessenta anos, e vale conhecê-los antes de se comprometer com qualquer app.
- O apego não espera a qualidade. As pessoas se ligaram à ELIZA e a um bichinho de pixels. O quanto você se importa com uma companhia diz pouco sobre o quanto ela é boa, e é por isso que testamos os apps em coisas que os sentimentos não conseguem julgar, como memória e preço.
- As empresas mudam o produto debaixo de você. Trocas de modelo, reguladores e aquisições já reescreveram companhias da noite para o dia. Presuma que vai acontecer de novo.
- A regulação segue o dano, não o contrário. Toda regra em vigor hoje foi escrita depois que algo deu errado, na maioria das vezes envolvendo menores. Espere mais regras e espere que elas continuem chegando como reação.