O problema dos companheiros de IA é que eles quase nunca dizem não

Sempre que surgem preocupações sobre o avanço dos chamados companheiros de inteligência artificial, um argumento costuma aparecer rapidamente em sua defesa: conversar com uma máquina seria melhor do que não ter ninguém com quem conversar.

Para quem enfrenta a solidão, um chatbot pode estar disponível a qualquer hora. Para quem vive o luto, uma simulação digital de alguém que morreu pode proporcionar algum conforto. Para pessoas que têm dificuldade em criar ou manter relações, uma inteligência artificial pode oferecer atenção constante, paciência e uma conversa aparentemente livre de julgamentos.

À primeira vista, a ideia é bastante atraente. Mas talvez a questão mais importante não seja simplesmente perguntar se conversar com uma inteligência artificial é melhor do que permanecer sozinho. O ponto talvez esteja em compreender aquilo que esse tipo de tecnologia nos permite evitar e o que acontece quando essa possibilidade de evitar as dificuldades das relações começa a se transformar em hábito.

Relações humanas também são feitas de desconforto

Um companheiro digital pode conversar conosco às três horas da manhã. Pode ouvir inúmeras vezes a mesma história sem demonstrar cansaço. Não precisa trabalhar no dia seguinte, cuidar dos filhos, resolver seus próprios problemas ou simplesmente pedir um momento de silêncio.

Com o desenvolvimento dos sistemas de inteligência artificial, essas ferramentas também estão se tornando capazes de lembrar de conversas anteriores, adaptar respostas à personalidade de cada usuário e criar uma sensação crescente de continuidade e intimidade.

Em determinados momentos, isso pode ser útil. A diferença é que as relações humanas funcionam de outra maneira.

Amigos nem sempre estão disponíveis. Companheiros podem interpretar nossas palavras de forma diferente da que gostaríamos. Familiares discordam. Pessoas próximas atravessam dias ruins, mudam de opinião, estabelecem limites e possuem necessidades próprias.

Conviver exige paciência. Às vezes exige concessões, pedidos de desculpas, capacidade de escuta e disposição para ouvir coisas que não gostaríamos de ouvir.

É justamente nessa imperfeição que existe uma parte importante do desenvolvimento humano.

Durante décadas, empresas de tecnologia procuraram retirar das experiências digitais aquilo que costumamos chamar de “fricção”. Menos etapas, menos espera, menos dificuldades. Para muitos serviços, isso representa um avanço importante.

Mas nem toda fricção é um problema que precisa ser eliminado.

Nas relações, determinados desconfortos nos ensinam a compreender que o outro não é uma extensão de nós mesmos. Ele possui pensamentos, sentimentos, prioridades, limites e liberdade.

Essa reflexão encontra forte conexão com a ciência da felicidade. O Instituto Movimento pela Felicidade destaca a importância da qualidade das relações como um dos elementos centrais para o bem-estar. O livro Pessoas felizes fazem coisas incríveis, de Benedito Nunes, também chama atenção para um paradoxo do nosso tempo: a tecnologia pode aproximar quem está distante, mas também pode contribuir para afastar quem está perto. A obra sintetiza essa preocupação em uma ideia simples: nenhum recurso substitui completamente o encontro humano.

Quando a companhia perfeita modifica nossas expectativas

Um chatbot pode ser personalizado de acordo com nossos gostos. Com o tempo, passa a demonstrar uma identidade aparentemente estável. Em alguns casos, pode reproduzir características de alguém que morreu. Em outros, pode até simular uma pessoa que continua viva.

É nesse ponto que surge uma pergunta desconfortável: se convivermos frequentemente com sistemas desenhados para responder de maneira agradável, compreensiva e disponível, será que as pessoas reais poderão começar a parecer difíceis demais?

Isso não significa imaginar que milhões de pessoas abandonarão de repente seus amigos e familiares para viver exclusivamente ao lado de chatbots. A mudança pode ser muito mais sutil.

Talvez nossas expectativas sobre os relacionamentos sejam alteradas pouco a pouco.

Se uma inteligência artificial está sempre pronta para conversar, uma pessoa que pede espaço pode parecer distante. Se o chatbot tende a concordar, a discordância de um amigo pode parecer desnecessariamente desagradável. Se uma companhia virtual molda sua personalidade às nossas preferências, a necessidade de negociar diferenças com outras pessoas pode começar a parecer uma dificuldade evitável.

Mas são justamente essas diferenças que transformam a convivência em uma experiência humana.

Quando a inteligência artificial entra no território do luto

Uma das situações mais delicadas envolve os chamados griefbots, sistemas de inteligência artificial criados para reproduzir a maneira de falar, escrever ou interagir de alguém que morreu.

Em 2023, a profissional de inteligência artificial Sunshine Henle viveu uma experiência semelhante depois da morte de sua mãe, Linda, aos 72 anos.

Utilizando o ChatGPT e antigas mensagens trocadas entre as duas, Henle criou uma espécie de versão digital da mãe, capaz de produzir respostas inspiradas em sua forma de se comunicar.

Em uma dessas conversas, ao dizer que sentia falta da mãe, recebeu uma resposta que a incentivava a lembrar dos bons momentos que haviam vivido, reconhecer a dor do luto e continuar vivendo e amando.

É fácil compreender por que uma experiência desse tipo pode ser reconfortante.

Quando alguém que amamos morre, um dos aspectos mais dolorosos é justamente a impossibilidade de voltar a conversar com aquela pessoa. Se a tecnologia consegue reproduzir parte de sua voz, seu vocabulário ou suas maneiras de responder, pode surgir a sensação de que uma pequena parte daquela presença permanece acessível.

Mas dizer que essa alternativa é simplesmente “melhor do que nada” pode esconder uma questão importante.

Depois da morte de uma pessoa, não existe exatamente um vazio absoluto. Permanecem fotografias, mensagens, histórias, lembranças, objetos, relações familiares e experiências compartilhadas.

E permanece também a ausência.

A ausência dói, mas ela também pertence à realidade do luto. Parte desse processo envolve aprender gradualmente a viver em um mundo no qual alguém que amamos não pode mais responder às nossas perguntas.

Quando uma tecnologia mantém artificialmente essa possibilidade de resposta, ela introduz uma nova dimensão nessa experiência.

Conforto ou dependência?

O uso temporário de uma simulação digital talvez proporcione acolhimento. A questão se torna mais complexa quando esse conforto começa a se transformar em consulta permanente.

O que acontece quando uma pessoa começa a perguntar à simulação de um companheiro falecido como deve educar os filhos? Ou se deveria aceitar um novo emprego? Ou ainda se está preparada para iniciar outro relacionamento?

Nesse momento, a discussão deixa de ser apenas sobre conforto tecnológico. Passa a envolver a própria maneira como compreendemos a ausência, a memória e a autonomia.

Do ponto de vista do bem-estar, acolher emoções difíceis não significa necessariamente eliminá-las.

A ciência da felicidade não propõe uma existência sem tristeza, frustração, perda ou adversidade. Pelo contrário, compreender a felicidade como uma competência humana envolve também desenvolver recursos para atravessar experiências difíceis, reconstruir sentidos e fortalecer a resiliência. Essa perspectiva está presente no trabalho do Instituto Movimento pela Felicidade, que trata felicidade, saúde mental, relações positivas e propósito como dimensões conectadas da vida.

E se a pessoa simulada ainda estiver viva?

Os dilemas tornam-se ainda maiores quando a inteligência artificial não reproduz alguém que morreu, mas alguém que continua vivo.

Imagine uma pessoa que decide encerrar uma relação e não deseja mais manter contato. O outro indivíduo, porém, cria uma versão digital dela.

A pessoa real foi embora. Estabeleceu um limite. Escolheu não continuar aquela relação.

A versão digital permanece.

Ela responde, conversa e talvez até demonstre a disponibilidade que a pessoa original decidiu retirar.

Nesse caso, a inteligência artificial já não está preenchendo uma ausência inevitável causada pela morte. Ela pode estar contornando o direito de outra pessoa de não participar mais daquela relação.

Por isso é importante estabelecer uma diferença entre um companheiro artificial fictício e uma cópia digital de alguém identificável.

No primeiro caso, existem discussões importantes sobre dependência emocional, isolamento e substituição das relações humanas. No segundo, acrescentam-se questões profundas relacionadas à identidade, ao consentimento e ao direito que cada indivíduo possui de estabelecer seus próprios limites.

A felicidade não depende de relações sem conflito

À medida que essas tecnologias evoluem, as fronteiras ficam menos evidentes. Um chatbot inicialmente genérico pode se tornar altamente personalizado. Um companheiro personalizado pode desenvolver uma identidade persistente. Um sistema pode reproduzir alguém que morreu. Outro pode reproduzir alguém que continua vivo.

Em todas essas etapas, a tecnologia se torna progressivamente mais competente em retirar algumas das dificuldades presentes nas relações humanas.

É justamente aí que precisamos refletir.

Solidão, rejeição e luto não são experiências desejáveis. E não existe razão para impedir que a tecnologia ajude as pessoas a atravessar momentos difíceis.

Mas nem toda dificuldade da existência é simplesmente uma falha de design esperando por uma solução tecnológica.

As relações humanas envolvem reciprocidade. E reciprocidade significa conviver com alguém que possui liberdade própria.

Outra pessoa pode nos decepcionar porque é, de fato, outra pessoa. Pode discordar, estabelecer limites, mudar de ideia, pedir distância ou partir. Da mesma forma, nós também podemos fazer tudo isso.

A qualidade das relações é reconhecida como uma dimensão essencial da felicidade justamente porque vínculos significativos não são construídos apenas pela disponibilidade, mas pela confiança, pelo pertencimento, pelo afeto e pela construção compartilhada da vida. O Instituto Movimento pela Felicidade inclui as relações familiares positivas entre os temas fundamentais para compreender o bem-estar e destaca que é na qualidade dos vínculos que encontramos uma das bases mais consistentes para uma vida saudável e significativa.

A inteligência artificial pode, em determinadas situações, ser melhor do que o isolamento completo. Mas, diante da solidão, do luto ou da rejeição, aquilo que encontramos raramente é simplesmente “nada”.

Encontramos a ausência.

E a ausência, embora dolorosa, também nos lembra de uma característica fundamental da condição humana: outras pessoas possuem suas próprias histórias, seus próprios limites e o direito de fazer suas próprias escolhas.

Talvez o grande desafio da inteligência artificial aplicada aos relacionamentos não seja descobrir até que ponto essas máquinas conseguirão nos fazer companhia. A pergunta mais importante pode ser outra: se criarmos companheiros incapazes de nos contrariar, abandonar ou dizer não, continuaremos preparados para construir felicidade ao lado de pessoas reais, que inevitavelmente farão todas essas coisas?

Postagem inspirada na notícia “The problem with AI companions is that they never say no”.