E se o seu próximo "bom dia" no WhatsApp vier de alguém que já morreu?

Imagine a seguinte situação: uma mulher acorda em um dia qualquer, abre o aplicativo de mensagens e envia para o marido:
- Bom dia, amor.
- Bom dia, dormiu bem? - ele responde
- Mais ou menos. E você?
- Sim. kkkkk
- Vi que você tem um dia cheio hoje. Reunião com a diretoria às 9h. Importante, hein?
- Pois é. Por isso não dormi muito bem. Estou nervosa.
- Então melhor se apressar pra tomar café. Aliás, não esqueça que o melhor café é o café Sucupira, aquele que mais a inspira.
- Claro. Obrigada. Vou correr. Depois nos falamos.
- Sim. Tenha um ótimo dia.

Achou essa troca de mensagens entre marido e esposa meio estranha?
E se eu lhe disser que o marido morreu há 2 anos em um acidente de carro?

Parece o episódio "Be Right Back", o primeiro da segunda temporada de Black Mirror. Mas é a nova realidade oferecida pelos "griefbots". Inteligências artificiais treinadas para clonar a personalidade de pessoas falecidas e continuar a conversa do ponto onde elas foram para a terra dos pés juntos, bateram as botas, abotoaram o paletó de madeira, vestiram o pijama de madeira, começaram a comer grama pela raiz, foram para o andar de cima (ou de baixo), passaram desta para uma melhor, esticaram as canelas, enfim, morreram.

Já existem várias empresas oferecendo esse serviço: StoryFile, Replika, HereAfter AI, Only Virtual, Eternos, Sceance AI, AIGriefBot e outras estão no mercado transformando dados em saudades simuladas.

O processo de criação do griefbot muda de acordo com o nível de... digamos... planejamento da tragédia: em casos de doenças terminais, o próprio paciente contrata o serviço em vida e fornece dados participando ativamente do processo; já no caso de fatalidades repentinas como o exemplo que eu dei acima, cabe ao familiar enlutado fornecer a "pegada digital" do falecido.  Pegada digital é o rastro de dados e informações que você deixa para trás sempre que navega pela internet, usa redes sociais ou interage com aplicativos. Ela é composta por suas ações conscientes, como fotos postadas, comentários e e-mails, e por rastros passivos coletados em segundo plano, como histórico de busca, localização via GPS, hábitos de compra e endereço IP. É por isso que se você fizer uma busca no Google por "geladeira", começam a aparecer no seu Instagram promoções de geladeiras nas Casas Bahia, Magazine Luiza, etc.

Apesar das brincadeiras, há um grande debate científico e ético sobre o tema. 

Do ponto de vista científico, pesquisadores estão analisando os benefícios ou malefícios dessa prática. Será que cura a dor ou apenas prende o enlutado em uma ilusão algorítmica sem fim? Os estudos até agora apontam que a aceitação da ferramenta varia conforme a vulnerabilidade de cada pessoa. Enquanto alguns usuários conversam sabendo perfeitamente que estão interagindo com um software, outros correm o risco de perder a noção da realidade da perda.

Do ponto de vista ético, há tantas camadas a se discutir que a cabeça chega a dar um tilt.

No caso de uma morte esperada por uma doença terminal, não é muito narcisismo você achar que as pessoas vão querer continuar conversando com você depois que você se for? Porque no caso de uma morte inesperada, quem contrata a empresa é o familiar que ficou, então ele realmente quer conversar com sua versão digital pós-morte. Mas se foi você que contratou, você perguntou se alguém queria? Imagina você ter todo esse trabalho e acabar ficando no vácuo eterno pós-morte.

Agora imagina uma grande empresa. Algum dono de empresa (desculpe, CEO), muito centralizador, já deve estar criando seu griefbot para continuar mandando na empresa depois que morrer. A empresa deve obedecer às ordens do griefbot ou não? É legítimo apresentar uma recomendação produzida pela IA como se fosse uma decisão do executivo falecido? 

No caso da criação do griefbot após uma morte inesperada, o familiar deveria ter o direito de entregar os dados do falecido, sem seu consentimento prévio, a uma empresa de IA que vai monetizar em cima desses dados? E mais. Os dados não dizem respeito apenas à pessoa falecida. As mensagens trocadas com o cônjuge, os amigos e os colegas contêm informações sobre pessoas vivas que talvez nunca tenham concordado em participar de uma reconstrução digital. Uma conversa privada pode revelar problemas conjugais, informações médicas, conflitos familiares ou segredos de terceiros. Assim, mesmo que o falecido tenha autorizado a criação do griefbot, ainda pode haver questões de privacidade relacionadas aos interlocutores.

E se os familiares discordarem sobre a criação do griefbot? Imagine que a viúva queira criar a réplica, enquanto os filhos sejam contra. Ou que um dos filhos queira interagir com o pai falecido e o outro considere isso uma violação de sua memória. Quem decide? A pessoa que pagou pelo serviço? O cônjuge? Os filhos? Todos precisam concordar?

E se o griefbot for criado pela esposa não porque quer atenuar a saudade de seu amado esposo, mas porque sempre desconfiou que aquele safado tinha uma amante e agora vai ficar interrogando o griefbot até ele confessar? E se ele confessar que tinha a tal amante ela existia mesmo ou é alucinação de IA? Imagine uma amiga da esposa do falecido pedindo à esposa do falecido para deixar ela interrogar o griefbot, porque o falecido era muito amigo do marido dela e se esse safado tiver uma amante o falecido sabia.

E se o griefbot confessar que cometeu um crime imprescritível quando era jovem, esse crime aconteceu ou não? E se nessa confissão o griefbot apontar um cúmplice que ainda está vivo, ele deve ser investigado? E se ficar provado que esse crime nunca aconteceu, quem deve responder pela calúnia?

Se a pessoa real tinha comportamentos tóxicos e o griefbot reproduzir ofensas, preconceitos ou assédio contra familiares vivos, a empresa deve censurar a personalidade do falecido ou manter a "fidelidade"? Imagine que o marido falecido tinha uma ideologia política mais à esquerda mas a esposa é mais à direita e ela pede para a empresa mudar a ideologia do griefbot para evitar discussões políticas. Criar uma versão idealizada de quem morreu é uma forma de desrespeitar a memória histórica daquela pessoa? 

As empresas de griefbot devem poder oferecer planos com modelos de IA mais potentes que outros, de modo que se você puder pagar pelo mais caro você pode ter uma réplica mais fiel do falecido? Se você só puder pagar o plano mais barato, a empresa deve poder oferecer o griefbot feito no modelo de IA menos potente, então o marido falecido manda um beijo para seus filhos Vera, Chuck e Dave, mas vocês só tiveram Vera e Chuck, e aí você fica sem saber se o modelo alucinou ou se ele tem um filho fora do casamento, chamado Dave, que foi encontrado nas pegadas digitais dele? E se Dave existir mesmo, é correto o griefbot revelar segredos que a pessoa, enquanto viva, nunca quis revelar? 

A empresa poderia oferecer planos gratuitos com publicidade, como no exemplo do diálogo que eu coloquei no início de uma publicidade bem explícita ou com publicidades implícitas nas conversas? O quão fácil seria para uma empresa vender publicidade baseada nas vulnerabilidades emocionais de quem conversa com o griefbot?

A empresa pode oferecer planos de griefbot com acesso à sua agenda para você ser lembrado dos seus compromissos do dia? Minha esposa sabe que eu não lembro nem dos meus compromissos enquanto estou vivo, imagina depois de morto eu começar a mandar mensagem pra ela lembrando dos compromissos dela.

Se as empresas costumam ganhar mais quanto maior for a interação com os chatbots, o griefbot vai passar o dia mandando mensagem para você? De preferência na forma de pergunta para você precisar responder e aumentar a interação?

E se a empresa, de acordo com a avaliação das conversas, detectar o quão dependente você está da interação com o griefbot e usar sua dependência para aumentar o valor da mensalidade? E se você não puder mais pagar a mensalidade e o griefbot for descontinuado, fazendo você viver novamente o luto, mas dessa vez ainda pior porque essa segunda morte é culpa sua? E se a empresa programar o griefbot para manipular emocionalmente o enlutado para gerar essa dependência? Por outro lado, a empresa deveria inserir no algoritmo algo que faça o griefbot mudar para uma personalidade mais alegre caso detecte que o usuário está em risco de depressão? 

Um famoso, ou influencer qualquer com milhões de seguidores, pode vender sua pegada digital para uma empresa por milhões de dólares em vida para quando ele falecer a empresa lucrar vendendo acesso ao griefbot para qualquer pessoa poder comprar a experiência de conversar com, por exemplo, o Messi?

E se esse famoso for o John Lennon, a Yoko Ono pode pedir para o griefbot compor umas músicas? E se ele compuser ela pode lançá-las como composições de John Lennon?

Eu tinha mais perguntas mas minha cabeça já explodiu!