As empresas de tecnologia do luto muitas vezes não são regulamentadas, mas isso pode ser uma preocupação, dados os dados aos quais têm acesso para criar personas virtuais e o quão próximas estão das pessoas que as lamentam. Crédito da imagem: Pexels
Lidar com a morte de um ente querido é sempre doloroso e complicado. Até onde devemos ir para encontrar um desfecho? Como devem agir aqueles que ajudam as famílias enlutadas? E o que acontece com os ativos digitais dos familiares falecidos?
Para aumentar a complexidade, as empresas de tecnologia estão entrando no negócio de ajudar as pessoas a sofrer. Este novo campo, conhecido como “grieftech”, envolve inteligência artificial, ou IA, empresas que criam chatbots de aparência realista que imitam pessoas recentemente falecidas, até mesmo reproduzindo suas vozes.
Um exemplo disso é Christy Angell, uma nova-iorquina que fingiu ser sua falecida parceira Camarões e se inscreveu em um chatbot de IA para conversar com ela. “Eu sabia que era um sistema de IA, mas assim que começamos a conversar, senti como se estivesse conversando com Camarões. Isso me pareceu muito real”, diz ela.
Mas as coisas tomaram um rumo sinistro quando o chatbot Camarões disse que estava “no inferno”. Como cristão devoto, Angel ficou profundamente perturbado com isso e buscou clareza em uma segunda conversa separada com o chatbot. Eventualmente, ele assegurou-lhe que não estava no inferno.
Angel faz parte de um número crescente de pessoas que recorrem à IA para ajudar a lidar com o luto. Isso é possível graças aos avanços na IA generativa, uma tecnologia que cria texto, áudio ou imagens realistas a partir de instruções simples.
Sua história, junto com outras que usaram a tecnologia para lidar com o luto, é apresentada no documentário Eternal You, que estreou no Reino Unido no Sheffield Docks/Fest e será lançado amplamente em 28 de junho.
Os treinadores alemães Hans Block e Moritz Rieswieck expressaram preocupações sobre o uso da IA desta forma. “Essas pessoas vulneráveis esquecem rapidamente que estão falando com um sistema de aprendizado de máquina, o que é um grande problema na regulação desse tipo de sistema”, disse Block.
Angel usou uma plataforma chamada Project December, criada pelo designer de videogame Jason Rohrer. Inicialmente um projeto de arte para criar personas de chatbot, o Projeto Dezembro agora ajuda os usuários a recriar seus entes queridos falecidos. O site anuncia isso com o slogan “Simulando os Mortos”. Os usuários inserem detalhes sobre o falecido, como apelido, traços de personalidade e causa da morte, que são inseridos no modelo de IA.
Rohrer cobra US$ 10 por usuário para cobrir custos operacionais e afirma que muitas pessoas acham isso reconfortante. Ele reconheceu que alguns usuários ficaram desapontados com as imprecisões e respostas não convencionais do chatbot, mas disse que muitas pessoas acharam isso útil e agradeceram.
Outro exemplo de tecnologia de luto apresentado no documentário é o YOV (“You, Only Virtual”), que permite às pessoas criar uma “versona”, ou persona virtual, de si mesmas ou de um ente querido falecido.
A fundadora do YOV, Justine Harrison, criou o poema com a ajuda de sua mãe, Melody, antes de falecer em 2022. Harrison, 41 anos, continua dialogando com a poesia da melodia, encontrando consolo em sua natureza evolutiva.
“A humanidade é conhecida por ser consistente e universal no seu desejo de permanecer ligada aos entes queridos que já faleceram”, diz ele.
Mas Sherry Turkle, professora do Instituto de Tecnologia de Massachusetts especializada na interação humana com a tecnologia, alerta que essas aplicações de IA podem interferir no processo de luto. Ela chama isso de falta de vontade de sofrer e de uma sentença sem fim.
O documentário também foca no uso positivo da IA.
Jang Ji-sung, da Coreia do Sul, perdeu sua filha Nayeon, de 7 anos, devido a uma doença incurável em 2016. Em 2020, ela participou de um programa de TV onde criou uma versão em realidade virtual de Nayeon. O vídeo mostra Chan interagindo emocionalmente com uma criança virtual.
A Sra. Chan sentiu que, embora a experiência tenha sido bastante benéfica, foi um evento único. Essa experiência proporcionou uma espécie de encerramento após sua perda repentina. “Se de alguma forma alivia qualquer culpa ou dor e você está se sentindo desesperado, eu recomendo”, diz ela.
No entanto, Chan não está interessado em repetir a experiência com a nova tecnologia de IA e gostaria de escrever uma carta manuscrita e deixá-la lá e visitar o túmulo.
Angel e Chan fazem referência a episódios da série de televisão de 2013 *Black Mirror*. Neste episódio, uma mulher usa a comunicação online para trazer de volta à vida seu amante morto. Agora que a tecnologia alcançou essas representações ficcionais, os pesquisadores estão pedindo a regulamentação da tecnologia do luto.
Também surgem questões legais em relação ao uso de dados para criar esses retratos digitais. Andrew Wilson Bushell, advogado do escritório de advocacia britânico Simkins, aponta a complexidade e a variação nas leis entre os países. “Tal como acontece com todas as coisas relacionadas com a IA, esta legislação não foi testada, é muito complexa e varia de país para país. Os direitos também precisam de ser considerados”, explica.
Em última análise, acredita ele, a aceitação e o uso da IA para simular entes queridos falecidos estarão sob intenso escrutínio público. “Esperamos que o uso de fantasmas de IA seja testado no tribunal da opinião pública muito antes que surjam quaisquer desafios legais.”
encontre-nos no youtube
se inscrever
