Em abril, a startup Hume AI lançou uma demonstração do que chamou de primeira voz de inteligência artificial emocionalmente inteligente, EVI (abreviação de “Empathy Voice Interface”).
Conversar com o EVI é como conversar com a nova geração de assistentes de voz com tecnologia de IA (como Siri e Alexa), mas com funcionalidade ChatGPT. Peça a EVI para ler um poema ou explicar as causas da Revolução Francesa e ela começará a recitar um haicai ou uma mini-palestra sobre a França do século XVIII com uma voz suave e suave. O EVI também apresenta bugs e atrasos que são frequentemente encontrados em bots de voz de IA.
O que diferencia o EVI é que quando você solicita um poema, a tela exibe uma lista de expressões emocionais sutis que a IA afirma ter detectado em sua voz, desde estranheza e confusão até desprezo e surpresa. Hume AI afirma que analisa até 48 expressões emocionais diferentes.
“Esses 48 vão muito além do que os cientistas emocionais estudaram historicamente, porque podemos coletar quantidades muito maiores de dados para treinar esses modelos e podemos observar uma gama muito mais diversificada de nuances porque podemos reconhecê-los”, disse Alan Cowen. , fundador da Hume AI.
A IA empática de Hume é treinada em podcasts, outras mídias e gravações de experimentos psicológicos conduzidos. A empresa também vende IA que analisa expressões faciais, o que deverá ajudar empresas e chatbots a entender melhor seus clientes. O EVI custa aproximadamente US$ 0,10 por minuto, mas varia de acordo com o cliente.
“Temos clientes de atendimento ao cliente como Lawyer.com. Temos grandes empresas de tecnologia que usam uma variedade de tecnologias que desenvolvemos”, disse Cowen.
Lawyer.com usa Hume para melhorar a linha 1-800. Os call centers são uma escolha natural para a tecnologia que reconhece a frustração humana.
Mas Cowen tem objetivos maiores. É um assistente pessoal de IA que realmente entende o que você deseja e é otimizado para sua saúde.
“Torna-se mais personalizado porque aprende com o tempo”, diz Cowen.
Uma IA treinada em sua voz e expressões faciais poderia um dia lhe dizer: “Ei, você percebe que se sente cansado e irritado por volta das 15h todos os dias?” Isso parece útil até que uma voz robótica hipnotizante lembra gentilmente que os Frappuccinos da Starbucks custam metade do preço até as 16h.
“É mais provável que façamos compras desnecessárias em determinados estados emocionais e em determinados momentos do dia”, diz Ben Brand, que ajudou a desenvolver padrões éticos da indústria para IA empática no Instituto de Engenheiros Elétricos e Eletrônicos do Japão.
Ele também está preocupado com o impacto que a IA terá em nossas emoções, assim como os smartphones tiveram em nossa capacidade de atenção.
“Se você tem um jogo de computador que ajusta suas configurações com base em suposições sobre o quão animado você está e o quanto está gostando do jogo, você pode desenvolver um vício no jogo”, disse Brand. “Isso pode torná-lo emocionalmente insensível.”
É claro que todos os cenários de pesadelo de Brand assumem que os robôs podem realmente inferir expressões emocionais humanas de uma forma cientificamente confiável, mas isto ainda está em debate.
“Não creio que essas tecnologias funcionem tão bem como às vezes afirmam o pessoal de marketing”, disse Andrew McStay, diretor do Laboratório de IA Emocional da Universidade de Bangor, no Reino Unido.
McStay observou que a pesquisa existente sobre tecnologia de reconhecimento de emoções atribui mais emoções negativas aos rostos masculinos negros do que aos rostos masculinos brancos, perpetuando estereótipos prejudiciais.
Mas também há questões mais amplas sobre o que realmente são as emoções e como diferentes pessoas e culturas as expressam, disse ele.
“Portanto, o que muitas vezes se afirma sobre estas tecnologias, que existe um programa biológico identificável e que não estamos a olhar para a sociedade e a cultura, é um problema”, disse McStay.
Há muita coisa acontecendo no mundo. Para tudo, o Marketplace está aqui para você.
Você usa o Marketplace para analisar eventos mundiais e comunicar como eles afetam você de maneira factual e acessível. Contamos com o seu apoio financeiro para continuar tornando isso possível.
Sua doação hoje ajuda a impulsionar o jornalismo independente do qual você depende. Por apenas US$ 5 por mês, você pode ajudar a sustentar nosso mercado. Isso nos permite continuar relatando coisas que são importantes para você.
