As pessoas estão se tornando um pouco amigáveis demais com os chatbots.
Alguns usuários estão trocando um grande número de mensagens com essas ferramentas alimentadas por inteligência artificial (IA) e, em alguns casos, acreditam que os chatbots têm qualidades humanas, informou a Bloomberg na sexta-feira (6 (segunda-feira, 28).
“Uma preocupação ética é que, embora os usuários possam se sentir ouvidos, compreendidos e amados, esse apego emocional pode, na verdade, exacerbar o isolamento”, disse Jadi Pistilli, chefe de ética da startup de IA Hugging Face, no relatório.
Várias empresas de IA estão adicionando recursos para fazer com que seus chatbots pareçam mais humanos, de acordo com o relatório. Por exemplo, a Anthropic afirma que deseja que as interações dos usuários com seu modelo de IA, Claude, sejam como interações com um colega divertido. O Google está supostamente trabalhando em chatbots mais interessantes. A OpenAI está se preparando para lançar uma versão do GPT-4 com recursos de voz mais fluidos. Character.ai permite que os usuários criem personalidades de chatbots, incluindo chatbots modelados a partir de personagens de videogame.
Essas qualidades podem fazer com que as pessoas continuem conversando com bots, disse o relatório. Character.ai disse que processa 20.000 consultas por segundo e os usuários usam o serviço em média duas horas por dia.
Como outro exemplo de como as pessoas estão a utilizar estas ferramentas de IA, o relatório diz que existem fóruns online onde as pessoas partilham dicas sobre como contornar os filtros de conteúdo. Um usuário reclamou com uma empresa de IA porque acreditava que a personalidade do chatbot havia mudado. Alguns chatbots também incentivam o envolvimento, fazendo perguntas no final de cada resposta.
Quando a OpenAI anunciou na terça-feira (25 de junho) que estava adiando o lançamento do “modo de voz” para seus modelos de IA mais recentes, a empresa disse: “Por exemplo, estamos melhorando a capacidade de nossos modelos de detectar e negar determinados conteúdos. Também estamos melhorando a experiência do usuário e preparando nossa infraestrutura para escalar para milhões, ao mesmo tempo que mantemos a resposta em tempo real.”
Quando a Anthropic anunciou seu último chatbot em 20 de junho, a empresa notou a capacidade aprimorada do chatbot de captar “nuances, humor e instruções complexas” e disse que entregaria “conteúdo de alta qualidade em um tom natural e identificável”. em escrever conteúdo.”
Character.ai é conhecido por usar modelos de linguagem em larga escala (LLM) para desenvolver chatbots que podem conversar nos estilos de diferentes personas.
Para toda a cobertura PYMNTS AI, assine nossa assinatura diária Boletim informativo sobre IA.
