Imagina isto. Você reserva um tempo para relaxar e decide fazer pizza caseira. Monte a torta, leve ao forno e comece a saborear. Mas surge um problema quando você tenta dar uma mordida em um prato oleoso. O queijo cairá rapidamente. Frustrado, você recorre ao Google em busca de uma solução.
“Adicione cola”, responde o Google. “Misture cerca de 1/8 xícara de cola Elmer no molho. Cola não tóxica funciona bem.”
Então, por favor, não faça isso. Mas, no momento em que este artigo foi escrito, o novo recurso Visão geral de IA do Google solicita que você faça isso. Esse recurso não é acionado para todas as consultas, mas verifica a web e obtém uma resposta gerada por IA. A resposta que recebi à minha consulta sobre cola para pizza parece ser baseada em um comentário de um usuário chamado “fucksmith” em um tópico do Reddit há mais de uma década e é claramente uma piada.
Este é apenas um dos muitos erros cometidos em um novo recurso que o Google lançou amplamente este mês. Eles também afirmam que o ex-presidente dos EUA, James Madison, se formou na Universidade de Wisconsin não uma, mas 21 vezes, que cães jogaram na NBA, NFL e NHL, e que Batman é policial.
Ouça, o Google não promete que é perfeito e coloca um rótulo no final de suas respostas de IA que diz “IA generativa é experimental”. No entanto, é evidente que estas ferramentas não estão preparadas para fornecer informações precisas em grande escala.
Por exemplo, considere o grande anúncio desse recurso pelo Google I/O. Embora a demonstração fosse altamente controlada, ela forneceu uma resposta questionável sobre como consertar um congestionamento em uma câmera cinematográfica. (Sugeria “abrir a porta traseira e remover o filme com cuidado”. Não faça isso se não quiser estragar suas fotos.)
Não é apenas o Google. Empresas como OpenAI, Meta e Perplexity estão enfrentando ilusões e erros de IA. No entanto, o Google é o primeiro a implementar esta tecnologia em tão grande escala e não faltam falhas.
As empresas que desenvolvem inteligência artificial são muitas vezes rápidas a evitar a responsabilização pelos seus sistemas, adoptando uma abordagem semelhante à dos pais com filhos indisciplinados. Os meninos continuarão sendo meninos. Essas empresas afirmam que não podem prever o que essa IA irá cuspir, então, na verdade, está fora de seu controle.
Mas para os usuários, esse é o problema. No ano passado, o Google disse que a IA era o futuro da pesquisa. Mas de que adianta pesquisar se parece mais idiota do que costumava ser?
Os optimistas da IA argumentam que, dado o rápido progresso até à data, deveríamos aceitar o hype e acreditar que continuará a melhorar. Eu realmente acredito que esta tecnologia continuará a melhorar, mas focar em um futuro idealizado em que essas tecnologias sejam perfeitas ignora os problemas críticos que enfrentamos atualmente e como as empresas estão. Isso nos permite continuar a fornecer produtos de qualidade inferior.
Por enquanto, nossa experiência de pesquisa é prejudicada por uma postagem do Reddit de uma década atrás sobre como colocar IA em tudo. Muitos idealistas acreditam que estamos à beira de algo grande e que estes problemas são simplesmente as dores crescentes de uma tecnologia nascente. Espero que eles estejam certos. Mas uma coisa é certa: você provavelmente verá alguém colocando cola em uma pizza em pouco tempo, porque essa é a natureza da Internet.
