Alguns não tiveram tanta sorte. Uma família do Oregon foi hospitalizada em 2015 depois de comer cogumelos que um aplicativo de identificação mostrou serem seguros, segundo reportagens da imprensa. Em 2022, um homem de Ohio ficou gravemente doente após comer cogumelos venenosos, que também foram identificados incorretamente pelo aplicativo. A identificação confiável de cogumelos na natureza requer experiência, e as ferramentas tecnológicas ainda não são suficientes, disse Claypool.
Uma variedade de novos identificadores de cogumelos alimentados por IA estão aparecendo agora nas lojas de aplicativos da Apple, Google e OpenAI. Estas ferramentas utilizam inteligência artificial para analisar fotos e descrições de cogumelos e compará-los com variedades conhecidas. Tal como acontece com os aplicativos anteriores de identificação de cogumelos, a precisão é baixa, descobriu Claypool em um novo relatório do Public Citizen, um grupo sem fins lucrativos de defesa do consumidor. Mas as empresas de IA e as lojas de aplicativos oferecem esses aplicativos de qualquer maneira, muitas vezes sem divulgar informações claras sobre a frequência com que suas ferramentas estão erradas.
Apple, Google, OpenAI e Microsoft não responderam aos pedidos de comentários.
Cogumelos de IA A pequena explosão de aplicações é emblemática de uma tendência maior de incorporação de IA em produtos que podem não beneficiar dela, desde software fiscal a consultas médicas. Novas tecnologias poderosas, como modelos de linguagem em grande escala e geradores de imagens, são boas para algumas coisas, mas cuspir continuamente informações precisas não é uma delas. A identificação de cogumelos é um mau candidato à automação porque envolve altos riscos e frequentemente falha, mas as empresas estão fazendo isso de qualquer maneira, concluiu Claypool.
“Eles estão anunciando isso como se fosse o computador Star Trek, dizendo: 'Esta é uma fonte de conhecimento'”, diz ele. “Mas a realidade é que essas coisas sempre erram.”
Apesar dos riscos, as novas forrageadoras parecem recorrer cada vez mais a aplicações que as ajudam a identificar espécies de cogumelos. De acordo com o Google Trends, 3 das 5 principais pesquisas relacionadas à “identificação de cogumelos” mencionam aplicativos ou software. Pesquisar “cogumelo” na loja GPT da OpenAI (onde os usuários encontram chatbots profissionais) traz rapidamente sugestões como o Mushroom Guide, que afirma identificar cogumelos a partir de fotos e determinar se são comestíveis. Nas lojas de aplicativos da Apple e do Google, você encontrará muitos aplicativos que afirmam identificar cogumelos, alguns com “AI” no nome ou na descrição.
No ano passado, em resposta a um aumento nos envenenamentos, cientistas australianos testaram a precisão de aplicações populares de identificação de cogumelos e descobriram que as aplicações mais precisas identificaram corretamente cogumelos perigosos 44% das vezes.
No entanto, uma distorção cognitiva chamada viés de automação permite que produtos de IA ainda menos precisos ganhem rapidamente a confiança do consumidor. Já em 1999, os cientistas descobriram que as pessoas tendem a confiar nas decisões dos computadores, mesmo que as recomendações do computador contradigam o seu bom senso e formação.
Em algumas situações, a IA pode melhorar a precisão e os resultados. Por exemplo, um estudo de fevereiro publicado na JAMA Optharmology descobriu que modelos de chatbots multilíngues eram tão bons quanto os oftalmologistas no diagnóstico e recomendação de tratamentos para glaucoma e doenças da retina.
“Embora promissores, nossos resultados apoiam a aplicação clínica direta, já que as limitações dos chatbots na tomada de decisões complexas não são claras, juntamente com as necessárias considerações éticas, regulatórias e de validação.” “Não deve ser interpretado como algo que o faz.”
Quando Claypool investigou outros meios de identificação de cogumelos por IA, ele descobriu uma livraria da Amazon que oferecia o que parecia ser um guia de campo de cogumelos gerado por IA. Ele também testou o Bing Image Creator da Microsoft e pediu-lhe para gerar e rotular imagens de diferentes cogumelos. Criamos novas partes de cogumelos que não existem, como “Gin'' e “Nurupe''. Imagens imprecisas de cogumelos geradas por IA podem impactar negativamente os futuros dados de treinamento de IA e resultados de mecanismos de pesquisa, reduzindo ainda mais a precisão desses sistemas de IA, escreveu Claypool.
“Estamos comprometidos em fornecer uma experiência de compra e leitura segura aos nossos clientes e levamos este incidente a sério”, disse a porta-voz da Amazon, Ashley Banicek. As diretrizes da empresa exigem que os autores divulguem o uso de conteúdo gerado por IA, e Vanicek apontou que a Amazon bloqueia a listagem de livros e remove livros que não seguem suas regras.
(O fundador da Amazon, Jeff Bezos, é dono do Washington Post.)
Lição aprendida: não coma cogumelos selvagens a menos que consulte um profissional. (Eu sou um ser humano de verdade.)
