O que é “limpeza de IA”? Por que isso Importa?

A Amazon chegou às manchetes este ano depois que relatórios questionaram sua tecnologia “Just Walk Out” instalada em muitas de suas lojas físicas.

O sistema alimentado por IA permite que os clientes das lojas Amazon Fresh e Amazon Go simplesmente selecionem seus produtos e saiam.

A IA, disponível para quem se cadastra pelo aplicativo, utiliza tecnologia de reconhecimento facial e diversos sensores e câmeras para determinar suas escolhas. Você será cobrado automaticamente.

Em vez disso, o Partido Trabalhista Indiano disse que estava simplesmente a reformular o sistema. A Amazon acrescentou: “Isso não é diferente de outros sistemas de IA onde os revisores humanos são comuns e a precisão é fundamental”.

No entanto, a Amazon também confirmou que reduzirá o número de lojas que utilizam o sistema Just Walk Out.

Quaisquer que sejam os detalhes exatos do caso da Amazon, trata-se de um exemplo de destaque de um problema novo e crescente: se as empresas estão a fazer afirmações excessivamente exageradas sobre a utilização da IA. Este é um fenômeno denominado “limpeza de IA” em homenagem à “limpeza verde” da proteção ambiental.

Antes de entrarmos nisso, vamos lembrar o que exatamente significa IA. Embora não exista uma definição exata, a IA permite que os computadores aprendam e resolvam problemas. A IA será capaz de fazer isso depois de ser treinada em grandes quantidades de informações.

Um tipo específico de IA que ganhou todas as manchetes nos últimos anos é a chamada “IA generativa”. Esta é uma IA especializada em conversas de texto, criação de músicas e imagens e criação de novos conteúdos.

Chatbots como ChatGPT, Gemini do Google e Copilot da Microsoft são exemplos comuns de IA generativa.

Existem vários tipos de limpeza de IA. Algumas empresas afirmam que estão a utilizar IA quando, na verdade, utilizam computação menos sofisticada, enquanto outras argumentam que a eficácia da IA ​​sobre as tecnologias existentes exagera ou sugere que uma solução de IA é totalmente funcional quando não o é.

Enquanto isso, outras empresas estão simplesmente incorporando chatbots de IA em seus softwares operacionais não-AI existentes.

De acordo com o OpenOcean, um fundo de investimento para empresas de tecnologia emergentes com sede no Reino Unido e na Finlândia, apenas 10% das startups de tecnologia mencionaram o uso de IA em seus argumentos de venda em 2022, mas 4% em 2023 aumentaram para mais de 1. Este ano, eles esperam que esse número suba para mais de um terço.

E o membro da equipe OpenOcean, Sri Ayyangar, diz que a competição por financiamento e o desejo de aparecer na vanguarda levaram algumas empresas a exagerar suas capacidades de IA.

“Alguns fundadores parecem pensar que poderiam estar em desvantagem se não mencionassem a IA em seu discurso, independentemente do papel que a IA desempenha em sua solução.”

“E a nossa análise mostra que existe uma disparidade significativa entre as empresas que reivindicam capacidades de IA e aquelas que demonstram resultados tangíveis da IA.”

Dados da MMC Ventures, outra empresa de investimento em tecnologia, mostram que este é um problema que está presente há anos. Um estudo de 2019 descobriu que 40% das empresas de tecnologia emergentes que se autodenominam “startups de IA” na verdade não usam praticamente nenhuma IA.

“O problema é o mesmo hoje, mas com um problema diferente”, diz Simon Menasy, sócio geral da MMC Ventures.

Ele explica que “capacidades de IA de ponta” estão agora disponíveis para qualquer empresa pelo preço de software padrão. Mas, em vez de construir um sistema inteiro de IA, muitas empresas simplesmente adicionam uma interface de chatbot a um produto que não seja de IA, diz ele.

Dougal Dick, chefe de risco de tecnologia emergente no Reino Unido na gigante de contabilidade KPMG, disse que o problema da lavagem de IA não foi resolvido pelo facto de não haver uma definição única e acordada de IA.

“Se eu pedisse a um grupo de pessoas para definir IA, todos dariam respostas diferentes. O termo é usado de forma muito ampla e vaga, sem nenhum ponto de referência claro, é a definição de IA”, diz ele. Permitindo o surgimento da limpeza de IA.

“A lavagem de IA pode ter implicações alarmantes para as empresas, desde o pagamento excessivo de tecnologia e serviços até o fracasso em atingir as metas operacionais que se esperava que a IA ajudasse a alcançar.”

Para os investidores, por outro lado, pode ser difícil identificar empresas verdadeiramente inovadoras.

Ayyangar também disse: “Quando as expectativas dos consumidores não são atendidas em relação a produtos que afirmam fornecer soluções avançadas baseadas em IA, a confiança nas startups que fazem um trabalho verdadeiramente inovador é prejudicada.

Pelo menos nos Estados Unidos, os reguladores estão começando a perceber. No início deste ano, a Comissão de Valores Mobiliários dos EUA (SEC) anunciou acusações contra duas empresas de consultoria de investimentos por fazerem declarações falsas e enganosas sobre o âmbito da sua utilização da IA.

“A posição forte assumida pela SEC mostra que não há margem de manobra quando se trata de limpeza de IA, e sugere que podemos esperar mais multas e sanções contra infratores regulatórios no futuro, pelo menos nos EUA’, disse Nick White. , Sócio do escritório de advocacia internacional Charles Russell Speechlis.

No Reino Unido, existem regulamentos que abrangem a lavagem de IA, incluindo o Código de Prática da Advertising Standards Authority (ASA), que afirma que as comunicações de marketing não devem ser materialmente enganosas ou susceptíveis de serem enganosas. Regulamentos e leis já foram promulgados para o fazer.

Michael Cordeau, associado da equipe regulatória do escritório de advocacia corporativo britânico Walker Morris, disse que as alegações de IA estão se tornando cada vez mais comuns em publicidade investigada pela ASA.

Um exemplo é uma postagem paga no Instagram sobre um aplicativo com a legenda “Aprimore suas fotos com IA”, que a ASA determinou ser enganosa e exagerada no desempenho do aplicativo.

“O que está claro é que as alegações de IA estão se tornando cada vez mais populares e são provavelmente eficazes na captura do interesse do consumidor”, disse Cordeau.

“Na minha opinião, estamos no topo do ciclo de hype da IA”, disse Sandra Wachter, professora de tecnologia e regulamentação da Universidade de Oxford e especialista líder global em IA.

“Mas sinto que esquecemos de perguntar se sempre faz sentido usar IA para todos os tipos de tarefas. Vi um anúncio de uma escova de dentes elétrica alimentada por IA no metrô de Londres. Lembro-me: “Para quem é isso? esta ajuda?”

Além disso, o impacto ambiental da IA ​​é frequentemente ignorado, diz ela.

“A IA não cresce em árvores…esta tecnologia já contribui mais para as alterações climáticas do que a aviação. Precisamos de nos afastar deste debate unilateral e hiperbólico e aplicar cegamente a IA a tudo.” as tarefas e áreas específicas onde a IA pode ser benéfica.”

No entanto, Advika Jalan, chefe de pesquisa da MMC Ventures, diz que, no longo prazo, o problema da lavagem de IA pode diminuir por conta própria.

“A IA, mesmo que seja apenas um wrapper ChatGPT, está se tornando tão difundida que ‘habilitado para IA’ como ferramenta de branding pode não ser mais um diferencial depois de um tempo”, diz ela. “Isso seria como dizer: 'Estamos na Internet'.”