Enquanto o Google I/O introduziu um assistente de IA que pode ver e ouvir o mundo, o OpenAI ela– Incorpore um chatbot como este no seu iPhone. Na próxima semana, a Microsoft hospedará o Build, onde uma versão do Copilot ou Cortana que entende tabelas dinâmicas certamente aparecerá. E dentro de algumas semanas, a Apple realizará sua própria conferência de desenvolvedores e, se houver algo para falar, é provável que fale também sobre inteligência artificial. (Não está claro se o Siri será mencionado.)
A IA está aqui! Não é mais conceitual. Tirou empregos, criou alguns novos empregos e ajudou milhões de estudantes a evitarem fazer os trabalhos de casa. De acordo com a maioria das grandes empresas de tecnologia que investem em IA. Parece que eles estão começando a vivenciar uma das raras mudanças monumentais na tecnologia. Consideremos a Revolução Industrial e o nascimento da Internet e dos computadores pessoais. Todo o Vale do Silício da Big Tech está focado em pegar modelos de linguagem em grande escala e outras formas de inteligência artificial e transferi-los dos laptops dos pesquisadores para os telefones e computadores das pessoas comuns. Idealmente, eles ganharão muito dinheiro no processo.
Mas a meta IA pensa que tenho barba, então não me importo.
Só para deixar claro, sou uma mulher cis e não tenho barba. Mas se você digitar “Mostre-me uma foto de Alex Krantz” na janela de prompt, o Meta AI inevitavelmente retornará a imagem de um homem muito bonito de cabelos escuros e barba. Sou apenas uma pequena parte deles.
A Meta AI não é a única que luta para economizar tempo. A beiracabeçalho. ChatGPT disse ontem que não trabalho aqui A beira. Gêmeos do Google não sabia quem eu era (o que não é surpresa), mas depois de me contar, Nilay Patel era o fundador: A beira, Mais tarde, ele se desculpou e se corrigiu dizendo que não era esse o caso. (Eu juro que ele estava.)
A IA continua falhando porque esses computadores são estúpidos. Suas habilidades são extraordinárias e sua estupidez incrível. Não poderíamos estar mais entusiasmados com o que vem por aí na revolução da IA. Isso ocorre porque, em tal implantação, o computador não conseguirá manter a precisão, mesmo em questões triviais.
Portanto, mesmo a grande palestra sobre IA do Google no I/O foi um grande fracasso. Em um comercial do novo mecanismo de busca baseado em IA do Google, quando alguém pergunta como desentupir uma câmera de filme, ele sugere: “Abra a porta traseira e remova o filme com cuidado”. Esta é a maneira mais fácil de descartar fotos que você já tirou.
A difícil relação entre IA e verdade é chamada de “ilusão”. Muito simplesmente, estas máquinas são excelentes a descobrir padrões em informação, mas quando tentam extrapolá-los e criá-los, por vezes erram. Eles efetivamente “alucinam” uma nova realidade, mas essa nova realidade é muitas vezes falsa. Este é um problema difícil e todos que trabalham com IA hoje sabem disso.
Um ex-pesquisador do Google afirma que o problema pode ser corrigido no próximo ano (embora tenha ficado desapontado com o resultado), e a Microsoft anunciou que eles serão corrigidos para alguns usuários. Fornecemos ferramentas que podem ser úteis para detecção. Liz Reid, chefe de pesquisa do Google, disse: A beira A empresa também reconhece o desafio. “Há um equilíbrio entre criatividade e facto” em qualquer modelo de linguagem, disse ela ao meu colega David Pearce. “Vamos distorcer isso para o lado factual.”
Mas notou que Reid disse que há um equilíbrio? Isso ocorre porque muitos pesquisadores de IA não consideram realmente as alucinações. pode resolvido. Uma pesquisa da Universidade Nacional de Singapura sugere que as alucinações são uma consequência inevitável de todos os modelos de linguagem em grande escala. Assim como ninguém está certo 100% das vezes, esses computadores também não.
E talvez seja por isso que a maioria dos principais intervenientes neste espaço, as empresas que têm os recursos reais e os incentivos financeiros para que todos nós adotemos a IA, nos digam que não precisamos de nos preocupar com isso. estou pensando sobre isso. Durante a palestra IO do Google, a empresa adicionou as palavras “Verifique a precisão de sua resposta” em pequena fonte cinza na parte inferior de quase todas as novas ferramentas de IA que exibiu. Serviu como um lembrete de que as ferramentas da empresa não são confiáveis, mas também serviu como um lembrete de que elas não são confiáveis. Eu não acho que esse seja o problema. ChatGPT funciona de forma semelhante. Logo abaixo da janela de prompt, em fonte pequena, você verá “ChatGPT pode cometer erros. Revise informações importantes.”
Esta não é uma isenção de responsabilidade que você encontraria em uma ferramenta que parece mudar nossas vidas inteiras em um futuro próximo. E as pessoas que fabricam essas ferramentas não parecem se importar muito em resolver problemas além de pequenos avisos.
O CEO da OpenAI, Sam Altman, certa vez fez declarações ousadas sobre priorizar os lucros em vez da segurança, mas deu um passo além e disse que as pessoas que têm problemas com a precisão da IA são ingênuas. “Você pode simplesmente dizer: ‘Nunca direi nada sobre o qual não tenha 100% de certeza’ e fazer com que todos façam isso. Mas não há mágica que as pessoas gostem tanto”, disse ele no Dreamforce da Salesforce no ano passado. falou para um público em uma conferência.
Essa ideia de que a IA tem algum tipo de molho mágico insondável que lhe permite tolerar uma relação tênue com a realidade é frequentemente levantada por pessoas que querem abandonar as preocupações com a precisão. Google, OpenAI, Microsoft e muitos outros desenvolvedores e pesquisadores de IA descartam as alucinações como um incômodo menor, mas estão a caminho de criar seres digitais que poderiam tornar nossas vidas mais fáceis.
Mas sinto pena de Sam e de todos os outros que me deram incentivos financeiros para ficar entusiasmado com a IA. Não vim para os computadores pela magia imprecisa da consciência humana. Venho procurá-los porque são muito precisos quando os humanos não o são. Seu computador não precisa ser seu amigo. Isso é necessário para garantir que seu gênero seja entendido corretamente ao fazer perguntas e para evitar a exposição acidental do filme ao consertar uma câmera quebrada. Acho que os advogados querem que a jurisprudência seja entendida corretamente.
EU para entender É o local de nascimento de Sam Altman e de outros evangelistas da IA. Num futuro distante, poderemos criar uma verdadeira consciência digital a partir de 1s e 0s. Atualmente, o desenvolvimento da inteligência artificial está a progredir a uma velocidade surpreendente que desafia muitas revoluções tecnológicas anteriores. Há alguma magia real em ação no Vale do Silício agora.
Mas a IA acha que tenho barba. Eles são incapazes de compreender de forma consistente as tarefas mais simples e, ainda assim, essas IAs são impostas a nós com a expectativa de que admiraremos os serviços incrivelmente medíocres que eles prestam. Embora eu esteja certamente impressionado com as inovações que estão acontecendo, espero que não sacrifiquemos a precisão do computador apenas para conversar com um avatar digital. Não é uma troca justa. É apenas uma troca interessante.
