Aula de inteligência artificial.
Claro, todo mundo sabe disso agora. Programas como ChatGPT e “AI Overview” do Google produzem rotineiramente resultados sem sentido para consultas de usuários. Os entusiastas da tecnologia chamam esses erros de “alucinações”, como se a IA precisasse ficar sóbria e recuperar o juízo. Eu não vejo dessa forma.
Porque a IA começou a dizer coisas sobre mim e minha família.
Na semana passada, meu marido recebeu um email de spam de um vendedor. Continha a seguinte história do nosso sobrenome.
Poucos estados têm regulamentações à medida que os empregadores expandem a inteligência artificial no emprego
“Acredita-se que o sobrenome Wirestone tenha se originado na Alemanha. É um sobrenome regional, o que significa que provavelmente foi dado a indivíduos com base em seu local de residência. O nome Wirestone é… Pode vir de um nome de lugar que não existe mais ou que mudou ao longo do tempo.
“O sobrenome Wirestone apareceu pela primeira vez na história registrada nos Estados Unidos no final do século 19 e início do século 20, quando imigrantes da Alemanha trouxeram o nome com eles. Variações do sobrenome incluem Wierstien, Wierstone e Wierston.
“Hoje, o sobrenome Wirestone é relativamente raro e é encontrado principalmente nos Estados Unidos. Pessoas com esse sobrenome podem ser encontradas em vários estados do país, mas a maior concentração está na região Centro-Oeste.”
O único problema com esta conta é que está completamente errada.
Eu sei disso em primeira mão porque o sobrenome “Wirestone” não existia antes de meu marido e eu o criarmos em 2010. Pegamos as letras do nosso sobrenome original e as reorganizamos para criar um novo nome. “Cointower” e “McWren” também foram considerados opções.
Na época, fizemos algumas pesquisas para garantir que ninguém mais tivesse o sobrenome Wirestone. Ninguém fez isso. Uma empresa de marketing deu-lhe o nome de Wire Stone, que parecia independente o suficiente para nossos propósitos. Na época, morávamos em New Hampshire e o estado acabara de legalizar o casamento entre pessoas do mesmo sexo. Queríamos compartilhar um único sobrenome e queríamos compartilhar esse sobrenome com nosso filho.
Também escrevi uma coluna em 2013 que mencionou isso. (Sim, tenho feito muitas cópias há muito tempo.)
Mas quando se trata de modelos linguísticos de grande escala, os factos não importam.
O e-mail que meu marido recebeu pareceu-me trabalho do ChatGPT, então decidi experimentar sua IA. Com certeza, isso produziu uma tonelada de mentiras sobre meu sobrenome, todas na mesma linha. Abaixo está parte de um artigo. Desta vez, uma análise linguística está incluída.
“O sobrenome Wirestone não é tão comum quanto outros sobrenomes, mas tem uma história enraizada nas origens germânicas. 'Wire' provavelmente deriva da palavra do alto alemão médio 'wir', que significa fio ou metal., indicando a possível origem do nome de um indivíduo. ocupação de trabalhar com arame ou metal. “Pedra” sugere uma conexão com um lugar ou característica geográfica, talvez indicando uma pessoa que viveu perto de uma pedra ou formação rochosa famosa. ”
Parece autoritário! Além disso, é uma mentira completa.
Você pode estar se perguntando como a IA pode produzir algo tão perfeito. Isso ocorre porque a IA não consegue distinguir entre verdadeiro e falso. Em vez disso, um programa de computador complexo executa um jogo probabilístico de adivinhação de linguagem, apostando em quais palavras têm maior probabilidade de seguir outras palavras. Se um programa de IA não tiver sido treinado sobre um assunto (por exemplo, um sobrenome incomum), pode parecer oficial, mas sugerir palavras erradas.
Posteriormente, o ChatGPT deu origem a outra etimologia do nosso sobrenome.
“O sobrenome Wirestone parece ser de origem alemã. Vem das palavras do alto alemão antigo 'Wiro' que significa 'guerreiro' ou 'exército' e 'stein' que significa 'pedra'. fazendo. Portanto, o sobrenome Wirestone provavelmente surgiu como uma combinação desses elementos, talvez indicando alguém que era forte como uma pedra na batalha ou possuía características associadas a guerreiros. ”
Para resumir, meus ancestrais eram metalúrgicos ou fortes guerreiros que viviam perto de afloramentos rochosos.
Você pode descartar tudo isso como apenas estupidez. Eu também concordo com você. No entanto, durante o ano passado, os líderes decidiram que a IA transformará a economia global.
O Google, que se tornou a fonte definitiva de conhecimento para o mundo, começou a incorporar IA em seus resultados de pesquisa. De acordo com o Slate, os usuários rapidamente alegaram que o Google “fumou cigarros durante a gravidez, adicionou cola em pizzas caseiras, borrifou anticongelante usado nos gramados e ferveu hortelã para curar apendicite”. Desde então, a empresa reverteu algumas mudanças.
O Facebook introduziu recursos chamativos de IA em sua plataforma. Enquanto isso, conseguimos bloquear o Kansas Reflector e remover todos os links que já postamos. Apesar de o porta-voz Andy Stone ter garantido em abril que o problema foi corrigido, os usuários que tentam compartilhar nossas histórias ainda relatam o problema.
Ao mesmo tempo, a OpenAI, a empresa por trás do ChatGPT, continua a arrecadar fundos e os investidores estão mais entusiasmados do que nunca com o futuro da tecnologia.
Mas não estamos vivendo no futuro. Vivemos o momento e, em todas as situações em que os usuários solicitaram à IA um desempenho preciso e confiável, ela teve um desempenho significativamente inferior. Escrever instruções do liquidificador no estilo da Bíblia King James é um truque divertido para uma festa. Mas as pessoas estão recorrendo à Internet para responder a questões reais e urgentes sobre o seu mundo.
Pelo que sei pessoalmente, posso dizer diretamente que esta tecnologia não funciona.
Há dez anos, uma busca por informações sobre meu sobrenome no Google trouxe links para meu trabalho, minha empresa de marketing e as colunas que escrevi. você será capaz de descobrir a verdade da situação
Agora esse pilar foi vítima da podridão. Os curiosos sobre o nome podem recorrer ao ChatGPT, como os alunos fizeram desde o lançamento da tecnologia. Eles serão alimentados com mentiras. Portanto, a experiência online para pessoas curiosas está piorando, e não melhorando. A tecnologia de IA provavelmente melhorará nos próximos meses e anos. Provavelmente não.
Enquanto isso, trate os resultados de sistemas opacos de IA com extremo ceticismo. Acompanhe notícias reais relatadas, escritas e editadas por pessoas reais. Visite o site do Refletor Kansas. Assine a nossa newsletter.
Concentre-se na realidade e esqueça as ilusões.
O Kansas Reflector faz parte da States Newsroom, uma rede de notícias sem fins lucrativos apoiada por uma coalizão de doações e doadores como uma instituição de caridade pública 501c(3). Kansas Reflector mantém independência editorial. Se você tiver alguma dúvida, entre em contato com o editor Sherman Smith. [email protected]. Siga o Kansas Reflector no Facebook e no X.
