Madhumita Murjia é uma premiada jornalista e comentarista indiana-britânica que escreve sobre o impacto da tecnologia e da ciência na sociedade. Atualmente ela atua como Editora de IA. tempos financeiros Em Londres, lideramos a cobertura global de inteligência artificial e outras tecnologias emergentes. Ela passou a última década viajando pelo mundo escrevendo sobre pessoas, startups e empresas que moldam tecnologia de ponta. com fio, Washington Post, semana de notíciase a telégrafo. Murdja é co-apresentador da série de podcasts tônico tecnológico.
Abaixo, Madhumita compartilha cinco insights principais de seu novo livro. Dependência de código: vivendo à sombra da IA. Ouça a versão em áudio lida pela própria Madhumita no app Next Big Idea.
1. As histórias humanas são importantes.
Ao longo da última década de relatórios sobre IA, houve pouca cobertura das pessoas reais afetadas pela tecnologia ou do impacto das suas interações com ela. Muito poucos dos livros que li eram de fora do mundo ocidental.
Passei grande parte da minha carreira como jornalista narrando a sorte de empresas gigantes como Google e Meta. Estas empresas refinaram as vastas reservas de dados (geradas por milhares de milhões de pessoas em todo o mundo) colocadas nas suas plataformas e transformaram-nas em produtos. A história de como um punhado de engenheiros do Vale do Silício teve um impacto profundo em bilhões de pessoas em partes remotas do mundo, moldando tudo, desde relacionamentos pessoais até a ideia de democracia, descobri de tudo, de histórias em histórias. Depende do código não se trata dos desenvolvedores dessas tecnologias, mas de nós, pessoas comuns, cujas vidas diárias foram transformadas pelo software de IA. As histórias de trabalhadores, médicos, poetas, pais, ativistas e refugiados são contadas em nove países, dos Estados Unidos e do Reino Unido à China, Índia, Quênia e Argentina.
Depende do código Esta é minha tentativa de tornar visível para os leitores o mundo invisível dos encontros entre pessoas e IA. Minha esperança é aprofundar nossa compreensão das realidades da IA e iniciar conversas importantes sobre como coexistimos com esta tecnologia poderosa.
2. Ilumine aqueles que estão nas sombras.
Quando comecei a pesquisar para este livro, não tinha ideia de qual história escolheria. Procurei encontros sutis entre IA e pessoas ao redor do mundo. Mas à medida que continuei a reportar, muitas das histórias que descobri eram sobre pessoas marginalizadas, pessoas de cor, pessoas que viviam na pobreza, mulheres, imigrantes, refugiados e minorias religiosas no Quénia e na Bulgária. Passei um tempo com uma comunidade de rotuladores de dados, a força de trabalho oculta do Sul Global que ajuda a treinar e moldar os sistemas de IA com os quais interagimos por meio de Meta, OpenAI, Walmart e Tesla.
“Essas histórias mostram o que acontece quando o preconceito social é incorporado ao software de IA.”
Em Amesterdão, a mãe solteira imigrante Diana Gio descobre que os seus filhos estão numa lista escolhida a dedo por um algoritmo que prevê que cometerão crimes graves no futuro. Os benefícios trazidos pela tecnologia são muitas vezes usufruídos por uma maioria privilegiada, enquanto aqueles que contribuem de forma invisível para a IA ou que são afetados negativamente por ela são frequentemente marginalizados. Essas histórias mostram o que acontece quando o preconceito social é incorporado ao software de IA. A tecnologia que desvaloriza a agência humana e é introduzida sem a contribuição das comunidades que impacta tem implicações importantes.
3. O tecno-solucionismo (a ideia de que a tecnologia pode resolver tudo) é um mito.
Os empresários da IA e da tecnologia acreditam que a IA é a solução para os maiores desafios da sociedade, como as doenças, as alterações climáticas e a pobreza, mas esta crença muitas vezes termina em becos sem saída.
Por exemplo, em Salta, uma pequena cidade no norte da Argentina, o governo municipal colaborou com a Microsoft para criar um algoritmo preditivo que estima (com 86% de precisão) quais as adolescentes que engravidarão em bairros de baixos rendimentos na periferia da cidade. Os sistemas de IA acabarão por marcar 1 em cada 3 famílias em risco de gravidez na adolescência, tornando mais simples a compreensão de que são necessárias intervenções a nível comunitário, incluindo um melhor investimento em apoio social e oportunidades de emprego. Não precisei coletar dados de invasões intermitentes de meninas daquela vizinhança para provar isso.
4. A importância da agência humana.
Uma das histórias mais edificantes que descobri foi a da Dra. Ashita Singh, uma médica que atendeu pessoas de uma comunidade indígena conhecida como povo Bhil, na Índia rural. Ela prestou assistência médica àqueles que mais precisavam. Singh também ajudou a testar e desenvolver um sistema de IA que pode diagnosticar tuberculose apenas olhando uma imagem de raio-X.
O Dr. Singh ensinou-me sobre a importância de preservar a agência e a experiência humanas à medida que automatizamos as partes mais humanas da sociedade, como a justiça criminal, a educação e os cuidados de saúde. Ela demonstrou que o trabalho dos melhores médicos deveria ser melhorado e não substituído. Embora a tecnologia de IA possa ser utilizada para colmatar esta lacuna, o lado humano dos cuidados – ser capaz de ouvir, ter empatia e falar com os pacientes – não pode ser substituído pela tecnologia.
“Ela demonstrou como o trabalho dos nossos melhores médicos deveria ser melhorado, e não substituído.”
Também trouxe à tona a importância da responsabilidade: quem pega a caneta no final do dia. Quando os sistemas de IA falham, ou seja, quando os sistemas estatísticos cometem os erros esperados, é importante identificar quem é o responsável final pelos danos causados por esses erros do sistema.
A IA tem o potencial de enfraquecer a agência humana. À medida que explorámos a história dos deepfakes, e da pornografia deepfake em particular, ouvimos da poetisa Helen Mort, do norte da Inglaterra, e de Noel Martin, um estudante de Sydney, Austrália, sobre o profundo impacto pessoal que a pornografia deepfake teve nos humanos. a vida deles. A falta de agência humana para reparar os danos dos deepfakes fez com que se sentissem não apenas vulneráveis, mas também fracos. Mas através destas histórias, também vemos como a agência humana pode ser fortalecida, especialmente em grupos. Por exemplo, quando olhamos para o trabalho gig, vemos sindicatos e activistas a unirem-se para lutar contra sistemas de IA sem rosto.
5. Colonialismo de dados e participação global.
Numa nova era de colonialismo de dados, um pequeno número de intervenientes poderosos pode explorar e extrair dados. Fazem-no utilizando dados tanto de pessoas do Sul Global (ou de outras regiões mais pobres do mundo) como de pessoas de países ocidentais.
Por exemplo, muitos criadores coletaram texto, música, imagens e arte para construir sistemas generativos de IA. Este conceito de colonialismo de dados, proposto pelo académico Nick Cadley, refere-se à maior concentração de poder na era da IA, à medida que mais e mais dados são extraídos de pessoas em todo o mundo. Isso serve como um alerta sobre como devemos encarar a solução desses problemas.
A minha maior conclusão é que quanto mais diversas vozes incluirmos (incluindo pessoas de países não ocidentais, minorias religiosas, imigrantes e residentes rurais e urbanos), mais holísticos e bem-sucedidos serão os nossos sistemas de IA. . . Minha busca para explorar como a IA mudou vidas também me mudou. As histórias mais inspiradoras que encontrei não são sobre algoritmos sofisticados e seus resultados, mas sobre os humanos que estão usando e adaptando a tecnologia: médicos, cientistas e outros que representam o melhor de nós, trabalhadores e criadores. Embora continue optimista quanto ao valor potencial da IA, acredito que, por melhores que sejam as ferramentas, elas só serão úteis se a dignidade humana for preservada. A minha maior esperança para a IA não é criar uma espécie nova e melhorada, mas ajudar-nos, humanos comuns imperfeitos, a viver as nossas vidas melhores e mais felizes.
Para ouvir a versão em áudio lida pela autora Madhumita Muruja, baixe agora o aplicativo Next Big Idea.
