Você está sentado? Tentando dar crédito aos fornecedores corporativos. Claro, tem havido muito entusiasmo sobre a IA desde a palestra principal nesta primavera, mas nos bastidores, muitas vezes ouvimos conversas mais concretas sobre como tornar a IA mais responsável (e eficaz).
Por outro lado, não ouvimos o suficiente sobre questões tendenciosas: dados de treinamento tendenciosos, resultados tendenciosos e humanos tendenciosos desenvolvendo IA. Na verdade, o preconceito é um problema muito espinhoso que nunca será totalmente resolvido.
Também não ouvimos o suficiente sobre a diversidade das equipes de IA. Até agora, minha pesquisa mostra que equipes mais diversificadas apenas produzem IA melhor. E tendem a reconhecer preconceitos cada vez mais cedo. A “diversidade” pode ser definida de muitas maneiras, e não apenas de grupos legalmente protegidos (e geralmente sub-representados). Agora vem a parte emocionante. Equipes diversas tendem a fazer diferentes perguntas sobre IA, conduzindo projetos de IA em direções novas e frutíferas. O CTO da Sage, Aaron Harris, me disse:
É muito claro que se vamos treinar uma IA para tomar decisões como os humanos, precisamos representar o espectro da humanidade no processo. O que muitas vezes não pensamos é em decidir qual problema resolver. À medida que as pessoas que lideram o desenvolvimento da IA se tornam mais diversificadas, haverá um conjunto diferente de problemas a resolver com a utilização da IA. É mais expansivo. E acho que isso é tão importante quanto abordar questões de preconceito.
Uma IA melhor requer uma força de trabalho diversificada – como se enquadram as parcerias comunitárias da Sage
A diversidade na IA foi um destaque inesperado no evento de analistas da Sage em Atlanta na semana passada. Não é uma abordagem pesada, mas uma abordagem comunitária baseada no investimento mais profundo da Sage em Atlanta (a Sage está mudando sua sede na América do Norte para a área do Ponce City Market). A nossa discussão foi motivada pela parceria contínua da Sage com a BOSS Network e o Morehouse College. Harris disse aos analistas reunidos:
Se quisermos realmente construir uma grande organização em Atlanta, precisamos de uma comunidade onde as pessoas conheçam a Sage e onde os estudantes destas grandes universidades pensem em nós como um local para trabalhar, exigindo um compromisso multigeracional. Isso transparece nas atividades cívicas da cidade… São duas coisas. É um compromisso de longo prazo com Atlanta. Mas a realidade é que, à medida que a tecnologia avança, precisaremos de uma força de trabalho mais diversificada, especialmente quando se trata de IA.
É uma meta que vale a pena, mas é tudo uma questão de acompanhamento, e é aí que as marcas costumam tropeçar. Porque o acompanhamento é fundamental. O acompanhamento pode demorar um pouco. E você verá do que a marca realmente é feita. Amy Cosgrove, vice-presidente da Sage para a América do Norte, começou o dia com detalhes sobre parcerias notáveis em Atlanta e arredores, incluindo dois programas com o Morehouse College. Um desses programas é a parceria Morehouse e Sage AI. Cosgrove:
Morehouse College é uma faculdade historicamente negra. Parte do Consórcio do Centro Universitário de Atlanta [AUCC], o maior consórcio mundial de universidades historicamente negras… Em 2023, lançamos nosso primeiro programa de IA. Começamos isso para trabalhar com Morehouse para ajudar a resolver a sub-representação de funcionários negros em computação e tecnologia.
Este é um programa abrangente projetado para ajudar os alunos a compreender os fundamentos da IA generativa. Este é um curso de 15 semanas. Em seu primeiro ano, mais de 20 alunos da AUCC participaram do programa. Atualmente, quatro dos participantes do programa são estagiários da Sage neste verão. Eles trabalham para nós no AI Copilot e Cloudops.
Harris então fez os seguintes comentários duros: Como a IA homogênea não leva à IA apropriada. Achei que aquele comentário fosse uma estrutura o dia todo. Como ele me disse mais tarde:
Sempre fico agradavelmente surpreso com quantas pessoas se preocupam com isso… elas se preocupam com o fato de estarmos trabalhando com Morehouse e BOSS Network. O outro projeto em que estamos trabalhando, no qual trabalhamos juntos há mais tempo, é Teens in AI. Os adolescentes na área de IA nasceram de uma missão das Nações Unidas. O único objetivo do Teens in AI é incentivar as meninas a seguirem carreiras em IA. Estão a dar prioridade aos países onde as raparigas enfrentam os problemas mais difíceis. Pode ser infraestrutura, pode ser cultura. Eles realizam hackathons em todo o mundo, onde quer que seja mais difícil para as meninas seguirem carreira em IA.
Quer sair da caixa de ideias insípidas de IA? Os próximos adolescentes que participarão de um hackathon de IA terão um bom começo.
Costumo atuar como jurado nesses hackathons, e isso é muito memorável. onde está o coração deles? Que problema eles querem resolver?
The BOSS Network – Mulheres Negras Empreendedoras Superando Desafios
Falando em The BOSS Network, eles também estavam lá. Há alguns anos, Madeline Bennett escreveu um artigo sobre a parceria Sage da BOSS Network para Diginomics. Atualizado esta semana: “A reação à diversidade torna ainda mais difícil para as mulheres negras empresárias obter financiamento”. Enquanto estava em Atlanta, o fundador da BOSS Network, Dr. Cameka Smith, estava participando de uma celebração para os membros da BOSS Network, cuja empresa foi recentemente adquirida pela Procter & Gamble por US$ 800 milhões.
É uma ótima história, mas há mais do que isso. Perguntei a Smith sobre as estatísticas do artigo de Bennett. Talvez o mais desconcertante? As mulheres negras são as que mais empreendem no país, mas receberam apenas 0,34% do financiamento de capital de risco em 2021. O senhor Smith respondeu:
Os fundos não estão lá. Na ausência de apoio, decidimos investir em nós mesmos… Se você olhar os números, menos de 1% das mulheres negras realmente recebem financiamento de VCs. Provavelmente conheço metade dos fundadores. Acho que nós, como comunidade, sempre entendemos que existe racismo sistêmico. Então decidimos dizer: “Não queremos focar no que não temos, vamos aproveitar o que temos e seguir em frente”. Esse é o espírito do empreendedorismo. Você ganha muito pouco, mas faz algo com isso. Essa é a história de sucesso de muitos empreendedores.
Os novos investimentos da Sage em Atlanta farão parte dessa história de sucesso? Isso será algo a ser observado? Harris me disse:
Queríamos estar profundamente conectados e integrados à comunidade local da cidade onde temos nosso escritório principal. E esses dois são Newcastle. [UK] E Atlanta. Há muito mais pessoas em Newcastle do que em Atlanta… Newcastle é uma cidade muito menor. Por isso, optamos intencionalmente por localizar nosso escritório em Ponce City Market, no coração histórico de Atlanta. E optamos por trabalhar com essas organizações que refletem diretamente o nosso propósito como empresa.
Martin Phelps, diretor de relações globais com analistas da Sage, criticou a fala às vezes ouvida sobre essas questões. Após embaralhar a programação dos palestrantes, Phelps disse:
Na verdade, funcionou muito bem. Porque Amy disse o que eu estava tentando enfatizar com muito mais força do que pude. Esses pontos estavam alinhados ao nosso propósito de “quebrar barreiras e capacitar todos para crescer”. Normalmente, trata-se de democratizar o sistema, dando às pequenas empresas o mesmo tipo de acesso que as grandes corporações têm. Mas isto também inclui os nossos objetivos em termos de como nos envolvemos com organizações como Morehouse e BOSS Network. O jogo apresenta pele real. É mais do que apenas preencher um cheque.
Já trabalhei em outras organizações onde todos possuem um programa de responsabilidade social corporativa em vigor. Mas alguns deles são, na verdade, como preencher um cheque. Acho que há uma diferença aqui. Na verdade, estamos inseridos nesses tipos de atividades e organizações.
minha visão
A única maneira de Sage ser diferente é ir até o fim. Mas deixe-me apenas dizer isto. É incomum que um analista de empresa comece o dia com um palestrante da comunidade. Investir na diversidade raramente está no centro das discussões sobre IA. O Sr. Phelps está certo. Para que isso funcione, as empresas precisam realmente se incorporar. Senhor Smith disse:
Todos os meses, a Sage recebe um mentor da equipa de liderança. Honestamente, eles são as estrelas brilhantes deste programa porque vêm como mentores. Eles estão orientando essas mulheres e elas se sentem tão conectadas que a marca realmente acredita nelas e se esforça para apoiá-las proativamente com os mais recentes insights e táticas.
É claro que a diversidade não é o único desafio da IA. Para saber mais sobre a estratégia de IA da Sage, consulte meu artigo Sage Transform, “O desenvolvimento de software de IA é completamente diferente” (Como a Sage pode fornecer IA empresarial com milhares de modelos financeiros específicos do cliente). Durante a manifestação em Atlanta, pedi a Harris que elaborasse sua próxima declaração.Os clientes exigem modelos de IA personalizados, o que é um desafio muito maior do que a multilocação. ” Ele respondeu:
A construção de soluções de IA é fundamentalmente diferente do software de construção tradicional. A melhor maneira de descrever isso é que estamos construindo uma fábrica que automatiza processos de treinamento, implantação e operações.Codificando a infraestrutura dentes trabalhar. E há os cientistas de dados. Eles descobrem quais são os melhores algoritmos e quais são as melhores abordagens para a curadoria de dados. Mas basicamente, o que você precisa fazer é automatizar tudo isso e construir uma fábrica que gerencie tudo isso, e essa é a grande parte. o trabalho.
Conectar a codificação da infraestrutura de IA à diversidade de equipes de IA está além do nosso escopo hoje, mas, em resumo, se você deseja construir uma IA melhor, precisa selecionar dados e construir algoritmos. Democratizar estas competências é certamente uma missão digna. Quando conheci Dan Miller, vice-presidente de finanças e ERP da Sage, ele disse que o evento fez com que o mantra “Quebrando Barreiras” da Sage soasse verdadeiro. Miller disse que a frase “quebrar barreiras e capacitar todos para o sucesso” evoluiu e se consolidou.
É um beco sem saída. Digo isso toda vez que estou diante de um grande grupo de pessoas. Não porque sintamos que temos que explicar o nosso propósito, mas sim porque é fundamental para quem somos e por que fazemos o que fazemos; As pessoas que procuramos servir.
Você poderia considerar esta afirmação um desafio, ou um padrão elevado, e isso é uma coisa boa.
