O Google está consolidando várias equipes que trabalham em IA generativa sob a equipe DeepMind para acelerar o desenvolvimento de sistemas mais capazes.
A decisão, tomada pelo CEO Sundar Pichai na quinta-feira, baseia-se em esforços anteriores de consolidação em torno do desenvolvimento de IA em fábricas de chocolate. No ano passado, o gigante das buscas fundiu sua equipe DeepMind com sua divisão Brain para formar um grupo confuso chamado Google DeepMind. Essa equipe foi responsável pelo treinamento do modelo por trás do chatbot Gemini do Google.
Pichai agora planeja mover todas as equipes que constroem modelos de IA sob o mesmo teto.
“Todo esse trabalho será hospedado no Google DeepMind, expandindo nossa capacidade de fornecer IA poderosa aos nossos usuários, parceiros e clientes”, disse ele, acrescentando que as mudanças trarão o Google Research para o núcleo da computação fundamental e da IA aplicada. Ele acrescentou que isso lhe permitirá se concentrar mais na pesquisa em computação. Ciência.
A chamada equipe de IA responsável do Google também se juntará à equipe DeepMind e deverá desempenhar um papel maior no desenvolvimento inicial de novos modelos. O Google disse que já transferiu outros grupos de responsabilidade para uma equipe central de confiança e segurança e planeja construir protocolos mais amplos de testes e avaliação de IA.
Essa mudança provavelmente foi feita para evitar os problemas incômodos que atormentaram muitos dos primeiros produtos generativos de IA, como o Bard do Google e, mais tarde, o chatbot Gemini.
Em fevereiro, o Google foi forçado a descontinuar seu recurso de geração de texto para imagem depois que o Gemini não conseguiu representar com precisão os europeus e os americanos em determinados contextos históricos. Por exemplo, se você pedir para gerar imagens de soldados alemães em 1943, ele gerará consistentemente imagens de pessoas não brancas.
Para evitar isso, o Google está “padronizando os requisitos de lançamento para recursos alimentados por IA e conduzindo extensos testes de vulnerabilidades da ‘equipe vermelha’ para garantir que as respostas sejam precisas e respondam aos usuários. Estamos aumentando nosso investimento em reputação”, disse Pichai.
Em outras palavras, o Google agora se estabeleceu como uma potência em IA generativa ao lado de empresas como Microsoft e OpenAI, então poderia usar um pouco mais de tempo para descobrir como fazer com que seus modelos se comportem mal antes que os usuários o façam.
Contornar as barreiras de proteção da IA para gerar conteúdo ou sugestões abusivas, tóxicas ou perigosas, como cometer suicídio, tornou-se um grande problema para os construtores de modelos.
Os esforços de integração também se estendem ao desenvolvimento de hardware de IA. Essa mudança combinará a equipe de Plataformas e Ecossistemas e a equipe de Dispositivos e Serviços em um novo grupo denominado Plataformas e Dispositivos. Como parte desta mudança, os funcionários que trabalham com fotografia computacional e inteligência no dispositivo também se juntarão à divisão combinada de hardware.
Pichai concluiu seu memorando alertando os funcionários para deixarem suas vinganças pessoais em casa.
“Este é um negócio, e você não deve se comportar de uma forma que irrite seus colegas, faça com que se sintam inseguros, tente usar a empresa como uma plataforma pessoal, brigue por questões perturbadoras ou debata políticas. ” ele escreveu.
Os comentários de Pichai parecem referir-se aos 28 funcionários que foram demitidos esta semana por protestarem contra o acordo do Google com o governo israelense, mas também se aplicam ao campo minado ético em que o campo da IA está se expandindo rapidamente. ®
