Como o CTO da Amazon, Werner Vogels, um homem de imensa riqueza, comprou o pequeno Airbnb em que morava no centro de Amsterdã durante a pandemia do coronavírus? À primeira vista, parece que você está criando um aplicativo de resumo de reuniões com tecnologia de IA. Vai saber.
Na postagem desta semana no blog pessoal de Vogels, ele detalha o Distill, um aplicativo de código aberto que ele construiu com sua equipe “OCTO'' (Escritório do CTO) para transcrever e resumir teleconferências. O Distill faz gravações de áudio de reuniões (em formatos como MP3, FLAC, WAV, etc.), analisa-as e gera resumos junto com uma lista de tarefas pendentes. Opcionalmente, você pode enviar resumos e listas para plataformas como o Slack por meio de integrações personalizadas.
Como seria de esperar de um aplicativo do CTO da Amazon, a Distill depende claramente dos produtos e serviços pagos da Amazon para fazer o trabalho computacionalmente pesado. O AWS Transcribe realiza a transcrição do Distill. O Amazon S3 fornece armazenamento para arquivos de áudio de conferências. Bedrock, o conjunto de desenvolvimento de IA generativo da Amazon, cuida do resumo.
Mas por que criar um resumo de reuniões quando existem inúmeras ferramentas que podem servir a esse propósito? Bem, você deve imaginar que foi isso que Vogels pensou. Afinal, ele tem muitos recursos à sua disposição e muito tempo livre para projetos de programação hobby. De acordo com seu blog, ele já está trabalhando na portabilidade do código do Distill do Python para o Rust. Se você conseguir um emprego de CTO, será um ótimo trabalho.
Uma das coisas únicas do Distill é que você pode escolher um modelo de IA para realizar o resumo da reunião. O padrão é o Sonnet, um modelo intermediário da família Claude 3 da Anthropic. (O grande investimento da Amazon na Anthropic pode ter algo a ver com suas decisões de design.) Mas Bedrock hospeda outros projetos, incluindo o Llama 3 da Meta e modelos das startups de IA Mistral, AI21 Labs e Cohere. Todos os modelos listados são funcionais.
Vogels não promete que Distill não cometerá erros.
“Lembre-se, a IA não é perfeita”, escreve ele. “Alguns dos resumos que retornamos contêm erros que precisamos ajustar manualmente, mas tudo bem porque acelera o processo. É apenas um lembrete de que você precisa estar capacitado e envolvido no processo. agora como era então.”
Eu diria que ter que “envolver” a sumarização mina o significado do recurso de sumarização automática. Você pode querer contratar um estenógrafo. Mas você nunca verá o Sr. Vogels falando mal da tecnologia que seu empregador vende. Eu diria que é por isso que ele ainda é o CTO.
