Acompanhar um setor em rápida mudança como a IA é um desafio. Então, até que a IA possa fazer isso por você, aqui está uma rápida recapitulação de histórias recentes no mundo do aprendizado de máquina, bem como pesquisas e experimentos notáveis que não poderíamos cobrir sozinhos.
A propósito, o TechCrunch publicará um boletim informativo sobre IA no dia 5 de junho. procurando por. Enquanto isso, aumentaremos a frequência de nossas colunas semirregulares de IA de duas vezes por mês (ou mais) para semanalmente. Então fique de olho que mais edições estão por vir.
No espaço de IA esta semana, a OpenAI lançou planos com descontos para clientes sem fins lucrativos e educacionais, coroando seus esforços mais recentes para impedir que atores mal-intencionados explorem ferramentas de IA. Pelo menos na opinião deste escritor, não há muito o que criticar. Mas eu intenção Ele disse que a série de anúncios parecia ser cronometrada para conter a recente má imprensa da empresa.
Vamos começar com Scarlett Johansson. A OpenAI removeu uma das vozes usadas por seu chatbot com tecnologia de IA, ChatGPT, depois que um usuário apontou que soava estranhamente semelhante à voz de Johansson. Mais tarde, Johansson divulgou um comunicado dizendo que contratou um advogado para investigar o áudio e obter detalhes exatos sobre como ele foi desenvolvido. A empresa também disse que rejeitou repetidos apelos da OpenAI para licenciar áudio para ChatGPT.
Agora, o artigo do Washington Post sugere que a OpenAI não estava realmente tentando clonar a voz de Johansson e que as semelhanças são coincidentes. Mas então por que o CEO da OpenAI, Sam Altman, procurou Johansson dois dias antes de uma demonstração chamativa com vozes semelhantes para instá-lo a reconsiderar?
Depois, há também a questão da confiabilidade e segurança do OpenAI.
Como informamos no início deste mês, a equipe de Superalinhamento da OpenAI, já dissolvida, responsável por desenvolver maneiras de gerenciar e operar sistemas de IA “superinteligentes”, recebeu a promessa de 20% dos recursos de computação da empresa. recebido. esse. Isto (entre outras razões) levou à demissão dos dois colíderes da equipe, Jan Reike e do ex-cientista-chefe da OpenAI, Ilya Sutskeva.
Quase uma dúzia de profissionais de segurança deixaram a OpenAI no ano passado. Várias empresas, incluindo a Like, levantaram publicamente preocupações de que a empresa esteja priorizando projetos comerciais em detrimento dos esforços de segurança e transparência. Em resposta às críticas, a OpenAI estabeleceu um novo comitê para supervisionar as decisões de segurança relacionadas aos projetos e operações da empresa. Mas ele nomeou membros internos, incluindo Altman, para o comitê, em vez de observadores externos. Isso é algo que a OpenAI está considerando abandonar sua organização sem fins lucrativos em favor de um modelo tradicional com fins lucrativos.
Incidentes como este tornam difícil confiar na OpenAI, uma empresa que cresce em poder e influência todos os dias (ver Acordos com Editores de Notícias). Poucas empresas, se houver alguma, valem a pena confiar. Mas a tecnologia revolucionária da OpenAI torna as violações ainda mais preocupantes.
Não ajuda em nada o fato de o próprio Altman não ser um pioneiro da verossimilhança.
Surgiram notícias sobre as táticas agressivas da OpenAI contra ex-funcionários, implicando que eles seriam ameaçados de perder seus interesses adquiridos ou impedi-los de vender suas ações, a menos que assinassem acordos limitados de não divulgação. Na época, Altman pediu desculpas e alegou que não tinha conhecimento de. tal coisa. política. Mas a Vox diz que os documentos fundadores que estabeleceram a política trazem a assinatura de Altman.
E se acreditarmos na ex-membro do conselho da OpenAI, Helen Toner (uma das ex-membros do conselho que tentou remover Altman de seu cargo no final do ano passado), Altman está ocultando informações e eles deturparam o que estava acontecendo e, em alguns casos, mentiram abertamente. quadro. Toner disse que o conselho soube do lançamento do ChatGPT através do Twitter, não de Altman. que o Sr. Altman forneceu informações falsas sobre as práticas oficiais de segurança da OpenAI; Insatisfeito com um artigo acadêmico de autoria de Toner que lançou uma luz crítica sobre o OpenAI, Altman supostamente tentou manipular os membros do conselho para forçar Toner a sair do conselho.
Nada disso funciona para cabras.
Aqui estão algumas outras histórias notáveis de IA dos últimos dias.
- Clonar áudio ficou mais fácil: Um novo relatório do Center for Countering Digital Hate conclui que os serviços de clonagem de voz alimentados por IA tornam muito mais fácil forjar declarações de políticos.
- A visão geral da IA do Google enfrenta dificuldades: As visões gerais de IA, os resultados de pesquisa gerados por IA que o Google começou a implantar mais amplamente na Pesquisa Google no início deste mês, precisam de algum trabalho. A empresa reconhece isso, mas afirma que está iterando rapidamente. (Vamos dar uma olhada.)
- Paul Graham fala sobre Altman: Paul Graham, cofundador da aceleradora de startups Y Combinator, disse em uma série de postagens no site que rejeitou a alegação de que sim. (Y Combinator tem uma pequena participação na OpenAI.)
- xAI levanta US$ 6 bilhões: A startup de IA de Elon Musk, xAI, levantou US$ 6 bilhões em financiamento enquanto Musk aumenta o capital para competir agressivamente com rivais como OpenAI, Microsoft e Alphabet.
- Novos recursos de IA do Perplexity: Ivan relata que a startup de IA Perplexity visa permitir que os usuários criem relatórios, artigos e guias em um formato mais atraente visualmente com seu novo recurso Perplexity Pages.
- Números favoritos do modelo AI: Devin escreve sobre os números que vários modelos de IA escolhem quando recebem a tarefa de dar uma resposta aleatória. Afinal, eles têm favoritos e cada um reflete os dados sobre os quais foram treinados.
- Mistral lança Chordstral: Mistral, uma startup francesa de IA apoiada pela Microsoft e avaliada em US$ 6 bilhões, lançou seu primeiro modelo generativo de IA para codificação, chamado Codestral. No entanto, graças à licença altamente restritiva do Mistral, não pode ser utilizado comercialmente.
- Chatbots e privacidade: Natasha escreve sobre a força-tarefa ChatGPT da União Europeia e como ela fornece a primeira tentativa de desvendar a conformidade de privacidade para chatbots de IA.
- Gerador de som de onze laboratórios: A startup de clonagem de voz ElevenLabs introduziu uma nova ferramenta que permite aos usuários gerar efeitos sonoros por meio de prompts. A ferramenta foi anunciada pela primeira vez em fevereiro.
- Interconexão de chips AI: Gigantes da tecnologia, incluindo Microsoft, Google e Intel, em vez de Arm, Nvidia e AWS, formaram um grupo industrial, o UALink Promoter Group, para ajudar a desenvolver componentes de chips de IA de próxima geração.
