- Leopold Aschenbrenner, um pesquisador demitido, publicou um ensaio de 165 páginas sobre o futuro da IA.
- O artigo de Aschenbrenner discute os rápidos avanços na IA, as suas implicações de segurança e o seu impacto na sociedade.
- Aqui está o que o GPT-4 pensa sobre as previsões de Aschenbrenner.
Nos últimos meses, vários funcionários deixaram a OpenAI devido a preocupações com os esforços de segurança da empresa.
Além de fazer um anúncio sensato de saída em relação ao X, eles não disseram muito sobre a abordagem de desenvolvimento da OpenAI ou por que estão preocupados com o futuro da IA.
Isto é, até o início desta semana, quando Leopold Aschenbrenner, um pesquisador que foi demitido da OpenAI em abril, publicou suas idéias sobre a revolução da IA em um artigo épico de 165 páginas.
Aschenbrenner trabalhou na equipe Super Alignment da OpenAI – Tínhamos a missão de reduzir os riscos da IA. Aschenbrenner disse que a OpenAI o demitiu por vazar informações sobre a prontidão da empresa para inteligência artificial geral.
Aschenbrenner disse que as informações que compartilhou eram “totalmente normais” e que a OpenAI pode estar procurando um motivo para demiti-lo. Ele foi um dos vários funcionários que se recusaram a assinar uma carta pedindo a reintegração do CEO Sam Altman. O conselho removeu temporariamente Altman no ano passado.
O ensaio de Aschenbrenner não é Parece Contém informações confidenciais sobre OpenAI. Em vez disso, como escreve Aschenbrenner em sua página de dedicatória, é baseado em “informações publicamente disponíveis, meus próprios pensamentos, conhecimento geral de campo ou fofocas de ficção científica”.
Business Insider foi carregado Trata do modelo GPT-4 da OpenAI. Pedimos-lhe que resumisse o seu trabalho e transmitisse os pontos mais importantes. Além disso, mantenha a visão geral do seu bot clara e concisa.
Este é o resumo de 57 palavras do ChatGPT do ensaio de Aschenbrenner.
ChatGPT resumiu o ensaio de Aschenbrenner descrevendo seus pontos de vista sobre a evolução da IA em 57 palavras.
“O ensaio de Leopold Aschenbrenner discute o potencial transformador da inteligência artificial geral (AGI) e da superinteligência, prevendo avanços significativos na tecnologia de IA no futuro próximo. Com base nas tendências de poder computacional e eficiência algorítmica dos modelos atuais de IA como o GPT-4, a AGI poderia ocorrer. muito mais rápido do que o esperado, disse Aschenbrenner.
O ChatGPT forneceu quatro pontos principais: ensaio de Aschenbrenner
Avanços rápidos em IA
“Aschenbrenner argumenta que o desenvolvimento da IA está acelerando a um ritmo sem precedentes. Ele acredita que até 2027, os modelos de IA atingirão as capacidades dos pesquisadores e engenheiros humanos de IA, e que potencialmente a IA prevê que isso poderia levar a uma explosão de inteligência que. supera a dos humanos.
Impacto económico e de segurança
“Este ensaio destaca que estes avanços têm enormes implicações económicas e de segurança. Aschenbrenner argumenta que estão a ser investidos biliões de dólares no desenvolvimento da infra-estrutura necessária para a China, especialmente para evitar abusos por parte de actores estatais como o Partido Comunista Chinês. É importante proteger essas tecnologias.”
Desafios técnicos e éticos
“Desafios Técnicos e Éticos: Este ensaio discute os desafios significativos de controlar sistemas de IA que são mais inteligentes que os humanos, aos quais nos referimos como o problema do “superalinhamento”. Gerenciar isso é muito importante para evitar consequências catastróficas. ”
Previsão e impacto social
“Aschenbrenner sugere que poucas pessoas compreendem verdadeiramente a escala das mudanças que a IA está a provocar. Ele acredita que a IA remodelará as indústrias e fortalecerá a segurança nacional e discutirá o potencial para novos desafios na ética e na governação.
Temos outros também.
Como escreveu Aschenbrenner, provavelmente existem apenas algumas centenas de pessoas com “consciência situacional” sobre a indústria, a maioria delas no Instituto de IA em São Francisco. Essas pessoas podem ter a melhor visão sobre como a IA irá remodelar os próximos anos.
Aschenbrenner está entre aqueles que acreditam que a IA desempenhará um papel importante na segurança nacional.
Seguindo nossa sugestão original, pedimos ao ChatGPT que resumisse as previsões que Aschenbrenner fez em seu ensaio.
Veja como o ChatGPT dividiu tudo.
- AGI até 2027: “Aschenbrenner prevê que a inteligência artificial geral (AGI) provavelmente se tornará uma realidade até 2027, destacando o rápido progresso dos modelos de IA GPT-2 para GPT-4 que progrediram do nível pré-escolar para as habilidades inteligentes do ensino médio em apenas quatro anos. , e com base em melhorias consistentes na eficiência computacional e algorítmica, esperamos avanços semelhantes nos próximos anos.”
- Superinteligência seguindo AGI: “Pós-AGI, os autores prevêem uma 'explosão de inteligência' na qual a IA evolui rapidamente do nível humano para capacidades sobre-humanas. Esta transição será impulsionada pela capacidade da IA de automatizar e acelerar a sua própria investigação e desenvolvimento. Espera-se que seja promovida.”
- Cluster de IA de um trilhão de dólares: “Economicamente, Aschenbrenner sugere que o setor de IA verá um aumento no investimento em clusters de computação multibilionários à medida que empresas e governos se preparam para o impacto da AGI e da superinteligência.”
- Dinâmica de segurança nacional e global: “Há previsões de que fortes medidas de segurança nacional serão promulgadas para gerir e controlar o desenvolvimento da IA. A concorrência, especialmente com o governo chinês, intensificar-se-á e levará a uma ‘guerra total’ se não for devidamente gerida, existe uma possibilidade.” .”
- Desafios de super alinhamento: “Uma das previsões mais importantes é a luta contra o ‘hiperalinhamento’, o desafio de manter a IA superinteligente alinhada com os valores e interesses humanos. Espera-se que se torne um dos obstáculos centrais à medida que ultrapassamos o nível da inteligência humana. ”
- Transformação social e económica: “Aschenbrenner prevê que a IA terá um grande impacto na sociedade e na economia, levando potencialmente à reestruturação das indústrias e dos mercados de trabalho devido à sua capacidade de executar tarefas atualmente geridas por humanos.
- Envolvimento do governo dos EUA no projeto: “Talvez devido à importância estratégica da tecnologia de IA, prevê-se que o governo dos EUA se envolverá fortemente no desenvolvimento de IA por volta de 2027-2028 através de projetos AGI dedicados.”
- Mobilizando tecnologia: “Ele concentra-se na IA e na sua infra-estrutura de apoio como uma prioridade política nacional e antecipa uma mobilização de recursos tecnológicos e industriais semelhante aos esforços históricos de guerra.”
Aqui está o prompt completo que usei:
Função: Atua como editor. Tarefa: Leia o ensaio anexo sobre o ex-pesquisador da OpenAI Leopold Aschenbrenner. Instruções:
- Resuma seu ensaio destacando os pontos mais importantes.
- Destacamos as principais contribuições, áreas de pesquisa e impactos notáveis no campo.
- Certifique-se de que seu resumo seja conciso, mas abrangente, e forneça uma compreensão clara do trabalho e da influência de Aschenbrenner.
