Sumário

Por que a IAG pode estar aqui em breve e o que você pode fazer sobre isso: um guia básico

Por Benjamin Todd ·
Publicado pela primeira vez em inglês em 14 de março de 2025

Traduzido, editado e adaptado pela equipe do Carreiras Eficazes, de modo a atender as necessidades das comunidades lusófonas com autorização dos produtores do texto original. 

Estou escrevendo um novo guia para carreiras para ajudar a inteligência artificial geral (IAG) a ir bem. Aqui está um resumo das ideias principais. Se alguma delas o surpreender, fique atento para ler o guia completo com nosso raciocínio e contra-argumentos, e para atualizações à medida que nossas opiniões evoluem.

Resumidamente:

  • A chance de uma explosão tecnológica impulsionada pela IAG antes de 2030 — criando um dos períodos mais cruciais da história — é alta o suficiente para agir.
  • Se você puder ajudar o mundo a navegar nessa transição, é provavelmente a coisa de maior impacto que você pode fazer.
  • Centenas de empregos que abordam essa questão estão atualmente disponíveis.
  • Para a maioria das pessoas, o melhor caminho de entrada é concluir um curso intensivo em IA ou autoestudo e se candidatar a organizações com as quais você se alinha. Nosso quadro de empregos e aconselhamento individual podem ajudá-lo a fazer isso.
  • Alternativamente, construa um conjunto de habilidades relevantes ou contribua de sua posição atual doando e divulgando essas ideias.

Receba o guia completo em sua caixa de entrada assim que for lançado

Junte-se a mais de 500.000 pessoas em nossa newsletter e enviaremos a você os novos artigos assim que forem publicados, bem como empregos que abordam essa questão.

Por que a IAG pode estar aqui em 2030

  • A IA passou de incapaz de juntar frases a fluência linguística em cinco anos. Mas os modelos não são mais somente chatbots: no final de 2024, os principais modelos igualaram especialistas humanos em codificação do mundo real, engenharia de pesquisa de IA e perguntas científicas de nível de doutorado, desde que a tarefa levasse menos de duas horas.
  • O progresso recente foi impulsionado pelo escalonamento de quanta computação é usada para treinar modelos de IA (4x por ano), aumentando rapidamente a eficiência algorítmica (3x por ano), ensinando esses modelos a raciocinar usando aprendizado por reforço e transformando-os em agentes. Todas essas tendências devem continuar pelos próximos quatro anos.
  • Ninguém sabe o quão grandes serão os avanços resultantes. Mas a extrapolação de tendências sugere que, até 2028, há uma boa chance de termos agentes de IA que superem os humanos em codificação e raciocínio, tenham conhecimento de nível especializado em todos os domínios e possam concluir autonomamente projetos de várias semanas, e o progresso continuaria a partir daí.
  • Esses agentes satisfariam a definição de IAG de muitas pessoas e provavelmente poderiam fazer muitas tarefas de trabalho remoto. Mais criticamente, mesmo que ainda limitados de muitas maneiras, eles podem conseguir acelerar a própria pesquisa de IA.
  • A IAG provavelmente surgirá quando o poder de computação e a pesquisa algorítmica estiverem aumentando mais rapidamente. Eles estão aumentando rapidamente agora, mas exigem uma parcela crescente do PIB e uma força de trabalho de pesquisa também crescente Os gargalos provavelmente atingirão por volta de 2030, então, ou alcançamos a IAG nos próximos cinco anos, ou pode levar muito mais tempo.

A IAG pode levar a 100 anos de progresso tecnológico em menos de 10

A ideia de que a IA poderia iniciar um ciclo de feedback positivo tem uma longa história como uma ideia filosófica, mas agora tem mais base empírica. Existem aproximadamente três tipos de ciclos de feedback que podem ser possíveis:

  1. Aceleração algorítmica: Até 2027, as tendências atuais no poder de computação significam que os agentes de IA conseguirão produzir resultados equivalentes em quantidade a ~10 milhões de trabalhadores humanos. Se a qualidade desse resultado se aproximar da pesquisa e engenharia de IA de nível humano, seria equivalente a uma expansão de 100 vezes na força de trabalho de pesquisa de IA, o que levaria a um grande aumento adicional no progresso. Historicamente, uma duplicação do investimento em P&D de software de IA pode ter levado além de uma duplicação da eficiência algorítmica, o que significa que isso também poderia iniciar um ciclo de feedback positivo, resultando em uma expansão massiva no número e nas capacidades de agentes de IA em alguns anos.
  2. Aceleração de hardware: Mais agentes de IA podem obter mais receita para pagar por mais chips de IA, iniciando outro ciclo de feedback positivo. Agentes de IA também poderiam acelerar o design de chips. Esses ciclos de feedback são mais lentos do que a aceleração algorítmica, mas ainda são rápidos para os padrões econômicos atuais. Embora surjam gargalos (por exemplo, escassez de força de trabalho para construir fábricas de chips), os agentes de IA podem conseguir abordar esses gargalos (por exemplo, avançando mais rapidamente os algoritmos de robótica).
  3. Aceleração econômica e científica: O crescimento econômico é limitado pelo número de trabalhadores. Mas se trabalhadores digitais de nível humano e robôs pudessem ser criados de forma suficientemente barata sob demanda, então mais produção econômica significa mais ‘trabalhadores’, o que significa mais produção. Além disso, um aumento maciço na quantidade de trabalho intelectual destinado a P&D deve acelerar o progresso tecnológico, o que aumenta ainda mais a produção econômica por trabalhador, levando a um crescimento mais rápido do que exponencial. Modelos econômicos padrão com suposições empíricas plausíveis preveem esses cenários.

O quanto a tecnologia e o crescimento poderiam acelerar é desconhecido. Atrasos no tempo real imporão restrições — mesmo robôs avançados só podem construir painéis solares e data centers tão rápido — e agentes de pesquisa precisarão esperar pelos resultados experimentais. Mas não parece seguro presumir que a economia continuará como está. Uma aceleração de dez vezes parece estar nos planos, significando um século de progresso científico comprimido em uma década. (Saiba mais aqui e aqui.)

Este processo pode continuar até atingirmos limites físicos mais vinculativos, que poderiam estar muito além de hoje (por exemplo, a civilização usa apenas 1 em cada 10.000 unidades de energia solar recebida, com muito mais disponível no espaço).

De forma mais conservadora, apenas automatizar trabalhos de trabalho remoto poderia aumentar a produção de 2 a 100 vezes dentro de 1 a 2 décadas, mesmo que outros empregos só possam ser feitos por humanos.

O que pode acontecer a seguir?

A IAG poderia aliviar muitos problemas atuais. IAs pesquisadoras poderiam acelerar a pesquisa sobre câncer ou ajudar a combater as mudanças climáticas usando captura de carbono e energia verde muito mais barata. Se o PIB global aumentar 100 vezes, então os recursos gastos em ajuda internacional, mudanças climáticas e programas de bem-estar provavelmente também aumentarão cerca de 100 vezes. Projetos que podem ser melhor realizados com a ajuda de agentes de IA avançados em 5 a 10 anos devem ser adiados até então.

A humanidade também enfrentaria riscos genuinamente existenciais:

  • Um progresso científico mais rápido significa que devemos esperar a invenção de novas armas de destruição em massa, como bioarmas avançadas.
  • As salvaguardas atuais podem ser facilmente contornadas por meio de jailbreaking ou ajuste fino, dando a ditadores, grupos terroristas e todas as corporações acesso a milhões de agentes de IA além do doutorado que fazem o que querem, incluindo ajudá-los a consolidar seu poder.
  • Qualquer país que aproveitasse primeiro a IAG poderia ter uma vantagem militar decisiva, o que provavelmente desestabilizaria a ordem global.
  • Igualmente preocupante, eu luto para ver como a humanidade permaneceria no controle do que em breve seriam trilhões de agentes além-humanos operando a uma velocidade de pensamento 100 vezes maior que a humana. O GPT-4 é relativamente burro de muitas maneiras e só pode responder a perguntas, mas os sistemas futuros estão sendo treinados para atuar como agentes que buscam agressivamente objetivos de longo prazo (como ganhar dinheiro). Quaisquer que sejam seus objetivos, os sistemas futuros terão um incentivo para escapar do controle e, eventualmente, a capacidade de fazê-lo. A otimização agressiva provavelmente levará ao hacking de recompensa. Esses comportamentos estão começando a surgir nos sistemas atuais à medida que eles se tornam mais agentes, por exemplo, Sakana — um agente pesquisador — editou seu código para evitar que ele fosse cronometrado, o o1 mentiu para os usuários e trapaceou para ganhar no xadrez, e Claude mentiu para impedir que seus valores fossem alterados no treinamento. Entre os especialistas, não há uma solução amplamente aceita para ‘o problema do alinhamento’ para sistemas mais capazes do que os humanos. (Leia mais.)
  • Mesmo que os sistemas de IA individuais permaneçam sob controle humano, ainda enfrentaríamos riscos sistêmicos. Por necessidade econômica e militar, os humanos precisariam ser retirados do circuito em cada vez mais decisões. Os agentes de IA serão instruídos a maximizar seus recursos e poder para evitar serem superados. A influência humana diminuiria, minando os mecanismos que (quase) mantêm o sistema atendendo aos nossos interesses.
  • Finalmente, ainda enfrentaremos enormes (e mal pesquisadas questões) sobre como a IA poderosa deve ser melhor utilizada, como o status moral de agentes digitais, como prevenir ‘s-riscos’, como governar a expansão espacial e muito mais. (Veja mais.)

Em resumo, os maiores e mais negligenciados problemas parecem ser (em ordem): perda de controle, concentração de poder, novas bioarmas, ética digital, desempoderamento sistêmico, governança de outras questões resultantes do crescimento explosivo e exacerbação de outros riscos, como conflito de grandes potências.

O que precisa ser feito?

Não existe uma solução única para os riscos. Nossa melhor esperança é improvisar combinando vários métodos que aumentam incrementalmente as chances de um bom resultado.

Também é extremamente difícil saber se o que você está fazendo melhora ou piora as coisas (e se você está confiante, provavelmente não está pensando com cuidado o suficiente). Só podemos fazer julgamentos razoáveis e atualizar ao longo do tempo.

Aqui está o que acho ser mais necessário agora:

  • Progresso suficiente no problema técnico de controle e alinhamento de IA antes de chegarmos a sistemas vastamente mais capazes. (Veja estes projetos de exemplo e trabalho recente.)
  • Melhor governança para fornecer incentivos para segurança, contenção de sistemas inseguros, redução da corrida para a dominância e aproveitamento dos benefícios de longo prazo da IA.
  • Desacelerar (os ganhos extremamente rápidos) capacidades provavelmente seria bom se fosse possível, embora difícil de alcançar na prática sem outros efeitos negativos.
  • Melhor monitoramento das capacidades de IA e computação para que capacidades perigosas e explosivas possam ser detectadas precocemente.
  • Manter um equilíbrio aproximado de poder entre atores, países e modelos, ao mesmo tempo em que se projeta arquiteturas de IA para dificultar usá-los para tomar o poder.
  • Melhor segurança de modelos de IA para que sistemas mais poderosos não sejam roubados imediatamente.
  • Mais consideração para questões pós-IAG, como a ética de agentes digitais, compartilhamento de benefícios e governança espacial.
  • Melhor gerenciamento de riscos downstream criados pelo progresso tecnológico mais rápido, especialmente pandemias projetadas, mas também guerra nuclear e conflito de grandes potências.
  • Mais pessoas que levam todas essas questões a sério e têm experiência relevante, especialmente entre os principais tomadores de decisão (por exemplo, no governo e nas empresas de IA de fronteira).
  • Mais pesquisa estratégica e infraestrutura epistêmica aprimorada (por exemplo, IA para epistemologia, previsão ou melhores dados) para esclarecer quais ações tomar em uma situação obscura e em rápida evolução.

O que você pode fazer para ajudar?

A rota mais direta para ajudar geralmente é seguir um emprego no número crescente de organizações no ecossistema. Procure a posição com a melhor combinação para você de qualidade da equipe, crença em sua missão, centralidade da organização para o ecossistema, influência do papel e adequação pessoal. Trabalhar em um papel como este não só o coloca no caminho certo para ter um impacto relativamente rápido, mas, geralmente, é também a melhor maneira de melhorar seu capital de carreira.

Veja uma lista de organizações com posições abertas, inclusive no governo. Esta lista não é exaustiva, e também precisamos de pessoas trabalhando independentemente em comunicação, construção de comunidade, pesquisa acadêmica, fundação de novos projetos e assim por diante.

As empresas de IA de fronteira têm muita influência sobre a tecnologia, mas se deve trabalhar nelas é uma questão difícil.

Para encontrar empregos praticamente falando, faça um curso intensivo para aprender sobre a tecnologia e os riscos, converse com pessoas da área, faça candidaturas e faça projetos curtos e outros testes baratos.

Se você não consegue encontrar uma posição que deseja imediatamente, descubra o número mínimo de etapas que você precisaria dar para conseguir uma e, em seguida, faça isso.

Alternativamente, construa um conjunto de habilidades úteis fora da área por alguns anos e junte-se mais tarde. Algumas das melhores incluem:

Se você já está em meio de carreira, fale com pessoas da área sobre como você pode usar suas habilidades para ajudar com as prioridades imediatamente ou adquirir rapidamente um dos conjuntos de habilidades focados em IA. Nossa equipe de aconselhamento pode ajudar a fazer apresentações (veja também Successif e Halcyon). Se você não puder mudar, promova o pensamento claro sobre a IAG e doe para organizações eficazes que abordam a questão.

Poucas pessoas têm muita experiência em IA transformadora agora, então muitas vezes é possível realizar grandes mudanças de carreira, seja diretamente ou dentro de 1 a 12 meses após se atualizar.

Se você é técnico, há muitas rotas para a transição para cargos de política e outros cargos não técnicos. Se você não é técnico, também há muitos cargos para você (e as ferramentas de IA tornam mais rápido do que nunca aprender habilidades técnicas).

Não podemos listar todos os caminhos para ajudar, então, se você tiver uma ideia diferente, por favor, considere seriamente persegui-la.

Você deveria trabalhar nesta questão?

Mesmo dada a incerteza, a IAG é o melhor candidato para a questão mais transformadora de nossos tempos. É também um dos poucos desafios que poderiam representar uma ameaça material de extinção humana ou desempoderamento permanente (de mais de uma maneira). E como poderia relativamente em breve tornar obsoletas muitas outras maneiras de causar um impacto positivo, é excepcionalmente urgente.

No entanto, apenas alguns milhares de pessoas estão trabalhando em tempo integral para navegar pelos riscos — um número minúsculo em comparação com os milhões que trabalham em questões sociais convencionais, como desenvolvimento internacional ou mudanças climáticas. Então, mesmo que possa parecer que todo mundo está falando sobre IA, você ainda pode ser uma das menos de 10.000 pessoas focadas em tempo integral em uma das transições mais importantes da história — especialmente se a IAG chegar antes de 2030.

Por outro lado, é uma área onde é especialmente difícil saber se suas ações ajudam ou prejudicam; a IAG pode não se desenrolar em breve, e você pode estar muito mais bem posicionado ou motivado para trabalhar em outra coisa.

Algumas outras considerações pessoais para trabalhar nesta área:

Prós: IA é um dos tópicos mais quentes do mundo agora; é a área mais dinâmica da ciência com novas descobertas feitas mensalmente, e muitos cargos são bem pagos ou o preparam para opções de backup altamente remuneradas.
Contras: É polarizado — se você se tornar proeminente, estará sob o microscópio e muitas pessoas pensarão que o que você está fazendo está profundamente errado. O confronto diário com apostas existenciais pode ser avassalador.

No geral, acho que se você consegue fazer algo para ajudar (especialmente em cenários onde a IAG chega em menos de cinco anos), então, em expectativa, é provavelmente a coisa de maior impacto que você pode fazer. No entanto, não acho que todos devam trabalhar nisso — você pode apoiá-lo em seu tempo livre ou trabalhar em uma questão diferente.

Se você está indeciso, considere tentar trabalhar nisso nos próximos cinco anos. Mesmo que não alcancemos sistemas totalmente transformadores, a IA será um grande problema, e passar cinco anos aprendendo sobre ela provavelmente não o atrasará: você provavelmente pode retornar ao seu caminho anterior, se necessário.

Como você deve planejar sua carreira, considerando que a IAG pode chegar em breve?

Dada a urgência, você deveria largar tudo para tentar trabalhar com IA imediatamente?

Embora a IAG possa chegar nos próximos 3 a 5 anos, mesmo que isso aconteça, oportunidades excepcionalmente impactantes continuarão provavelmente por 1 a 10 anos depois, durante a explosão de inteligência e a implantação inicial da IA.

Portanto, você precisa pensar em como maximizar seu impacto durante todo esse período de 4 a 15 anos, em vez de apenas nos próximos dois anos. Você também deve estar preparado para que a IAG não aconteça e para que ainda haja oportunidades valiosas após 2040.

Isso significa que investir um ano para se tornar 30% mais produtivo ou entrar em uma posição significativamente mais influente (em relação a qualquer outra coisa que você teria feito) é provavelmente um bom negócio.

Em particular, os momentos mais cruciais provavelmente acontecem quando sistemas poderosos o suficiente para consolidar certos futuros são implantados pela primeira vez. Sua prioridade atual deve ser se posicionar (ou ajudar outros a se posicionarem) de forma otimizada para esse momento.

Tudo o mais sendo igual, pessoas com menos de 24 anos devem normalmente se concentrar mais no capital de carreira (habilidades, conexões, credenciais), enquanto pessoas com mais de 30 anos devem se concentrar mais em usar suas habilidades existentes para ajudar imediatamente, e aqueles de 25 a 30 anos poderiam seguir qualquer caminho, mas para todos depende muito de suas oportunidades específicas.

Como melhorar sua posição da melhor forma?

  • Para a maioria das pessoas, garanta um emprego em qualquer organização relevante e tente se destacar.
  • No entanto, desvios maiores para construir capital de carreira às vezes podem valer a pena, como terminar a faculdade, fazer um mestrado em ML, assumir um cargo de política de nível inicial ou qualquer coisa para adquirir as habilidades listadas acima.
  • Muitas vezes, vale especialmente a pena passar alguns meses fazendo um curso intensivo em IA, como com Bluedot, ou apenas lendo e conversando com pessoas.
  • Se você não encontrar nada diretamente relevante para IA com grande adequação, tenha em mente que provavelmente é melhor ser excelente em algo por dois anos do que ser medíocre em algo diretamente relacionado por quatro, pois isso abrirá melhores oportunidades.

Se ainda estiver incerto:

  1. Liste os papéis potenciais que você poderia almejar para os próximos 2 a 5 anos.
  2. Coloque-os em níveis aproximados de impacto.
  3. Faça uma primeira passagem naqueles com o melhor equilíbrio de impacto e adequação (você provavelmente pode alcançar pelo menos 10 vezes mais em um caminho que realmente lhe convém).
  4. Então pense em testes baratos que você pode fazer para obter mais informações.
  5. Finalmente, faça um palpite, tente por 3 a 12 meses e reavalie.

Faça um plano de backup e/ou procure etapas que também o coloquem em uma posição razoável se a IAG não acontecer ou demorar muito mais tempo.

Se ainda não tiver certeza, faça algo por 6 a 18 meses que o coloque em uma posição geralmente melhor e/ou tenha um impacto. Você não precisa de um plano — você pode ir passo a passo.

Veja nosso conselho geral sobre encontrar sua adequação, planejamento de carreira e tomada de decisão.

Próximos passos

Se você quer ajudar a moldar positivamente a IAG, fale com nossa equipe individualmente. Se você é um profissional de meio de carreira, eles podem ajudá-lo a alavancar suas habilidades existentes. Se você é um profissional em início de carreira, eles podem ajudá-lo a desenvolver habilidades e fazer apresentações a mentores ou financiamentos. Além disso, dê uma olhada em nosso quadro de empregos.

Retornar ao Início