Sumário

Especialista em hardware de IA

Por Erich Grunewald e  a equipe da 80.000 Hours ·
Última atualização em dezembro de 2023·
Publicado em inglês pela primeira vez em outubro de 2023

Traduzido, editado e adaptado pela equipe do Carreiras Eficazes, de modo a atender as necessidades das comunidades lusófonas com autorização dos produtores do texto original. 

Em 1965, Gordon Moore observou que o número de transistores que cabem em um chip parece duplicar a cada ano. Ele previu audaciosamente: “Circuitos integrados levarão a tais maravilhas como computadores domésticos[,] controles automáticos para automóveis e equipamentos pessoais portáteis de comunicações.”[1]

Moore posteriormente revisou a sua estimativa para dois anos, mas a tendência à duplicação se manteve e acabou ficando conhecida como a Lei de Moore.   

Esse progresso tecnológico em hardware de computador levou a duplicações consistentes de desempenho, capacidade de memória e eficiência de energia. Isso foi atingido somente através de aumentos impressionantes na complexidade do design e da produção. Embora Moore estivesse analisando chips com menos de cem transistores, os chips modernos têm contagens de transistores nas dezenas de bilhões e só podem ser fabricados por algumas das máquinas mais complexas que os humanos já inventaram.[2]

Além de computadores pessoais e telefones celulares, esses enormes ganhos em recursos computacionais — “compute”, ou poder computacional — também foram cruciais para os rápidos avanços da atualidade na inteligência artificial. Treinar um modelo de fronteira como o GPT-4 da OpenAI requer milhares de chips de IA especializados, com dezenas de bilhões de transistores, que podem custar dezenas de milhares de dólares cada.[3]

Como descrevemos em nosso perfil de problema sobre o risco da IA, achamos que os perigos da IA avançada estão entre os problemas mais urgentes do mundo. Conforme eles progridem neste século, os sistemas de IA — criados com hardware de IA e sendo executados nele — podem desenvolver capacidades e características avançadas, que podem carregar profundos riscos para o futuro da humanidade. 

Para enfrentar esses riscos, serão necessários trabalhos cruciais em previsão do progresso da IA, pesquisa e implementação de mecanismos de governança e assistência a elaboradores de políticas, entre outras coisas. O conhecimento em hardware de IA pode ser útil em todas essas atividades.

Ficamos muito entusiasmados com a ideia de pessoas com motivações altruístas, que já possuem conhecimento em hardware de IA, mudarem para o espaço da governança e das políticas de IA a curto prazo. E também ficamos entusiasmados com a ideia de pessoas com habilidades de base e uma forte adequação pessoal para ter sucesso neste campo, adquirirem conhecimento e experiência em hardware de IA, que poderia ser útil posteriormente. 

Usar o conhecimento em hardware de IA para reduzir riscos catastróficos é um campo relativamente novo, e há muito trabalho necessário para desenvolvê-lo.

É difícil prever como o campo irá evoluir, mas nosso palpite é que continuará a haver modos úteis de contribuir nos anos vindouros. Em algum ponto, pode haver menos necessidade de conceber regimes de governança e mais trabalhos necessários descobrindo detalhes de implementação de políticas específicas. Logo, ficamos também bem confortáveis ao recomendar que as pessoas comecem agora a adquirir habilidades e experiência relacionadas a hardware, que poderiam ser úteis posteriormente. Habilidades e experiência de hardware são altamente valiosas em geral, de modo que este caminho provavelmente tenha  boas opções de saída de qualquer forma.

Você também pode ler a nossa análise de carreira da governança e coordenação da IA, que discute sobre como este tipo de conhecimento pode ser valiosa para as políticas.

Em resumo: reduzir os riscos da IA é um dos problemas mais urgentes do mundo, e esperamos que pessoas com conhecimento em hardware de IA e tópicos relacionados, tenham particularmente alta demanda em políticas e pesquisas nesta área. Para a pessoa certa, adquirir e aplicar habilidades de hardware ao trabalho em governança da IA que reduz riscos, poderia ser a opção mais impactante.  

Mas tornar-se especialista neste campo não é fácil e não será algo adequado para a maioria das pessoas, e pode ser desafiador traçar um caminho claro pelo mundo complexo e em evolução das pautas de governança da IA.

Prós

  • Oportunidade para fazer uma contribuição significativa para o campo crescente da governança da IA
  • Trabalho intelectualmente desafiador, que oferece um forte capital de carreira para uma gama de caminhos
  • Trabalho em uma área de ponta e em rápida movimentação

Contras

  • Você precisa de fortes habilidades quantitativas e técnicas
  • Há muita incerteza sobre o que precisa ser feito neste espaço
  • Há uma possibilidade real de causar danos neste campo
  • Algumas das funções — mas nem todas elas — podem envolver trabalhos estressantes e longas horas

Conclusões-chave sobre adequação

Para qualquer um com conhecimento em hardware de IA, usar essas habilidades para contribuir para abordagens de governança que reduzem riscos, deveria ser prioridade para a sua carreira. Se você ainda não tem essa experiência, pode valer a pena desenvolver essa habilidade, se você estiver particularmente animado sobre estudar ciência e engenharia da computação, engenharia elétrica ou outros campos relevantes. Esses campos requerem fortes habilidades matemáticas e científicas.

Sugerimos que qualquer um interessado neste caminho deva também se familiarizar com a governança e coordenação da IA.

Recomendado

Se você for apto para esta carreira, pode ser o melhor modo para você ter um impacto social.

Status da análise

Baseada numa investigação de profundidade média

(Esta análise foi escrita por um pesquisador no campo do hardware de IA e da governança computacional, com consultas de outros indivíduos que trabalham nesta área.)

Por que tornar-se especialista em hardware de IA pode ter alto impacto?

O argumento básico para por que ser especialista em hardware de IA poderia ser impactante é:

  1. A IA em progressivo avanço parece ser muito importante para este século e pode carregar riscos existenciais.
  2. Há vários modos como o conhecimento em hardware de IA pode ajudar com (a) a previsão do progresso da IA e (b) a garantia de que a IA seja desenvolvida de modo responsável.

A principal razão pela qual o conhecimento em hardware de IA pode ajudar a reduzir o risco é que, junto com os dados e as ideias, o poder computacional é uma entrada crucial no progresso geral da IA.[4]

Os pesquisadores identificaram leis de amplificação que mostram que, conforme os sistemas são treinados usando mais poder computacional e dados, eles melhoram previsivelmente em muitas métricas de desempenho. Como resultado, agora são necessários milhares de chips de IA caros, rodando  por meses, para treinar um modelo de IA de última geração, totalizando  dezenas de milhões de dólares em custos de poder computacional por si só.[5]

Crédito: Epoch AI (2023)

Chips de IA são especializados em  realizar os cálculos específicos necessários para treinar e executar modelos de IA. Na prática, você não pode treinar modelos de última geração  com chips de uso  geral: são necessários chips especializados. [6] E para acompanhar o ritmo, você precisa de chips de ponta.[7] Empresas e laboratórios de IA que ainda utilizam  chips de antiga geração gastam  mais dinheiro e tempo treinando modelos.

É possível que o poder computacional se torne um fator menos importante  no futuro para o progresso da IA, ou que grande parte do treinamento de IA seja realizado  utilizando  hardware que não sejam chips de IA.[8] No entanto,  parece muito provável que o acesso ao poder computacional de custo acessível  continue sendo vitalmente  importante, pelo menos durante os próximos 5 anos, e provavelmente além disso.[9]

Algumas maneiras pelas quais  especialistas em hardware poderiam ajudar a moldar positivamente o desenvolvimento da IA incluem:

  • Fornecer  clareza estratégica sobre as capacidades e o progresso da IA, em particular o ritmo atual e futuro e os impulsionadores desses aspectos, a fim de informar  pesquisas e decisões relevantes para a governança da IA.
  • Pesquisar sobre políticas e mecanismos de governança relacionados a hardware, o que parece promissor, visto que o hardware de IA é necessário, quantificável, físico e tem uma cadeia de suprimento concentrada (embora global).[10] (Esse campo às vezes é chamado de “governança computacional”.)
    • Projetar regimes de monitoramento  para tornar o uso do poder computacional mais transparente, por exemplo, pesquisando sobre um esquema de monitoramento computacional para grandes modelos de IA 
    • Determinar a viabilidade e utilidade de mecanismos capacitados por hardware, como ferramenta para a governança da IA
    • Pesquisar sobre modos de limitar o acesso ao poder computacional a atores responsáveis e regulamentáveis
    • Desenvolver protótipos e novas características de segurança de hardware
    • Entender como a governança computacional se encaixa no panorama geopolítico mais amplo
  • Trabalhar em funções no governo e em políticas conforme  citado anteriormente
    • Isso pode ser parte do trabalho mais importante a ser feito com estas habilidades, mas há menos clareza até o momento em que escrevo, sobre como são essas funções. 
  • Fazer trabalho impactante e orientado à segurança — inclusive estabelecer ligações com elaboradores de políticas — de dentro da indústria
  • Aconselhar elaboradores de políticas e responder a perguntas de pesquisadores como especialista, enquanto trabalha em outra coisa, p. ex., na indústria
  • Embora isto seja especulativo, você pode trabalhar para organizações de auditoria de terceiros como parte de um programa de governança futuro.

Atualmente, há poucos especialistas em hardware de IA, trabalhando nessas áreas, que são motivados pela redução de riscos existenciais, pelo que sabemos. Até meados de 2023, parecia haver aproximadamente entre 3 a 12 pessoas focadas em risco existencial trabalhando na previsão do progresso da IA com foco em hardware, e cerca de 10 a 20 pessoas trabalhando em tempo integral em outros projetos relacionados à governança da computação.

É difícil estimar quantos especialistas em hardware de IA a mais são necessários, e a resposta poderia mudar rápido; recomendamos que você faça um pouco de pesquisa por conta própria sobre isso e fale com pessoas no campo.

Há maneiras nas quais este trabalho poderia acabar sendo mais negativo do que positivo. Por exemplo, restringir o acesso de certos atores ao poder computacional, poderia aumentar as tensões geopolíticas ou levar a uma concentração de poder. Ou o trabalho em hardware de IA poderia levar a chips mais baratos e mais eficazes, acelerando o progresso da IA. Ferramentas de governança, como regimes de monitoramento computacional poderiam ser exploradas por maus atores.

Algumas propostas de governança computacional envolvem o monitoramento de como os chips de IA são usados pelas empresas, o que pode criar preocupações quanto à privacidade. Descobrir modos de implementar a governança, enquanto ainda se pratica a privacidade pessoal, poderia ser um trabalho valioso.

Se você seguir este caminho, incentivamos você a pensar com cuidado sobre as implicações dos seus planos, idealmente em colaboração com especialistas em estratégia e políticas, também focados em criar IA segura e benéfica. (Veja o nosso artigo sobre danos acidentais e dicas sobre como evitá-los.)

Outra desvantagem potencial de adquirir conhecimento em hardware de IA para reduzir riscos catastróficos, é que funções na indústria, onde o seu impacto poderia ser ambíguo ou até negativo, podem acabar sendo mais apelativas do que funções de maior impacto em políticas ou pesquisa, porém com menor remuneração. 

Se você acredita que pode ser difícil para você sair de posições mais bem remuneradas na indústria e mudar para funções com muito mais potencial de ajudar os outros e reduzir o risco da IA, você deveria considerar com cuidado, como mitigar esses desafios. Você poderia tentar poupar mais do que o normal, enquanto ganha um alto salário, caso você acabe ganhando menos dinheiro posteriormente; você poderia doar qualquer rendimento acima de certo limiar; e você pode garantir que faça parte de uma comunidade que o ajude a viver segundo os seus valores.

Quer conselhos individualizados sobre seguir este caminho?

Se você acha que este caminho pode ser uma grande opção para você, mas precisa de ajuda para decidir ou pensar sobre o que fazer em seguida, a nossa equipe pode ser capaz de ajudar.

Podemos ajudar você a comparar as suas opções, fazer conexões e possivelmente até ajudar você a encontrar empregos e oportunidades de financiamento.

CANDIDATE-SE PARA FALAR COM A NOSSA EQUIPE

Como efetivamente é trabalhar em funções de especialista em hardware de IA de alto impacto?

A governança da IA focada no poder computacional é um campo empolgante e emergente, com muita atividade e muitas questões abertas para resolver. Há também janelas abertas ou provavelmente abrindo-se em breve, relativas a políticas relevantes, conforme a consciência pública dos riscos da IA vêm aumentando.

O tipo de função mais comum para especialistas é a pesquisa de hardware de IA, embora outras funções incluam trabalhar como elaborador de políticas ou membro da equipe, como analista de políticas[12] ou comunicando a pesquisa para elaboradores de políticas ou para o público.  

Funções de pesquisador  envolvem coisas como:

  • Investigar mecanismos de governança relacionados a hardware ou prever o progresso da IA, e comunicar resultados dessas investigações a decisores e outros pesquisadores
  • Entrevistar especialistas sobre tópicos específicos relacionados a isto
  • Escrever resumos de políticas
  • Aconselhar pesquisadores sobre governança da IA
  • Gerenciar ou orientar outras pessoas que trabalham nisto

Carreiras no governo, especialmente nos EUA, podem ser altamente impactantes também. No entanto, não está claro se o estado do desenvolvimento de políticas sobre a IA, avançou ao ponto de que o governo esteja planejando contratar especialistas em hardware de IA diretamente. Em algum ponto, pode se tornar claro para os elaboradores de políticas que o conhecimento de hardware é extremamente valioso para a implementação de políticas de IA, e nesse ponto os especialistas estarão em alta demanda. Temos um artigo distinto sobre oportunidades para se envolver em políticas de IA dos EUA.

Algumas pessoas que trabalham neste campo trabalham para centros de pesquisa situados em Washington, DC como:

Você também pode considerar organizações com um foco relativamente menor em políticas, como:

Carreiras na indústria (incluindo o trabalho para projetistas de chips como a Nvidia, empresas de semicondutores ou provedores de nuvem) e no meio acadêmico poderiam ser valiosas também, embora principalmente para desenvolver capital de carreira na forma de habilidades, conexões e credenciais, e tal trabalho poderia acelerar de forma não intencional o progresso da IA.

O conhecimento em hardware de IA poderia também ser usado para fazer concessão de financiamento, construção de campo e trabalho de pesquisa ou políticas em tópicos de governança da IA, que não são centrais para o hardware de IA. No entanto, para esses caminhos, os rendimentos para um maior conhecimento em hardware de IA, provavelmente diminuirão mais abruptamente.

Como ingressar em carreiras de especialista em hardware de IA

Embora seja possível captar alguma quantidade de conhecimento de hardware enquanto trabalha como, digamos, pesquisador em governança da IA focado em outros tópicos, o tipo de conhecimento que é mais necessário, é o tipo que só se consegue após alguns anos de estudo ou trabalhando com hardware. 

  • Se você já tem conhecimento em hardware de IA, você pode considerar se candidatar para bolsas de pesquisa ou políticas ou para funções de nível iniciante como assistente de pesquisa. Em alguns casos, é possível fazer uma transição de uma carreira em hardware ou semicondutores diretamente para uma função de pesquisa ou políticas mais sênior, especialmente se você tiver alguma experiência anterior com governança da IA.
  • Se você tem um diploma (ou adquiriu habilidades em outros sentidos) relacionado a hardware de IA, mas não tem experiência profissional, você pode considerar construir capital de carreira arranjando funções na indústria ou talvez na academia. É provável que você consiga a experiência mais útil trabalhando em hardware de IA diretamente para empresas como a Nvidia, mas outras empresas de chips e semicondutores parecem promissoras também.
  • Se você ainda não tem experiência ou habilidades relacionadas a isto, não está claro se o hardware de IA é a melhor coisa na qual você deveria focar. Talvez seja se você está especialmente empolgado com a área ou sente que pode ser especialmente adequado para ela.
    • Estudar engenharia de computadores no nível da graduação é tipicamente necessário para trabalhar na indústria. A área exige uma forte capacidade em ciências e matemática. Você pode querer obter um mestrado no campo.
    • O estado da arte neste campo está evoluindo constantemente, de modo que você deveria esperar continuar aprendendo depois que a sua educação formal acabar. Trabalhar nas empresas mais de ponta, provavelmente te dará o melhor entendimento dos desenvolvimentos tecnológicos.
    • Uma formação educacional em hardware de IA e computadores pode ser suficiente para lhe oferecer vantagens significativas ao começar uma carreira em governança da IA, em particular em Washington, DC. No entanto, é provável que você queira suplementar esse conhecimento técnico com algum capital de carreira relacionado a políticas, como uma bolsa prestigiosa.

Tipos específicos de conhecimento e experiência que parecem promissores, incluem conhecimento e experiência em arquiteturas e design de chips de IA, segurança de hardware, criptografia, cibersegurança, fabricação e cadeia de suprimento de semicondutores, computação em nuvem, aprendizado de máquina e computação distribuída. Parece especialmente valioso ter pessoas que também têm conhecimento útil para a governança ou elaboração de políticas de IA de forma mais ampla, embora isso não seja necessário.

Saiba mais

Melhores recomendações

Recomendações a mais

Gerais

Previsão do progresso da IA

Governança computacional

Notas e referências

Por Erich Grunewald e  a equipe da 80.000 Hours ·
Última atualização em dezembro de 2023·
Publicado em inglês pela primeira vez em outubro de 2023

Traduzido, editado e adaptado pela equipe do Carreiras Eficazes, de modo a atender as necessidades das comunidades lusófonas com autorização dos produtores do texto original. 

Em 1965, Gordon Moore observou que o número de transistores que cabem em um chip parece duplicar a cada ano. Ele previu audaciosamente: “Circuitos integrados levarão a tais maravilhas como computadores domésticos[,] controles automáticos para automóveis e equipamentos pessoais portáteis de comunicações.”[1]

Moore posteriormente revisou a sua estimativa para dois anos, mas a tendência à duplicação se manteve e acabou ficando conhecida como a Lei de Moore.   

Esse progresso tecnológico em hardware de computador levou a duplicações consistentes de desempenho, capacidade de memória e eficiência de energia. Isso foi atingido somente através de aumentos impressionantes na complexidade do design e da produção. Embora Moore estivesse analisando chips com menos de cem transistores, os chips modernos têm contagens de transistores nas dezenas de bilhões e só podem ser fabricados por algumas das máquinas mais complexas que os humanos já inventaram.[2]

Além de computadores pessoais e telefones celulares, esses enormes ganhos em recursos computacionais — “compute”, ou poder computacional — também foram cruciais para os rápidos avanços da atualidade na inteligência artificial. Treinar um modelo de fronteira como o GPT-4 da OpenAI requer milhares de chips de IA especializados, com dezenas de bilhões de transistores, que podem custar dezenas de milhares de dólares cada.[3]

Como descrevemos em nosso perfil de problema sobre o risco da IA, achamos que os perigos da IA avançada estão entre os problemas mais urgentes do mundo. Conforme eles progridem neste século, os sistemas de IA — criados com hardware de IA e sendo executados nele — podem desenvolver capacidades e características avançadas, que podem carregar profundos riscos para o futuro da humanidade. 

Para enfrentar esses riscos, serão necessários trabalhos cruciais em previsão do progresso da IA, pesquisa e implementação de mecanismos de governança e assistência a elaboradores de políticas, entre outras coisas. O conhecimento em hardware de IA pode ser útil em todas essas atividades.

Ficamos muito entusiasmados com a ideia de pessoas com motivações altruístas, que já possuem conhecimento em hardware de IA, mudarem para o espaço da governança e das políticas de IA a curto prazo. E também ficamos entusiasmados com a ideia de pessoas com habilidades de base e uma forte adequação pessoal para ter sucesso neste campo, adquirirem conhecimento e experiência em hardware de IA, que poderia ser útil posteriormente. 

Usar o conhecimento em hardware de IA para reduzir riscos catastróficos é um campo relativamente novo, e há muito trabalho necessário para desenvolvê-lo.

É difícil prever como o campo irá evoluir, mas nosso palpite é que continuará a haver modos úteis de contribuir nos anos vindouros. Em algum ponto, pode haver menos necessidade de conceber regimes de governança e mais trabalhos necessários descobrindo detalhes de implementação de políticas específicas. Logo, ficamos também bem confortáveis ao recomendar que as pessoas comecem agora a adquirir habilidades e experiência relacionadas a hardware, que poderiam ser úteis posteriormente. Habilidades e experiência de hardware são altamente valiosas em geral, de modo que este caminho provavelmente tenha  boas opções de saída de qualquer forma.

Você também pode ler a nossa análise de carreira da governança e coordenação da IA, que discute sobre como este tipo de conhecimento pode ser valiosa para as políticas.

Em resumo: reduzir os riscos da IA é um dos problemas mais urgentes do mundo, e esperamos que pessoas com conhecimento em hardware de IA e tópicos relacionados, tenham particularmente alta demanda em políticas e pesquisas nesta área. Para a pessoa certa, adquirir e aplicar habilidades de hardware ao trabalho em governança da IA que reduz riscos, poderia ser a opção mais impactante.  

Mas tornar-se especialista neste campo não é fácil e não será algo adequado para a maioria das pessoas, e pode ser desafiador traçar um caminho claro pelo mundo complexo e em evolução das pautas de governança da IA.

Prós

  • Oportunidade para fazer uma contribuição significativa para o campo crescente da governança da IA
  • Trabalho intelectualmente desafiador, que oferece um forte capital de carreira para uma gama de caminhos
  • Trabalho em uma área de ponta e em rápida movimentação

Contras

  • Você precisa de fortes habilidades quantitativas e técnicas
  • Há muita incerteza sobre o que precisa ser feito neste espaço
  • Há uma possibilidade real de causar danos neste campo
  • Algumas das funções — mas nem todas elas — podem envolver trabalhos estressantes e longas horas

Conclusões-chave sobre adequação

Para qualquer um com conhecimento em hardware de IA, usar essas habilidades para contribuir para abordagens de governança que reduzem riscos, deveria ser prioridade para a sua carreira. Se você ainda não tem essa experiência, pode valer a pena desenvolver essa habilidade, se você estiver particularmente animado sobre estudar ciência e engenharia da computação, engenharia elétrica ou outros campos relevantes. Esses campos requerem fortes habilidades matemáticas e científicas.

Sugerimos que qualquer um interessado neste caminho deva também se familiarizar com a governança e coordenação da IA.

Recomendado

Se você for apto para esta carreira, pode ser o melhor modo para você ter um impacto social.

Status da análise

Baseada numa investigação de profundidade média

(Esta análise foi escrita por um pesquisador no campo do hardware de IA e da governança computacional, com consultas de outros indivíduos que trabalham nesta área.)

Por que tornar-se especialista em hardware de IA pode ter alto impacto?

O argumento básico para por que ser especialista em hardware de IA poderia ser impactante é:

  1. A IA em progressivo avanço parece ser muito importante para este século e pode carregar riscos existenciais.
  2. Há vários modos como o conhecimento em hardware de IA pode ajudar com (a) a previsão do progresso da IA e (b) a garantia de que a IA seja desenvolvida de modo responsável.

A principal razão pela qual o conhecimento em hardware de IA pode ajudar a reduzir o risco é que, junto com os dados e as ideias, o poder computacional é uma entrada crucial no progresso geral da IA.[4]

Os pesquisadores identificaram leis de amplificação que mostram que, conforme os sistemas são treinados usando mais poder computacional e dados, eles melhoram previsivelmente em muitas métricas de desempenho. Como resultado, agora são necessários milhares de chips de IA caros, rodando  por meses, para treinar um modelo de IA de última geração, totalizando  dezenas de milhões de dólares em custos de poder computacional por si só.[5]

Crédito: Epoch AI (2023)

Chips de IA são especializados em  realizar os cálculos específicos necessários para treinar e executar modelos de IA. Na prática, você não pode treinar modelos de última geração  com chips de uso  geral: são necessários chips especializados. [6] E para acompanhar o ritmo, você precisa de chips de ponta.[7] Empresas e laboratórios de IA que ainda utilizam  chips de antiga geração gastam  mais dinheiro e tempo treinando modelos.

É possível que o poder computacional se torne um fator menos importante  no futuro para o progresso da IA, ou que grande parte do treinamento de IA seja realizado  utilizando  hardware que não sejam chips de IA.[8] No entanto,  parece muito provável que o acesso ao poder computacional de custo acessível  continue sendo vitalmente  importante, pelo menos durante os próximos 5 anos, e provavelmente além disso.[9]

Algumas maneiras pelas quais  especialistas em hardware poderiam ajudar a moldar positivamente o desenvolvimento da IA incluem:

  • Fornecer  clareza estratégica sobre as capacidades e o progresso da IA, em particular o ritmo atual e futuro e os impulsionadores desses aspectos, a fim de informar  pesquisas e decisões relevantes para a governança da IA.
  • Pesquisar sobre políticas e mecanismos de governança relacionados a hardware, o que parece promissor, visto que o hardware de IA é necessário, quantificável, físico e tem uma cadeia de suprimento concentrada (embora global).[10] (Esse campo às vezes é chamado de “governança computacional”.)
    • Projetar regimes de monitoramento  para tornar o uso do poder computacional mais transparente, por exemplo, pesquisando sobre um esquema de monitoramento computacional para grandes modelos de IA 
    • Determinar a viabilidade e utilidade de mecanismos capacitados por hardware, como ferramenta para a governança da IA
    • Pesquisar sobre modos de limitar o acesso ao poder computacional a atores responsáveis e regulamentáveis
    • Desenvolver protótipos e novas características de segurança de hardware
    • Entender como a governança computacional se encaixa no panorama geopolítico mais amplo
  • Trabalhar em funções no governo e em políticas conforme  citado anteriormente
    • Isso pode ser parte do trabalho mais importante a ser feito com estas habilidades, mas há menos clareza até o momento em que escrevo, sobre como são essas funções. 
  • Fazer trabalho impactante e orientado à segurança — inclusive estabelecer ligações com elaboradores de políticas — de dentro da indústria
  • Aconselhar elaboradores de políticas e responder a perguntas de pesquisadores como especialista, enquanto trabalha em outra coisa, p. ex., na indústria
  • Embora isto seja especulativo, você pode trabalhar para organizações de auditoria de terceiros como parte de um programa de governança futuro.

Atualmente, há poucos especialistas em hardware de IA, trabalhando nessas áreas, que são motivados pela redução de riscos existenciais, pelo que sabemos. Até meados de 2023, parecia haver aproximadamente entre 3 a 12 pessoas focadas em risco existencial trabalhando na previsão do progresso da IA com foco em hardware, e cerca de 10 a 20 pessoas trabalhando em tempo integral em outros projetos relacionados à governança da computação.

É difícil estimar quantos especialistas em hardware de IA a mais são necessários, e a resposta poderia mudar rápido; recomendamos que você faça um pouco de pesquisa por conta própria sobre isso e fale com pessoas no campo.

Há maneiras nas quais este trabalho poderia acabar sendo mais negativo do que positivo. Por exemplo, restringir o acesso de certos atores ao poder computacional, poderia aumentar as tensões geopolíticas ou levar a uma concentração de poder. Ou o trabalho em hardware de IA poderia levar a chips mais baratos e mais eficazes, acelerando o progresso da IA. Ferramentas de governança, como regimes de monitoramento computacional poderiam ser exploradas por maus atores.

Algumas propostas de governança computacional envolvem o monitoramento de como os chips de IA são usados pelas empresas, o que pode criar preocupações quanto à privacidade. Descobrir modos de implementar a governança, enquanto ainda se pratica a privacidade pessoal, poderia ser um trabalho valioso.

Se você seguir este caminho, incentivamos você a pensar com cuidado sobre as implicações dos seus planos, idealmente em colaboração com especialistas em estratégia e políticas, também focados em criar IA segura e benéfica. (Veja o nosso artigo sobre danos acidentais e dicas sobre como evitá-los.)

Outra desvantagem potencial de adquirir conhecimento em hardware de IA para reduzir riscos catastróficos, é que funções na indústria, onde o seu impacto poderia ser ambíguo ou até negativo, podem acabar sendo mais apelativas do que funções de maior impacto em políticas ou pesquisa, porém com menor remuneração. 

Se você acredita que pode ser difícil para você sair de posições mais bem remuneradas na indústria e mudar para funções com muito mais potencial de ajudar os outros e reduzir o risco da IA, você deveria considerar com cuidado, como mitigar esses desafios. Você poderia tentar poupar mais do que o normal, enquanto ganha um alto salário, caso você acabe ganhando menos dinheiro posteriormente; você poderia doar qualquer rendimento acima de certo limiar; e você pode garantir que faça parte de uma comunidade que o ajude a viver segundo os seus valores.

Quer conselhos individualizados sobre seguir este caminho?

Se você acha que este caminho pode ser uma grande opção para você, mas precisa de ajuda para decidir ou pensar sobre o que fazer em seguida, a nossa equipe pode ser capaz de ajudar.

Podemos ajudar você a comparar as suas opções, fazer conexões e possivelmente até ajudar você a encontrar empregos e oportunidades de financiamento.

CANDIDATE-SE PARA FALAR COM A NOSSA EQUIPE

Como efetivamente é trabalhar em funções de especialista em hardware de IA de alto impacto?

A governança da IA focada no poder computacional é um campo empolgante e emergente, com muita atividade e muitas questões abertas para resolver. Há também janelas abertas ou provavelmente abrindo-se em breve, relativas a políticas relevantes, conforme a consciência pública dos riscos da IA vêm aumentando.

O tipo de função mais comum para especialistas é a pesquisa de hardware de IA, embora outras funções incluam trabalhar como elaborador de políticas ou membro da equipe, como analista de políticas[12] ou comunicando a pesquisa para elaboradores de políticas ou para o público.  

Funções de pesquisador  envolvem coisas como:

  • Investigar mecanismos de governança relacionados a hardware ou prever o progresso da IA, e comunicar resultados dessas investigações a decisores e outros pesquisadores
  • Entrevistar especialistas sobre tópicos específicos relacionados a isto
  • Escrever resumos de políticas
  • Aconselhar pesquisadores sobre governança da IA
  • Gerenciar ou orientar outras pessoas que trabalham nisto

Carreiras no governo, especialmente nos EUA, podem ser altamente impactantes também. No entanto, não está claro se o estado do desenvolvimento de políticas sobre a IA, avançou ao ponto de que o governo esteja planejando contratar especialistas em hardware de IA diretamente. Em algum ponto, pode se tornar claro para os elaboradores de políticas que o conhecimento de hardware é extremamente valioso para a implementação de políticas de IA, e nesse ponto os especialistas estarão em alta demanda. Temos um artigo distinto sobre oportunidades para se envolver em políticas de IA dos EUA.

Algumas pessoas que trabalham neste campo trabalham para centros de pesquisa situados em Washington, DC como:

Você também pode considerar organizações com um foco relativamente menor em políticas, como:

Carreiras na indústria (incluindo o trabalho para projetistas de chips como a Nvidia, empresas de semicondutores ou provedores de nuvem) e no meio acadêmico poderiam ser valiosas também, embora principalmente para desenvolver capital de carreira na forma de habilidades, conexões e credenciais, e tal trabalho poderia acelerar de forma não intencional o progresso da IA.

O conhecimento em hardware de IA poderia também ser usado para fazer concessão de financiamento, construção de campo e trabalho de pesquisa ou políticas em tópicos de governança da IA, que não são centrais para o hardware de IA. No entanto, para esses caminhos, os rendimentos para um maior conhecimento em hardware de IA, provavelmente diminuirão mais abruptamente.

Como ingressar em carreiras de especialista em hardware de IA

Embora seja possível captar alguma quantidade de conhecimento de hardware enquanto trabalha como, digamos, pesquisador em governança da IA focado em outros tópicos, o tipo de conhecimento que é mais necessário, é o tipo que só se consegue após alguns anos de estudo ou trabalhando com hardware. 

  • Se você já tem conhecimento em hardware de IA, você pode considerar se candidatar para bolsas de pesquisa ou políticas ou para funções de nível iniciante como assistente de pesquisa. Em alguns casos, é possível fazer uma transição de uma carreira em hardware ou semicondutores diretamente para uma função de pesquisa ou políticas mais sênior, especialmente se você tiver alguma experiência anterior com governança da IA.
  • Se você tem um diploma (ou adquiriu habilidades em outros sentidos) relacionado a hardware de IA, mas não tem experiência profissional, você pode considerar construir capital de carreira arranjando funções na indústria ou talvez na academia. É provável que você consiga a experiência mais útil trabalhando em hardware de IA diretamente para empresas como a Nvidia, mas outras empresas de chips e semicondutores parecem promissoras também.
  • Se você ainda não tem experiência ou habilidades relacionadas a isto, não está claro se o hardware de IA é a melhor coisa na qual você deveria focar. Talvez seja se você está especialmente empolgado com a área ou sente que pode ser especialmente adequado para ela.
    • Estudar engenharia de computadores no nível da graduação é tipicamente necessário para trabalhar na indústria. A área exige uma forte capacidade em ciências e matemática. Você pode querer obter um mestrado no campo.
    • O estado da arte neste campo está evoluindo constantemente, de modo que você deveria esperar continuar aprendendo depois que a sua educação formal acabar. Trabalhar nas empresas mais de ponta, provavelmente te dará o melhor entendimento dos desenvolvimentos tecnológicos.
    • Uma formação educacional em hardware de IA e computadores pode ser suficiente para lhe oferecer vantagens significativas ao começar uma carreira em governança da IA, em particular em Washington, DC. No entanto, é provável que você queira suplementar esse conhecimento técnico com algum capital de carreira relacionado a políticas, como uma bolsa prestigiosa.

Tipos específicos de conhecimento e experiência que parecem promissores, incluem conhecimento e experiência em arquiteturas e design de chips de IA, segurança de hardware, criptografia, cibersegurança, fabricação e cadeia de suprimento de semicondutores, computação em nuvem, aprendizado de máquina e computação distribuída. Parece especialmente valioso ter pessoas que também têm conhecimento útil para a governança ou elaboração de políticas de IA de forma mais ampla, embora isso não seja necessário.

Saiba mais

Melhores recomendações

Recomendações a mais

Gerais

Previsão do progresso da IA

Governança computacional

Notas e referências

  1. O parágrafo inteiro diz: “O futuro dos eletrônicos integrados é o futuro dos próprios eletrônicos. As vantagens da integração gerarão uma proliferação de eletrônicos, impulsionando a ciência para muitas novas eras. Os circuitos integrados levarão a tais maravilhas como computadores domésticos – ou pelo menos terminais conectados a um computador central –, controles automáticos para automóveis e equipamentos pessoais portáteis para comunicações. O relógio de pulso eletrônico só precisa de um visor para ser viável hoje.” Gordon Moore co-fundou a Intel em 1968.
  2. Um transistor pode ter uma largura de menos de 10 nanômetros (se medido por um “comprimento de portão”), dez mil vezes menor que a largura de um fio de cabelo. O principal exemplo da complexidade da fabricação de semicondutores são as máquinas de fotolitografia de ultravioleta extrema da ASML. Essas máquinas, que imprimem padrões de circuitos em pastilhas de silicone, são do tamanho de uma sala de estar, custam US$ 150 milhões e requerem componentes incrivelmente avançados:
    • Uma máquina de litografia ultravioleta extrema é uma maravilha tecnológica. Um gerador ejeta 50.000 minúsculas gotículas de estanho fundido por segundo. Um laser altamente energizado atinge cada gotícula duas vezes. O primeiro molda a minúscula gotícula, para que o segundo possa vaporizá-la na forma de plasma. O plasma emite radiação ultravioleta extrema (EUV) que é concentrada num feixe e rebatido por uma série de espelhos. Os espelhos são tão lisos que, se expandidos para o tamanho da Alemanha, não teriam uma saliência mais alta que um milímetro. Por fim, os feixes de EUV atingem uma pastilha de silicone com características que medem somente cinco nanômetros: aproximadamente o comprimento que a sua unha cresce em cinco segundos. Essa pastilha com bilhões de trilhões de transistores acaba sendo transformada em chips de computadores.
  3. Este artigo utiliza “chip de IA” para se referir a um semicondutor especializado em realizar operações comuns no treinamento e inferências de modelos de IA: exemplos incluem as Unidades de Processamento de Tensor (TPUs) e unidades de processamento gráfico (GPUs) como o Nvidia H100. Um “acelerador de IA” é um equipamento de hardware que contém um chip de IA, como o Nvidia DGX H100 (que contém 8 chips Nvidia H100). “Hardware de IA” é um termo geral, que se refere não só a chips de IA e aceleradores de IA, mas também a outros tipos de hardware relacionados a IA, como tecnologias de interconexão.
  4. Há outras entradas também, como dinheiro e talento, mas os efeitos delas são mediados pelas outras três (poder computacional, dados e ideias). Veja, por exemplo, A Tríade da IA e o que ela Significa para a Estratégia de Segurança Nacional de Buchanan (2020).
  5. Além de ser crucial para possibilitar as execuções de treinamento, o hardware de IA também é usado para implementar modelos de IA bem em termos de custo-eficiência (possibilitando às empresas de IA gerarem receita a um custo mais baixo), gerar dados sintéticos para treinar modelos de IA futuros e efetuar experimentos ao fazer pesquisa de capacidades de IA.
    Algo mais especulativo é que é possível que no futuro sejamos capazes de executar pesquisadores-IA autônomos, que acelerariam a pesquisa por conta própria. Se for assim, ter acesso a mais poder computacional permitiria que as empresas de IA descobrissem ideias mais rápido e coletassem ou gerassem mais ou melhores dados.
  6. Khan (2020): “Por causa das suas características únicas, os chips de IA são dezenas de milhares de vezes mais rápidos e mais eficientes do que as CPUs para o treinamento e inferência de algoritmos de IA. Chips de IA do estado da arte também são dramaticamente melhores em termos de custo-efetividade do que CPUs do estado da arte como resultado da sua maior eficiência para algoritmos de IA. Um chip de IA mil vezes mais eficiente do que uma CPU fornece um melhoramento equivalente a 26 anos de melhoramentos de CPU movidos pela Lei de Moore.
  7. Khan (2020): “Sistemas de IA de ponta requerem não só chips específicos à IA, mas chips do estado da arte. Chips de IA mais antigos — com seus transistores maiores, mais lentos e mais sedentos por energia — incorrem em custos de consumo de energia enormes que incham rápido para níveis inacessíveis. Por causa disso, usar chips de IA mais antigos, significa custos gerais e desacelerações, no mínimo, uma ordem de grandeza maior do que para chips do estado da arte. […} De fato, nos melhores laboratórios, uma grande porção do gasto total é direcionada ao poder computacional relacionado à IA. Com chips de propósito geral como CPUs ou até chips de IA mais antigos, esse treinamento levaria um tempo substancialmente maior para completar e custaria ordens de grandeza a mais, praticamente impossibilitando ficar na fronteira da pesquisa e implementação.”
  8. Por exemplo, dados poderiam se tornar um gargalo mais crucial, ou poderia haver grandes e súbitos melhoramentos nos algoritmos de IA, de modo que se necessite relativamente pouco poder computacional para treinar poderosos modelos. 
  9. Veja, por exemplo, as pesquisas que sugerem que é possível prever o desempenho de sistemas de IA futuros em vários referenciais, se você souber somente quanto poder computacional é usado para treiná-los, como Owen (2023) que sugere que ainda há muita oportunidade para melhorar os modelos de fronteira, usando quantidades cada vez maiores de poder computacional.
  10. Razões adicionais pelas quais o poder computacional parece um ponto de vantagem promissor para a governança da IA incluem:
    • Os enormes requisitos de energia dos clusters de grande poder computacional.
    • O fato de que não só são necessários muitos chips de IA para treinar modelos de fronteira, mas eles também precisam estar localizados nas mesmas instalações (a fim de permitir que as informações sejam transmitidas entre eles rapidamente).
  11. Fiz essa estimativa perguntando a algumas pessoas, registrando as pessoas que eu conheço e aplicando incerteza ao limite superior. Essas estimativas incluem apenas pessoas que trabalham diretamente nessas coisas, não, por exemplo, pessoas que fazem operações para uma organização que faz esse trabalho, por mais valioso que seja. Os pesquisadores com quem falei, disseram que há uma forte necessidade de conhecimento em hardware de IA atualmente, embora seja menos claro se esse ainda será o caso daqui a cinco anos, e também é menos claro se há uma necessidade para muitos especialistas a mais, ou relativamente poucos. Há aspectos do hardware de IA e áreas relacionadas, nas quais ninguém que está trabalhando na redução do risco existencial é especialista, e ter uma única pessoa bem-informada sobre esses aspectos poderia trazer muito valor.
  12. Um analista de políticas é um pesquisador (e às vezes um membro da equipe,) focado em entender e informar políticas públicas.
  13. Revelação: o autor deste artigo, Erich Grunewald, é empregado do IAPS.

Retornar ao Início