Traduzido, editado e adaptado pela equipe do Carreiras Eficazes, de modo a atender as necessidades das comunidades lusófonas com autorização dos produtores do texto original.
Passamos grande parte dos últimos 10 anos (ou mais) tentando responder a uma simples pergunta: quais são os maiores e mais negligenciados problemas mundiais?
Queríamos ter um impacto positivo com nossas carreiras, e por isso fomos pesquisar onde nossos esforços seriam mais eficazes.
Nossa análise sugere que a escolha do problema certo poderia aumentar o seu impacto em mais de 100 vezes, o que a tornaria o impulsionador mais importante do seu impacto.
Aqui, daremos um resumo do que descobrimos. Continue lendo para ver por que acabar com a diarreia poderia salvar tantas vidas quanto a paz mundial, por que a inteligência artificial pode ser ainda mais importante e o que fazer em sua própria carreira para que as mudanças mais urgentes aconteçam.
Resumindo, os problemas mais urgentes são aqueles que as pessoas podem ter o maior impacto ao trabalhar em sua solução. Como explicamos no artigo anterior, isso significa problemas que não são apenas grandes, mas também negligenciados e solucionáveis. Quanto mais negligenciado e solucionável, mais será o esforço extra. E isso significa que eles não são os problemas que nos vem à mente mais rápido.
Se você só quiser saber qual achamos que é a resposta, vá para a nossa lista dos problemas mais urgentes do mundo.
Tempo de leitura: 25 minutos.
>> Você também pode preferir assistir a este vídeo primeiro.
Por que os problemas enfrentados por países ricos nem sempre são os mais importantes — e por que a caridade nem sempre deve começar em casa
A maioria das pessoas que querem fazer algo bom costuma focar nos problemas do seu país natal. Em países ricos, isso muitas vezes significa problemas como falta de moradia, educação em áreas periféricas e desemprego*. Mas são essas as questões mais urgentes?
[*NT: mesmo para um país em desenvolvimento, como o Brasil, essa argumentação tem seu peso. Ainda que tenhamos muito que avançar, nossos problemas são menores se comparados àqueles da maioria dos países da África Subsaariana ou do sudeste asiático, por exemplo.]
Nos EUA, apenas 5% das doações para a caridade são gastas em causas internacionais. As carreiras mais populares para graduados talentosos que desejam fazer o bem são educação e saúde, as quais recebem em conjunto cerca de 40% das pessoas com ensino superior completo, e envolvem principalmente ajudar pessoas dentro dos EUA.
Há boas razões para focar em ajudar o seu próprio país: você sabe mais sobre os seus problemas e pode sentir que tem obrigações especiais para com ele. No entanto, lá em 2009, nos deparamos com a seguinte série de fatos. Eles nos levaram a pensar que os problemas mais urgentes não são locais, mas sim relacionados à pobreza nos países mais pobres do mundo, especialmente esforços na área da saúde, como o combate à malária e aos vermes parasitas. (E como veremos mais tarde, agora achamos que há problemas ainda mais urgentes que a pobreza global, em particular, riscos catastróficos que poderiam afetar o mundo todo e o futuro.)
Por que dizemos que os problemas mais urgentes não são locais? Bem, aqui está um gráfico bem surpreendente com que nos deparamos em nossa pesquisa.
Fonte: PovcalNet e Milanović
Essa é a distribuição de renda mundial que vimos em um artigo anterior.
Mesmo alguém vivendo na linha de pobreza dos EUA de US$ 14.580 por ano (valor de 2023) é mais rico que cerca de 85% da população mundial e cerca de 20 vezes mais rico do que os 700 milhões mais pobres do mundo, que vivem predominantemente na América Central, África e sul da Ásia com menos de US$ 800 por ano. Esses números já estão ajustados para considerar que o dinheiro é capaz de fazer muito mais nos países pobres (paridade de poder de compra).
Como também vimos anteriormente, quanto mais pobre você é, maior diferença um dinheiro extra faz para seu bem-estar. Com base nessa pesquisa, dado que os pobres na África são 20 vezes mais pobres, esperamos que os recursos os ajudem 20 vezes mais.
Também há apenas cerca de 40 milhões de pessoas vivendo em relativa pobreza nos EUA, o equivalente à cerca de 6% dos 650 milhões em pobreza extrema global.
Há também, de longe, muito mais recursos direcionados a ajudar esse grupo menor de pessoas. A ajuda oferecida por países desenvolvidos para o desenvolvimento externo totaliza US$ 200 bilhões por ano, comparados a US$ 1,7 trilhão, gastos apenas com bem-estar social dentro dos Estados Unidos.
Finalmente, como vimos anteriormente, uma considerável fração das intervenções sociais feitas nos EUA provavelmente não funcionam. Isso se dá porque os problemas enfrentados pelos mais pobres em países ricos são complexos e difíceis de resolver. Além disso, mesmo as intervenções mais apoiadas por evidências são caras e possuem efeitos modestos.
A mesma comparação pode ser feita para outros países ricos, como o Reino Unido, a Austrália, o Canadá e a União Europeia. (Contudo, se você mora em um país de baixa renda, talvez seja melhor focar nos problemas locais).
Isso tudo não significa negar que os pobres em países ricos têm vidas muito duras, talvez até mesmo piores em alguns aspectos do que as vidas dos pobres em países em desenvolvimento. Em vez disso, a questão é: há muito menos pobres em países ricos e é mais difícil ajudá-los.
Portanto, se você não está focando em questões no seu país de origem, no que você deveria focar?
Jay Z pode ter 99 problemas, mas qual é o mais urgente?
Saúde global: um problema no qual você realmente pode fazer progresso
Anteriormente, contamos a história do Dr. Nalin, que ajudou a desenvolver a terapia de reidratação oral como tratamento para a diarreia.
E se lhe disséssemos que ao longo da segunda metade do século XX, os esforços do Dr. Nalin, em conjunto com outros, contribuíram tanto para salvar vidas, como teria contribuído alcançar a paz mundial, ao longo do mesmo período.
O número de mortes a cada ano devido à diarreia diminuiu em 3 milhões durante as últimas cinco décadas devido a avanços como a terapia de reidratação oral.
Ao mesmo tempo, todas as guerras e fomes causadas por razões políticas mataram cerca de 2 milhões de pessoas por ano durante a segunda metade do século XX.
E tivemos vitórias similares sobre outras doenças infecciosas.
A luta global contra as doenças é uma das maiores conquistas humanas, mas também é uma batalha contínua para a qual você pode contribuir com a sua carreira.
Uma grande fração desses ganhos foi impulsionada pela ajuda humanitária, como a campanha para erradicar a varíola. De fato, embora muitos especialistas em economia acreditem que grande parte da ajuda internacional não foi eficaz, mesmo os mais céticos concordam que existe uma exceção: a saúde global.
Por exemplo, William Easterly, autor de O Espetáculo do Crescimento: Aventuras e Desventuras dos Economistas na Incessante Busca pela Prosperidade nos Trópicos, escreveu:
Coloque o foco de volta no seu lugar: consiga para as pessoas mais pobres do mundo bens óbvios como as vacinas, os antibióticos, os suplementos alimentares, as sementes aprimoradas, o fertilizante, as estradas (…) Isso não é tornar os pobres dependentes de esmolas; isso é dar às pessoas mais pobres a saúde, nutrição, educação e outros insumos que aumentam as recompensas pelos seus próprios esforços para melhorar suas vidas.
Dentro da saúde, onde focar? Um economista do Banco Mundial nos enviou estes dados, que também nos surpreenderam.
Custo-eficácia das intervenções de saúde conforme encontrada no Projeto de Prioridades de Controle de Doenças. Veja “O imperativo moral de considerar a relação custo-eficácia na saúde global” de Toby Ord para mais explicações.
Essa é uma lista de tratamentos de saúde, tais como o fornecimento de medicamentos ou cirurgias contra a tuberculose, classificados em relação à quantidade de saúde que eles produzem por dólar, conforme medida em rigorosos estudos controlados aleatórios. A saúde é medida em uma unidade-padrão utilizada pelos economistas da saúde, denominada ano de vida ajustado conforme a qualidade (QALY ).
A primeira coisa a se considerar é que todos esses tratamentos são eficazes. Essencialmente, todos eles seriam financiados em países como os EUA e o Reino Unido. As pessoas nos países pobres, no entanto, morrem rotineiramente de doenças que certamente teriam sido tratadas se elas tivessem nascido em algum outro lugar.
Ainda mais surpreendente, no entanto, é que as principais intervenções são muito melhores do que a média, conforme é mostrado pelo pico à direita. As melhores intervenções, como as vacinas, demonstraram ter benefícios consideráveis, mas também são extremamente baratas. A melhor intervenção é mais de dez vezes melhor em termos de custo-eficácia do que a média e 15.000 vezes melhor do que a pior intervenção. Isso significa que, se você estivesse trabalhando em uma organização de saúde focada em uma das melhores intervenções, você esperaria ter dez vezes mais impacto em comparação com uma outra intervenção aleatoriamente escolhida.
Esse estudo não é perfeito – ocorreram alguns erros na análise que afetaram os melhores resultados (e é isso o que se esperaria devido à regressão à média) –, mas o ponto principal é sólido: as melhores intervenções de saúde são muitas vezes mais eficazes do que a média.
Então, quanto mais impacto você pode causar em sua carreira ao mudar seu foco para a saúde global?
Como vimos no primeiro gráfico, dado que as pessoas mais pobres do mundo são mais de 20 vezes mais pobres do que as pessoas pobres nos países ricos, os recursos contribuem cerca de 20 vezes mais para ajudá-las (leia sobre a razão disso aqui).
Então, se focarmos na saúde, existem intervenções baratas e eficazes que todos concordam que vale a pena fazer. Podemos usar a pesquisa do último gráfico para escolher as melhores intervenções, permitindo-nos ter, talvez, um impacto cinco vezes maior ainda. Isso totaliza uma diferença de impacto de 100 vezes.
Isso confere? O Serviço Nacional de Saúde do Reino Unido e muitas agências governamentais dos EUA estão dispostos a gastar mais de US$ 30.000 para prover a alguém um ano extra de vida saudável. Esse é um fantástico uso de recursos para padrões comuns.
No entanto, pesquisas da GiveWell descobriram que é possível prover a uma criança um ano de vida saudável doando cerca de US$ 100 para uma das organizações focadas em saúde global mais positivas em termos de custo-eficácia, como a Against Malaria Foundation (leia sobre a Against Malaria Foundation em português). Isso é cerca 0,33% do valor no parágrafo anterior. Isso sugere que, pelo menos em termos de melhorias na saúde, uma carreira de trabalho numa organização como a AMF pode alcançar tanto quanto 300 carreiras focadas em um modo típico de fazer o bem num país rico. (Embora nosso melhor palpite seja que uma comparação mais rigorosa e abrangente encontraria uma diferença um pouco menor.)
É difícil entendermos diferenças de escala tão grandes, mas isso significa que um ano de esforço (igualmente qualificado) aplicado aos melhores tratamentos na área da saúde global poderia ter tanto impacto quanto o que teria necessitado outros 100 anos trabalhando em problemas típicos de um país rico.
Essas descobertas levaram muitos de nós no 80.000 Horas a começar a doar pelo menos 10% de nossas rendas para organizações eficazes na área da saúde global. Não importa em qual emprego acabamos entrando, essas doações nos permitiriam fazer uma diferença significativa. De fato, se o índice de 100 vezes estiver correto, uma doação de 10% seria equivalente a doar 1.000% de nossa renda para instituições de caridade focadas na pobreza em países ricos.
Veja mais detalhes sobre como contribuir para a saúde global em nosso guia completo.
Antes de continuar, assista a este vídeo (ative as legendas em português).
No entanto, tudo o que aprendemos sobre saúde global levantou muitas outras questões. Se é possível obter 10 ou 100 vezes mais impacto só fazendo um pouco de pesquisa, não deve haver áreas ainda melhores para descobrirmos?
Consideramos muitos caminhos para ajudar os pobres globais, como reformas comerciais, a promoção da imigração (leia este texto que também aborda o tema, em português), pesquisas de melhoria da produtividade agrícola e a pesquisa biomédica.
Mudando de rumo, também consideramos seriamente trabalhar para acabar com a pecuária industrial. A ideia, em suma, é que os interesses dos animais recebem muito pouca proteção de nossos sistemas econômicos e políticos atuais, mas há enormes números deles: cerca de 100 bilhões de animais morrem a cada ano em fazendas industriais. Por exemplo, ajudamos a fundar a Animal Charity Evaluators, que faz pesquisa sobre como melhorar da forma mais eficaz o bem-estar animal. Ainda pensamos que a pecuária industrial é um problema urgente, como explicamos em nosso guia completo. Mas no final, decidimos focar em algo diferente.
Por que concentrar-se nas gerações futuras pode ser ainda mais eficaz do que tratar da saúde global
Quais destas duas opções você escolheria?
- Impedir que uma pessoa sofra no próximo ano.
- Impedir que 100 pessoas sofram (a mesma quantidade de sofrimento) daqui a 100 anos.
A maioria das pessoas escolhe a segunda opção. É um exemplo grosseiro, mas sugere que elas valorizam as futuras gerações.
Se as pessoas não quisessem deixar um legado para as gerações futuras, seria difícil entender por que investimos tanto na ciência, criamos arte e preservamos a natureza selvagem.
Nós certamente escolheríamos a segunda opção. E se você valoriza as gerações futuras, então há argumentos poderosos para a ideia de que ajudá-las deveria ser o seu foco. Fomos expostos a eles por pesquisadores do (modestamente batizado) Future of Humanity Institute (Instituto Futuro da Humanidade), da Universidade de Oxford.
Então, qual é o raciocínio por trás disso?
Primeiro, as futuras gerações importam, mas não podem votar, não podem comprar coisas, tampouco podem defender seus interesses. Isso significa que nosso sistema as negligencia. Podemos notar isso considerando que não chegamos a um acordo internacional que realmente funcione para enfrentar as mudanças climáticas.
Segundo, a situação delas é abstrata. Nos lembramos de questões como a pobreza global e a pecuária industrial com muito mais frequência. Mas não conseguimos visualizar tão facilmente o sofrimento que irá acontecer no futuro. As gerações futuras dependem mais da nossa boa vontade, e até isso é difícil de mobilizar.
Em terceiro lugar, provavelmente haverá muito mais pessoas vivas no futuro do que há hoje. A Terra permanecerá habitável por pelo menos centenas de milhões de anos. Podemos ser extintos muito antes disso, mas se houver uma chance de conseguirmos sobreviver até lá, muito mais pessoas viverão no futuro do que as que estão vivas hoje.
Usando valores hipotéticos: se cada geração durar 100 anos, ao longo de 100 milhões de anos poderia haver 1 milhão de gerações futuras.
Esse é um número tão grande que qualquer problema que afete as futuras gerações pode ter uma escala muito maior do que um problema que afete apenas o presente: poderia afetar uma quantidade de pessoas um milhão de vezes maior, e toda a arte, ciência, cultura e bem-estar que isso implicará. Logo, problemas que afetam as gerações futuras podem ser os de maior escala e os mais negligenciados.
Além disso, porque o futuro pode ser longo e o universo é tão vasto, quase independentemente do que você valoriza, poderia haver muito mais do que importa no futuro.
Isso sugere que temos uma razão muito maior do que as pessoas geralmente percebem para ajudar o futuro — e não apenas o futuro próximo, mas também o futuro bem distante — a ir bem. (Abordaremos essas ideias com mais profundidade num artigo distinto.)
Mas será que podemos realmente ajudar as gerações futuras, ou melhorar o futuro no longo prazo? Não poderia ser que os problemas que afetam o futuro são grandes e negligenciados, mas não solucionáveis?
Uma forma de ajudar as gerações futuras: evitar riscos existenciais negligenciados
No verão de 2013, Barack Obama referiu-se às mudanças climáticas como “a ameaça global do nosso tempo”. Ele não está sozinho nessa opinião. Ao pensar nos problemas que as gerações futuras enfrentarão, frequentemente o aquecimento global é o primeiro a vir à mente de muitos.
Uma razão para isso é que as mudanças climáticas poderiam levar a um colapso civilizacional catastrófico, e poderia até levar ao fim da espécie humana.
Achamos que esse pensamento está, em certa medida, no caminho certo. O modo mais potente de ajudarmos as futuras gerações é, pensamos, prevenindo uma catástrofe que possa acabar com a civilização avançada, ou até impedir que quaisquer gerações futuras venham a existir. Se a civilização sobreviver, teremos posteriormente uma chance de resolver problemas como a pobreza e a doença; ao passo que qualquer coisa que imponha uma ameaça genuinamente existencial impedirá qualquer progresso desse tipo. (Em outro lugar, nós defendemos a importância da redução de riscos existenciais.)
No entanto, as mudanças climáticas também são amplamente reconhecidas como um grande problema (pondo de lado os teóricos da conspiração) e recebe dezenas ou até centenas de bilhões de dólares de investimento. Nosso palpite também é que há problemas que impõem riscos muito maiores de acabar com a civilização.
Então, ao mesmo tempo que pensamos que as mudanças climáticas são um modo importante de ajudar as gerações futuras, achamos que provavelmente haverá um impacto muito maior se muitos focarem em problemas mais negligenciados e existencialmente perigosos.
(Você pode ler mais sobre o risco das mudanças climáticas em nosso perfil completo do problema.)
Biorrisco: a ameaça de doenças futuras
Em 2006, o jornal The Guardian encomendou segmentos de DNA de varíola pelo correio. Se montados em uma cadeia completa e transmitidos a 10 pessoas, um estudo estimou que ela poderia infectar 2,2 milhões de pessoas em 180 dias — podendo matar 660.000 — se as autoridades não respondessem rapidamente com vacinas e quarentenas.
Créditos pela imagem: The Guardian
Escrevemos sobre os riscos impostos por pandemias catastróficas pela primeira vez lá em 2016. Sete anos depois, e três após a emergência da covid-19, ainda estamos preocupados.
A covid-19 perturbou o mundo e, até agora, matou mais de 10 milhões de pessoas. Mas é fácil imaginar cenários muito piores.
No futuro, podemos enfrentar doenças ainda mais mortais do que a covid-19 e a varíola, criadas seja pela evolução natural, seja pela bioengenharia (cuja tecnologia está se tornando mais barata e acessível a cada ano).
Na nossa opinião, a chance de uma pandemia que mate mais de 100 milhões de pessoas no próximo século parece semelhante e provavelmente maior que os riscos de uma guerra nuclear ou de mudanças climáticas descontroladas. Logo, ela representa uma ameaça que é no mínimo de grandeza semelhante tanto à geração presente quanto às gerações futuras.
Mas os riscos de pandemias são, mesmo agora, muito mais negligenciados do que qualquer um dos dois que acabamos de mencionar. Estimamos que mais de US$ 600 bilhões sejam gastos anualmente em esforços para combater as mudanças climáticas, em comparação com US$ 1 a US$ 10 bilhões gastos em biossegurança visando lidar com os piores casos possíveis de pandemias.
Além disso, há alguns modos como os riscos das pandemias poderiam ser ainda maiores. É muito difícil enxergar como a guerra nuclear ou a mudança climática poderia matar literalmente todos, e extinguir permanentemente a civilização; mas armas biológicas com esse poder parecem estar dentro do domínio do possível, dado tempo suficiente.
Ao mesmo tempo, há muitas coisas relativamente simples que podem ser feitas para melhorar a biossegurança, como melhorar a regulamentação de laboratórios, construir reservas maiores de equipamento de proteção individual (EPI) e desenvolver diagnósticos baratos para detectar novas doenças rapidamente. No geral, achamos que a biossegurança é provavelmente mais urgente do que as mudanças climáticas. Atualmente, achamos que a biossegurança é um dos problemas mais urgentes do mundo.
Leia mais sobre como contribuir para a biossegurança em nosso perfil completo do problema.
Mas há problemas que podem ser ainda mais importantes e que parecem ser ainda mais negligenciados.
Evitando uma catástrofe relacionada à IA
Por volta de 1800, a civilização passou por uma das mudanças mais profundas da história humana: a revolução industrial.
Olhando para o futuro, qual poderia ser a próxima transição dessa escala: o próximo evento crucial na história que moldará todas as gerações futuras? Se pudéssemos identificar tal transição, essa poderia bem ser a área mais importante para trabalhar.
Uma candidata é a bioengenharia — a capacidade de redesenhar fundamentalmente os seres humanos — conforme discutido, por exemplo, por Yuval Noah Harari em Sapiens.
Mas achamos haver um problema que é ainda mais negligenciado e que está se desenvolvendo muito mais rápido: a inteligência artificial.
Bilhões de dólares são gastos tentando tornar a inteligência artificial mais poderosa, mas quase nenhum esforço é dedicado a garantir que essas capacidades adicionais sejam implementadas com segurança e para o benefício da humanidade.
Isso é importante por duas razões principais.
Primeiro, sistemas de IA poderosos podem ser usados indevidamente. Por exemplo, eles podem ser usados para desenvolver novas tecnologias perigosas, como armamentos novos e mais poderosos.
Segundo, há um risco de acidentes quando novos e poderosos sistemas de IA são implementados. Isso é especialmente urgente devido ao problema do alinhamento. Esse é um tópico complexo; portanto, se você quiser explorá-lo adequadamente, recomendamos ler o nosso perfil de problema completo sobre a inteligência artificial. Mas aqui está uma rápida introdução.
Nos anos 80, o xadrez foi apresentado como um exemplo de algo que uma máquina nunca poderia fazer. Mas em 1997, o campeão mundial de xadrez Garry Kasparov foi derrotado pelo software Deep Blue. Desde então, os computadores se tornaram muito melhores no xadrez do que os humanos.
Em 2004, dois especialistas em inteligência artificial usaram a condução de caminhões como exemplo de um trabalho que seria muito difícil de automatizar. Mas hoje, os carros autônomos já estão na estrada.
Em agosto de 2021, uma equipe de analistas profissionais previu que levaria cinco anos para um computador poder resolver problemas de matemática ao nível de competição do ensino médio. Menos de um ano depois, o Google construiu uma IA que podia fazer exatamente isso.
No final de 2022, o ChatGPT se tornou a plataforma on-line de maior crescimento na história.
Linha do tempo de imagens geradas por inteligência artificial.
Essas pessoas não existem. Todas as imagens foram geradas por inteligência artificial.
Os mais recentes desses avanços são possíveis devido ao progresso no aprendizado de máquina. No passado, em geral, precisávamos fornecer instruções detalhadas aos computadores para toda tarefa. Hoje, temos programas que ensinam a si mesmos. O mesmo algoritmo que pode jogar Space Invaders também aprendeu a jogar cerca de 50 outros jogos de fliperama, legendar imagens, bater papo com humanos e manipular um braço robótico.
O aprendizado de máquina existe há décadas, mas algoritmos aprimorados (especialmente em torno de técnicas de aprendizado profundo), processadores mais rápidos, conjuntos de dados maiores e grandes investimentos de empresas como o Google e a Microsoft levaram a avanços surpreendentes muito mais rápido do que o esperado.
Veja este vídeo no qual a Google DeepMind joga Space Invaders a um nível sobre-humano.
Devido a isso, muitos especialistas acreditam que a inteligência artificial ao nível humano poderia facilmente acontecer enquanto ainda estivermos vivos. Aqui estão os resultados de uma pesquisa de 2022 com centenas de pesquisadores da área da IA do mais alto escalão:
| Resposta mediana | Resposta média | Desvio padrão | |
| 10% de chance de inteligência artificial ao nível humano | 2032 | 2042 | 40 anos |
| 50% de chance de inteligência artificial ao nível humano | 2052 | 2127 | 530 anos |
| 90% de chance de inteligência artificial ao nível humano | 2086 | 5406 | 40.000 anos |
Você pode ver que os especialistas dão 50% de chance (ou mais) de que a IA de nível humano ocorra até 2050, daqui a apenas 30 anos. Reconhecidamente, eles são muito incertos, mas a alta incerteza também significa que pode chegar mais cedo em vez de mais tarde. Você pode ler muito mais sobre quando a IA de nível humano pode acontecer em nosso perfil de problema completo sobre a IA.
Por que isso é importante? Os gorilas são mais rápidos que nós, mais fortes que nós e têm uma mordida mais potente. Mas existem apenas 100.000 gorilas na natureza, em comparação com sete bilhões de seres humanos, e seu destino está em nossas mãos. Uma das principais razões para isso é a diferença de inteligência.
Neste momento, os computadores são mais inteligentes do que nós de maneira limitada (por exemplo, jogando StarCraft), e isso já está transformando a economia. Mas o que acontecerá quando os computadores se tornarem mais inteligentes do que nós de quase todas as maneiras, da mesma forma que somos mais inteligentes que os gorilas?
Essa transição pode ser extremamente positiva ou extremamente negativa. Por um lado, assim como a revolução industrial automatizou o trabalho manual, a revolução da IA poderia automatizar o trabalho intelectual, desencadeando uma prosperidade e acesso a recursos materiais sem precedentes.
Mas também não poderíamos garantir o controle de um sistema que é mais inteligente do que nós: ele seria mais estratégico do que nós, mais persuasivo e melhor em resolver problemas. Portanto, precisamos garantir que os sistemas de IA compartilhem nossos objetivos.
No entanto, isso não é fácil. Ninguém sabe como codificar o comportamento moral em um computador. Na ciência da computação, isso é conhecido como o problema do alinhamento.
Resolver o problema do alinhamento pode ser extremamente importante, mas hoje poucas pessoas estão trabalhando nele.
Estimamos que o número de pesquisadores trabalhando diretamente em tempo integral no problema do alinhamento seja em torno de 300, tornando-o mais de 10 vezes mais negligenciado do que a biossegurança.
Ao mesmo tempo, há uma movimentação por trás desse trabalho. Nos últimos 10 anos, o campo conquistou apoio no meio acadêmico e na indústria, como Stephen Hawking, Stuart Russell (que escreveu o livro didático mais popular na área da IA) e Geoffrey Hinton (pioneiro da área da IA). Se você, pessoalmente, não for adequado à pesquisa técnica, pode contribuir de outras formas: por exemplo, trabalhando como gerente ou assistente de pesquisa, ou doando e arrecadando fundos para essa pesquisa.
Isso também será um grande problema para os governos. Políticas públicas relativas à IA estão rapidamente se tornando uma área importante, mas os formuladores de tais políticas estão geralmente focados em questões de curto prazo, como regulamentação de carros autônomos e perda de empregos, em vez das questões-chave de longo prazo (isto é, o futuro da civilização).
Você pode descobrir como contribuir em nosso perfil completo sobre o problema.
De todos os problemas que abordamos até agora, reduzir os riscos impostos pela IA está entre os mais importantes, mas também entre os mais negligenciados. Apesar de também ser mais difícil de resolver, achamos que ele provavelmente estará entre os problemas de maior impacto das décadas por vir.
Isso foi uma surpresa para nós quando o consideramos pela primeira vez, mas achamos que é para onde os argumentos levam. Atualmente, nós passamos mais tempo pesquisando sobre aprendizado de máquina do que sobre redes antimalária.
Leia mais sobre por que achamos que reduzir riscos de extinção deve ser a prioridade-chave da humanidade.
Lidando com a incerteza e “indo ao nível meta”
Nossas opiniões mudaram bastante nos últimos 12 anos, e elas podem facilmente mudar de novo. Poderíamos nos comprometer a trabalhar em IA ou biossegurança, mas não poderíamos descobrir algo ainda melhor nos próximos anos? E o que essa incerteza pode implicar sobre onde devemos focar agora?
Pesquisa de prioridades globais
Se você não tem certeza sobre qual problema global é mais urgente, aqui está uma resposta: “são necessárias mais pesquisas.” Apenas uma ínfima fração dos bilhões de dólares gastos a cada ano tentando tornar o mundo um lugar melhor é dedicada à pesquisa para identificar de qual maneira devemos gastar esses recursos de forma mais eficaz: o que chamamos de “pesquisa de prioridades globais”.
Como vimos, algumas abordagens são muito mais eficazes do que outras. Então, esta pesquisa é extremamente valiosa.
Uma carreira nesta área poderia significar trabalhar na Open Philanthropy, no Future of Humanity Institute e no Rethink Priorities; ou na economia no meio acadêmico, em think tanks ou em outros lugares. Leia mais sobre como contribuir no perfil completo sobre pesquisa de prioridades globais.
Intervenções amplas, como as políticas aperfeiçoadas
A segunda estratégia é trabalhar em problemas que nos ajudarão a resolver muitos outros problemas. Chamamos isso de “intervenções amplas”.
Por exemplo, se tivéssemos um governo mais esclarecido, isso nos ajudaria a resolver muitos outros problemas que serão enfrentados pelas futuras gerações. O governo dos EUA, em particular, terá um papel crucial em questões como política climática, política de IA, biossegurança e novos desafios que ainda não conhecemos. Portanto, a governança dos EUA é altamente importante (se talvez não for negligenciada ou tratável).
A ação política em sua comunidade local pode influenciar os tomadores de decisão em Washington. Fizemos uma análise do tipo mais simples de ação política — votar — e descobrimos que poderia ser algo realmente valioso.
Por outro lado, questões como educação e governança dos EUA já recebem uma quantidade enorme de atenção, dificultando sua melhoria.
Geralmente favorecemos questões mais negligenciadas com efeitos direcionados sobre as futuras gerações. Por exemplo, uma pesquisa fascinante de Philip Tetlock mostra que algumas equipes e métodos são muito melhores em prever eventos geopolíticos do que outros. Se os tomadores de decisão na sociedade recebessem relatórios com previsões muito mais precisas, isso os ajudaria a navegar em crises futuras, quaisquer que elas acabassem sendo.
Leia mais sobre como contribuir para melhorar a tomada de decisão no perfil completo. No entanto, a categoria de “intervenções amplas” é uma das áreas de maior incerteza, de modo que estamos interessados em ver mais pesquisas delas.
Capacitação e promoção do altruísmo eficaz
Se você não tem certeza de quais problemas serão mais urgentes no futuro, uma terceira estratégia é simplesmente economizar dinheiro ou investir no seu capital de carreira, para que você esteja em melhor posição para fazer o bem quando tiver mais informações.
No entanto, ao invés de fazer investimentos pessoais, achamos melhor investir em uma comunidade de pessoas que trabalham para fazer o bem.
Num artigo anterior, demos uma olhada na Giving What We Can (GWWC), uma organização que está construindo uma comunidade de pessoas que doam 10% de sua renda para quaisquer organizações que forem as melhores em termos de custo-eficácia. Cada US$ 1 investido no crescimento da GWWC levou a mais de US$ 9 já doados `às principais organizações recomendadas, e um total de quase mais de US$ 3 bilhões prometidos.
Construindo uma comunidade, a GWWC conseguiu arrecadar muito mais dinheiro do que seus fundadores poderiam doar individualmente: eles alcançaram um multiplicador de seu impacto.
Mas, além disso, os membros doam para qualquer instituição de caridade que seja mais eficiente no momento. Se a situação mudar, então (pelo menos até certo ponto) as doações mudarão também.
Essa flexibilidade faz com que o impacto ao longo do tempo seja muito maior.
A Giving What We Can é um dentre os vários exemplos de projetos da comunidade do altruísmo eficaz, uma comunidade de pessoas que buscam identificar as melhores maneiras de ajudar os outros e agem de acordo com as suas descobertas. (Veja o nosso perfil completo sobre promover o altruísmo eficaz.)
O próprio 80.000 Horas é outro exemplo desses projetos.
Um aconselhamento de carreira melhor não parece um dos problemas mais urgentes imagináveis. Mas muitos dos jovens mais talentosos do mundo querem fazer o bem com suas vidas e não têm bons conselhos sobre como fazer isso. Isso significa que, a cada ano, milhares deles têm muito menos impacto do que poderiam ter.
Nós poderíamos ter ido trabalhar em questões como a IA. Mas, em vez disso, ao fornecer melhores conselhos, podemos ajudar milhares de outras pessoas a encontrar carreiras de alto impacto. E assim (se fizermos um bom trabalho), podemos esperar ter milhares de vezes mais impacto.
Além disso, se descobrirmos novas opções de carreira melhores do que as que já conhecemos, podemos passar a promovê-las. Assim como a Giving What We Can, essa flexibilidade nos dá maior impacto ao longo do tempo.
Chamamos as estratégias indiretas mencionadas – pesquisa de prioridades globais, intervenções amplas e promoção do altruísmo eficaz – “ir ao nível meta“, pois tais estratégias trabalham um nível acima dos problemas concretos que parecem mais urgentes.
A desvantagem de “ir ao nível meta” é que é mais difícil saber se seus esforços são eficazes. A vantagem é que eles são geralmente mais negligenciados, já que as pessoas preferem as oportunidades mais concretas que as mais abstratas, e estas últimas permitem que você tenha um impacto maior diante da incerteza.
Como descobrir em quais problemas você deve focar
Você pode ver a lista dos problemas mais urgentes, incluindo muitos dos que mencionamos nesta página, aqui.
Mas essa é só a nossa lista. O que importa para a sua carreira é a sua lista pessoal.
A avaliação desses problemas depende enormemente de juízos de valor e questões empíricas sujeitas a debate, e você pode não compartilhar nossas respostas. Discutimos sobre alguns modos como poderíamos estar errados na seção de perguntas frequentes na página dos nossos perfis de problemas.
A adequação pessoal é essencial, assim como as oportunidades particulares que você encontra. Não achamos que todos devem trabalhar no problema número um. Se você é extremamente adequado para uma área, pode ser que tenha 10 vezes mais impacto trabalhando nela do que em algo que não o motiva. Logo, isso poderia facilmente mudar sua classificação individual.
Apenas lembre-se de que há muitas maneiras de ajudar a resolver cada um desses problemas, e por isso normalmente é mais fácil do que parece à primeira vista encontrar um trabalho de que você goste e que ajude com problemas nos quais você pode ainda não ter considerado trabalhar. Além disso, é mais fácil desenvolver novas paixões do que a maioria das pessoas espera.
Apesar de todas as incertezas, a sua escolha sobre em qual problema trabalhar pode ser o maior fator a determinar o seu impacto.
Se classificarmos os problemas globais em termos de quão urgentes eles são, poderíamos intuitivamente esperar que eles se parecessem assim:
Alguns problemas são mais urgentes que outros, mas a maioria é bastante satisfatória.
Mas em vez disso, descobrimos que a realidade se parece mais assim:
Alguns problemas têm muito maior impacto do que outros, pois podem diferir em 10 ou 100 vezes em termos de quão grandes, negligenciados e solucionáveis eles são, bem como seu grau de adequação pessoal a eles. Portanto, tomar a decisão correta pode significar conquistar resultados mais de 100 vezes maiores em sua carreira.
Se há uma lição para tirarmos de tudo o que abordamos, é esta: se você quiser fazer o bem no mundo, vale a pena em algum momento tirar realmente um tempo para descobrir sobre diferentes problemas globais e como você pode contribuir para solucioná-los. Leva tempo e há muito que aprender, mas é difícil imaginar algo que seja mais interessante ou importante.
| Aplique isso à sua própria carreira Você não precisa descobrir em quais problemas globais você deseja focar bem no início da sua carreira. No começo, a principal prioridade é explorar para descobrir no que você é bom e construir habilidades valiosas. É comum não enfrentar diretamente os problemas que você acha que são os mais urgentes por muitos anos. No entanto, é útil pelo menos ter uma ideia aproximada dos problemas com os quais você gostaria de trabalhar no futuro, visto que isso pode afetar enormemente quais tipos de habilidade parece mais útil construir. Por exemplo, se você acha que reduzir os riscos da IA está na sua lista, isso poderia sugerir a aquisição de algumas habilidades e experiências bem diferentes das que você obteria para a saúde global (embora algumas habilidades sejam úteis nas duas áreas, como a gestão). Logo, ainda que você esteja bem no começo da sua carreira, sugerimos que passe pelo menos alguns dias pensando nessa questão. Aqui está um exercício: 1. Usando os recursos acima, anote os três problemas globais que você considera que mais precisam de pessoas a mais trabalhando neles. Isso dependerá de seus valores e de suposições empíricas. Não se preocupe demais com a sua adequação pessoal. Embora seja uma consideração importante, a sua adequação para uma função pode ser difícil de avaliar, de modo que temos um artigo inteiro sobre ela posteriormente no guia. Por ora, só foque em conseguir a melhor imagem do que o mundo precisa. 2. Sobre o que você mais está incerto com respeito à sua lista? Como você pode descobrir mais sobre essas questões? (Por exemplo: há algo que você possa ler? Alguém com quem possa conversar?) Lembre-se de que você pode ver uma lista de todas as áreas de problema que já revisamos aqui. Clique nos perfis individuais para saber mais sobre cada questão. Você também pode olhar a nossa lista de tópicos para ver tudo que já produzimos sobre certa questão.Se você quiser se aprofundar na comparação de problemas globais, consulte os artigos relevantes em nossa série avançada.Essa lista de problemas é só um ponto de partida. O próximo passo é encontrar opções de carreira concretas que façam a diferença dentro da área (o que cobrimos no próximo artigo), e daí encontrar uma opção com uma excelente adequação pessoal (o que também cobrimos posteriormente). |
