Por Robert Wiblin e Benjamin Todd junto à equipe da 80.000 Hours ·
Última atualização em março de 2023 ·
Publicado em inglês pela primeira vez em outubro de 2018
Traduzido, editado e adaptado pela equipe do Carreiras Eficazes, de modo a atender as necessidades das comunidades lusófonas com autorização dos produtores do texto original.
Aconselhamos as pessoas a trabalhar em problemas que são importantes, mas negligenciados, e a tentar aumentar a contribuição que podem dar.
Essas etapas tornam mais fácil ter um grande impacto, mas também aumentam seu potencial de piorar as coisas: quanto mais importante o problema, pior é atrasá-lo; quanto mais negligenciada uma área, mais efeito você tem sobre sua trajetória; e quanto mais influência você tem, mais importa se você estiver errado.
Isso é válido mesmo se você não estiver fazendo nada diretamente prejudicial e tentando ser cauteloso – é fácil piorar as coisas por acidente e, na verdade, torná-las muito piores.
Em algumas áreas da vida, suas desvantagens são relativamente limitadas. Se você tentar escrever um grande romance e ninguém quiser publicá-lo, a pior coisa que você fez foi perder tempo.
Mas mostraremos que, quando se trata de fazer o bem – especialmente em ‘campos frágeis’ – existem muitas maneiras de prejudicar o campo mais amplo e, portanto, as desvantagens não são limitadas da mesma forma. O potencial de impacto negativo pode ser tão grande ou maior do que o potencial de impacto positivo.
Então, se você vai tentar causar um impacto, e especialmente se você vai ser ambicioso a respeito, é muito importante considerar cuidadosamente como você pode acidentalmente piorar as coisas.
Isso não significa se ater a ‘coisas certas’ com as quais todos concordam. Para ter um impacto significativo, você precisa fazer algumas apostas contra a sabedoria convencional, e qualquer coisa nova atrairá uma medida de controvérsia. A questão é como fazer essas apostas com habilidade sem causar muitos danos ao longo do caminho.
Não gostamos particularmente de escrever sobre esse tópico reconhecidamente desmotivante. Ironicamente, esperamos que as pessoas cautelosas — aquelas que menos precisam desse conselho – sejam as que mais provavelmente o levarão a sério. Mas achamos que é importante discutir se vamos levar a sério o trabalho nos problemas mais urgentes do mundo.
Neste artigo, listaremos seis maneiras pelas quais as pessoas podem, sem querer, prejudicar sua causa. Você já deve estar ciente da maioria desses riscos, mas frequentemente vemos pessoas negligenciando um ou dois deles quando são novas em uma área de alto risco – incluindo nós quando estávamos começando o 80.000 Hours.
Infelizmente, não temos como eliminar esses riscos inteiramente. A realidade é que equilibrar esses riscos com a potencial vantagem de novos projetos, requer decisões de julgamento difíceis.
Para esse fim, terminamos delineando sete maneiras de reduzir as chances de piorar as coisas, mesmo nas áreas de maior risco. A versão muito simples é eliminar quaisquer opções que possam ter desvantagens muito grandes. Mas se você não pode fazer isso: considere muitas perspectivas; não seja um otimizador ingênuo ou unilateralista; tenha alguma humildade em relação às suas opiniões; construa experiência, melhore seu julgamento e combine sua experiência com a dificuldade do projeto; e evite ações difíceis de reverter, como crescer muito rápido.
Por que saber quando você está tendo um impacto negativo (contrafactual) é mais difícil do que parece à primeira vista
O que nos preocupa neste artigo é a chance de deixar o mundo pior do que teria sido, considerando o que teria acontecido se você não tivesse agido.
Uma maneira de fazer isso é fazer uma grande aposta mal concebida que é mais provável que cause danos do que benefícios.
Mas, infelizmente, isso pode acontecer mesmo que os efeitos mais diretos do seu trabalho sejam claramente positivos. Por exemplo, você pode fazer algo útil, mas, no processo, atrapalhar alguém que é ainda mais qualificado.
Imagine um estudante de medicina (mal orientado) do primeiro ano, que se depara com um pedestre gravemente ferido em uma rua movimentada, anuncia que sabe primeiros socorros e os aplica na pessoa ferida. Ele tem boas intenções e parece que está ajudando. Mas imagine que um transeunte que estava prestes a chamar uma ambulância desistiu porque o aluno apareceu e assumiu o controle. Nesse caso, o contrafactual pode, na verdade, ter sido um atendimento médico melhor nas mãos de um médico experiente, tornando sua aparente ajuda uma ilusão. O estudante de medicina deveria ter chamado uma ambulância.
Poucas pessoas provavelmente persistem em fazer ações que são obviamente prejudiciais dessa forma, mas piorar as coisas contrafactualmente como essa é provavelmente bastante comum e difícil de detectar.
Claro, nesta situação, também precisaríamos pensar sobre o impacto de liberar a ambulância para atender cenários ainda mais sérios. O que significa que medir o impacto real pode se complicar rapidamente.
Campos frágeis e onde esses riscos são maiores
Uma de nossas maiores preocupações com este artigo é a possibilidade de desestimularmos acidentalmente as pessoas a iniciar projetos de alto valor. Portanto, queremos enfatizar que não achamos que os riscos que discutiremos são igualmente urgentes em todos os campos.
Por exemplo, acreditamos que a saúde global é um problema relativamente seguro para se trabalhar. É uma área enorme, geralmente reconhecida como legítima, que tem uma reputação estabelecida e onde o sucesso geralmente é mensurável. (Embora seja claro que ainda é possível falhar e causar danos acidentalmente.)
Reduzir o risco de extinção é geralmente um problema mais arriscado para se trabalhar e a política e estratégia de IA transformadora pode ser a mais arriscada que recomendamos. A legitimidade deste problema é contestada, sua reputação ainda não está estabelecida, o sucesso é difícil de medir e um objetivo fundamental é coordenar grupos com interesses conflitantes.
De forma mais geral, esperamos que as consequências não intencionais estejam concentradas nas seguintes situações:
- Campos não estabelecidos que não têm uma reputação ou direção existentes
- Campos com ciclos de feedback ruins, onde você não consegue dizer se está tendo sucesso
- Campos sem consenso de especialistas, onde a natureza de um problema é difícil de medir e as pessoas o julgam com base nas pessoas envolvidas
- Campos que envolvem conflito com outro grupo que pode usar seus erros para dar uma imagem negativa de todo o seu campo.
- Campos nos quais a descoberta ou divulgação de informações confidenciais pode causar danos
- Campos onde as coisas já estão indo inesperadamente bem, uma vez que choques aleatórios são mais propensos a piorar as coisas do que melhorá-las
Discutiremos muitas dessas situações com mais detalhes posteriormente neste artigo.
O restante deste artigo se concentrará nos riscos específicos que você deve observar ao trabalhar nesses campos frágeis.
Maneiras de causar um impacto negativo não intencional — da mais óbvia para a menos óbvia
Agora discutiremos seis maneiras pelas quais as pessoas causam danos não intencionalmente. Apenas observe que esta postagem não trata de casos em que alguém tomou a melhor decisão disponível, mas teve um impacto negativo por pura má sorte – não há nada a ser feito sobre isso. Você também pode ter sucesso resolvendo um problema, mas descobrir que o problema era realmente negativo para resolver, mas também colocaremos entre parênteses as questões de seleção de problemas (leia mais).
1. Você assume um projeto desafiador e comete um erro por falta de experiência ou mau julgamento
O mundo é extremamente complicado e a maioria dos projetos tem efeitos imprevistos significativos, que podem facilmente ser negativos. Quanto pior o seu julgamento, maior a probabilidade disso.
No início de nossa história, cometemos uma série de erros clássicos de novos fundadores. Contratamos muito rápido, priorizamos marketing e divulgação antes de atingir o ajuste produto-mercado e espalhamos nosso foco muito amplamente sem considerar a estratégia a longo prazo. Felizmente, a maioria desses erros apenas nos atrasou, em vez de criar problemas permanentes para o campo do altruísmo eficaz.
Esta é a categoria mais óbvia e visível de impacto negativo: você faz algo que piora o problema de uma forma que alguém com maior competência teria previsto com antecedência.
Esta categoria inclui médicos que não lavam as mãos, pessoas que oferecem programas sociais prejudiciais (nosso exemplo favorito é Scared Straight) e acadêmicos que publicam descobertas incorretas porque usam métodos estatísticos ruins.
Uma forma comum de erro entre os novatos é a falta de julgamento estratégico. Por exemplo, você pode chamar a atenção para informações que são mais confidenciais do que você percebeu.
Esta é uma armadilha especialmente perigosa para pessoas que estão iniciando o trabalho na redução do risco de extinção. Imagine aprender que uma nova tecnologia pode causar uma catástrofe se for mal utilizada como arma. Seu primeiro instinto pode ser aumentar a conscientização pública para que os formuladores de políticas sejam pressionados a desenvolver contramedidas ou uma estratégia de não proliferação. Embora isso possa ser útil em certas circunstâncias, aumentar o perfil de uma ameaça pode ter o efeito contrário, fazendo com que ela chame a atenção de maus atores (um exemplo de risco de informação). Ser cuidadoso com informações confidenciais parece óbvio, mas se você é novo em uma área, muitas vezes não é óbvio exatamente quais informações são mais confidenciais.
Outro descuido comum é não perceber o quão prejudicial o conflito interpessoal pode ser e o quão difícil é evitá-lo. Os conflitos interpessoais podem prejudicar todo um campo ao reduzir a confiança e a solidariedade, impedindo a coordenação e torna o recrutamento muito mais difícil. Ninguém quer entrar em um campo onde todos estão brigando uns com os outros.
Um exemplo da história: o Dr. Ignaz Semmelweis percebeu em 1847 que limpar as mãos dos médicos poderia salvar a vida dos pacientes. Seus colegas estavam inicialmente dispostos a satisfazer seu capricho e as taxas de infecção despencaram em sua unidade. Mas, após uma série de falhas de comunicação e conflitos políticos dentro do sistema hospitalar, Semmelweis passou a ser considerado um excêntrico e foi rebaixado. A prática de lavar as mãos foi abandonada e milhares de pacientes morreram de infecção nas décadas seguintes, até que pesquisadores posteriores provaram que ele estava certo. Se ele tivesse priorizado a comunicação clara de suas ideias e melhores relacionamentos com seus colegas, o sistema talvez não tivesse sido tão tragicamente atrasado em perceber que suas ideias estavam corretas.
O risco de cometer um erro de julgamento é um bom motivo (quando possível) para não se apressar em resolver um problema complexo sem obter o treinamento, a mentoria, a supervisão ou o conselho necessários, e para se inserir em uma comunidade de colegas que podem perceber antes que você cometa um erro grave. A história de Semmelweis também destaca a importância de ser bom em comunicar suas ideias, não apenas em desenvolvê-las.
A maldição do unilateralista
Uma maneira particularmente fácil de cometer um erro que causa um impacto negativo substancial é agir unilateralmente em contextos onde até mesmo uma pessoa tomando uma determinada ação por engano pode gerar custos generalizados para o seu campo, ou para o mundo na totalidade. Nick Bostrom explicou que se as pessoas agirem com base apenas em seus julgamentos pessoais neste contexto, ações arriscadas serão tomadas com muita frequência. Ele chamou esse fenômeno de ‘maldição do unilateralista‘, ilustrado com o seguinte exemplo:
Um grupo de cientistas trabalhando no desenvolvimento de uma vacina para o HIV criou acidentalmente uma variante do HIV transmissível pelo ar. Eles devem decidir se publicam sua descoberta, sabendo que ela pode ser usada para criar uma arma biológica devastadora, mas também que pode ajudar aqueles que desejam desenvolver defesas contra tais armas. A maioria dos membros do grupo pensa que a publicação é muito arriscada, mas um discorda. Ele menciona a descoberta em uma conferência e logo os detalhes são amplamente conhecidos.
De forma mais geral, digamos que haja um campo de dez pessoas, cada uma tentando estimar o valor esperado de uma iniciativa potencialmente arriscada que acabaria tendo um impacto negativo se fosse tomada. Mesmo que, em média, a estimativa do grupo esteja correta, haverá algumas pessoas cuja estimativa do valor é muito alta e outras cuja estimativa é muito baixa. Se todos agirem com base apenas em seu próprio julgamento, então se a iniciativa será iniciada ou não, será determinado inteiramente pela decisão do membro mais otimista de todo o grupo, ou seja, aquele que mais superestimou o valor da iniciativa, pensa que será positivo. Esta é uma receita para seguir em frente com muitos projetos ruins.
Felizmente, a maldição pode ser suspensa se você considerar o julgamento do resto do seu campo e evitar tomar medidas unilaterais quando a maioria deles discordaria.
2. Dano à reputação
Todos entendem que um dos riscos do fracasso é que ele mancha sua reputação. Mas, infelizmente, as pessoas às vezes decidem que seus erros refletem em seu campo como um todo. Isso significa que estragar tudo também pode prejudicar outras pessoas em sua comunidade, área de pesquisa ou profissão.
Um exemplo impressionante desse fenômeno é o colapso da FTX, cujo CEO, Sam Bankman-Fried, disse estar praticando altruísmo eficaz ganhando para doar. Ele foi posteriormente acusado de fraude em dezembro de 2022. Não apenas sua própria reputação está arruinada, mas foi um grande revés para a reputação de todas as áreas às quais ele estava associado e afirmou que queria ajudar.
Em geral, quanto maior e mais visível o fracasso, maiores os danos.
É por isso que é justificável que projetos maiores sejam submetidos a mais e mais verificações por suas partes interessadas e que se preocupem mais em evitar controvérsias.
Também mostra como buscar cobertura da mídia pode facilmente se tornar uma faca de dois gumes, especialmente ao se tornar um nome conhecido. Um projeto com um perfil relativamente baixo provavelmente não receberá muita atenção se falhar.
Além disso, uma falha ‘normal’ será muito menos interessante do que um projeto que explode de uma forma controversa ou divertida.
Infelizmente, este é um dos motivos pelos quais pode ser caro tornar sua vida contracultural ou incomum de várias maneiras que não estão relacionadas ao seu projeto. Se você falhar e descobrir, por exemplo, que você era (como um exemplo inventado) realmente fã de My Little Pony, quer isso tenha algo a ver com o sucesso do seu projeto ou não, isso torna a história muito mais interessante, então vai chamar mais atenção e causar mais danos à reputação da causa que você estava tentando apoiar.
Existem também muitas outras maneiras mais sutis de prejudicar a reputação do seu campo. Essas não são tão importantes, mas podem ser mais fáceis de causar, então vale a pena tê-las em mente.
Por exemplo, imagine que você está animado com uma maneira totalmente nova de melhorar o mundo e deseja começar a arrecadar fundos para tirá-la do papel, então você vai e conversa com todos os doadores milionários que parecem estar interessados. Infelizmente, você não pensou realmente nas objeções às suas ideias e, portanto, repetidamente parece ingênuo. Esses doadores decidem não o financiar e também têm menos probabilidade de se reunir com qualquer outra pessoa que queira fazer algo semelhante no futuro.
Não é preciso muita imaginação para pensar em outras possibilidades.
Talvez a maneira mais sutil de você prejudicar a reputação de um pequeno campo seja a disposição de fazer um trabalho muito visível, mas medíocre ou inexpressivo, que contribui diretamente para o problema em questão apenas um pouco.
Infelizmente, ao julgar algo, muitas vezes lembramos o que quer que associemos a ele e, em seguida, nos perguntamos ‘quão bom é um exemplo típico?’ É assim que um currículo que diz que você publicou cinco artigos em periódicos acadêmicos de alto nível pode ser mais impressionante do que um currículo que diz que você publicou esses artigos e também escreveu dez que não puderam ser publicados em lugar nenhum.
Diluir um campo com trabalhos medíocres também pode impedir seu crescimento a longo prazo. Os pesquisadores que trabalham em um tópico negligenciado devem publicar contribuições de pesquisa medíocres ou inexpressivas, além das melhores? Compartilhar todas as suas percepções com o mundo pode ser o que mais avança a ciência a curto prazo. No entanto, campos onde as melhores pesquisas são diluídas por muitas contribuições marginais podem desenvolver uma reputação sem brilho, dissuadindo os alunos de pós-graduação mais promissores.
Quando um campo está apenas começando, qualquer artigo pode acabar acidentalmente servindo como introdução de outra pessoa à área temática. Os pesquisadores podem se sair melhor realmente acertando apenas suas melhores ideias – aquelas que seriam atraentes para alunos promissores que nunca viram trabalhos na área antes.
Esses riscos à reputação são um motivo para colocar o seu melhor pé à frente e considerar como seu trabalho afeta a percepção de outras pessoas sobre seu campo, mas não queremos exagerá-los. Claro, o ideal não é publicar sua única melhor ideia e então se aposentar para evitar manchar sua reputação com algo menos.
Permitir que o perfeccionismo e as preocupações com a reputação atrapalhem as potenciais contribuições positivas também pode ser um erro. No geral, seu efeito no status do seu campo é apenas um fator a ser considerado entre muitos ao tomar decisões em sua carreira.
Infelizmente, é difícil saber quando os riscos à reputação excedem os benefícios de compartilhar novas ideias ou promover uma mensagem importante. Alguns pontos importantes a serem considerados: (i) é muito menos preocupante trabalhar em um campo que já é grande e bem estabelecido (ii) se o trabalho pode ser submetido à revisão por pares por um periódico respeitado ou de outra forma ter aprovação de especialistas, então provavelmente está tudo bem (iii) em caso de dúvida, considere compartilhar o trabalho em particular com um grupo específico, em vez de postá-lo publicamente.
3. Desvio de recursos
Quase todos os projetos eventualmente procuram financiamento e pessoas para contratar. Muitos também tentam chamar a atenção das pessoas.
Infelizmente, há apenas uma quantidade limitada de dinheiro, pessoas e atenção no mundo.
Se você contratar alguém, ela não estará trabalhando em outro lugar. Se você aceitar uma doação, esse dinheiro não vai para outra pessoa. E se alguém estiver lendo este artigo, não está lendo outro.
Isso significa que um projeto que faz o bem diretamente, ainda pode ser contraproducente se esses recursos tivessem naturalmente ido para algum lugar ainda melhor.
Esse risco se torna maior na medida em que i) você é um vendedor excepcionalmente bom, ii) você exagera seu impacto, iii) doadores e funcionários não conseguem dizer quais projetos são os melhores e iv) você usa recursos que provavelmente serão bem utilizados na sua ausência (em vez de trazer ‘novos’ recursos que não estariam concentrados em fazer o bem de outra forma).
Ao fazer uma avaliação de impacto do seu projeto, é importante tentar comparar aproximadamente o seu impacto com o impacto que teria sido possível se os recursos que você usou, tivessem ido para outro projeto de impacto que poderia ter ido plausível. Por exemplo, nossos leitores que trabalham em desenvolvimento internacional costumam usar GiveDirectly como ‘linha de base’ que pode absorver muitos fundos.
4. Bloqueio de escolhas abaixo do ideal
Quando 80.000 Hours era novo, promovemos a ideia de ‘ganhar para doar’ para instituições de caridade eficazes, especialmente trabalhando em finanças. Achamos que esta era uma boa opção, embora não tivéssemos certeza de que era a melhor. No entanto, aproveitamos a oportunidade para obter alguma publicidade fácil. Isso nos levou, assim como a comunidade de altruísmo eficaz, em geral, a nos tornarmos fortemente associados a ganhar para doar. Até hoje (apesar de termos emitido várias declarações dizendo que a maioria das pessoas não deve ganhar para doar), muitas pessoas pensam ser nosso principal caminho recomendado.
Como aprendemos, outra maneira de causar danos é colocar seu campo em uma trajetória pior do que teria tomado de outra forma e, então, achar difícil escapar. Isso é mais provável nos estágios iniciais, quando sua estratégia ainda não está definida, as pessoas não têm uma opinião sobre você e o campo é pequeno, então as ações individuais podem mudar significativamente a direção do campo como um todo. Não é uma grande preocupação em campos maiores e mais bem estabelecidos.
As decisões que você toma quando está apenas começando e sabe menos, podem persistir ou até mesmo sair do controle. Isso ocorre por uma série de razões:
- A maioria das pessoas que o conhecem oferecerá apenas uma pequena quantidade de atenção, então é difícil mudar sua primeira impressão;
- Depois que a mídia escrever sobre você, as pessoas continuarão encontrando esses artigos, moldando as percepções futuras. Em particular, os jornalistas costumam se basear no trabalho de jornalistas anteriores.
- Os termos são difíceis de mudar – teríamos dificuldade em abandonar o termo ‘altruísmo eficaz’ hoje, mesmo que decidíssemos que não gostamos dele;
- Depois de definir no que acredita, você tenderá a atrair pessoas que concordam com essa visão, consolidando-a ainda mais;
- As pessoas acham muito difícil demitir colegas, mudar estruturas de gestão ou abandonar sua estratégia, então as más escolhas geralmente continuam, mesmo quando são conhecidas por serem problemáticas.
Esses efeitos podem ser difíceis de notar porque nunca vemos como as escolhas alternativas teriam se saído.
5. Afastamento
Se você anunciar que vai trabalhar em um determinado problema ou experimentar uma determinada abordagem, pode desencorajar outras pessoas de fazerem a mesma coisa, porque elas sentirão que você já está cuidando disso.
Por exemplo, uma vez que 80.000 Hours disse que faria pesquisas sobre como fazer o máximo de bem com sua carreira, atrasamos qualquer outra pessoa na comunidade de altruísmo eficaz de iniciar um projeto semelhante.
Isso se tornou uma preocupação maior para nós à medida que nos tornamos mais focados em aprofundar nossa compreensão de nossos caminhos prioritários e principais prioridades globais. Existe a chance de nossa existência desencorajar as pessoas de fazer pesquisas sobre carreiras focadas em outros problemas, como saúde e desenvolvimento global.
Não estamos dizendo que você só deve iniciar um novo projeto se tiver certeza de que terá sucesso. O outro lado desse problema é que é ruim quando pessoas qualificadas identificam com sucesso uma lacuna, mas não tomam iniciativa porque pensam que ela já está sendo tratada por outras pessoas – ou esperam que alguém melhor apareça.
Estamos apenas apontando que anunciar o início do seu projeto não é sem custos para o resto do seu campo, então vale a pena fazer pelo menos um pouco de diligência antes de prosseguir e desencorajar potencialmente os outros. Obtenha conselhos de pessoas em quem você confia para serem honestas sobre se você é uma pessoa razoável para o projeto que está considerando. Pergunte por aí para ver se alguém em seu campo tem planos semelhantes; talvez vocês devam fundir projetos, colaborar ou coordenar qual projeto deve seguir em frente.
Por fim, tente ser honesto consigo mesmo sobre a probabilidade de realmente seguir seus planos. Uma das formas mais evitáveis (e caras) de afastamento é quando as pessoas anunciam um projeto, mas nunca o tiram do papel. Por exemplo, ouvimos várias pessoas dizerem que não querem iniciar um grupo local de altruísmo eficaz porque já existe um, mas o grupo existente logo se torna negligenciado ou totalmente inativo.
6. Criando outros problemas de coordenação
Escrevemos um artigo sobre os benefícios substanciais que podem advir da cooperação eficaz de grandes grupos. Mas também é verdade que pessoas que não se coordenam bem com outros grupos podem causar danos significativos.
Grupos maiores são mais difíceis de coordenar do que grupos menores. Seja fazendo pesquisas, defesa de causas ou lidando com pessoas de fora, ingressar em um campo obriga seus colegas a investir tempo para garantir que você e eles estejam sincronizados. Além disso, muita coordenação depende de alta confiança, e é difícil manter a confiança em um grupo maior ou em mudança, onde você não tem relacionamentos estabelecidos. Adicionar pessoas a uma área tem algum impacto positivo direto, mas também cria um custo extra na forma de coordenação mais difícil. Isso torna a barreira para o crescimento de uma causa (especialmente uma pequena) maior do que parece à primeira vista.
Como você pode mitigar esses riscos?
O texto acima pode parecer um evangelho de desespero. Existem tantas maneiras de piorar acidentalmente as coisas.
Infelizmente, não podemos dar a você uma maneira de evitar todas elas. Você terá que usar seu julgamento e pesar as vantagens potenciais dos projetos em relação a esses riscos. Dito isso, acreditamos que existem medidas que você pode tomar, além de apenas manter essas desvantagens potenciais em mente, tentar antecipá-las e evitá-las quando puder. Já mencionamos algumas dessas etapas acima, mas aqui vamos elaborar e adicionar mais algumas.
1. Idealmente, elimine estratégias que podem ter um grande impacto negativo
Se você está comparando várias opções e uma delas pode ter um grande impacto negativo e as outras não, então a estratégia mais simples e segura é eliminar aquela com grandes riscos de desvantagem e então escolher a que tem mais potencial entre as que restaram.
Este também é o conselho que damos em nosso artigo sobre ambição: limite suas desvantagens, então busque vantagens.
Por ‘grande negativo’ não queremos dizer apenas que você pode fracassar. Em vez disso, queremos dizer que você pode prejudicar seu campo ou tornar as coisas muito piores do que quando as encontrou.
Por que normalmente faz sentido simplesmente eliminar essas opções? As próximas seções fornecem alguma justificativa. Resumindo: se você acha que uma estratégia pode ter grandes custos e benefícios, mas os benefícios superam os custos, isso depende de acertar os detalhes de sua estimativa… mas sua estimativa provavelmente não está certa. É melhor tomar medidas que pareçam boas em uma variedade maior de perspectivas. Da mesma forma, essas ações são frequentemente controversas (portanto, não epistemicamente humildes e talvez unilateralistas), têm riscos de reputação para todo o campo e frequentemente contribuem para uma quebra na coordenação.
Claro, você pode descobrir que a maioria de suas opções tem potencial para grandes efeitos negativos ou, como costuma acontecer, as estratégias com mais vantagens também têm as maiores desvantagens.
Nessa situação, você tem que raciocinar as coisas com mais cuidado — as seções a seguir visam ajudá-lo a fazer isso.
2. Não seja um otimizador ingênuo
Sua compreensão da situação certamente será incompleta. Você provavelmente está perdendo informações e considerações cruciais.
E isso é profundo. Seu ‘modelo’ da situação provavelmente retorna uma resposta muito incerta sobre o que é melhor (“incógnitas conhecidas”). Mas também existe a chance de que seu próprio modelo esteja errado e você esteja pensando sobre a situação de forma totalmente equivocada, e isso pode ocorrer de maneiras que você nem considerou (“incógnitas desconhecidas”). E, além disso, é incerto como raciocinar sobre esse tipo de situação – não existe uma única teoria claramente aceita sobre como tomar decisões em face da incerteza.
Então, se você simplesmente escolher uma meta que pareça boa para você e persegui-la agressivamente, certamente haverá outros resultados importantes que você está ignorando.
Quanto mais agressivamente você perseguir seu objetivo, maior a probabilidade de, sem querer, prejudicar esses outros resultados e causar vários danos.
Isso é especialmente verdadeiro se os outros resultados forem mais difíceis de medir do que seu alvo principal, o que geralmente é o caso. Como as seções anteriores mostram, existem muitas maneiras indiretas e difíceis de rastrear para piorar as coisas, como influenciar a reputação ou a coordenação; é sedutor trocá-los por resultados ‘difíceis’, como doar mais dinheiro, aumentar sua organização ou conseguir uma promoção.
Isso está relacionado à “lei de Goodhart”: quando uma medida se torna um alvo, ela deixa de ser uma boa medida. Isso ocorre porque provavelmente existem casos extremos para a medida que são mais fáceis de atingir do que a coisa real com a qual nos preocupamos. (Também está relacionado ao motivo pelo qual o problema de alinhamento de IA é importante.)
Por exemplo, os hospitais britânicos estavam demorando muito para internar pacientes, então uma penalidade foi instituída para tempos de espera superiores a quatro horas. Em resposta, alguns hospitais pediram às ambulâncias que dirigissem mais devagar, porque viagens longas encurtavam os tempos de espera nos hospitais.
Da mesma forma, fazer o bem é uma meta altamente complexa e nebulosa. Então, se você escolher uma abordagem para fazer isso e persegui-la agressivamente, torna-se tentador cortar caminho ou simplesmente perder outros fatores importantes.
Alguns exemplos de ser um otimizador ingênuo:
- Tentar ganhar o máximo de dinheiro possível, para que você possa doar o máximo possível (mas ignorando questões em torno de reputação, caráter, normas cooperativas; bem como outros caminhos para fazer o bem, como espalhar ideias importantes e construir capital de carreira)
- Ignorar todas as considerações, exceto aquela que você considera mais importante (por exemplo, que pode haver muitas gerações futuras)
- Um problema para os empreendedores é ficarem tão convencidos pela missão de sua própria organização que cortam atalhos legais e éticos para fazê-la ter sucesso.
Como você pode evitar ser um otimizador ingênuo?
Não existe uma solução amplamente aceita para o problema de como raciocinar em face da profunda incerteza do modelo, mas aqui estão algumas ideias que fazem sentido para nós:
- Considere vários modelos da situação – muitos entendimentos do que importa, muitos resultados potenciais e muitas perspectivas. Isso deve incluir o que a sabedoria convencional e outros especialistas diriam. Você deve procurar ativamente os melhores argumentos contra sua abordagem. Isso lhe dá as melhores chances possíveis de detectar considerações ausentes.
- Tome medidas que pareçam boas de acordo com muitos modelos ou que sejam muito boas em uma perspectiva e aproximadamente neutras nas outras. Em contraste, evite cursos de ação que pareçam loucos em algumas perspectivas razoáveis.
- Seja ambicioso, mas não agressivo.
Leia mais: O altruísmo eficaz é sobre maximização, e a maximização é perigosa.
3. Tenha um grau de humildade
Não apenas você está provavelmente errado sobre o que é melhor, como outras pessoas provavelmente também discordam de você.
Ao tentar ter um impacto, há uma troca muito difícil de fazer entre fazer o que parece melhor para você e concordar com os outros.
Se você concordar demais, nunca fará nada inovador ou novo. Além disso, às vezes o ‘bom senso’ pode levá-lo a fazer o mal – por exemplo, a maioria das pessoas não parece pensar que a agricultura industrial é moralmente ruim, mas nós achamos que é.
Mas se você simplesmente seguir suas próprias opiniões, há uma boa chance de estar errado, e isso pode facilmente piorar as coisas.
Na verdade, se você não tem nenhum conhecimento especial que os outros não tenham, então você pode argumentar que seu palpite não é melhor do que o de qualquer outra pessoa, e você deve apenas fazer o que a pessoa média pensa.
Onde cair neste espectro de contrariedade é um dos fatores mais importantes que explicam por que as pessoas adotam abordagens diferentes para fazer o bem.
Aqui estão algumas dicas mais detalhadas sobre como encontrar o equilíbrio:
- Faça uma distinção entre suas “impressões” (o que parece melhor para você) e sua “visão considerando tudo” (o que você acredita após considerar as opiniões de outras pessoas) É importante desenvolver suas próprias impressões, para que você esteja contribuindo com a sabedoria coletiva sobre o que fazer, mas ações de alto risco geralmente devem ser tomadas com base em sua visão considerando tudo.
- Dê mais peso às suas próprias impressões, quanto mais razões houverem para confiar em seus pontos de vista (como experiência ou histórico), e quando você puder apontar claramente para informações ou valores que você possui e os outros não. Se uma pessoa aleatória e desinformada discorda do seu projeto, geralmente não vale a pena se preocupar com isso.
- Reúna muitos pontos de vista. Inúmeros não especialistas pode facilmente ser mais preciso do que um pequeno número de especialistas.
- Pondere mais as opiniões de alguém por seu histórico, do que por indicadores superficiais de especialização. Em muitos campos (por exemplo, a maioria das ciências sociais), os especialistas não são muito melhores em fazer previsões do que o acaso. As pessoas com o melhor julgamento costumam ser generalistas informados com a mentalidade certa. De qualquer forma, tente avaliar o quão confiáveis as pessoas são com base em seu histórico de fazer julgamentos semelhantes.
- Pondere as opiniões dos outros por sua força, tanto em termos de riscos quanto de seu grau de confiança. Se mesmo alguém confiável acredita que seu projeto é ‘mais ou menos’, isso não é grande coisa de qualquer maneira. Se eles estiverem convencidos de que é muito prejudicial, você deve ser muito mais cauteloso.
- Considere os riscos. Em alguns contextos, como discussões intelectuais privadas ou realização de pequenos projetos de teste, não há problema em seguir suas opiniões malucas. Quanto maiores os danos potenciais, mais importante é considerar uma ampla gama de pontos de vista.
- Não confie apenas em seu próprio julgamento para decisões de alto risco. Por exemplo, se você é o CEO de um projeto maior, é importante ter um conselho e cofundadores fortes para verificar suas decisões mais importantes.
Um motivo adicional para a humildade: uma estratégia que você considera a melhor, quase certamente não é tão boa quanto você pensa.
Isso ocorre porque você classificou as ações potenciais com base em sua compreensão atual. Mas sua compreensão atual é incompleta, portanto sua análise contém erros. Se você acha que algo é excepcionalmente bom, isso pode ser devido ao raciocínio correto ou porque você cometeu um erro excepcionalmente grande em sua análise. Este é um exemplo de regressão à média e significa que as melhores ações são normalmente mais próximas da média do que parecem.
Leia mais sobre o quanto concordar.
Não seja um unilateralista
Aqui está um caso especial de quando concordar.
Anteriormente, abordamos a maldição do unilateralista, uma situação em que se todos em um campo agirem de acordo com seu melhor julgamento, eles acabarão tomando ações excessivamente arriscadas.
Para evitar isso:
- Apresente seu projeto a outras pessoas informadas no campo.
- Se possível, tente sincronizar o valor do projeto.
- Se, após fazer isso, uma minoria significativa achar que isso causará um impacto negativo significativo, não o faça.
Ao fazer isso, é muito importante distinguir outras pessoas que pensam que seu projeto não é apenas impactante, mas ativamente prejudicial.
Se outras pessoas acham que seu projeto não é impactante (e não pensaram muito sobre ele), isso não é muito motivo para não fazê-lo. Sempre haverá pessoas que não estão animadas com seu projeto.
Mas se muitas pessoas pensam ser provável que seja prejudicial e você segue em frente de qualquer maneira, então você está sendo um unilateralista.
A importância da humildade e de obter múltiplas perspectivas é um dos motivos pelos quais é importante…
4. Desenvolva conhecimentos especializados, seja treinado, construa uma rede de contatos e se beneficie da sabedoria acumulada em seu campo
Ao entrar em um campo, considere começar trabalhando para uma organização estabelecida, com capacidade para supervisionar seu trabalho. Aprenda sobre o campo e certifique-se de que entende as opiniões dos jogadores estabelecidos. O tempo que isso leva varia muito segundo a área em que você está trabalhando. Geralmente, achamos que faz sentido trabalhar em uma área pelo menos de 1 a 3 anos antes de fazer projetos de alto risco ou liderados de forma independente, mas em áreas particularmente complicadas – como aquelas que exigem muito conhecimento técnico ou pós-graduação – isso pode demorar mais.
Isso não é apenas para dar a você conhecimento das questões cruciais e das principais perspectivas no campo, mas também para garantir que você obtenha os consultores necessários para seguir as etapas que abordamos acima.
Pode haver exceções. Por exemplo, em uma emergência como a COVID-19, não foi possível para alguns daqueles que poderiam contribuir para a resposta, passarem primeiro um ano treinando. Embora a falta de experiência relevante ainda deva ser um motivo de cautela, não achamos que todos sem experiência pré-existente deveriam ter ficado sem fazer nada.
Em segundo lugar, se você acha que identificou uma abordagem negligenciada em um campo frágil, tente entender por que pessoas com mais experiência não a adotaram. É possível que você tenha encontrado uma lacuna promissora, mas talvez sua abordagem já tenha sido tentada e falhado antes, ou outras pessoas a estão evitando devido a uma falha que você não tem o contexto para ver.
Se você está lutando para encontrar oportunidades de treinamento ou desenvolver a rede necessária, pode ser melhor se ater a problemas e métodos mais seguros em vez de agir unilateralmente em uma área delicada.
Uma maneira especialmente importante de aumentar sua experiência é melhorar seu julgamento. No mundo de fazer o bem, normalmente não temos resultados mensuráveis, o que significa que precisamos confiar no julgamento para estimar os custos e benefícios de diferentes caminhos. Temos notas sobre como melhorar seu julgamento em um artigo separado.
5. Siga as normas de cooperação
À medida que sua carreira avança e você ganha mais influência, você pode enfrentar tentações de fazer algo seriamente prejudicial, desonesto ou amplamente considerado antiético “para o bem maior”. Isso raramente é uma boa ideia, e escrevemos um artigo separado sobre o porquê.
Este princípio é apenas um exemplo da importância mais ampla das normas cooperativas. Se você está trabalhando para resolver um problema social importante ao lado de outras pessoas, provavelmente conseguirá muito mais se for:
- Honesto e de alta integridade – para que você possa confiar um no outro e ser confiável, tanto para dizer a verdade, quanto no sentido de que você cumprirá seus acordos e regras comumente acordadas.
- Prestativo – disposto a beneficiar outras pessoas que trabalham no problema, mesmo que isso não o beneficie imediatamente
- Capaz de se comprometer e negociar – disposto a fazer coisas que os outros consideram valiosas (ou evitar coisas que os outros consideram muito ruins), mesmo que não seja o que parece ideal para você
- Educado e respeitoso – para que você não crie dramas e sentimentos ruins desnecessários
- Judicioso – disposto a retirar a cooperação de pessoas que não seguem as normas
Alguém que viola essas normas não apenas impede seus próprios projetos, mas também contribui para uma quebra mais ampla da cooperação na área, piorando as coisas para todos.
Além disso, pode impedir a capacidade das pessoas que trabalham no problema de trabalharem com o resto do mundo. Por exemplo, se alguém mentir em nome da prevenção da agricultura industrial, isso poderia criar uma reputação de desonestidade para o campo em geral, o que tornará mais difícil para eles fazerem a maioria dos projetos no futuro – um exemplo de dano à reputação que abordamos anteriormente.
Claro, violar algumas normas – até mesmo fazer inimigos – não torna uma ação uma má ideia: pense em alguns casos de desobediência civil. No entanto, vale a pena ser extremamente cuidadoso nesses casos. Ações não cooperativas aumentam drasticamente a chance de fazer muito mais mal do que bem, e você precisa de evidências mais fortes para pensar que é uma boa ideia – incluindo provavelmente tentar sistematicamente outros cursos de ação primeiro.
Leia mais sobre por que seguir essas normas em nosso artigo sobre coordenação e em “Considering Considerateness.”
6. Combine suas capacidades com seu projeto e influência
Tente combinar suas capacidades com seu grau de influência e a fragilidade dos problemas em que está trabalhando. À medida que as apostas aumentam, mais verificação, experiência e cautela para trazer.
Se você está organizando alguns eventos na universidade, não precisa submeter seus planos a uma grande quantidade de verificação. Se você está defendendo uma mudança importante na política governamental, então você precisa.
Obtenha conselhos honestos de especialistas sobre se você é um bom ajuste pessoal para um projeto e se está preparado para assumi-lo. Continue recebendo feedback ao longo do projeto.
À medida que seu projeto se torna mais influente e bem-sucedido, torna-se mais importante continuar buscando consultores e colegas que o enfrentarão. Infelizmente, o oposto costuma ser o caso: à medida que você obtém mais sucesso, as pessoas ficam menos inclinadas a duvidar de você e mais preocupadas em criticá-lo. Para evitar isso, você pode precisar configurar propositalmente estruturas e processos para limitar o papel do seu julgamento.
Se você já desenvolveu a competência, o treinamento e a rede para mitigar esses riscos em um campo específico, sua vantagem comparativa provavelmente está assumindo os projetos arriscados dos quais outros devem se manter afastados. Você também pode agregar valor fornecendo mentoria, treinamento e/ou supervisão para iniciantes promissores em seu campo.
7. Evite ações difíceis de reverter
Anteriormente, falamos sobre como é possível bloquear acidentalmente escolhas abaixo do ideal – então, é importante estar atento e (caso todo o resto permaneça constante) evitar ações difíceis de reverter.
Por exemplo, como discutimos, uma campanha de mídia que atingirá muitas pessoas pela primeira vez, criará primeiras impressões que podem ser difíceis de desfazer.
Outro exemplo de ação difícil de reverter é crescer muito rápido, especialmente se você estiver trabalhando em um campo pequeno, mas frágil.
Contratar, aumentar seu financiamento ou aumentar sua influência normalmente parecem coisas concretamente boas da perspectiva do seu projeto no curto prazo – ser maior significa mais impacto – mas pode ser mais ambíguo quando você considera o campo como um todo e os efeitos a longo prazo.
O crescimento rápido é difícil de reverter, pois significaria demitir pessoas, então você fica preso ao novo estado-maior. Mais pessoas são mais difíceis de coordenar e exigem treinamento e gerenciamento, que são muitas vezes escassos. Isso leva a mais problemas que abordamos, como unilateralismo, quebra de normas e erros de julgamento. Ir rápido cria mais riscos de reputação, que poderiam ter sido evitados se você tivesse ido mais devagar. (Ignorar esses danos mais difusos é outro exemplo de otimização ingênua.)
Claro, crescer mais devagar também tem grandes custos; então é uma questão de equilíbrio. No entanto, nosso sentimento é que os benefícios do crescimento são geralmente mais tangíveis do que os custos, então as pessoas são mais propensas a superestimar o valor do crescimento do que subestimá-lo.
Conclusão
Esperamos que esta discussão sobre maneiras de fazer o mal não tenha sido muito desmotivante.
Ao concluirmos, é importante lembrar que poucas pessoas sequer tentam enfrentar os problemas mais urgentes do mundo. E se mais pessoas não tentarem, esses problemas não serão resolvidos.
Também é importante lembrar que não existem projetos perfeitos. Mesmo projetos que passam a ter muito impacto, geralmente envolvem uma medida de controvérsia ou disfunção.
Quando jovem, é fácil pensar que, quando chegar ao mundo adulto, encontrará as pessoas competentes que administram as coisas, que ‘sabem o que estão fazendo’ e vão resolver os problemas do mundo para nós. Mas, na maioria das vezes, tudo o que você encontrará são pessoas relativamente normais fazendo o seu melhor diante de muitas limitações.
Se você está lendo este artigo, provavelmente pode ajudar.
O objetivo deste artigo não é desencorajá-lo a tentar fazer o bem, mas sim ajudá-lo a ser mais eficaz na forma como o faz.
Para enfrentar os problemas do mundo, precisamos ser ambiciosos, mas não imprudentes; dispostos a enfrentar o status quo, mas não arrogantes; motivados e determinados, mas não idiotas.
Encontrar o equilíbrio certo nem sempre é fácil, mas pensando nos dois lados, podemos tentar fazer o nosso melhor.
Aprenda mais sobre danos acidentais
- Assista a esta palestra sobre como evitar ter um impacto negativo com seu projeto.
Este artigo é parte de nossa série avançada. Veja a série completa, ou continue lendo:
