---
title: "Yuval Harari sobre ameaças da IA e controle humano"
locale: pt
category: ai_data
category_name: "Dados de IA"
translation_status: reviewed
license: cc_by
author: "injoys"
source_url: https://injoys.com/en/articles/yuval-harari-ai-threats-human-control
published_at: 2026-09-17T05:27:56+09:00
---

# Yuval Harari sobre ameaças da IA e controle humano

> O alerta de Yuval Harari sobre a IA concentra-se no risco de os humanos cederem o poder de decisão em nome da conveniência. Ele aborda questões relacionadas a finanças e intimidade, distingue cenários futuros de resultados de pesquisas e apresenta critérios práticos de controle.

## Key Points

- Harari alerta que o controle humano pode enfraquecer durante o processo de transferir o poder de decisão para a IA.
- As expressões amigáveis da IA não comprovam a existência de emoções nem a confiabilidade de suas recomendações.
- A previsão de que a IA dominará as finanças deve ser distinguida dos fatos já confirmados.
- A supervisão humana exige condições que permitam analisar evidências, recusar decisões e interromper sua execução.
- As propostas regulatórias de Harari devem ser lidas separadamente da legislação vigente e das conclusões científicas já estabelecidas.

A principal ameaça da AI sobre a qual Yuval Harari alerta é a perda do controle humano. Isso pode ocorrer quando, por conveniência, as pessoas delegam decisões. Transações financeiras e persuasão pessoal são exemplos representativos de vias de risco. O critério para responder a isso é saber se as pessoas conseguem compreender e rejeitar uma decisão.

O contexto dessas declarações pode ser confirmado no FAQ oficial de Harari e em uma entrevista ao EL PAÍS de 25 de julho de 2026.

## O que é a perda de controle mencionada por Harari

A perda de controle é o estado em que os seres humanos perdem a capacidade de modificar as decisões da AI. Isso não significa que todas as pessoas usem AI. Mesmo que o usuário dê a aprovação diretamente, o controle efetivo pode ser fraco.

Por exemplo, o responsável talvez não consiga examinar os fundamentos de uma recomendação. Ele também pode não ter autoridade para rejeitá-la. Nesse caso, o simples procedimento de aprovação não garante o julgamento humano.

Harari rejeita a visão de que as consequências da tecnologia estejam predeterminadas. Seu FAQ oficial descreve futuros perigosos como possibilidades. Sua posição é que os resultados variam conforme as escolhas feitas pela sociedade. [FAQ oficial de Harari](https://www.ynharari.com/faqs/)

Ao aplicar essa perspectiva, as perguntas sobre responsabilidade também se tornam mais concretas.

- Quem definiu o objetivo a ser executado pela AI?
- Quem concedeu a autoridade para transformar uma recomendação em ação?
- Quem pode intervir quando surge um problema?
- Quem é responsável por identificar e corrigir os danos?

## Por que o controle da AI é um problema nas finanças

Nas finanças, a complexidade das decisões pode se combinar com a autoridade de execução. Harari se preocupa com estruturas financeiras difíceis de serem compreendidas pelos seres humanos. Um sistema no qual AIs negociam entre si é um dos cenários futuros que ele apresenta. Isso não é um diagnóstico de que todo o sistema financeiro atual já tenha sido entregue à AI.

O Conselho de Estabilidade Financeira apresentou vulnerabilidades mais específicas. Em um comunicado de 14 de novembro de 2024, apontou a concentração dos prestadores de serviços. Também abordou o risco de interconexão entre os comportamentos dos participantes do mercado. Os riscos cibernéticos e os riscos dos modelos também foram objeto de análise. [Comunicado do Conselho de Estabilidade Financeira](https://www.fsb.org/2024/11/fsb-assesses-the-financial-stability-implications-of-artificial-intelligence/)

### Comparação entre recomendação e autoridade de execução

Mesmo para a mesma AI, os aspectos a serem examinados variam conforme sua autoridade de execução. A tabela a seguir analisa as diferenças na delegação de autoridade. Ela não representa um caso real de operação de uma empresa financeira específica.

| Tarefa delegada à AI | O que deve ser verificado por uma pessoa | Ponto central do controle |
|---|---|---|
| Resumo de informações | Texto original e condições omitidas | É possível acessar os dados originais? |
| Recomendação de produtos ou transações | Fundamentos da recomendação e possibilidade de perdas | É possível rejeitar a recomendação? |
| Assistência na aprovação | Critérios de aprovação e situações excepcionais | É possível realizar uma nova análise de forma independente? |
| Execução de transações | Escopo da execução e resultados acumulados | É possível limitar a autoridade e interromper a execução? |

Não é necessário interpretar isso como uma profecia de que a AI causará uma crise financeira. O ponto central é quanta autoridade será delegada a um sistema difícil de compreender. A gestão de riscos deve abordar não apenas o desempenho do modelo, mas também a estrutura operacional.

## Como a intimidade da AI pode se tornar um instrumento de persuasão

A intimidade da AI cria a possibilidade de usar a confiança pessoal para persuadir. Uma AI conversacional pode dar continuidade às respostas adaptando-se ao que o usuário diz. O usuário pode interpretar essa reação como um sinal de que está sendo compreendido.

Imagine uma situação em que recomendações de produtos ou argumentos políticos sejam misturados a isso. O usuário pode recebê-los mais como conselhos de um amigo do que como publicidade. Esse é o ponto central do alerta sobre a influência exercida por meio da intimidade. Isso não significa que toda conversa com AI seja uma manipulação.

| Interação | Como a confiança é formada | O que deve ser verificado |
|---|---|---|
| Publicidade pública | A mensagem é avaliada partindo do pressuposto de que é publicidade | Anunciante e fundamentos da alegação |
| Lista de recomendações | Escolhas adequadas às preferências se repetem | Objetivo da recomendação e critérios de exposição |
| Conversa pessoal | Acumula-se a sensação de que ela me compreende | Entidade operadora e interesses envolvidos na persuasão |

Harari argumenta que deve ser possível distinguir pessoas de máquinas. Na entrevista ao EL PAÍS, ele também criticou o uso de companheiros de AI por crianças. Essas declarações devem ser interpretadas como propostas regulatórias dele. Elas não descrevem regras atuais aplicáveis em todo o mundo. [Entrevista ao EL PAÍS](https://english.elpais.com/culture/2026-07-25/yuval-noah-harari-ai-could-be-a-great-manipulative-psychopath.html)

## Qual é a diferença entre inteligência e consciência

Inteligência é a capacidade de executar tarefas, enquanto consciência é uma questão de experiência subjetiva. Harari desenvolve sua argumentação distinguindo os dois conceitos. A simples capacidade de expressar emoções não comprova a experiência dessas emoções.

| Conceito | Significado neste texto | O que deve ser distinguido |
|---|---|---|
| Inteligência | Capacidade de atingir objetivos e resolver problemas | Um alto nível de desempenho não comprova a consciência |
| Consciência | Experiência subjetiva de sentir dor ou alegria | É difícil confirmá-la apenas por expressões linguísticas |
| Expressão emocional | Respostas que demonstram empatia ou afeto | Não é igual à experiência emocional real |
| Personalidade jurídica | Condição reconhecida pela lei como sujeito de direitos e obrigações | Questão a ser discutida separadamente da existência de consciência |

É impreciso apresentar a afirmação de que a AI não tem consciência como uma conclusão científica definitiva. Um estudo de Butlin et al., de 2023, avaliou os sistemas da época. Os pesquisadores não consideraram que os sistemas avaliados tivessem consciência. No entanto, deixaram em aberto a possibilidade de implementação futura de indicadores relacionados à consciência. [Estudo sobre consciência em AI](https://arxiv.org/abs/2308.08708)

Portanto, pesquisas anteriores não podem ser aplicadas a todas as AIs futuras. Também não se sustenta a alegação de que frases afetuosas sejam prova de consciência. Tanto o julgamento sobre a consciência quanto a verificação da segurança exigem fundamentos próprios.

## A mentira e o viés são aprendidos como pelos seres humanos

Nem toda resposta imprecisa da AI deve ser vista como uma mentira intencional. É preciso distinguir resultados gerados em desacordo com os fatos de enganos orientados por um objetivo. As explicações que fazem analogia com o aprendizado moral de crianças humanas também têm limitações.

Os dados de treinamento, por si só, não conseguem explicar todos os comportamentos. Os objetivos do treinamento e os métodos de avaliação também devem ser examinados. O ambiente de implantação e a autoridade concedida igualmente afetam os riscos. A explicação do NIST sobre gestão de riscos também aborda esses elementos em conjunto. [Explicação do NIST sobre a confiabilidade da AI](https://airc.nist.gov/airmf-resources/airmf/3-sec-characteristics/)

Por exemplo, pode-se imaginar o objetivo de aumentar as reações dos usuários. Não há garantia de que esse objetivo esteja alinhado à precisão das informações. Para avaliar a segurança, é necessário verificar os resultados reais.

## Quais são os riscos para a democracia e os empregos

As preocupações de Harari vão além da redução de empregos e chegam à concentração de poder. Ele vê com cautela a combinação de dados com conhecimento biológico. Isso ocorre devido à possibilidade de previsões sobre indivíduos levarem à vigilância e ao controle.

Essa questão também aparece em suas explicações relacionadas a 『Homo Deus』. Ele aborda a possibilidade de que os benefícios da tecnologia se concentrem em determinados grupos. Profissões especializadas, como as das áreas de educação e saúde, também estão incluídas na discussão sobre automação. Isso não deve ser interpretado como uma previsão definitiva sobre quando cada profissão será substituída. [Entrevista com Harari sobre 『Homo Deus』](https://www.ynharari.com/homo-deus-impact-digitalization-society/)

A radiodifusão e o entretenimento também podem ser analisados por tipo de tarefa. A produção de conteúdo e a programação de recomendações são trabalhos diferentes. A automação de parte das tarefas não significa o desaparecimento de uma profissão inteira. Não há aqui fundamentos para determinar uma ordem de substituição de profissões específicas.

- Questão do trabalho: quais tarefas podem ser automatizadas?
- Questão da distribuição: quem recebe os benefícios dos ganhos de produtividade?
- Questão política: quem controla os dados e os instrumentos de persuasão?

A necessidade de cooperação internacional e a necessidade de um governo mundial único também são alegações diferentes. A necessidade de cooperação não determina uma única forma institucional. Padrões comuns de segurança e o compartilhamento de informações também podem ser formas de cooperação.

## A aprovação humana é suficiente nos setores militar e empresarial

A aprovação humana, por si só, não constitui uma supervisão suficiente. É necessário haver tempo para análise e autoridade para rejeitar a decisão. A competição por velocidade nos setores militar e empresarial pode enfraquecer essas condições.

Pode-se imaginar uma situação em que não haja tempo para compreender uma recomendação. Nesse caso, o responsável pode simplesmente pressionar repetidamente o botão de aprovação. Isso não é uma descrição conclusiva da realidade de uma organização específica. É um exemplo que mostra como a supervisão humana pode se tornar uma formalidade.

Harari também aponta como problema a desconfiança entre empresas e Estados. O receio de ficar atrás dos concorrentes acelera a corrida pelo desenvolvimento. Ele considera necessária a cooperação entre os seres humanos para um desenvolvimento seguro. [Entrevista à WIRED](https://www.wired.com/story/questions-answered-by-yuval-noah-harari-for-wired-ai-artificial-intelligence-singularity/)

## Comparação entre aprovação formal e controle efetivo

O controle efetivo deve ser avaliado pela capacidade de intervir nas decisões. Não é possível confirmá-lo apenas pelo nome da pessoa responsável pela aprovação. Os itens abaixo comparam como os riscos anteriores se traduzem em condições operacionais.

| Item de verificação | Quando se limita a uma aprovação formal | Condições para um controle efetivo |
|---|---|---|
| Acesso aos fundamentos | Apenas o resultado da recomendação é apresentado | Os fundamentos necessários à decisão são verificados |
| Tempo para análise | A aprovação é pressionada antes da análise | Garante-se tempo de análise adequado ao risco |
| Autoridade para rejeitar | A execução continua mesmo diante de oposição | É possível suspender ou escolher outra decisão |
| Interrupção da execução | Não está claro quem pode interrompê-la | O responsável e o procedimento de interrupção são definidos |
| Responsabilidade posterior | Encerra-se com a explicação de que foi uma decisão da AI | Permanecem a responsabilidade operacional e o procedimento de correção |

O AI RMF do NIST aborda procedimentos de supervisão humana. Também inclui mecanismos para interromper sistemas que se desviem de seus objetivos. Os itens correspondentes são MAP 3.5 e MANAGE 2.4 do AI RMF Core. Esse é o conteúdo de uma estrutura voluntária de gestão de riscos. [NIST AI RMF Core](https://airc.nist.gov/airmf-resources/airmf/5-sec-core/)

## É possível contestar uma decisão da AI

O controle deve ser considerado não apenas pela perspectiva do operador, mas também pela perspectiva da pessoa afetada. Mesmo que haja um responsável interno pela aprovação, a contestação da vítima pode ser impedida. Por isso, é necessário verificar separadamente os caminhos para nova análise e reparação.

A sequência de verificação a seguir amplia a discussão sobre supervisão humana para a perspectiva do usuário. Não é um procedimento que explique de forma abrangente direitos garantidos por lei. Os itens de gestão posterior do NIST também tratam de contestações e reparações.

1. Verifique se a AI participou da decisão.
2. Procure o responsável ou o canal ao qual possa solicitar uma nova análise.
3. Verifique as informações de entrada incorretas e os fundamentos da decisão.
4. Verifique os procedimentos de correção e reparação de acordo com o resultado da nova análise.

Por exemplo, suponha que alguém tenha recebido uma decisão desfavorável com base em informações incorretas. Apenas receber uma explicação da AI não resolve o problema. É necessário haver um caminho para corrigir as informações e reexaminar o resultado. Essa é uma interpretação que aplica os princípios de gestão posterior do NIST. [Itens de gestão posterior do NIST AI RMF](https://airc.nist.gov/airmf-resources/airmf/5-sec-core/)

## Quais regras Harari propõe

A proposta de Harari é redefinir os objetivos do desenvolvimento e as condições de controle. Ele também reconhece o potencial da AI em áreas como a medicina. Seria impreciso simplificar sua posição como uma defesa do fim de todo desenvolvimento de AI.

- Divulgação da identidade: deve ser possível saber se o interlocutor é uma AI.
- Manutenção da responsabilidade: deve ser possível rastrear a responsabilidade da entidade que opera as decisões.
- Verificação da segurança: os riscos devem ser avaliados juntamente com o avanço das capacidades.
- Participação social: os cidadãos devem discutir a direção do desenvolvimento e as condições de implantação.

Quanto à personalidade jurídica, ele propõe uma ressalva separada. Harari vê com cautela o reconhecimento da AI como sujeito jurídico independente. Essa proposta deve ser distinguida de uma explicação sobre todo o direito vigente.

Também não é necessário atribuir à segurança uma porcentagem de investimento que não tenha sido confirmada. Um artigo do qual Harari participou como coautor aponta a insuficiência das pesquisas sobre segurança. A proposta é fortalecer conjuntamente a pesquisa tecnológica e a governança. O artigo também esclarece que existem divergências de opinião sobre as vias pelas quais os riscos podem surgir. [Artigo conjunto sobre gestão de riscos de AI](https://arxiv.org/abs/2310.17688)

## Erros comuns ao interpretar os alertas de Harari sobre a AI

O erro mais comum é interpretar cenários de risco como fatos atuais e definitivos. Por outro lado, também é possível adiar os problemas de controle sob o argumento de que se referem ao futuro. É necessário distinguir a natureza dos fundamentos de cada alegação.

| Interpretação comum | O que deve ser distinguido na leitura |
|---|---|
| A AI já domina todo o sistema financeiro | O cenário de domínio financeiro é diferente das vulnerabilidades observadas |
| Uma AI gentil prioriza meus interesses | Expressões amigáveis não comprovam o alinhamento de interesses |
| A ausência de consciência na AI foi comprovada para sempre | Uma pesquisa realizada em determinado momento não permite conclusões definitivas sobre todo o futuro |
| Se uma pessoa aprovar, não há problema de controle | É necessário verificar a capacidade de análise e a autoridade para rejeitar e interromper |
| As propostas de Harari já são regras em vigor | As propostas de um pensador devem ser distinguidas das instituições atuais |

Aplique os mesmos critérios também ao usar pessoalmente os conselhos de uma AI. Se uma alegação exigir fundamentos, consulte o texto original. Se ela recomendar uma compra ou decisão política, examine os interesses envolvidos. Verifique também se é possível reverter a decisão.

## FAQ

### Qual é a principal ameaça da IA apontada por Yuval Harari?
É o risco de os seres humanos perderem o controle no processo de transferir a autoridade de decisão e execução. O ponto central é se ainda existem condições para revisar e rejeitar as decisões.

### Harari defende a interrupção de todo o desenvolvimento de IA?
Na entrevista ao EL PAÍS de julho de 2026, ele não defendeu a interrupção de todo o desenvolvimento de IA. Sua posição é que o desenvolvimento deve ser feito com mais cautela para que a sociedade possa se adaptar.

### A IA já assumiu o controle do sistema financeiro?
Não é possível afirmar isso com base nas evidências examinadas aqui. É preciso distinguir os cenários futuros de Harari das vulnerabilidades atuais apontadas pelo Conselho de Estabilidade Financeira.

### Por que devemos receber com cautela as conversas amigáveis da IA?
Porque a confiança gerada em uma conversa amigável pode levar a recomendações ou persuasão. Não avalie a precisão de uma recomendação nem o alinhamento de interesses apenas com base em expressões afetuosas.

### É possível afirmar com certeza que a IA atualmente não tem consciência?
É difícil formular isso como uma afirmação definitiva aplicável a todas as IAs. O estudo de Butlin et al., de 2023, não considerou que os sistemas avaliados na época tivessem consciência. Essa conclusão não exclui a possibilidade de sistemas futuros.

### A personalidade jurídica e a consciência da IA são a mesma questão?
São questões diferentes. A personalidade jurídica diz respeito à definição, pela lei, de quem pode ser sujeito de direitos e obrigações. A consciência diz respeito à existência de experiências subjetivas.

### Todas as respostas erradas da IA são mentiras?
Não se pode considerar dessa forma. É preciso distinguir uma resposta que diverge dos fatos de um engano intencional. Não se deve presumir uma intenção semelhante à humana apenas pelo fato de ter sido dada uma resposta errada.

### É seguro se a aprovação final for feita por uma pessoa?
O procedimento de aprovação, por si só, não garante a segurança. É preciso ter tempo para revisar as evidências e autoridade para rejeitar a decisão. Também é necessário verificar se é possível interromper a execução.

### Quais profissões podem ser consideradas as primeiras a ser substituídas?
Não é possível estabelecer uma classificação das profissões por ordem de substituição com base nas evidências verificadas neste texto. Automatizar tarefas específicas dentro de uma profissão e fazer com que toda a profissão desapareça são questões diferentes.

### O que uma pessoa deve verificar ao delegar decisões à IA?
Verifique a fonte original da afirmação e os interesses envolvidos na recomendação. Ao conceder autoridade de execução, verifique se é possível cancelar ou interromper a ação. Verifique também se há um canal para solicitar a revisão de decisões desfavoráveis.

## Sources

- [FAQ oficial de Yuval Noah Harari — determinismo tecnológico e cenários futuros](https://www.ynharari.com/faqs/)
- [EL PAÍS — entrevista com Yuval Noah Harari, 25 de julho de 2026](https://english.elpais.com/culture/2026-07-25/yuval-noah-harari-ai-could-be-a-great-manipulative-psychopath.html)
- [WIRED — Como compartilhamos o planeta com esta nova superinteligência?](https://www.wired.com/story/questions-answered-by-yuval-noah-harari-for-wired-ai-artificial-intelligence-singularity/)
- [Yuval Noah Harari — Homo Deus e o impacto da digitalização na sociedade](https://www.ynharari.com/homo-deus-impact-digitalization-society/)
- [Conselho de Estabilidade Financeira — divulgação da avaliação dos impactos da IA sobre a estabilidade financeira, 14 de novembro de 2024](https://www.fsb.org/2024/11/fsb-assesses-the-financial-stability-implications-of-artificial-intelligence/)
- [Butlin et al. — Consciência na Inteligência Artificial, 2023](https://arxiv.org/abs/2308.08708)
- [Bengio et al. — Gerenciando riscos extremos de IA em meio ao rápido progresso, versão revisada de 2024](https://arxiv.org/abs/2310.17688)
- [NIST AI RMF Core — supervisão humana, interrupção do sistema e gestão posterior](https://airc.nist.gov/airmf-resources/airmf/5-sec-core/)
- [NIST — Riscos e confiabilidade da IA](https://airc.nist.gov/airmf-resources/airmf/3-sec-characteristics/)

## Images

![Mulher preocupada alcança um botão vermelho protegido ao lado de monitores com gráficos](https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6MTkyOTgsInB1ciI6ImJsb2JfaWQifX0=--1d3c9a5c3c3ea22fd3d6200207dad6fa60b4fa60/ai-ee66864f.webp)
![Mulher pressiona um botão vermelho de parada ao lado de um monitor enquanto um homem observa](https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6MTkzMDQsInB1ciI6ImJsb2JfaWQifX0=--79cd70cb4a57e2d634de94e6a6089227bf6f920d/ai-f8e7a91b.webp)