{"content_id":"ltp31asme2","slug":"yuval-harari-ai-threats-human-control","locale":"pt","schema_type":"Article","category":"ai_data","category_name":"Dados de IA","title":"Yuval Harari sobre ameaças da IA e controle humano","summary":"O alerta de Yuval Harari sobre a IA concentra-se no risco de os humanos cederem o poder de decisão em nome da conveniência. Ele aborda questões relacionadas a finanças e intimidade, distingue cenários futuros de resultados de pesquisas e apresenta critérios práticos de controle.","sponsorship_disclosure":null,"affiliate_disclosure":null,"commerce_disclosure":null,"author":{"name":"injoys","url":"https://injoys.com/ko/about"},"key_points":["Harari alerta que o controle humano pode enfraquecer durante o processo de transferir o poder de decisão para a IA.","As expressões amigáveis da IA não comprovam a existência de emoções nem a confiabilidade de suas recomendações.","A previsão de que a IA dominará as finanças deve ser distinguida dos fatos já confirmados.","A supervisão humana exige condições que permitam analisar evidências, recusar decisões e interromper sua execução.","As propostas regulatórias de Harari devem ser lidas separadamente da legislação vigente e das conclusões científicas já estabelecidas."],"content_markdown":"A principal ameaça da AI sobre a qual Yuval Harari alerta é a perda do controle humano. Isso pode ocorrer quando, por conveniência, as pessoas delegam decisões. Transações financeiras e persuasão pessoal são exemplos representativos de vias de risco. O critério para responder a isso é saber se as pessoas conseguem compreender e rejeitar uma decisão.\n\nO contexto dessas declarações pode ser confirmado no FAQ oficial de Harari e em uma entrevista ao EL PAÍS de 25 de julho de 2026.\n\n## O que é a perda de controle mencionada por Harari\n\nA perda de controle é o estado em que os seres humanos perdem a capacidade de modificar as decisões da AI. Isso não significa que todas as pessoas usem AI. Mesmo que o usuário dê a aprovação diretamente, o controle efetivo pode ser fraco.\n\nPor exemplo, o responsável talvez não consiga examinar os fundamentos de uma recomendação. Ele também pode não ter autoridade para rejeitá-la. Nesse caso, o simples procedimento de aprovação não garante o julgamento humano.\n\nHarari rejeita a visão de que as consequências da tecnologia estejam predeterminadas. Seu FAQ oficial descreve futuros perigosos como possibilidades. Sua posição é que os resultados variam conforme as escolhas feitas pela sociedade. [FAQ oficial de Harari](https://www.ynharari.com/faqs/)\n\nAo aplicar essa perspectiva, as perguntas sobre responsabilidade também se tornam mais concretas.\n\n- Quem definiu o objetivo a ser executado pela AI?\n- Quem concedeu a autoridade para transformar uma recomendação em ação?\n- Quem pode intervir quando surge um problema?\n- Quem é responsável por identificar e corrigir os danos?\n\n## Por que o controle da AI é um problema nas finanças\n\nNas finanças, a complexidade das decisões pode se combinar com a autoridade de execução. Harari se preocupa com estruturas financeiras difíceis de serem compreendidas pelos seres humanos. Um sistema no qual AIs negociam entre si é um dos cenários futuros que ele apresenta. Isso não é um diagnóstico de que todo o sistema financeiro atual já tenha sido entregue à AI.\n\nO Conselho de Estabilidade Financeira apresentou vulnerabilidades mais específicas. Em um comunicado de 14 de novembro de 2024, apontou a concentração dos prestadores de serviços. Também abordou o risco de interconexão entre os comportamentos dos participantes do mercado. Os riscos cibernéticos e os riscos dos modelos também foram objeto de análise. [Comunicado do Conselho de Estabilidade Financeira](https://www.fsb.org/2024/11/fsb-assesses-the-financial-stability-implications-of-artificial-intelligence/)\n\n### Comparação entre recomendação e autoridade de execução\n\nMesmo para a mesma AI, os aspectos a serem examinados variam conforme sua autoridade de execução. A tabela a seguir analisa as diferenças na delegação de autoridade. Ela não representa um caso real de operação de uma empresa financeira específica.\n\n| Tarefa delegada à AI | O que deve ser verificado por uma pessoa | Ponto central do controle |\n|---|---|---|\n| Resumo de informações | Texto original e condições omitidas | É possível acessar os dados originais? |\n| Recomendação de produtos ou transações | Fundamentos da recomendação e possibilidade de perdas | É possível rejeitar a recomendação? |\n| Assistência na aprovação | Critérios de aprovação e situações excepcionais | É possível realizar uma nova análise de forma independente? |\n| Execução de transações | Escopo da execução e resultados acumulados | É possível limitar a autoridade e interromper a execução? |\n\nNão é necessário interpretar isso como uma profecia de que a AI causará uma crise financeira. O ponto central é quanta autoridade será delegada a um sistema difícil de compreender. A gestão de riscos deve abordar não apenas o desempenho do modelo, mas também a estrutura operacional.\n\n## Como a intimidade da AI pode se tornar um instrumento de persuasão\n\nA intimidade da AI cria a possibilidade de usar a confiança pessoal para persuadir. Uma AI conversacional pode dar continuidade às respostas adaptando-se ao que o usuário diz. O usuário pode interpretar essa reação como um sinal de que está sendo compreendido.\n\nImagine uma situação em que recomendações de produtos ou argumentos políticos sejam misturados a isso. O usuário pode recebê-los mais como conselhos de um amigo do que como publicidade. Esse é o ponto central do alerta sobre a influência exercida por meio da intimidade. Isso não significa que toda conversa com AI seja uma manipulação.\n\n| Interação | Como a confiança é formada | O que deve ser verificado |\n|---|---|---|\n| Publicidade pública | A mensagem é avaliada partindo do pressuposto de que é publicidade | Anunciante e fundamentos da alegação |\n| Lista de recomendações | Escolhas adequadas às preferências se repetem | Objetivo da recomendação e critérios de exposição |\n| Conversa pessoal | Acumula-se a sensação de que ela me compreende | Entidade operadora e interesses envolvidos na persuasão |\n\nHarari argumenta que deve ser possível distinguir pessoas de máquinas. Na entrevista ao EL PAÍS, ele também criticou o uso de companheiros de AI por crianças. Essas declarações devem ser interpretadas como propostas regulatórias dele. Elas não descrevem regras atuais aplicáveis em todo o mundo. [Entrevista ao EL PAÍS](https://english.elpais.com/culture/2026-07-25/yuval-noah-harari-ai-could-be-a-great-manipulative-psychopath.html)\n\n## Qual é a diferença entre inteligência e consciência\n\nInteligência é a capacidade de executar tarefas, enquanto consciência é uma questão de experiência subjetiva. Harari desenvolve sua argumentação distinguindo os dois conceitos. A simples capacidade de expressar emoções não comprova a experiência dessas emoções.\n\n| Conceito | Significado neste texto | O que deve ser distinguido |\n|---|---|---|\n| Inteligência | Capacidade de atingir objetivos e resolver problemas | Um alto nível de desempenho não comprova a consciência |\n| Consciência | Experiência subjetiva de sentir dor ou alegria | É difícil confirmá-la apenas por expressões linguísticas |\n| Expressão emocional | Respostas que demonstram empatia ou afeto | Não é igual à experiência emocional real |\n| Personalidade jurídica | Condição reconhecida pela lei como sujeito de direitos e obrigações | Questão a ser discutida separadamente da existência de consciência |\n\nÉ impreciso apresentar a afirmação de que a AI não tem consciência como uma conclusão científica definitiva. Um estudo de Butlin et al., de 2023, avaliou os sistemas da época. Os pesquisadores não consideraram que os sistemas avaliados tivessem consciência. No entanto, deixaram em aberto a possibilidade de implementação futura de indicadores relacionados à consciência. [Estudo sobre consciência em AI](https://arxiv.org/abs/2308.08708)\n\nPortanto, pesquisas anteriores não podem ser aplicadas a todas as AIs futuras. Também não se sustenta a alegação de que frases afetuosas sejam prova de consciência. Tanto o julgamento sobre a consciência quanto a verificação da segurança exigem fundamentos próprios.\n\n## A mentira e o viés são aprendidos como pelos seres humanos\n\nNem toda resposta imprecisa da AI deve ser vista como uma mentira intencional. É preciso distinguir resultados gerados em desacordo com os fatos de enganos orientados por um objetivo. As explicações que fazem analogia com o aprendizado moral de crianças humanas também têm limitações.\n\nOs dados de treinamento, por si só, não conseguem explicar todos os comportamentos. Os objetivos do treinamento e os métodos de avaliação também devem ser examinados. O ambiente de implantação e a autoridade concedida igualmente afetam os riscos. A explicação do NIST sobre gestão de riscos também aborda esses elementos em conjunto. [Explicação do NIST sobre a confiabilidade da AI](https://airc.nist.gov/airmf-resources/airmf/3-sec-characteristics/)\n\nPor exemplo, pode-se imaginar o objetivo de aumentar as reações dos usuários. Não há garantia de que esse objetivo esteja alinhado à precisão das informações. Para avaliar a segurança, é necessário verificar os resultados reais.\n\n## Quais são os riscos para a democracia e os empregos\n\nAs preocupações de Harari vão além da redução de empregos e chegam à concentração de poder. Ele vê com cautela a combinação de dados com conhecimento biológico. Isso ocorre devido à possibilidade de previsões sobre indivíduos levarem à vigilância e ao controle.\n\nEssa questão também aparece em suas explicações relacionadas a 『Homo Deus』. Ele aborda a possibilidade de que os benefícios da tecnologia se concentrem em determinados grupos. Profissões especializadas, como as das áreas de educação e saúde, também estão incluídas na discussão sobre automação. Isso não deve ser interpretado como uma previsão definitiva sobre quando cada profissão será substituída. [Entrevista com Harari sobre 『Homo Deus』](https://www.ynharari.com/homo-deus-impact-digitalization-society/)\n\nA radiodifusão e o entretenimento também podem ser analisados por tipo de tarefa. A produção de conteúdo e a programação de recomendações são trabalhos diferentes. A automação de parte das tarefas não significa o desaparecimento de uma profissão inteira. Não há aqui fundamentos para determinar uma ordem de substituição de profissões específicas.\n\n- Questão do trabalho: quais tarefas podem ser automatizadas?\n- Questão da distribuição: quem recebe os benefícios dos ganhos de produtividade?\n- Questão política: quem controla os dados e os instrumentos de persuasão?\n\nA necessidade de cooperação internacional e a necessidade de um governo mundial único também são alegações diferentes. A necessidade de cooperação não determina uma única forma institucional. Padrões comuns de segurança e o compartilhamento de informações também podem ser formas de cooperação.\n\n## A aprovação humana é suficiente nos setores militar e empresarial\n\nA aprovação humana, por si só, não constitui uma supervisão suficiente. É necessário haver tempo para análise e autoridade para rejeitar a decisão. A competição por velocidade nos setores militar e empresarial pode enfraquecer essas condições.\n\nPode-se imaginar uma situação em que não haja tempo para compreender uma recomendação. Nesse caso, o responsável pode simplesmente pressionar repetidamente o botão de aprovação. Isso não é uma descrição conclusiva da realidade de uma organização específica. É um exemplo que mostra como a supervisão humana pode se tornar uma formalidade.\n\nHarari também aponta como problema a desconfiança entre empresas e Estados. O receio de ficar atrás dos concorrentes acelera a corrida pelo desenvolvimento. Ele considera necessária a cooperação entre os seres humanos para um desenvolvimento seguro. [Entrevista à WIRED](https://www.wired.com/story/questions-answered-by-yuval-noah-harari-for-wired-ai-artificial-intelligence-singularity/)\n\n## Comparação entre aprovação formal e controle efetivo\n\nO controle efetivo deve ser avaliado pela capacidade de intervir nas decisões. Não é possível confirmá-lo apenas pelo nome da pessoa responsável pela aprovação. Os itens abaixo comparam como os riscos anteriores se traduzem em condições operacionais.\n\n| Item de verificação | Quando se limita a uma aprovação formal | Condições para um controle efetivo |\n|---|---|---|\n| Acesso aos fundamentos | Apenas o resultado da recomendação é apresentado | Os fundamentos necessários à decisão são verificados |\n| Tempo para análise | A aprovação é pressionada antes da análise | Garante-se tempo de análise adequado ao risco |\n| Autoridade para rejeitar | A execução continua mesmo diante de oposição | É possível suspender ou escolher outra decisão |\n| Interrupção da execução | Não está claro quem pode interrompê-la | O responsável e o procedimento de interrupção são definidos |\n| Responsabilidade posterior | Encerra-se com a explicação de que foi uma decisão da AI | Permanecem a responsabilidade operacional e o procedimento de correção |\n\nO AI RMF do NIST aborda procedimentos de supervisão humana. Também inclui mecanismos para interromper sistemas que se desviem de seus objetivos. Os itens correspondentes são MAP 3.5 e MANAGE 2.4 do AI RMF Core. Esse é o conteúdo de uma estrutura voluntária de gestão de riscos. [NIST AI RMF Core](https://airc.nist.gov/airmf-resources/airmf/5-sec-core/)\n\n## É possível contestar uma decisão da AI\n\nO controle deve ser considerado não apenas pela perspectiva do operador, mas também pela perspectiva da pessoa afetada. Mesmo que haja um responsável interno pela aprovação, a contestação da vítima pode ser impedida. Por isso, é necessário verificar separadamente os caminhos para nova análise e reparação.\n\nA sequência de verificação a seguir amplia a discussão sobre supervisão humana para a perspectiva do usuário. Não é um procedimento que explique de forma abrangente direitos garantidos por lei. Os itens de gestão posterior do NIST também tratam de contestações e reparações.\n\n1. Verifique se a AI participou da decisão.\n2. Procure o responsável ou o canal ao qual possa solicitar uma nova análise.\n3. Verifique as informações de entrada incorretas e os fundamentos da decisão.\n4. Verifique os procedimentos de correção e reparação de acordo com o resultado da nova análise.\n\nPor exemplo, suponha que alguém tenha recebido uma decisão desfavorável com base em informações incorretas. Apenas receber uma explicação da AI não resolve o problema. É necessário haver um caminho para corrigir as informações e reexaminar o resultado. Essa é uma interpretação que aplica os princípios de gestão posterior do NIST. [Itens de gestão posterior do NIST AI RMF](https://airc.nist.gov/airmf-resources/airmf/5-sec-core/)\n\n## Quais regras Harari propõe\n\nA proposta de Harari é redefinir os objetivos do desenvolvimento e as condições de controle. Ele também reconhece o potencial da AI em áreas como a medicina. Seria impreciso simplificar sua posição como uma defesa do fim de todo desenvolvimento de AI.\n\n- Divulgação da identidade: deve ser possível saber se o interlocutor é uma AI.\n- Manutenção da responsabilidade: deve ser possível rastrear a responsabilidade da entidade que opera as decisões.\n- Verificação da segurança: os riscos devem ser avaliados juntamente com o avanço das capacidades.\n- Participação social: os cidadãos devem discutir a direção do desenvolvimento e as condições de implantação.\n\nQuanto à personalidade jurídica, ele propõe uma ressalva separada. Harari vê com cautela o reconhecimento da AI como sujeito jurídico independente. Essa proposta deve ser distinguida de uma explicação sobre todo o direito vigente.\n\nTambém não é necessário atribuir à segurança uma porcentagem de investimento que não tenha sido confirmada. Um artigo do qual Harari participou como coautor aponta a insuficiência das pesquisas sobre segurança. A proposta é fortalecer conjuntamente a pesquisa tecnológica e a governança. O artigo também esclarece que existem divergências de opinião sobre as vias pelas quais os riscos podem surgir. [Artigo conjunto sobre gestão de riscos de AI](https://arxiv.org/abs/2310.17688)\n\n## Erros comuns ao interpretar os alertas de Harari sobre a AI\n\nO erro mais comum é interpretar cenários de risco como fatos atuais e definitivos. Por outro lado, também é possível adiar os problemas de controle sob o argumento de que se referem ao futuro. É necessário distinguir a natureza dos fundamentos de cada alegação.\n\n| Interpretação comum | O que deve ser distinguido na leitura |\n|---|---|\n| A AI já domina todo o sistema financeiro | O cenário de domínio financeiro é diferente das vulnerabilidades observadas |\n| Uma AI gentil prioriza meus interesses | Expressões amigáveis não comprovam o alinhamento de interesses |\n| A ausência de consciência na AI foi comprovada para sempre | Uma pesquisa realizada em determinado momento não permite conclusões definitivas sobre todo o futuro |\n| Se uma pessoa aprovar, não há problema de controle | É necessário verificar a capacidade de análise e a autoridade para rejeitar e interromper |\n| As propostas de Harari já são regras em vigor | As propostas de um pensador devem ser distinguidas das instituições atuais |\n\nAplique os mesmos critérios também ao usar pessoalmente os conselhos de uma AI. Se uma alegação exigir fundamentos, consulte o texto original. Se ela recomendar uma compra ou decisão política, examine os interesses envolvidos. Verifique também se é possível reverter a decisão.","content_html":"\u003cp\u003eA principal ameaça da AI sobre a qual Yuval Harari alerta é a perda do controle humano. Isso pode ocorrer quando, por conveniência, as pessoas delegam decisões. Transações financeiras e persuasão pessoal são exemplos representativos de vias de risco. O critério para responder a isso é saber se as pessoas conseguem compreender e rejeitar uma decisão.\u003c/p\u003e\n\u003cp\u003eO contexto dessas declarações pode ser confirmado no FAQ oficial de Harari e em uma entrevista ao EL PAÍS de 25 de julho de 2026.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#o-que-%C3%A9-a-perda-de-controle-mencionada-por-harari\" class=\"anchor\" id=\"o-que-é-a-perda-de-controle-mencionada-por-harari\"\u003e\u003c/a\u003eO que é a perda de controle mencionada por Harari\u003c/h2\u003e\n\u003cp\u003eA perda de controle é o estado em que os seres humanos perdem a capacidade de modificar as decisões da AI. Isso não significa que todas as pessoas usem AI. Mesmo que o usuário dê a aprovação diretamente, o controle efetivo pode ser fraco.\u003c/p\u003e\n\u003cp\u003ePor exemplo, o responsável talvez não consiga examinar os fundamentos de uma recomendação. Ele também pode não ter autoridade para rejeitá-la. Nesse caso, o simples procedimento de aprovação não garante o julgamento humano.\u003c/p\u003e\n\u003cp\u003eHarari rejeita a visão de que as consequências da tecnologia estejam predeterminadas. Seu FAQ oficial descreve futuros perigosos como possibilidades. Sua posição é que os resultados variam conforme as escolhas feitas pela sociedade. \u003ca href=\"https://www.ynharari.com/faqs/\"\u003eFAQ oficial de Harari\u003c/a\u003e\u003c/p\u003e\n\u003cp\u003eAo aplicar essa perspectiva, as perguntas sobre responsabilidade também se tornam mais concretas.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003eQuem definiu o objetivo a ser executado pela AI?\u003c/li\u003e\n\u003cli\u003eQuem concedeu a autoridade para transformar uma recomendação em ação?\u003c/li\u003e\n\u003cli\u003eQuem pode intervir quando surge um problema?\u003c/li\u003e\n\u003cli\u003eQuem é responsável por identificar e corrigir os danos?\u003c/li\u003e\n\u003c/ul\u003e\n\u003ch2\u003e\n\u003ca href=\"#por-que-o-controle-da-ai-%C3%A9-um-problema-nas-finan%C3%A7as\" class=\"anchor\" id=\"por-que-o-controle-da-ai-é-um-problema-nas-finanças\"\u003e\u003c/a\u003ePor que o controle da AI é um problema nas finanças\u003c/h2\u003e\n\u003cp\u003eNas finanças, a complexidade das decisões pode se combinar com a autoridade de execução. Harari se preocupa com estruturas financeiras difíceis de serem compreendidas pelos seres humanos. Um sistema no qual AIs negociam entre si é um dos cenários futuros que ele apresenta. Isso não é um diagnóstico de que todo o sistema financeiro atual já tenha sido entregue à AI.\u003c/p\u003e\n\u003cp\u003eO Conselho de Estabilidade Financeira apresentou vulnerabilidades mais específicas. Em um comunicado de 14 de novembro de 2024, apontou a concentração dos prestadores de serviços. Também abordou o risco de interconexão entre os comportamentos dos participantes do mercado. Os riscos cibernéticos e os riscos dos modelos também foram objeto de análise. \u003ca href=\"https://www.fsb.org/2024/11/fsb-assesses-the-financial-stability-implications-of-artificial-intelligence/\"\u003eComunicado do Conselho de Estabilidade Financeira\u003c/a\u003e\u003c/p\u003e\n\u003ch3\u003e\n\u003ca href=\"#compara%C3%A7%C3%A3o-entre-recomenda%C3%A7%C3%A3o-e-autoridade-de-execu%C3%A7%C3%A3o\" class=\"anchor\" id=\"comparação-entre-recomendação-e-autoridade-de-execução\"\u003e\u003c/a\u003eComparação entre recomendação e autoridade de execução\u003c/h3\u003e\n\u003cp\u003eMesmo para a mesma AI, os aspectos a serem examinados variam conforme sua autoridade de execução. A tabela a seguir analisa as diferenças na delegação de autoridade. Ela não representa um caso real de operação de uma empresa financeira específica.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eTarefa delegada à AI\u003c/th\u003e\n\u003cth\u003eO que deve ser verificado por uma pessoa\u003c/th\u003e\n\u003cth\u003ePonto central do controle\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Tarefa delegada à AI\"\u003eResumo de informações\u003c/td\u003e\n\u003ctd data-label=\"O que deve ser verificado por uma pessoa\"\u003eTexto original e condições omitidas\u003c/td\u003e\n\u003ctd data-label=\"Ponto central do controle\"\u003eÉ possível acessar os dados originais?\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Tarefa delegada à AI\"\u003eRecomendação de produtos ou transações\u003c/td\u003e\n\u003ctd data-label=\"O que deve ser verificado por uma pessoa\"\u003eFundamentos da recomendação e possibilidade de perdas\u003c/td\u003e\n\u003ctd data-label=\"Ponto central do controle\"\u003eÉ possível rejeitar a recomendação?\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Tarefa delegada à AI\"\u003eAssistência na aprovação\u003c/td\u003e\n\u003ctd data-label=\"O que deve ser verificado por uma pessoa\"\u003eCritérios de aprovação e situações excepcionais\u003c/td\u003e\n\u003ctd data-label=\"Ponto central do controle\"\u003eÉ possível realizar uma nova análise de forma independente?\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Tarefa delegada à AI\"\u003eExecução de transações\u003c/td\u003e\n\u003ctd data-label=\"O que deve ser verificado por uma pessoa\"\u003eEscopo da execução e resultados acumulados\u003c/td\u003e\n\u003ctd data-label=\"Ponto central do controle\"\u003eÉ possível limitar a autoridade e interromper a execução?\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eNão é necessário interpretar isso como uma profecia de que a AI causará uma crise financeira. O ponto central é quanta autoridade será delegada a um sistema difícil de compreender. A gestão de riscos deve abordar não apenas o desempenho do modelo, mas também a estrutura operacional.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#como-a-intimidade-da-ai-pode-se-tornar-um-instrumento-de-persuas%C3%A3o\" class=\"anchor\" id=\"como-a-intimidade-da-ai-pode-se-tornar-um-instrumento-de-persuasão\"\u003e\u003c/a\u003eComo a intimidade da AI pode se tornar um instrumento de persuasão\u003c/h2\u003e\n\u003cp\u003eA intimidade da AI cria a possibilidade de usar a confiança pessoal para persuadir. Uma AI conversacional pode dar continuidade às respostas adaptando-se ao que o usuário diz. O usuário pode interpretar essa reação como um sinal de que está sendo compreendido.\u003c/p\u003e\n\u003cp\u003eImagine uma situação em que recomendações de produtos ou argumentos políticos sejam misturados a isso. O usuário pode recebê-los mais como conselhos de um amigo do que como publicidade. Esse é o ponto central do alerta sobre a influência exercida por meio da intimidade. Isso não significa que toda conversa com AI seja uma manipulação.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eInteração\u003c/th\u003e\n\u003cth\u003eComo a confiança é formada\u003c/th\u003e\n\u003cth\u003eO que deve ser verificado\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interação\"\u003ePublicidade pública\u003c/td\u003e\n\u003ctd data-label=\"Como a confiança é formada\"\u003eA mensagem é avaliada partindo do pressuposto de que é publicidade\u003c/td\u003e\n\u003ctd data-label=\"O que deve ser verificado\"\u003eAnunciante e fundamentos da alegação\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interação\"\u003eLista de recomendações\u003c/td\u003e\n\u003ctd data-label=\"Como a confiança é formada\"\u003eEscolhas adequadas às preferências se repetem\u003c/td\u003e\n\u003ctd data-label=\"O que deve ser verificado\"\u003eObjetivo da recomendação e critérios de exposição\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interação\"\u003eConversa pessoal\u003c/td\u003e\n\u003ctd data-label=\"Como a confiança é formada\"\u003eAcumula-se a sensação de que ela me compreende\u003c/td\u003e\n\u003ctd data-label=\"O que deve ser verificado\"\u003eEntidade operadora e interesses envolvidos na persuasão\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eHarari argumenta que deve ser possível distinguir pessoas de máquinas. Na entrevista ao EL PAÍS, ele também criticou o uso de companheiros de AI por crianças. Essas declarações devem ser interpretadas como propostas regulatórias dele. Elas não descrevem regras atuais aplicáveis em todo o mundo. \u003ca href=\"https://english.elpais.com/culture/2026-07-25/yuval-noah-harari-ai-could-be-a-great-manipulative-psychopath.html\"\u003eEntrevista ao EL PAÍS\u003c/a\u003e\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#qual-%C3%A9-a-diferen%C3%A7a-entre-intelig%C3%AAncia-e-consci%C3%AAncia\" class=\"anchor\" id=\"qual-é-a-diferença-entre-inteligência-e-consciência\"\u003e\u003c/a\u003eQual é a diferença entre inteligência e consciência\u003c/h2\u003e\n\u003cp\u003eInteligência é a capacidade de executar tarefas, enquanto consciência é uma questão de experiência subjetiva. Harari desenvolve sua argumentação distinguindo os dois conceitos. A simples capacidade de expressar emoções não comprova a experiência dessas emoções.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eConceito\u003c/th\u003e\n\u003cth\u003eSignificado neste texto\u003c/th\u003e\n\u003cth\u003eO que deve ser distinguido\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Conceito\"\u003eInteligência\u003c/td\u003e\n\u003ctd data-label=\"Significado neste texto\"\u003eCapacidade de atingir objetivos e resolver problemas\u003c/td\u003e\n\u003ctd data-label=\"O que deve ser distinguido\"\u003eUm alto nível de desempenho não comprova a consciência\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Conceito\"\u003eConsciência\u003c/td\u003e\n\u003ctd data-label=\"Significado neste texto\"\u003eExperiência subjetiva de sentir dor ou alegria\u003c/td\u003e\n\u003ctd data-label=\"O que deve ser distinguido\"\u003eÉ difícil confirmá-la apenas por expressões linguísticas\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Conceito\"\u003eExpressão emocional\u003c/td\u003e\n\u003ctd data-label=\"Significado neste texto\"\u003eRespostas que demonstram empatia ou afeto\u003c/td\u003e\n\u003ctd data-label=\"O que deve ser distinguido\"\u003eNão é igual à experiência emocional real\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Conceito\"\u003ePersonalidade jurídica\u003c/td\u003e\n\u003ctd data-label=\"Significado neste texto\"\u003eCondição reconhecida pela lei como sujeito de direitos e obrigações\u003c/td\u003e\n\u003ctd data-label=\"O que deve ser distinguido\"\u003eQuestão a ser discutida separadamente da existência de consciência\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eÉ impreciso apresentar a afirmação de que a AI não tem consciência como uma conclusão científica definitiva. Um estudo de Butlin et al., de 2023, avaliou os sistemas da época. Os pesquisadores não consideraram que os sistemas avaliados tivessem consciência. No entanto, deixaram em aberto a possibilidade de implementação futura de indicadores relacionados à consciência. \u003ca href=\"https://arxiv.org/abs/2308.08708\"\u003eEstudo sobre consciência em AI\u003c/a\u003e\u003c/p\u003e\n\u003cp\u003ePortanto, pesquisas anteriores não podem ser aplicadas a todas as AIs futuras. Também não se sustenta a alegação de que frases afetuosas sejam prova de consciência. Tanto o julgamento sobre a consciência quanto a verificação da segurança exigem fundamentos próprios.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#a-mentira-e-o-vi%C3%A9s-s%C3%A3o-aprendidos-como-pelos-seres-humanos\" class=\"anchor\" id=\"a-mentira-e-o-viés-são-aprendidos-como-pelos-seres-humanos\"\u003e\u003c/a\u003eA mentira e o viés são aprendidos como pelos seres humanos\u003c/h2\u003e\n\u003cp\u003eNem toda resposta imprecisa da AI deve ser vista como uma mentira intencional. É preciso distinguir resultados gerados em desacordo com os fatos de enganos orientados por um objetivo. As explicações que fazem analogia com o aprendizado moral de crianças humanas também têm limitações.\u003c/p\u003e\n\u003cp\u003eOs dados de treinamento, por si só, não conseguem explicar todos os comportamentos. Os objetivos do treinamento e os métodos de avaliação também devem ser examinados. O ambiente de implantação e a autoridade concedida igualmente afetam os riscos. A explicação do NIST sobre gestão de riscos também aborda esses elementos em conjunto. \u003ca href=\"https://airc.nist.gov/airmf-resources/airmf/3-sec-characteristics/\"\u003eExplicação do NIST sobre a confiabilidade da AI\u003c/a\u003e\u003c/p\u003e\n\u003cp\u003ePor exemplo, pode-se imaginar o objetivo de aumentar as reações dos usuários. Não há garantia de que esse objetivo esteja alinhado à precisão das informações. Para avaliar a segurança, é necessário verificar os resultados reais.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#quais-s%C3%A3o-os-riscos-para-a-democracia-e-os-empregos\" class=\"anchor\" id=\"quais-são-os-riscos-para-a-democracia-e-os-empregos\"\u003e\u003c/a\u003eQuais são os riscos para a democracia e os empregos\u003c/h2\u003e\n\u003cp\u003eAs preocupações de Harari vão além da redução de empregos e chegam à concentração de poder. Ele vê com cautela a combinação de dados com conhecimento biológico. Isso ocorre devido à possibilidade de previsões sobre indivíduos levarem à vigilância e ao controle.\u003c/p\u003e\n\u003cp\u003eEssa questão também aparece em suas explicações relacionadas a 『Homo Deus』. Ele aborda a possibilidade de que os benefícios da tecnologia se concentrem em determinados grupos. Profissões especializadas, como as das áreas de educação e saúde, também estão incluídas na discussão sobre automação. Isso não deve ser interpretado como uma previsão definitiva sobre quando cada profissão será substituída. \u003ca href=\"https://www.ynharari.com/homo-deus-impact-digitalization-society/\"\u003eEntrevista com Harari sobre 『Homo Deus』\u003c/a\u003e\u003c/p\u003e\n\u003cp\u003eA radiodifusão e o entretenimento também podem ser analisados por tipo de tarefa. A produção de conteúdo e a programação de recomendações são trabalhos diferentes. A automação de parte das tarefas não significa o desaparecimento de uma profissão inteira. Não há aqui fundamentos para determinar uma ordem de substituição de profissões específicas.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003eQuestão do trabalho: quais tarefas podem ser automatizadas?\u003c/li\u003e\n\u003cli\u003eQuestão da distribuição: quem recebe os benefícios dos ganhos de produtividade?\u003c/li\u003e\n\u003cli\u003eQuestão política: quem controla os dados e os instrumentos de persuasão?\u003c/li\u003e\n\u003c/ul\u003e\n\u003cp\u003eA necessidade de cooperação internacional e a necessidade de um governo mundial único também são alegações diferentes. A necessidade de cooperação não determina uma única forma institucional. Padrões comuns de segurança e o compartilhamento de informações também podem ser formas de cooperação.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#a-aprova%C3%A7%C3%A3o-humana-%C3%A9-suficiente-nos-setores-militar-e-empresarial\" class=\"anchor\" id=\"a-aprovação-humana-é-suficiente-nos-setores-militar-e-empresarial\"\u003e\u003c/a\u003eA aprovação humana é suficiente nos setores militar e empresarial\u003c/h2\u003e\n\u003cp\u003eA aprovação humana, por si só, não constitui uma supervisão suficiente. É necessário haver tempo para análise e autoridade para rejeitar a decisão. A competição por velocidade nos setores militar e empresarial pode enfraquecer essas condições.\u003c/p\u003e\n\u003cp\u003ePode-se imaginar uma situação em que não haja tempo para compreender uma recomendação. Nesse caso, o responsável pode simplesmente pressionar repetidamente o botão de aprovação. Isso não é uma descrição conclusiva da realidade de uma organização específica. É um exemplo que mostra como a supervisão humana pode se tornar uma formalidade.\u003c/p\u003e\n\u003cp\u003eHarari também aponta como problema a desconfiança entre empresas e Estados. O receio de ficar atrás dos concorrentes acelera a corrida pelo desenvolvimento. Ele considera necessária a cooperação entre os seres humanos para um desenvolvimento seguro. \u003ca href=\"https://www.wired.com/story/questions-answered-by-yuval-noah-harari-for-wired-ai-artificial-intelligence-singularity/\"\u003eEntrevista à WIRED\u003c/a\u003e\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#compara%C3%A7%C3%A3o-entre-aprova%C3%A7%C3%A3o-formal-e-controle-efetivo\" class=\"anchor\" id=\"comparação-entre-aprovação-formal-e-controle-efetivo\"\u003e\u003c/a\u003eComparação entre aprovação formal e controle efetivo\u003c/h2\u003e\n\u003cp\u003eO controle efetivo deve ser avaliado pela capacidade de intervir nas decisões. Não é possível confirmá-lo apenas pelo nome da pessoa responsável pela aprovação. Os itens abaixo comparam como os riscos anteriores se traduzem em condições operacionais.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eItem de verificação\u003c/th\u003e\n\u003cth\u003eQuando se limita a uma aprovação formal\u003c/th\u003e\n\u003cth\u003eCondições para um controle efetivo\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Item de verificação\"\u003eAcesso aos fundamentos\u003c/td\u003e\n\u003ctd data-label=\"Quando se limita a uma aprovação formal\"\u003eApenas o resultado da recomendação é apresentado\u003c/td\u003e\n\u003ctd data-label=\"Condições para um controle efetivo\"\u003eOs fundamentos necessários à decisão são verificados\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Item de verificação\"\u003eTempo para análise\u003c/td\u003e\n\u003ctd data-label=\"Quando se limita a uma aprovação formal\"\u003eA aprovação é pressionada antes da análise\u003c/td\u003e\n\u003ctd data-label=\"Condições para um controle efetivo\"\u003eGarante-se tempo de análise adequado ao risco\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Item de verificação\"\u003eAutoridade para rejeitar\u003c/td\u003e\n\u003ctd data-label=\"Quando se limita a uma aprovação formal\"\u003eA execução continua mesmo diante de oposição\u003c/td\u003e\n\u003ctd data-label=\"Condições para um controle efetivo\"\u003eÉ possível suspender ou escolher outra decisão\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Item de verificação\"\u003eInterrupção da execução\u003c/td\u003e\n\u003ctd data-label=\"Quando se limita a uma aprovação formal\"\u003eNão está claro quem pode interrompê-la\u003c/td\u003e\n\u003ctd data-label=\"Condições para um controle efetivo\"\u003eO responsável e o procedimento de interrupção são definidos\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Item de verificação\"\u003eResponsabilidade posterior\u003c/td\u003e\n\u003ctd data-label=\"Quando se limita a uma aprovação formal\"\u003eEncerra-se com a explicação de que foi uma decisão da AI\u003c/td\u003e\n\u003ctd data-label=\"Condições para um controle efetivo\"\u003ePermanecem a responsabilidade operacional e o procedimento de correção\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eO AI RMF do NIST aborda procedimentos de supervisão humana. Também inclui mecanismos para interromper sistemas que se desviem de seus objetivos. Os itens correspondentes são MAP 3.5 e MANAGE 2.4 do AI RMF Core. Esse é o conteúdo de uma estrutura voluntária de gestão de riscos. \u003ca href=\"https://airc.nist.gov/airmf-resources/airmf/5-sec-core/\"\u003eNIST AI RMF Core\u003c/a\u003e\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#%C3%A9-poss%C3%ADvel-contestar-uma-decis%C3%A3o-da-ai\" class=\"anchor\" id=\"é-possível-contestar-uma-decisão-da-ai\"\u003e\u003c/a\u003eÉ possível contestar uma decisão da AI\u003c/h2\u003e\n\u003cp\u003eO controle deve ser considerado não apenas pela perspectiva do operador, mas também pela perspectiva da pessoa afetada. Mesmo que haja um responsável interno pela aprovação, a contestação da vítima pode ser impedida. Por isso, é necessário verificar separadamente os caminhos para nova análise e reparação.\u003c/p\u003e\n\u003cp\u003eA sequência de verificação a seguir amplia a discussão sobre supervisão humana para a perspectiva do usuário. Não é um procedimento que explique de forma abrangente direitos garantidos por lei. Os itens de gestão posterior do NIST também tratam de contestações e reparações.\u003c/p\u003e\n\u003col\u003e\n\u003cli\u003eVerifique se a AI participou da decisão.\u003c/li\u003e\n\u003cli\u003eProcure o responsável ou o canal ao qual possa solicitar uma nova análise.\u003c/li\u003e\n\u003cli\u003eVerifique as informações de entrada incorretas e os fundamentos da decisão.\u003c/li\u003e\n\u003cli\u003eVerifique os procedimentos de correção e reparação de acordo com o resultado da nova análise.\u003c/li\u003e\n\u003c/ol\u003e\n\u003cp\u003ePor exemplo, suponha que alguém tenha recebido uma decisão desfavorável com base em informações incorretas. Apenas receber uma explicação da AI não resolve o problema. É necessário haver um caminho para corrigir as informações e reexaminar o resultado. Essa é uma interpretação que aplica os princípios de gestão posterior do NIST. \u003ca href=\"https://airc.nist.gov/airmf-resources/airmf/5-sec-core/\"\u003eItens de gestão posterior do NIST AI RMF\u003c/a\u003e\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#quais-regras-harari-prop%C3%B5e\" class=\"anchor\" id=\"quais-regras-harari-propõe\"\u003e\u003c/a\u003eQuais regras Harari propõe\u003c/h2\u003e\n\u003cp\u003eA proposta de Harari é redefinir os objetivos do desenvolvimento e as condições de controle. Ele também reconhece o potencial da AI em áreas como a medicina. Seria impreciso simplificar sua posição como uma defesa do fim de todo desenvolvimento de AI.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003eDivulgação da identidade: deve ser possível saber se o interlocutor é uma AI.\u003c/li\u003e\n\u003cli\u003eManutenção da responsabilidade: deve ser possível rastrear a responsabilidade da entidade que opera as decisões.\u003c/li\u003e\n\u003cli\u003eVerificação da segurança: os riscos devem ser avaliados juntamente com o avanço das capacidades.\u003c/li\u003e\n\u003cli\u003eParticipação social: os cidadãos devem discutir a direção do desenvolvimento e as condições de implantação.\u003c/li\u003e\n\u003c/ul\u003e\n\u003cp\u003eQuanto à personalidade jurídica, ele propõe uma ressalva separada. Harari vê com cautela o reconhecimento da AI como sujeito jurídico independente. Essa proposta deve ser distinguida de uma explicação sobre todo o direito vigente.\u003c/p\u003e\n\u003cp\u003eTambém não é necessário atribuir à segurança uma porcentagem de investimento que não tenha sido confirmada. Um artigo do qual Harari participou como coautor aponta a insuficiência das pesquisas sobre segurança. A proposta é fortalecer conjuntamente a pesquisa tecnológica e a governança. O artigo também esclarece que existem divergências de opinião sobre as vias pelas quais os riscos podem surgir. \u003ca href=\"https://arxiv.org/abs/2310.17688\"\u003eArtigo conjunto sobre gestão de riscos de AI\u003c/a\u003e\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#erros-comuns-ao-interpretar-os-alertas-de-harari-sobre-a-ai\" class=\"anchor\" id=\"erros-comuns-ao-interpretar-os-alertas-de-harari-sobre-a-ai\"\u003e\u003c/a\u003eErros comuns ao interpretar os alertas de Harari sobre a AI\u003c/h2\u003e\n\u003cp\u003eO erro mais comum é interpretar cenários de risco como fatos atuais e definitivos. Por outro lado, também é possível adiar os problemas de controle sob o argumento de que se referem ao futuro. É necessário distinguir a natureza dos fundamentos de cada alegação.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eInterpretação comum\u003c/th\u003e\n\u003cth\u003eO que deve ser distinguido na leitura\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interpretação comum\"\u003eA AI já domina todo o sistema financeiro\u003c/td\u003e\n\u003ctd data-label=\"O que deve ser distinguido na leitura\"\u003eO cenário de domínio financeiro é diferente das vulnerabilidades observadas\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interpretação comum\"\u003eUma AI gentil prioriza meus interesses\u003c/td\u003e\n\u003ctd data-label=\"O que deve ser distinguido na leitura\"\u003eExpressões amigáveis não comprovam o alinhamento de interesses\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interpretação comum\"\u003eA ausência de consciência na AI foi comprovada para sempre\u003c/td\u003e\n\u003ctd data-label=\"O que deve ser distinguido na leitura\"\u003eUma pesquisa realizada em determinado momento não permite conclusões definitivas sobre todo o futuro\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interpretação comum\"\u003eSe uma pessoa aprovar, não há problema de controle\u003c/td\u003e\n\u003ctd data-label=\"O que deve ser distinguido na leitura\"\u003eÉ necessário verificar a capacidade de análise e a autoridade para rejeitar e interromper\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interpretação comum\"\u003eAs propostas de Harari já são regras em vigor\u003c/td\u003e\n\u003ctd data-label=\"O que deve ser distinguido na leitura\"\u003eAs propostas de um pensador devem ser distinguidas das instituições atuais\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eAplique os mesmos critérios também ao usar pessoalmente os conselhos de uma AI. Se uma alegação exigir fundamentos, consulte o texto original. Se ela recomendar uma compra ou decisão política, examine os interesses envolvidos. Verifique também se é possível reverter a decisão.\u003c/p\u003e\n","tags":["AI","Mercado de trabalho","IA generativa","Proteção de dados","Agentes de IA","Tomada de decisões"],"faqs":[{"question":"Qual é a principal ameaça da IA apontada por Yuval Harari?","answer":"É o risco de os seres humanos perderem o controle no processo de transferir a autoridade de decisão e execução. O ponto central é se ainda existem condições para revisar e rejeitar as decisões."},{"question":"Harari defende a interrupção de todo o desenvolvimento de IA?","answer":"Na entrevista ao EL PAÍS de julho de 2026, ele não defendeu a interrupção de todo o desenvolvimento de IA. Sua posição é que o desenvolvimento deve ser feito com mais cautela para que a sociedade possa se adaptar."},{"question":"A IA já assumiu o controle do sistema financeiro?","answer":"Não é possível afirmar isso com base nas evidências examinadas aqui. É preciso distinguir os cenários futuros de Harari das vulnerabilidades atuais apontadas pelo Conselho de Estabilidade Financeira."},{"question":"Por que devemos receber com cautela as conversas amigáveis da IA?","answer":"Porque a confiança gerada em uma conversa amigável pode levar a recomendações ou persuasão. Não avalie a precisão de uma recomendação nem o alinhamento de interesses apenas com base em expressões afetuosas."},{"question":"É possível afirmar com certeza que a IA atualmente não tem consciência?","answer":"É difícil formular isso como uma afirmação definitiva aplicável a todas as IAs. O estudo de Butlin et al., de 2023, não considerou que os sistemas avaliados na época tivessem consciência. Essa conclusão não exclui a possibilidade de sistemas futuros."},{"question":"A personalidade jurídica e a consciência da IA são a mesma questão?","answer":"São questões diferentes. A personalidade jurídica diz respeito à definição, pela lei, de quem pode ser sujeito de direitos e obrigações. A consciência diz respeito à existência de experiências subjetivas."},{"question":"Todas as respostas erradas da IA são mentiras?","answer":"Não se pode considerar dessa forma. É preciso distinguir uma resposta que diverge dos fatos de um engano intencional. Não se deve presumir uma intenção semelhante à humana apenas pelo fato de ter sido dada uma resposta errada."},{"question":"É seguro se a aprovação final for feita por uma pessoa?","answer":"O procedimento de aprovação, por si só, não garante a segurança. É preciso ter tempo para revisar as evidências e autoridade para rejeitar a decisão. Também é necessário verificar se é possível interromper a execução."},{"question":"Quais profissões podem ser consideradas as primeiras a ser substituídas?","answer":"Não é possível estabelecer uma classificação das profissões por ordem de substituição com base nas evidências verificadas neste texto. Automatizar tarefas específicas dentro de uma profissão e fazer com que toda a profissão desapareça são questões diferentes."},{"question":"O que uma pessoa deve verificar ao delegar decisões à IA?","answer":"Verifique a fonte original da afirmação e os interesses envolvidos na recomendação. Ao conceder autoridade de execução, verifique se é possível cancelar ou interromper a ação. Verifique também se há um canal para solicitar a revisão de decisões desfavoráveis."}],"sources":[{"url":"https://www.ynharari.com/faqs/","title":"FAQ oficial de Yuval Noah Harari — determinismo tecnológico e cenários futuros","type":"source"},{"url":"https://english.elpais.com/culture/2026-07-25/yuval-noah-harari-ai-could-be-a-great-manipulative-psychopath.html","title":"EL PAÍS — entrevista com Yuval Noah Harari, 25 de julho de 2026","type":"source"},{"url":"https://www.wired.com/story/questions-answered-by-yuval-noah-harari-for-wired-ai-artificial-intelligence-singularity/","title":"WIRED — Como compartilhamos o planeta com esta nova superinteligência?","type":"source"},{"url":"https://www.ynharari.com/homo-deus-impact-digitalization-society/","title":"Yuval Noah Harari — Homo Deus e o impacto da digitalização na sociedade","type":"source"},{"url":"https://www.fsb.org/2024/11/fsb-assesses-the-financial-stability-implications-of-artificial-intelligence/","title":"Conselho de Estabilidade Financeira — divulgação da avaliação dos impactos da IA sobre a estabilidade financeira, 14 de novembro de 2024","type":"source"},{"url":"https://arxiv.org/abs/2308.08708","title":"Butlin et al. — Consciência na Inteligência Artificial, 2023","type":"source"},{"url":"https://arxiv.org/abs/2310.17688","title":"Bengio et al. — Gerenciando riscos extremos de IA em meio ao rápido progresso, versão revisada de 2024","type":"source"},{"url":"https://airc.nist.gov/airmf-resources/airmf/5-sec-core/","title":"NIST AI RMF Core — supervisão humana, interrupção do sistema e gestão posterior","type":"source"},{"url":"https://airc.nist.gov/airmf-resources/airmf/3-sec-characteristics/","title":"NIST — Riscos e confiabilidade da IA","type":"source"}],"images":[{"id":1343,"url":"https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6MTkyOTgsInB1ciI6ImJsb2JfaWQifX0=--1d3c9a5c3c3ea22fd3d6200207dad6fa60b4fa60/ai-ee66864f.webp","is_representative":true,"generation_method":"ai_photo","license":"ai_generated","mime_type":"image/webp","width":1536,"height":1024,"translations":{"ko":{"alt":"여성이 여러 모니터의 그래프를 보며 보호 덮개가 있는 빨간 비상 버튼으로 손을 뻗는 모습","caption":"통제실의 비상 버튼은 AI 시대 인간 통제권의 중요성을 상징한다.","description":null},"en":{"alt":"Concerned woman reaches toward a guarded red emergency button beside monitors showing charts","caption":"The emergency button evokes the importance of retaining human control over AI.","description":null},"ja":{"alt":"グラフを映す複数のモニターの前で、保護カバー付きの赤い非常ボタンに手を伸ばす女性","caption":"非常ボタンは、AIに対する人間の制御権を保つ重要性を象徴している。","description":null},"es":{"alt":"Mujer preocupada extiende la mano hacia un botón rojo protegido junto a monitores con gráficos","caption":"El botón de emergencia simboliza la importancia de mantener el control humano sobre la IA.","description":null},"id":{"alt":"Perempuan cemas meraih tombol darurat merah berpelindung di samping monitor berisi grafik","caption":"Tombol darurat itu melambangkan pentingnya mempertahankan kendali manusia atas AI.","description":null},"pt":{"alt":"Mulher preocupada alcança um botão vermelho protegido ao lado de monitores com gráficos","caption":"O botão de emergência simboliza a importância de manter o controle humano sobre a IA.","description":null},"zh-hant":{"alt":"神情擔憂的女子在顯示圖表的多台螢幕前伸手觸向有護罩的紅色緊急按鈕","caption":"緊急按鈕象徵在AI時代維持人類控制權的重要性。","description":null},"de":{"alt":"Besorgte Frau greift neben Monitoren mit Diagrammen nach einem geschützten roten Notknopf","caption":"Der Notknopf symbolisiert, wie wichtig die menschliche Kontrolle über KI ist.","description":null}}},{"id":1344,"url":"https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6MTkzMDQsInB1ciI6ImJsb2JfaWQifX0=--79cd70cb4a57e2d634de94e6a6089227bf6f920d/ai-f8e7a91b.webp","is_representative":false,"generation_method":"ai_semi","license":"ai_generated","mime_type":"image/webp","width":1536,"height":1024,"translations":{"ko":{"alt":"데이터 화면 옆 빨간 정지 버튼을 누르는 여성과 이를 지켜보는 남성","caption":"AI와 데이터 흐름을 중단하는 인간의 통제권을 상징적으로 보여준다.","description":null},"en":{"alt":"Woman pressing a red stop button beside a data monitor as a man watches","caption":"The scene symbolizes human control over AI and automated data flows.","description":null},"ja":{"alt":"データ画面の横にある赤い停止ボタンを押す女性と見守る男性","caption":"AIと自動化されたデータの流れを人間が制御する様子を象徴している。","description":null},"es":{"alt":"Mujer pulsa un botón rojo de parada junto a un monitor mientras un hombre observa","caption":"La escena simboliza el control humano sobre la IA y los flujos de datos automatizados.","description":null},"id":{"alt":"Perempuan menekan tombol berhenti merah di samping monitor data saat seorang pria mengamati","caption":"Adegan ini melambangkan kendali manusia atas AI dan aliran data otomatis.","description":null},"pt":{"alt":"Mulher pressiona um botão vermelho de parada ao lado de um monitor enquanto um homem observa","caption":"A cena simboliza o controle humano sobre a IA e os fluxos automatizados de dados.","description":null},"zh-hant":{"alt":"女子按下資料螢幕旁的紅色停止按鈕，一名男子在旁注視","caption":"此場景象徵人類對AI與自動化資料流的控制權。","description":null},"de":{"alt":"Frau drückt neben einem Datenmonitor einen roten Stoppknopf, während ein Mann zusieht","caption":"Die Szene symbolisiert die menschliche Kontrolle über KI und automatisierte Datenflüsse.","description":null}}}],"published_at":"2026-09-17T05:27:56+09:00","updated_at":"2026-09-17T05:27:56+09:00","license":"cc_by","translation_status":"reviewed","available_locales":["ko","en","ja","es"],"data_locales":["ko","en","ja","es","id","pt","zh-hant","de"],"url":"https://injoys.com/en/articles/yuval-harari-ai-threats-human-control"}