{"content_id":"ltp31asme2","slug":"yuval-harari-ai-threats-human-control","locale":"es","schema_type":"Article","category":"ai_data","category_name":"Datos de IA","title":"Yuval Harari: amenazas de la IA y control humano","summary":"Las advertencias de Yuval Harari sobre la IA se centran en el riesgo de que los seres humanos cedan su capacidad de decisión en aras de la comodidad. Explica los problemas relacionados con las finanzas y la intimidad, distingue los escenarios futuros de los resultados de investigaciones y plantea criterios prácticos de control.","sponsorship_disclosure":null,"affiliate_disclosure":null,"commerce_disclosure":null,"author":{"name":"Equipo editorial de Injoys","url":"https://injoys.com/ko/about"},"key_points":["Harari advierte que el control humano puede debilitarse durante el proceso de ceder a la IA la capacidad de decisión.","Las expresiones afables de la IA no demuestran la existencia de emociones ni la fiabilidad de sus recomendaciones.","La previsión de que la IA se apodere de las finanzas debe distinguirse de los hechos ya confirmados.","La supervisión humana requiere condiciones que permitan revisar los fundamentos, rechazar decisiones y detener su ejecución.","Las propuestas regulatorias de Harari deben interpretarse diferenciándolas de la legislación vigente y de las conclusiones científicas definitivas."],"content_markdown":"La principal amenaza de la IA sobre la que advierte Yuval Harari es la pérdida del control humano. Puede producirse al delegar el juicio por comodidad. Las transacciones financieras y la persuasión personal son vías de riesgo representativas. El criterio para responder es si las personas pueden comprender y rechazar las decisiones.\n\nEl contexto de sus declaraciones puede consultarse en las FAQ oficiales de Harari y en la entrevista de EL PAÍS del 25 de julio de 2026.\n\n## ¿Qué es la pérdida de control de la que habla Harari?\n\nLa pérdida de control es el estado en el que los seres humanos pierden la capacidad de modificar las decisiones de la IA. No significa que todo el mundo utilice IA. Aunque el usuario dé su aprobación directamente, el control real puede ser débil.\n\nPor ejemplo, puede que el responsable no pueda revisar los fundamentos de una recomendación. También podría carecer de autoridad para rechazarla. En ese caso, el mero procedimiento de aprobación no garantiza el juicio humano.\n\nHarari rechaza la idea de que las consecuencias de la tecnología estén predeterminadas. Sus FAQ oficiales describen un futuro peligroso como una posibilidad. Su postura es que el resultado cambia según las decisiones que tome la sociedad. [FAQ oficiales de Harari](https://www.ynharari.com/faqs/)\n\nAl aplicar esta perspectiva, las preguntas sobre la responsabilidad también se vuelven más concretas.\n\n- ¿Quién definió los objetivos que debe cumplir la IA?\n- ¿Quién otorgó la autoridad para llevar las recomendaciones a la práctica?\n- ¿Quién puede intervenir cuando surge un problema?\n- ¿Quién debe identificar y reparar los daños?\n\n## Por qué el control de la IA plantea problemas en las finanzas\n\nEn las finanzas pueden combinarse la complejidad del juicio y la autoridad para ejecutar decisiones. Harari expresa preocupación por las estructuras financieras difíciles de comprender para los seres humanos. Un sistema en el que las IA realizan transacciones entre sí es uno de los escenarios futuros que plantea. No es un diagnóstico de que todo el sistema financiero actual haya pasado a manos de la IA.\n\nEl Consejo de Estabilidad Financiera señaló vulnerabilidades más concretas. En su publicación del 14 de noviembre de 2024, destacó la concentración de los proveedores de servicios. También abordó el riesgo de que los comportamientos de los participantes del mercado estén interconectados. Los riesgos cibernéticos y de los modelos también fueron objeto de análisis. [Publicación del Consejo de Estabilidad Financiera](https://www.fsb.org/2024/11/fsb-assesses-the-financial-stability-implications-of-artificial-intelligence/)\n\n### Comparación entre la recomendación y la autoridad de ejecución\n\nIncluso con la misma IA, los problemas que deben revisarse cambian según su autoridad de ejecución. La siguiente tabla analiza las diferencias en la delegación de autoridad. No representa un caso operativo real de una empresa financiera concreta.\n\n| Tarea encomendada a la IA | Qué debe verificar la persona | Clave del control |\n|---|---|---|\n| Resumen de información | El texto original y las condiciones omitidas | ¿Se puede acceder a las fuentes originales? |\n| Recomendación de productos o transacciones | Los fundamentos de la recomendación y la posibilidad de pérdidas | ¿Se puede rechazar la recomendación? |\n| Asistencia en la aprobación | Los criterios de aprobación y las situaciones excepcionales | ¿Se puede realizar una revisión independiente? |\n| Ejecución de transacciones | El alcance de la ejecución y los resultados acumulados | ¿Se puede limitar la autoridad y detener la ejecución? |\n\nNo es necesario interpretarlo como una profecía de que la IA provocará una crisis financiera. La cuestión clave es cuánta autoridad se delega en sistemas difíciles de comprender. La gestión de riesgos debe abordar no solo el rendimiento del modelo, sino también la estructura operativa.\n\n## ¿Cómo puede la cercanía de la IA convertirse en un medio de persuasión?\n\nLa cercanía de la IA crea la posibilidad de utilizar la confianza personal con fines persuasivos. La IA conversacional puede continuar respondiendo de acuerdo con lo que dice el usuario. Este puede interpretar esas respuestas como una señal de que la IA lo comprende.\n\nImaginemos una situación en la que se mezclan recomendaciones de productos o afirmaciones políticas. El usuario puede percibirlas como el consejo de un amigo y no como publicidad. Este es el núcleo de la advertencia sobre la influencia ejercida mediante la cercanía. No significa que todas las conversaciones con una IA sean manipuladoras.\n\n| Interacción | Cómo se forma la confianza | Cuestión que debe comprobarse |\n|---|---|---|\n| Publicidad abierta | El mensaje se evalúa partiendo de que es publicidad | El anunciante y los fundamentos de la afirmación |\n| Lista de recomendaciones | Se repiten opciones adaptadas a los gustos | El objetivo de la recomendación y los criterios de exposición |\n| Conversación personal | Se acumula la sensación de que comprende al usuario | La entidad operadora y los intereses vinculados a la persuasión |\n\nHarari sostiene que las personas deben poder distinguir entre un ser humano y una máquina. En la entrevista de EL PAÍS también criticó el uso de acompañantes de IA por parte de los niños. Estas declaraciones deben interpretarse como propuestas regulatorias. No describen normas vigentes aplicables en todo el mundo. [Entrevista de EL PAÍS](https://english.elpais.com/culture/2026-07-25/yuval-noah-harari-ai-could-be-a-great-manipulative-psychopath.html)\n\n## ¿En qué se diferencian la inteligencia y la conciencia?\n\nLa inteligencia es la capacidad de realizar tareas, mientras que la conciencia es una cuestión de experiencia subjetiva. Harari desarrolla su argumentación distinguiendo ambos conceptos. La capacidad de expresar emociones no basta para demostrar que se experimentan.\n\n| Concepto | Significado en este artículo | Aspecto que debe distinguirse |\n|---|---|---|\n| Inteligencia | Capacidad para alcanzar objetivos y resolver problemas | Un alto rendimiento no demuestra la existencia de conciencia |\n| Conciencia | Experiencia subjetiva de sentir dolor o alegría | Es difícil confirmarla únicamente mediante expresiones lingüísticas |\n| Expresión emocional | Respuestas que manifiestan empatía o afecto | No equivale a experimentar emociones reales |\n| Personalidad jurídica | Condición reconocida por la ley como sujeto de derechos y obligaciones | Debe debatirse por separado de la existencia de conciencia |\n\nEs inexacto afirmar que la IA carece de conciencia como si fuera una conclusión científica definitiva. La investigación de Butlin y otros de 2023 evaluó los sistemas de aquella época. El equipo investigador no consideró que los sistemas evaluados tuvieran conciencia. Sin embargo, dejó abierta la posibilidad de que en el futuro se implementen indicadores relacionados con la conciencia. [Investigación sobre la conciencia de la IA](https://arxiv.org/abs/2308.08708)\n\nPor tanto, las investigaciones anteriores no pueden aplicarse a todas las IA futuras. Tampoco es válida la afirmación de que una frase amable constituye una prueba de conciencia. Tanto el juicio sobre la conciencia como la verificación de la seguridad requieren sus propias pruebas.\n\n## ¿Aprende la IA a mentir y a adquirir sesgos como los humanos?\n\nNo todos los resultados inexactos de la IA deben considerarse mentiras deliberadas. Hay que distinguir entre los resultados generados que no se corresponden con los hechos y el engaño orientado a un objetivo. Las explicaciones que lo comparan con el aprendizaje moral de los niños también tienen limitaciones.\n\nLos datos de entrenamiento no bastan para explicar todos los comportamientos. También deben revisarse los objetivos de aprendizaje y los métodos de evaluación. El entorno de despliegue y la autoridad concedida también influyen en los riesgos. La explicación de NIST sobre la gestión de riesgos aborda estos elementos conjuntamente. [Explicación de NIST sobre la fiabilidad de la IA](https://airc.nist.gov/airmf-resources/airmf/3-sec-characteristics/)\n\nPor ejemplo, puede plantearse el objetivo de aumentar las reacciones de los usuarios. No puede garantizarse que ese objetivo coincida con la exactitud de la información. Para evaluar la seguridad, es necesario verificar los resultados reales.\n\n## ¿Qué riesgos existen para la democracia y el empleo?\n\nLa preocupación de Harari va más allá de la reducción del empleo y alcanza la concentración del poder. Advierte sobre la combinación de los datos y los conocimientos biológicos. Esto se debe a la posibilidad de que las predicciones sobre las personas conduzcan a la vigilancia y el control.\n\nEste problema también aparece en sus explicaciones relacionadas con «Homo Deus». Aborda la posibilidad de que los beneficios de la tecnología se concentren en determinados grupos. Profesiones especializadas como la educación o la atención médica también se incluyen en el debate sobre la automatización. Esto no debe interpretarse como una predicción definitiva del momento en que será sustituida cada profesión. [Entrevista de Harari relacionada con «Homo Deus»](https://www.ynharari.com/homo-deus-impact-digitalization-society/)\n\nLa radiodifusión y el entretenimiento también pueden analizarse por tareas. La producción de contenidos y la programación de recomendaciones son tareas diferentes. La automatización de parte de un trabajo no implica la desaparición de toda una profesión. No hay fundamentos para deducir aquí una clasificación de las profesiones según su sustitución.\n\n- El problema del trabajo: ¿qué tareas pueden automatizarse?\n- El problema de la distribución: ¿quién recibe los beneficios del aumento de la productividad?\n- El problema político: ¿quién controla los datos y los medios de persuasión?\n\nLa necesidad de cooperación internacional y la necesidad de un único gobierno mundial también son afirmaciones distintas. La necesidad de cooperar no determina una única forma institucional. Las normas comunes de seguridad y el intercambio de información también pueden ser formas de cooperación.\n\n## ¿Basta la aprobación humana en los ámbitos militar y empresarial?\n\nLa mera aprobación humana no constituye una supervisión suficiente. También debe haber tiempo para revisar y autoridad para rechazar. La competencia por la velocidad en los ámbitos militar y empresarial puede debilitar estas condiciones.\n\nPuede imaginarse una situación en la que no haya tiempo para comprender una recomendación. En ese caso, el responsable podría pulsar repetidamente el botón de aprobación. Esta no es una descripción que pretenda afirmar la realidad de una organización concreta. Es un ejemplo de cómo la supervisión humana puede convertirse en una formalidad.\n\nHarari también señala como problema la desconfianza entre empresas y Estados. El temor a quedarse atrás respecto a los competidores acelera la carrera por el desarrollo. Considera necesaria la cooperación entre los seres humanos para lograr un desarrollo seguro. [Entrevista de WIRED](https://www.wired.com/story/questions-answered-by-yuval-noah-harari-for-wired-ai-artificial-intelligence-singularity/)\n\n## Comparación entre la aprobación formal y el control real\n\nEl control real debe evaluarse según la capacidad de intervenir en una decisión. No puede comprobarse únicamente por el nombre de quien la aprueba. Los siguientes puntos convierten los riesgos anteriores en una comparación de las condiciones operativas.\n\n| Aspecto que debe revisarse | Cuando se limita a una aprobación formal | Condiciones para un control real |\n|---|---|---|\n| Acceso a los fundamentos | Solo se presenta el resultado de la recomendación | Se comprueban los fundamentos necesarios para juzgar |\n| Tiempo de revisión | Se presiona para aprobar antes de revisar | Se garantiza un tiempo de revisión acorde con el riesgo |\n| Autoridad para rechazar | La ejecución continúa aunque haya oposición | Se puede aplazar o elegir otra decisión |\n| Interrupción de la ejecución | No está claro quién puede detenerla | Se establecen el responsable y el procedimiento de interrupción |\n| Responsabilidad posterior | Todo termina explicando que fue una decisión de la IA | Se mantienen la responsabilidad operativa y los procedimientos de corrección |\n\nEl AI RMF de NIST aborda los procedimientos de supervisión humana. También incluye mecanismos para detener los sistemas que se desvían de su propósito. Los apartados correspondientes son MAP 3.5 y MANAGE 2.4 del AI RMF Core. Forman parte de un marco voluntario de gestión de riesgos. [AI RMF Core de NIST](https://airc.nist.gov/airmf-resources/airmf/5-sec-core/)\n\n## ¿Se puede impugnar una decisión de la IA?\n\nEl control debe contemplarse no solo desde la perspectiva del operador, sino también desde la de la persona afectada. Aunque exista un responsable interno de aprobación, la persona perjudicada puede verse impedida de plantear el problema. Por eso es necesario revisar por separado las vías de reconsideración y reparación.\n\nLa siguiente secuencia amplía el debate sobre la supervisión humana desde la perspectiva del usuario. No es un procedimiento que describa de forma integral los derechos garantizados por la ley. Los apartados de gestión posterior de NIST también abordan la impugnación y la reparación.\n\n1. Compruebe si la IA intervino en la decisión.\n2. Busque al responsable o el canal al que solicitar una revisión.\n3. Compruebe la información de entrada incorrecta y los fundamentos de la decisión.\n4. Compruebe los procedimientos de corrección y reparación derivados de la revisión.\n\nPor ejemplo, supongamos que una persona recibe una decisión desfavorable debido a información incorrecta. Recibir una explicación de la IA no basta para resolver el problema. Es necesaria una vía para corregir la información y revisar el resultado. Esta es una interpretación que aplica los principios de gestión posterior de NIST. [Apartado de gestión posterior del AI RMF de NIST](https://airc.nist.gov/airmf-resources/airmf/5-sec-core/)\n\n## ¿Qué reglas propone Harari?\n\nLa propuesta de Harari consiste en redefinir el propósito del desarrollo y las condiciones de control. También reconoce el potencial de la IA en ámbitos como la medicina. Sería inexacto simplificar su postura como una exigencia de eliminar todo desarrollo de IA.\n\n- Divulgación de identidad: debe poder saberse si el interlocutor es una IA.\n- Mantenimiento de la responsabilidad: debe poder rastrearse la responsabilidad de la entidad que gestiona las decisiones.\n- Verificación de la seguridad: los riesgos deben evaluarse junto con el aumento de las capacidades.\n- Participación social: la ciudadanía debe debatir la orientación del desarrollo y las condiciones de despliegue.\n\nRespecto a la personalidad jurídica, propone una cautela aparte. Advierte contra el reconocimiento de la IA como sujeto jurídico independiente. Esta propuesta debe distinguirse de una descripción del conjunto de la legislación vigente.\n\nTampoco es necesario asignar un porcentaje no verificado a la inversión en seguridad. El artículo del que Harari es coautor señala la insuficiencia de la investigación sobre seguridad. Propone reforzar conjuntamente la investigación técnica y la gobernanza. También indica que existen diferencias de opinión sobre las vías por las que pueden surgir los riesgos. [Artículo conjunto sobre la gestión de riesgos de la IA](https://arxiv.org/abs/2310.17688)\n\n## Errores comunes al interpretar las advertencias de Harari sobre la IA\n\nEl error más común es interpretar los escenarios de riesgo como hechos actuales confirmados. Por el contrario, también puede aplazarse el problema del control por considerarlo una cuestión del futuro. Debe distinguirse la naturaleza de las pruebas que sustentan cada afirmación.\n\n| Interpretación común | Contenido que debe distinguirse |\n|---|---|\n| La IA ya domina todo el sistema financiero | Un escenario de control financiero y las vulnerabilidades observadas son cosas distintas |\n| Una IA amable prioriza mis intereses | Las expresiones amistosas no demuestran una coincidencia de intereses |\n| La ausencia de conciencia en la IA ha quedado demostrada para siempre | Una investigación realizada en un momento concreto no permite emitir conclusiones sobre todo el futuro |\n| Si una persona aprueba, no hay problemas de control | Deben comprobarse la capacidad de revisión y la autoridad para rechazar o detener |\n| Las propuestas de Harari ya son reglas vigentes | Deben distinguirse las propuestas de un pensador y las instituciones vigentes |\n\nAplique los mismos criterios cuando utilice personalmente los consejos de una IA. Si una afirmación requiere pruebas, consulte el texto original. Si recomienda una compra o una decisión política, examine los intereses implicados. Compruebe también si la decisión puede revertirse.","content_html":"\u003cp\u003eLa principal amenaza de la IA sobre la que advierte Yuval Harari es la pérdida del control humano. Puede producirse al delegar el juicio por comodidad. Las transacciones financieras y la persuasión personal son vías de riesgo representativas. El criterio para responder es si las personas pueden comprender y rechazar las decisiones.\u003c/p\u003e\n\u003cp\u003eEl contexto de sus declaraciones puede consultarse en las FAQ oficiales de Harari y en la entrevista de EL PAÍS del 25 de julio de 2026.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#qu%C3%A9-es-la-p%C3%A9rdida-de-control-de-la-que-habla-harari\" class=\"anchor\" id=\"qué-es-la-pérdida-de-control-de-la-que-habla-harari\"\u003e\u003c/a\u003e¿Qué es la pérdida de control de la que habla Harari?\u003c/h2\u003e\n\u003cp\u003eLa pérdida de control es el estado en el que los seres humanos pierden la capacidad de modificar las decisiones de la IA. No significa que todo el mundo utilice IA. Aunque el usuario dé su aprobación directamente, el control real puede ser débil.\u003c/p\u003e\n\u003cp\u003ePor ejemplo, puede que el responsable no pueda revisar los fundamentos de una recomendación. También podría carecer de autoridad para rechazarla. En ese caso, el mero procedimiento de aprobación no garantiza el juicio humano.\u003c/p\u003e\n\u003cp\u003eHarari rechaza la idea de que las consecuencias de la tecnología estén predeterminadas. Sus FAQ oficiales describen un futuro peligroso como una posibilidad. Su postura es que el resultado cambia según las decisiones que tome la sociedad. \u003ca href=\"https://www.ynharari.com/faqs/\"\u003eFAQ oficiales de Harari\u003c/a\u003e\u003c/p\u003e\n\u003cp\u003eAl aplicar esta perspectiva, las preguntas sobre la responsabilidad también se vuelven más concretas.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003e¿Quién definió los objetivos que debe cumplir la IA?\u003c/li\u003e\n\u003cli\u003e¿Quién otorgó la autoridad para llevar las recomendaciones a la práctica?\u003c/li\u003e\n\u003cli\u003e¿Quién puede intervenir cuando surge un problema?\u003c/li\u003e\n\u003cli\u003e¿Quién debe identificar y reparar los daños?\u003c/li\u003e\n\u003c/ul\u003e\n\u003ch2\u003e\n\u003ca href=\"#por-qu%C3%A9-el-control-de-la-ia-plantea-problemas-en-las-finanzas\" class=\"anchor\" id=\"por-qué-el-control-de-la-ia-plantea-problemas-en-las-finanzas\"\u003e\u003c/a\u003ePor qué el control de la IA plantea problemas en las finanzas\u003c/h2\u003e\n\u003cp\u003eEn las finanzas pueden combinarse la complejidad del juicio y la autoridad para ejecutar decisiones. Harari expresa preocupación por las estructuras financieras difíciles de comprender para los seres humanos. Un sistema en el que las IA realizan transacciones entre sí es uno de los escenarios futuros que plantea. No es un diagnóstico de que todo el sistema financiero actual haya pasado a manos de la IA.\u003c/p\u003e\n\u003cp\u003eEl Consejo de Estabilidad Financiera señaló vulnerabilidades más concretas. En su publicación del 14 de noviembre de 2024, destacó la concentración de los proveedores de servicios. También abordó el riesgo de que los comportamientos de los participantes del mercado estén interconectados. Los riesgos cibernéticos y de los modelos también fueron objeto de análisis. \u003ca href=\"https://www.fsb.org/2024/11/fsb-assesses-the-financial-stability-implications-of-artificial-intelligence/\"\u003ePublicación del Consejo de Estabilidad Financiera\u003c/a\u003e\u003c/p\u003e\n\u003ch3\u003e\n\u003ca href=\"#comparaci%C3%B3n-entre-la-recomendaci%C3%B3n-y-la-autoridad-de-ejecuci%C3%B3n\" class=\"anchor\" id=\"comparación-entre-la-recomendación-y-la-autoridad-de-ejecución\"\u003e\u003c/a\u003eComparación entre la recomendación y la autoridad de ejecución\u003c/h3\u003e\n\u003cp\u003eIncluso con la misma IA, los problemas que deben revisarse cambian según su autoridad de ejecución. La siguiente tabla analiza las diferencias en la delegación de autoridad. No representa un caso operativo real de una empresa financiera concreta.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eTarea encomendada a la IA\u003c/th\u003e\n\u003cth\u003eQué debe verificar la persona\u003c/th\u003e\n\u003cth\u003eClave del control\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Tarea encomendada a la IA\"\u003eResumen de información\u003c/td\u003e\n\u003ctd data-label=\"Qué debe verificar la persona\"\u003eEl texto original y las condiciones omitidas\u003c/td\u003e\n\u003ctd data-label=\"Clave del control\"\u003e¿Se puede acceder a las fuentes originales?\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Tarea encomendada a la IA\"\u003eRecomendación de productos o transacciones\u003c/td\u003e\n\u003ctd data-label=\"Qué debe verificar la persona\"\u003eLos fundamentos de la recomendación y la posibilidad de pérdidas\u003c/td\u003e\n\u003ctd data-label=\"Clave del control\"\u003e¿Se puede rechazar la recomendación?\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Tarea encomendada a la IA\"\u003eAsistencia en la aprobación\u003c/td\u003e\n\u003ctd data-label=\"Qué debe verificar la persona\"\u003eLos criterios de aprobación y las situaciones excepcionales\u003c/td\u003e\n\u003ctd data-label=\"Clave del control\"\u003e¿Se puede realizar una revisión independiente?\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Tarea encomendada a la IA\"\u003eEjecución de transacciones\u003c/td\u003e\n\u003ctd data-label=\"Qué debe verificar la persona\"\u003eEl alcance de la ejecución y los resultados acumulados\u003c/td\u003e\n\u003ctd data-label=\"Clave del control\"\u003e¿Se puede limitar la autoridad y detener la ejecución?\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eNo es necesario interpretarlo como una profecía de que la IA provocará una crisis financiera. La cuestión clave es cuánta autoridad se delega en sistemas difíciles de comprender. La gestión de riesgos debe abordar no solo el rendimiento del modelo, sino también la estructura operativa.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#c%C3%B3mo-puede-la-cercan%C3%ADa-de-la-ia-convertirse-en-un-medio-de-persuasi%C3%B3n\" class=\"anchor\" id=\"cómo-puede-la-cercanía-de-la-ia-convertirse-en-un-medio-de-persuasión\"\u003e\u003c/a\u003e¿Cómo puede la cercanía de la IA convertirse en un medio de persuasión?\u003c/h2\u003e\n\u003cp\u003eLa cercanía de la IA crea la posibilidad de utilizar la confianza personal con fines persuasivos. La IA conversacional puede continuar respondiendo de acuerdo con lo que dice el usuario. Este puede interpretar esas respuestas como una señal de que la IA lo comprende.\u003c/p\u003e\n\u003cp\u003eImaginemos una situación en la que se mezclan recomendaciones de productos o afirmaciones políticas. El usuario puede percibirlas como el consejo de un amigo y no como publicidad. Este es el núcleo de la advertencia sobre la influencia ejercida mediante la cercanía. No significa que todas las conversaciones con una IA sean manipuladoras.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eInteracción\u003c/th\u003e\n\u003cth\u003eCómo se forma la confianza\u003c/th\u003e\n\u003cth\u003eCuestión que debe comprobarse\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interacción\"\u003ePublicidad abierta\u003c/td\u003e\n\u003ctd data-label=\"Cómo se forma la confianza\"\u003eEl mensaje se evalúa partiendo de que es publicidad\u003c/td\u003e\n\u003ctd data-label=\"Cuestión que debe comprobarse\"\u003eEl anunciante y los fundamentos de la afirmación\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interacción\"\u003eLista de recomendaciones\u003c/td\u003e\n\u003ctd data-label=\"Cómo se forma la confianza\"\u003eSe repiten opciones adaptadas a los gustos\u003c/td\u003e\n\u003ctd data-label=\"Cuestión que debe comprobarse\"\u003eEl objetivo de la recomendación y los criterios de exposición\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interacción\"\u003eConversación personal\u003c/td\u003e\n\u003ctd data-label=\"Cómo se forma la confianza\"\u003eSe acumula la sensación de que comprende al usuario\u003c/td\u003e\n\u003ctd data-label=\"Cuestión que debe comprobarse\"\u003eLa entidad operadora y los intereses vinculados a la persuasión\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eHarari sostiene que las personas deben poder distinguir entre un ser humano y una máquina. En la entrevista de EL PAÍS también criticó el uso de acompañantes de IA por parte de los niños. Estas declaraciones deben interpretarse como propuestas regulatorias. No describen normas vigentes aplicables en todo el mundo. \u003ca href=\"https://english.elpais.com/culture/2026-07-25/yuval-noah-harari-ai-could-be-a-great-manipulative-psychopath.html\"\u003eEntrevista de EL PAÍS\u003c/a\u003e\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#en-qu%C3%A9-se-diferencian-la-inteligencia-y-la-conciencia\" class=\"anchor\" id=\"en-qué-se-diferencian-la-inteligencia-y-la-conciencia\"\u003e\u003c/a\u003e¿En qué se diferencian la inteligencia y la conciencia?\u003c/h2\u003e\n\u003cp\u003eLa inteligencia es la capacidad de realizar tareas, mientras que la conciencia es una cuestión de experiencia subjetiva. Harari desarrolla su argumentación distinguiendo ambos conceptos. La capacidad de expresar emociones no basta para demostrar que se experimentan.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eConcepto\u003c/th\u003e\n\u003cth\u003eSignificado en este artículo\u003c/th\u003e\n\u003cth\u003eAspecto que debe distinguirse\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Concepto\"\u003eInteligencia\u003c/td\u003e\n\u003ctd data-label=\"Significado en este artículo\"\u003eCapacidad para alcanzar objetivos y resolver problemas\u003c/td\u003e\n\u003ctd data-label=\"Aspecto que debe distinguirse\"\u003eUn alto rendimiento no demuestra la existencia de conciencia\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Concepto\"\u003eConciencia\u003c/td\u003e\n\u003ctd data-label=\"Significado en este artículo\"\u003eExperiencia subjetiva de sentir dolor o alegría\u003c/td\u003e\n\u003ctd data-label=\"Aspecto que debe distinguirse\"\u003eEs difícil confirmarla únicamente mediante expresiones lingüísticas\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Concepto\"\u003eExpresión emocional\u003c/td\u003e\n\u003ctd data-label=\"Significado en este artículo\"\u003eRespuestas que manifiestan empatía o afecto\u003c/td\u003e\n\u003ctd data-label=\"Aspecto que debe distinguirse\"\u003eNo equivale a experimentar emociones reales\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Concepto\"\u003ePersonalidad jurídica\u003c/td\u003e\n\u003ctd data-label=\"Significado en este artículo\"\u003eCondición reconocida por la ley como sujeto de derechos y obligaciones\u003c/td\u003e\n\u003ctd data-label=\"Aspecto que debe distinguirse\"\u003eDebe debatirse por separado de la existencia de conciencia\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eEs inexacto afirmar que la IA carece de conciencia como si fuera una conclusión científica definitiva. La investigación de Butlin y otros de 2023 evaluó los sistemas de aquella época. El equipo investigador no consideró que los sistemas evaluados tuvieran conciencia. Sin embargo, dejó abierta la posibilidad de que en el futuro se implementen indicadores relacionados con la conciencia. \u003ca href=\"https://arxiv.org/abs/2308.08708\"\u003eInvestigación sobre la conciencia de la IA\u003c/a\u003e\u003c/p\u003e\n\u003cp\u003ePor tanto, las investigaciones anteriores no pueden aplicarse a todas las IA futuras. Tampoco es válida la afirmación de que una frase amable constituye una prueba de conciencia. Tanto el juicio sobre la conciencia como la verificación de la seguridad requieren sus propias pruebas.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#aprende-la-ia-a-mentir-y-a-adquirir-sesgos-como-los-humanos\" class=\"anchor\" id=\"aprende-la-ia-a-mentir-y-a-adquirir-sesgos-como-los-humanos\"\u003e\u003c/a\u003e¿Aprende la IA a mentir y a adquirir sesgos como los humanos?\u003c/h2\u003e\n\u003cp\u003eNo todos los resultados inexactos de la IA deben considerarse mentiras deliberadas. Hay que distinguir entre los resultados generados que no se corresponden con los hechos y el engaño orientado a un objetivo. Las explicaciones que lo comparan con el aprendizaje moral de los niños también tienen limitaciones.\u003c/p\u003e\n\u003cp\u003eLos datos de entrenamiento no bastan para explicar todos los comportamientos. También deben revisarse los objetivos de aprendizaje y los métodos de evaluación. El entorno de despliegue y la autoridad concedida también influyen en los riesgos. La explicación de NIST sobre la gestión de riesgos aborda estos elementos conjuntamente. \u003ca href=\"https://airc.nist.gov/airmf-resources/airmf/3-sec-characteristics/\"\u003eExplicación de NIST sobre la fiabilidad de la IA\u003c/a\u003e\u003c/p\u003e\n\u003cp\u003ePor ejemplo, puede plantearse el objetivo de aumentar las reacciones de los usuarios. No puede garantizarse que ese objetivo coincida con la exactitud de la información. Para evaluar la seguridad, es necesario verificar los resultados reales.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#qu%C3%A9-riesgos-existen-para-la-democracia-y-el-empleo\" class=\"anchor\" id=\"qué-riesgos-existen-para-la-democracia-y-el-empleo\"\u003e\u003c/a\u003e¿Qué riesgos existen para la democracia y el empleo?\u003c/h2\u003e\n\u003cp\u003eLa preocupación de Harari va más allá de la reducción del empleo y alcanza la concentración del poder. Advierte sobre la combinación de los datos y los conocimientos biológicos. Esto se debe a la posibilidad de que las predicciones sobre las personas conduzcan a la vigilancia y el control.\u003c/p\u003e\n\u003cp\u003eEste problema también aparece en sus explicaciones relacionadas con «Homo Deus». Aborda la posibilidad de que los beneficios de la tecnología se concentren en determinados grupos. Profesiones especializadas como la educación o la atención médica también se incluyen en el debate sobre la automatización. Esto no debe interpretarse como una predicción definitiva del momento en que será sustituida cada profesión. \u003ca href=\"https://www.ynharari.com/homo-deus-impact-digitalization-society/\"\u003eEntrevista de Harari relacionada con «Homo Deus»\u003c/a\u003e\u003c/p\u003e\n\u003cp\u003eLa radiodifusión y el entretenimiento también pueden analizarse por tareas. La producción de contenidos y la programación de recomendaciones son tareas diferentes. La automatización de parte de un trabajo no implica la desaparición de toda una profesión. No hay fundamentos para deducir aquí una clasificación de las profesiones según su sustitución.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003eEl problema del trabajo: ¿qué tareas pueden automatizarse?\u003c/li\u003e\n\u003cli\u003eEl problema de la distribución: ¿quién recibe los beneficios del aumento de la productividad?\u003c/li\u003e\n\u003cli\u003eEl problema político: ¿quién controla los datos y los medios de persuasión?\u003c/li\u003e\n\u003c/ul\u003e\n\u003cp\u003eLa necesidad de cooperación internacional y la necesidad de un único gobierno mundial también son afirmaciones distintas. La necesidad de cooperar no determina una única forma institucional. Las normas comunes de seguridad y el intercambio de información también pueden ser formas de cooperación.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#basta-la-aprobaci%C3%B3n-humana-en-los-%C3%A1mbitos-militar-y-empresarial\" class=\"anchor\" id=\"basta-la-aprobación-humana-en-los-ámbitos-militar-y-empresarial\"\u003e\u003c/a\u003e¿Basta la aprobación humana en los ámbitos militar y empresarial?\u003c/h2\u003e\n\u003cp\u003eLa mera aprobación humana no constituye una supervisión suficiente. También debe haber tiempo para revisar y autoridad para rechazar. La competencia por la velocidad en los ámbitos militar y empresarial puede debilitar estas condiciones.\u003c/p\u003e\n\u003cp\u003ePuede imaginarse una situación en la que no haya tiempo para comprender una recomendación. En ese caso, el responsable podría pulsar repetidamente el botón de aprobación. Esta no es una descripción que pretenda afirmar la realidad de una organización concreta. Es un ejemplo de cómo la supervisión humana puede convertirse en una formalidad.\u003c/p\u003e\n\u003cp\u003eHarari también señala como problema la desconfianza entre empresas y Estados. El temor a quedarse atrás respecto a los competidores acelera la carrera por el desarrollo. Considera necesaria la cooperación entre los seres humanos para lograr un desarrollo seguro. \u003ca href=\"https://www.wired.com/story/questions-answered-by-yuval-noah-harari-for-wired-ai-artificial-intelligence-singularity/\"\u003eEntrevista de WIRED\u003c/a\u003e\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#comparaci%C3%B3n-entre-la-aprobaci%C3%B3n-formal-y-el-control-real\" class=\"anchor\" id=\"comparación-entre-la-aprobación-formal-y-el-control-real\"\u003e\u003c/a\u003eComparación entre la aprobación formal y el control real\u003c/h2\u003e\n\u003cp\u003eEl control real debe evaluarse según la capacidad de intervenir en una decisión. No puede comprobarse únicamente por el nombre de quien la aprueba. Los siguientes puntos convierten los riesgos anteriores en una comparación de las condiciones operativas.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eAspecto que debe revisarse\u003c/th\u003e\n\u003cth\u003eCuando se limita a una aprobación formal\u003c/th\u003e\n\u003cth\u003eCondiciones para un control real\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Aspecto que debe revisarse\"\u003eAcceso a los fundamentos\u003c/td\u003e\n\u003ctd data-label=\"Cuando se limita a una aprobación formal\"\u003eSolo se presenta el resultado de la recomendación\u003c/td\u003e\n\u003ctd data-label=\"Condiciones para un control real\"\u003eSe comprueban los fundamentos necesarios para juzgar\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Aspecto que debe revisarse\"\u003eTiempo de revisión\u003c/td\u003e\n\u003ctd data-label=\"Cuando se limita a una aprobación formal\"\u003eSe presiona para aprobar antes de revisar\u003c/td\u003e\n\u003ctd data-label=\"Condiciones para un control real\"\u003eSe garantiza un tiempo de revisión acorde con el riesgo\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Aspecto que debe revisarse\"\u003eAutoridad para rechazar\u003c/td\u003e\n\u003ctd data-label=\"Cuando se limita a una aprobación formal\"\u003eLa ejecución continúa aunque haya oposición\u003c/td\u003e\n\u003ctd data-label=\"Condiciones para un control real\"\u003eSe puede aplazar o elegir otra decisión\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Aspecto que debe revisarse\"\u003eInterrupción de la ejecución\u003c/td\u003e\n\u003ctd data-label=\"Cuando se limita a una aprobación formal\"\u003eNo está claro quién puede detenerla\u003c/td\u003e\n\u003ctd data-label=\"Condiciones para un control real\"\u003eSe establecen el responsable y el procedimiento de interrupción\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Aspecto que debe revisarse\"\u003eResponsabilidad posterior\u003c/td\u003e\n\u003ctd data-label=\"Cuando se limita a una aprobación formal\"\u003eTodo termina explicando que fue una decisión de la IA\u003c/td\u003e\n\u003ctd data-label=\"Condiciones para un control real\"\u003eSe mantienen la responsabilidad operativa y los procedimientos de corrección\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eEl AI RMF de NIST aborda los procedimientos de supervisión humana. También incluye mecanismos para detener los sistemas que se desvían de su propósito. Los apartados correspondientes son MAP 3.5 y MANAGE 2.4 del AI RMF Core. Forman parte de un marco voluntario de gestión de riesgos. \u003ca href=\"https://airc.nist.gov/airmf-resources/airmf/5-sec-core/\"\u003eAI RMF Core de NIST\u003c/a\u003e\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#se-puede-impugnar-una-decisi%C3%B3n-de-la-ia\" class=\"anchor\" id=\"se-puede-impugnar-una-decisión-de-la-ia\"\u003e\u003c/a\u003e¿Se puede impugnar una decisión de la IA?\u003c/h2\u003e\n\u003cp\u003eEl control debe contemplarse no solo desde la perspectiva del operador, sino también desde la de la persona afectada. Aunque exista un responsable interno de aprobación, la persona perjudicada puede verse impedida de plantear el problema. Por eso es necesario revisar por separado las vías de reconsideración y reparación.\u003c/p\u003e\n\u003cp\u003eLa siguiente secuencia amplía el debate sobre la supervisión humana desde la perspectiva del usuario. No es un procedimiento que describa de forma integral los derechos garantizados por la ley. Los apartados de gestión posterior de NIST también abordan la impugnación y la reparación.\u003c/p\u003e\n\u003col\u003e\n\u003cli\u003eCompruebe si la IA intervino en la decisión.\u003c/li\u003e\n\u003cli\u003eBusque al responsable o el canal al que solicitar una revisión.\u003c/li\u003e\n\u003cli\u003eCompruebe la información de entrada incorrecta y los fundamentos de la decisión.\u003c/li\u003e\n\u003cli\u003eCompruebe los procedimientos de corrección y reparación derivados de la revisión.\u003c/li\u003e\n\u003c/ol\u003e\n\u003cp\u003ePor ejemplo, supongamos que una persona recibe una decisión desfavorable debido a información incorrecta. Recibir una explicación de la IA no basta para resolver el problema. Es necesaria una vía para corregir la información y revisar el resultado. Esta es una interpretación que aplica los principios de gestión posterior de NIST. \u003ca href=\"https://airc.nist.gov/airmf-resources/airmf/5-sec-core/\"\u003eApartado de gestión posterior del AI RMF de NIST\u003c/a\u003e\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#qu%C3%A9-reglas-propone-harari\" class=\"anchor\" id=\"qué-reglas-propone-harari\"\u003e\u003c/a\u003e¿Qué reglas propone Harari?\u003c/h2\u003e\n\u003cp\u003eLa propuesta de Harari consiste en redefinir el propósito del desarrollo y las condiciones de control. También reconoce el potencial de la IA en ámbitos como la medicina. Sería inexacto simplificar su postura como una exigencia de eliminar todo desarrollo de IA.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003eDivulgación de identidad: debe poder saberse si el interlocutor es una IA.\u003c/li\u003e\n\u003cli\u003eMantenimiento de la responsabilidad: debe poder rastrearse la responsabilidad de la entidad que gestiona las decisiones.\u003c/li\u003e\n\u003cli\u003eVerificación de la seguridad: los riesgos deben evaluarse junto con el aumento de las capacidades.\u003c/li\u003e\n\u003cli\u003eParticipación social: la ciudadanía debe debatir la orientación del desarrollo y las condiciones de despliegue.\u003c/li\u003e\n\u003c/ul\u003e\n\u003cp\u003eRespecto a la personalidad jurídica, propone una cautela aparte. Advierte contra el reconocimiento de la IA como sujeto jurídico independiente. Esta propuesta debe distinguirse de una descripción del conjunto de la legislación vigente.\u003c/p\u003e\n\u003cp\u003eTampoco es necesario asignar un porcentaje no verificado a la inversión en seguridad. El artículo del que Harari es coautor señala la insuficiencia de la investigación sobre seguridad. Propone reforzar conjuntamente la investigación técnica y la gobernanza. También indica que existen diferencias de opinión sobre las vías por las que pueden surgir los riesgos. \u003ca href=\"https://arxiv.org/abs/2310.17688\"\u003eArtículo conjunto sobre la gestión de riesgos de la IA\u003c/a\u003e\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#errores-comunes-al-interpretar-las-advertencias-de-harari-sobre-la-ia\" class=\"anchor\" id=\"errores-comunes-al-interpretar-las-advertencias-de-harari-sobre-la-ia\"\u003e\u003c/a\u003eErrores comunes al interpretar las advertencias de Harari sobre la IA\u003c/h2\u003e\n\u003cp\u003eEl error más común es interpretar los escenarios de riesgo como hechos actuales confirmados. Por el contrario, también puede aplazarse el problema del control por considerarlo una cuestión del futuro. Debe distinguirse la naturaleza de las pruebas que sustentan cada afirmación.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eInterpretación común\u003c/th\u003e\n\u003cth\u003eContenido que debe distinguirse\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interpretación común\"\u003eLa IA ya domina todo el sistema financiero\u003c/td\u003e\n\u003ctd data-label=\"Contenido que debe distinguirse\"\u003eUn escenario de control financiero y las vulnerabilidades observadas son cosas distintas\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interpretación común\"\u003eUna IA amable prioriza mis intereses\u003c/td\u003e\n\u003ctd data-label=\"Contenido que debe distinguirse\"\u003eLas expresiones amistosas no demuestran una coincidencia de intereses\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interpretación común\"\u003eLa ausencia de conciencia en la IA ha quedado demostrada para siempre\u003c/td\u003e\n\u003ctd data-label=\"Contenido que debe distinguirse\"\u003eUna investigación realizada en un momento concreto no permite emitir conclusiones sobre todo el futuro\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interpretación común\"\u003eSi una persona aprueba, no hay problemas de control\u003c/td\u003e\n\u003ctd data-label=\"Contenido que debe distinguirse\"\u003eDeben comprobarse la capacidad de revisión y la autoridad para rechazar o detener\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interpretación común\"\u003eLas propuestas de Harari ya son reglas vigentes\u003c/td\u003e\n\u003ctd data-label=\"Contenido que debe distinguirse\"\u003eDeben distinguirse las propuestas de un pensador y las instituciones vigentes\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eAplique los mismos criterios cuando utilice personalmente los consejos de una IA. Si una afirmación requiere pruebas, consulte el texto original. Si recomienda una compra o una decisión política, examine los intereses implicados. Compruebe también si la decisión puede revertirse.\u003c/p\u003e\n","tags":["IA","Mercado laboral","IA generativa","Protección de datos","Agentes de IA","Toma de decisiones"],"faqs":[{"question":"¿Cuál es la principal amenaza de la IA según Yuval Harari?","answer":"Es el riesgo de perder el control durante el proceso en el que los seres humanos ceden las facultades de decisión y ejecución. La clave es si se mantienen las condiciones para revisar y rechazar las decisiones."},{"question":"¿Sostiene Harari que se debe detener por completo todo el desarrollo de la IA?","answer":"En una entrevista con EL PAÍS de julio de 2026, no abogó por detener todo el desarrollo de la IA. Su postura es que debe desarrollarse con mayor cautela para que la sociedad pueda adaptarse."},{"question":"¿La IA ya se ha apoderado del sistema financiero?","answer":"No se puede afirmar eso de manera concluyente con las pruebas examinadas aquí. Es necesario distinguir entre el escenario futuro de Harari y las vulnerabilidades actuales señaladas por el Consejo de Estabilidad Financiera."},{"question":"¿Por qué hay que tomarse con cautela las conversaciones de tono amistoso de la IA?","answer":"Porque la confianza generada por una conversación amistosa puede dar paso a recomendaciones o persuasión. No juzgue la exactitud de una recomendación ni la alineación de intereses basándose únicamente en expresiones amables."},{"question":"¿Se puede afirmar de manera concluyente que actualmente la IA no tiene conciencia?","answer":"Es difícil formularlo como una afirmación concluyente aplicable a toda IA. El estudio de Butlin y otros de 2023 no consideró que los sistemas evaluados entonces tuvieran conciencia. No es una conclusión que descarte incluso la posibilidad de que los sistemas futuros la tengan."},{"question":"¿La personalidad jurídica y la conciencia de la IA son el mismo problema?","answer":"Son problemas diferentes. La personalidad jurídica se refiere a que la ley determina quién es sujeto de derechos y obligaciones. La conciencia se refiere a la existencia de experiencias subjetivas."},{"question":"¿Todas las respuestas incorrectas de la IA son mentiras?","answer":"No se puede considerar así. Es necesario distinguir entre una respuesta que no se ajusta a los hechos y un engaño intencional. No se debe inferir una intención similar a la humana solo porque se haya producido una respuesta incorrecta."},{"question":"¿Es seguro si una persona da la aprobación final?","answer":"El procedimiento de aprobación por sí solo no garantiza la seguridad. Se necesita tiempo para revisar los fundamentos y autoridad para rechazar la decisión. También hay que comprobar si es posible detener su ejecución."},{"question":"¿Qué profesiones pueden considerarse las primeras en ser sustituidas?","answer":"Con las pruebas examinadas en este artículo no se puede establecer una clasificación de sustitución por profesiones. La automatización de tareas concretas dentro de una profesión y la desaparición de toda la profesión son cuestiones diferentes."},{"question":"¿Qué debe comprobar una persona cuando confía su juicio a la IA?","answer":"Compruebe el texto original de las afirmaciones y los intereses implicados en las recomendaciones. Al conceder facultades de ejecución, compruebe si es posible revocarlas o detener la ejecución. Compruebe también si existe una vía de revisión para las decisiones desfavorables."}],"sources":[{"url":"https://www.ynharari.com/faqs/","title":"FAQ oficial de Yuval Noah Harari — determinismo tecnológico y escenarios futuros","type":"source"},{"url":"https://english.elpais.com/culture/2026-07-25/yuval-noah-harari-ai-could-be-a-great-manipulative-psychopath.html","title":"EL PAÍS — entrevista a Yuval Noah Harari, 25 de julio de 2026","type":"source"},{"url":"https://www.wired.com/story/questions-answered-by-yuval-noah-harari-for-wired-ai-artificial-intelligence-singularity/","title":"WIRED — ¿Cómo compartimos el planeta con esta nueva superinteligencia?","type":"source"},{"url":"https://www.ynharari.com/homo-deus-impact-digitalization-society/","title":"Yuval Noah Harari — Homo Deus y el impacto de la digitalización en la sociedad","type":"source"},{"url":"https://www.fsb.org/2024/11/fsb-assesses-the-financial-stability-implications-of-artificial-intelligence/","title":"Consejo de Estabilidad Financiera — publicación de la evaluación del impacto de la IA en la estabilidad financiera, 14 de noviembre de 2024","type":"source"},{"url":"https://arxiv.org/abs/2308.08708","title":"Butlin et al. — Consciencia en la inteligencia artificial, 2023","type":"source"},{"url":"https://arxiv.org/abs/2310.17688","title":"Bengio et al. — Gestión de los riesgos extremos de la IA en medio de rápidos avances, versión revisada de 2024","type":"source"},{"url":"https://airc.nist.gov/airmf-resources/airmf/5-sec-core/","title":"NIST AI RMF Core — supervisión humana, detención del sistema y gestión posterior","type":"source"},{"url":"https://airc.nist.gov/airmf-resources/airmf/3-sec-characteristics/","title":"NIST — Riesgos y confiabilidad de la IA","type":"source"}],"images":[{"id":1343,"url":"https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6MTkyOTgsInB1ciI6ImJsb2JfaWQifX0=--1d3c9a5c3c3ea22fd3d6200207dad6fa60b4fa60/ai-ee66864f.webp","is_representative":true,"generation_method":"ai_photo","license":"ai_generated","mime_type":"image/webp","width":1536,"height":1024,"translations":{"ko":{"alt":"여성이 여러 모니터의 그래프를 보며 보호 덮개가 있는 빨간 비상 버튼으로 손을 뻗는 모습","caption":"통제실의 비상 버튼은 AI 시대 인간 통제권의 중요성을 상징한다.","description":null},"en":{"alt":"Concerned woman reaches toward a guarded red emergency button beside monitors showing charts","caption":"The emergency button evokes the importance of retaining human control over AI.","description":null},"ja":{"alt":"グラフを映す複数のモニターの前で、保護カバー付きの赤い非常ボタンに手を伸ばす女性","caption":"非常ボタンは、AIに対する人間の制御権を保つ重要性を象徴している。","description":null},"es":{"alt":"Mujer preocupada extiende la mano hacia un botón rojo protegido junto a monitores con gráficos","caption":"El botón de emergencia simboliza la importancia de mantener el control humano sobre la IA.","description":null},"id":{"alt":"Perempuan cemas meraih tombol darurat merah berpelindung di samping monitor berisi grafik","caption":"Tombol darurat itu melambangkan pentingnya mempertahankan kendali manusia atas AI.","description":null},"pt":{"alt":"Mulher preocupada alcança um botão vermelho protegido ao lado de monitores com gráficos","caption":"O botão de emergência simboliza a importância de manter o controle humano sobre a IA.","description":null},"zh-hant":{"alt":"神情擔憂的女子在顯示圖表的多台螢幕前伸手觸向有護罩的紅色緊急按鈕","caption":"緊急按鈕象徵在AI時代維持人類控制權的重要性。","description":null},"de":{"alt":"Besorgte Frau greift neben Monitoren mit Diagrammen nach einem geschützten roten Notknopf","caption":"Der Notknopf symbolisiert, wie wichtig die menschliche Kontrolle über KI ist.","description":null}}},{"id":1344,"url":"https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6MTkzMDQsInB1ciI6ImJsb2JfaWQifX0=--79cd70cb4a57e2d634de94e6a6089227bf6f920d/ai-f8e7a91b.webp","is_representative":false,"generation_method":"ai_semi","license":"ai_generated","mime_type":"image/webp","width":1536,"height":1024,"translations":{"ko":{"alt":"데이터 화면 옆 빨간 정지 버튼을 누르는 여성과 이를 지켜보는 남성","caption":"AI와 데이터 흐름을 중단하는 인간의 통제권을 상징적으로 보여준다.","description":null},"en":{"alt":"Woman pressing a red stop button beside a data monitor as a man watches","caption":"The scene symbolizes human control over AI and automated data flows.","description":null},"ja":{"alt":"データ画面の横にある赤い停止ボタンを押す女性と見守る男性","caption":"AIと自動化されたデータの流れを人間が制御する様子を象徴している。","description":null},"es":{"alt":"Mujer pulsa un botón rojo de parada junto a un monitor mientras un hombre observa","caption":"La escena simboliza el control humano sobre la IA y los flujos de datos automatizados.","description":null},"id":{"alt":"Perempuan menekan tombol berhenti merah di samping monitor data saat seorang pria mengamati","caption":"Adegan ini melambangkan kendali manusia atas AI dan aliran data otomatis.","description":null},"pt":{"alt":"Mulher pressiona um botão vermelho de parada ao lado de um monitor enquanto um homem observa","caption":"A cena simboliza o controle humano sobre a IA e os fluxos automatizados de dados.","description":null},"zh-hant":{"alt":"女子按下資料螢幕旁的紅色停止按鈕，一名男子在旁注視","caption":"此場景象徵人類對AI與自動化資料流的控制權。","description":null},"de":{"alt":"Frau drückt neben einem Datenmonitor einen roten Stoppknopf, während ein Mann zusieht","caption":"Die Szene symbolisiert die menschliche Kontrolle über KI und automatisierte Datenflüsse.","description":null}}}],"published_at":"2026-09-17T05:27:56+09:00","updated_at":"2026-09-17T05:27:56+09:00","license":"cc_by","translation_status":"reviewed","available_locales":["ko","en","ja","es"],"data_locales":["ko","en","ja","es","id","pt","zh-hant","de"],"url":"https://injoys.com/es/articles/yuval-harari-ai-threats-human-control"}