---
title: "Yuval Harari: KI-Gefahren und menschliche Kontrolle"
locale: de
category: ai_data
category_name: "KI-Daten"
translation_status: reviewed
license: cc_by
author: "injoys"
source_url: https://injoys.com/en/articles/yuval-harari-ai-threats-human-control
published_at: 2026-09-17T05:27:56+09:00
---

# Yuval Harari: KI-Gefahren und menschliche Kontrolle

> Yuval Hararis Warnung vor KI konzentriert sich auf die Gefahr, dass Menschen aus Bequemlichkeit ihre Entscheidungsbefugnis abgeben. Sie erläutert Fragen zu Finanzen und Nähe, unterscheidet Zukunftsszenarien von Forschungsergebnissen und nennt praktische Kriterien für wirksame Kontrolle.

## Key Points

- Harari warnt, dass die menschliche Kontrolle geschwächt werden kann, wenn Menschen ihre Entscheidungsbefugnis an KI abgeben.
- Die freundliche Ausdrucksweise einer KI beweist weder Gefühle noch die Verlässlichkeit ihrer Empfehlungen.
- Die Prognose, dass KI die Finanzwelt beherrschen wird, muss von bereits bestätigten Tatsachen unterschieden werden.
- Menschliche Aufsicht erfordert Bedingungen, unter denen Belege geprüft, Entscheidungen abgelehnt und Ausführungen gestoppt werden können.
- Hararis Regulierungsvorschläge müssen getrennt von geltendem Recht und gesicherten wissenschaftlichen Erkenntnissen betrachtet werden.

Die zentrale Bedrohung durch AI, vor der Yuval Harari warnt, ist der Verlust menschlicher Kontrolle. Er kann entstehen, wenn Menschen Entscheidungen aus Bequemlichkeit delegieren. Finanztransaktionen und persönliche Überzeugungsarbeit sind typische Risikowege. Entscheidend für den Umgang damit ist, ob Menschen eine Entscheidung verstehen und ablehnen können.

Der Kontext seiner Aussagen lässt sich in Hararis offiziellen FAQ und in einem Interview mit EL PAÍS vom 25. Juli 2026 nachvollziehen.

## Was versteht Harari unter Kontrollverlust?

Kontrollverlust bezeichnet einen Zustand, in dem Menschen die Fähigkeit verlieren, Entscheidungen von AI zu korrigieren. Das bedeutet nicht, dass alle Menschen AI nutzen. Selbst wenn Nutzer eine Entscheidung persönlich genehmigen, kann die tatsächliche Kontrolle gering sein.

Beispielsweise kann ein Verantwortlicher die Grundlage einer Empfehlung möglicherweise nicht prüfen. Vielleicht besitzt er auch nicht die Befugnis, sie abzulehnen. In diesem Fall gewährleistet ein bloßes Genehmigungsverfahren noch keine menschliche Urteilsfähigkeit.

Harari lehnt die Ansicht ab, die Folgen der Technologie seien im Voraus festgelegt. Seine offiziellen FAQ beschreiben eine gefährliche Zukunft als Möglichkeit. Er vertritt den Standpunkt, dass das Ergebnis davon abhängt, welche Entscheidungen die Gesellschaft trifft. [Hararis offizielle FAQ](https://www.ynharari.com/faqs/)

Wendet man diese Perspektive an, werden auch die Fragen nach der Verantwortung konkreter.

- Wer hat das Ziel festgelegt, das AI verfolgen soll?
- Wer hat die Befugnis erteilt, Empfehlungen in die Tat umzusetzen?
- Wer kann eingreifen, wenn ein Problem auftritt?
- Wer ist dafür zuständig, Schäden festzustellen und zu beheben?

## Warum ist die Kontrolle von AI im Finanzwesen problematisch?

Im Finanzwesen können die Komplexität von Entscheidungen und die Befugnis zu ihrer Ausführung zusammenkommen. Harari äußert Sorge über Finanzstrukturen, die für Menschen schwer verständlich sind. Ein System, in dem AI-Systeme untereinander handeln, ist ein von ihm beschriebenes Zukunftsszenario. Es handelt sich nicht um die Feststellung, dass AI bereits das gesamte heutige Finanzwesen übernommen habe.

Der Finanzstabilitätsrat hat konkretere Schwachstellen benannt. In seiner Mitteilung vom 14. November 2024 wies er auf die Konzentration von Dienstleistern hin. Auch das Risiko miteinander gekoppelter Verhaltensweisen von Marktteilnehmern wurde behandelt. Cyberrisiken und Modellrisiken gehörten ebenfalls zu den untersuchten Punkten. [Mitteilung des Finanzstabilitätsrats](https://www.fsb.org/2024/11/fsb-assesses-the-financial-stability-implications-of-artificial-intelligence/)

### Vergleich zwischen Empfehlungen und Ausführungsbefugnissen

Auch bei derselben AI unterscheiden sich die zu prüfenden Fragen je nach Ausführungsbefugnis. Die folgende Tabelle analysiert die Unterschiede bei der Übertragung von Befugnissen. Sie beschreibt keine tatsächliche Praxis eines bestimmten Finanzunternehmens.

| An AI delegierte Aufgabe | Was Menschen prüfen müssen | Kern der Kontrolle |
|---|---|---|
| Zusammenfassung von Informationen | Originaltext und ausgelassene Bedingungen | Besteht Zugang zu den Ausgangsdaten? |
| Empfehlung von Produkten oder Transaktionen | Grundlage der Empfehlung und mögliche Verluste | Kann die Empfehlung abgelehnt werden? |
| Unterstützung bei Genehmigungen | Genehmigungskriterien und Ausnahmesituationen | Ist eine unabhängige erneute Prüfung möglich? |
| Ausführung von Transaktionen | Umfang der Ausführung und kumulierte Ergebnisse | Lassen sich Befugnisse begrenzen und Vorgänge stoppen? |

Dies muss nicht als Prophezeiung gelesen werden, dass AI eine Finanzkrise verursachen werde. Entscheidend ist, wie viele Befugnisse schwer verständlichen Systemen übertragen werden. Das Risikomanagement muss sich nicht nur mit der Leistung des Modells, sondern auch mit der Betriebsstruktur befassen.

## Wie wird die Vertrautheit von AI zu einem Mittel der Überzeugung?

Die Vertrautheit von AI schafft die Möglichkeit, persönliches Vertrauen zur Überzeugung einzusetzen. Dialogorientierte AI kann ihre Antworten an die Aussagen des Nutzers anpassen und das Gespräch fortführen. Nutzer können diese Reaktion als Zeichen dafür verstehen, dass die AI sie versteht.

Nehmen wir eine Situation an, in der sich damit Produktempfehlungen oder politische Aussagen vermischen. Nutzer könnten dies eher als Rat eines Freundes denn als Werbung auffassen. Darin liegt der Kern der Warnung vor Einflussnahme durch Vertrautheit. Das bedeutet nicht, dass jedes Gespräch mit AI eine Manipulation ist.

| Interaktion | Weg der Vertrauensbildung | Zu prüfende Frage |
|---|---|---|
| Öffentliche Werbung | Die Botschaft wird unter der Voraussetzung bewertet, dass es sich um Werbung handelt | Werbetreibender und Grundlage der Behauptung |
| Empfehlungsliste | Zur eigenen Vorliebe passende Optionen werden wiederholt angezeigt | Zweck der Empfehlung und Kriterien für die Anzeige |
| Persönliches Gespräch | Das Gefühl, verstanden zu werden, wächst | Betreiber und Interessen hinter der Überzeugungsarbeit |

Harari argumentiert, dass Menschen zwischen Mensch und Maschine unterscheiden können müssen. Im Interview mit EL PAÍS kritisierte er auch die Nutzung von AI-Begleitern durch Kinder. Solche Äußerungen sind als seine Regulierungsvorschläge zu verstehen. Sie beschreiben keine derzeit weltweit geltenden Regeln. [Interview mit EL PAÍS](https://english.elpais.com/culture/2026-07-25/yuval-noah-harari-ai-could-be-a-great-manipulative-psychopath.html)

## Wie unterscheiden sich Intelligenz und Bewusstsein?

Intelligenz ist die Fähigkeit, Aufgaben auszuführen, während Bewusstsein eine Frage subjektiver Erfahrung ist. Harari unterscheidet diese beiden Begriffe in seiner Argumentation. Allein die Fähigkeit, Gefühle auszudrücken, kann das Erleben von Gefühlen nicht belegen.

| Begriff | Bedeutung in diesem Text | Notwendige Abgrenzung |
|---|---|---|
| Intelligenz | Fähigkeit, Ziele zu erreichen und Probleme zu lösen | Hohe Leistungsfähigkeit beweist kein Bewusstsein |
| Bewusstsein | Subjektive Erfahrung von Schmerz oder Freude | Lässt sich allein anhand sprachlicher Äußerungen schwer feststellen |
| Gefühlsausdruck | Ausgabe, die Empathie oder Zuneigung ausdrückt | Ist nicht mit tatsächlichem emotionalem Erleben identisch |
| Rechtspersönlichkeit | Ein von der Rechtsordnung anerkannter Status als Träger von Rechten und Pflichten | Muss unabhängig von der Existenz eines Bewusstseins erörtert werden |

Es wäre ungenau, die Aussage, AI habe kein Bewusstsein, als endgültig feststehende wissenschaftliche Schlussfolgerung darzustellen. Eine Studie von Butlin et al. aus dem Jahr 2023 bewertete die damaligen Systeme. Die Forschenden gingen nicht davon aus, dass die untersuchten Systeme ein Bewusstsein besaßen. Sie ließen jedoch die Möglichkeit offen, dass Indikatoren für Bewusstsein künftig umgesetzt werden könnten. [Studie zum Bewusstsein von AI](https://arxiv.org/abs/2308.08708)

Daher lassen sich frühere Studien nicht auf jede künftige AI übertragen. Ebenso wenig ist die Behauptung haltbar, freundliche Formulierungen seien ein Beweis für Bewusstsein. Sowohl die Beurteilung des Bewusstseins als auch die Sicherheitsprüfung benötigen jeweils eigene Belege.

## Lernt AI Lügen und Vorurteile wie ein Mensch?

Nicht jede ungenaue Ausgabe von AI sollte als absichtliche Lüge angesehen werden. Faktisch falsche generierte Ergebnisse müssen von zielgerichteter Täuschung unterschieden werden. Auch Vergleiche mit dem moralischen Lernen menschlicher Kinder haben Grenzen.

Nicht jedes Verhalten lässt sich allein mit den Trainingsdaten erklären. Auch Trainingsziele und Bewertungsmethoden müssen geprüft werden. Die Einsatzumgebung und die erteilten Befugnisse beeinflussen das Risiko ebenfalls. Die Erläuterungen von NIST zum Risikomanagement behandeln diese Faktoren gemeinsam. [NIST-Erläuterung zur Vertrauenswürdigkeit von AI](https://airc.nist.gov/airmf-resources/airmf/3-sec-characteristics/)

Als Beispiel kann man sich das Ziel vorstellen, die Reaktionen der Nutzer zu steigern. Es ist nicht gewährleistet, dass dieses Ziel mit der Richtigkeit von Informationen übereinstimmt. Um die Sicherheit zu beurteilen, müssen die tatsächlichen Ergebnisse überprüft werden.

## Welche Risiken bestehen für Demokratie und Arbeitsplätze?

Hararis Sorge reicht über den Verlust von Arbeitsplätzen hinaus bis zur Konzentration von Macht. Er warnt vor einer Verbindung von Daten und biologischem Wissen. Der Grund ist die Möglichkeit, dass Vorhersagen über Einzelpersonen zu Überwachung und Kontrolle führen.

Dieses Problem erscheint auch in seinen Erläuterungen zu 『Homo Deus』. Darin behandelt er die Möglichkeit, dass sich die Vorteile der Technologie auf bestimmte Gruppen konzentrieren. Auch qualifizierte Berufe in Bereichen wie Bildung oder Medizin werden in die Automatisierungsdebatte einbezogen. Dies darf nicht als sichere Vorhersage des Ersetzungszeitpunkts einzelner Berufe verstanden werden. [Hararis Interview zu 『Homo Deus』](https://www.ynharari.com/homo-deus-impact-digitalization-society/)

Auch Rundfunk und Unterhaltung lassen sich nach einzelnen Aufgaben betrachten. Die Erstellung von Inhalten und die empfehlungsbasierte Programmplanung sind unterschiedliche Tätigkeiten. Die Automatisierung eines Teils der Aufgaben bedeutet nicht das Verschwinden des gesamten Berufs. Daraus lässt sich keine Rangfolge für die Ersetzung bestimmter Berufe ableiten.

- Frage der Arbeit: Welche Aufgaben lassen sich automatisieren?
- Frage der Verteilung: Wem kommen die Gewinne aus der Produktivitätssteigerung zugute?
- Politische Frage: Wer kontrolliert Daten und Mittel der Überzeugung?

Auch die Notwendigkeit internationaler Zusammenarbeit und die Notwendigkeit einer einzigen Weltregierung sind unterschiedliche Behauptungen. Aus der Notwendigkeit von Zusammenarbeit folgt nicht, dass nur eine institutionelle Form infrage kommt. Gemeinsame Sicherheitsstandards und der Austausch von Informationen können ebenfalls Formen der Zusammenarbeit sein.

## Reicht menschliche Genehmigung im Militär und im Management aus?

Menschliche Genehmigung allein stellt noch keine ausreichende Aufsicht dar. Dafür müssen zugleich Zeit zur Prüfung und die Befugnis zur Ablehnung vorhanden sein. Der Geschwindigkeitswettbewerb im Militär und im Management kann diese Bedingungen schwächen.

Man kann sich eine Situation vorstellen, in der keine Zeit bleibt, eine Empfehlung zu verstehen. In diesem Fall könnte der Verantwortliche wiederholt auf die Schaltfläche zur Genehmigung drücken. Dies ist keine Feststellung über die tatsächlichen Verhältnisse in einer bestimmten Organisation. Es ist ein Beispiel dafür, wie menschliche Aufsicht zu einer bloßen Formalität werden kann.

Harari weist auch auf das Misstrauen zwischen Unternehmen und Staaten als Problem hin. Die Sorge, hinter Wettbewerbern zurückzufallen, beschleunige den Entwicklungswettlauf. Seiner Ansicht nach ist für eine sichere Entwicklung die Zusammenarbeit zwischen Menschen erforderlich. [WIRED-Interview](https://www.wired.com/story/questions-answered-by-yuval-noah-harari-for-wired-ai-artificial-intelligence-singularity/)

## Vergleich zwischen formaler Genehmigung und tatsächlicher Kontrolle

Tatsächliche Kontrolle muss anhand der Fähigkeit beurteilt werden, in Entscheidungen einzugreifen. Allein der Name der genehmigenden Person reicht dafür nicht aus. Die folgenden Punkte übertragen die zuvor beschriebenen Risiken auf betriebliche Bedingungen.

| Prüfpunkt | Wenn es bei einer formalen Genehmigung bleibt | Bedingungen für tatsächliche Kontrolle |
|---|---|---|
| Zugang zu Grundlagen | Nur das Ergebnis der Empfehlung wird vorgelegt | Die für die Beurteilung erforderlichen Grundlagen werden geprüft |
| Prüfungszeit | Noch vor der Prüfung wird zur Genehmigung gedrängt | Eine dem Risiko angemessene Prüfungszeit wird gewährleistet |
| Ablehnungsbefugnis | Die Ausführung wird trotz Widerspruch fortgesetzt | Die Entscheidung kann ausgesetzt oder durch eine andere ersetzt werden |
| Stopp der Ausführung | Es ist unklar, wer den Vorgang stoppen kann | Verantwortliche und Verfahren für den Stopp sind festgelegt |
| Nachträgliche Verantwortung | Es bleibt bei der Erklärung, AI habe so entschieden | Betriebliche Verantwortung und Korrekturverfahren bleiben bestehen |

Das AI RMF von NIST behandelt Verfahren zur menschlichen Aufsicht. Dazu gehören auch Mechanismen zum Stoppen von Systemen, die von ihrem Zweck abweichen. Die entsprechenden Punkte sind MAP 3.5 und MANAGE 2.4 des AI RMF Core. Dies sind Bestandteile eines freiwilligen Rahmens für das Risikomanagement. [NIST AI RMF Core](https://airc.nist.gov/airmf-resources/airmf/5-sec-core/)

## Kann gegen Entscheidungen von AI Einspruch erhoben werden?

Kontrolle muss nicht nur aus Sicht der Betreiber, sondern auch aus Sicht der betroffenen Personen betrachtet werden. Selbst wenn es einen internen Genehmigenden gibt, kann es Geschädigten unmöglich sein, ein Problem vorzubringen. Deshalb müssen Wege zur erneuten Prüfung und Wiedergutmachung gesondert geprüft werden.

Die folgende Prüfreihenfolge erweitert die Diskussion über menschliche Aufsicht um die Perspektive der Nutzer. Sie ist kein Verfahren, das sämtliche gesetzlich garantierten Rechte beschreibt. Auch die NIST-Punkte zur Nachbereitung behandeln Einsprüche und Wiedergutmachung.

1. Prüfen Sie, ob AI an der Entscheidung beteiligt war.
2. Ermitteln Sie eine zuständige Person oder Anlaufstelle, bei der Sie eine erneute Prüfung beantragen können.
3. Prüfen Sie fehlerhafte Eingabedaten und die Grundlage der Entscheidung.
4. Prüfen Sie das Verfahren zur Korrektur und Wiedergutmachung nach der erneuten Prüfung.

Nehmen wir beispielsweise an, jemand habe aufgrund falscher Informationen eine nachteilige Entscheidung erhalten. Das Problem wird nicht allein dadurch gelöst, dass AI eine Erklärung liefert. Es muss einen Weg geben, die Informationen zu korrigieren und das Ergebnis erneut prüfen zu lassen. Dies ist eine Auslegung, die die NIST-Grundsätze zur Nachbereitung anwendet. [NIST-Punkte zur Nachbereitung im AI RMF](https://airc.nist.gov/airmf-resources/airmf/5-sec-core/)

## Welche Regeln schlägt Harari vor?

Hararis Vorschlag besteht darin, den Zweck der Entwicklung und die Bedingungen der Kontrolle neu festzulegen. Er erkennt auch das Potenzial von AI in Bereichen wie der Medizin an. Es wäre ungenau, seine Position auf die Forderung zu reduzieren, jede Entwicklung von AI abzuschaffen.

- Offenlegung der Identität: Es muss erkennbar sein, ob der Gesprächspartner eine AI ist.
- Fortbestehende Verantwortung: Die Verantwortung des Akteurs, der Entscheidungen betreibt, muss nachvollziehbar sein.
- Sicherheitsprüfung: Risiken müssen parallel zur Steigerung der Fähigkeiten bewertet werden.
- Gesellschaftliche Beteiligung: Bürger müssen über die Entwicklungsrichtung und die Einsatzbedingungen diskutieren können.

In Bezug auf die Rechtspersönlichkeit schlägt er einen gesonderten Vorbehalt vor. Er warnt davor, AI als eigenständiges Rechtssubjekt anzuerkennen. Dieser Vorschlag ist von einer Beschreibung des gesamten geltenden Rechts zu unterscheiden.

Auch Investitionen in Sicherheit müssen nicht mit einem unbelegten Prozentsatz versehen werden. Eine von Harari mitverfasste Abhandlung weist auf den Mangel an Sicherheitsforschung hin. Sie schlägt vor, technische Forschung und Governance gemeinsam zu stärken. Zugleich stellt sie klar, dass unterschiedliche Auffassungen über die Wege bestehen, auf denen Risiken entstehen. [Gemeinsame Abhandlung zum Risikomanagement von AI](https://arxiv.org/abs/2310.17688)

## Häufige Fehler beim Lesen von Hararis Warnungen vor AI

Der häufigste Fehler besteht darin, Risikoszenarien als bereits feststehende Tatsachen der Gegenwart zu lesen. Umgekehrt kann man Kontrollprobleme mit der Begründung aufschieben, es handle sich um Zukunftsthemen. Bei jeder Behauptung muss unterschieden werden, welche Art von Beleg ihr zugrunde liegt.

| Häufige Interpretation | Notwendige Unterscheidung |
|---|---|
| AI beherrscht bereits das gesamte Finanzwesen | Ein Szenario der Übernahme des Finanzwesens ist nicht dasselbe wie beobachtete Schwachstellen |
| Eine freundliche AI stellt meine Interessen an erste Stelle | Freundliche Ausdrucksweisen beweisen keine Übereinstimmung der Interessen |
| Das Fehlen eines Bewusstseins bei AI ist für immer bewiesen | Aus Forschung zu einem bestimmten Zeitpunkt lassen sich keine endgültigen Aussagen über die gesamte Zukunft ableiten |
| Wenn ein Mensch genehmigt, gibt es kein Kontrollproblem | Die Fähigkeit zur Prüfung sowie die Befugnis zur Ablehnung und zum Stoppen müssen geprüft werden |
| Hararis Vorschläge sind bereits geltende Regeln | Die Vorschläge eines Denkers müssen von geltenden Regelungen unterschieden werden |

Wenden Sie dieselben Maßstäbe auch an, wenn Sie persönlich Ratschläge von AI nutzen. Prüfen Sie bei Behauptungen, die Belege erfordern, den Originaltext. Wenn Ihnen ein Kauf oder eine politische Entscheidung empfohlen wird, prüfen Sie die dahinterstehenden Interessen. Prüfen Sie auch, ob sich die Entscheidung rückgängig machen lässt.

## FAQ

### Was ist laut Yuval Harari die zentrale Bedrohung durch KI?
Es besteht die Gefahr, dass Menschen die Kontrolle verlieren, während sie Entscheidungs- und Ausführungsbefugnisse übertragen. Entscheidend ist, ob weiterhin Bedingungen gegeben sind, unter denen Entscheidungen überprüft und abgelehnt werden können.

### Fordert Harari, jegliche Entwicklung von KI einzustellen?
In einem Interview mit EL PAÍS im Juli 2026 forderte er nicht, jegliche Entwicklung von KI einzustellen. Er vertritt die Position, dass die Entwicklung vorsichtiger erfolgen sollte, damit sich die Gesellschaft anpassen kann.

### Hat KI das Finanzsystem bereits unter ihre Kontrolle gebracht?
Auf Grundlage der hier geprüften Belege lässt sich das nicht mit Bestimmtheit sagen. Hararis Zukunftsszenarien sind von den gegenwärtigen Schwachstellen zu unterscheiden, auf die der Finanzstabilitätsrat hingewiesen hat.

### Warum sollte man freundlichen Gesprächen mit KI mit Vorsicht begegnen?
Weil das Vertrauen, das in freundlichen Gesprächen entsteht, in Empfehlungen oder Überzeugungsversuche münden kann. Beurteilen Sie die Richtigkeit einer Empfehlung oder die Übereinstimmung der Interessen nicht allein anhand freundlicher Formulierungen.

### Lässt sich mit Sicherheit feststellen, dass KI derzeit kein Bewusstsein hat?
Es lässt sich schwer als definitive Aussage formulieren, die für sämtliche KI gilt. Die Studie von Butlin et al. aus dem Jahr 2023 sah in den damals untersuchten Systemen kein Bewusstsein. Sie schließt jedoch nicht aus, dass künftige Systeme ein Bewusstsein haben könnten.

### Ist die Frage nach der Rechtspersönlichkeit von KI dieselbe wie die nach ihrem Bewusstsein?
Es sind unterschiedliche Fragen. Bei der Rechtspersönlichkeit geht es darum, wen das Recht als Träger von Rechten und Pflichten bestimmt. Beim Bewusstsein geht es um die Existenz subjektiven Erlebens.

### Sind alle falschen Antworten von KI Lügen?
So kann man es nicht betrachten. Sachlich falsche Ausgaben und vorsätzliche Täuschung sind voneinander zu unterscheiden. Aus der bloßen Tatsache, dass eine falsche Antwort erzeugt wurde, darf nicht auf eine menschenähnliche Absicht geschlossen werden.

### Ist es sicher, wenn ein Mensch die endgültige Freigabe erteilt?
Ein Freigabeverfahren allein garantiert keine Sicherheit. Es müssen genügend Zeit zur Prüfung der Entscheidungsgrundlage und die Befugnis vorhanden sein, eine Entscheidung abzulehnen. Außerdem muss geprüft werden, ob sich die Ausführung stoppen lässt.

### Bei welchen Berufen kann man davon ausgehen, dass sie zuerst ersetzt werden?
Mit den in diesem Text geprüften Belegen lässt sich keine Rangfolge dazu aufstellen, welche Berufe zuerst ersetzt werden. Die Automatisierung einzelner Tätigkeiten innerhalb eines Berufs und das Verschwinden des gesamten Berufs sind unterschiedliche Fragen.

### Was sollte man prüfen, wenn man KI Entscheidungen überlässt?
Prüfen Sie den Originalwortlaut einer Behauptung und die Interessen, die mit einer Empfehlung verbunden sind. Wenn Sie Ausführungsbefugnisse erteilen, prüfen Sie, ob ein Widerruf oder ein Abbruch möglich ist. Prüfen Sie auch, ob es bei nachteiligen Entscheidungen eine Stelle für eine erneute Prüfung gibt.

## Sources

- [Offizielle FAQ von Yuval Noah Harari — Technologiedeterminismus und Zukunftsszenarien](https://www.ynharari.com/faqs/)
- [EL PAÍS — Interview mit Yuval Noah Harari, 25. Juli 2026](https://english.elpais.com/culture/2026-07-25/yuval-noah-harari-ai-could-be-a-great-manipulative-psychopath.html)
- [WIRED — Wie teilen wir den Planeten mit dieser neuen Superintelligenz?](https://www.wired.com/story/questions-answered-by-yuval-noah-harari-for-wired-ai-artificial-intelligence-singularity/)
- [Yuval Noah Harari — Homo Deus und die Auswirkungen der Digitalisierung auf die Gesellschaft](https://www.ynharari.com/homo-deus-impact-digitalization-society/)
- [Finanzstabilitätsrat — Veröffentlichung der Bewertung der Auswirkungen von AI auf die Finanzstabilität, 14. November 2024](https://www.fsb.org/2024/11/fsb-assesses-the-financial-stability-implications-of-artificial-intelligence/)
- [Butlin et al. — Bewusstsein in künstlicher Intelligenz, 2023](https://arxiv.org/abs/2308.08708)
- [Bengio et al. — Umgang mit extremen AI-Risiken angesichts rascher Fortschritte, überarbeitete Fassung von 2024](https://arxiv.org/abs/2310.17688)
- [NIST AI RMF Core — menschliche Aufsicht, Systemabschaltung und Nachsorge](https://airc.nist.gov/airmf-resources/airmf/5-sec-core/)
- [NIST — AI-Risiken und Vertrauenswürdigkeit](https://airc.nist.gov/airmf-resources/airmf/3-sec-characteristics/)

## Images

![Besorgte Frau greift neben Monitoren mit Diagrammen nach einem geschützten roten Notknopf](https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6MTkyOTgsInB1ciI6ImJsb2JfaWQifX0=--1d3c9a5c3c3ea22fd3d6200207dad6fa60b4fa60/ai-ee66864f.webp)
![Frau drückt neben einem Datenmonitor einen roten Stoppknopf, während ein Mann zusieht](https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6MTkzMDQsInB1ciI6ImJsb2JfaWQifX0=--79cd70cb4a57e2d634de94e6a6089227bf6f920d/ai-f8e7a91b.webp)