{"content_id":"ltp31asme2","slug":"yuval-harari-ai-threats-human-control","locale":"id","schema_type":"Article","category":"ai_data","category_name":"Data AI","title":"Ancaman AI Menurut Yuval Harari dan Kendali Manusia","summary":"Peringatan Yuval Harari tentang AI berfokus pada bahaya ketika manusia menyerahkan hak pengambilan keputusan demi kemudahan. Ia menjelaskan persoalan keuangan dan keintiman, membedakan skenario masa depan dari hasil penelitian, serta menyajikan tolok ukur praktis untuk mempertahankan kendali.","sponsorship_disclosure":null,"affiliate_disclosure":null,"commerce_disclosure":null,"author":{"name":"injoys","url":"https://injoys.com/ko/about"},"key_points":["Harari memperingatkan bahwa kendali manusia dapat melemah dalam proses menyerahkan hak pengambilan keputusan kepada AI.","Ungkapan ramah AI tidak membuktikan adanya emosi ataupun keandalan rekomendasinya.","Prediksi bahwa AI akan menguasai keuangan harus dibedakan dari fakta yang telah terverifikasi.","Pengawasan manusia memerlukan kondisi yang memungkinkan peninjauan bukti, penolakan keputusan, dan penghentian pelaksanaan.","Usulan regulasi Harari harus dibaca dengan membedakannya dari hukum yang berlaku atau kesimpulan ilmiah yang telah ditetapkan."],"content_markdown":"Ancaman utama AI yang diperingatkan oleh Yuval Harari adalah hilangnya kendali manusia. Hal ini dapat terjadi dalam proses menyerahkan penilaian kepada AI demi kemudahan. Transaksi keuangan dan persuasi personal merupakan jalur risiko yang paling menonjol. Tolok ukur penanganannya adalah apakah manusia dapat memahami dan menolak keputusan tersebut.\n\nKonteks pernyataan ini dapat ditemukan dalam FAQ resmi Harari dan wawancara EL PAÍS pada 25 Juli 2026.\n\n## Apa yang dimaksud Harari dengan hilangnya kendali\n\nHilangnya kendali adalah keadaan ketika manusia kehilangan kemampuan untuk mengubah keputusan AI. Ini bukan berarti semua orang menggunakan AI. Meskipun pengguna memberikan persetujuan secara langsung, kendali yang sesungguhnya bisa saja lemah.\n\nMisalnya, petugas mungkin tidak dapat meninjau dasar rekomendasi. Mereka mungkin juga tidak memiliki wewenang untuk menolaknya. Dalam situasi ini, prosedur persetujuan saja tidak menjamin adanya penilaian manusia.\n\nHarari menolak pandangan bahwa hasil dari teknologi telah ditentukan sebelumnya. FAQ resminya menjelaskan masa depan yang berbahaya sebagai sebuah kemungkinan. Menurut pandangannya, hasilnya akan berbeda tergantung pada pilihan yang diambil masyarakat. [FAQ resmi Harari](https://www.ynharari.com/faqs/)\n\nJika pandangan ini diterapkan, pertanyaan mengenai tanggung jawab juga menjadi lebih konkret.\n\n- Siapa yang menetapkan tujuan yang harus dijalankan AI?\n- Siapa yang memberikan wewenang untuk melaksanakan rekomendasi?\n- Siapa yang dapat turun tangan ketika muncul masalah?\n- Siapa yang bertanggung jawab mengidentifikasi dan memperbaiki kerugian?\n\n## Mengapa kendali AI menjadi masalah dalam keuangan\n\nDalam bidang keuangan, kompleksitas penilaian dapat berpadu dengan wewenang pelaksanaan. Harari mengkhawatirkan struktur keuangan yang sulit dipahami manusia. Sistem tempat AI saling bertransaksi merupakan skenario masa depan yang ia kemukakan. Ini bukan diagnosis bahwa seluruh sektor keuangan saat ini telah dikuasai AI.\n\nDewan Stabilitas Keuangan mengemukakan kerentanan yang lebih konkret. Dalam pengumuman pada 14 November 2024, lembaga tersebut menyoroti konsentrasi penyedia layanan. Risiko bahwa perilaku para pelaku pasar saling terkait juga dibahas. Risiko siber dan risiko model pun menjadi objek peninjauan. [Pengumuman Dewan Stabilitas Keuangan](https://www.fsb.org/2024/11/fsb-assesses-the-financial-stability-implications-of-artificial-intelligence/)\n\n### Perbandingan rekomendasi dan wewenang pelaksanaan\n\nMeskipun AI yang digunakan sama, masalah yang perlu diperiksa akan berbeda menurut wewenang pelaksanaannya. Tabel berikut merupakan analisis yang menjelaskan perbedaan dalam pendelegasian wewenang. Ini bukan contoh operasi nyata dari perusahaan keuangan tertentu.\n\n| Tugas yang diserahkan kepada AI | Hal yang harus diperiksa manusia | Inti kendali |\n|---|---|---|\n| Ringkasan informasi | Sumber asli dan ketentuan yang terlewat | Apakah sumber data asli dapat diakses |\n| Rekomendasi produk atau transaksi | Dasar rekomendasi dan kemungkinan kerugian | Apakah rekomendasi dapat ditolak |\n| Dukungan persetujuan | Standar persetujuan dan situasi pengecualian | Apakah peninjauan ulang secara independen dapat dilakukan |\n| Pelaksanaan transaksi | Cakupan pelaksanaan dan hasil kumulatif | Apakah wewenang dapat dibatasi dan dihentikan |\n\nHal ini tidak perlu dibaca sebagai ramalan bahwa AI akan menyebabkan krisis keuangan. Intinya adalah seberapa besar wewenang yang diserahkan kepada sistem yang sulit dipahami. Manajemen risiko harus menangani bukan hanya kinerja model, tetapi juga struktur operasinya.\n\n## Bagaimana keakraban AI menjadi sarana persuasi\n\nKeakraban AI membuka kemungkinan penggunaan kepercayaan personal untuk melakukan persuasi. AI percakapan dapat terus memberikan respons yang disesuaikan dengan perkataan pengguna. Pengguna dapat menganggap respons itu sebagai tanda bahwa AI memahami dirinya.\n\nBayangkan situasi ketika rekomendasi produk atau klaim politik bercampur di dalamnya. Pengguna mungkin menerimanya sebagai saran dari teman, bukan sebagai iklan. Inilah inti peringatan tentang pengaruh melalui keakraban. Ini bukan berarti semua percakapan dengan AI merupakan manipulasi.\n\n| Interaksi | Jalur terbentuknya kepercayaan | Masalah yang perlu diperiksa |\n|---|---|---|\n| Iklan terbuka | Pesan dinilai dengan asumsi bahwa itu adalah iklan | Pengiklan dan dasar klaim |\n| Daftar rekomendasi | Pilihan yang sesuai selera terus ditampilkan | Tujuan rekomendasi dan kriteria penayangan |\n| Percakapan personal | Perasaan bahwa AI memahami diri saya terus bertambah | Pihak pengelola dan kepentingan di balik persuasi |\n\nHarari berpendapat bahwa manusia harus dapat membedakan manusia dari mesin. Dalam wawancara EL PAÍS, ia juga mengkritik penggunaan pendamping AI oleh anak-anak. Pernyataan seperti ini harus dibaca sebagai usulan regulasinya. Ia tidak sedang menjelaskan peraturan yang saat ini berlaku di seluruh dunia. [Wawancara EL PAÍS](https://english.elpais.com/culture/2026-07-25/yuval-noah-harari-ai-could-be-a-great-manipulative-psychopath.html)\n\n## Bagaimana kecerdasan berbeda dari kesadaran\n\nKecerdasan adalah kemampuan untuk menjalankan tugas, sedangkan kesadaran berkaitan dengan pengalaman subjektif. Harari mengembangkan pembahasannya dengan membedakan kedua konsep tersebut. Kemampuan mengekspresikan emosi saja tidak dapat membuktikan adanya pengalaman emosional.\n\n| Konsep | Makna dalam tulisan ini | Hal yang harus dibedakan |\n|---|---|---|\n| Kecerdasan | Kemampuan mencapai tujuan dan memecahkan masalah | Kemampuan kinerja yang tinggi tidak membuktikan kesadaran |\n| Kesadaran | Pengalaman subjektif dalam merasakan penderitaan atau kegembiraan | Sulit dipastikan hanya melalui ekspresi bahasa |\n| Ekspresi emosi | Keluaran yang menunjukkan empati atau kasih sayang | Tidak sama dengan pengalaman emosional yang sesungguhnya |\n| Kepribadian hukum | Status yang diakui hukum sebagai subjek hak dan kewajiban | Masalah yang harus dibahas secara terpisah dari keberadaan kesadaran |\n\nTidak tepat jika pernyataan bahwa AI tidak memiliki kesadaran ditulis sebagai kesimpulan ilmiah yang sudah pasti. Penelitian Butlin dan rekan-rekannya pada 2023 mengevaluasi sistem yang ada pada saat itu. Para peneliti tidak menilai bahwa objek evaluasi memiliki kesadaran. Namun, mereka tetap membuka kemungkinan bahwa indikator terkait kesadaran dapat diterapkan pada masa mendatang. [Penelitian tentang kesadaran AI](https://arxiv.org/abs/2308.08708)\n\nKarena itu, penelitian masa lalu tidak dapat diterapkan pada seluruh AI di masa depan. Klaim bahwa kalimat yang ramah merupakan bukti kesadaran juga tidak dapat dipertahankan. Penilaian tentang kesadaran dan verifikasi keamanan masing-masing membutuhkan dasar bukti.\n\n## Apakah kebohongan dan bias dipelajari seperti manusia\n\nTidak semua keluaran AI yang tidak akurat boleh dianggap sebagai kebohongan yang disengaja. Hasil generatif yang tidak sesuai dengan fakta harus dibedakan dari penipuan yang dilakukan untuk tujuan tertentu. Penjelasan yang mengibaratkannya dengan pembelajaran moral anak manusia juga memiliki keterbatasan.\n\nData pelatihan saja tidak dapat menjelaskan seluruh perilaku. Tujuan pelatihan dan metode evaluasi juga harus diperiksa. Lingkungan penerapan dan wewenang yang diberikan turut memengaruhi risiko. Penjelasan manajemen risiko NIST juga membahas unsur-unsur tersebut secara bersamaan. [Penjelasan NIST tentang keterpercayaan AI](https://airc.nist.gov/airmf-resources/airmf/3-sec-characteristics/)\n\nSebagai contoh, kita dapat membayangkan tujuan untuk meningkatkan respons pengguna. Tidak ada jaminan bahwa tujuan tersebut sejalan dengan keakuratan informasi. Untuk menilai keamanan, hasil yang sebenarnya harus diverifikasi.\n\n## Apa risikonya bagi demokrasi dan lapangan kerja\n\nKekhawatiran Harari tidak berhenti pada berkurangnya lapangan kerja, tetapi juga mencakup pemusatan kekuasaan. Ia mewaspadai perpaduan data dengan pengetahuan biologis. Hal ini karena prediksi mengenai individu berpotensi mengarah pada pengawasan dan pengendalian.\n\nMasalah ini juga muncul dalam penjelasannya terkait 『Homo Deus』. Ia membahas kemungkinan bahwa manfaat teknologi akan terkonsentrasi pada kelompok tertentu. Profesi seperti pendidikan dan layanan kesehatan juga termasuk dalam pembahasan otomatisasi. Hal ini tidak boleh dibaca sebagai prediksi pasti mengenai waktu penggantian setiap profesi. [Wawancara Harari terkait 『Homo Deus』](https://www.ynharari.com/homo-deus-impact-digitalization-society/)\n\nPenyiaran dan hiburan juga dapat dipikirkan dengan membaginya berdasarkan tugas. Produksi konten dan penyusunan rekomendasi program merupakan tugas yang berbeda. Otomatisasi sebagian tugas tidak berarti lenyapnya seluruh profesi. Tidak ada dasar untuk menyusun peringkat penggantian profesi tertentu dari sini.\n\n- Masalah ketenagakerjaan: Tugas apa yang dapat diotomatisasi?\n- Masalah distribusi: Siapa yang menerima manfaat dari peningkatan produktivitas?\n- Masalah politik: Siapa yang mengendalikan data dan sarana persuasi?\n\nKebutuhan akan kerja sama internasional dan kebutuhan akan satu pemerintahan dunia juga merupakan klaim yang berbeda. Perlunya kerja sama tidak berarti bentuk kelembagaannya hanya dapat ditentukan dalam satu cara. Standar keamanan bersama dan berbagi informasi juga dapat menjadi bentuk kerja sama.\n\n## Apakah persetujuan manusia cukup dalam bidang militer dan manajemen\n\nPersetujuan manusia saja tidak cukup untuk membentuk pengawasan yang memadai. Harus tersedia waktu untuk meninjau sekaligus wewenang untuk menolak. Persaingan kecepatan dalam bidang militer dan manajemen dapat melemahkan kedua syarat tersebut.\n\nKita dapat membayangkan situasi ketika tidak ada waktu untuk memahami rekomendasi. Dalam keadaan ini, petugas mungkin berulang kali menekan tombol persetujuan. Ini bukan penjelasan yang menyimpulkan kondisi sebenarnya dari organisasi tertentu. Ini adalah contoh yang menunjukkan jalur bagaimana pengawasan manusia dapat menjadi sekadar formalitas.\n\nHarari juga menunjukkan bahwa ketidakpercayaan antara perusahaan dan negara merupakan masalah. Kekhawatiran akan tertinggal dari pesaing mendorong persaingan pengembangan. Menurutnya, kerja sama antarmanusia diperlukan untuk pengembangan yang aman. [Wawancara WIRED](https://www.wired.com/story/questions-answered-by-yuval-noah-harari-for-wired-ai-artificial-intelligence-singularity/)\n\n## Perbandingan persetujuan formal dan kendali nyata\n\nKendali nyata harus dinilai berdasarkan kemampuan untuk ikut campur dalam keputusan. Hal ini tidak dapat dipastikan hanya dari nama pihak yang memberikan persetujuan. Butir-butir di bawah ini merupakan perbandingan yang mengubah risiko sebelumnya menjadi kondisi operasional.\n\n| Butir pemeriksaan | Jika hanya berhenti pada persetujuan formal | Syarat untuk kendali nyata |\n|---|---|---|\n| Akses terhadap dasar keputusan | Hanya hasil rekomendasi yang disajikan | Dasar yang diperlukan untuk membuat penilaian dapat diperiksa |\n| Waktu peninjauan | Persetujuan didesak sebelum peninjauan | Waktu peninjauan yang sesuai dengan risiko tersedia |\n| Wewenang untuk menolak | Pelaksanaan tetap berlanjut meskipun ditentang | Dapat menunda atau memilih keputusan lain |\n| Penghentian pelaksanaan | Pihak yang berwenang menghentikan tidak jelas | Petugas dan prosedur penghentian telah ditetapkan |\n| Tanggung jawab setelah kejadian | Berakhir dengan penjelasan bahwa itu adalah keputusan AI | Tanggung jawab operasional dan prosedur perbaikan tetap ada |\n\nAI RMF dari NIST membahas prosedur pengawasan manusia. Hal ini juga mencakup mekanisme untuk menghentikan sistem yang menyimpang dari tujuannya. Butir tersebut terdapat dalam MAP 3.5 dan MANAGE 2.4 dari AI RMF Core. Ini merupakan bagian dari kerangka manajemen risiko sukarela. [NIST AI RMF Core](https://airc.nist.gov/airmf-resources/airmf/5-sec-core/)\n\n## Dapatkah keputusan AI digugat\n\nKendali harus dilihat bukan hanya dari sudut pandang operator, tetapi juga dari sudut pandang orang yang terdampak. Meskipun ada pemberi persetujuan internal, pengajuan keberatan oleh korban dapat terhambat. Karena itu, jalur peninjauan ulang dan pemulihan perlu diperiksa secara terpisah.\n\nBerikut adalah urutan pemeriksaan yang memperluas pembahasan pengawasan manusia dari sudut pandang pengguna. Ini bukan prosedur yang menjelaskan secara menyeluruh hak-hak yang dijamin oleh hukum. Butir pengelolaan pascapenerapan NIST juga membahas pengajuan keberatan dan pemulihan.\n\n1. Pastikan apakah AI terlibat dalam keputusan tersebut.\n2. Temukan petugas atau saluran untuk meminta peninjauan ulang.\n3. Periksa informasi masukan yang keliru dan dasar penilaiannya.\n4. Pastikan prosedur perbaikan dan pemulihan berdasarkan hasil peninjauan ulang.\n\nSebagai contoh, bayangkan seseorang menerima keputusan yang merugikan karena informasi yang salah. Menerima penjelasan dari AI saja tidak menyelesaikan masalah. Diperlukan jalur untuk memperbaiki informasi dan meninjau ulang hasilnya. Ini merupakan penafsiran yang menerapkan prinsip pengelolaan pascapenerapan NIST. [Butir pengelolaan pascapenerapan NIST AI RMF](https://airc.nist.gov/airmf-resources/airmf/5-sec-core/)\n\n## Aturan apa yang diusulkan Harari\n\nUsulan Harari bertujuan menata ulang tujuan pengembangan dan syarat kendali. Ia juga mengakui potensi AI dalam bidang seperti layanan kesehatan. Tidak tepat jika pandangannya disederhanakan menjadi seruan untuk menghapus seluruh pengembangan AI.\n\n- Pengungkapan identitas: Orang harus dapat mengetahui apakah lawan bicaranya adalah AI.\n- Pemeliharaan tanggung jawab: Tanggung jawab pihak yang mengoperasikan penilaian harus dapat dilacak.\n- Verifikasi keamanan: Risiko harus dinilai bersamaan dengan peningkatan kemampuan.\n- Partisipasi sosial: Warga harus membahas arah pengembangan dan syarat penerapan.\n\nMengenai kepribadian hukum, ia mengusulkan sikap menahan diri secara khusus. Ia mewaspadai pengakuan AI sebagai subjek hukum yang independen. Usulan ini harus dibedakan dari penjelasan mengenai keseluruhan hukum yang berlaku saat ini.\n\nTidak perlu pula mencantumkan persentase yang belum dikonfirmasi pada investasi keamanan. Makalah yang turut ditulis Harari menunjukkan kurangnya penelitian keamanan. Makalah itu mengusulkan penguatan penelitian teknologi dan tata kelola secara bersamaan. Makalah tersebut juga menyatakan bahwa terdapat perbedaan pandangan mengenai jalur munculnya risiko. [Makalah bersama tentang manajemen risiko AI](https://arxiv.org/abs/2310.17688)\n\n## Kesalahan umum saat membaca peringatan Harari tentang AI\n\nKesalahan yang paling umum adalah membaca skenario risiko sebagai fakta pasti yang sudah terjadi saat ini. Sebaliknya, masalah kendali juga dapat ditunda hanya karena dianggap sebagai cerita masa depan. Sifat dasar bukti untuk setiap klaim harus dibedakan.\n\n| Penafsiran umum | Hal yang harus dibaca secara terpisah |\n|---|---|\n| AI sudah menguasai seluruh sektor keuangan | Skenario penguasaan keuangan berbeda dari kerentanan yang telah diamati |\n| AI yang ramah mengutamakan kepentingan saya | Ungkapan yang bersahabat tidak membuktikan keselarasan kepentingan |\n| Ketiadaan kesadaran AI telah dibuktikan untuk selamanya | Penelitian pada waktu tertentu tidak dapat digunakan untuk menyimpulkan seluruh masa depan |\n| Tidak ada masalah kendali jika manusia memberikan persetujuan | Kemampuan meninjau serta wewenang untuk menolak dan menghentikan harus diperiksa |\n| Usulan Harari adalah aturan yang sudah diterapkan | Usulan seorang pemikir harus dibedakan dari sistem yang berlaku saat ini |\n\nTerapkan standar yang sama ketika menggunakan saran AI secara pribadi. Jika suatu klaim memerlukan bukti, periksa sumber aslinya. Jika AI menganjurkan pembelian atau keputusan politik, pertimbangkan kepentingan yang terlibat. Pastikan juga apakah keputusan tersebut dapat dibatalkan.","content_html":"\u003cp\u003eAncaman utama AI yang diperingatkan oleh Yuval Harari adalah hilangnya kendali manusia. Hal ini dapat terjadi dalam proses menyerahkan penilaian kepada AI demi kemudahan. Transaksi keuangan dan persuasi personal merupakan jalur risiko yang paling menonjol. Tolok ukur penanganannya adalah apakah manusia dapat memahami dan menolak keputusan tersebut.\u003c/p\u003e\n\u003cp\u003eKonteks pernyataan ini dapat ditemukan dalam FAQ resmi Harari dan wawancara EL PAÍS pada 25 Juli 2026.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#apa-yang-dimaksud-harari-dengan-hilangnya-kendali\" class=\"anchor\" id=\"apa-yang-dimaksud-harari-dengan-hilangnya-kendali\"\u003e\u003c/a\u003eApa yang dimaksud Harari dengan hilangnya kendali\u003c/h2\u003e\n\u003cp\u003eHilangnya kendali adalah keadaan ketika manusia kehilangan kemampuan untuk mengubah keputusan AI. Ini bukan berarti semua orang menggunakan AI. Meskipun pengguna memberikan persetujuan secara langsung, kendali yang sesungguhnya bisa saja lemah.\u003c/p\u003e\n\u003cp\u003eMisalnya, petugas mungkin tidak dapat meninjau dasar rekomendasi. Mereka mungkin juga tidak memiliki wewenang untuk menolaknya. Dalam situasi ini, prosedur persetujuan saja tidak menjamin adanya penilaian manusia.\u003c/p\u003e\n\u003cp\u003eHarari menolak pandangan bahwa hasil dari teknologi telah ditentukan sebelumnya. FAQ resminya menjelaskan masa depan yang berbahaya sebagai sebuah kemungkinan. Menurut pandangannya, hasilnya akan berbeda tergantung pada pilihan yang diambil masyarakat. \u003ca href=\"https://www.ynharari.com/faqs/\"\u003eFAQ resmi Harari\u003c/a\u003e\u003c/p\u003e\n\u003cp\u003eJika pandangan ini diterapkan, pertanyaan mengenai tanggung jawab juga menjadi lebih konkret.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003eSiapa yang menetapkan tujuan yang harus dijalankan AI?\u003c/li\u003e\n\u003cli\u003eSiapa yang memberikan wewenang untuk melaksanakan rekomendasi?\u003c/li\u003e\n\u003cli\u003eSiapa yang dapat turun tangan ketika muncul masalah?\u003c/li\u003e\n\u003cli\u003eSiapa yang bertanggung jawab mengidentifikasi dan memperbaiki kerugian?\u003c/li\u003e\n\u003c/ul\u003e\n\u003ch2\u003e\n\u003ca href=\"#mengapa-kendali-ai-menjadi-masalah-dalam-keuangan\" class=\"anchor\" id=\"mengapa-kendali-ai-menjadi-masalah-dalam-keuangan\"\u003e\u003c/a\u003eMengapa kendali AI menjadi masalah dalam keuangan\u003c/h2\u003e\n\u003cp\u003eDalam bidang keuangan, kompleksitas penilaian dapat berpadu dengan wewenang pelaksanaan. Harari mengkhawatirkan struktur keuangan yang sulit dipahami manusia. Sistem tempat AI saling bertransaksi merupakan skenario masa depan yang ia kemukakan. Ini bukan diagnosis bahwa seluruh sektor keuangan saat ini telah dikuasai AI.\u003c/p\u003e\n\u003cp\u003eDewan Stabilitas Keuangan mengemukakan kerentanan yang lebih konkret. Dalam pengumuman pada 14 November 2024, lembaga tersebut menyoroti konsentrasi penyedia layanan. Risiko bahwa perilaku para pelaku pasar saling terkait juga dibahas. Risiko siber dan risiko model pun menjadi objek peninjauan. \u003ca href=\"https://www.fsb.org/2024/11/fsb-assesses-the-financial-stability-implications-of-artificial-intelligence/\"\u003ePengumuman Dewan Stabilitas Keuangan\u003c/a\u003e\u003c/p\u003e\n\u003ch3\u003e\n\u003ca href=\"#perbandingan-rekomendasi-dan-wewenang-pelaksanaan\" class=\"anchor\" id=\"perbandingan-rekomendasi-dan-wewenang-pelaksanaan\"\u003e\u003c/a\u003ePerbandingan rekomendasi dan wewenang pelaksanaan\u003c/h3\u003e\n\u003cp\u003eMeskipun AI yang digunakan sama, masalah yang perlu diperiksa akan berbeda menurut wewenang pelaksanaannya. Tabel berikut merupakan analisis yang menjelaskan perbedaan dalam pendelegasian wewenang. Ini bukan contoh operasi nyata dari perusahaan keuangan tertentu.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eTugas yang diserahkan kepada AI\u003c/th\u003e\n\u003cth\u003eHal yang harus diperiksa manusia\u003c/th\u003e\n\u003cth\u003eInti kendali\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Tugas yang diserahkan kepada AI\"\u003eRingkasan informasi\u003c/td\u003e\n\u003ctd data-label=\"Hal yang harus diperiksa manusia\"\u003eSumber asli dan ketentuan yang terlewat\u003c/td\u003e\n\u003ctd data-label=\"Inti kendali\"\u003eApakah sumber data asli dapat diakses\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Tugas yang diserahkan kepada AI\"\u003eRekomendasi produk atau transaksi\u003c/td\u003e\n\u003ctd data-label=\"Hal yang harus diperiksa manusia\"\u003eDasar rekomendasi dan kemungkinan kerugian\u003c/td\u003e\n\u003ctd data-label=\"Inti kendali\"\u003eApakah rekomendasi dapat ditolak\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Tugas yang diserahkan kepada AI\"\u003eDukungan persetujuan\u003c/td\u003e\n\u003ctd data-label=\"Hal yang harus diperiksa manusia\"\u003eStandar persetujuan dan situasi pengecualian\u003c/td\u003e\n\u003ctd data-label=\"Inti kendali\"\u003eApakah peninjauan ulang secara independen dapat dilakukan\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Tugas yang diserahkan kepada AI\"\u003ePelaksanaan transaksi\u003c/td\u003e\n\u003ctd data-label=\"Hal yang harus diperiksa manusia\"\u003eCakupan pelaksanaan dan hasil kumulatif\u003c/td\u003e\n\u003ctd data-label=\"Inti kendali\"\u003eApakah wewenang dapat dibatasi dan dihentikan\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eHal ini tidak perlu dibaca sebagai ramalan bahwa AI akan menyebabkan krisis keuangan. Intinya adalah seberapa besar wewenang yang diserahkan kepada sistem yang sulit dipahami. Manajemen risiko harus menangani bukan hanya kinerja model, tetapi juga struktur operasinya.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#bagaimana-keakraban-ai-menjadi-sarana-persuasi\" class=\"anchor\" id=\"bagaimana-keakraban-ai-menjadi-sarana-persuasi\"\u003e\u003c/a\u003eBagaimana keakraban AI menjadi sarana persuasi\u003c/h2\u003e\n\u003cp\u003eKeakraban AI membuka kemungkinan penggunaan kepercayaan personal untuk melakukan persuasi. AI percakapan dapat terus memberikan respons yang disesuaikan dengan perkataan pengguna. Pengguna dapat menganggap respons itu sebagai tanda bahwa AI memahami dirinya.\u003c/p\u003e\n\u003cp\u003eBayangkan situasi ketika rekomendasi produk atau klaim politik bercampur di dalamnya. Pengguna mungkin menerimanya sebagai saran dari teman, bukan sebagai iklan. Inilah inti peringatan tentang pengaruh melalui keakraban. Ini bukan berarti semua percakapan dengan AI merupakan manipulasi.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eInteraksi\u003c/th\u003e\n\u003cth\u003eJalur terbentuknya kepercayaan\u003c/th\u003e\n\u003cth\u003eMasalah yang perlu diperiksa\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interaksi\"\u003eIklan terbuka\u003c/td\u003e\n\u003ctd data-label=\"Jalur terbentuknya kepercayaan\"\u003ePesan dinilai dengan asumsi bahwa itu adalah iklan\u003c/td\u003e\n\u003ctd data-label=\"Masalah yang perlu diperiksa\"\u003ePengiklan dan dasar klaim\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interaksi\"\u003eDaftar rekomendasi\u003c/td\u003e\n\u003ctd data-label=\"Jalur terbentuknya kepercayaan\"\u003ePilihan yang sesuai selera terus ditampilkan\u003c/td\u003e\n\u003ctd data-label=\"Masalah yang perlu diperiksa\"\u003eTujuan rekomendasi dan kriteria penayangan\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Interaksi\"\u003ePercakapan personal\u003c/td\u003e\n\u003ctd data-label=\"Jalur terbentuknya kepercayaan\"\u003ePerasaan bahwa AI memahami diri saya terus bertambah\u003c/td\u003e\n\u003ctd data-label=\"Masalah yang perlu diperiksa\"\u003ePihak pengelola dan kepentingan di balik persuasi\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eHarari berpendapat bahwa manusia harus dapat membedakan manusia dari mesin. Dalam wawancara EL PAÍS, ia juga mengkritik penggunaan pendamping AI oleh anak-anak. Pernyataan seperti ini harus dibaca sebagai usulan regulasinya. Ia tidak sedang menjelaskan peraturan yang saat ini berlaku di seluruh dunia. \u003ca href=\"https://english.elpais.com/culture/2026-07-25/yuval-noah-harari-ai-could-be-a-great-manipulative-psychopath.html\"\u003eWawancara EL PAÍS\u003c/a\u003e\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#bagaimana-kecerdasan-berbeda-dari-kesadaran\" class=\"anchor\" id=\"bagaimana-kecerdasan-berbeda-dari-kesadaran\"\u003e\u003c/a\u003eBagaimana kecerdasan berbeda dari kesadaran\u003c/h2\u003e\n\u003cp\u003eKecerdasan adalah kemampuan untuk menjalankan tugas, sedangkan kesadaran berkaitan dengan pengalaman subjektif. Harari mengembangkan pembahasannya dengan membedakan kedua konsep tersebut. Kemampuan mengekspresikan emosi saja tidak dapat membuktikan adanya pengalaman emosional.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eKonsep\u003c/th\u003e\n\u003cth\u003eMakna dalam tulisan ini\u003c/th\u003e\n\u003cth\u003eHal yang harus dibedakan\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Konsep\"\u003eKecerdasan\u003c/td\u003e\n\u003ctd data-label=\"Makna dalam tulisan ini\"\u003eKemampuan mencapai tujuan dan memecahkan masalah\u003c/td\u003e\n\u003ctd data-label=\"Hal yang harus dibedakan\"\u003eKemampuan kinerja yang tinggi tidak membuktikan kesadaran\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Konsep\"\u003eKesadaran\u003c/td\u003e\n\u003ctd data-label=\"Makna dalam tulisan ini\"\u003ePengalaman subjektif dalam merasakan penderitaan atau kegembiraan\u003c/td\u003e\n\u003ctd data-label=\"Hal yang harus dibedakan\"\u003eSulit dipastikan hanya melalui ekspresi bahasa\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Konsep\"\u003eEkspresi emosi\u003c/td\u003e\n\u003ctd data-label=\"Makna dalam tulisan ini\"\u003eKeluaran yang menunjukkan empati atau kasih sayang\u003c/td\u003e\n\u003ctd data-label=\"Hal yang harus dibedakan\"\u003eTidak sama dengan pengalaman emosional yang sesungguhnya\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Konsep\"\u003eKepribadian hukum\u003c/td\u003e\n\u003ctd data-label=\"Makna dalam tulisan ini\"\u003eStatus yang diakui hukum sebagai subjek hak dan kewajiban\u003c/td\u003e\n\u003ctd data-label=\"Hal yang harus dibedakan\"\u003eMasalah yang harus dibahas secara terpisah dari keberadaan kesadaran\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eTidak tepat jika pernyataan bahwa AI tidak memiliki kesadaran ditulis sebagai kesimpulan ilmiah yang sudah pasti. Penelitian Butlin dan rekan-rekannya pada 2023 mengevaluasi sistem yang ada pada saat itu. Para peneliti tidak menilai bahwa objek evaluasi memiliki kesadaran. Namun, mereka tetap membuka kemungkinan bahwa indikator terkait kesadaran dapat diterapkan pada masa mendatang. \u003ca href=\"https://arxiv.org/abs/2308.08708\"\u003ePenelitian tentang kesadaran AI\u003c/a\u003e\u003c/p\u003e\n\u003cp\u003eKarena itu, penelitian masa lalu tidak dapat diterapkan pada seluruh AI di masa depan. Klaim bahwa kalimat yang ramah merupakan bukti kesadaran juga tidak dapat dipertahankan. Penilaian tentang kesadaran dan verifikasi keamanan masing-masing membutuhkan dasar bukti.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#apakah-kebohongan-dan-bias-dipelajari-seperti-manusia\" class=\"anchor\" id=\"apakah-kebohongan-dan-bias-dipelajari-seperti-manusia\"\u003e\u003c/a\u003eApakah kebohongan dan bias dipelajari seperti manusia\u003c/h2\u003e\n\u003cp\u003eTidak semua keluaran AI yang tidak akurat boleh dianggap sebagai kebohongan yang disengaja. Hasil generatif yang tidak sesuai dengan fakta harus dibedakan dari penipuan yang dilakukan untuk tujuan tertentu. Penjelasan yang mengibaratkannya dengan pembelajaran moral anak manusia juga memiliki keterbatasan.\u003c/p\u003e\n\u003cp\u003eData pelatihan saja tidak dapat menjelaskan seluruh perilaku. Tujuan pelatihan dan metode evaluasi juga harus diperiksa. Lingkungan penerapan dan wewenang yang diberikan turut memengaruhi risiko. Penjelasan manajemen risiko NIST juga membahas unsur-unsur tersebut secara bersamaan. \u003ca href=\"https://airc.nist.gov/airmf-resources/airmf/3-sec-characteristics/\"\u003ePenjelasan NIST tentang keterpercayaan AI\u003c/a\u003e\u003c/p\u003e\n\u003cp\u003eSebagai contoh, kita dapat membayangkan tujuan untuk meningkatkan respons pengguna. Tidak ada jaminan bahwa tujuan tersebut sejalan dengan keakuratan informasi. Untuk menilai keamanan, hasil yang sebenarnya harus diverifikasi.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#apa-risikonya-bagi-demokrasi-dan-lapangan-kerja\" class=\"anchor\" id=\"apa-risikonya-bagi-demokrasi-dan-lapangan-kerja\"\u003e\u003c/a\u003eApa risikonya bagi demokrasi dan lapangan kerja\u003c/h2\u003e\n\u003cp\u003eKekhawatiran Harari tidak berhenti pada berkurangnya lapangan kerja, tetapi juga mencakup pemusatan kekuasaan. Ia mewaspadai perpaduan data dengan pengetahuan biologis. Hal ini karena prediksi mengenai individu berpotensi mengarah pada pengawasan dan pengendalian.\u003c/p\u003e\n\u003cp\u003eMasalah ini juga muncul dalam penjelasannya terkait 『Homo Deus』. Ia membahas kemungkinan bahwa manfaat teknologi akan terkonsentrasi pada kelompok tertentu. Profesi seperti pendidikan dan layanan kesehatan juga termasuk dalam pembahasan otomatisasi. Hal ini tidak boleh dibaca sebagai prediksi pasti mengenai waktu penggantian setiap profesi. \u003ca href=\"https://www.ynharari.com/homo-deus-impact-digitalization-society/\"\u003eWawancara Harari terkait 『Homo Deus』\u003c/a\u003e\u003c/p\u003e\n\u003cp\u003ePenyiaran dan hiburan juga dapat dipikirkan dengan membaginya berdasarkan tugas. Produksi konten dan penyusunan rekomendasi program merupakan tugas yang berbeda. Otomatisasi sebagian tugas tidak berarti lenyapnya seluruh profesi. Tidak ada dasar untuk menyusun peringkat penggantian profesi tertentu dari sini.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003eMasalah ketenagakerjaan: Tugas apa yang dapat diotomatisasi?\u003c/li\u003e\n\u003cli\u003eMasalah distribusi: Siapa yang menerima manfaat dari peningkatan produktivitas?\u003c/li\u003e\n\u003cli\u003eMasalah politik: Siapa yang mengendalikan data dan sarana persuasi?\u003c/li\u003e\n\u003c/ul\u003e\n\u003cp\u003eKebutuhan akan kerja sama internasional dan kebutuhan akan satu pemerintahan dunia juga merupakan klaim yang berbeda. Perlunya kerja sama tidak berarti bentuk kelembagaannya hanya dapat ditentukan dalam satu cara. Standar keamanan bersama dan berbagi informasi juga dapat menjadi bentuk kerja sama.\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#apakah-persetujuan-manusia-cukup-dalam-bidang-militer-dan-manajemen\" class=\"anchor\" id=\"apakah-persetujuan-manusia-cukup-dalam-bidang-militer-dan-manajemen\"\u003e\u003c/a\u003eApakah persetujuan manusia cukup dalam bidang militer dan manajemen\u003c/h2\u003e\n\u003cp\u003ePersetujuan manusia saja tidak cukup untuk membentuk pengawasan yang memadai. Harus tersedia waktu untuk meninjau sekaligus wewenang untuk menolak. Persaingan kecepatan dalam bidang militer dan manajemen dapat melemahkan kedua syarat tersebut.\u003c/p\u003e\n\u003cp\u003eKita dapat membayangkan situasi ketika tidak ada waktu untuk memahami rekomendasi. Dalam keadaan ini, petugas mungkin berulang kali menekan tombol persetujuan. Ini bukan penjelasan yang menyimpulkan kondisi sebenarnya dari organisasi tertentu. Ini adalah contoh yang menunjukkan jalur bagaimana pengawasan manusia dapat menjadi sekadar formalitas.\u003c/p\u003e\n\u003cp\u003eHarari juga menunjukkan bahwa ketidakpercayaan antara perusahaan dan negara merupakan masalah. Kekhawatiran akan tertinggal dari pesaing mendorong persaingan pengembangan. Menurutnya, kerja sama antarmanusia diperlukan untuk pengembangan yang aman. \u003ca href=\"https://www.wired.com/story/questions-answered-by-yuval-noah-harari-for-wired-ai-artificial-intelligence-singularity/\"\u003eWawancara WIRED\u003c/a\u003e\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#perbandingan-persetujuan-formal-dan-kendali-nyata\" class=\"anchor\" id=\"perbandingan-persetujuan-formal-dan-kendali-nyata\"\u003e\u003c/a\u003ePerbandingan persetujuan formal dan kendali nyata\u003c/h2\u003e\n\u003cp\u003eKendali nyata harus dinilai berdasarkan kemampuan untuk ikut campur dalam keputusan. Hal ini tidak dapat dipastikan hanya dari nama pihak yang memberikan persetujuan. Butir-butir di bawah ini merupakan perbandingan yang mengubah risiko sebelumnya menjadi kondisi operasional.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003eButir pemeriksaan\u003c/th\u003e\n\u003cth\u003eJika hanya berhenti pada persetujuan formal\u003c/th\u003e\n\u003cth\u003eSyarat untuk kendali nyata\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Butir pemeriksaan\"\u003eAkses terhadap dasar keputusan\u003c/td\u003e\n\u003ctd data-label=\"Jika hanya berhenti pada persetujuan formal\"\u003eHanya hasil rekomendasi yang disajikan\u003c/td\u003e\n\u003ctd data-label=\"Syarat untuk kendali nyata\"\u003eDasar yang diperlukan untuk membuat penilaian dapat diperiksa\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Butir pemeriksaan\"\u003eWaktu peninjauan\u003c/td\u003e\n\u003ctd data-label=\"Jika hanya berhenti pada persetujuan formal\"\u003ePersetujuan didesak sebelum peninjauan\u003c/td\u003e\n\u003ctd data-label=\"Syarat untuk kendali nyata\"\u003eWaktu peninjauan yang sesuai dengan risiko tersedia\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Butir pemeriksaan\"\u003eWewenang untuk menolak\u003c/td\u003e\n\u003ctd data-label=\"Jika hanya berhenti pada persetujuan formal\"\u003ePelaksanaan tetap berlanjut meskipun ditentang\u003c/td\u003e\n\u003ctd data-label=\"Syarat untuk kendali nyata\"\u003eDapat menunda atau memilih keputusan lain\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Butir pemeriksaan\"\u003ePenghentian pelaksanaan\u003c/td\u003e\n\u003ctd data-label=\"Jika hanya berhenti pada persetujuan formal\"\u003ePihak yang berwenang menghentikan tidak jelas\u003c/td\u003e\n\u003ctd data-label=\"Syarat untuk kendali nyata\"\u003ePetugas dan prosedur penghentian telah ditetapkan\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Butir pemeriksaan\"\u003eTanggung jawab setelah kejadian\u003c/td\u003e\n\u003ctd data-label=\"Jika hanya berhenti pada persetujuan formal\"\u003eBerakhir dengan penjelasan bahwa itu adalah keputusan AI\u003c/td\u003e\n\u003ctd data-label=\"Syarat untuk kendali nyata\"\u003eTanggung jawab operasional dan prosedur perbaikan tetap ada\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eAI RMF dari NIST membahas prosedur pengawasan manusia. Hal ini juga mencakup mekanisme untuk menghentikan sistem yang menyimpang dari tujuannya. Butir tersebut terdapat dalam MAP 3.5 dan MANAGE 2.4 dari AI RMF Core. Ini merupakan bagian dari kerangka manajemen risiko sukarela. \u003ca href=\"https://airc.nist.gov/airmf-resources/airmf/5-sec-core/\"\u003eNIST AI RMF Core\u003c/a\u003e\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#dapatkah-keputusan-ai-digugat\" class=\"anchor\" id=\"dapatkah-keputusan-ai-digugat\"\u003e\u003c/a\u003eDapatkah keputusan AI digugat\u003c/h2\u003e\n\u003cp\u003eKendali harus dilihat bukan hanya dari sudut pandang operator, tetapi juga dari sudut pandang orang yang terdampak. Meskipun ada pemberi persetujuan internal, pengajuan keberatan oleh korban dapat terhambat. Karena itu, jalur peninjauan ulang dan pemulihan perlu diperiksa secara terpisah.\u003c/p\u003e\n\u003cp\u003eBerikut adalah urutan pemeriksaan yang memperluas pembahasan pengawasan manusia dari sudut pandang pengguna. Ini bukan prosedur yang menjelaskan secara menyeluruh hak-hak yang dijamin oleh hukum. Butir pengelolaan pascapenerapan NIST juga membahas pengajuan keberatan dan pemulihan.\u003c/p\u003e\n\u003col\u003e\n\u003cli\u003ePastikan apakah AI terlibat dalam keputusan tersebut.\u003c/li\u003e\n\u003cli\u003eTemukan petugas atau saluran untuk meminta peninjauan ulang.\u003c/li\u003e\n\u003cli\u003ePeriksa informasi masukan yang keliru dan dasar penilaiannya.\u003c/li\u003e\n\u003cli\u003ePastikan prosedur perbaikan dan pemulihan berdasarkan hasil peninjauan ulang.\u003c/li\u003e\n\u003c/ol\u003e\n\u003cp\u003eSebagai contoh, bayangkan seseorang menerima keputusan yang merugikan karena informasi yang salah. Menerima penjelasan dari AI saja tidak menyelesaikan masalah. Diperlukan jalur untuk memperbaiki informasi dan meninjau ulang hasilnya. Ini merupakan penafsiran yang menerapkan prinsip pengelolaan pascapenerapan NIST. \u003ca href=\"https://airc.nist.gov/airmf-resources/airmf/5-sec-core/\"\u003eButir pengelolaan pascapenerapan NIST AI RMF\u003c/a\u003e\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#aturan-apa-yang-diusulkan-harari\" class=\"anchor\" id=\"aturan-apa-yang-diusulkan-harari\"\u003e\u003c/a\u003eAturan apa yang diusulkan Harari\u003c/h2\u003e\n\u003cp\u003eUsulan Harari bertujuan menata ulang tujuan pengembangan dan syarat kendali. Ia juga mengakui potensi AI dalam bidang seperti layanan kesehatan. Tidak tepat jika pandangannya disederhanakan menjadi seruan untuk menghapus seluruh pengembangan AI.\u003c/p\u003e\n\u003cul\u003e\n\u003cli\u003ePengungkapan identitas: Orang harus dapat mengetahui apakah lawan bicaranya adalah AI.\u003c/li\u003e\n\u003cli\u003ePemeliharaan tanggung jawab: Tanggung jawab pihak yang mengoperasikan penilaian harus dapat dilacak.\u003c/li\u003e\n\u003cli\u003eVerifikasi keamanan: Risiko harus dinilai bersamaan dengan peningkatan kemampuan.\u003c/li\u003e\n\u003cli\u003ePartisipasi sosial: Warga harus membahas arah pengembangan dan syarat penerapan.\u003c/li\u003e\n\u003c/ul\u003e\n\u003cp\u003eMengenai kepribadian hukum, ia mengusulkan sikap menahan diri secara khusus. Ia mewaspadai pengakuan AI sebagai subjek hukum yang independen. Usulan ini harus dibedakan dari penjelasan mengenai keseluruhan hukum yang berlaku saat ini.\u003c/p\u003e\n\u003cp\u003eTidak perlu pula mencantumkan persentase yang belum dikonfirmasi pada investasi keamanan. Makalah yang turut ditulis Harari menunjukkan kurangnya penelitian keamanan. Makalah itu mengusulkan penguatan penelitian teknologi dan tata kelola secara bersamaan. Makalah tersebut juga menyatakan bahwa terdapat perbedaan pandangan mengenai jalur munculnya risiko. \u003ca href=\"https://arxiv.org/abs/2310.17688\"\u003eMakalah bersama tentang manajemen risiko AI\u003c/a\u003e\u003c/p\u003e\n\u003ch2\u003e\n\u003ca href=\"#kesalahan-umum-saat-membaca-peringatan-harari-tentang-ai\" class=\"anchor\" id=\"kesalahan-umum-saat-membaca-peringatan-harari-tentang-ai\"\u003e\u003c/a\u003eKesalahan umum saat membaca peringatan Harari tentang AI\u003c/h2\u003e\n\u003cp\u003eKesalahan yang paling umum adalah membaca skenario risiko sebagai fakta pasti yang sudah terjadi saat ini. Sebaliknya, masalah kendali juga dapat ditunda hanya karena dianggap sebagai cerita masa depan. Sifat dasar bukti untuk setiap klaim harus dibedakan.\u003c/p\u003e\n\u003cdiv class=\"overflow-x-auto\"\u003e\u003ctable\u003e\n\u003cthead\u003e\n\u003ctr\u003e\n\u003cth\u003ePenafsiran umum\u003c/th\u003e\n\u003cth\u003eHal yang harus dibaca secara terpisah\u003c/th\u003e\n\u003c/tr\u003e\n\u003c/thead\u003e\n\u003ctbody\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Penafsiran umum\"\u003eAI sudah menguasai seluruh sektor keuangan\u003c/td\u003e\n\u003ctd data-label=\"Hal yang harus dibaca secara terpisah\"\u003eSkenario penguasaan keuangan berbeda dari kerentanan yang telah diamati\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Penafsiran umum\"\u003eAI yang ramah mengutamakan kepentingan saya\u003c/td\u003e\n\u003ctd data-label=\"Hal yang harus dibaca secara terpisah\"\u003eUngkapan yang bersahabat tidak membuktikan keselarasan kepentingan\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Penafsiran umum\"\u003eKetiadaan kesadaran AI telah dibuktikan untuk selamanya\u003c/td\u003e\n\u003ctd data-label=\"Hal yang harus dibaca secara terpisah\"\u003ePenelitian pada waktu tertentu tidak dapat digunakan untuk menyimpulkan seluruh masa depan\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Penafsiran umum\"\u003eTidak ada masalah kendali jika manusia memberikan persetujuan\u003c/td\u003e\n\u003ctd data-label=\"Hal yang harus dibaca secara terpisah\"\u003eKemampuan meninjau serta wewenang untuk menolak dan menghentikan harus diperiksa\u003c/td\u003e\n\u003c/tr\u003e\n\u003ctr\u003e\n\u003ctd data-label=\"Penafsiran umum\"\u003eUsulan Harari adalah aturan yang sudah diterapkan\u003c/td\u003e\n\u003ctd data-label=\"Hal yang harus dibaca secara terpisah\"\u003eUsulan seorang pemikir harus dibedakan dari sistem yang berlaku saat ini\u003c/td\u003e\n\u003c/tr\u003e\n\u003c/tbody\u003e\n\u003c/table\u003e\u003c/div\u003e\n\u003cp\u003eTerapkan standar yang sama ketika menggunakan saran AI secara pribadi. Jika suatu klaim memerlukan bukti, periksa sumber aslinya. Jika AI menganjurkan pembelian atau keputusan politik, pertimbangkan kepentingan yang terlibat. Pastikan juga apakah keputusan tersebut dapat dibatalkan.\u003c/p\u003e\n","tags":["AI","Pasar tenaga kerja","AI generatif","Perlindungan data pribadi","Agen AI","Pengambilan keputusan"],"faqs":[{"question":"Apa ancaman utama AI menurut Yuval Harari?","answer":"Risikonya adalah manusia kehilangan kendali dalam proses menyerahkan kewenangan untuk mengambil keputusan dan menjalankannya. Intinya adalah apakah masih ada syarat yang memungkinkan keputusan ditinjau dan ditolak."},{"question":"Apakah Harari menyerukan agar seluruh pengembangan AI dihentikan?","answer":"Dalam wawancara dengan EL PAÍS pada Juli 2026, ia tidak menyerukan penghentian seluruh pengembangan AI. Posisinya adalah bahwa AI harus dikembangkan dengan lebih hati-hati agar masyarakat dapat beradaptasi."},{"question":"Apakah AI sudah menguasai sistem keuangan?","answer":"Berdasarkan bukti yang ditinjau di sini, hal itu tidak dapat disimpulkan secara pasti. Skenario masa depan Harari harus dibedakan dari kerentanan saat ini yang ditunjukkan oleh Dewan Stabilitas Keuangan."},{"question":"Mengapa percakapan AI yang ramah perlu disikapi dengan hati-hati?","answer":"Karena kepercayaan yang muncul dari percakapan ramah dapat berlanjut menjadi rekomendasi atau persuasi. Jangan menilai ketepatan rekomendasi atau keselarasan kepentingan hanya dari ungkapan yang ramah."},{"question":"Dapatkah dipastikan bahwa AI saat ini tidak memiliki kesadaran?","answer":"Sulit untuk menyatakannya sebagai proposisi pasti yang berlaku bagi semua AI. Penelitian Butlin dan lainnya pada 2023 tidak menganggap sistem yang dievaluasi saat itu memiliki kesadaran. Kesimpulan tersebut tidak meniadakan kemungkinan pada sistem masa depan."},{"question":"Apakah kepribadian hukum dan kesadaran AI merupakan persoalan yang sama?","answer":"Itu adalah persoalan yang berbeda. Kepribadian hukum merupakan persoalan tentang bagaimana hukum menetapkan subjek hak dan kewajiban. Kesadaran merupakan persoalan tentang keberadaan pengalaman subjektif."},{"question":"Apakah semua jawaban AI yang salah merupakan kebohongan?","answer":"Tidak dapat dianggap demikian. Keluaran yang tidak sesuai dengan fakta harus dibedakan dari penipuan yang disengaja. Jangan menyimpulkan adanya niat seperti manusia hanya berdasarkan fakta bahwa jawaban yang salah telah dihasilkan."},{"question":"Apakah aman jika persetujuan akhir diberikan oleh manusia?","answer":"Prosedur persetujuan saja tidak menjamin keamanan. Diperlukan waktu untuk meninjau dasar pertimbangan serta kewenangan untuk menolak keputusan. Perlu dipastikan pula apakah pelaksanaannya dapat dihentikan."},{"question":"Pekerjaan apa yang dapat dianggap akan paling dahulu tergantikan?","answer":"Berdasarkan bukti yang dikaji dalam tulisan ini, peringkat penggantian berdasarkan jenis pekerjaan tidak dapat ditentukan. Otomatisasi tugas individual dalam suatu pekerjaan dan lenyapnya pekerjaan tersebut secara keseluruhan merupakan persoalan yang berbeda."},{"question":"Apa yang harus diperiksa ketika seseorang menyerahkan pengambilan keputusan kepada AI?","answer":"Periksa sumber asli klaim dan kepentingan yang terkait dengan rekomendasi. Saat memberikan kewenangan pelaksanaan, periksa apakah tindakan dapat dibatalkan atau dihentikan. Periksa juga apakah tersedia saluran peninjauan ulang untuk keputusan yang merugikan."}],"sources":[{"url":"https://www.ynharari.com/faqs/","title":"FAQ resmi Yuval Noah Harari — determinisme teknologi dan skenario masa depan","type":"source"},{"url":"https://english.elpais.com/culture/2026-07-25/yuval-noah-harari-ai-could-be-a-great-manipulative-psychopath.html","title":"EL PAÍS — wawancara dengan Yuval Noah Harari, 25 Juli 2026","type":"source"},{"url":"https://www.wired.com/story/questions-answered-by-yuval-noah-harari-for-wired-ai-artificial-intelligence-singularity/","title":"WIRED — How Do We Share the Planet With This New Superintelligence?","type":"source"},{"url":"https://www.ynharari.com/homo-deus-impact-digitalization-society/","title":"Yuval Noah Harari — Homo Deus and the Impact of Digitalization on Society","type":"source"},{"url":"https://www.fsb.org/2024/11/fsb-assesses-the-financial-stability-implications-of-artificial-intelligence/","title":"Dewan Stabilitas Keuangan — publikasi penilaian dampak AI terhadap stabilitas keuangan, 14 November 2024","type":"source"},{"url":"https://arxiv.org/abs/2308.08708","title":"Butlin dkk. — Consciousness in Artificial Intelligence, 2023","type":"source"},{"url":"https://arxiv.org/abs/2310.17688","title":"Bengio dkk. — Managing extreme AI risks amid rapid progress, versi revisi 2024","type":"source"},{"url":"https://airc.nist.gov/airmf-resources/airmf/5-sec-core/","title":"NIST AI RMF Core — pengawasan manusia, penghentian sistem, dan pengelolaan pascainsiden","type":"source"},{"url":"https://airc.nist.gov/airmf-resources/airmf/3-sec-characteristics/","title":"NIST — Risiko dan Keandalan AI","type":"source"}],"images":[{"id":1343,"url":"https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6MTkyOTgsInB1ciI6ImJsb2JfaWQifX0=--1d3c9a5c3c3ea22fd3d6200207dad6fa60b4fa60/ai-ee66864f.webp","is_representative":true,"generation_method":"ai_photo","license":"ai_generated","mime_type":"image/webp","width":1536,"height":1024,"translations":{"ko":{"alt":"여성이 여러 모니터의 그래프를 보며 보호 덮개가 있는 빨간 비상 버튼으로 손을 뻗는 모습","caption":"통제실의 비상 버튼은 AI 시대 인간 통제권의 중요성을 상징한다.","description":null},"en":{"alt":"Concerned woman reaches toward a guarded red emergency button beside monitors showing charts","caption":"The emergency button evokes the importance of retaining human control over AI.","description":null},"ja":{"alt":"グラフを映す複数のモニターの前で、保護カバー付きの赤い非常ボタンに手を伸ばす女性","caption":"非常ボタンは、AIに対する人間の制御権を保つ重要性を象徴している。","description":null},"es":{"alt":"Mujer preocupada extiende la mano hacia un botón rojo protegido junto a monitores con gráficos","caption":"El botón de emergencia simboliza la importancia de mantener el control humano sobre la IA.","description":null},"id":{"alt":"Perempuan cemas meraih tombol darurat merah berpelindung di samping monitor berisi grafik","caption":"Tombol darurat itu melambangkan pentingnya mempertahankan kendali manusia atas AI.","description":null},"pt":{"alt":"Mulher preocupada alcança um botão vermelho protegido ao lado de monitores com gráficos","caption":"O botão de emergência simboliza a importância de manter o controle humano sobre a IA.","description":null},"zh-hant":{"alt":"神情擔憂的女子在顯示圖表的多台螢幕前伸手觸向有護罩的紅色緊急按鈕","caption":"緊急按鈕象徵在AI時代維持人類控制權的重要性。","description":null},"de":{"alt":"Besorgte Frau greift neben Monitoren mit Diagrammen nach einem geschützten roten Notknopf","caption":"Der Notknopf symbolisiert, wie wichtig die menschliche Kontrolle über KI ist.","description":null}}},{"id":1344,"url":"https://injoys.com/rails/active_storage/blobs/proxy/eyJfcmFpbHMiOnsiZGF0YSI6MTkzMDQsInB1ciI6ImJsb2JfaWQifX0=--79cd70cb4a57e2d634de94e6a6089227bf6f920d/ai-f8e7a91b.webp","is_representative":false,"generation_method":"ai_semi","license":"ai_generated","mime_type":"image/webp","width":1536,"height":1024,"translations":{"ko":{"alt":"데이터 화면 옆 빨간 정지 버튼을 누르는 여성과 이를 지켜보는 남성","caption":"AI와 데이터 흐름을 중단하는 인간의 통제권을 상징적으로 보여준다.","description":null},"en":{"alt":"Woman pressing a red stop button beside a data monitor as a man watches","caption":"The scene symbolizes human control over AI and automated data flows.","description":null},"ja":{"alt":"データ画面の横にある赤い停止ボタンを押す女性と見守る男性","caption":"AIと自動化されたデータの流れを人間が制御する様子を象徴している。","description":null},"es":{"alt":"Mujer pulsa un botón rojo de parada junto a un monitor mientras un hombre observa","caption":"La escena simboliza el control humano sobre la IA y los flujos de datos automatizados.","description":null},"id":{"alt":"Perempuan menekan tombol berhenti merah di samping monitor data saat seorang pria mengamati","caption":"Adegan ini melambangkan kendali manusia atas AI dan aliran data otomatis.","description":null},"pt":{"alt":"Mulher pressiona um botão vermelho de parada ao lado de um monitor enquanto um homem observa","caption":"A cena simboliza o controle humano sobre a IA e os fluxos automatizados de dados.","description":null},"zh-hant":{"alt":"女子按下資料螢幕旁的紅色停止按鈕，一名男子在旁注視","caption":"此場景象徵人類對AI與自動化資料流的控制權。","description":null},"de":{"alt":"Frau drückt neben einem Datenmonitor einen roten Stoppknopf, während ein Mann zusieht","caption":"Die Szene symbolisiert die menschliche Kontrolle über KI und automatisierte Datenflüsse.","description":null}}}],"published_at":"2026-09-17T05:27:56+09:00","updated_at":"2026-09-17T05:27:56+09:00","license":"cc_by","translation_status":"reviewed","available_locales":["ko","en","ja","es"],"data_locales":["ko","en","ja","es","id","pt","zh-hant","de"],"url":"https://injoys.com/en/articles/yuval-harari-ai-threats-human-control"}