Revisi per 24 Mei 2021 08.08 sunting Hidayatsrf (bicara \| kontrib) Pengurus antarmuka, Pengurus 25.036 suntingan Tidak ada ringkasan suntingan ← Revisi sebelumnya		Revisi per 24 Mei 2021 08.09 sunting balikkan Hidayatsrf (bicara \| kontrib) Pengurus antarmuka, Pengurus 25.036 suntingan →Deskripsi problem: menggunakan QuickEdit Revisi selanjutnya →
Baris 5: == Deskripsi problem == Sistem AI lemah dapat dipantau dan dengan mudah dimatikan ~~dan~~atau dimodifikasi jika berperilaku tidak semestinya. Namun, kecerdasan super yang salah diprogram, mungkin akan menyadari bahwa membiarkan dirinya sendiri dimatikan dan dimodifikasi dapat mengganggu kemampuannya dalam mencapai tujuan yang sudah diprogram. Karena itu, kecerdasan super bisa saja memutuskan untuk menentang ''shutdown'' dan modifikasi. Kecerdasan buatan semacam ini (secara teoritis) juga akan cukup pintar untuk mengecoh pemrogramnya dalam ''"level playing field"'' (aturan main) terutama jika pemrogram tidak melakukan tindakan pencegahan sebelumnya. Secara umum, upaya untuk memecahkan masalah kontrol setelah kecerdasan super dibuat kemungkinan besar akan gagal. Hal ini bisa terjadi karena kecerdasan super kemungkinan akan memiliki kemampuan perencanaan strategis yang lebih superior daripada manusia dan akan lebih berhasil menemukan cara untuk mendominasi manusia, daripada upaya manusia secara ''post facto'' untuk mengontrol kecerdasan super. Masalah pengendalian kecerdasan buatan berkisar pada persoalan: tindakan pencegahan apa yang dapat dilakukan pemrogram agar berhasil mencegah kecerdasan super dari kesalahan pemrograman yang berdampak buruk?<ref name="superintelligence" /><!-- Chapter 6: Cognitive superpowers -->

Masalah pengendalian kecerdasan buatan: Perbedaan antara revisi