Revisi per 24 Mei 2021 08.00 sunting Hidayatsrf (bicara \| kontrib) Pengurus antarmuka, Pengurus 25.026 suntingan →Deskripsi problem: menggunakan QuickEdit ← Revisi sebelumnya		Revisi per 24 Mei 2021 08.05 sunting balikkan Hidayatsrf (bicara \| kontrib) Pengurus antarmuka, Pengurus 25.026 suntingan →Deskripsi problem: menggunakan QuickEdit Revisi selanjutnya →
Baris 5: == Deskripsi problem == Sistem AI lemah dapat dipantau dan dengan mudah dimatikan dan dimodifikasi jika berperilaku tidak semestinya. Namun, kecerdasan super yang salah diprogram, ~~yang menurut definisi lebih pintar daripada manusia dalam memecahkan masalah praktis yang dihadapinya dalam mengejar tujuannya,~~mungkin akan menyadari bahwa membiarkan dirinya sendiri dimatikan dan dimodifikasi dapat mengganggu kemampuannya dalam mencapai tujuan ~~saat~~yang ~~ini.~~sudah ~~Oleh~~diprogram. ~~karena~~Karena itu, ~~jika~~ kecerdasan super bisa saja memutuskan untuk ~~menolak~~menentang ''shutdown'' dan modifikasi,. iaKecerdasan ~~(sekali~~buatan ~~lagi,~~semacam ~~menurut~~ini ~~definisi~~(secara teoritis) juga akan cukup pintar untuk mengecoh pemrogramnya dalam ''"level playing field"'' (aturan main) ~~dan~~terutama jika pemrogram tidak melakukan tindakan pencegahan sebelumnya. Secara umum, upaya untuk memecahkan masalah kontrol setelah kecerdasan super dibuat kemungkinan besar akan gagal. Hal ini bisa terjadi karena kecerdasan super kemungkinan akan memiliki kemampuan perencanaan strategis yang superior untuk manusia dan akan lebih berhasil menemukan cara untuk mendominasi manusia, daripada upaya manusia secara ''post facto'' untuk mengontrol kecerdasan super. Masalah pengendalian kceerdasan buatan berkisar pada persoalan: tindakan pencegahan apa yang dapat dilakukan pemrogram agar berhasil mencegah kecerdasan super dari kesalahan pemrograman yang berdampak buruk?<ref name="superintelligence" /><!-- Chapter 6: Cognitive superpowers -->

Masalah pengendalian kecerdasan buatan: Perbedaan antara revisi