Masalah pengendalian kecerdasan buatan: Perbedaan antara revisi
Konten dihapus Konten ditambahkan
Hidayatsrf (bicara | kontrib) |
Hidayatsrf (bicara | kontrib) →Deskripsi problem: menggunakan QuickEdit |
||
Baris 7:
Sistem AI lemah dapat dipantau dan dengan mudah dimatikan dan dimodifikasi jika berperilaku tidak semestinya. Namun, kecerdasan super yang salah diprogram, yang menurut definisi lebih pintar daripada manusia dalam memecahkan masalah praktis yang dihadapinya dalam mengejar tujuannya, akan menyadari bahwa membiarkan dirinya sendiri dimatikan dan dimodifikasi dapat mengganggu kemampuannya dalam mencapai tujuan saat ini. Oleh karena itu, jika kecerdasan super memutuskan untuk menolak ''shutdown'' dan modifikasi, ia (sekali lagi, menurut definisi) akan cukup pintar untuk mengecoh pemrogramnya dalam ''"level playing field"'' (aturan main) dan jika pemrogram tidak melakukan tindakan pencegahan sebelumnya.
Secara umum, upaya untuk memecahkan masalah kontrol setelah kecerdasan super dibuat kemungkinan besar akan gagal. Hal ini bisa terjadi karena kecerdasan super kemungkinan akan memiliki kemampuan perencanaan strategis yang superior untuk manusia dan akan lebih berhasil menemukan cara untuk mendominasi manusia, daripada upaya manusia secara ''post facto'' untuk mengontrol kecerdasan super. Masalah
== Referensi ==
| |||