Penurunan gradien: Perbedaan antara revisi

'''Algoritma penurunanPenurunan gradien''' atau '''gradient descent''' merupakanadalah algoritma[[algoritme]] yang digunakan untuk mencari nilai minimum lokal yang dapat dihasilkan dari suatu fungsi parametrik. Teknik ini didasarkan pada fakta bahwa nilai [[gradien]] dari suatu fungsi pada titik tertentu menyatakan kemiringan lereng dari nilai tersebut terhadap titik di sekitarnya sehingga nilai minimum dapat diraih dengan mengurangi nilai titik tersebut dengan nilai gradien. AlgoritmaAlgoritme ini dapat dibalik untuk tujuan mencari nilai maksimum dengan cara menambahkan suatu nilai titik dengan gradien fungsinya pada titik tersebut. AlgoritmaAlgoritme ini sangat umum digunakan pada teknik [[Regresi]] maupun [[PembelajaranPemelajaran mesin]] untuk mencari variabel pada fungsi galat sehingga suatu fungsi dapat memodelkan data dengan [[galat]] yang minimum.

Diketahui suatu fungsi <math>F(x) </math> yang merupakan fungsi yang dapat diturunkan dengan turunan <math>\nabla F(x)</math>. Kemudian fungsi dimulai dengan menginisiasi suatu titik <math>a</math> dan mencari nilai gradiennya <math>\nabla F(a)</math> sehingga titik yang lebih minimum dari <math>a</math> (sebut saja <math>b</math>) dapat dicari dengan menghitung <math>b = a - \gamma F(a)</math> dimanadi mana <math>\gamma</math> merupakan nilai skalar yang disebut "kecepatanlaju belajar" (''learning rate'') yang semakin besar nilainya dapat menyebabkan nilai <math>b</math> turun lebih cepat namun rawan terhadap "loncatan". AlgoritmaAlgoritme ini dijalankan secara terus menerus selama beberapa langkah hingga mencapai titik dimanadi mana gradien bernilai 0 atau dalam kata lain titik berada di tengah-tengah lembah.

[[Kategori:PembelajaranPemelajaran mesin]]