Dalam dunia matematika, tentu sudah tak asing lagi mendengar kata statistik. Pada statistik, '''regresi linear''' merupakanadalah suatu '''pendekatan''' untuk '''memantapkan''' hubungan antara satu atau '''lebih variabe'''l dependen ([[regresi linear sederhana]]) dan juga variabel independen (regresi linear banyak). Salah satu aplikasi dari regresi linear adalah untuk melakukan prediksi berdasarkan data-data yang telah dimiliki sebelumnya. Dengan asumsi hubungan di antara variabel [[regresi linear sederhana|variabel]] tersebut, dapat didekati oleh suatu persamaan garis lurus, maka model yang mendekati hubungan antar variabel di data tersebut disebut sebagai pemantapan regresi linear.<ref name = "Freedman09">{{cite book |author=David A. Freedman |author-link=David A. Freedman |year=2009|title=Statistical Models: Theory and Practice |url=https://archive.org/details/statisticalmodel00free |publisher=[[Cambridge University Press]]|quote=A simple regression equation has on the right hand side an intercept and an explanatory variable with a slope coefficient. A multiple regression e right hand side, each with its own slope coefficient |page=[https://archive.org/details/statisticalmodel00free/page/n41 26]}}</ref>
== Regresi Linear ''Univariate'' ==
Baris 7:
<math>h_w(x) = w_1x+w_0</math>
dimanadi mana <math>w</math> merupakan nilai yang akan dicari sedemikian sehingga nilai <math>w</math> menjadi optimal dan <math>x</math> merupakan variable bebas atau input. Proses pencarian nilai <math>w</math> dapat dilakukan dengan beberapa cara diantaranya dengan menggunakan pendekatan ''least square'', ''maximum likehood'', atau algoritme ''gradient descent''. Pada dasarnya, pencarian nilai <math>w</math> dilakukan hingga nilai error yang dihasilkan merupakan nilai yang paling minimal.<ref name="russelBook" /> Fungsi error yang digunakan adalah sebagai berikut.
Dimana <math>N</math> merupakan banyaknya data input, <math>h_w(x^i)</math> merupakan model regresi linear, dan <math>t</math> adalah target ''output'' yang seharusnya.