Teori informasi: Perbedaan antara revisi

Konten dihapus Konten ditambahkan
SieBot (bicara | kontrib)
Tidak ada ringkasan suntingan
Baris 5:
[[Berkas:Binary entropy plot.svg|thumb|Fungsi entropi biner Bernoulli]]
 
Secara khusus, '''teori informasi''' adalah cabang dari [[matematika]] [[peluang]] dan [[statistik]], yang berkaitan dengan konsep [[informasi]] dan [[entropi informasi]] seperti telah dijelaskan di atas. [[Claude E. Shannon]] ([[1916]]-[[2001]]) dikenal sebagai "bapak dari teori informasi". Shannon mendefinisikan pengukuran dari [[entropi informasi]] (dalam bit) sebagai:
 
:<math>H = - \sum_{i} p_{i} \loglog_2 p_{i} \,</math>
 
Rumus ini jika diterapkan pada suatu sumber informasi, dapat menentukan kapasitas dari saluran yang diperlukan untuk mengirim data yang diterjemahkan ke dalam digit biner.