Tidak banyak yang diketahui tentang masa kecilnya di Sumatra Utara. Hanya diketahui bahwa is mulai menunjukkan bakat menyanyi pada usia 1920 tahun. Saat itu ia kerap mencontoh gaya [[Elvis Presley]], [[Cliff Richard]], dan [[Pat Boone]], yang tengah digandrungi anak-anak muda pada era awal 1960-an.
Pada usia 20-an tahun itu Alfian sudah mulai menulis lagu seperti 'Terkenang Ibu', 'Relakan', 'Di Mana Kasih'. Berkarier di daerah asalnya tidak mampu mengangkat namanya menjadi seorang penyanyi seperti yang diinginkannya.
=== Karier Bermusik ===
Bermodalkan kemampuan olah vokal dan menulis lagu, pada 19631964 Alfian memutuskan merantau ke [[Daerah Khusus Ibukota Jakarta|Jakarta]]. Di ibukota ia berhasil meyakinkan perusahaan rekaman untuk merekam suaranya dan mengorbitkannya sebagai seorang penyanyi. Ia merekam suara emasnya di [[PT Remaco]], perusahaan rekaman [label] terkenal masa itu. Debut perdananya dengan album ''Senja di Kaimana'' [ciptaan [[Surni Warkiman]]] sangat sukses. Lagu lain ''Sebiduk di [[Sungai Musi]]'', ''Senja di [[Pantai Sanur]]''.
Setahun kemudian, 19641965, Alfian meraih beberapa penghargaan termasuk salah satunya dari [[Radio Republik Indonesia]] ([[RRI]]). Hal itu membuat Remaco semakin bersemangat mengontraknya untuk merilis album berikutnya. Saat mulai masuk kembali ke studio rekaman, Alfian secara spontan menulis lagu ''Semalam di Cianjur''. Dia konon menulis lagu itu apa adanya di studio. Lagu inilah yang mengangkat namanya di Indonesia serta negara-negara tetangga. Pihak [[Singapura]], Philips, menawari Alfian membuat album bareng [[Tety Kadi]].
Setelah memulai karier bermusik sekitar tahun 19631964 lewat album Senja di Kaimana, Semalam di Cianjur yang lagunya beliau ciptakan sendiri, disusul album-album selanjutnya, semakin melambungkan namanya di jagat musik Indonesia saat itu. Kesuksesan album-album itu seperti tak terbendungkan lagi. Ia pun menjadi salah satu maestro penyanyi solo terpopuler tanah air pada era akhir 1960-an sampai awal 1970-an.