Mahadevan lahir dan dibesarkan di [[Chembur]], sebuah subperkotaan [[Mumbai]],<ref name="ti">{{cite web |url=http://www.tribuneindia.com/2002/20021021/login/music.htm |title=Nerd who started at 5 and still not Breathless |last=Puri |first=Amit |date=21 October 2002 |newspaper=Tribune India |archiveurl=httphttps://web.archive.org/web/20070310201553/http://www.tribuneindia.com/2002/20021021/login/music.htm |archivedate=10 Maret 2007-03-10 |accessdate=20 November 2009 |dead-url=no }}</ref> dalam sebuah keluarga [[Iyer]] [[orang Tamil|Tamil]] dari [[Palakkad]], [[Kerala]].<ref>{{cite interview |last=Mahadevan |first=Shankar |interviewer=John Brittas |title=I am a Malayali grew up in Mumbai: Shankar Mahadevan |url=http://www.youtube.com/watch?v=PPcyXZgW8EA&feature=related |program= |call-sign=Kairali TV |city= |date=8 September 2013 |at=0:38 |accessdate=4 Januari 2010 |quote=Interviewer: You have some connection with Kerala in fact, your family migrated from Palakkad or something like that. Shankar Mahadevan: Yes, I am an Iyer from Palakkad actually |via=Kairali Archive on YouTube}}</ref> Ia mempelajari [[musik klasik Hindustani]] dan [[musik Karnatik]] pada masa kecil, dan mulai memainkan veena pada usia lima tahun. Mahadevan mempelajari musik di bawah bimbingan [[Shrinivas Khale]], seorang komposer Marathi. Istrinya Sangeeta adalah orang Maharashtra dan putra sulungnya [[Siddharth Mahadevan]], juga merupakan seorang penyanyi, yang membuat debutnya pada lagu ''[[Bhaag Milkha Bhaag]]'' 2013 "[[Zinda (song)|Zinda]]". Putra bungsunya, Shivam Mahadevan, juga merupakan seorang penyanyi yang membuat debutnya pada lagu Dhoom 3 2013 Bande Hain Hum Uske. Mahadevan dapat berbicara dalam bahasa Marathi, Tamil, Hindi, Urdu dan Inggris.
