Kebanyakan ahli mendukung pendapat bahwa sinagogesinagoga mula-mula berdiri di pembuangan di [[Babel]] yakni sejak abad ke-5 SM.<ref name="Hans"/><ref name="Rowley"/><ref name="Gottwald">{{en}}Norman K. Gottwald. 1985. ''The Hebrew Bible: A Socio-Literary Introduction''. Philadelphia: Fortress Press. P. 413, 427.</ref> Argumentasi dari para ahli didasarkan pada jauhnya orang-orang Yahudi dari Bait Suci yang merupakan pusat ibadah mereka, padahal mereka perlu mempertahankan identitas iman mereka di Babel yang merupakan tempat asing.<ref name="Rowley"/> Karena itu, orang-orang Yahudi mulai berkumpul di rumah-rumah mereka sendiri dan membahas Kitab Suci secara teratur, serta melakukan perayaan kurban dan perayaan lainnya di tempat-tempat tertentu dan hal itulah yang akhirnya menjadi asal mula sinagoga.<ref name="Rowley"/> Argumentasi ini didukung dengan kenyataan bahwa harapan untuk kembali ke tanah air Palestina masih terjaga di kalangan umat Yahudi walaupun telah hidup dalam pembuangan selama puluhan tahun.<ref name="Rowley"/> Selain itu, Taurat masih dipertahankan penggunaannya, bahkan mendapat bentuknya yang semakin formal pada masa Pembuangan tersebut.<ref name="Rowley"/> Salah satu catatan mula-mula mengenai umat berkumpul bersama untuk membahas Firman Allah tertulis dalam [[Kitab Yehezkiel]][[Yehezkiel 8|pasal 8:1]].<ref>{{Alkitab|Yehezkiel 8:1}}</ref>
