Rosalyn lahir dari orangtuaorang tua [[Yahudi]], Clara dan Simon Sussman. Sejak usia 8 tahun, Rosalyn ingin menjadi seorang ilmuwan walaupun dia hidup di era dunia yang melarang perempuan memiliki karier dalam dunia sains. Ketertarikannya dalam dunia fisika timbul setelah membaca biografi [[Marie Curie]], pemenang dua Nobel atas temuannya terhadap radioisotop. Ia menempuh [[pendidikan]] di sekolah negeri [[New York City]]. Saat menempuh pendidikan di Walton High School, seorang guru kimianya mendorong Rosalyn untuk mengembangkan diri di bidang sains. Ia lulus dari [[Hunter College]] dan kemudian melamar di [[Purdue University|Universitas Purdue]] untuk belajar di bidang fisika. Namun, Rosalyn ditolak dengan alasan seorang wanita tidak akan pernah diterima di fakultas fisika. Oleh karena itu, Rosalyn hanya mendapatkan tawaran sebagai sekretaris di Sekolah Bedah dan Kedokteran, bagian dari [[Columbia University|Universitas Columbia]], dan bila dia bersikap baik maka dijanjikan dapat bersekolah disana.
Rosalyn kemudian bertemu A. Aaron Yalow, seorang mahasiswa fisika yang merupakan [[anak]] seorang [[rabbi]] dan mereka menikah pada tanggal [[6 Juni]] [[1943]]. Mereka kembali ke New York di mana mereka menjabat sebagai [[dosen]] di bidang fisika, yang dipegangnya hingga tahun [[1950]]. Pasangan tersebut memiliki 2 anak yang bernama Benjamin dan Elanna.
