Nacido en la ciudad de Nueva York en 1932, en medio una familia de inmigrantes rusos judíos, Yerushalmi creció escuchando principalmente yiddish. Estudió en la Yeshiva University y para 1957 logró ser reconocido como rabino por el Jewish Theological Seminary y lideró brevemente a la comunidad judía de Larchmont. Se casó en 1959 con…